Relatório internacional alerta para riscos catastróficos da IA avançada
Documento apoiado por 30 países, incluindo EUA e China, destaca perigos como terrorismo, desinformação e perda de empregos. Cúpula em Paris discutirá regulamentação da tecnologia
Um relatório científico internacional inédito, divulgado nesta quarta-feira (29), alerta que a inteligência artificial avançada pode trazer consequências catastróficas para a humanidade. O documento, apoiado por 30 países, incluindo Estados Unidos e China, foi publicado às vésperas da Cúpula de IA de Paris, marcada para fevereiro, onde líderes globais discutirão medidas para regulamentar a tecnologia.
O relatório, liderado pelo cientista de IA Yoshua Bengio, classifica os perigos da tecnologia em três categorias principais. A primeira é o uso malicioso, que inclui a criação de armas químicas ou biológicas, além de facilitar ataques cibernéticos, golpes financeiros e atividades terroristas.
O segundo risco é o mau funcionamento dos sistemas de IA, que podem sair do controle devido a falhas técnicas ou à redução da supervisão humana. À medida que a tecnologia se torna mais autônoma, os riscos de decisões erróneas ou catastróficas aumentam.
Por fim, os riscos sistêmicos ganham destaque, com impactos de larga escala já observados. A transformação do mercado de trabalho, a propagação de deepfakes e a disseminação de desinformação em massa têm potencial para desestabilizar economias, governos e a estrutura social.
"Precisamos entender melhor os sistemas que estamos construindo e os riscos que os acompanham para tomar decisões melhores no futuro", afirma o documento.
Cooperação rara entre EUA e China
A participação de EUA e China no relatório é vista como um raro exemplo de cooperação entre as duas maiores economias do mundo, que competem pela supremacia na área de IA. Recentemente, a startup chinesa DeepSeek lançou um chatbot de baixo custo, enquanto os EUA impuseram controles rigorosos à exportação de tecnologia para a China.
Leia Também
Apesar da colaboração, os especialistas envolvidos no estudo não chegaram a um consenso sobre o futuro da IA. "Eles discordam sobre quando a IA superará as capacidades humanas em diferentes tarefas e sobre quais cenários são mais prováveis", explicou Bengio. "Alguns são benéficos, outros são aterrorizantes."
Impactos no mercado de trabalho
O relatório também aborda os efeitos da IA no emprego. A tecnologia já levou ao corte de milhares de postos de trabalho em setores como o tecnológico, embora alguns pesquisadores acreditem que ela pode criar mais empregos do que eliminar. A transformação do mercado de trabalho, no entanto, é inevitável e exigirá adaptações de governos e trabalhadores.
- Exclusivo: AZap.ai substitui a LuzIA e muda o acesso à IA no WhatsApp
- Plataforma brasileira utiliza IA na contratação de profissionais
Cúpula de Paris e próximos passos
A Cúpula de Ação de IA de Paris, que reunirá líderes mundiais, especialistas em tecnologia e representantes da sociedade civil, terá como objetivo elaborar uma "declaração comum" sobre o desenvolvimento responsável da IA. O relatório servirá como base para as discussões, destacando a necessidade de regulamentações e proteções contra os riscos associados à tecnologia.
"À medida que a IA de uso geral se torna mais capaz, evidências de riscos adicionais estão surgindo gradualmente", alerta o documento.
Vaticano e Relógio do Juízo Final também alertam
O relatório coincide com alertas recentes do Vaticano e do grupo por trás do Relógio do Juízo Final, que destacaram os perigos da IA avançada. A tecnologia, exemplificada por modelos como o ChatGPT da OpenAI, já demonstra capacidades impressionantes, como a geração de textos coerentes, imagens realistas e programação de computadores.
Para Bengio, a incerteza sobre o futuro da IA torna essencial que governos e sociedade civil estejam preparados para cenários tanto benéficos quanto catastróficos. "Ninguém tem uma bola de cristal", disse. "Mas é crucial que os formuladores de políticas e o público façam um balanço dessa incerteza."