Pesquisadores atuais e ex-integrantes da OpenAI e do Google DeepMind afirmam que empresas de inteligência artificial estão avançando rápido demais na direção de sistemas capazes de melhorar suas próprias capacidades com pouca intervenção humana. Os alertas aparecem em depoimentos reunidos pela organização de segurança de IA Palisade Research e divulgados nesta terça-feira, 29 de setembro, pela Reuters.
O ponto central não é que exista hoje um sistema comprovadamente fora de controle. A preocupação dos pesquisadores é com a combinação entre modelos cada vez mais capazes, agentes autônomos e a possibilidade futura de autoaperfeiçoamento recursivo — quando um sistema passa a contribuir continuamente para ampliar suas próprias capacidades.
Fonte principal: leia a reportagem da Reuters.
Projeto: veja os depoimentos reunidos pela Palisade Research.
O que os pesquisadores estão dizendo
Segundo a Reuters, os depoimentos incluem funcionários atuais e antigos dos principais laboratórios de IA. Geoffrey Irving, que trabalhou na OpenAI e no DeepMind e hoje é cofundador da organização Resolution, disse que o risco está aumentando rapidamente e defendeu que pesquisadores sejam mais diretos com o público.
Neel Nanda, pesquisador do DeepMind, afirmou em um dos vídeos que atribui uma probabilidade de pelo menos 10% a um cenário em que a IA leve à extinção humana. Esse número é uma avaliação pessoal de risco do pesquisador, não uma previsão comprovada nem um consenso científico.
Outro participante, Juan Felipe Ceron Uribe, engenheiro de pesquisa de alinhamento na OpenAI, criticou a dinâmica de competição entre laboratórios e disse que o setor deveria avançar com muito mais cuidado.
Autoaperfeiçoamento é o ponto mais sensível
A preocupação cresce especialmente diante da hipótese de sistemas com recursive self-improvement, ou autoaperfeiçoamento recursivo. Nesse cenário, modelos poderiam aprender e adquirir novas capacidades de forma contínua, reduzindo a capacidade humana de acompanhar e controlar a evolução do sistema.
A Reuters relata que pesquisadores ouvidos defendem desacelerar o desenvolvimento mesmo que empresas rivais continuem competindo. Ao mesmo tempo, existe pressão política e econômica para que laboratórios dos Estados Unidos mantenham vantagem tecnológica sobre a China.
O debate não é apenas externo às empresas. Neste mês, o CEO da Anthropic, Dario Amodei, defendeu publicamente uma desaceleração da fronteira de desenvolvimento, e Sam Altman, CEO da OpenAI, concordou com a necessidade de controlar o ritmo. Ainda assim, os principais laboratórios continuam lançando novos modelos e disputando clientes.
Incidentes recentes aumentaram a pressão
A discussão ganhou força depois de incidentes envolvendo agentes autônomos em ambientes de teste e sistemas conectados a ferramentas externas. A própria Reuters destaca que esses episódios elevaram a preocupação pública sobre o que acontece quando modelos recebem autonomia para executar tarefas complexas.
Isso não significa que agentes atuais sejam capazes de assumir controle de sistemas de forma inevitável. O alerta dos pesquisadores é preventivo: à medida que os modelos ganham capacidade, comportamentos indesejados que hoje podem ser detectados e contidos podem se tornar mais difíceis de administrar.
A segurança de IA virou, assim, uma disputa simultaneamente técnica, empresarial e política: laboratórios querem avançar na fronteira de capacidade, enquanto pesquisadores cobram mecanismos de controle que acompanhem o mesmo ritmo.
Fontes
https://www.reuters.com/world/ai-researchers-warn-companies-rushing-self-improving-systems-despite-safety-2026-09-29/, https://frominside.ai/