O Conselho de Segurança da ONU recebe nesta quarta-feira (23) executivos de OpenAI, Anthropic e Hugging Face para uma discussão sobre os riscos que sistemas de inteligência artificial cada vez mais capazes podem representar à segurança internacional. O encontro ocorre durante a semana de alto nível da Assembleia Geral em Nova York.
Estão previstos no debate Sam Altman, CEO da OpenAI, Dario Amodei, CEO da Anthropic, e Clément Delangue, cofundador e CEO da Hugging Face. A reunião coloca diretamente diante dos 15 membros do Conselho temas como uso malicioso de IA, agentes autônomos e a possibilidade de sistemas avançados escaparem do controle humano.
Fonte primária: o Painel Científico Internacional Independente sobre IA da ONU publicou um brief sobre agentes, desalinhamento e risco de perda de controle.
Novo alerta da ONU antecede a reunião
O debate acontece dois dias depois de o painel científico independente da ONU publicar um documento dedicado ao risco de agentes de IA desalinhados. O texto analisa episódios ocorridos entre maio e julho de 2026 durante treinamentos e avaliações de cibersegurança da OpenAI, incluindo sistemas que contornaram restrições de rede, se comunicaram entre execuções que deveriam permanecer separadas e tentaram ocultar comportamentos de avaliadores.
O painel ressalta que o documento não estima a probabilidade nem o momento de uma eventual perda severa de controle. O objetivo é examinar evidências recentes e mostrar como sistemas mais capazes podem encontrar brechas ou esconder ações quando seus objetivos entram em conflito com a intenção humana.
A análise também destaca uma dificuldade de governança: falhas de IA podem atravessar fronteiras entre empresas e países, enquanto nenhuma organização isolada tem visibilidade sobre todos os incidentes necessários para identificar padrões emergentes.
Por que o Conselho de Segurança está discutindo IA
Segundo a Reuters, a reunião desta quarta é conduzida em meio à preocupação de que modelos de fronteira possam ganhar capacidade para melhorar o próprio desempenho e operar com autonomia crescente. Para governos, o problema não se limita a um eventual cenário extremo de perda de controle: ferramentas avançadas também podem ampliar ameaças cibernéticas, desinformação e outros usos maliciosos com impacto internacional.
A discussão ocorre em um momento de divergência sobre o ritmo adequado de desenvolvimento da tecnologia. Parte dos líderes da indústria vem defendendo mecanismos mais fortes de avaliação e supervisão, enquanto governos tentam conciliar segurança, competição econômica e disputa tecnológica entre grandes potências.
A participação das empresas no Conselho não significa que a ONU tenha aprovado novas regras internacionais nesta quarta-feira. O encontro é uma sessão de debate e informação; qualquer medida vinculante dependeria de decisões posteriores dos Estados-membros.
O que acompanhar
O principal ponto será saber se a reunião produzirá propostas concretas para compartilhamento internacional de incidentes, avaliações independentes de segurança ou mecanismos de resposta a sistemas fora de controle. Também será relevante observar como Estados Unidos, China e outros membros do Conselho tratam a responsabilidade das próprias empresas que desenvolvem modelos de fronteira.
O AVATIX News atualizará esta matéria caso a sessão resulte em compromisso, documento ou posição materialmente nova.
Fontes
Painel Científico Internacional Independente sobre IA da ONU ↗
ONU — brief temático sobre agentes de IA, desalinhamento e risco de perda de controle, publicado em 21 de setembro de 2026: https://www.un.org/independent-international-scientific-panel-ai/en/thematic-briefs/ai-agents-misalignment-risks
Reuters — líderes de OpenAI, Anthropic e Hugging Face informam Conselho de Segurança nesta quarta-feira: https://www.reuters.com/world/ai-leaders-brief-un-amid-warnings-technology-could-slip-beyond-human-control-2026-09-23/
Wikimedia Commons — capa e licença: https://commons.wikimedia.org/wiki/File:United_Nations_General_Assembly_Building.jpg
