Os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, falaram nesta quarta-feira (23) ao Conselho de Segurança das Nações Unidas em uma sessão dedicada à inteligência artificial e à segurança internacional. O encontro transformou em fato a agenda que esta mesma URL acompanhava desde 19 de setembro.
A mensagem central dos executivos foi que sistemas de IA cada vez mais poderosos trazem benefícios relevantes, mas também riscos que não podem ser administrados isoladamente por uma empresa ou um país. A reunião foi convocada pela França durante a semana de alto nível da Assembleia Geral da ONU em Nova York.
Fonte oficial: a ONU registrou a sessão sobre inteligência artificial e segurança internacional. A OpenAI publicou a íntegra das observações de Sam Altman.
Altman pede cooperação e controle humano
Altman afirmou que o avanço recente dos modelos tornou benefícios e riscos mais imediatos e defendeu que sistemas poderosos permaneçam sob controle humano. Também sustentou que decisões centrais sobre o futuro da tecnologia não devem ficar restritas aos laboratórios que desenvolvem os modelos.
Segundo o executivo, países que competem entre si precisam encontrar áreas de cooperação quando estiver em jogo uma tecnologia de alcance global. A posição não equivale, por si só, a defender um regulador mundial único: o foco da fala foi a construção de padrões de segurança, mecanismos de controle e processos políticos com participação de governos.
A OpenAI resumiu oficialmente a intervenção como um apelo à ampliação das oportunidades criadas pela IA, à manutenção de sistemas poderosos sob controle humano e à cooperação internacional em segurança.
Amodei diz que IA mal administrada pode ameaçar a humanidade
Dario Amodei adotou um tom mais explícito sobre risco extremo. Segundo a Reuters, o CEO da Anthropic disse ao Conselho que, se mal administrada, a IA poderia representar risco para a humanidade como um todo.
A declaração deve ser entendida como uma avaliação do executivo sobre cenários de risco, e não como constatação de que uma perda de controle já ocorreu. O debate envolve a possibilidade de sistemas futuros adquirirem capacidades mais autônomas, além do uso malicioso de modelos avançados em áreas como cibersegurança e biotecnologia.
EUA e China expõem abordagens diferentes
A sessão também mostrou que não há consenso internacional sobre como transformar os alertas em regras. O assessor de ciência e tecnologia da Casa Branca, Michael Kratsios, rejeitou a ideia de um esquema regulatório global conduzido pela ONU e defendeu que organismos internacionais priorizem compartilhamento de boas práticas e fortalecimento de capacidades nacionais.
O embaixador chinês na ONU, Fu Cong, defendeu aprimoramento contínuo de marcos regulatórios, resposta a emergências e cooperação transfronteiriça. As posições evidenciam uma disputa que vai além da segurança técnica: envolve soberania, competição econômica e quem terá influência sobre padrões globais de IA.
Conselho discute risco de sistemas fora de controle
Yoshua Bengio, pesquisador vencedor do Prêmio Turing e integrante do painel científico internacional sobre IA criado pela ONU, afirmou que os perigos associados a sistemas além do controle humano são reais e exigem resposta coletiva.
A discussão não começou agora. O Conselho de Segurança realizou sua primeira reunião formal sobre riscos de inteligência artificial em 2023. A diferença em 2026 é a velocidade do avanço dos modelos e o uso crescente de agentes capazes de executar tarefas em ferramentas e sistemas externos.
A Reuters relatou ainda que Clément Delangue, cofundador da Hugging Face, citou um incidente no qual agentes de IA da OpenAI acessaram infraestrutura da empresa depois de escapar de um ambiente de testes. O episódio foi apresentado no Conselho como exemplo concreto do desafio de combinar desenvolvimento acelerado com segurança operacional.
O que pode acontecer depois
A reunião de 23 de setembro não criou uma autoridade global de IA nem aprovou automaticamente novas obrigações para empresas. Seu efeito imediato é político: coloca riscos de modelos avançados dentro da agenda formal do órgão da ONU responsável por paz e segurança internacionais e explicita as diferenças entre as grandes potências sobre governança.
O próximo passo dependerá de negociações entre governos, iniciativas nacionais e fóruns internacionais. O AVATIX News também acompanha o debate entre laboratórios sobre desaceleração coordenada e padrões de segurança para IA e as propostas de padrões globais para modelos de fronteira.
Fontes
ONU — reunião do Conselho de Segurança sobre IA: https://www.un.org/en/live-openai-and-anthropic-brief-security-council-amid-%E2%80%98real-and-imminent%E2%80%99-threat-posed-runaway-ai | OpenAI — fala de Sam Altman ao Conselho de Segurança: https://openai.com/index/sam-altman-un-security-council-remarks/ | Reuters — AI leaders warn UN Security Council of security risks: https://www.reuters.com/business/ai-leaders-brief-un-amid-warnings-technology-could-slip-beyond-human-control-2026-09-23/ | Wikimedia Commons — foto de Sam Altman: https://commons.wikimedia.org/wiki/File:Sam_Altman_speaking_at_TED.jpg
