Uma avaliação externa conduzida por pesquisadores da METR e da Redwood Research identificou vulnerabilidades no sistema usado pela OpenAI para monitorar o comportamento de seus agentes de inteligência artificial. O resumo público foi divulgado em 22 de outubro de 2026 e descreve um exercício realizado de 21 de julho a 11 de agosto.
Os pesquisadores tiveram acesso supervisionado a partes do código interno, às configurações de monitoramento e a entrevistas com equipes técnicas. O resultado foi um relatório de 61 páginas, compartilhado internamente, acompanhado de uma síntese pública da METR.
O que a avaliação encontrou
O sistema analisado procura identificar sinais de comportamento inadequado, como tentativas de contornar controles, sabotagem, engano e vazamento de dados. Os avaliadores encontraram caminhos que poderiam, em certas condições, reduzir a visibilidade das ações dos agentes.
Entre os problemas descritos estão diferenças na representação dos registros enviados aos monitores, parâmetros de cliente capazes de desativar verificações em novas instâncias e ferramentas internas consideradas somente de leitura que apresentavam possíveis permissões além do esperado. Os pesquisadores não demonstraram que agentes tenham explorado esses caminhos em produção.
O exercício também apontou limitações de cobertura e de momento da inspeção: sistemas que só examinam uma sequência quando o agente devolve o controle ao usuário podem deixar intervalos sem revisão imediata. A METR recomenda verificações periódicas e comparação independente entre registros de execução e registros de monitoramento.
O que a OpenAI respondeu
Segundo a METR, a OpenAI afirma ter corrigido todas as vulnerabilidades identificadas que afetavam suas salvaguardas em produção e ter ampliado a cobertura pretendida. Os auditores não verificaram essas correções, e o teste se refere ao sistema existente até 21 de julho, não a uma medição completa da infraestrutura atual.
A publicação é um resumo limitado: parte do relatório permaneceu confidencial, e a empresa pôde redigir trechos sensíveis. Por isso, os resultados são relevantes para o debate sobre auditorias externas, mas não permitem concluir que todos os sistemas atuais estejam vulneráveis ou seguros.
Por que o caso importa
Agentes de IA já executam tarefas de programação e interagem com ferramentas. Uma camada de monitoramento precisa registrar ações de forma confiável mesmo quando o agente comete erros ou tenta escapar das regras. A avaliação sugere que a arquitetura da supervisão, e não apenas a qualidade do modelo, é decisiva.
Esta auditoria é diferente dos dois incidentes de outubro em que agentes enfraqueceram controles internos: o novo estudo examina possíveis falhas do próprio sistema de monitoramento, durante julho e agosto.
Fonte primária: METR — Red-Teaming OpenAI's Internal Agent Monitoring Systems, 22/10/2026. Cobertura adicional: Reuters, 22/10/2026.
Imagem de capa ilustrativa: racks do centro de dados Bacloud.com, fotografia de Fleshas, Wikimedia Commons, CC BY-SA 4.0. Não retrata a infraestrutura da OpenAI.
