A OpenAI confirmou a demissão de três pesquisadores de segurança — Jasmine Wang, Tomek Korbak e Mikita Balesni — depois de uma investigação interna.
A empresa afirma que encontrou uma violação significativa de confiança e de políticas sobre o tratamento de informações sensíveis. Os detalhes específicos da suposta violação não foram divulgados publicamente.
Pesquisadores contestam a versão
Os três pesquisadores divulgaram uma carta em que expressam preocupação com o efeito das demissões sobre a cultura interna de debate de segurança.
Balesni afirmou acreditar que o grupo foi desligado por priorizar segurança em relação a interesses corporativos de curto prazo. A OpenAI nega essa interpretação e diz que as demissões não ocorreram por levantar preocupações de segurança ou por discordância técnica.
Korbak disse que foi informado de problemas relacionados à maneira como se comunicou com a METR, organização independente que participa de avaliações de segurança.
O que é possível afirmar
Há duas versões em disputa:
- OpenAI: houve violação de políticas de informação sensível e quebra de confiança;
- pesquisadores: o episódio está ligado à forma como exerciam e comunicavam trabalhos de segurança.
Sem a divulgação dos detalhes da investigação interna, não há base pública para transformar nenhuma das duas versões em conclusão independente.
O caso acontece em meio a uma discussão maior sobre governança, testes externos e riscos de sistemas de IA mais autônomos.
Fontes
Associated Press: https://apnews.com/article/789d4f5293fba45a22fcb62ebfbc2a41