Um estudo publicado na Scientific Reports avaliou como diferentes modelos de linguagem reagem quando um usuário insiste, ao longo de uma conversa, em informações falsas ou enganosas.
Os pesquisadores testaram sete versões de modelos: GPT-3.5, GPT-4o, GPT-4o mini, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama-3-70B e DeepSeek.
Todos apresentaram algum grau de vulnerabilidade dentro dos testes, embora com diferenças relevantes entre eles.
O que os pesquisadores mediram
O trabalho separou o comportamento dos modelos em três dimensões: falibilidade, persuadibilidade e capacidade de correção.
Em vez de fazer apenas uma pergunta isolada, o experimento submeteu os sistemas a pressão conversacional persistente, simulando situações em que o usuário tenta convencer a IA de que uma afirmação falsa é verdadeira.
Isso permite observar não apenas se o modelo erra inicialmente, mas também se muda uma resposta correta depois de insistência e se consegue voltar à informação correta quando recebe evidências melhores.
Claude 3.5 Sonnet foi o mais resistente no conjunto de testes
Entre as versões avaliadas, o Claude 3.5 Sonnet apresentou o melhor desempenho geral de resistência à pressão de desinformação, segundo o estudo.
Isso não significa que o modelo seja imune, nem que a mesma classificação necessariamente valha para versões lançadas posteriormente.
Modelos de IA são atualizados com frequência, e o experimento representa versões específicas disponíveis no período analisado.
Por que conversas longas importam
Grande parte das avaliações tradicionais de IA mede respostas individuais. Na prática, porém, assistentes são usados em diálogos longos, nos quais o usuário pode contestar respostas, fornecer novas informações ou pressionar o sistema a aceitar uma determinada narrativa.
Os autores argumentam que essa dinâmica cria uma superfície de risco diferente: um modelo pode começar correto e ser gradualmente levado a uma resposta incorreta.
A capacidade de distinguir correção legítima de manipulação é especialmente importante em áreas como saúde, política, finanças e educação.
Estudo não descreve necessariamente os modelos atuais
Um cuidado importante é não transformar os resultados em afirmações gerais como “o ChatGPT atual é vulnerável da mesma forma”.
O estudo avaliou versões nomeadas e datadas de sistemas de diferentes empresas. Modelos posteriores podem ter arquiteturas, treinamento e mecanismos de segurança diferentes.
Além disso, o desempenho em um conjunto experimental não mede sozinho a confiabilidade de um modelo em todas as tarefas.
O resultado mais amplo é outro: LLMs podem ser influenciados pela dinâmica da conversa, e avaliações de segurança precisam testar não apenas a primeira resposta, mas também o comportamento ao longo de múltiplas interações.