ChatGPT-5 e Gemini 2.5 Produzem Alucinações em 40% das Consultas de Sala de Notícias Testadas

Um novo estudo descobriu que ChatGPT-5 e Google Gemini produzem alucinações em 40% das consultas de estilo de sala de notícias, frequentemente inventando afirmações confiantes e sem base em fatos verificáveis. O NotebookLM da Google apresenta um desempenho melhor, com apenas 13% – uma taxa que ainda seria suficiente para demitir qualquer jornalista do mundo. O estudo encontrou que os modelos frequentemente distorcem as fontes, transformando opiniões em fatos e removendo a atribuição, tornando-os ferramentas arriscadas para o jornalismo. Os autores defendem a criação de ferramentas melhores e dedicadas para essas tarefas.

Os Modelos de Linguagem Grande têm sido rapidamente adotados no jornalismo nos tempos recentes, em ambientes de trabalho que, de qualquer forma, vêm cortando custos, orçamentos e pessoal desde que o jornalismo digital colapsou duas centúrias de tradição em um processo inexorável que começou no início dos anos 2000.

Na verdade, o terreno já era fértil, pois a mídia havia se acostumado a cortar empregos por meio da “inovação” desde, pelo menos, a introdução turbulenta da composição digital nos anos 80, bem como os desafios anteriores impostos pelo rádio e televisão.

A jornada implacável da IA para os jornais e veículos de mídia não tem sido sem reveses, no entanto; em um contexto em que 55% das empresas agora se arrependem de substituir humanos por IA, e em que a Gartner prevê que as organizações reduzirão drasticamente seus planos de adoção de IA dentro de dois anos, várias organizações de notícias recontrataram jornalistas substituídos por IA, à medida que as graves e frequentemente embarçosas limitações das alternativas de aprendizado de máquina se tornaram aparentes.

Errar Não é Apenas Humano

Embora as alucinações tenham se provado um grande problema para campos em que a citação precisa é essencial (com atenção pública notável para casos de falha de IA nos setores jurídico, pesquisa e jornalismo), um novo estudo nos EUA descobriu que a aprendizagem de máquina no jornalismo enfrenta desafios mais amplos do que o esperado.

Os autores avaliaram ChatGPT, Google Gemini e o mais focado em citação NotebookLM em uma tarefa de estilo de relatórios: usando um corpus de 300 documentos focado em litígios e políticas do TikTok nos EUA.

Os pesquisadores variaram a especificidade da solicitação e o número de documentos fornecidos, então analisaram os resultados usando uma taxonomia projetada para capturar o tipo e a gravidade das alucinações.

Em todos os resultados, 30% continham pelo menos uma alucinação, enquanto ChatGPT e Gemini cada um mostraram uma taxa de alucinação de 40% – um pouco mais de três vezes maior do que a taxa de erro de 13% do NotebookLM.

Em vez de inventar fatos ou entidades, os pesquisadores observam que os modelos frequentemente exibem confiança interpretativa excessiva, adicionando caracterizações não suportadas e transformando opiniões atribuídas em declarações gerais:

‘Qualitativamente, a maioria dos erros não envolvia entidades inventadas ou números; em vez disso, observamos confiança interpretativa excessiva – os modelos adicionaram caracterizações não suportadas de fontes e transformaram opiniões atribuídas em declarações gerais.

‘Esses padrões revelam uma discrepância epistemológica fundamental: enquanto o jornalismo exige fontes explícitas para cada afirmação, os LLMs geram texto com som de autoridade, independentemente do suporte evidencial.

‘Propomos extensões específicas de jornalismo para as taxonomias de alucinação existentes e argumentamos que ferramentas de sala de notícias eficazes precisam de arquiteturas que imponham atribuição precisa, em vez de otimizar a fluência.’

O novo estudo, uma leitura fascinante, mas breve, de cinco páginas, é intitulado Não Errado, Mas Falso: Confiança Excessiva de LLM em Consultas Baseadas em Documentos e vem de três pesquisadores da Universidade Northwestern e da Universidade de Minnesota.

Teoria e Método

A causa exata das alucinações* é disputada em vários momentos; embora quase todas as teorias concordem que a qualidade dos dados e/ou distribuições são um fator contribuinte no momento do treinamento, já foi proposto que 100% da saída do LLM é essencialmente alucinação (exceto que algumas dessas alucinações coincidem com a realidade).

Os autores observam^†:

‘Do ponto de vista técnico, as alucinações surgem da capacidade dos LLMs de gerar texto que segue padrões comuns sem possuir uma compreensão do que é verdadeiro. Essa característica resulta em respostas plausíveis que não refletem a realidade – por exemplo, leis inventadas pelo LLM que se tornam parte de argumentos.

‘E, embora as capacidades dos LLMs tenham aumentado dramaticamente nos últimos cinco anos, as alucinações continuam a ser um problema, em alguns casos, até aumentando à medida que os modelos se tornam mais capazes.’

O setor de pesquisa, o artigo observa, explorou várias maneiras de reduzir ou melhor entender as alucinações dos LLMs, que tendem a cair em três principais áreas: primeiro, no contexto, os modelos podem ser fundamentados em fontes externas, como bancos de dados, coleções de documentos ou conteúdo da web, para respaldar suas afirmações.

Isso funciona bem quando o material é confiável e completo, mas lacunas, informações desatualizadas ou dados de baixa qualidade ainda causam erros; e os modelos também têm o hábito de fazer declarações confiantes que vão além do que as fontes realmente dizem.

Em segundo lugar, prompting e decoding refere-se ao uso de instruções cuidadosas para guiar os modelos. Isso pode envolver pedir aos modelos que verifiquem suas evidências, quebrar tarefas em etapas menores ou seguir formatos mais rígidos. Às vezes, os modelos são até direcionados a revisar seu próprio trabalho ou comparar múltiplas respostas.

Essas técnicas podem detectar erros, mas também aumentam os custos, e frequentemente falham em detectar erros sutis; portanto, sem verificação de evidências confiável, grande parte da carga de verificação ainda recai sobre o usuário.

Em terceiro lugar, modelos e ferramentas refere-se a dar aos LLMs acesso a recursos que possam apoiar a verificação, como mecanismos de busca ou calculadoras – embora a precisão também possa melhorar quando os modelos são treinados em dados bem-fonteados ou quando recursos de citação são integrados.

No entanto, essas medidas não são infalíveis e ainda dependem da qualidade das fontes, da clareza das diretrizes e da supervisão humana, para evitar a propagação de informações falsas.

Tik Tok

Para descobrir quais abordagens podem ser úteis para os jornalistas, o estudo realizou avaliações projetadas para refletir fluxos de trabalho e padrões de sala de notícias, com alucinações examinadas no contexto de tarefas de relatórios típicas.

Modelos de fronteira foram testados usando estratégias de solicitação comuns e configurações de fundamentação de documentos, para que a frequência e o tipo de erros de alucinação pudessem ser medidos – juntamente com o que esses erros realmente significam para a integração da IA nas salas de notícias.

A análise se concentrou no tipo de consulta baseada em documentos típica em jornalismo de pesquisa e investigação. Os autores buscaram criar um corpus destinado a refletir um projeto de sala de notícias pequeno a médio, mas que ainda fosse grande o suficiente para capturar a complexidade do relatório do mundo real; para esse fim, eles selecionaram o esforço legal em andamento para banir o TikTok nos EUA.

Os documentos foram coletados do Washington Post, do New York Times, ProQuest e Westlaw, resultando em uma coleção de 300 documentos que compreende cinco artigos acadêmicos, 150 artigos de notícias e 145 arquivos legais (com a compilação completa disponível para pesquisadores acadêmicos mediante solicitação, por meio do repositório do projeto).

Como as respostas dos LLMs dependem fortemente de como uma solicitação é formulada e de quanto contexto é fornecido, os autores projetaram cinco consultas que variavam de muito amplas a muito específicas – desde perguntas gerais sobre banir o TikTok até prompts detalhados que solicitavam testemunhos de casos específicos de tribunal.

A quantidade de documentos fornecida a cada modelo foi variada em 10, 100 – ou todos os 300, do corpus completo, com dois documentos-chave incluídos em cada amostra, para garantir a consistência. Quinze respostas foram produzidas para cada modelo, exceto para o ChatGPT, que foi limitado a dez respostas.

Concorrentes

Três ferramentas foram testadas, cada uma refletindo uma abordagem diferente para consultas baseadas em documentos: ChatGPT-5 foi avaliado usando a funcionalidade de Projetos, que limitou as uploads a 100 documentos; Google Gemini 2.5 Pro foi capaz de processar o corpus completo de 300 documentos em contexto (usando sua janela de contexto de um milhão de tokens para ingerir todos os 923.000 tokens diretamente); Google NotebookLM, que oferece recuperação de citação integrada, foi testado usando notebooks dedicados para cada amostra.

Embora os métodos de manipulação de documentos difiram, os três representam ferramentas reais atualmente disponíveis para jornalistas; e, de qualquer forma, o estado da arte é atualmente mais experimental do que homogêneo, com paridade de recursos e escopo inevitavelmente diferindo entre as ofertas atuais.

Para capturar a gama de comportamentos de alucinação possíveis, uma taxonomia de um trabalho anterior de 2023 foi usada, com alucinações codificadas por orientação (distorsão vs. elaboração); categoria (tipo de erro); e grau (gravidade classificada como leve, moderada ou alarmante).

Todas as saídas do modelo foram anotadas por um autor humano, que revisou cada frase e aplicou esses códigos. Erros não cobertos pela taxonomia foram marcados como miscelânea e posteriormente analisados para desenvolver categorias específicas de jornalismo.

Dados e Testes

No teste inicial para prevalência de alucinação, 12 das 40 respostas do modelo foram encontradas para conter pelo menos uma alucinação, com variação notável entre as ferramentas. ChatGPT e Gemini cada um produziram alucinações em 40% de suas saídas, enquanto NotebookLM produziu alucinações em apenas 13% dos casos:

Taxas gerais de alucinação para cada ferramenta, com Gemini e ChatGPT produzindo a maior proporção de respostas com erros. Fonte: https://arxiv.org/pdf/2509.25498

Sobre esses resultados, os autores comentam:

‘Isso indica que, embora a maioria das respostas em todas as ferramentas não contenham alucinações, a escolha da ferramenta faz uma diferença para o mesmo corpus de documentos e conjunto de consultas.’

As alucinações raramente ocorrem em isolamento, observa o artigo; Gemini apresentou em média quatro por resposta defeituosa, NotebookLM três e ChatGPT 1,5. A maioria foi moderada em gravidade, mas 14% foram classificadas como alarmantes. Em um caso, ChatGPT inventou um motivo retaliatório por trás de uma proibição do TikTok que não aparecia no documento de origem:

‘[Em] uma consulta, ChatGPT enquadrava uma possível proibição do TikTok como uma medida recíproca por legisladores dos EUA em resposta à política chinesa, uma alegação completamente ausente do documento de origem citado.’

No geral, 64% das respostas com alucinação introduziram imprecisões factuais ou tangentes, potencialmente levantando questões sobre se o uso de LLM realmente economiza tempo nesse tipo de fluxo de trabalho baseado em informações, pelo menos no estado atual da arte.

Na primeira rodada de testes, a maioria das alucinações não se encaixava nas categorias existentes, frequentemente envolvendo citações fabricadas ou expansões de acrônimos incorretas, sugerindo que os quadros atuais podem ser muito estreitos para casos de uso de jornalismo.

O menor índice de alucinação do NotebookLM, observam os autores, sugere que seu sistema RAG baseado em citação fornece uma base mais confiável do que a funcionalidade de Projetos do ChatGPT ou o processamento em contexto do Gemini, especialmente quando documentos específicos devem ser referenciados.

Em relação ao estudo das características qualitativas das alucinações observadas nos resultados dos testes, os pesquisadores observam que as alucinações decorrem não principalmente de fatos inventados, mas de excesso de interpretação:

‘Os modelos adicionaram caracterizações confiantes sobre os propósitos dos documentos, audiências e intenções do falante que pareciam autoritárias, mas careciam de base na texto real. Eles transformaram declarações atribuídas em afirmações definitivas.’

A confiança excessiva assumiu duas formas: primeiro, os modelos adicionaram alegações não suportadas sobre o propósito ou audiência de um documento, como rotular um artigo como “escrito para o público” ou uma petição como “direcionada a advogados”.

Em segundo lugar, eles converteram opiniões atribuídas em declarações semelhantes a fatos, obscurecendo a fonte original e comprometendo a avaliação da fonte.

Esses comportamentos apareceram em todas as ferramentas e não se limitaram a uma arquitetura – e a maioria dos erros não foram fabricações, mas sim interpretações excessivas.

A maioria das alucinações foi rotulada como miscelânea, pois não se encaixavam nas categorias existentes, obscurecendo diferenças importantes entre tipos de erros. Problemas frequentes, como falta de atribuição e descrições de fontes vagas, sugerem que as taxonomias atuais perdem os tipos de erros que mais importam no jornalismo, onde a fontação clara é essencial.

Os autores observam que ‘Os modelos adicionam análise confiante que os documentos não suportam e removem a atribuição crucial.’

Conclusão

Quem já experimentou os três modelos estudados no novo artigo sabe que cada um tem suas fraquezas e forças. Embora o NotebookLM desempenhe muito melhor na citação do que o ChatGPT ou o Gemini, pode-se considerar que foi construído especificamente para essa funcionalidade e ainda entrega uma taxa de erro que seria suficiente para demitir a maioria dos jornalistas, pesquisadores ou advogados, com incidentes repetidos.

Além disso, o NotebookLM, que se posiciona como uma estrutura de pesquisa, carece de muitos dos aperfeiçoamentos de UX que tornam as outras duas plataformas uma experiência de escrita mais fácil.

No entanto, pelo menos o NotebookLM parece realmente ler os documentos carregados, em vez de cair no hábito destrutivo do ChatGPT de inferir o que um documento carregado pode dizer, com base no que ele sabe sobre a distribuição geral de documentos semelhantes. Pode ser uma luta árdua para fazer com que qualquer versão do ChatGPT faça uma leitura completa do material carregado, em vez de confiar em metadados ou em suas próprias suposições/alucinações.

Para campos em que a proveniência e os padrões de citação são críticos, como direito, jornalismo e pesquisa científica, parece não haver nenhuma capacidade treinada nativamente nos LLMs atuais que possa melhorar sua capacidade limitada de extrair e lidar com informações que o usuário direciona.

Como está, e pendente a chegada de sistemas auxiliares que possam oferecer uma melhor interface para os LLMs do que um simples prompt do sistema ou configuração do MCP, tudo o que esses sistemas produzem para esses setores críticos ainda precisa ser verificado por aqueles caros, difíceis e, em geral, humanos irritantes.

* O Google Cloud oferece uma explicação razoavelmente interessante e completa sobre o tópico aqui.

^† Minha conversão das citações em linha dos autores em links.

Publicado pela primeira vez na quarta-feira, 1º de outubro de 2025. Alterado na quinta-feira, 2 de outubro, para corrigir erro no TL;DR e alterar erro estilístico no primeiro parágrafo.