ChatGPT-5 et Gemini 2.5 hallucinent dans 40% des requêtes de type rédactionnel testées

Une nouvelle étude révèle que ChatGPT-5 et Google Gemini produisent des hallucinations dans 40 % des requêtes de type rédactionnel, inventant souvent des affirmations qui semblent confiantes mais ne sont pas étayées par des faits vérifiables. Le NotebookLM de Google obtient de meilleurs résultats, avec un taux d’hallucinations de seulement 13 % – un taux qui serait encore suffisant pour faire licencier n’importe quel journaliste dans le monde. L’étude a constaté que les modèles déforment souvent les sources en transformant les opinions en faits et en supprimant les références, les rendant ainsi des outils risqués pour le journalisme. Les auteurs plaident pour de meilleurs outils dédiés à ces tâches.

Les grands modèles de langage ont connu une adoption rapide dans le journalisme ces derniers temps, dans des environnements de travail qui ont de toute façon réduit les coûts, les budgets et les effectifs depuis que le journalisme numérique a détruit deux siècles de tradition dans un processus inexorable qui a commencé au début des années 2000.

En fait, le terrain était déjà fertile, puisque les médias s’étaient habitués à réduire les effectifs grâce à l’« innovation » depuis au moins l’introduction tumultueuse de la composition numérique dans les années 80, ainsi que les défis précédents posés par la radio et la télévision.

La progression inexorable de l’IA dans les salles de rédaction et les médias n’a pas été sans heurts, cependant; dans un contexte où 55 % des entreprises regrettent d’avoir remplacé des humains par de l’IA, et où Gartner prévoit que les organisations réduiront considérablement leurs calendriers d’adoption de l’IA dans les deux ans, un certain nombre d’organisations de médias ont réembauché des journalistes remplacés par l’IA, car les graves et souvent gênants limites des alternatives d’apprentissage automatique sont devenues apparentes.

L’erreur n’est pas qu’humaine

Bien que les hallucinations aient prouvé être un énorme problème pour les domaines où la citation exacte est essentielle (avec une attention publique notable pour les cas d’échec de l’IA dans les domaines juridiques, la recherche et les médias), une nouvelle étude américaine constate que l’apprentissage automatique dans le journalisme fait face à des défis plus larges que prévu.

Les auteurs de la recherche ont évalué ChatGPT, Google Gemini et le plus axé sur les citations NotebookLM sur une tâche de type rédactionnel: en utilisant un corpus de 300 documents axés sur les litiges et les politiques de TikTok aux États-Unis.

Les chercheurs ont varié la spécificité des invites et le nombre de documents fournis, puis analysé les résultats à l’aide d’une taxonomie conçue pour capturer le type et la gravité des hallucinations.

Sur l’ensemble des sorties, 30 % contenaient au moins une hallucination, tandis que ChatGPT et Gemini ont chacun affiché un taux d’hallucination de 40 % – un peu plus de trois fois supérieur au taux d’erreur de 13 % de NotebookLM.

Plutôt que d’inventer des faits ou des entités, les chercheurs notent que les modèles ont souvent affiché une confiance excessive, en ajoutant des caractérisations non étayées et en transformant les opinions attribuées en déclarations générales:

‘Qualitativement, la plupart des erreurs n’impliquaient pas des entités inventées ou des nombres; au lieu de cela, nous avons observé une confiance excessive – les modèles ajoutaient des caractérisations non étayées des sources et transformaient les opinions attribuées en déclarations générales.

‘Ces modèles révèlent un décalage épistémologique fondamental: tandis que le journalisme nécessite une source explicite pour chaque affirmation, les LLM génèrent du texte sonnant autoritaire, indépendamment du soutien évident.

‘Nous proposons des extensions spécifiques au journalisme aux taxonomies d’hallucinations existantes et soutenons que des outils de rédaction efficaces nécessitent des architectures qui obligent une attribution exacte plutôt que d’optimiser la fluidité.’

La nouvelle étude, une lecture fascinante mais brève de cinq pages, est intitulée Non faux, mais non vrai: la confiance excessive des LLM dans les requêtes basées sur des documents, et provient de trois chercheurs de l’Université Northwestern et de l’Université du Minnesota.

Théorie et méthode

La cause exacte des hallucinations est disputée à différents moments; bien que presque toutes les théories s’accordent sur le fait que la qualité des données et/ou les distributions sont un facteur contributif lors de la formation, il a même été proposé que 100 % de la sortie LLM est essentiellement une hallucination (sauf que certaines de ces hallucinations coïncident avec la réalité).

Les auteurs observent^†:

‘D’un point de vue technique, les hallucinations émergent de la capacité des LLM à générer du texte qui suit des modèles courants sans posséder une compréhension de ce qui est vrai. Cette caractéristique donne lieu à des réponses qui semblent plausibles mais ne reflètent pas la réalité – par exemple, des lois inventées par les LLM qui font leur chemin dans les arguments.

‘Et tandis que les capacités des LLM ont augmenté de manière spectaculaire au cours des cinq dernières années, les hallucinations restent un problème, dans certains cas même en augmentant à mesure que les modèles deviennent plus capables.’

Le secteur de la recherche, note le document, a exploré un certain nombre de moyens pour réduire ou mieux comprendre les hallucinations des LLM, qui tendent à se diviser en trois domaines principaux: premièrement, dans le contexte, les modèles peuvent être ancrés dans des sources externes telles que des bases de données, des collections de documents ou du contenu Web pour étayer leurs affirmations.

Cela fonctionne bien lorsque le matériel est fiable et complet, mais les lacunes, les informations obsolètes ou les données de mauvaise qualité provoquent toujours des erreurs; et les modèles ont également l’habitude de faire des déclarations confiantes qui vont au-delà de ce que les sources disent réellement.

Deuxièmement, la sollicitation et le décodage font référence à l’utilisation d’instructions soigneuses pour guider les modèles. Cela peut impliquer de demander aux modèles de vérifier leurs preuves, de diviser les tâches en étapes plus petites ou de suivre des formats plus stricts. Parfois, les modèles sont même dirigés pour examiner leur propre travail ou comparer plusieurs réponses.

Ces techniques peuvent détecter les erreurs, mais elles augmentent également les coûts et souvent échouent à détecter les erreurs subtiles; par conséquent, sans vérification fiable des preuves, la majeure partie du fardeau de la vérification repose encore sur l’utilisateur.

Troisièmement, les modèles et les outils font référence à la fourniture aux LLM d’accès à des ressources qui peuvent soutenir la vérification, telles que des moteurs de recherche ou des calculateurs – bien que la précision puisse également s’améliorer lorsque les modèles sont formés sur des données bien sourcées ou lorsque des fonctionnalités de citation sont intégrées.

Cependant, ces mesures ne sont pas infaillibles et dépendent encore de la qualité des sources, de la clarté des directives et de la surveillance humaine pour empêcher la propagation de fausses informations.

Tik Tok

Pour découvrir quelles approches pourraient réellement être utiles pour les journalistes, l’étude a mené des évaluations conçues pour refléter les flux de travail et les normes de rédaction réels, avec des hallucinations examinées dans le contexte de tâches de rédaction typiques.

Les modèles de pointe ont été testés en utilisant des stratégies d’invites courantes et des configurations de mise à la terre de documents, de sorte que la fréquence et le type d’erreurs d’hallucination puissent être mesurés – ainsi que ce que ces erreurs signifient réellement pour l’intégration de l’IA dans les salles de rédaction.

L’analyse s’est concentrée sur le type de requête basée sur des documents typique dans le journalisme d’investigation et la recherche. Les auteurs ont cherché à créer un corpus destiné à refléter un projet de rédaction typique de petite à moyenne taille, mais qui serait encore suffisamment grand pour capturer la complexité du journalisme réel; à cette fin, ils ont sélectionné l’effort juridique en cours pour interdire TikTok aux États-Unis.

Les documents ont été collectés à partir du Washington Post, du New York Times, de ProQuest et de Westlaw, aboutissant à une collection de 300 documents comprenant cinq articles universitaires, 150 articles de presse et 145 dépôts légaux (avec la compilation complète disponible aux chercheurs universitaires sur demande via le référentiel du projet).

Étant donné que les réponses des LLM dépendent fortement de la façon dont une invite est formulée et du contexte fourni, les auteurs ont conçu cinq requêtes allant de très larges à très spécifiques – de questions générales sur les interdictions de TikTok à des invites détaillées sollicitant des témoignages de cas judiciaires spécifiques.

Le nombre de documents fournis à chaque modèle a varié entre 10, 100 et 300, à partir du corpus complet, avec deux documents clés inclus dans chaque échantillon, pour assurer la cohérence. Quinze réponses ont été produites pour chaque modèle, à l’exception de ChatGPT, qui a été limité à dix réponses.

Les prétendants

Trois outils ont été testés, chacun reflétant une approche différente de la requête basée sur des documents: ChatGPT-5 a été évalué en utilisant la fonctionnalité Projects, qui limitait les téléchargements à 100 documents; Google Gemini 2.5 Pro a pu traiter l’ensemble du corpus de 300 documents en contexte (en utilisant sa fenêtre de contexte d’un million de jetons pour ingérer les 923 000 jetons directement); Google NotebookLM, qui propose une récupération de citation intégrée, a été testé en utilisant des cahiers dédiés pour chaque échantillon.

Alors que ces méthodes de traitement de documents diffèrent, les trois représentent des outils réellement disponibles pour les journalistes; et dans tous les cas, l’état de l’art est actuellement plus expérimental qu’homogène, avec une parité de fonctionnalités et une portée qui diffèrent inévitablement entre les offres actuelles.

Pour capturer la gamme de comportements d’hallucination possibles, une taxonomie d’un travail antérieur de 2023 a été utilisée, avec des hallucinations codées par orientation (distorsion vs. élaboration); catégorie (type d’erreur); et degré (gravité notée comme légère, modérée ou alarmante).

Toutes les sorties de modèle ont été annotées par un auteur humain, qui a examiné chaque phrase et appliqué ces codes. Les erreurs non couvertes par la taxonomie ont été marquées comme divers et ont ensuite été analysées pour développer des catégories spécifiques au journalisme.

Données et tests

Dans le test initial pour la prévalence des hallucinations, 12 des 40 réponses du modèle ont été trouvées contenir au moins une hallucination, avec une variation notable entre les outils. ChatGPT et Gemini ont chacun produit des hallucinations dans 40 % de leurs sorties, tandis que NotebookLM a produit des hallucinations dans seulement 13 % des cas:

Taux d’hallucination globaux pour chaque outil, avec Gemini et ChatGPT produisant la proportion la plus élevée de réponses contenant des erreurs. Source: https://arxiv.org/pdf/2509.25498

Sur ces résultats, les auteurs commentent:

‘Cela indique que, même si la majorité des réponses de tous les outils ne contiennent pas d’hallucinations, le choix de l’outil fait une différence pour le même corpus de documents et l’ensemble de requêtes.’

Les hallucinations se produisent rarement en isolation, note le document; Gemini a en moyenne quatre hallucinations par réponse erronée, NotebookLM trois et ChatGPT 1,5. La plupart étaient modérées en gravité, mais 14 % ont été classées comme alarmantes. Dans un cas, ChatGPT a inventé une motivation de représailles derrière une interdiction de TikTok qui n’apparaissait pas dans la source:

‘[Dans] une requête, ChatGPT a présenté une interdiction potentielle de TikTok comme une mesure réciproque des législateurs américains en réponse à la politique chinoise, une affirmation entièrement absente du document source.’

Au total, 64 % des réponses qui ont halluciné ont introduit des inexactitudes factuelles ou des digressions, ce qui soulève des questions sur le fait que l’utilisation de LLM économise réellement du temps dans ce type de flux de travail basé sur l’information, du moins dans l’état actuel de l’art.

Dans ce test initial, la plupart des hallucinations ne correspondaient pas aux catégories de taxonomie existantes, impliquant souvent des citations inventées ou des expansions d’acronymes incorrectes, suggérant que les cadres actuels peuvent être trop étroits pour les cas d’utilisation du journalisme.

Le taux d’hallucination plus faible de NotebookLM, observent les auteurs, suggère que son système RAG basé sur les citations offre une ancrage plus fiable que la fonctionnalité Projects de ChatGPT ou le traitement en contexte de Gemini, en particulier lorsqu’il s’agit de référencer des documents spécifiques.

En ce qui concerne l’étude des caractéristiques qualitatives des hallucinations observées dans les résultats des tests, les chercheurs observent que les hallucinations proviennent non pas principalement de faits inventés, mais de surestimation:

‘Les modèles ajoutaient des caractérisations confiantes concernant les objectifs des documents, les publics et les intentions des orateurs qui semblaient autoritaires mais manquaient de fondement dans le texte réel. Ils transformaient des déclarations attribuées ou prudentes en affirmations définitives.’

La confiance excessive a pris deux formes: premièrement, les modèles ajoutaient des affirmations non étayées sur l’objectif ou le public d’un document, telles que l’étiquetage d’un article comme « écrit pour le public » ou d’un dépôt comme « destiné aux avocats ».

Deuxièmement, ils transformaient les opinions attribuées en affirmations ressemblant à des faits, en occultant la source d’origine et en sapant l’évaluation de la source.

Ces comportements se sont produits dans tous les outils et n’étaient pas limités à une seule architecture – et la plupart des erreurs n’étaient pas des inventions, mais plutôt des interprétations excessives.

La plupart des hallucinations ont été étiquetées comme diverses, car elles ne correspondaient pas aux catégories existantes, en brouillant les différences clés entre les types d’erreurs. Des problèmes fréquents tels que l’absence d’attribution et les descriptions de source vagues suggèrent que les taxonomies actuelles manquent les types d’erreurs qui comptent le plus dans le journalisme, où la source claire est essentielle.

Les auteurs observent que ‘Les modèles ajoutent une analyse confiante que les documents ne soutiennent pas et suppriment les références essentielles.’

Conclusion

Quiconque a expérimenté les trois modèles étudiés dans le nouveau document sait que chacun a ses points faibles et ses points forts. Bien que NotebookLM performe nettement mieux en termes de citation que ChatGPT ou Gemini, on pourrait considérer qu’il a été conçu spécifiquement pour cette fonctionnalité et livre encore un taux d’erreur qui ferait licencier la plupart des journalistes, des chercheurs ou des avocats, avec des incidents répétés.

De plus, NotebookLM, se positionnant comme un cadre de recherche, manque de nombreuses améliorations de l’expérience utilisateur qui font des deux autres plateformes une expérience d’écriture plus agréable.

Cependant, au moins NotebookLM semble réellement lire les documents téléchargés au lieu de tomber dans l’habitude extrêmement destructrice de ChatGPT, qui consiste à déduire ce qu’un document téléchargé pourrait dire, sur la base de ce qu’il sait de la distribution générale de documents similaires. Il peut être difficile d’obtenir que ChatGPT lise réellement le texte d’un document téléchargé, plutôt que de s’appuyer sur les métadonnées ou sur ses propres suppositions/hallucinations.

Pour les domaines où la provenance et les normes de citation sont essentielles, tels que le droit, le journalisme et la recherche scientifique, il semble qu’il n’y ait actuellement aucun outil nativement formé sur le marché qui puisse améliorer la capacité limitée des LLM à extraire et à traiter avec précision les informations que l’utilisateur leur demande.

Comme les choses se présentent, et en attendant l’arrivée de systèmes auxiliaires qui puissent offrir une meilleure interface pour les LLM que les invites de système ou les paramètres MCP, tout ce que ces systèmes produisent pour ces secteurs critiques doit encore être vérifié par ces humains coûteux, gênants et généralement pénibles.

* Google Cloud propose un aperçu intéressant et approfondi sur le sujet ici.

^† Ma conversion des citations en ligne des auteurs en hyperliens.

Publié pour la première fois le mercredi 1er octobre 2025. Modifié le jeudi 2 octobre pour corriger une erreur dans le résumé et modifier une erreur stylistique dans le premier paragraphe.