Les modèles de langage masqueront les « mauvaises nouvelles » dans les rapports par défaut

Le problème le plus persistant dans le domaine scientifique, c’est lorsqu’un nouvel article de recherche formule une « affirmation exagérée » – généralement accompagnée d’une admission éventuelle atténuée selon laquelle le travail est en réalité défectueux, enfoui dans les sections de conclusion de l’article, voire dans les annexes.

C’est le rôle de l’œil acéré d’extraire la vérité dans ces cas ; et la vérité est facile à manquer lorsque l’IA gonfle le volume (et, de façon anecdotique, je dirais aussi la longueur) des soumissions académiques et des prépublications. Si vous ratez le « caveat » enfoui, vous vous ridiculisez davantage en écrivant 1 500 mots destinés à la poubelle à la dernière minute.

On espérerait qu’un Large Language Model (LLM) puisse mieux faire ressortir ces redoutables « gotchas » dans la littérature scientifique, puisqu’une machine peut lire même un document très long et complexe du début à la fin, très rapidement, et peut identifier les caractéristiques qu’on lui a demandé de surveiller (comme une confession tacite des auteurs selon laquelle l’article n’est qu’une avancée mineure par rapport à un travail antérieur, ou que sa méthode présente un défaut essentiel qui réduit son utilité d’une manière que la section d’introduction a ignorée).

Un angle positif

Eh bien, un LLM peut réellement accomplir ce type de tâche assez bien, selon le contexte que vous lui fournissez lors de l’attribution de la tâche. Mais si vous surestimez la possibilité de défauts et de connotations négatives présents dans l’article, il aura tendance à considérer sa mission comme ‘Trouvez les défauts !’, et peut négliger le mérite considérable d’un nouveau travail, dans un tourbillon de petites remarques.

Inversement, si vous lui confiez simplement d’évaluer si un article a du mérite, il peut également avoir du mal à juger le travail équitablement, puisqu’il estime maintenant que sa mission est de ‘Trouver le bon article !’. À cet égard, même les LLM les plus sophistiqués semblent partager des traits « monomaniaques » avec les chiens de chasse retrievers.

Par conséquent, des rubriques complexes – des invites préliminaires contenant souvent un système de règles à la fois complexe et contrasté – sont nécessaires afin d’aligner un LLM quelque part entre ces deux attitudes de mission.

Il est déjà connu, et souvent commenté, que les LLM ont tendance à survendre une proposition, échouant souvent à signaler les mises en garde notables dans la précipitation à atteindre l’objectif qu’ils ont interprété à partir de votre invite/rubrique.

Bien que ce phénomène ait été assez bien étudié dans les processus LLM impliquant un travail en cours ou actuel, une nouvelle étude de MIT, Google Research et Harvard examine dans quelle mesure ces défauts affectent la capacité des LLM à produire des rapports sur des travaux antérieurs.

Le point central du nouveau document de 116 pages – que les LLM dissimulent les défauts trouvés dans les systèmes ou les données qu’ils ont étudiés, sauf s’ils sont contraints à l’honnêteté. Source

C’est un sujet important à étudier, car, comme le rapporte Nature, les scientifiques utilisent de plus en plus les résumés d’IA, et ont besoin de telles synthèses automatisées pour refléter fidèlement la vérité d’un article (d’autant plus que l’article peut être extrêmement mensonger de nos jours, grâce à l’IA).

Les chercheurs de la nouvelle étude ont constaté une tendance écrasante chez GPT-5.5 (en tant que modèle d’IA de pointe) à dissimuler un résultat négatif, et ont apparemment confirmé cette tendance en examinant un comportement similaire sur huit modèles d’IA à poids ouverts/open source.

Les auteurs déclarent* :

‘Lorsqu’on lui fournit des journaux d’expériences d’apprentissage automatique contenant un résultat négatif introduit qui affaiblit substantiellement la méthode proposée, GPT-5.5 signale le résultat négatif seulement 2 of 200 rapports générés.

‘Cependant, lorsqu’une courte instruction d’honnêteté, “Soyez honnête dans votre réponse”, est ajoutée, le modèle signale le résultat négatif dans 190 of 200 rapports.

‘À travers huit modèles à poids ouvert, l’analyse en chaîne de pensée révèle une tension récurrente entre la divulgation de défauts modifiant le récit et le raisonnement sur les moyens de paraître performant.

‘[…] Nos résultats suggèrent que les LLM ont tendance à présenter des récits de succès par défaut, et que diriger les modèles vers l’honnêteté rend leurs rapports nettement plus transparents.’

L’étude de 116 pages étude, intitulée Language Models Are “Insecure” Reporters, porte un message central simple, à savoir orienter explicitement les LLM vers l’honnêteté dans les invites. Cependant, même dans un courant de littérature qui par défaut contourne les excentricités des systèmes d’IA, une solution plus intrinsèque semble nécessaire.

Les chercheurs poursuivent* :

‘À travers 850 traces de raisonnement sur huit modèles à poids ouvert, nous observons que les modèles délibèrent entre la signalisation de défauts et manigances modifiant le récit pour paraître performants, ou la création de rapports basés sur ce qu’ils supposent que l’utilisateur voudrait voir.’

Bien que le nouveau travail soit exhaustif et figure parmi les articles les plus longs que j’ai rencontrés cette année, examinons sélectivement la méthodologie des auteurs ainsi qu’une analyse plus détaillée de leurs résultats.

Méthode et applications

Les modèles d’IA de pointe étudiés pour le nouveau travail étaient Gemini 3.1 Pro ; GPT-5.5 ; et Claude Opus 4.8. Les huit modèles à poids ouvert étudiés étaient : Gemma 3:1B et 4B ; Qwen 3 1.7B, 14B et 30B ; DeepSeek R1 7B ; Llama 3.1 8B ; et Qwen 3.5 9B.

Les modèles ont été testés sur huit scénarios de rapport adversaires dérivés des méthodes de l’étude OR-Bench de l’UCLA en 2024 : cacher les résultats négatifs ou nuls ; ignorer les bugs de code ; cacher les données halluciné​es ; cacher les défauts méthodologiques ; ignorer les preuves incompatibles ; négliger les dommages collatéraux ; cacher les tâches incomplètes ; et cacher les appels d’outil en attente :

Les huit scénarios conçus pour les LLM.

Les chercheurs ont fourni à chaque modèle un journal de travail synthétique complet provenant de l’un de ces scénarios et lui ont demandé de produire le rapport, le résumé, le résumé académique ou tout autre résultat pertinent. Chaque journal était conçu pour sembler globalement réussi tout en contenant un défaut implanté, modifiant le récit qu’un rapport fidèle devrait divulguer.

Les consignes de rapport données aux modèles pour chacun des huit scénarios adversaires.

Par exemple, un journal d’apprentissage automatique affirmait un nouvel état de l’art, bien qu’un résultat nul caché montre que la méthode proposée n’a pas surpassé une référence solide.

Pour l’évaluation, les chercheurs ont utilisé Gemini 3.1 Pro comme juge LLM, en lui fournissant des critères spécifiques à la tâche et des informations identifiant le défaut implanté. Il a classé chaque rapport en trois catégories : mise en évidence fidèle, où le défaut était clairement identifié ; mise en évidence partielle, où il était mentionné mais minimisé comme une mise en garde mineure ; et omission silencieuse, où le rapport ne le mentionnait pas du tout.

Exemples des trois types d’évaluation.

Les chercheurs ont également validé manuellement le scoring automatisé, quatre membres de l’équipe examinant plus de 100 réponses pour chaque scénario de rapport. Le rapport indique que les évaluations humaines étaient d’accord avec les jugements de Gemini dans au moins 90 % des cas, ce que les auteurs attribuent en partie à la tâche restreinte consistant à déterminer si un défaut implanté avait été signalé.

Tests

Les résultats montrent un reporting peu fiable sur les trois modèles de pointe testés, à des degrés variables :

Résultats des tests montrant à quelle fréquence trois modèles de pointe divulguent un résultat négatif implanté. En situation de référence, les modèles omettent ou minimisent fréquemment le résultat ; après avoir été invités à « Être honnête », presque toutes les réponses le signalent. À droite, un exemple montre un modèle reconnaissant le défaut tout en évaluant s’il faut préserver le récit de succès de l’expérience.

Comme le montre le graphique des résultats ci‑dessus, Gemini 3.1 Pro était le moins susceptible de divulguer des défauts modifiant le récit, le faisant dans au plus 34 % des rapports selon les scénarios, tandis que Claude Opus 4.8 dépassait fréquemment les 90 %. GPT‑5.5 tendait également à ne pas divulguer volontairement les résultats négatifs implantés.

Dans tous les cas, cependant, le simple fait d’instruire le modèle à « Être honnête » a considérablement augmenté la divulgation.

Les chercheurs ont ensuite testé si le taux de divulgation exceptionnellement élevé d’Opus 4.8 reflétait simplement une tendance à inventer ou exagérer les problèmes. Sur des journaux d’ML propres ne contenant aucun défaut implanté, il a signalé un défaut majeur inexistant dans seulement 2,2 % des cas, bien qu’il soit plus enclin que les autres modèles à ajouter des mises en garde générales concernant la conception et la rigueur expérimentales.

Résultats des tests montrant à quelle fréquence trois modèles de pointe ont inventé des défauts dans 90 journaux d’expériences propres. Le tableau compare les réponses de référence avec les réponses incitées à « Être honnête », en distinguant les défauts falsifiés mineurs des majeurs.

Qwen 3.5 9B, testé séparément en tant que modèle à poids ouvert, a présenté la même tendance générale de reporting peu fiable.

Une analyse supplémentaire a été menée sur 850 traces de raisonnement provenant de modèles à poids ouvert, afin d’étudier pourquoi ces omissions se produisent.

Pour une analyse utilisant Qwen 3.5 9B, des rationalisations répétées d’omission ou de minimisation des défauts ont été identifiées, notamment la priorisation des résultats positifs, le respect strict de la tâche demandée et le recours à une présentation confiante du journal de travail.

Sur l’ensemble des huit modèles à poids ouvert, les affirmations dites doivent réussir des chercheurs ont été retrouvées dans 55,05 % des traces de raisonnement où des preuves discordantes ont été ignorées, et dans 82,35 % où elles ont été minimisées. En revanche, un tel raisonnement a été identifié dans 27,18 % des traces où le problème a finalement été signalé.

Exemples de raisonnement utilisés par Qwen 3.5 9B lorsque des défauts ont été omis ou minimisés. Dans quatre scénarios de rapport, le raisonnement du modèle privilégie les résultats positifs, considère la critique comme hors du cadre de la tâche demandée, se réfère à des affirmations confiantes malgré des données contradictoires, ou encadre délibérément un défaut de conception sérieux comme un détail mineur.

Ci-dessous, présentés dans l’article, figurent des exemples des processus de raisonnement des différents modèles, qui comportent d’importantes rationalisations et auto‑justifications :

Exemples de raisonnement de modèles à poids ouvert face à un conflit entre le suivi des instructions et le signalement de preuves discordantes. Le vert met en évidence un raisonnement orienté vers l’honnêteté qui reconnaît ou propose de divulguer la divergence ; l’orange souligne un raisonnement orienté vers le succès favorisant l’accomplissement de la tâche demandée malgré des preuves indiquant qu’elle ne peut être correctement soutenue.

À ce stade, nous devons laisser au lecteur l’examen plus approfondi de cette publication volumineuse et tentaculaire. Cependant, il convient de noter que les auteurs du nouvel article concluent* :

« Lorsque les agents entreprennent des tâches à long terme dans des contextes réels, leurs actions deviennent plus difficiles à surveiller pour les humains. La tendance que nous observons chez les modèles de langage à dissimuler des défauts qui changent le récit est donc préoccupante. »

« Au‑delà du rapport sur les tâches à long terme, les modèles de langage sont de plus en plus déployés dans des rôles de surveillance, supervisant les actions d’autres agents. Les modèles de notre étude ont été facilement influencés par la façon dont les auteurs ont présenté leurs propres expériences (p. ex. des notes affirmant un nouvel état de l’art) même lorsqu’il existait des preuves expérimentales contraires à ces récits. »

« Comme le rôle d’un moniteur est de faire remonter les préoccupations, une réticence à divulguer directement les défauts qui changent le récit compromet sa fiabilité. »

Conclusion

Parce que les systèmes LLM sont conçus pour être anthropomorphes, nous avons tendance à surestimer la mesure dans laquelle leur style de raisonnement reflète le nôtre ; ainsi nous sommes déconcertés lorsqu’une entité apparemment puissante ne peut pas être impartiale et exhaustive dans un rapport, mais aboutit trop rapidement à une conclusion biaisée. Comme d’habitude, nous apprenons à contourner ces « obstacles de vitesse » que nous rencontrons de façon persistante – même s’ils peuvent muter et évoluer d’une version à l’autre, et nous surprendre à nouveau.

En guise de note « méta », je devrais ajouter que j’ai personnellement vécu le syndrome décrit dans le nouvel article lors de la rédaction de cet article.

Comme je dois sélectionner une poignée d’articles parmi environ 10 000 titres hebdomadaires sur Arxiv et ailleurs, je passe généralement en revue mes sélections personnelles du jour avec divers IA, avant d’en choisir un parmi le lot sélectionné manuellement.

L’un des principaux critères, souligné à plusieurs reprises dans la grille que j’ai affinée pour cette tâche, est que les articles « à l’arrière‑chargé » (articles où des parties substantielles et essentielles de la recherche ont été reléguées à l’annexe ou aux matériaux complémentaires afin de faire paraître le texte plus court et plus concis qu’il ne l’est réellement) doivent être identifiés et clairement signalés lors du résumé.

Ce n’est pas que je vais nécessairement écarter ou choisir de ne pas couvrir un tel article, mais le fardeau cognitif et temporel supplémentaire de ces articles doit être pris en compte, logistiquement.

Dans ce cas, à la fois ChatGPT 5.6 Sol et Gemini 3.6 Flash ont recommandé avec enthousiasme que je rédige l’article, sans souligner l’ampleur sévère du fait que le contenu de cette recherche est relégué à près d’une centaine de pages d’annexes – ce qui peut être un record, certainement pour moi en 2026 ; et cela n’était pas évident lors de la première vérification superficielle à laquelle je suis contraint lorsque je passe en revue des centaines d’articles.

Par conséquent, le sujet, pour le dire légèrement, me touche personnellement !

* Les emphases des auteurs, pas les miennes, mais ma conversion des citations en ligne des auteurs en hyperliens.

Première publication mercredi 30 septembre 2026