Une méthode ‘Zen’ pour empêcher les modèles de langage de halluciner

Demandez à ChatGPT de vérifier une réponse aléatoire avant de résoudre un problème réel, cela le fait réfléchir plus dur et obtient la bonne réponse plus souvent – même si la réponse précédente n’a rien à voir avec votre requête réelle.

Un article intéressant de Chine a développé une méthode très peu coûteuse pour empêcher les modèles de langage tels que ChatGPT de halluciner, et d’améliorer la qualité des réponses: demandez au modèle de vérifier la réponse à une question totalement sans rapport avant:

Un exemple de question sans rapport qui peut ‘libérer l’esprit’ d’un LLM, et l’aider à se concentrer sur une requête réelle. Source

Cette gifle Zen est une façon incroyablement peu coûteuse d’améliorer les performances, par rapport à d’autres méthodes plus impliquées, telles que l’ajustement fin, la création de prompts et l’échantillonnage parallèle, et cela fonctionne sur des modèles open et closed-source.

Les auteurs décrivent les économies d’échelle possibles en améliorant la sortie de cette manière spartiate*:

‘Pour mettre en œuvre avec un minimum de connaissances préalables, VF n’a besoin que d’une réponse aléatoire ou triviale dans le prompt. Le processus de vérification s’avère avoir beaucoup moins de jetons de sortie qu’un chemin CoT ordinaire, [parfois] même sans processus de vérification explicite, ce qui nécessite très [peu] de calcul supplémentaire au moment du test.’

Lors des tests, cette approche – appelée Verification-First (VF) – a été capable d’améliorer les réponses dans une diversité de tâches, y compris la raisonnement mathématique, sur des plateformes open source et commerciales.

Une partie de la raison pour laquelle cette technique fonctionne peut être ancrée dans la façon dont les modèles de langage absorbent et approprient les tendances de la psychologie humaine, de sorte qu’une question directe peut rendre le modèle ‘défensif’ et ‘nerveux’, tandis qu’une demande de vérification du travail d’un autre ne sollicite pas ces ‘instincts de survie’.

L’idée centrale est que vérifier une réponse prend moins d’efforts que de générer une réponse à partir de zéro, et peut déclencher un chemin de raisonnement différent qui complète la chaîne de pensée standard chaîne de pensée.

Demander au modèle de critiquer une réponse donnée (c’est-à-dire une réponse que le modèle n’a pas été impliqué dans la création) peut également activer une sorte de pensée critique qui aide à éviter la confiance excessive dans les premières impressions du modèle.

Les chercheurs caractérisent le processus en termes de chemin de raisonnement inverse:

En partant d’une réponse proposée et en raisonnant à rebours vers la question, on peut exposer des raccourcis ou des idées qui sont plus difficiles à trouver lorsqu’on raisonne à l’avance à partir du problème seul. Ce ‘chemin inverse’ peut suivre une trajectoire plus simple et offrir des informations complémentaires à la chaîne de pensée standard.

Les chercheurs ont également concrétisé le concept central en Iter-VF, une méthode d’échelonnement séquentiel qui affine les réponses de manière itérative, en évitant le problème d’accumulation d’erreurs commun aux stratégies d’auto-correction souvent trouvées dans les architectures LLM.

Le nouvel article est intitulé Demander aux LLM de vérifier d’abord est presque un repas gratuit, et provient de deux chercheurs du département de génie électrique de l’Université Tsinghua à Pékin.

Méthode

L’idée centrale derrière le nouvel article est de renverser le flux de raisonnement habituel dans les modèles de langage. Au lieu de demander au modèle de résoudre un problème à partir de zéro, on lui présente d’abord une réponse candidate (souvent incorrecte ou arbitraire) et on lui demande de vérifier si cette réponse a du sens.

Cela amène le modèle à raisonner à rebours, en partant de la réponse proposée et en remontant vers la question. Une fois la vérification terminée, le modèle procède ensuite à résoudre le problème initial comme d’habitude.

Ce renversement, selon l’article, réduit les erreurs imprudentes et encourage un mode de raisonnement plus réfléchi, aidant le LLM à découvrir des structures cachées et à éviter des hypothèses trompeuses.

Comme le montrent les exemples ci-dessous, même demander au modèle de vérifier une supposition évidemment fausse comme ’10’ peut l’aider à se remettre de la logique défectueuse et à surpasser la chaîne de pensée standard:

Demander au modèle de vérifier une supposition avant l’aide à détecter les incohérences et à s’engager plus soigneusement avec le problème. Dans cet exemple, l’approche standard conduit à une solution fluide mais incorrecte, tandis que le prompt de vérification déclenche une structure logique plus claire et le résultat correct.

En ce qui concerne de nombreux problèmes du monde réel, il n’est pas facile de fournir une supposition pour que le modèle la vérifie, surtout lorsque la tâche est ouverte, comme écrire du code ou appeler une API. Par conséquent, pour s’adapter mieux, la méthode donne d’abord sa meilleure réponse comme d’habitude, puis la nourrit à nouveau dans le format de vérification. De cette façon, le modèle vérifie et améliore sa propre sortie:

Lorsque le modèle est invité à vérifier sa propre sortie précédente, il détecte la faille dans sa logique et réécrit la solution correctement. Le prompt de vérification l’aide à se concentrer sur l’erreur spécifique plutôt que de répéter la même erreur.

Cette approche constitue la méthode Iter-VF mentionnée précédemment. Le modèle répète ce cycle, en affinant sa réponse à chaque fois, sans avoir besoin de réentraîner ou d’outillage spécial. Contrairement à d’autres stratégies d’auto-correction, qui peuvent accumuler le contexte au fil des itérations, Iter-VF ne considère que la réponse la plus récente à chaque étape, ce qui aide à maintenir sa réflexion lucide.

Données et tests

Les auteurs évaluent la méthode dans quatre domaines: tâches de raisonnement général, où VF est alimenté avec une supposition triviale; tâches sensibles au temps, où Iter-VF est comparé à des méthodes d’échelonnement rivales; problèmes ouverts tels que la programmation et les appels d’API, où VF utilise la réponse précédente du modèle; et modèles LLM commerciaux à code fermé, où les étapes de raisonnement internes sont inaccessibles.

Pour tester la méthode, les chercheurs ont utilisé trois benchmarks de raisonnement: GSM8K et MATH500 pour les problèmes mathématiques; et GPQA-Diamond pour les questions scientifiques de niveau universitaire.

Dans chaque cas, le modèle a reçu soit une supposition triviale, telle que ‘1’ pour les réponses numériques; soit une option de choix multiple aléatoire, comme point de départ pour la vérification. Aucune adaptation ou connaissance préalable n’a été ajoutée, et la référence pour la comparaison était la chaîne de pensée standard.

Les tests ont été effectués sur une gamme complète de modèles Qwen2.5 et Llama3 avec instruction, allant de 1B à 72B (paramètres) en taille. Les modèles Qwen utilisés étaient Qwen2.5-1.5B-Instruct, Qwen2.5-3B-Instruct, Qwen2.5-14B-Instruct, et Qwen2.5-72B-Instruct. Les variantes Llama3 étaient Llama3.2-1B-Instruct, Llama3.2-3B-Instruct, Llama3.1-8B-Instruct, et Llama3.3-70B-Instruct.

Comme le montre le graphique ci-dessous, l’amélioration de la vérification première s’est maintenue à travers les tailles de modèle, avec des gains clairs visibles même à 1B de paramètres et se poursuivant jusqu’à 72B:

À travers toutes les tailles de modèle dans les familles Qwen2.5 et Llama3, la vérification première a constamment surpassé la chaîne de pensée standard sur GSM8K, MATH500 et GPQA-Diamond.

L’effet s’est avéré le plus fort sur les benchmarks de mathématiques lourds tels que GSM8K et MATH500, où la vérification d’une mauvaise réponse a conduit à une meilleure réflexion que d’essayer de résoudre à partir de zéro. Sur GPQA-Diamond, qui dépend plus de la connaissance stockée que de la structure déductive, l’avantage a été plus petit mais constant.

Le coût computationnel de la vérification première a été modeste: dans le tableau ci-dessous, on peut voir que générer une étape de vérification a ajouté environ 20-50 % de jetons de sortie supplémentaires par rapport à la chaîne de pensée standard:

Le nombre moyen de jetons de sortie générés sous chaque méthode de prompt, à travers les benchmarks GSM8K, MATH500 et GPQA.

Malgré cela, le coût supplémentaire est resté loin de celui des stratégies nécessitant plusieurs échantillonnages ou une planification récursive.

Dans le graphique ci-dessous, on peut voir à quel point la méthode est sensible à la qualité de la supposition. Étonnamment, même lorsque la supposition est triviale (‘1’), invraisemblable (‘2025’), ou une option de choix multiple aléatoire, la vérification première surpasse toujours la chaîne de pensée standard:

Les gains d’exactitude de la vérification première, lorsque le modèle reçoit des réponses triviales, invraisemblables ou correctes à vérifier à travers GSM8K, MATH500 et GPQA.

Comme prévu, l’exactitude augmente encore plus lorsque la supposition se trouve être la bonne réponse; mais la méthode a fonctionné bien dans tous les cas, suggérant que les gains n’étaient pas dus à l’information contenue dans la supposition elle-même, mais simplement à l’acte de vérification.

Iter-VF a également été comparé à quatre stratégies d’échelonnement de test qui opèrent sans réentraîner ou adaptation spécifique à la tâche. Dans Self-Correction, le modèle a été invité à réviser ses réponses en réfléchissant à ses étapes de raisonnement précédentes; dans PHP, les réponses précédentes ont été ajoutées à l’entrée comme indices contextuels, bien qu’aucune instruction n’ait été donnée sur la façon de les utiliser.

De plus, dans Self-Consistency, plusieurs chemins de raisonnement ont été échantillonnés et la réponse finale a été choisie par vote majoritaire; et enfin, dans Best-of-N, plusieurs sorties ont été générées de manière indépendante et classées à l’aide d’un prompt de vérification, avec la réponse la mieux notée sélectionnée.

Deux variantes d’Iter-VF ont été mises en œuvre: l’une initialisée avec une supposition triviale (‘1’), et l’autre avec une sortie CoT standard:

Exactitude et efficacité des jetons sur MATH500 sous des budgets de sortie croissants, montrant que les deux variantes d’Iter-VF surpassent toutes les références à travers les tailles de modèle.

Iter-VF a donné de meilleurs résultats que toutes les autres méthodes lorsque la quantité de calcul disponible était faible, ce que les auteurs ont attribué à la façon dont il vérifie les réponses, et non à la qualité des réponses initiales (puisqu’à la fois les variantes VF et CoT ont rapidement atteint une exactitude similaire).

PHP s’est comporté moins bien, même s’il réutilisait les réponses précédentes comme indices, probablement parce que les LLM n’ont pas exploité ces indices de manière efficace.

Contrairement à PHP et à Self-Correction, qui accumulent le contexte au fil des itérations, Iter-VF ne considère que la réponse la plus récente à chaque étape. Cette approche markovienne évite la confusion cumulée des chaînes de raisonnement prolongées – une faiblesse particulièrement préjudiciable à Self-Correction.

Les méthodes parallèles telles que Self-Consistency et Best-of-N ont évité ce problème, bien que leurs améliorations aient été plus lentes et plus modestes.

(n.b. La section des résultats, bien que complète, est une lecture peu engageante et prolixe, et nous devons à ce stade tronquer la plus grande partie de la couverture restante, en renvoyant le lecteur au document source pour plus de détails).

Lorsqu’il a été testé sur GPT-5 Nano et GPT-5 Mini, des modèles commerciaux fermés qui cachent la trace de raisonnement complète et ne retournent que la réponse finale, Iter-VF a amélioré les performances sans s’appuyer sur les sorties intermédiaires. Dans le tableau ci-dessous, on peut voir des gains à la fois sur MATH500 et GPQA, confirmant que l’approche de vérification puis de génération reste viable même lorsque seule l’entrée et la réponse finale sont accessibles:

Exactitude sur MATH500 et GPQA lorsque Iter-VF est appliqué aux modèles GPT-5 avec des traces de raisonnement cachées.

Conclusion

Bien que le nouvel article bascule dans l’opacité à partir de la section des résultats, la découverte apparente d’un trait général dans une classe de modèles d’IA est néanmoins un développement fascinant. Quiconque utilise régulièrement un LLM a développé instinctivement un ensemble de trucs pour contourner les limites des modèles, à mesure que chacune devient évidente avec le temps, et que le modèle émerge; et tout le monde espère trouver un ‘truc’ aussi applicable et généralisé que celui-ci.

Un des plus grands problèmes pour mettre en œuvre et mettre à jour une fenêtre de contexte dans un LLM semble être de trouver un équilibre entre la conservation du progrès de session et la capacité de s’aventurer dans de nouvelles directions au besoin, sans tomber dans des hallucinations spurieuses ou des sorties hors sujet. Dans le cas présenté par le nouvel article, nous voyons un exemple d’un ‘réveil’ doux mais insistant qui semble recentrer et réinitialiser le LLM sans perte de contexte. Il sera intéressant de voir si les projets suivants adaptent et évoluent la méthode.

Les chercheurs mettent l’accent sur l’économie de leur nouvelle méthode – une considération qui aurait eu beaucoup moins de poids il y a même 12 mois. Ces jours-ci, les implications de l’IA à grande échelle rendent clair que les économies de ressources autrefois considérées comme mineures, dans l’ère de la recherche pure, sont maintenant devenues essentielles et cardinales.

* Veuillez noter que je suis contraint de ne pas inclure le nombre habituel de citations de l’article, puisque le niveau d’anglais trouvé dans certaines parties de celui-ci pourrait confondre le lecteur. Ainsi, j’ai pris la liberté de résumer les idées clés à la place, et je renvoie le lecteur au document source pour vérification.

Publié pour la première fois le jeudi 4 décembre 2025