Donner aux modèles de langage un « réglage de vérité »

Vrai ou bavard: choisissez. Une nouvelle méthode d’entraînement permet aux utilisateurs de dire aux chatbots IA exactement à quel point ils doivent être « factuels », en transformant la précision en un réglage que l’on peut augmenter ou diminuer.

Une nouvelle collaboration de recherche entre les États-Unis et la Chine propose quelque chose que presque tous les utilisateurs de chatbots IA apprécieraient: un « bouton » virtuel qui indique au bot s’il doit être « loquace » ou « véridique »

Le système a été créé en affinant un modèle Mistral-7B sur des données synthétiques, de sorte que le schéma d’une échelle de « vérité » puisse être imprimé sur le modèle. Après cette révision, le modèle Mistral est capable de contrôler le nombre de faits dans une réponse; plus la valeur de « vérité » donnée par l’utilisateur est élevée, plus la réponse sera brève et sûre.

À des réglages plus bas, la réponse du chatbot devient ce que les auteurs de l’article appellent « informative », c’est-à-dire qu’elle donnera une réponse plus longue et contiendra plus de faits; mais certains de ces faits peuvent être hallucinés.

Les données synthétiques sur lesquelles le système a été entraîné utilisaient Wikipedia comme référence pour un domaine de test: des faits biographiques réels sur les personnes. Que l’on considère ou non Wikipedia comme une source autoritaire, la valeur du travail réside dans la conception de tout type de système capable de limiter la tendance native des LLM à donner des réponses, même lorsqu’elles n’ont pas de réponses à donner.

Un exemple du projet FactScore qui a alimenté la curation du jeu de données pour l’article que nous examinons ici, en utilisant Wikipedia comme autorité de référence pour les détails biographiques. Source

Les auteurs notent que les contextes à haute assurance tels que les domaines médicaux et juridiques nécessitent des sorties fiables et conservatrices, tandis que de nombreux autres types d’utilisateurs nécessitent un type de sortie plus ductile et créatif, interprétatif (c’est-à-dire la rédaction discursive et l’analyse académique, entre autres).

Ils observent*:

« [Les LLM actuels] n’offrent aucun mécanisme intégré pour contrôler ce compromis.

« Même si les utilisateurs essaient de guider le comportement du modèle avec des invites comme “soyez plus factuel”, nous constatons que les modèles de pointe ne s’ajustent pas de manière fiable à ces invites pour cette tâche.

« Sur FactScore, nous constatons que les modèles hors étagère échouent souvent à satisfaire même des cibles modérément strictes. Cette lacune motive une alternative contrôlable qui permet aux utilisateurs de demander un niveau de factualité spécifique et au modèle d’ajuster ses réponses en conséquence. »

Juste les faits

Pour comprendre l’article et les solutions qu’il propose, il est nécessaire de revoir sa propre définition de « l’informativité ». Les auteurs déclarent que la quantification d’une réponse informative est égale à « la quantité de contenu pris en charge dans la sortie, mesurée par le nombre de déclarations atomiques validées, normalisées par la longueur de la sortie ».

Ailleurs dans l’article, il est déclaré plus simplement que l’informativité est « le nombre total de faits atomiques dans la sortie, qu’ils soient corrects ou non ».

De plus, les chercheurs notent que la tendance des LLM à osciller entre l’exactitude factuelle et les hypothèses subjectives est un trait très humain, et l’un documenté par des études scientifiques diverses*:

« [Le savoir des LLM] est de fiabilité inégale: certaines déclarations sont fortement étayées, tandis que d’autres sont spéculatives, obsolètes ou incertaines. La génération nécessite donc de décider combien dire et avec quelle prudence le dire, créant une tension entre la précision factuelle et l’informativité.

« Les humains font des choix analogues: en commençant par des faits de haute fiabilité et en ajoutant des détails de certitude inférieure seulement lorsqu’on leur demande.

Bien que les expériences aient été effectuées uniquement sur le modèle Mistral de taille moyenne, les principes appliqués devraient fonctionner à différentes échelles et plateformes, car ils impliquent une nouvelle quantification des données, en tant que complément du schéma interne d’un LLM; et une modification de ce type n’est pas spécifique à l’architecture.

L’article est intitulé Factuality on Demand: Controlling the Factuality-Informativeness Trade-off in Text Generation, et provient de sept chercheurs issus de l’Université de Columbia, de l’Université de New York et de l’Université de New York à Shanghai.

Méthode et données

La nouvelle approche présentée dans l’article est appelée Factuality-Controlled Generation (FCG), et introduit un « réglage » virtuel qui permet aux utilisateurs de spécifier à quel point ils veulent que la réponse d’un chatbot soit précise. « En essence, » déclare l’article, « FCG améliore le modèle avec un « réglage » contrôlable pour la factualité ».

Le modèle prend à la fois une question utilisateur et un niveau de factualité souhaité, puis génère une réponse qui inclut uniquement les informations qu’il considère comme suffisamment fiables, tout en essayant d’être aussi détaillé que possible dans cette contrainte de confiance.

En utilisant le système FactScore (ci-dessus), la sortie segmentée de requêtes d’exemple est évaluée pour l’exactitude, une qualité définie comme « adhérence à la factualité »:

Pipeline de données d’entraînement pour FCG: un modèle de langage génère une réponse initiale, la divise en faits atomiques, les classe par confiance et élimine les moins fiables jusqu’à ce que le niveau de vérité souhaité soit atteint. Source

Parce qu’aucun jeu de données existant ne correspondait aux exigences de FCG, les auteurs ont créé un jeu de données synthétique en faisant d’abord générer une réponse non contrainte au modèle de langage GPT-4^†, puis en éliminant les « faits les moins fiables » jusqu’à ce que la réponse atteigne un niveau d’exactitude donné.

Des travaux antérieurs suggéraient que l’entraînement uniquement sur des données de vérité de base pouvaient en fait rendre les modèles moins factuels, en les dissuadant de proposer tout détail supplémentaire. Par conséquent, les exemples d’entraînement FCG ont été minimalement édités, en préservant la formulation et le rythme propres du modèle, tout en réduisant uniquement les faits pour atteindre la cible de confiance requise.

En appliquant ce processus d’édition à différents niveaux de confiance cible, allant de 10 % à un seuil strict de 100 %, un jeu de données synthétique a été créé dans lequel chaque question était associée à plusieurs réponses filtrées.

Dans chaque version, seuls les faits jugés par le modèle comme suffisamment fiables pour répondre au niveau de factualité demandé ont été conservés; ces exemples ont ensuite été utilisés comme données d’entraînement pour un affinement supervisé.

Le jeu de données final se composait de 3 302 (question, contrôle, réponse) triplets pour l’entraînement et de 396 pour la validation, construits à partir de 500 entités divisées en 450 pour l’entraînement et 50 pour le développement. Un total de 183 entités distinctes ont été utilisées pour les tests.

Entraînement et tests

Les auteurs ont affiné le modèle Mistral-7B-Instruct-v0.2 LLM à différents taux d’apprentissage (3e-6, 1e-5, 3e-5) pour arriver au taux d’apprentissage optimal (non spécifié), pendant 30 époques, à une taille de lot de 256 (n.b. le matériel d’entraînement n’est pas spécifié).

FCG a été testé contre deux références. La première était Pas de contrôle de factualité (NFC), où le modèle a simplement été invité avec une demande telle que Raconte-moi une bio de X, sans mention d’exactitude ou de confiance. Cette version reflète le comportement par défaut d’un LLM, sans mécanisme de filtrage ou de contrainte.

La deuxième méthode, appelée Inférence contrôlée par la factualité (FCI), a utilisé les mêmes invites de niveau de confiance sans affinement. Par exemple, le modèle a pu être invité avec « Sortie d’informations que vous jugez 90 % confiantes ». Dans ce cas, l’instruction ressemblait à celles utilisées lors de l’entraînement, mais le modèle n’avait pas eu de contact préalable avec de telles contraintes:

Comparaison des trois approches testées: la référence sans contrôle; une version utilisant des invites de factualité sans entraînement; et le modèle affiné qui a appris à suivre les paramètres d’exactitude grâce à une exposition à des données filtrées.

Initialement, un test a été effectué pour l’adhérence à la factualité:

Performances à trois niveaux de confiance cible. Seul le modèle affiné a pu produire des sorties entièrement factuelles, et il a surpassé les deux références dans l’ensemble, en particulier aux niveaux les plus élevés.

Lorsqu’il a été testé contre des seuils de factualité de 80 %, 90 % et 100 %, seul le modèle affiné a pu répondre de manière constante aux cibles. Étonnamment, l’ajout simple d’invites de confiance, sans entraîner le modèle à les suivre, n’a pas aidé. Dans certains cas, cela a même empiré les choses; par exemple, seules 3,8 % des sorties du modèle invité ont atteint le seuil de 90 %, comparé à 5,5 % de la version sans instruction du tout:

Cela suggère, affirment les auteurs, que le modèle Mistral-7B de base n’a pas pu interpréter les invites comme « soyez 90 % confiant » d’une manière utile, et que l’instruction supplémentaire a même pu perturber sa sortie habituelle.

Par contraste, le modèle entraîné a répondu de manière fiable aux signaux de contrôle, produisant 18,7 % de sorties conformes à 80 %, 12,6 % à 90 % et 23,6 % à 100 %; et il s’est avéré être la seule méthode capable de générer des réponses entièrement factuelles:

« Ces améliorations indiquent que la capacité à contrôler la factualité peut en effet être inculquée via un entraînement supervisé. Le modèle FCG a appris à ajuster son contenu et à n’inclure que les faits dont il est suffisamment confiant, tandis que le modèle hors étagère ne pouvait pas utiliser efficacement le signal de contrôle de lui-même. »

Dans un test distinct conçu pour confirmer que le modèle avait réellement appris à interpréter le signal de contrôle, les chercheurs ont vérifié si la factualité moyenne des réponses augmentait à mesure que les réglages de vérité plus élevés étaient demandés.

Aucun tel modèle n’a émergé avant l’entraînement, mais après, les résultats ont révélé une tendance ascendante stable, avec des réponses plus précises produites à mesure que la confiance demandée augmentait:

À mesure que le réglage de vérité cible augmentait, le modèle affiné a produit des sorties de plus en plus factuelles en réponse, avec les modèles de référence démontrant aucun changement constant sur la même plage.

Le compromis entre la vérité et la « richesse » a également été examiné. Les sorties ont été notées non seulement pour l’exactitude mais aussi pour la quantité d’informations vérifiées qui restaient sous des exigences de factualité de plus en plus strictes. Comme le montre le graphique ci-dessous, le modèle FCG a été trouvé pour surpasser les deux références à la plupart des niveaux:

Un graphique représentant le compromis entre la factualité et l’informativité entre les trois méthodes. Le modèle affiné a été trouvé pour offrir un meilleur équilibre entre la vérité et le détail que les deux références. À des niveaux d’exactitude comparables, plus de contenu factuel a été préservé, et au réglage le plus élevé, il est resté la seule méthode capable de produire des réponses entièrement vérifiées qui n’étaient pas vides.

À un niveau d’exactitude cible d’environ 90 %, plus de faits ont été conservés par FCG que par toute autre méthode, et sur toute la plage de réglages de confiance, aucune référence n’a produit des résultats constamment meilleurs.

La différence a été la plus frappante au réglage le plus strict, où FCG a continué à produire une informativité non nulle, tandis que la référence avec des invites seules a été contrainte d’éliminer tout contenu.

Par contraste, le modèle entraîné a pu remodeler sa sortie pour conserver uniquement les faits qu’il considérait comme entièrement fiables, évitant l’effondrement dans le silence qui a affecté les autres.

La factualité a été directement contrainte par le réglage de contrôle, tandis que l’informativité a été optimisée en laissant le modèle inclure autant de contenu fiable que possible. À des réglages plus élevés, seuls les faits vérifiables ont été conservés; à des réglages plus bas, des détails plus spéculatifs ont été autorisés, augmentant la longueur mais réduisant l’exactitude.

Les auteurs concluent:

« [Lorsqu’]un contrôle de factualité élevé est en place, le modèle donne la priorité aux déclarations vérifiables de manière factuelle tout en incluant autant d’informations pertinentes que possible. À l’inverse, le modèle a la liberté d’intégrer une gamme plus large de détails, y compris certains qui sont moins vérifiables ou plus spéculatifs, aboutissant à une informativité plus élevée (plus de faits mentionnés) au détriment de certaines précisions.

« Ce comportement correspond à notre conception des données d’entraînement: car nous avons toujours supprimé les faits minimum nécessaires, le modèle a appris “si vous devez être x % factuel, supprimez les détails les moins certains mais conservez tout le reste.” »

L’article se termine avec l’espoir que la nouvelle méthodologie sera essayée avec des modèles plus grands et appliquée à des tâches plus complexes, entre autres extensions possibles du travail.

Conclusion

La solution proposée ici répond à l’un des problèmes les plus graves et les plus souvent notés, même de la dernière génération de LLM – leur tendance à favoriser la loquacité plutôt que l’exactitude, apparemment juste pour « faire continuer la conversation », et pour présenter avec confiance des informations obsolètes ou entièrement hallucinées comme des faits.

Pour les utilisateurs de ChatGPT, toute réponse confiante non précédée par l’apparition brève d’un widget « recherche sur le web » proviendra soit des limites de la date de connaissance du modèle, soit pourrait tout aussi bien être une hallucination qu’un fait.

Cependant, les recherches sur le web augmentent la latence et les coûts d’exécution du modèle LLM, et, comme tout utilisateur le sait, elles sont exécutées de manière sélective; ou à la demande de l’utilisateur; ou en tant que « paramètre spécial » qui peut entraîner des frais de jeton supplémentaires.

Néanmoins, ces types d’économie interne peuvent avoir un effet critique sur les requêtes LLM dans certains domaines, ou pour certains types de requêtes. Toute méthode capable d’imposer un schéma lié à l’exactitude de la sortie est la bienvenue dans la recherche.

* Ma conversion des citations en ligne des auteurs en hyperliens.

^† Le numéro de version complet n’est pas indiqué.

Publié pour la première fois vendredi 6 février 2026. Modifié dans les cinq minutes suivantes pour une répétition de mot