Qu’est-ce que les hallucinations des LLM ? Causes, préoccupations éthiques et prévention

Les grands modèles de langage (LLM) sont des systèmes d’intelligence artificielle capables d’analyser et de générer du texte similaire à celui des humains. Mais ils ont un problème – les LLM hallucinent, c’est-à-dire qu’ils inventent des choses. Les hallucinations des LLM ont rendu les chercheurs inquiets pour les progrès dans ce domaine, car si les chercheurs ne peuvent pas contrôler les résultats des modèles, alors ils ne peuvent pas créer des systèmes critiques pour servir l’humanité. Plus d’informations sur ce sujet plus tard.

En général, les LLM utilisent de grandes quantités de données d’entraînement et des algorithmes d’apprentissage complexes pour générer des sorties réalistes. Dans certains cas, l’apprentissage en contexte est utilisé pour entraîner ces modèles à l’aide de quelques exemples seulement. Les LLM deviennent de plus en plus populaires dans divers domaines d’application, allant de la traduction automatique, à l’analyse de sentiments, à l’assistance virtuelle AI, à l’annotation d’images, au traitement automatique des langues, etc.

Malgré la nature de pointe des LLM, ils sont toujours sujets à des biais, des erreurs et des hallucinations. Yann LeCun, actuel scientifique en chef de l’IA chez Meta, a récemment mentionné le défaut central des LLM qui provoque des hallucinations : « Les grands modèles de langage n’ont pas d’idée de la réalité sous-jacente que la langue décrit. Ces systèmes génèrent du texte qui semble correct, grammaticalement et sémantiquement, mais ils n’ont pas vraiment d’objectif autre que de satisfaire la cohérence statistique avec la invite ».

Hallucinations dans les LLM

Image de Gerd Altmann sur Pixabay

Les hallucinations font référence au fait que le modèle génère des sorties qui sont syntaxiquement et sémantiquement correctes, mais qui sont déconnectées de la réalité et basées sur de fausses hypothèses. L’hallucination est l’une des préoccupations éthiques majeures des LLM, et elle peut avoir des conséquences néfastes si les utilisateurs sans connaissance appropriée du domaine commencent à s’appuyer de plus en plus sur ces modèles de langage de plus en plus convaincants.

Un certain degré d’hallucination est inévitable dans tous les LLM autoregressifs. Par exemple, un modèle peut attribuer une citation contrefaite à une célébrité qui n’a jamais été prononcée. Ils peuvent affirmer quelque chose à propos d’un sujet particulier qui est factuellement incorrect ou citer des sources inexistante dans des articles de recherche, propageant ainsi des informations erronées.

Cependant, faire halluciner les modèles d’IA ne produit pas toujours des effets négatifs. Par exemple, une nouvelle étude suggère que les scientifiques découvrent des « protéines nouvelles avec une gamme illimitée de propriétés » grâce à des LLM qui hallucinent.

Qu’est-ce qui provoque les hallucinations des LLM ?

Les LLM peuvent halluciner en raison de divers facteurs, allant des erreurs de surajustement aux biais d’entraînement.

Surajustement

Image de janjf93 sur Pixabay

Le surajustement est un problème où un modèle d’IA s’ajuste trop bien aux données d’entraînement. Cependant, il ne peut pas représenter pleinement la gamme d’entrées qu’il peut rencontrer, c’est-à-dire qu’il ne parvient pas à généraliser son pouvoir prédictif à de nouvelles données non vues. Le surajustement peut conduire le modèle à produire du contenu halluciné.

Erreurs d’encodage et de décodage

Image de geralt sur Pixabay

Si des erreurs se produisent lors de l’encodage et du décodage du texte et de ses représentations ultérieures, cela peut également provoquer le modèle à générer des sorties erronées et sans sens.

Biais d’entraînement

Image de Quince Creative sur Pixabay

Un autre facteur est la présence de certains biais dans les données d’entraînement, qui peuvent amener le modèle à produire des résultats qui représentent ces biais plutôt que la nature réelle des données. Cela est similaire au manque de diversité dans les données d’entraînement, qui limite la capacité du modèle à généraliser à de nouvelles données.

La structure complexe des LLM rend difficile pour les chercheurs et les praticiens d’identifier, d’interpréter et de corriger les causes sous-jacentes des hallucinations.

Préoccupations éthiques des hallucinations des LLM

Les LLM peuvent perpétuer et amplifier les biais nuisibles à travers les hallucinations et peuvent, à leur tour, avoir un impact négatif sur les utilisateurs et avoir des conséquences sociales néfastes. Certaines de ces préoccupations éthiques les plus importantes sont énumérées ci-dessous :

Contenu discriminatoire et toxique

Image de ar130405 sur Pixabay

Puisque les données d’entraînement des LLM sont souvent remplies de stéréotypes socioculturels en raison des biais et du manque de diversité inhérents. Les LLM peuvent ainsi produire et renforcer ces idées nuisibles contre les groupes défavorisés de la société.

Ils peuvent générer ce contenu discriminatoire et haineux en fonction de la race, du sexe, de la religion, de l’ethnie, etc.

Problèmes de confidentialité

Image de JanBaby sur Pixabay

Les LLM sont entraînés sur un corpus d’entraînement massif qui comprend souvent des informations personnelles sur les individus. Il y a eu des cas où de tels modèles ont violé la confidentialité des personnes. Ils peuvent divulguer des informations spécifiques telles que des numéros de sécurité sociale, des adresses personnelles, des numéros de téléphone portable et des détails médicaux.

Informations erronées et désinformation

Image de geralt sur Pixabay

Les modèles de langage peuvent produire du contenu similaire à celui des humains qui semble exact, mais qui est en fait faux et non étayé par des preuves empiriques. Cela peut être accidentel, conduisant à des informations erronées, ou il peut y avoir une intention malveillante derrière pour propager sciemment de la désinformation. Si cela n’est pas contrôlé, cela peut créer des tendances sociales, culturelles, économiques et politiques négatives.

Prévention des hallucinations des LLM

Image de athree23 sur Pixabay

Les chercheurs et les praticiens prennent diverses approches pour résoudre le problème des hallucinations des LLM. Celles-ci incluent l’amélioration de la diversité des données d’entraînement, l’élimination des biais inhérents, l’utilisation de meilleures techniques de régularisation et l’emploi d’un entraînement adversatif et d’un apprentissage par renforcement, entre autres :

• Le développement de meilleures techniques de régularisation est au cœur de la lutte contre les hallucinations. Elles aident à prévenir le surajustement et d’autres problèmes qui provoquent les hallucinations.
• L’augmentation des données peut réduire la fréquence des hallucinations, comme le montre une étude de recherche. L’augmentation des données consiste à augmenter l’ensemble d’entraînement en ajoutant un jeton aléatoire n’importe où dans la phrase. Cela double la taille de l’ensemble d’entraînement et entraîne une diminution de la fréquence des hallucinations.
• OpenAI et Google’s DeepMind ont développé une technique appelée apprentissage par renforcement avec rétroaction humaine (RLHF) pour résoudre le problème d’hallucination de ChatGPT. Cela implique un évaluateur humain qui examine fréquemment les réponses du modèle et sélectionne les plus appropriées pour les invites de l’utilisateur. Cette rétroaction est ensuite utilisée pour ajuster le comportement du modèle. Ilya Sutskever, scientifique en chef d’OpenAI, a récemment mentionné que cette approche peut potentiellement résoudre les hallucinations dans ChatGPT : « Je suis très optimiste que, simplement en améliorant cette étape d’apprentissage par renforcement avec rétroaction humaine, nous pouvons enseigner au modèle à ne pas halluciner ».
• L’identification de contenu halluciné pour l’utiliser comme exemple pour une formation future est également une méthode utilisée pour résoudre les hallucinations. Une nouvelle technique dans ce sens détecte les hallucinations au niveau du jeton et prédit si chaque jeton de la sortie est halluciné. Elle inclut également une méthode pour l’apprentissage non supervisé des détecteurs d’hallucinations.

Détection d’hallucinations au niveau du jeton

En résumé, les hallucinations des LLM sont une préoccupation croissante. Et malgré les efforts, beaucoup de travail reste à faire pour résoudre ce problème. La complexité de ces modèles signifie qu’il est généralement difficile d’identifier et de rectifier correctement les causes sous-jacentes des hallucinations.

Cependant, avec la poursuite de la recherche et du développement, il est possible d’atténuer les hallucinations des LLM et de réduire leurs conséquences éthiques.

Si vous voulez en savoir plus sur les LLM et les techniques préventives en cours de développement pour rectifier les hallucinations des LLM, consultez unite.ai pour élargir vos connaissances.