Arrêter l’IA de créer des histoires : Un guide pour prévenir les hallucinations

L’IA révolutionne la façon dont presque toutes les industries opèrent. Elle nous rend plus efficaces, plus productifs et, lorsqu’elle est mise en œuvre correctement, meilleures dans notre travail en général. Mais à mesure que notre dépendance à l’égard de cette technologie novatrice augmente rapidement, nous devons nous rappeler d’un simple fait : l’IA n’est pas infaillible. Ses sorties ne doivent pas être prises au pied de la lettre, car, tout comme les humains, l’IA peut faire des erreurs.

Nous appelons ces erreurs « hallucinations de l’IA ». De telles erreurs vont de la réponse incorrecte à un problème mathématique à la fourniture d’informations inexactes sur les politiques gouvernementales. Dans les industries hautement réglementées, les hallucinations peuvent entraîner des amendes coûteuses et des problèmes juridiques, sans oublier les clients insatisfaits.

La fréquence des hallucinations de l’IA devrait donc être une cause de préoccupation : il est estimé que les modèles de langage grandeur nature (LLM) modernes hallucinent entre 1 % et 30 % du temps. Cela se traduit par des centaines de réponses fausses générées quotidiennement, ce qui signifie que les entreprises qui cherchent à exploiter cette technologie doivent être extrêmement sélectives lors du choix des outils à mettre en œuvre.

Explorons pourquoi les hallucinations de l’IA se produisent, ce qui est en jeu et comment nous pouvons les identifier et les corriger.

Garbage in, garbage out

Rappelez-vous avoir joué au jeu « téléphone » lorsqu vous étiez enfant ? Comment la phrase de départ se déformait-elle à mesure qu’elle passait d’un joueur à l’autre, aboutissant à une déclaration complètement différente une fois qu’elle avait fait le tour du cercle ?

La façon dont l’IA apprend à partir de ses entrées est similaire. Les réponses que les LLM génèrent ne sont meilleures que les informations qu’ils reçoivent, ce qui signifie que le contexte incorrect peut conduire à la génération et à la diffusion d’informations fausses. Si un système d’IA est construit à partir de données inexactes, obsolètes ou biaisées, ses sorties reflèteront cela.

Comme tel, un LLM n’est meilleur que ses entrées, en particulier lorsqu’il y a un manque d’intervention ou de surveillance humaine. Alors que des solutions d’IA plus autonomes se multiplient, il est crucial que nous fournissions aux outils le contexte de données correct pour éviter de provoquer des hallucinations. Nous avons besoin d’un entraînement rigoureux de ces données, et/ou de la capacité de guider les LLM de telle sorte qu’ils répondent uniquement à partir du contexte qui leur est fourni, plutôt que de puiser des informations n’importe où sur Internet.

Pourquoi les hallucinations sont-elles importantes ?

Pour les entreprises qui ont des contacts avec les clients, l’exactitude est tout. Si les employés s’appuient sur l’IA pour des tâches telles que la synthèse des données client ou la réponse aux requêtes client, ils doivent pouvoir faire confiance aux réponses que ces outils génèrent sont exactes.

Sinon, les entreprises risquent des dommages à leur réputation et à la loyauté de leurs clients. Si les clients sont nourris avec des réponses insuffisantes ou fausses par un chatbot, ou s’ils sont laissés en attente pendant que les employés vérifient les sorties du chatbot, ils peuvent emmener leurs affaires ailleurs. Les gens ne devraient pas avoir à s’inquiéter de savoir si les entreprises avec lesquelles ils interagissent leur fournissent de fausses informations – ils veulent un soutien rapide et fiable, ce qui signifie que ces interactions sont d’une importance capitale.

Les dirigeants d’entreprise doivent faire preuve de diligence lors de la sélection de l’outil d’IA approprié pour leurs employés. L’IA est censée libérer du temps et de l’énergie pour que le personnel se concentre sur des tâches à plus forte valeur ajoutée ; investir dans un chatbot qui nécessite une surveillance humaine constante va à l’encontre de l’objectif même de l’adoption. Mais l’existence d’hallucinations est-elle vraiment si importante ou le terme est-il simplement utilisé à tort pour identifier toute réponse que nous supposons être incorrecte ?

Combattre les hallucinations de l’IA

Prenez en considération : la théorie du sens dynamique (DMT), le concept qu’une compréhension entre deux personnes – dans ce cas, l’utilisateur et l’IA – est échangée. Mais les limites du langage et de la connaissance des sujets provoquent un décalage dans l’interprétation de la réponse.

Dans le cas des réponses générées par l’IA, il est possible que les algorithmes sous-jacents ne soient pas encore pleinement équipés pour interpréter ou générer du texte d’une manière qui correspond aux attentes que nous avons en tant qu’humains. Cette discordance peut conduire à des réponses qui peuvent sembler exactes en surface mais qui manquent finalement de profondeur ou de nuance nécessaires pour une véritable compréhension.

De plus, la plupart des LLM à usage général ne puisent des informations que dans le contenu disponible publiquement sur Internet. Les applications d’entreprise de l’IA fonctionnent mieux lorsqu’elles sont informées par des données et des politiques spécifiques à des industries et des entreprises individuelles. Les modèles peuvent également être améliorés avec des commentaires humains directs – en particulier des solutions agissantes conçues pour répondre au ton et à la syntaxe.

De tels outils devraient également être testés de manière stricte avant de devenir accessibles aux consommateurs. Ceci est une partie cruciale de la prévention des hallucinations de l’IA. L’ensemble du flux devrait être testé à l’aide de conversations basées sur des tours avec le LLM jouant le rôle d’une personnalité. Cela permet aux entreprises de mieux supposer le succès général des conversations avec un modèle d’IA avant de le lancer dans le monde.

Il est essentiel que les développeurs et les utilisateurs de la technologie d’IA soient conscients de la théorie du sens dynamique dans les réponses qu’ils reçoivent, ainsi que de la dynamique du langage utilisé dans l’entrée. Rappelez-vous, le contexte est clé. Et, en tant qu’humains, la plupart de notre contexte est compris par des moyens non verbaux, que ce soit par le langage corporel, les tendances sociétales – même notre ton. En tant qu’humains, nous avons le potentiel de halluciner en réponse à des questions. Mais, dans notre version actuelle de l’IA, notre compréhension humaine à humaine n’est pas si facilement contextualisée, nous devons donc être plus critiques du contexte que nous fournissons par écrit.

Il suffit de dire – tous les modèles d’IA ne sont pas créés égaux. Alors que la technologie se développe pour effectuer des tâches de plus en plus complexes, il est crucial que les entreprises qui envisagent de la mettre en œuvre identifient les outils qui amélioreront les interactions et les expériences client plutôt que de les détériorer.

La charge ne repose pas uniquement sur les fournisseurs de solutions pour s’assurer qu’ils ont tout fait pour minimiser les chances que des hallucinations se produisent. Les acheteurs potentiels ont également leur rôle à jouer. En donnant la priorité à des solutions qui sont rigoureusement formées et testées et qui peuvent apprendre à partir de données propriétaires (plutôt que n’importe quoi et tout sur Internet), les entreprises peuvent tirer le meilleur parti de leurs investissements dans l’IA pour mettre en place le succès de leurs employés et de leurs clients.