Si Votre IA Hallucine, Ne Blâmez Pas L’IA

Les « hallucinations » de l’IA – ces réponses fausses mais convaincantes – attirent beaucoup d’attention des médias, comme dans l’article récent du New York Times, L’IA Devient Plus Puissante, Mais Ses Hallucinations S’aggravent. Les hallucinations sont un danger réel lorsque vous avez affaire à un chatbot pour les consommateurs. Dans le contexte des applications commerciales de l’IA, c’est une préoccupation encore plus grave. Heureusement, en tant que leader en technologie d’entreprise, j’ai plus de contrôle sur cela. Je peux m’assurer que l’agent a les bonnes données pour produire une réponse significative.

Parce que c’est le véritable problème. Dans les entreprises, il n’y a pas d’excuse pour les hallucinations de l’IA. Arrêtez de blâmer l’IA. Blâmez-vous-même pour ne pas utiliser l’IA correctement.

Lorsque les outils d’IA générative hallucinent, ils font ce pour quoi ils sont conçus – fournir la meilleure réponse possible en fonction des données disponibles. Lorsqu’ils inventent des choses, en produisant une réponse qui n’est pas basée sur la réalité, c’est parce qu’ils manquent de données pertinentes, ne peuvent pas les trouver ou ne comprennent pas la question. Oui, les nouveaux modèles comme o3 et o4-mini d’OpenAI hallucinent plus, agissant de manière encore plus « créative » lorsqu’ils n’ont pas de bonne réponse à la question qui leur est posée. Oui, les outils plus puissants peuvent halluciner davantage – mais ils peuvent également produire des résultats plus puissants et plus précieux si nous les configurons pour réussir.

Si vous ne voulez pas que votre IA hallucine, ne la privez pas de données. Alimentez l’IA avec les meilleures données les plus pertinentes pour le problème que vous voulez qu’elle résolve, et elle ne sera pas tentée de s’écarter.

Même ainsi, lorsque vous travaillez avec n’importe quel outil d’IA, je vous recommande de conserver vos capacités de pensée critique intactes. Les résultats que les agents d’IA fournissent peuvent être productifs et délicieux, mais le but n’est pas de débrancher votre cerveau et de laisser le logiciel faire tout le travail à votre place. Posez des questions. Lorsqu’un agent d’IA vous donne une réponse, questionnez cette réponse pour vous assurer qu’elle a du sens et est étayée par des données. Si c’est le cas, cela devrait être un signe encourageant que cela vaut la peine de poser des questions de suivi.

Plus vous questionnez, meilleures seront les insights que vous obtiendrez.

Pourquoi les hallucinations se produisent

Ce n’est pas un mystère. L’IA n’essaie pas de vous mentir. Chaque grand modèle de langage (LLM) est essentiellement une prédiction du mot ou du nombre suivant en fonction de la probabilité.

À un niveau élevé, ce qui se passe ici, c’est que les LLM assemblent des phrases et des paragraphes un mot à la fois, en prédisant le mot suivant qui devrait apparaître dans la phrase en fonction de milliards d’autres exemples dans ses données d’entraînement. Les ancêtres des LLM (à l’exception de Clippy) étaient des invites d’autocomplétion pour les messages texte et le code informatique, des outils de traduction automatique de la langue humaine et d’autres systèmes linguistiques probabilistes. Avec une augmentation de la puissance de calcul brute et une formation sur des volumes de données à l’échelle d’Internet, ces systèmes sont devenus « intelligents » au point de pouvoir mener une conversation complète sur le chat, comme le monde l’a appris avec l’introduction de ChatGPT.

Les détracteurs de l’IA aiment souligner que ce n’est pas la même chose que la « véritable » intelligence, mais seulement un logiciel qui peut distiller et régurgiter l’intelligence humaine qui lui a été fournie. Demandez-lui de résumer des données dans un rapport écrit, et il imite la façon dont d’autres rédacteurs ont résumé des données similaires.

Cela me semble être un argument académique tant que les données sont correctes et que l’analyse est utile.

Que se passe-t-il si l’IA n’a pas les données ? Elle remplit les blancs. Parfois, c’est drôle. Parfois, c’est un véritable gâchis.

Lors de la construction d’agents d’IA, ce risque est multiplié par 10. Les agents sont censés fournir des insights actionnables, mais ils prennent plus de décisions en cours de route. Ils exécutent des tâches mult étapes, où le résultat de l’étape 1 informe les étapes 2, 3, 4, 5, … 10 … 20. Si les résultats de l’étape 1 sont incorrects, l’erreur sera amplifiée, rendant la sortie à l’étape 20 encore pire. Surtout, les agents peuvent prendre des décisions et sauter des étapes.

Si cela est fait correctement, les agents réalisent plus pour l’entreprise qui les déploie. Cependant, en tant que responsables de produits d’IA, nous devons reconnaître le risque accru qui accompagne la récompense accrue.

C’est ce que notre équipe a fait. Nous avons vu le risque et l’avons affronté. Nous n’avons pas simplement construit un robot sophistiqué ; nous nous sommes assurés qu’il fonctionne avec les bonnes données. Voici ce que je pense que nous avons fait correctement :

• Construire l’agent pour poser les bonnes questions et vérifier qu’il a les bonnes données. Assurez-vous que le processus d’entrée de données initial de l’agent est réellement plus déterministe, moins « créatif ». Vous voulez que l’agent dise lorsqu’il n’a pas les bonnes données et ne continue pas à l’étape suivante, plutôt que d’inventer les données.
• Structurer un livre de jeu pour votre agent – assurez-vous qu’il n’invente pas un nouveau plan chaque fois, mais a une approche semi-structurée. La structure et le contexte sont extrêmement importants au stade de la collecte et de l’analyse des données. Vous pouvez laisser l’agent se détendre et agir de manière plus « créative » lorsqu’il a les faits et est prêt à rédiger le résumé, mais d’abord, obtenez les faits corrects.
• Construire un outil de haute qualité pour extraire les données. Cela devrait être plus qu’un simple appel d’API. Prenez le temps d’écrire le code (les gens le font encore) qui produit la quantité et la variété de données qui seront collectées, en intégrant des contrôles de qualité dans le processus.
• Faire en sorte que l’agent montre son travail. L’agent devrait citer ses sources et lier à l’endroit où l’utilisateur peut vérifier les données, à partir de la source d’origine, et les explorer plus en détail. Aucun tour de passe-passe autorisé !
• Garde-fous : Réfléchissez à ce qui pourrait mal se passer et construisez des protections contre les erreurs que vous ne pouvez absolument pas permettre. Dans notre cas, cela signifie que lorsque l’agent chargé d’analyser un marché n’a pas les données – ce que je veux dire par nos données Similarweb, et non une source de données aléatoire tirée du web – s’assurer qu’il n’invente rien est un garde-fou essentiel. Il vaut mieux que l’agent ne puisse pas répondre que de fournir une réponse fausse ou trompeuse.

Nos agents sont-ils parfaits ? Non. Personne ne crée encore d’IA parfaite, pas même les plus grandes entreprises du monde. Mais affronter le problème, c’est bien mieux que l’ignorer.

Vous voulez moins d’hallucinations ? Donnez à votre IA un joli morceau de données de haute qualité.

Si elle hallucine, peut-être n’est-ce pas l’IA qui a besoin d’être réparée. Peut-être que c’est votre approche pour tirer parti de ces nouvelles capacités puissantes sans prendre le temps et les efforts pour les faire correctement.