Pourquoi de meilleures données ne suffisent pas aux agents d’IA

Depuis des années, l’un des conseils les plus répandus en matière d’IA en entreprise consiste à commencer par mettre les données en ordre. La logique est simple : pour qu’un système puisse prendre des décisions utiles, il doit disposer d’informations exactes et accessibles.

Cette affirmation reste vraie aujourd’hui, mais elle devient insuffisante à mesure que les agents d’IA passent de la réponse aux questions et de la création de contenu à l’exécution d’actions pour le compte des employés et des organisations. Les données peuvent indiquer à un agent ce qui est vrai au sujet d’un client, d’une transaction, d’une réclamation ou d’une demande, mais elles ne lui disent pas nécessairement quelle doit être la prochaine étape, ni quelles seraient les conséquences d’une action. Cette distinction est importante lorsqu’un agent ne se contente plus de fournir une réponse, mais approuve une demande, met à jour un dossier, contacte un client ou fait avancer une affaire.

Les employés des entreprises doivent apprendre à évoluer dans un cadre comprenant des chaînes d’approbation, des règles métier, des dépendances, des exceptions et des procédures d’escalade ; les agents doivent pouvoir en faire autant. Avec Gartner qui prévoit que 40 % des applications d’entreprise intégreront des agents d’IA conçus pour des tâches spécifiques d’ici à la fin de 2026, contre moins de 5 % en 2025, les lacunes dans les connaissances des agents seront de plus en plus difficiles à ignorer. 

Gartner prévoit également que, d’ici à 2028, 80 % du retour sur investissement tangible de l’IA agentique proviendra d’agents spécialisés dans des domaines précis. La spécialisation est importante, mais elle ne résout qu’une partie du problème. La connaissance d’un domaine particulier n’indique pas automatiquement à un agent où commencent et où s’arrêtent ses responsabilités, comment sa tâche s’inscrit dans un processus plus vaste ni qui doit prendre le relais lorsque la situation sort de son périmètre. Pour participer de manière fiable aux activités d’une entreprise, les agents ont besoin à la fois de comprendre les processus de travail et de disposer de données métier.

De bonnes données n’indiquent pas à un agent quelle sera la prochaine étape

Prenons le cas d’une demande de prêt : un agent pourrait avoir accès aux antécédents financiers du demandeur, à ses renseignements professionnels et à d’autres dossiers pertinents. Ces informations peuvent l’aider à comprendre la demande, mais elles ne lui indiquent pas comment l’organisation la traite.

Quelles vérifications faut-il effectuer en premier ? Que se passe-t-il si le demandeur remplit une condition, mais pas une autre ? Quelles informations sont obligatoires avant que le dossier puisse avancer ? Quelles décisions peuvent être prises automatiquement, et lesquelles doivent être transmises à un analyste de crédit ?

La plupart des activités en entreprise comportent de tels parcours conditionnels. Un processus peut avancer automatiquement lorsque certains critères sont remplis, s’interrompre le temps de recueillir des informations supplémentaires ou suivre une tout autre voie lorsqu’une exception survient. La prochaine étape appropriée dépend non seulement des informations disponibles, mais aussi de l’état d’avancement du travail et de ce qui s’est déjà produit.

Cela change la définition de la fiabilité pour un agent d’entreprise. Une réponse exacte ne suffit pas si l’action suivante est erronée. Un agent peut interpréter correctement les informations dont il dispose et tout de même faire passer un dossier à la mauvaise étape, omettre l’approbation requise ou agir avant qu’une dépendance ait été résolue.

McKinseya récemment présenté les enseignements tirés de son travail avec une entreprise de technologies médicales qui a découvert que la plateforme d’IA qu’elle utilisait ne pouvait pas prendre en charge plusieurs de ses principales règles de processus. Plutôt que de retarder la date de lancement pour combler ces lacunes, l’entreprise a poursuivi comme prévu et a finalement laissé inexploités, selon les estimations, 30 % de la valeur attendue de l’IA. Cet exemple souligne que les entreprises doivent tenir compte du processus entourant une tâche, et pas seulement des informations nécessaires à son exécution. 

Adapter les garde-fous aux décisions qu’un agent peut prendre

À mesure que les agents deviennent capables d’agir, leur gouvernance doit elle aussi gagner en précision. Un agent qui récupère un document de politique interne ne présente pas le même niveau de risque qu’un agent qui modifie le compte d’un client, approuve un paiement ou lance une transaction. Pourtant, les organisations peuvent facilement tomber dans l’un de deux extrêmes : laisser les agents agir avec trop de liberté ou exiger une approbation humaine pour presque tout.

Les contrôles encadrant un agent doivent tenir compte des décisions qu’il peut prendre et de leurs conséquences potentielles. Il peut être approprié de laisser l’agent effectuer de manière autonome une action répétitive à faible risque. Une autre action peut nécessiter une approbation au-delà d’un certain montant. Un cas inhabituel peut devoir être immédiatement transmis à un employé.

La supervision humaine est plus utile lorsqu’elle est délibérée. Si une personne doit approuver chaque étape courante, une grande partie des avantages liés à l’introduction d’un agent disparaît. Mais supprimer les points de contrôle pour des décisions qui exigent véritablement du discernement ou une obligation de rendre des comptes crée un autre problème.

IBM Research a plaidé en faveur de règles explicites encadrant les actions que les agents sont autorisés à entreprendre et les moments où une supervision humaine est requise. Ces contrôles doivent également tenir compte du processus auquel l’agent participe. L’autorité d’un agent ne reste pas nécessairement inchangée du début à la fin d’un dossier. Ce qu’il peut faire sans risque peut dépendre de l’étape du processus, des informations déjà vérifiées, des décisions précédemment prises et des conséquences de l’action suivante.

Cela signifie que les organisations doivent intégrer la gouvernance au flux de travail lui-même. Au lieu d’attribuer à un agent un large éventail d’autorisations et de compter sur lui en toutes circonstances, elles peuvent définir les situations dans lesquelles il est autorisé à agir de manière autonome, celles où des conditions supplémentaires doivent être remplies et celles où la responsabilité doit être transférée à une personne. La question porte alors moins sur le caractère autonome d’un agent que sur les situations où l’autonomie est pertinente dans un processus.

Les agents doivent s’intégrer à l’entreprise telle qu’elle existe déjà

Le contexte du processus devient encore plus important lorsqu’un agent doit interagir avec le reste de l’entreprise. Les organisations ne partent pas d’une page blanche. Une demande d’un client peut déjà circuler entre un CRM, un référentiel de documents, une plateforme de gestion des dossiers et un système ERP, tout en mobilisant des employés de plusieurs services.

Introduire un agent dans une partie de cet environnement ne rend pas automatiquement l’ensemble du processus plus efficace. Un agent peut accomplir parfaitement sa tâche, mais si un employé doit ensuite copier son résultat dans une autre application, déterminer à qui le transmettre ou relancer manuellement le processus ailleurs, le goulot d’étranglement a simplement été déplacé.

C’est pourquoi les entreprises doivent considérer les agents comme des participants à un processus plus vaste, plutôt que comme des outils isolés. Qu’est-ce qui déclenche l’intervention de l’agent ? Quelles informations reçoit-il ? De quoi est-il responsable ? Où le travail est-il transféré une fois sa tâche terminée ? Et que se passe-t-il lorsqu’il ne peut pas accomplir sa tâche ?

Ces questions deviennent encore plus importantes lorsque les organisations mettent en place plusieurs agents spécialisés. Deloitte a identifié l’orchestration comme une exigence essentielle pour les entreprises qui évoluent vers des systèmes multi-agents, dans lesquels différents agents peuvent assumer des rôles distincts et coordonner leurs tâches. L’orchestration à l’échelle de l’entreprise doit aussi encadrer la manière dont les agents communiquent et se coordonnent entre eux, et pas seulement leur fonctionnement individuel. Sans cette supervision, les agents risquent d’agir sur la base d’un contexte incomplet, de déclencher des actions contradictoires ou de contourner les règles opérationnelles et les processus d’approbation établis. Les agents continuent de fonctionner au sein d’organisations qui disposent déjà d’applications, d’employés, de règles opérationnelles et de processus pouvant s’étendre sur plusieurs jours, semaines ou mois.

Commencez par définir le processus à accomplir et déterminez la place qu’y occupent les agents, les personnes et les systèmes existants. Un agent peut prendre en charge une étape de manière autonome, un autre effectuer une vérification spécialisée, un employé porter un jugement et un système existant exécuter la transaction finale. L’essentiel est que le travail puisse passer d’un participant à l’autre sans perdre son contexte en cours de route.

L’autonomie nécessite un cadre

Donner davantage de cadre aux agents ne signifie pas qu’il faut ajouter une couche de restrictions à chaque action. En fait, c’est parfois l’inverse. Des processus clairement définis peuvent renforcer la confiance des organisations dans la capacité des agents à agir de manière autonome, car les limites, les exceptions et les points d’escalade ont déjà été établis. Un agent n’a pas besoin d’une liberté illimitée pour apporter une réelle valeur ajoutée. Il lui faut suffisamment de responsabilités pour faire avancer le travail, suffisamment de contexte pour savoir quelle est la prochaine étape et une compréhension claire des situations où la responsabilité doit être confiée à quelqu’un d’autre.

De meilleures données continueront d’accroître les capacités des agents. Mais leurs capacités, à elles seules, ne rendent pas un agent utile au sein d’une entreprise. Le véritable critère est sa capacité à prendre la bonne mesure, au bon moment dans un processus et dans les limites établies par l’entreprise.