Leaders d’opinion

Avant de déployer les agents d’IA à grande échelle, demandez-vous ce qu’ils ignorent

Dror Nadler
Ajouter Unite.AI à vos sources préférées sur Google
Points clésLes réponses confiantes échouent lorsque les agents omettent le contexte, comme des…
Voir plus
  • Les réponses confiantes échouent lorsque les agents omettent le contexte, comme des dates de dépôt périmées ou des différences de calendrier fiscal.
  • Près de 6 entreprises sur 10 ont attribué une réponse d'IA confiante mais erronée à un contexte commercial manquant ou incomplet.
  • La révision humaine doit être proportionnée aux enjeux, car des données correctes partagées de manière inappropriée peuvent encore enfreindre les réglementations.

Imaginez la scène : un directeur financier se prépare à une réunion avec un grand investisseur institutionnel. Pour l’aider à préparer cette rencontre, l’équipe des relations investisseurs demande à un outil d’IA de rassembler quelques informations générales : la date de la dernière réunion avec cette entreprise, les priorités exprimées, le nombre d’actions détenues, entre autres.

L’outil affirme avec assurance que l’investisseur détient 2,5 millions d’actions. Personne ne bronche, et le directeur financier poursuit sans hésiter la préparation de cette importante conversation.

Mais il y a un hic : l’IA a tiré ce chiffre d’une déclaration Formulaire 13F, qui indique les participations à la fin du trimestre précédent. L’information était exacte au moment de sa publication… mais elle date maintenant de plusieurs mois. Entre-temps, l’investisseur a discrètement vendu 2 millions d’actions, réduisant considérablement sa position. L’ordre du jour de la réunion (et peut-être même la réunion elle-même !) ne semble plus pertinent.

Que s’est-il passé ? Dans ce scénario, l’IA n’a pas halluciné ni inventé de chiffre. Elle a trouvé une information légitime, mais n’a pas précisé les réserves qui s’y appliquaient ni expliqué ses limites.

Dans ce cas, les conséquences pourraient se limiter à une conversation embarrassante ou à une occasion manquée. Mais, dans d’autres situations, une réponse tout aussi catégorique, mais dépourvue d’un contexte essentiel, peut comporter des risques encore plus importants.

De meilleurs modèles ne sont pas nécessairement la solution

Les modèles fondamentaux ne cessent de s’améliorer. Alors, pourquoi les réponses formulées avec assurance, mais erronées, semblent-elles se multiplier, au point que les entreprises de tous les secteurs peinent à y faire face ?

Tout d’abord, l’IA générative est désormais omniprésente. Selon le rapport de McKinsey L’état de l’IA en 2026, près de 9 professionnels sur 10 déclarent que leur entreprise utilise régulièrement l’IA dans au moins une fonction.

À mesure que les entreprises dépassent le stade de l’expérimentation et s’appuient de plus en plus sur l’IA pour les tâches et les décisions courantes, elles se heurtent aussi aux limites de ce que ces outils savent et comprennent.

Une récente enquête sectorielle met en évidence l’une des causes fréquentes du problème : au cours des six derniers mois seulement, près de 6 entreprises sur 10 (57 %) ont attribué une réponse assurée, mais erronée, d’un agent d’IA à un contexte métier manquant ou incomplet.

Compte tenu de toutes les données auxquelles l’IA a accès, cela peut surprendre. Mais une distinction importante s’impose : le contexte n’est pas la même chose que les données.

Ce que recouvre le contexte — et ce qu’il ne recouvre pas

Le contexte peut englober les connaissances institutionnelles, les exceptions aux règles, les relations, les processus et les attentes concernant la manière dont le travail s’accomplit — autant de nuances souvent propres à chaque entreprise.

Dans le cadre de mon travail avec des équipes chargées des relations investisseurs, je constate à quel point ces distinctions peuvent être importantes. Voici quelques exemples qui semblent simples à première vue :

  • Calendriers financiers : pour une entreprise, le premier trimestre peut correspondre à l’année civile, tandis que pour une autre, il commence en septembre. Sans ce contexte, un agent d’IA pourrait comparer les résultats de périodes de déclaration différentes.
  • Indicateurs financiers : une entreprise peut publier son bénéfice par action selon les normes GAAP et hors normes GAAP. Un agent qui ne comprend pas lequel citer, et à quel moment, risque de donner une image trompeuse des résultats de l’entreprise.
  • Discours de l’entreprise : la communication d’une entreprise évolue au fil du temps, au gré de choix délibérés sur les éléments à mettre en avant et ceux à passer sous silence. Sans comprendre l’historique et les raisons de ces choix, un agent d’IA pourrait produire du contenu qui compromettrait en réalité un discours élaboré avec soin.

Compte tenu de tout cela, il n’est pas surprenant qu’un même modèle sous-jacent puisse produire des résultats très différents d’une entreprise à l’autre, selon le contexte et les connaissances spécialisées auxquels il a accès.

Une IA conçue pour un usage précis et adaptée à un secteur particulier, parfois dite « verticale », peut contribuer à combler certaines lacunes en tenant compte des connaissances spécialisées, des flux de travail et des nuances propres à ce secteur. Mais même la technologie la plus sophistiquée ne peut saisir tout ce qu’une entreprise sait, d’où le rôle essentiel des humains.

Ce que l’IA ignore de votre entreprise

Mais les humains ne restent pas éternellement. Voyons ce qui se passe lorsqu’un responsable expérimenté des relations investisseurs quitte son entreprise après, disons, cinq ans. Il a probablement consacré son temps à repérer et à cibler des investisseurs potentiels, à analyser l’activité des actionnaires, à cultiver des relations, à préparer les résultats financiers et à préparer les dirigeants… et à bien d’autres tâches encore.

L’entreprise conserve les scripts de présentation des résultats, les présentations et les autres fichiers. Mais les connaissances institutionnelles qui les sous-tendent ? Une bonne partie s’en va aussi avec la personne, d’autant plus que près de huit responsables des relations investisseurs sur dix (78 %) n’ont pas de successeur désigné à leur poste.

C’est pourquoi les entreprises doivent s’efforcer de préserver leurs connaissances et leur savoir-faire sous une forme exploitable par les systèmes d’IA. Il ne suffit souvent pas de connecter un agent d’IA à un lecteur partagé.

Disposer d’un moyen de consigner systématiquement les connaissances et les processus de travail essentiels — comme le raisonnement qui sous-tend les décisions importantes, l’historique des relations et d’autres informations essentielles à la mission qui n’ont jamais été consignées dans un document officiel — est important pour les entreprises de tous les secteurs.

Et pour alimenter une telle base de connaissances, il faut des personnes : à la fois pour consigner les informations et pour exercer leur jugement à leur sujet. L’IA peut aider à organiser les connaissances, mais ce sont les employés qui apportent le contexte essentiel qui échappe souvent à la technologie.

Dans les situations à forts enjeux, les lacunes de contexte peuvent avoir de lourdes conséquences

Nous avons vu ce qui se passe lorsque l’IA donne une mauvaise réponse. Mais il arrive qu’un agent d’IA récupère des informations exactes — à jour et pertinentes — et crée tout de même des problèmes en les communiquant dans des circonstances inappropriées.

Dans les secteurs fortement réglementés, ces faux pas coûtent particulièrement cher.

Dans les relations avec les investisseurs, par exemple, communiquer à un analyste ou à un investisseur des informations importantes non publiques (MNPI), comme des résultats financiers non publiés, peut constituer une violation du règlement américain Fair Disclosure (Reg FD) de la SEC — et entraîner des sanctions financières ainsi qu’une atteinte à la réputation.

D’autres secteurs, comme la santé, les services financiers et les services juridiques, sont exposés à des risques réglementaires similaires, ce qui souligne la nécessité de mettre en place des garde-fous lorsque des agents d’IA ont accès à des informations sensibles.

Cela montre également pourquoi les humains restent indispensables : ils jouent un rôle essentiel dans l’examen et l’approbation des communications. Les entreprises peuvent envisager d’adapter le niveau de contrôle humain aux enjeux, en faisant fonctionner différents types de processus d’IA avec des degrés d’autonomie différents.

Trois questions à se poser avant de déployer des agents d’IA à grande échelle

Nous avons probablement tous vécu des situations, au travail ou dans la vie en général, où nous ignorions ce que nous ne savions pas. Parfois, les conséquences sont sans gravité ; d’autres fois, elles sont plus sérieuses.

Avec les gigantesques ensembles de données auxquels l’IA a accès aujourd’hui, les modèles d’IA en savent beaucoup plus… mais doivent tout de même « signaler » les lacunes. Ainsi, à mesure que les entreprises s’appuient sur l’IA pour répondre à des priorités et à des processus de travail plus stratégiques, il est important de se poser les questions suivantes avant de la déployer à grande échelle :

  • Notre agent peut-il indiquer d’où proviennent ses réponses — et quand ces informations ont été mises à jour pour la dernière fois ? Peut-il fournir ces informations sans qu’on le lui demande ?
  • L’agent dispose-t-il du contexte métier nécessaire pour interpréter les demandes et y répondre ? Précisera-t-il ses limites ?
  • Savons-nous quand une intervention humaine est nécessaire pour examiner et approuver ? Dans quelles circonstances cela se produira-t-il, et comment l’examen sera-t-il déclenché ?

La solution n’est pas d’éviter l’IA

Je tiens à le dire clairement : je suis très optimiste quant à l’IA. Je l’utilise chaque jour dans le cadre de mon travail, je constate ses avantages actuels et futurs, et je pense que, à bien des égards, nous ne faisons qu’effleurer son potentiel. Je ne doute pas que les entreprises qui évitent l’IA, ainsi que celles qui ne parviennent pas à la mettre en œuvre de manière organisée et efficace, courent un réel risque de prendre du retard.

Mais adopter l’IA ne signifie pas donner à un modèle généraliste accès aux données de l’entreprise et le laisser agir n’importe comment.

À l’heure actuelle, et d’après ce que je peux constater, l’IA entièrement autonome ne convient pas à toutes les tâches ni à toutes les décisions d’une entreprise. Les organisations doivent comprendre dans quels domaines l’IA peut fonctionner de manière autonome, dans quels cas elle a besoin de contexte supplémentaire et dans quelles situations le jugement humain est indispensable.

Alors, avant de demander ce qu’un agent d’IA sait, demandez-vous ce qu’il ne sait pas. Les réponses déterminent la manière dont vous le déployez, les tâches que vous lui confiez et la façon de le préparer à réussir.

Dror Nadler est directeur des produits chez Q4 Inc., où il dirige la stratégie produit et l’innovation, aidant les équipes des relations investisseurs à tirer parti de l’IA, des données et de la technologie pour gagner en efficacité. Il possède plus de 25 ans d’expérience dans les technologies d’entreprise, le SaaS et les services financiers, et a précédemment occupé des postes de direction chez Intralinks, Cellrox, Rapid7 et EMC. Tout au long de sa carrière, Dror s’est consacré au développement et à la mise à l’échelle de produits technologiques, à la stimulation de l’innovation et à l’accélération de la croissance des entreprises. Il est titulaire d’un MBA exécutif de Boston University, d’un master en technologies de l’information de Harvard University et d’un diplôme en droit de Reichman University.