L’IA d’entreprise dépend de données sur lesquelles les gens peuvent avoir confiance

En 2025, les entreprises ont investi entre 30 et 40 milliards de dollars dans l’IA générative, pourtant le projet NANDA du MIT a constaté que seulement 5 % des plus de 300 déploiements d’entreprise qu’il a examinés produisaient des retours financiers mesurables.

J’ai passé plus de 25 ans à travailler au sein de programmes de données d’entreprise. Bien avant que l’IA générative ne fasse partie des discussions, j’ai constaté à quelle vitesse la technologie perdait en crédibilité lorsque les gens ne pouvaient pas se fier aux données qui la sous-tendaient. L’IA générative augmente les enjeux car elle peut transformer des données douteuses en une réponse fiable.

Nous disions autrefois « garbage in, garbage out ». Aujourd’hui, c’est « garbage in, disaster out ». Lorsque les données semblaient suspectes, une personne pouvait faire appel à son jugement et contacter un spécialiste des données. Ce spécialiste effectuait une analyse des causes profondes, identifiait le problème et appliquait une correction. Aujourd’hui, les agents peuvent agir sur n’importe quelles données qu’ils rencontrent. Sans une supervision humaine éclairée, le résultat peut devenir partie intégrante des opérations, être utilisé dans les décisions et se propager à l’ensemble de l’organisation.

Le même problème peut apparaître dans un chatbot. Une gouvernance négligée peut transformer des données mauvaises ou mal comprises en une réponse qui semble autoritaire, immédiatement et à grande échelle.

La confiance est le véritable goulot d’étranglement de l’adoption

Lorsqu’un chatbot interne fournit à quelqu’un une réponse confiante mais erronée, cette personne ne lui fera plus confiance. Dans une grande organisation, l’IA découvrira également les données que vous préféreriez qu’elle ne trouve pas. Je la compare aux chaussettes sales sous le lit : ces données peuvent être hors de vue, mais l’IA les dénichera et les utilisera.

Le contexte doit accompagner les données et constituer la base sur laquelle les LLM s’appuient. Avant qu’un modèle d’IA n’utilise des données, il faut que les gens sachent ce qu’elles signifient, d’où elles proviennent, qui en est propriétaire et quelles règles commerciales et politiques les encadrent.

La direction peut négliger cela parce que le système ne plante que rarement. L’IA peut se tromper avec assurance ; elle peut même suggérer de la colle pour votre pizza (exemple très ancien). Imaginez un chatbot qui donne une réponse confiante mais erronée, et que les employés cessent de lui faire confiance. Reconstruire cette confiance prend bien plus de temps que d’instaurer dès le départ les bons contrôles.

Cette érosion apparaît également dans les données. Les employés de plus de 90 % des entreprises MIT a étudié continuent d’utiliser des outils d’IA personnels en parallèle, même après que le pilote officiel mis en place par leur employeur n’a pas gagné leur confiance. Lorsque l’outil approuvé n’a pas gagné leur confiance, les employés trouvent une autre façon d’accomplir leur travail.

Une grande partie des recherches en IA de cette année pointe vers le même problème: les organisations avancent avec l’IA avant d’avoir accompli le travail nécessaire pour rendre leurs données fiables. Gartner a estimé que près de deux tiers des organisations manquent soit des bonnes pratiques de gestion des données pour l’IA, soit ne sont pas sûres de les posséder. Une étude distincte d’IDC a constaté un écart similaire du côté de la confiance: 78 % des organisations déclarent faire pleinement confiance à leur IA, mais seulement 40 % ont réellement investi dans la gouvernance et le travail d’explicabilité qui justifierait cette confiance.

Le décalage entre confiance et investissement aide à expliquer pourquoi tant d’initiatives d’IA s’enlisent avant d’atteindre la production ou ne parviennent pas à correspondre à la valeur attendue.

La gouvernance de l’IA est désormais l’avantage concurrentiel

Pendant la majeure partie de ma carrière, la gouvernance des données était l’un des aspects les moins glamours de l’informatique d’entreprise. Cataloguer les métadonnées,, définir la propriété, profiler les données et gérer les flux de travail pouvait ressembler à du travail de conciergerie. Les gens l’omettaient souvent parce que l’effort semblait supérieur à la valeur générée.

L’IA a changé cela. Elle devient une capacité de gouvernance dans des domaines tels que la conception de plans de données, la création de glossaires élaborés par l’industrie, ainsi que la recommandation et l’activation de politiques de données. Même la traçabilité des données peut désormais être déduite et rationalisée plus rapidement qu’auparavant, rendant la valeur des pipelines de données gérés et de l’observabilité plus facile à concrétiser.

La réglementation rend également la transparence des données plus urgente. Le EU AI Act est devenu largement applicable le 2 août 2026, incluant des règles de transparence pour certains systèmes et contenus générés par l’IA. La loi établit également des exigences distinctes pour les systèmes à haut risque, incluant la documentation et les informations qui aident les déployeurs à interpréter leurs résultats, bien que certaines dispositions à haut risque suivent des calendriers ultérieurs.

Pour les entreprises, la leçon pratique est simple: une traçabilité et une gouvernance claires facilitent la documentation des données utilisées, de leur provenance et du mode de fonctionnement prévu du système.

Le cadre réglementaire américain reste incertain. En l’absence d’une loi fédérale exhaustive sur l’IA, les entreprises doivent naviguer parmi différentes exigences étatiques, même si la Maison-Blanche cherche à limiter la capacité des États à créer et appliquer leurs propres règles d’IA. L’AI Act du Colorado, le cadre étatique le plus complet à ce jour, a déjà été retardé puis réécrit une fois dans ce contexte, ses obligations principales étant repoussées à 2027. Pour de nombreuses entreprises américaines, la tentation est d’attendre que l’incertitude se dissipe.

Je soutiens que c’est le mauvais instinct. Quel que soit le modèle réglementaire qui finira par prévaloir aux États‑Unis, l’exigence sous‑jacente ne disparaîtra pas. Sachez d’où proviennent vos données. Vérifiez si quelqu’un les a réellement validées avant que l’IA ne les utilise. Développer cette discipline dès maintenant aidera les entreprises à se préparer aux nouvelles régulations et à transformer les pilotes d’IA prometteurs en outils que l’entreprise pourra exploiter en toute confiance.

Ce qui distingue les 5 %

Permettez-moi de vous parler d’un client. Son équipe de grand‑livre devait parcourir 300 feuilles de calcul distinctes chaque fois qu’une anomalie apparaissait dans les comptes. Trois cents. Quelqu’un a finalement reconstruit ce chaos en un seul actif de données gouverné, avec les calculs, les rapports et les données sous‑jacentes regroupés et validés en amont. La prochaine fois qu’un problème survenait, la correction nécessitait une fraction de l’effort précédent. Ce seul processus a permis d’économiser environ 750 jours de travail, soit plusieurs millions de dollars d’économies simplement en nettoyant cela.

L’amélioration est venue du fait de rendre les bonnes données faciles à trouver et suffisamment fiables pour être utilisées sans remise en question. La collaboration et la réutilisation ont rendu cela possible. Les produits de données fiables peuvent être alignés sur les normes de l’entreprise, étendus et mis à jour au fil du temps, évalués en termes de confiance et gérés pour la valeur. Cette approche réduit le besoin de créer des centaines ou des milliers de produits liés à des tables de bases de données physiques individuelles.

Des programmes solides rendent cette confiance visible. Dans les places de marché de données avec lesquelles je collabore, les actifs peuvent être classés en or, argent ou bronze selon des critères tels que la qualité, la curation, l’utilisation et la propriété. Un utilisateur métier peut voir à quel point un actif est fiable avant de l’utiliser. Cette visibilité aide les gens à cesser de deviner et les incite davantage à réutiliser les données déjà existantes.

Le chiffre de 95 % constitue un avertissement sur la façon dont de nombreuses entreprises ont traités les données derrière l’IA générative avec désinvolture. Les organisations qui progressent offrent aux utilisateurs une vision claire de la provenance de leurs données, de la manière dont elles ont été validées et de leur adéquation à la tâche. Après des années où la gestion des données était considérée comme un travail de second plan, l’IA rend enfin sa valeur visible.