L’IA d’entreprise dépend de données auxquelles les gens peuvent faire confiance

En 2025, les entreprises ont investi entre 30 et 40 milliards de dollars dans l’IA générative, pourtant le projet NANDA du MIT a constaté que seulement 5 % des plus de 300 déploiements d’entreprise qu’il a examinés produisaient des retours financiers mesurables.

J’ai passé plus de 25 ans à travailler au sein de programmes de données d’entreprise. Bien avant que l’IA générative ne devienne un sujet de discussion, j’ai constaté à quelle vitesse la technologie perdait en crédibilité lorsque les gens ne pouvaient pas se fier aux données qui la sous-tendaient. L’IA générative augmente les enjeux car elle peut transformer des données douteuses en une réponse fiable.

Nous disions autrefois « garbage in, garbage out ». Aujourd’hui c’est « garbage in, disaster out ». Lorsque les données semblaient suspectes, une personne pouvait faire preuve de jugement et contacter un spécialiste des données. Le spécialiste effectuait une analyse des causes profondes, identifiait le problème et appliquait une correction. Aujourd’hui, les agents peuvent agir sur n’importe quelles données qu’ils rencontrent. Sans une supervision humaine compétente, le résultat peut devenir partie intégrante des opérations, être utilisé dans les décisions et se propager à l’ensemble de l’organisation.

Le même problème peut apparaître dans un chatbot. Un manque de gouvernance peut transformer des données mauvaises ou mal comprises en une réponse qui semble autoritaire, immédiatement et à grande échelle.

La confiance est le véritable goulot d’étranglement de l’adoption

Lorsqu’un chatbot interne fournit une réponse confiante mais erronée, la personne ne lui fera plus confiance. Dans une grande organisation, l’IA découvrira également les données que vous préféreriez qu’elle ne trouve pas. Je la compare aux chaussettes sales sous le lit : ces données peuvent être hors de vue, mais l’IA les trouvera et les utilisera.

Le contexte doit accompagner les données et constituer la base sur laquelle les LLM s’appuient. Avant qu’un modèle d’IA n’utilise des données, il faut que les gens sachent ce qu’elles signifient, d’où elles proviennent, qui en est propriétaire et quelles règles et politiques commerciales les encadrent.

Les dirigeants peuvent négliger cet aspect parce que le système ne plante que rarement. L’IA peut se tromper avec assurance ; elle peut même proposer de la colle pour votre pizza (exemple très ancien). Imaginez un chatbot qui donne une réponse confiante mais erronée, et le personnel cesse de lui faire confiance. Restaurer cette confiance prend beaucoup plus de temps que de mettre en place les bons contrôles dès le départ.

Cette érosion se manifeste également dans les données. Les employés de plus de 90 % des entreprises étudiées par le MIT continuent d’utiliser des outils d’IA personnels en parallèle, même après que le pilote officiel mis en place par leur employeur n’a pas gagné leur confiance. Lorsque l’outil approuvé n’a pas gagné leur confiance, les employés trouvent une autre façon d’accomplir leur travail.

Une grande partie des recherches en IA de cette année pointe vers le même problème : les organisations avancent avec l’IA avant d’avoir accompli le travail nécessaire pour rendre leurs données fiables. Gartner a estimé que près de deux tiers des organisations manquent soit des bonnes pratiques de gestion des données pour l’IA, soit ne savent pas si elles les possèdent. Des recherches d’IDC ont constaté un écart similaire du côté de la confiance : 78 % des organisations déclarent faire entièrement confiance à leur IA, mais seulement 40 % ont réellement investi dans la gouvernance et la explicabilité nécessaires pour justifier cette confiance.

Le décalage entre confiance et investissement aide à expliquer pourquoi tant d’initiatives IA s’enlisent avant d’atteindre la production ou ne parviennent pas à correspondre à la valeur attendue.

La gouvernance de l’IA est désormais l’avantage concurrentiel

Pendant la majeure partie de ma carrière, la gouvernance des données était l’un des aspects les moins glamour de l’informatique d’entreprise. Cataloguer les métadonnées, définir la propriété, profiler les données et gérer les flux de travail pouvait ressembler à du travail de conciergerie. Les gens l’ignoraient souvent parce que l’effort semblait supérieur à la valeur produite.

L’IA a changé cela. Elle devient une capacité de gouvernance dans des domaines tels que la conception de plans de données, la création de glossaires élaborés par l’industrie, ainsi que la recommandation et l’activation de politiques de données. Même la traçabilité des données peut désormais être déduite et rationalisée plus rapidement qu’auparavant, rendant la valeur des pipelines de données gérés et de l’observabilité plus facile à concrétiser.

La réglementation rend également la transparence des données plus urgente. Le EU AI Act est devenu largement applicable le 2 août 2026, incluant des règles de transparence pour certains systèmes et contenus générés par l’IA. La loi établit également des exigences distinctes pour les systèmes à haut risque, incluant une documentation et des informations qui aident les déployeurs à interpréter leurs sorties, bien que certaines dispositions à haut risque suivent des calendriers ultérieurs.

Pour les entreprises, la leçon pratique est simple : une traçabilité et une gouvernance claires facilitent la documentation des données utilisées, de leur provenance et du mode de fonctionnement prévu du système.

Le paysage réglementaire aux États‑Unis reste incertain. En l’absence d’une loi fédérale exhaustive sur l’IA, les entreprises doivent naviguer entre différentes exigences étatiques, même si la Maison-Blanche cherche à limiter la capacité des États à créer et appliquer leurs propres règles d’IA. L’AI Act du Colorado, le cadre étatique le plus complet à ce jour, a déjà été retardé et réécrit une fois dans ce débat, ses obligations principales étant repoussées à 2027. Pour de nombreuses entreprises américaines, la tentation est d’attendre que l’incertitude se dissipe.

Je soutiens que c’est le mauvais instinct. Quel que soit le modèle réglementaire qui prévaudra aux États‑Unis, l’exigence sous‑jacente ne disparaîtra pas. Sachez d’où proviennent vos données. Sachez si quelqu’un les a réellement validées avant que l’IA ne les utilise. Développer cette discipline dès maintenant aidera les entreprises à se préparer aux nouvelles régulations et à transformer les pilotes IA prometteurs en outils que l’entreprise pourra utiliser en toute confiance.

Ce qui distingue les 5 pour cent

Permettez-moi de vous parler d’un client. Son équipe de grand livre devait passer au crible 300 feuilles de calcul distinctes chaque fois qu’une anomalie apparaissait dans les comptes. Trois cents. Quelqu’un a finalement reconstruit ce chaos en un seul actif de données gouverné, incluant les calculs, les rapports et les données sous‑jacentes, le tout empaqueté et validé en amont. La prochaine fois qu’un problème surgissait, la correction nécessitait une fraction de l’effort auparavant requis. Rien que pour ce processus, cela a permis d’économiser environ 750 jours de travail. Cela représente des millions de dollars d’économies simplement grâce à ce nettoyage.

L’amélioration est venue du fait de rendre les bonnes données faciles à trouver et suffisamment fiables pour être utilisées sans les remettre en question. La collaboration et la réutilisation ont rendu cela possible. Les produits de données fiables peuvent être alignés sur les normes d’entreprise, étendus et mis à jour au fil du temps, évalués selon la confiance et gérés pour la valeur. Cette approche réduit le besoin de créer des centaines voire des milliers de produits liés à des tables de bases de données physiques individuelles.

Des programmes solides rendent cette confiance visible. Dans les places de marché de données avec lesquelles je travaille, les actifs peuvent être classés en or, argent ou bronze selon des critères tels que la qualité, la curation, l’utilisation et la propriété. Un utilisateur métier peut voir à quel point un actif est fiable avant de l’utiliser. Cette visibilité aide les gens à ne plus deviner et les incite davantage à réutiliser les données déjà existantes.

Le chiffre de 95 % constitue un avertissement sur la manière dont de nombreuses entreprises ont traitées les données derrière l’IA générative avec désinvolture. Les organisations qui progressent offrent aux utilisateurs une vue claire de la provenance de leurs données, de la façon dont elles ont été validées et de leur adéquation à la tâche. Après des années où la gestion des données était considérée comme un travail en arrière‑plan, l’IA rend enfin sa valeur visible.