L’IA prend des décisions à la minute. Pourtant, la plupart des dispositifs de gouvernance restent organisés au trimestre

Un système assisté par l’IA peut influer sur des centaines de décisions opérationnelles avant même que le comité de pilotage ait fixé la date de sa prochaine réunion. Les dispositifs de gouvernance fondés sur des examens trimestriels n’ont jamais été conçus pour suivre un tel rythme, et c’est là que de nombreux programmes d’IA en entreprise commencent à montrer leurs limites.

Nous passons énormément de temps à débattre des modèles à déployer. Pourtant, Gartner prévoit que, d’ici à 2026, les organisations abandonneront 60 % des projets d’IA qui ne sont pas soutenus par des données adaptées à l’IA. La plupart des échecs de l’IA en entreprise ont très peu à voir avec le modèle lui-même. Ils tiennent à un problème plus fondamental : les organisations ne disposent pas d’une vision fiable et unifiée de leurs propres activités.

Le coût caché des données « prêtes pour l’IA »

La plupart des entreprises sous-estiment les efforts nécessaires pour définir les responsabilités, instaurer une gouvernance et établir la confiance ainsi que le contexte autour de leurs données. Peu investissent dans l’expertise transversale et le modèle opérationnel nécessaires à la mise en place de cadres de gouvernance garantissant la transparence, l’explicabilité et la responsabilité indispensables pour déployer l’IA au-delà des projets pilotes.

J’invite les clients à se soumettre à un test simple. L’organisation peut-elle expliquer clairement à qui appartiennent les données, comment elles se rapportent aux processus métier, quels contrôles encadrent leur utilisation et qui reste responsable des décisions assistées par l’IA ? Dans le cas contraire, ses initiatives en matière d’IA ont peu de chances de réussir, quels que soient les investissements consacrés aux plateformes, à l’infrastructure ou aux modèles.

La première étape de tout projet d’IA en entreprise devrait consister à investir dans la gouvernance et dans un modèle opérationnel pratique qui définisse clairement les responsabilités, l’obligation de rendre compte et les droits décisionnels. Or, je constate que la plupart des organisations procèdent à l’inverse : elles mettent en place les modèles et l’infrastructure avant les fondations nécessaires pour exploiter l’IA à grande échelle.

Les décisions assistées par l’IA ne reposent pas uniquement sur des données prises isolément : elles dépendent aussi de la compréhension des liens entre les informations, les processus métier, les politiques, les responsabilités et le contexte opérationnel. Lorsque ces liens sont fragmentés, les organisations ne devraient pas s’étonner de voir les recommandations de l’IA devenir incohérentes.

Lorsque des applications d’IA connaissent des incidents évités de justesse, des défaillances ou émettent des recommandations contradictoires, les questions importantes relèvent de l’organisation plutôt que de la technique. À qui appartiennent les données ? Qui est responsable de la décision ? Qui peut passer outre l’IA ? Comment les exceptions sont-elles remontées ? Sans réponse à ces questions, les entreprises risquent d’automatiser sans définir de responsabilité.

La confiance se construit avant le déploiement

La confiance dans l’IA s’établit bien avant la mise en service d’un modèle. Une gouvernance efficace nécessite une collaboration entre les équipes technologiques, les métiers, la gestion des risques, les services juridiques, la conformité et la sécurité, car les systèmes d’IA franchissent les frontières organisationnelles alors que les responsabilités restent souvent cloisonnées. De nombreux problèmes de gouvernance attribués à l’IA sont les symptômes de difficultés plus anciennes liées à la responsabilité des données et à l’autorité décisionnelle, que la technologie n’a fait que révéler.

La plupart des organisations disposent déjà de dispositifs de gouvernance sous la forme de politiques de sécurité, de cadres de conformité et de processus d’approbation. Ce qui leur manque souvent, c’est une vision d’ensemble montrant comment ces éléments s’articulent.

La confiance se développe lorsque les parties prenantes comprennent le fondement des recommandations, ont confiance dans les données sous-jacentes et savent que des contrôles adaptés ainsi que des mécanismes d’escalade sont en place. Rien de tout cela ne peut être ajouté après coup à la suite d’un incident.

Quand la gouvernance trimestrielle se heurte à des décisions prises à la minute

Les modèles de gouvernance traditionnels s’appuient sur des examens périodiques, des comités de pilotage et des rapports rétrospectifs. Les systèmes assistés par l’IA produisent des recommandations en continu et à grande échelle. Les cadres existants ne sont pas mauvais, mais ils sont trop lents et trop éloignés des décisions opérationnelles. Un cycle d’examen trimestriel ne peut pas encadrer des décisions prises à toute heure, chaque jour.

Les meilleurs résultats que j’observe sont obtenus par les organisations qui intègrent directement la gouvernance aux flux de travail opérationnels, au moyen de l’application des politiques, de circuits d’approbation, de la surveillance, de la possibilité d’audit et d’une supervision humaine. Elles se sont engagées à passer d’une gouvernance périodique à une gouvernance continue afin de pouvoir voir en temps réel quelles données sont utilisées, quelles décisions sont influencées, qui en est responsable et à quel moment une intervention humaine est nécessaire.

La gouvernance continue ne consiste pas seulement à surveiller les résultats de l’IA. Elle implique de comprendre quelles informations l’IA utilise, si elles restent valides et si les décisions demeurent conformes aux politiques et aux objectifs de l’entreprise.

L’IA se contredira elle-même

Les grandes organisations gèrent déjà chaque jour des priorités concurrentes. Les équipes de sécurité veulent réduire les risques, les équipes opérationnelles recherchent la stabilité, les équipes métier veulent aller vite et les équipes financières visent la maîtrise des coûts. Il faut maintenant compter avec les systèmes d’IA, entraînés sur des jeux de données et des objectifs différents, qui refléteront naturellement ces priorités.

Une IA dédiée à la sécurité peut recommander de corriger immédiatement une vulnérabilité critique, tandis que l’équipe opérationnelle retarde le changement parce que le système concerné prend en charge un service essentiel à l’activité. Les deux positions peuvent être justifiées. Pour résoudre ces conflits, il faut définir clairement les droits décisionnels, attribuer la responsabilité des risques et établir des voies d’escalade.

L’IA doit fournir les données, le contexte et des recommandations, mais il appartient toujours à l’organisation de répondre de l’équilibre entre les considérations commerciales, opérationnelles et liées aux risques.

Gérer le scepticisme lorsque des incohérences apparaissent

Lorsqu’une recommandation de l’IA manque de cohérence, il est évident que l’entreprise sera sceptique à son égard à l’avenir. La confiance se rétablit lorsque les parties prenantes comprennent pourquoi une recommandation a été formulée, quelles données ont été utilisées et qui demeure responsable du résultat.

L’IA met souvent au jour des problèmes de qualité des données, des lacunes dans l’attribution des responsabilités et des incohérences dans les processus qui existaient déjà au sein de l’organisation. Il est bien plus constructif de saisir ces occasions pour améliorer la gouvernance et les procédures opérationnelles que de défendre la technologie. Au fil du temps, la confiance se gagne grâce à la transparence, à la cohérence et à des résultats commerciaux tangibles.

Le socle d’information fiable

Les discussions sur la préparation à l’IA portent généralement sur les modèles, l’infrastructure et les outils. En pratique, les organisations qui obtiennent les meilleurs résultats investissent dans un élément plus fondamental : un socle d’information fiable. Celui-ci apporte le contexte commercial qui explique comment l’information se rattache aux processus, aux politiques, à l’attribution des responsabilités et aux décisions opérationnelles, offrant ainsi à l’IA une base plus solide pour formuler des recommandations que les organisations peuvent comprendre, encadrer et auxquelles elles peuvent se fier.

Même le modèle d’IA le plus avancé ne peut compenser une gouvernance de l’information défaillante, des responsabilités mal définies ou un contexte commercial insuffisant. Les organisations doivent mettre en place le contexte, la gouvernance, la mémoire institutionnelle et les capacités d’aide à la décision nécessaires pour utiliser l’IA de manière responsable et efficace à grande échelle.

Ce travail est plus lent et moins visible que le déploiement d’un nouveau modèle, mais c’est lui qui détermine en définitive si le modèle génère une valeur commerciale durable.