Pourquoi le GenAI stagne sans une gouvernance solide

Alors que les entreprises luttent pour passer des projets d’Intelligence Générative (GenAI) de l’expérimentation à la production, de nombreuses entreprises restent bloquées au stade du pilote. Comme le montre notre recherche récente, 92% des organisations s’inquiètent du fait que les pilotes de GenAI accélèrent sans résoudre d’abord les problèmes de données fondamentaux. Encore plus révélateur : 67% n’ont pas pu mettre à l’échelle même la moitié de leurs pilotes à la production. Ce fossé de production est moins lié à la maturité technologique qu’à la préparation des données sous-jacentes. Le potentiel du GenAI dépend de la solidité du terrain sur lequel il repose. Et aujourd’hui, pour la plupart des organisations, ce terrain est précaire au mieux.

Pourquoi le GenAI stagne au stade du pilote

Bien que les solutions de GenAI soient certainement puissantes, elles ne sont efficaces que si les données qui les alimentent sont de qualité. Le dicton “rien de bon ne sort de rien” est plus vrai que jamais. Sans données fiables, complètes, intitulées et explicables, les modèles de GenAI produisent souvent des résultats inexacts, biaisés ou inadaptés.

Malheureusement, les organisations se sont précipitées pour déployer des cas d’utilisation à faible effort, comme des chatbots alimentés par l’IA qui offrent des réponses personnalisées à partir de différents documents internes. Et même si cela améliore l’expérience client à un certain point, cela ne nécessite pas de changements profonds dans l’infrastructure de données de l’entreprise. Mais pour mettre à l’échelle le GenAI de manière stratégique, que ce soit dans les soins de santé, les services financiers ou l’automatisation de la chaîne d’approvisionnement, il faut un niveau de maturité des données différent.

En fait, 56% des directeurs des données citent la fiabilité des données comme un obstacle clé au déploiement de l’IA. D’autres problèmes incluent les données incomplètes (53%), les problèmes de confidentialité (50%) et les lacunes plus importantes en matière de gouvernance de l’IA (36%).

Pas de gouvernance, pas de GenAI

Pour passer le GenAI au-delà du stade du pilote, les entreprises doivent considérer la gouvernance des données comme une impérative stratégique pour leur entreprise. Ils doivent s’assurer que les données sont à la hauteur de la tâche de faire fonctionner les modèles d’IA, et pour cela, les questions suivantes doivent être abordées :

• Les données utilisées pour former le modèle proviennent-elles des bons systèmes ?
• Aurons-nous supprimé les informations personnelles identifiables et respecté toutes les réglementations en matière de données et de confidentialité ?
• Sommes-nous transparents et pouvons-nous prouver la lignée des données que le modèle utilise ?
• Pouvons-nous documenter nos processus de données et être prêts à montrer que les données ne sont pas biaisées ?

La gouvernance des données doit également être intégrée dans la culture de l’organisation. Pour cela, il faut construire une littératie en matière d’IA à travers toutes les équipes. Le règlement européen sur l’IA formalise cette responsabilité, en exigeant à la fois des fournisseurs et des utilisateurs de systèmes d’IA qu’ils fassent des efforts pour s’assurer que les employés sont suffisamment instruits en matière d’IA, qu’ils comprennent comment ces systèmes fonctionnent et comment les utiliser de manière responsable. Cependant, l’adoption efficace de l’IA va au-delà des compétences techniques. Elle exige également une solide fondation en compétences en matière de données, allant de la compréhension de la gouvernance des données à la formulation de questions analytiques. Considérer la littératie en matière d’IA de manière isolée par rapport à la littératie en matière de données serait à courte vue, compte tenu de leur étroite interconnexion.

En termes de gouvernance des données, il reste encore du travail à faire. Parmi les entreprises qui souhaitent augmenter leurs investissements en matière de gestion des données, 47% conviennent que le manque de littératie en matière de données est un obstacle majeur. Cela souligne la nécessité de construire un soutien de haut niveau et de développer les compétences appropriées à travers l’organisation. Sans ces fondations, même les LLM les plus puissants auront du mal à livrer.

Développer une IA qui doit être tenue responsable

Dans l’environnement réglementaire actuel, il n’est plus suffisant que l’IA “fonctionne”, elle doit également être responsable et expliquée. Le règlement européen sur l’IA et le plan d’action britannique proposé sur l’IA exigent la transparence dans les cas d’utilisation à haut risque de l’IA. D’autres pays suivent, et 1 000 projets de loi liés à l’IA sont à l’ordre du jour dans 69 pays.

Ce mouvement mondial vers la responsabilité est une conséquence directe de l’augmentation des demandes des consommateurs et des parties prenantes en faveur de l’équité dans les algorithmes. Par exemple, les organisations doivent être en mesure de dire pourquoi un client a été rejeté pour un prêt ou facturé un taux d’assurance premium. Pour ce faire, ils doivent savoir comment le modèle a pris cette décision, ce qui à son tour dépend de la disponibilité d’une traçabilité claire et auditable des données utilisées pour le former.

À moins qu’il n’y ait d’explicabilité, les entreprises risquent de perdre la confiance des clients, ainsi que de faire face à des répercussions financières et juridiques. Par conséquent, la traçabilité de la lignée des données et la justification des résultats ne sont pas un “luxueux”, mais une exigence de conformité.

Et à mesure que le GenAI s’étend au-delà de l’utilisation de simples outils pour devenir des agents complets capables de prendre des décisions et d’agir en conséquence, les enjeux d’une solide gouvernance des données augmentent encore.

Étapes pour construire une IA de confiance

Alors, qu’est-ce que le “bon” ? Pour mettre à l’échelle le GenAI de manière responsable, les organisations devraient viser à adopter une stratégie de données unique sur trois piliers :

• Personnaliser l’IA pour l’entreprise : cataloguer vos données autour des objectifs commerciaux clés, en veillant à ce qu’elles reflètent le contexte, les défis et les opportunités uniques de votre entreprise.
• Établir la confiance dans l’IA : établir des politiques, des normes et des processus pour la conformité et la surveillance du déploiement responsable et éthique de l’IA.
• Construire des pipelines de données prêts pour l’IA : combiner vos sources de données diverses en une fondation de données robuste pour une mise à l’échelle solide du GenAI, en intégrant la connectivité préconçue pour le GenAI.

Lorsque les organisations font cela correctement, la gouvernance accélère la valeur de l’IA. Dans les services financiers, par exemple, les fonds spéculatifs utilisent le GenAI pour surpasser les analystes humains dans la prédiction des prix des actions tout en réduisant considérablement les coûts. Dans la fabrication, l’optimisation de la chaîne d’approvisionnement alimentée par l’IA permet aux organisations de réagir en temps réel aux changements géopolitiques et aux pressions environnementales.

Et ce ne sont pas seulement des idées futuristes, elles se réalisent maintenant, alimentées par des données fiables.

Avec des fondations de données solides, les entreprises réduisent la dérive des modèles, limitent les cycles de réentraînement et augmentent la vitesse de valorisation. C’est pourquoi la gouvernance n’est pas un obstacle ; c’est un facteur d’innovation.

Qu’est-ce qui vient ensuite ?

Après l’expérimentation, les organisations passent au-delà des chatbots et investissent dans des capacités de transformation. De la personnalisation des interactions avec les clients à l’accélération de la recherche médicale, l’amélioration de la santé mentale et la simplification des processus réglementaires, le GenAI commence à démontrer son potentiel à travers les industries.

Cependant, ces progrès dépendent entièrement des données qui les sous-tendent. Le GenAI commence par la construction d’une solide fondation de données, grâce à une solide gouvernance des données. Et même si le GenAI et l’IA agente continueront d’évoluer, ils ne remplaceront pas la surveillance humaine de sitôt. Au lieu de cela, nous entrons dans une phase de création de valeur structurée, où l’IA devient un co-pilote fiable. Avec les bons investissements dans la qualité des données, la gouvernance et la culture, les entreprises peuvent enfin transformer le GenAI d’un pilote prometteur en quelque chose qui décolle vraiment.