Pourquoi le GenAI stagne sans une gouvernance solide

Alors que les entreprises tentent de passer des projets de Generative AI de l’expérimentation à la production, de nombreuses entreprises restent bloquées en mode pilote. Comme le souligne notre recherche récente, 92% des organisations s’inquiètent que les pilotes de GenAI accélèrent sans résoudre au préalable les problèmes de données fondamentaux. Encore plus révélateur : 67% n’ont pas pu mettre à l’échelle même la moitié de leurs pilotes à la production. Ce fossé de production est moins lié à la maturité technologique et plus à la préparation des données sous-jacentes. Le potentiel du GenAI dépend de la solidité du terrain sur lequel il repose. Et aujourd’hui, pour la plupart des organisations, ce terrain est au mieux fragile.

Pourquoi le GenAI se bloque en pilote

Bien que les solutions de GenAI soient certainement puissantes, elles ne sont efficaces que que dans la mesure où les données qui les alimentent sont fiables. Le vieux proverbe “des déchets entrants, des déchets sortants” est plus vrai que jamais. Sans données fiables, complètes, habilitées et explicables, les modèles de GenAI produisent souvent des résultats inexacts, biaisés ou inadaptés.

Malheureusement, les organisations se sont précipitées pour déployer des cas d’utilisation à faible effort, comme les chatbots alimentés par l’IA offrant des réponses personnalisées à partir de différents documents internes. Et même si ceux-ci améliorent l’expérience client à un certain point, ils ne nécessitent pas de changements profonds dans l’infrastructure de données de l’entreprise. Mais pour mettre à l’échelle le GenAI de manière stratégique, que ce soit dans les soins de santé, les services financiers ou l’automatisation de la chaîne d’approvisionnement, cela nécessite un niveau de maturité des données différent.

En fait, 56% des directeurs des données citent la fiabilité des données comme un obstacle clé au déploiement de l’IA. D’autres problèmes incluent les données incomplètes (53%), les problèmes de confidentialité (50%) et les lacunes plus importantes en matière de gouvernance de l’IA (36%).

Pas de gouvernance, pas de GenAI

Pour passer le GenAI au-delà du stade pilote, les entreprises doivent traiter la gouvernance des données comme une impérative stratégique pour leur entreprise. Ils doivent s’assurer que les données sont à la hauteur de la tâche de faire fonctionner les modèles d’IA, et pour cela, les questions suivantes doivent être abordées :

• Les données utilisées pour former le modèle proviennent-elles des bons systèmes ?
• Avez-vous supprimé les informations personnelles identifiables et suivi toutes les réglementations en matière de données et de confidentialité ?
• Êtes-vous transparent et pouvez-vous prouver la lignée des données que le modèle utilise ?
• Pouvez-vous documenter vos processus de données et être prêt à montrer que les données n’ont pas de biais ?

La gouvernance des données doit également être intégrée dans la culture de l’organisation. Pour ce faire, il faut développer une littératie en matière d’IA à travers toutes les équipes. L’Acte européen sur l’IA formalise cette responsabilité, exigeant à la fois des fournisseurs et des utilisateurs de systèmes d’IA de faire des efforts pour s’assurer que les employés sont suffisamment littérés en matière d’IA, s’assurant qu’ils comprennent comment ces systèmes fonctionnent et comment les utiliser de manière responsable. Cependant, l’adoption efficace de l’IA va au-delà des connaissances techniques. Cela exige également une solide fondation en compétences en matière de données, allant de la compréhension de la gouvernance des données à la formulation de questions analytiques. Traiter la littératie en matière d’IA de manière isolée par rapport à la littératie en matière de données serait à courte vue, étant donné à quel point ils sont étroitement liés.

En termes de gouvernance des données, il reste encore du travail à faire. Parmi les entreprises qui souhaitent augmenter leurs investissements en gestion de données, 47% estiment que le manque de littératie en matière de données est un obstacle majeur. Cela met en évidence la nécessité de construire un soutien de haut niveau et de développer les bonnes compétences à travers l’organisation est crucial. Sans ces fondations, même les LLM les plus puissants auront du mal à livrer.

Développer une IA qui doit être tenue responsable

Dans l’environnement réglementaire actuel, il n’est plus suffisant que l’IA “fonctionne”, elle doit également être responsable et expliquée. L’Acte européen sur l’IA et le plan d’action britannique proposé sur l’IA exigent la transparence dans les cas d’utilisation à haut risque de l’IA. D’autres suivent, et 1 000 projets de loi liés sont à l’ordre du jour dans 69 pays.

Ce mouvement mondial vers la responsabilité est le résultat direct de la demande croissante des consommateurs et des parties prenantes en faveur de l’équité dans les algorithmes. Par exemple, les organisations doivent être en mesure de dire pourquoi un client a été rejeté pour un prêt ou facturé un tarif d’assurance élevé. Pour cela, ils devraient savoir comment le modèle a pris cette décision, et cela dépend de disposer d’une traçabilité claire et auditable des données utilisées pour le former.

À moins qu’il n’y ait d’explicabilité, les entreprises risquent de perdre la confiance des clients ainsi que de faire face à des répercussions financières et juridiques. Par conséquent, la traçabilité de la lignée des données et la justification des résultats ne sont pas un “avoir”, mais une exigence de conformité.

Et à mesure que le GenAI s’étend au-delà de son utilisation pour des outils simples à des agents complets capables de prendre des décisions et d’agir, les enjeux pour une solide gouvernance des données augmentent encore.

Étapes pour construire une IA de confiance

Alors, à quoi ressemble le succès ? Pour mettre à l’échelle le GenAI de manière responsable, les organisations devraient viser à adopter une stratégie de données unique sur trois piliers :

• Adapter l’IA à l’entreprise : cataloguer vos données autour d’objectifs commerciaux clés, en veillant à ce qu’elles reflètent le contexte unique, les défis et les opportunités spécifiques à votre entreprise.
• Établir la confiance dans l’IA : établir des politiques, des normes et des processus pour la conformité et la surveillance du déploiement éthique et responsable de l’IA.
• Construire des pipelines de données prêts pour l’IA : combiner vos sources de données diverses en une fondation de données solide pour une mise à l’échelle robuste de l’IA, en intégrant la connectivité préconstruite du GenAI.

Lorsque les organisations font cela correctement, la gouvernance accélère la valeur de l’IA. Dans les services financiers, par exemple, les fonds spéculatifs utilisent le GenAI pour surpasser les analystes humains dans la prédiction des prix des actions tout en réduisant considérablement les coûts. Dans la fabrication, l’optimisation de la chaîne d’approvisionnement pilotée par l’IA permet aux organisations de réagir en temps réel aux changements géopolitiques et aux pressions environnementales.

Et ce ne sont pas seulement des idées futuristes, elles se réalisent maintenant, alimentées par des données fiables.

Avec des fondations de données solides, les entreprises réduisent la dérive des modèles, limitent les cycles de réentraînement et augmentent la vitesse d’accès à la valeur. C’est pourquoi la gouvernance n’est pas un obstacle ; c’est un facteur d’innovation.

Que se passe-t-il ensuite ?

Après l’expérimentation, les organisations passent au-delà des chatbots et investissent dans des capacités de transformation. De la personnalisation des interactions avec les clients à l’accélération de la recherche médicale, l’amélioration de la santé mentale et la simplification des processus réglementaires, le GenAI commence à démontrer son potentiel à travers les industries.

Cependant, ces gains dépendent entièrement des données qui les sous-tendent. Le GenAI commence par la construction d’une solide fondation de données, grâce à une solide gouvernance des données. Et même si le GenAI et l’IA agente évolueront, ils ne remplaceront pas la surveillance humaine dans un avenir proche. Au lieu de cela, nous entrons dans une phase de création de valeur structurée, où l’IA devient un co-pilote fiable. Avec les bons investissements dans la qualité des données, la gouvernance et la culture, les entreprises peuvent enfin transformer le GenAI d’un pilote prometteur en quelque chose qui décolle vraiment.