3 Considérations pour des Agents IA Sûrs et Fiables pour les Entreprises

Selon Gartner, 30 % des projets de GenAI seront probablement abandonnés après la preuve de concept d’ici la fin de 2025. L’adoption précoce de la GenAI a révélé que la plupart des infrastructures de données et des pratiques de gouvernance des entreprises n’étaient pas prêtes pour un déploiement efficace de l’IA. La première vague de productisation de GenAI a rencontré des obstacles considérables, de nombreuses organisations luttant pour passer des étapes de preuve de concept aux étapes de réalisation de la valeur commerciale significative.

Alors que nous entrons dans la deuxième vague de productisation de l’IA générative, les entreprises réalisent que la mise en œuvre réussie de ces technologies nécessite plus que de simplement connecter un LLM à leurs données. La clé pour débloquer le potentiel de l’IA repose sur trois piliers essentiels : mettre les données en ordre et s’assurer qu’elles sont prêtes pour l’intégration avec l’IA ; réformer les pratiques de gouvernance des données pour répondre aux défis uniques que la GenAI introduit ; et déployer des agents IA de manière à ce que l’utilisation sûre et fiable soit naturelle et intuitive, de sorte que les utilisateurs ne soient pas obligés d’apprendre des compétences spécialisées ou des modèles d’utilisation précis. Ensemble, ces piliers créent une solide fondation pour des agents IA sûrs et efficaces dans les environnements d’entreprise.

Préparation adéquate de vos données pour l’IA

Bien que les données structurées puissent sembler organisées à l’œil nu, étant soigneusement disposées dans des tableaux et des colonnes, les LLM ont souvent du mal à comprendre et à travailler avec ces données structurées de manière efficace. Cela se produit parce que, dans la plupart des entreprises, les données ne sont pas étiquetées de manière sémantiquement significative. Les données ont souvent des étiquettes cryptiques, par exemple, « ID » sans indication claire de savoir si cela concerne un client, un produit ou une transaction. Avec les données structurées, il est également difficile de capturer le contexte approprié et les relations entre les différents points de données interconnectés, comme les étapes d’un parcours client qui sont liées les unes aux autres. Tout comme nous avons dû étiqueter chaque image dans les applications de vision par ordinateur pour permettre une interaction significative, les organisations doivent maintenant entreprendre la tâche complexe d’étiquetage sémantique de leurs données et de documentation des relations à travers tous les systèmes pour permettre des interactions IA significatives.

En outre, les données sont dispersées dans de nombreux endroits différents – des serveurs traditionnels à divers services cloud et applications logicielles différentes. Ce patchwork de systèmes conduit à des problèmes critiques d’interopérabilité et d’intégration qui deviennent encore plus problématiques lors de la mise en œuvre de solutions IA.

Un autre défi fondamental réside dans l’incohérence des définitions commerciales à travers les différents systèmes et départements. Par exemple, les équipes de réussite client peuvent définir « l’upsell » d’une manière, tandis que l’équipe des ventes le définit d’une autre manière. Lorsque vous connectez un agent IA ou un chatbot à ces systèmes et commencez à poser des questions, vous obtiendrez des réponses différentes parce que les définitions de données ne sont pas alignées. Ce manque d’alignement n’est pas une nuisance mineure – c’est une barrière critique à la mise en œuvre de solutions IA fiables.

La mauvaise qualité des données crée un scénario classique de « garbage in, garbage out » qui devient exponentiellement plus grave lorsque les outils IA sont déployés dans une entreprise. Les données incorrectes ou désordonnées affectent bien plus qu’une seule analyse – elles diffusent des informations incorrectes à tous les utilisateurs du système à travers leurs questions et interactions. Pour établir la confiance dans les systèmes IA pour les décisions commerciales réelles, les entreprises doivent s’assurer que leurs applications IA ont des données propres, précises et comprises dans un contexte commercial approprié. Cela représente un changement fondamental dans la façon dont les organisations doivent penser à leurs actifs de données à l’ère de l’IA – où la qualité, la cohérence et la clarté sémantique deviennent aussi cruciales que les données elles-mêmes.

Renforcement des approches de gouvernance

La gouvernance des données a été un objectif majeur pour les organisations ces dernières années, principalement axé sur la gestion et la protection des données utilisées dans les analyses. Les entreprises ont fait des efforts pour cartographier les informations sensibles, respecter les normes d’accès, se conformer aux lois comme le RGPD et le CCPA, et détecter les données personnelles. Ces initiatives sont essentielles pour créer des données prêtes pour l’IA. Cependant, à mesure que les organisations introduisent des agents IA génératifs dans leurs flux de travail, le défi de gouvernance s’étend au-delà des données elles-mêmes pour englober l’ensemble de l’expérience d’interaction utilisateur avec l’IA.

Nous sommes maintenant confrontés à l’impératif de gouverner non seulement les données sous-jacentes mais également le processus par lequel les utilisateurs interagissent avec ces données via les agents IA. La législation existante, telle que l’Acte IA de l’Union européenne, et les réglementations à venir soulignent la nécessité de gouverner le processus de réponse aux questions lui-même. Cela signifie s’assurer que les agents IA fournissent des réponses transparentes, explicables et traçables. Lorsque les utilisateurs reçoivent des réponses de type « boîte noire » – comme demander « Combien de patients atteints de la grippe ont été admis hier ? » et n’obtenir que « 50 » sans contexte – il est difficile de faire confiance à ces informations pour les décisions critiques. Sans savoir d’où viennent les données, comment elles ont été calculées ou les définitions de termes comme « admis » et « hier », la sortie de l’IA perd sa fiabilité.

Contrairement aux interactions avec des documents, où les utilisateurs peuvent retracer les réponses à des PDF ou des politiques spécifiques pour vérifier l’exactitude, les interactions avec des données structurées via des agents IA manquent souvent de ce niveau de traçabilité et d’explicabilité. Pour résoudre ces problèmes, les organisations doivent mettre en œuvre des mesures de gouvernance qui non seulement protègent les données sensibles mais également rendent l’expérience d’interaction IA gérée et fiable. Cela inclut l’établissement de contrôles d’accès robustes pour s’assurer que seuls les personnels autorisés peuvent accéder à des informations spécifiques, la définition de responsabilités claires de propriété et de gestion des données, et la garantie que les agents IA fournissent des explications et des références pour leurs sorties. En réformant les pratiques de gouvernance des données pour inclure ces considérations, les entreprises peuvent exploiter en toute sécurité le pouvoir des agents IA tout en respectant les réglementations en évolution et en maintenant la confiance des utilisateurs.

Penser au-delà de l’ingénierie de prompt

Alors que les organisations introduisent des agents IA génératifs dans le but d’améliorer l’accessibilité des données, l’ingénierie de prompt est émergée comme une nouvelle barrière technique pour les utilisateurs commerciaux. Bien que présentée comme une voie de carrière prometteuse, l’ingénierie de prompt n’est essentiellement que la recréation des mêmes barrières avec lesquelles nous avons lutté dans l’analyse de données. Créer des invites parfaites n’est pas différent de l’écriture de requêtes SQL spécialisées ou de la construction de filtres de tableau de bord – c’est déplacer l’expertise technique d’un format à un autre, toujours en nécessitant des compétences spécialisées que la plupart des utilisateurs commerciaux n’ont pas et ne devraient pas avoir.

Les entreprises ont longtemps tenté de résoudre l’accessibilité des données en formant les utilisateurs pour mieux comprendre les systèmes de données, en créant de la documentation et en développant des rôles spécialisés. Mais cette approche est à l’envers – nous demandons aux utilisateurs de s’adapter aux données plutôt que de faire en sorte que les données s’adaptent aux utilisateurs. L’ingénierie de prompt menace de poursuivre ce modèle en créant une autre couche d’intermédiaires techniques.

La véritable démocratisation des données nécessite des systèmes qui comprennent le langage commercial, et non des utilisateurs qui comprennent le langage des données. Lorsque les dirigeants demandent des informations sur la rétention des clients, ils ne devraient pas avoir besoin de terminologie parfaite ou d’invites. Les systèmes devraient comprendre l’intention, reconnaître les données pertinentes à travers les étiquettes différentes (que ce soit « churn », « rétention » ou « cycle de vie client »), et fournir des réponses contextuelles. Cela permet aux utilisateurs commerciaux de se concentrer sur les décisions plutôt que d’apprendre à poser des questions techniques parfaites.

Conclusion

Les agents IA apporteront des changements importants dans la façon dont les entreprises opèrent et prennent des décisions, mais ils viennent avec leur propre ensemble unique de défis qui doivent être abordés avant leur déploiement. Avec l’IA, chaque erreur est amplifiée lorsque les utilisateurs non techniques ont un accès en libre-service, ce qui rend crucial de bien établir les fondations.

Les organisations qui abordent avec succès les défis fondamentaux de la qualité des données, de l’alignement sémantique et de la gouvernance tout en dépassant les limites de l’ingénierie de prompt seront en mesure de démocratiser en toute sécurité l’accès aux données et la prise de décision. La meilleure approche consiste à créer un environnement collaboratif qui facilite le travail d’équipe et aligne les interactions humaines-machine ainsi que les interactions machine-machine. Cela garantit que les informations dérivées de l’IA sont précises, sécurisées et fiables, encourageant une culture à l’échelle de l’organisation qui gère, protège et maximise les données à leur plein potentiel.