Pourquoi le Retrieval Augmenté Génératif est la prochaine frontière de l’analyse de données

Trois personnes sur quatre disent que leurs organisations utilisent l’IA. Pourtant, la plupart de ces activités sont encore centrées sur le contenu non structuré : résumer des réunions, rédiger des e-mails ou automatiser le support client.

Mais ironiquement, une grande partie des données qui réellement alimentent les décisions commerciales – les rapports financiers, les tableaux de stock, les indicateurs de performance – reste largement intacte par l’IA.

La raison n’est pas un manque d’ambition, mais un manque de confiance. Lorsqu’un modèle hallucine une phrase, cela peut souvent être corrigé ; mais lorsqu’il hallucine un nombre, c’est catastrophique. Un directeur financier ne peut pas approuver une réponse qu’il ne peut pas vérifier.

Aujourd’hui, les données structurées vivent à travers des dizaines de systèmes, chacun avec ses propres règles et relations. Faire en sorte que l’IA raisonne correctement à travers cette complexité est un défi plus difficile que n’importe quel chatbot.

Les entreprises et leurs équipes – y compris les utilisateurs non techniques – ont besoin de pouvoir interagir avec leurs données de manière simple pour réduire les goulets d’étranglement et obtenir des insights rapides et précis. Sans avoir à apprendre le SQL.

Certaines solutions émergent – examinons quelques exemples importants, avec leurs avantages et leurs inconvénients.

IA et données structurées – un pont trop loin

Au cours des deux dernières années, plusieurs efforts ont émergé pour relier les insights de l’IA et les données structurées.

Beaucoup proviennent de géants de la technologie avec des ressources et des données importantes. Snowflake, par exemple, a introduit un Cortex Analyst, qui tente de permettre aux utilisateurs de poser des questions en langage naturel contre le entrepôt de données Snowflake.

Pour améliorer la précision, Cortex a un moyen de fournir des métadonnées sémantiques – mais le modèle est fortement limité. Tout d’abord, il doit être construit manuellement, et même ainsi, il ne peut fonctionner que sur un maximum de 10 tableaux, ce qui est loin d’être suffisant même pour une entreprise de taille moyenne. Au-delà, la confiance se brise, car la précision diminue.

L’histoire se répète avec les tentatives de Databricks, qui a adopté une approche de texte-à-SQL avec AI/BI Genie. Cette solution ne peut être déployée efficacement que sur de petits domaines, perdant en précision avec l’augmentation des ensembles de données.

Microsoft Power BI Copilot adopte une approche générative de surface, en intégrant l’IA directement dans les tableaux de bord pour décrire les visuels, suggérer des mesures et rédiger des rapports. Il améliore l’exploration mais ne change pas la façon dont les analyses sont raisonnées ou vérifiées. Chaque réponse dépend encore du jugement du modèle, et lorsque ce jugement échoue, il n’y a pas de traçage d’audit ni de logique déterministe à laquelle se référer.

Collectivement, ces systèmes pointent dans la bonne direction : déployer l’IA sur les données structurées d’entreprise. Mais ils partagent également un défaut critique. Ils dépendent du modèle d’IA pour générer du SQL à partir du langage naturel, et lorsque ce SQL est incorrect, ce qui arrive souvent, l’utilisateur commercial est bloqué. Un exécutif qui ne peut pas lire le SQL n’a aucun moyen de diagnostiquer ou de corriger le résultat. La conversation s’arrête net.

Une autre façon d’aborder le problème est de pré-indexer les paires de questions-réponses probables. Le GARAGe d’Ada, entre autres, suit cette méthode. Elle fonctionne bien dans des domaines étroits où les questions sont prévisibles, mais les performances chutent à mesure que la complexité des données augmente. Une fois que les tableaux et les schémas se multiplient, la pré-indexation devient rapidement ingérable.

Un autre chemin : le Retrieval Augmenté Génératif

Le Retrieval Augmenté Génératif (GAR) renverse l’approche actuelle de RAG (Retrieval-Augmented Generation sources des informations pertinentes et les incorpore dans un LLM pour une précision accrue).

Au lieu de demander à un LLM d’écrire du SQL, le GAR utilise l’IA générative pour comprendre l’intention de la requête de l’utilisateur, puis crée les étapes de raisonnement pour générer la réponse.

Dans le GAR, les requêtes interagissent directement avec la base de connaissances. Elles sont compilées et non générées, la même question donne toujours la même réponse. Une chaîne de raisonnement dans le GAR est un artefact permanent et examinable, et non un chat éphémère, donc toute la chaîne de raisonnement peut être reproduite.

Cela signifie que les résultats sont exponentiellement plus précis que ceux des moteurs de génération d’IA généralisés.

Au cœur du GAR, il y a trois choses :

1. Construit automatiquement une couche sémantique. Le GAR utilise l’IA pour découvrir les relations et les définitions commerciales à travers les systèmes, en unifiant les données dans un seul modèle
2. Traduit l’intention commerciale en langage d’analyse de haut niveau. Ce langage capture la requête au niveau des concepts commerciaux (« revenu par visite par fournisseur pour le Q2 ») et se compile directement en SQL.
3. Enregistre chaque étape de raisonnement pour l’auditabilité. L’origine de chaque réponse est traçable.

Pourquoi cela compte

En limitant le raisonnement au modèle de connaissances interne de l’entreprise, le GAR peut éliminer les hallucinations et fournir des réponses qui sont prouvément correctes.

Les définitions, les métriques et les modèles de requête s’accumulent avec le temps, ce qui rend les réponses futures encore plus personnalisées pour son utilisateur spécifique.

L’élément de confiance est crucial pour les utilisateurs commerciaux qui dépendent de leurs données structurées pour prendre des décisions commerciales éclairées. À mesure que de plus en plus d’organisations mettent en œuvre des solutions d’IA avancées, elles exigeront des cadres qui réduisent le risque d’hallucination et d’erreur à près de zéro.

Cela se produit lorsque les requêtes se connectent directement à vos données, lorsque l’IA peut fonctionner sur de grands ensembles de données sans se briser, et lorsque les réponses sont fournies avec constance et preuve.