Warum Generative-Augmented Retrieval die nächste Grenze der Datenanalyse ist

Drei von vier Menschen sagen, dass ihre Organisationen AI verwenden. Doch die meisten dieser Aktivitäten konzentrieren sich immer noch auf unstrukturierte Inhalte: Zusammenfassung von Meetings, Erstellung von E-Mails oder Automatisierung des Kundensupports.

Ironischerweise bleibt jedoch so viel von den Daten, die tatsächlich Geschäftsentscheidungen treiben – Finanzberichte, Lagerbestandslisten und KPIs – weitgehend unberührt von AI.

Der Grund dafür ist nicht mangelndes Engagement, sondern mangelndes Vertrauen. Wenn ein Modell einen Satz halluciniert, kann das oft korrigiert werden; wenn es jedoch eine Zahl halluciniert, ist das katastrophal. Ein CFO kann nicht auf eine Antwort unterschreiben, die er nicht überprüfen kann.

Heute leben strukturierte Daten in Dutzenden von Systemen, jedes mit seinen eigenen Regeln und Beziehungen. Es ist eine größere Herausforderung, AI dazu zu bringen, korrekt über diese Komplexität nachzudenken, als ein Chatbot zu erstellen.

Unternehmen und ihre Teams – einschließlich nicht-technischer Benutzer – müssen in der Lage sein, mit ihren Daten auf einfache Weise zu interagieren, um Engpässe zu reduzieren und schnelle, genaue Erkenntnisse zu gewinnen. Ohne SQL lernen zu müssen.

Einige Lösungen sind im Entstehen – lassen Sie uns einige prominente Beispiele betrachten, mit ihren Vorteilen und Nachteilen.

KI und strukturierte Daten – eine Brücke zu weit

In den letzten zwei Jahren sind mehrere Bemühungen entstanden, um KI-Erkenntnisse und strukturierte Daten zu verbinden.

Viele davon stammen von Technologie-Giganten mit erheblichen Ressourcen und Daten. Snowflake hat beispielsweise mit seinem Cortex Analyst eine Lösung eingeführt, die es Benutzern ermöglicht, natürliche Sprachfragen an die Snowflake-Datenbank zu stellen.

Um die Genauigkeit zu verbessern, bietet Cortex eine Möglichkeit, semantische Metadaten bereitzustellen – aber das Modell ist stark eingeschränkt. Es muss beispielsweise manuell erstellt werden und kann nur auf maximal 10 Tabellen operieren, was nicht einmal für ein mittelgroßes Unternehmen ausreicht. Wenn es höher ist, bricht das Vertrauen zusammen, da die Genauigkeit abnimmt.

Die Geschichte wiederholt sich mit den Bemühungen von Databricks, die einen text-to-SQL-Ansatz mit AI/BI Genie verfolgen. Diese Lösung kann nur auf kleinen Domänen effektiv eingesetzt werden und verliert an Genauigkeit, wenn die Datensätze vergrößert werden.

Microsoft Power BI Copilot verfolgt einen oberflächlichen generativen Ansatz, indem AI direkt in Dashboards eingebettet wird, um Visualisierungen zu beschreiben, Maßnahmen vorzuschlagen und Berichte zu erstellen. Es verbessert die Exploration, ändert aber nicht, wie Analytics begründet oder überprüft werden. Jede Antwort hängt immer noch vom Urteil des Modells ab, und wenn dieses Urteil fehlschlägt, gibt es keine Prüfung oder deterministische Logik, auf die man zurückgreifen kann.

Collectiv zeigen diese Systeme die richtige Richtung: die Einsetzung von KI auf strukturierten Unternehmensdaten. Aber sie teilen auch einen kritischen Fehler. Sie verlassen sich auf das KI-Modell, um SQL aus natürlicher Sprache zu generieren, und wenn dieses SQL falsch ist, was oft passiert, bleibt der Geschäftsanwender stecken. Ein Exekutive, der SQL nicht lesen kann, hat keine Möglichkeit, das Ergebnis zu diagnostizieren oder zu korrigieren. Das Gespräch bricht abrupt ab.

Ein anderer Ansatz, um das Problem zu lösen, besteht darin, wahrscheinliche Frage-Antwort-Paare im Voraus zu indexieren. Ada’s GARAGe und andere verfolgen diese Methode. Sie funktioniert gut in engen Domänen, in denen Fragen vorhersehbar sind, aber die Leistung sinkt, wenn die Datenkomplexität wächst. Wenn Tabellen und Schemata multipliziert werden, wird das Vorindexieren schnell unmanagebar.

Ein anderer Weg: Generative-Augmented Retrieval

Generative-Augmented Retrieval (GAR) dreht den aktuellen RAG-Ansatz um (Retrieval-Augmented Generation bezieht relevante Informationen ein und integriert sie in ein LLM für erhöhte Genauigkeit).

Anstatt einem LLM zu sagen, SQL zu schreiben, verwendet GAR generative KI, um die Absicht der Benutzeranfrage zu verstehen, und erstellt dann die Denkschritte, um die Antwort zu generieren.

Bei GAR interagieren Anfragen direkt mit der Wissensbasis. Sie werden kompiliert und nicht generiert, die gleiche Frage ergibt immer die gleiche Antwort. Eine Denkfolge in GAR ist ein dauerhaftes, überprüfbares Artefakt, kein transienter Chat, so dass die gesamte Denkfolge reproduziert werden kann.

Dadurch sind die Ergebnisse exponentiell genauer als bei verallgemeinerten genAI-Motoren.

Im Kern tut GAR drei Dinge:

1. Baut automatisch eine semantische Schicht auf. GAR verwendet KI, um Beziehungen und Geschäftsbegriffe über Systeme hinweg zu entdecken und Daten in ein einziges Modell zu vereinen
2. Übersetzt Geschäftsbegriffe in eine höhere analytische Sprache. Diese Sprache erfasst die Anfrage auf Geschäftskonzepte („Umsatz pro Besuch durch Anbieter für Q2“) und kompiliert direkt in SQL.
3. Protokolliert jeden Denkschritt für die Prüfbarkeit. Der Ursprung jeder Antwort ist nachvollziehbar.

Warum das wichtig ist

Indem die Denkfolge auf das interne Wissensmodell des Unternehmens beschränkt wird, kann GAR Halluzinationen eliminieren und Antworten liefern, die provably korrekt sind.

Definitionen, Metriken und Anfragepattern verdichten sich im Laufe der Zeit, was künftige Antworten weiter an den spezifischen Benutzer anpasst.

Das Vertrauenselement ist entscheidend für Geschäftsanwender, die auf ihre strukturierten Daten angewiesen sind, um fundierte Geschäftsentscheidungen zu treffen. Wenn immer mehr Organisationen fortschrittliche KI-Lösungen implementieren, werden sie Frameworks verlangen, die das Risiko von Halluzinationen und Fehlern nahe Null bringen.

Das geschieht, wenn die Abfrage direkt mit den Daten verbunden ist, wenn KI auf große Datensätze ohne Abbruch arbeiten kann und wenn Antworten mit Konsistenz und Nachvollziehbarkeit bereitgestellt werden.