Varför Generative-Augmented Retrieval är nästa frontier för dataanalys

Tre av fyra personer säger att deras organisationer använder AI. Ändå kretsar mest av denna aktivitet fortfarande kring ostrukturerat innehåll: sammanfattning av möten, utkast till e-postmeddelanden eller automatisering av kundsupport.

Men ironiskt nog förblir så mycket av de data som faktiskt driver affärsbeslut – finansiella rapporter, lager-tabeller och KPI:er – i stort sett opåverkade av AI.

Orsaken är inte brist på ambition, utan brist på tillit. När en modell hallucinerar en mening kan det ofta åtgärdas; när den hallucinerar ett nummer är det katastrofalt. En CFO kan inte underteckna ett svar som de inte kan verifiera.

I dag finns strukturerad data utspridd över dussintals system, var och ett med sina egna regler och relationer. Att få AI att resonera korrekt över denna komplexitet är en svårare utmaning än någon chatbot.

Företag och deras team – inklusive icke-tekniska användare – måste kunna interagera med sina data på ett enkelt sätt för att minska flaskhalsar och hämta snabba, precisa insikter. Utan att behöva lära sig SQL.

Vissa lösningar är på väg att dyka upp – låt oss titta på några framträdande exempel, med deras fördelar och bakslag.

AI och strukturerad data – en bro för långt

Under de senaste två åren har flera initiativ dykt upp för att kombinera AI-insikter och strukturerad data.

Många kommer från teknikjättar med betydande resurser och data. Snowflake introducerade till exempel Cortex Analyst, som försöker tillåta användare att ställa naturliga språkfrågor mot Snowflakes datalager.

För att förbättra precisionen har Cortex ett sätt att tillhandahålla semantisk metadata – men modellen är kraftigt begränsad. För det första måste den skapas manuellt, och även så kan den bara fungera på maximalt 10 tabeller, vilket inte räcker för att täcka ens en medelstor företag. Om det är mer, så bryts tilliten, eftersom precisionen minskar.

Berättelsen upprepar sig med försök av Databricks, som tog en text-till-SQL-ansats med AI/BI Genie. Denna lösning kan bara distribueras effektivt på små domäner, och tappar precision med ökade datamängder.

Microsoft Power BI Copilot tar en ytlig generativ ansats, genom att infoga AI direkt i instrumentpaneler för att beskriva visualiseringar, föreslå åtgärder och utarbeta rapporter. Det förbättrar utforskningen, men ändrar inte hur analyser resoneras eller verifieras. Varje svar är fortfarande beroende av modellens omdöme, och när det omdömet misslyckas, så finns det ingen revisionskedja eller deterministisk logik att falla tillbaka på.

Kollektivt pekar dessa system i rätt riktning: att distribuera AI på strukturerad företagsdata. Men de delar också en kritisk brist. De är beroende av AI-modellen för att generera SQL från naturligt språk, och när det SQL är fel, vilket händer ofta, så är den affärsanvändaren fast. En verkställande direktör som inte kan läsa SQL har inget sätt att diagnostisera eller korrigera resultatet. Samtalet avbryts.

Ett annat sätt att närma sig problemet är att förindexera sannolika fråga-svarspar. Ada’s GARAGe, bland andra, följer denna metod. Det fungerar bra i smala domäner där frågorna är förutsägbara, men prestandan minskar när datorkomplexiteten ökar. När tabeller och scheman förökar sig, så blir förindexering snabbt omöjlig.

En annan väg: Generative-Augmented Retrieval

Generative-Augmented Retrieval (GAR) vänder den nuvarande RAG-ansatsen upp och ner (Retrieval-Augmented Generation källor relevant information och inkorporerar den i en LLM för ökad precision).

I GAR använder generativ AI för att förstå avsikt bakom användarens fråga, och sedan skapar resonemangsstegen för att generera svaret.

I GAR interagerar frågor direkt med kunskapsbasen. De är komplicerade snarare än genererade, och samma fråga ger alltid samma svar. En resonemangs kedja i GAR är en permanent, granskbar artefakt, inte ett flyktigt samtal, så hela kedjan av resonemang kan reproduceras.

Det betyder att resultaten är exponentiellt mer precisa än med generella genAI-motorer.

I sin kärna gör GAR tre saker:

1. Bygger automatiskt en semantisk lager. GAR använder AI för att avslöja relationer och affärsdefinitioner över system, och förenar data i en enda modell
2. Översätter affärsavsikt till högnivåanalytiskt språk. Detta språk fångar frågan på affärsbegreppsnivå (“intäkter per besök av leverantör för Q2”) och kompilera direkt till SQL.
3. Loggar varje resonemangssteg för granskbarhet. Ursprunget till varje svar är spårbart.

Varför detta är viktigt

Genom att begränsa resonemang till företagets eget interna kunskapsmodell, kan GAR eliminera hallucinationer och leverera svar som är bevisbart korrekta.

Definitioner, mått och frågemönster ackumuleras över tid, vilket gör att framtida svar anpassas ytterligare för dess specifika användare.

Föremålet för tillit är avgörande för affärsanvändare som förlitar sig på sin strukturerade data för att fatta informerade affärsbeslut. När allt fler organisationer implementerar avancerade AI-lösningar, kommer de att kräva ramverk som bringar risken för hallucination och fel till nära noll.

Det händer när frågor ansluter direkt till din data, när AI kan arbeta med stora datamängder utan att bryta, och när svar tillhandahålls med konsekvens och bevisbarhet.