Hvorfor Generative-Augmented Retrieval er den neste fronten i dataanalyse

Tre av fire mennesker sier at deres organisasjoner bruker AI. Likevel er det meste av denne aktiviteten fortsatt sentrert rundt ustrukturert innhold: sammenfatting av møter, utkast til e-poster eller automatisering av kundestøtte.

Men ironisk nok er mye av dataene som faktisk driver forretningsbeslutninger – finansielle rapporter, lager-tabeller og KPI-er – fortsatt i stor grad uberørt av AI.

Årsaken er ikke mangel på ambisjon, men mangel på tillit. Når en modell hallucinerer en setning, kan det ofte fikses; når den hallucinerer et tall, er det katastrofalt. En CFO kan ikke godkjenne et svar som ikke kan verifiseres.

I dag bor strukturert data over flere titalls systemer, hver med sine egne regler og relasjoner. Å få AI til å resonere riktig over denne kompleksiteten er en vanskeligere utfordring enn noen chatbot.

Bedrifter og deres team – inkludert ikke-tekniske brukere – må kunne samhandle med sine data på en enkel måte for å redusere flaskehals og hente rask og nøyaktig innsikt. Uten å måtte lære SQL.

Noen løsninger dukker opp – la oss se på noen fremtredende eksempler, med deres fordeler og ulemper.

AI og strukturert data – en bro for langt

Over de siste to årene har flere forsøk dukket opp for å bruke AI-innsikt og strukturert data.

Mange kommer fra teknologigigantene med betydelige ressurser og data. Snowflake, for eksempel, introduserte en Cortex Analyst, som forsøker å låte brukerne stille naturlige språkspørsmål mot Snowflake-datawarehouse.

For å forbedre nøyaktigheten har Cortex en måte å gi semantisk metadata – men modellen er tungt begrenset. For det første må den bygges manuelt, og selv da kan den bare operere på en maksimum av 10 tabeller, noe som ikke er nok selv for en medium-stor bedrift. Hvis det er høyere, brytes tilliten, da nøyaktigheten synker.

Historien gjentar seg med forsøk fra Databricks, som tok en tekst-til-SQL-tilnærming med AI/BI Genie. Denne løsningen kan bare deployes effektivt på små domener, og nøyaktigheten synker med økte datasett.

Microsoft Power BI Copilot tar en overfladisk generativ tilnærming, innbygging AI direkte i dashboards for å beskrive visualiseringer, foreslå mål og utkast til rapporter. Den forbedrer utforskningen, men endrer ikke hvordan analyser resonneres eller verifiseres. Hvert svar avhenger fortsatt av modellens dømmekraft, og når den dømmekraften svikter, er det ingen revisjonslogg eller deterministisk logikk å falde tilbake på.

Sammen peker disse systemene i riktig retning: å deploye AI på strukturert bedriftsdata. Men de deler også en kritisk feil. De avhenger av AI-modellen til å generere SQL fra naturlig språk, og når det SQL er feil, hvilket skjer ofte, er bedriftsbrukeren fast. En direktør som ikke kan lese SQL har ingen måte å diagnostisere eller korrigere resultatet på. Samtalen stopper kaldt.

En annen måte å nærme seg problemet på er å forhåndsvise sannsynlige spørsmål-svar-par. Ada’s GARAGe, blant andre, følger denne metoden. Den fungerer godt i smale domener hvor spørsmål er forutsigbare, men ytelsen synker når datakompleksiteten øker. Når tabeller og skjemaer multipliseres, blir forhåndsvising raskt uadministrerbar.

En annen vei: Generative-Augmented Retrieval

Generative-Augmented Retrieval (GAR) snur den nåværende RAG-tilnærmingen på hodet (Retrieval-Augmented Generation kilder relevant informasjon og inkorporerer den i en LLM for økt nøyaktighet).

I stedet for å be en LLM om å skrive SQL, bruker GAR generativ AI til å forstå hensikten med brukerens spørsmål, og deretter lager den resonneringsstegene for å generere svaret.

I GAR interagerer spørsmål direkte med kunnskapsbasen. De er kompilert i stedet for generert, det samme spørsmålet gir alltid det samme svaret. En resonneringskjede i GAR er en permanent, gjennomgåbar artifact, ikke en midlertidig chat, så hele kjeden av resonnering kan reproduseres.

Det betyr at resultater er eksponentielt mer nøyaktige enn med generelle genAI-motorer.

Ved sin kerne gjør GAR tre ting:

1. Bygger automatisk en semantisk lag. GAR bruker AI til å avdekke relasjoner og forretningsdefinisjoner over systemer, og samler data inn i en enkelt modell
2. Oversetter forretningshensikt til høynivå-analytisk språk. Dette språket fanger spørsmål på forretningskonseptnivå (“omsetning per besøk fra leverandør for Q2”) og kompiles direkte til SQL.
3. Logger hver resonneringssteg for revisjon. Opphavet til hvert svar er sporbar.

Hvorfor dette betyr noe

Ved å begrense resonnering til bedriftens egen interne kunnskapsmodell, kan GAR eliminere hallucinasjoner og levere svar som er provably korrekte.

Definisjoner, metrikker og spørsmålsmønster akkumulerer over tid, og gjør fremtidige svar mer tilpasset sine spesifikke brukere.

Tillitselementet er kritisk for bedriftsbrukere som avhenger av sine strukturerte data for å ta informerte forretningsbeslutninger. Etterhvert som flere og flere organisasjoner implementerer avanserte AI-løsninger, vil de kreve rammer som bringer risikoen for hallucinasjon og feil nærmere null.

Det skjer når spørsmål kobler direkte til dine data, når AI kan arbeide med store datasett uten å bryte sammen, og når svar leveres med konsistens og provabilitet.