Hvorfor Generative-Augmented Retrieval er den næste front i dataanalyse

Tre ud af fire mennesker siger, at deres organisationer bruger AI. Alligevel er det meste af denne aktivitet stadig centreret omkring ustruktureret indhold: sammenfatning af møder, udarbejdning af e-mails eller automatisering af kundesupport.

Men ironisk nok er så meget af de data, der faktisk driver forretningsbeslutninger – finansielle rapporter, lagerstables og nøgleperformanceindikatorer – stadig ikke berørt af AI.

Grunden er ikke mangel på ambition, men mangel på tillid. Når en model hallucinerer en sætning, kan det ofte rettes; når den hallucinerer et tal, er det katastrofalt. En CFO kan ikke godkende et svar, som de ikke kan verificere.

I dag lever struktureret data over flere dusin systemer, hver med sine egne regler og relationer. At få AI til at forstå korrekt på tværs af denne kompleksitet er en hårdere udfordring end nogen chatbot.

Virksomheder og deres teams – herunder ikke-tekniske brugere – har brug for at kunne interagere med deres data på en simpel måde for at reducere flaskehalse og hente hurtige, præcise indsigt. Uden at skulle lære SQL.

Nogle løsninger er ved at dukke op – lad os se på nogle fremtrædende eksempler, med deres fordele og deres tilbageslag.

AI og struktureret data – en bro for langt

I løbet af de sidste to år er flere bestræbelser dukket op for at brobygge mellem AI-indsigter og struktureret data.

Mange kommer fra teknologigiganter med betydelige ressourcer og data. Snowflake introducerede f.eks. Cortex Analyst, som forsøger at låse brugerne til at stille naturlige sprogspørgsmål mod Snowflake-databasen.

For at forbedre nøjagtigheden har Cortex en måde at give semantisk metadata på – men modellen er tungt begrænset. For det første skal den opbygges manuelt, og selv så kan den kun fungere på maksimalt 10 tabeller, hvilket ikke er nok, selv for en medium-stor virksomhed. Hvis det er højere, bryder tilliden, da nøjagtigheden falder.

Historien gentager sig med forsøg fra Databricks, som tog en tekst-til-SQL-tilgang med AI/BI Genie. Denne løsning kan kun deployes effektivt på små domæner og mister nøjagtighed med øgede datasæt.

Microsoft Power BI Copilot tager en overfladisk generativ tilgang, hvor AI indbygges direkte i dashboards for at beskrive visuelle, foreslå mål og udarbejde rapporter. Den forbedrer udforskningen, men ændrer ikke, hvordan analyserne forstås eller verificeres. Hvert svar afhænger stadig af modellens dom, og når denne dom fejler, er der ingen revisionsstier eller deterministisk logik at falde tilbage på.

Sammen peger disse systemer i den rette retning: at deployere AI på struktureret virksomhedsdata. Men de deler også en kritisk fejl. De afhænger af AI-modellen til at generere SQL fra naturligt sprog, og når dette SQL er forkert, hvilket sker ofte, er den forretningsmæssige bruger fastlåst. En direktør, der ikke kan læse SQL, har ingen måde at diagnosticere eller korrigere resultatet på. Samtalen stopper kolde.

En anden måde at nærme sig problemet på er at forhåndsvise sandsynlige spørgsmål-svar-par. Ada’s GARAGe, blandt andre, følger denne metode. Den fungerer godt i snævre domæner, hvor spørgsmål er forudsigelige, men ydeevnen falder, når datakompleksiteten vokser. Når tabeller og skemaer multiplikeres, bliver forhåndsvision hurtigt ustyrlig.

En anden vej: Generative-Augmented Retrieval

Generative-Augmented Retrieval (GAR) vender den nuværende RAG-tilgang på hovedet (Retrieval-Augmented Generation kilder relevant information og inkorporerer det i en LLM for øget nøjagtighed).

I stedet for at bede en LLM om at skrive SQL, bruger GAR generativ AI til at forstå brugerens spørgsmåls intention og derefter opbygge begrundelsesstierne for at generere svaret.

I GAR interagerer spørgsmål direkte med videnbasen. De er kompilerede og ikke genererede, og det samme spørgsmål giver altid det samme svar. En begrundelseskæde i GAR er en permanent, gennemgåelig artefakt, ikke en transient chat, så hele begrundelseskæden kan reproduceres.

Det betyder, at resultaterne er eksponentielt mere nøjagtige end med generelle genAI-motorer.

I sin kerne gør GAR tre ting:

1. Bygger automatisk en semantisk lag. GAR bruger AI til at afsløre relationer og forretningsdefinitioner på tværs af systemer og samler data i en enkelt model
2. Oversætter forretningsintention til højt niveau analytisk sprog. Dette sprog fanger spørgsmål på forretningskonceptniveau (“indtægt per besøg fra udbyder for Q2”) og kompilering direkte til SQL.
3. Logger hver begrundelsesstier for gennemgang. Oprindelsen af hvert svar er sporbar.

Hvorfor det betyder noget

Ved at begrænse begrundelsen til virksomhedens egen interne videnmodel kan GAR eliminere hallucinationer og levere svar, der er beviseligt korrekte.

Definitioner, mål og spørgsmønstre akkumulerer over tid, hvilket gør fremtidige svar mere tilpasset den enkelte bruger.

Tillids-elementet er afgørende for forretningsbrugere, der afhænger af deres strukturerede data for at træffe informerede forretningsbeslutninger. Da flere og flere organisationer implementerer avancerede AI-løsninger, vil de kræve rammer, der bringer risikoen for hallucination og fejl til nær-nul.

Det sker, når spørgsmål kobler direkte til dine data, når AI kan arbejde med store datasæt uden at bryde sammen, og når svar gives med konsistens og beviselighed.