Connect with us

Tankeledere

Hvorfor Generative-Augmented Retrieval Er Den Neste Grensen for Dataanalyse

mm

Tre av fire personer sier at deres organisasjoner bruker AI. Likevel er det meste av denne aktiviteten fortsatt sentrert på ustrukturert innhold: sammenfatte møter, utkaste e-poster eller automatisere kundestøtte.

Men ironisk nok er så mye av dataene som faktisk driver forretningsbeslutninger – finansielle rapporter, lager-tabeller og KPI-er – fortsatt stort sett uberørt av AI.

Grunden er ikke mangel på ambisjon, men mangel på tillit. Når en modell hallucinerer en setning, kan det ofte fikses; når den hallucinerer et tall, er det katastrofalt. En CFO kan ikke godkjenne et svar de ikke kan verifisere.

I dag bor strukturert data over flere dusin systemer, hver med sine egne regler og relasjoner. Å få AI til å resonnere riktig over denne kompleksiteten er en harder utfordring enn noen chatbot.

Bedrifter og deres team – inkludert ikke-tekniske brukere – må kunne samhandle med deres data på en enkel måte for å redusere flaskehaler og hente rask, nøyaktig innsikt. Uten å måtte lære SQL.

Noen løsninger dukker opp – la oss se på noen fremtredende eksempler, med deres fordeler og tilbakeslag.

AI og strukturert data – en bro for langt

Over de siste to årene har flere forsøk dukket opp for å bruke AI-innsikt og strukturert data.

Mange kommer fra teknologigiganter med betydelige ressurser og data. Snowflake, for eksempel, introduserte en med sin Cortex Analyst, som forsøker å la brukerne stille naturlige språk-spørsmål mot Snowflake-data-lager.

For å forbedre nøyaktigheten har Cortex en måte å gi semantisk metadata – men modellen er tungt begrenset. For det første må den bygges manuelt, og selv da kan den bare operere på en maksimum på 10 tabeller, ingen hvor nær nok selv for en medium-stor bedrift. Hvis det er mer, brytes tilliten, da nøyaktigheten synker.

Historien gjentar seg med forsøk fra Databricks, som tok en tekst-til-SQL-tilnærming med AI/BI Genie. Denne løsningen kan bare deployes effektivt på små domener, og taper nøyaktighet med økte datasamlinger.

Microsoft Power BI Copilot tar en overflatisk generativ tilnærming, innbygger AI direkte inne i dashboards for å beskrive visualiseringer, foreslå mål og utkaste rapporter. Den forbedrer utforskningen, men endrer ikke hvordan analyser resonnere eller verifiseres. Hvert svar avhenger fortsatt av modellens dømmekraft, og når den dømmekraften svikter, er det ingen revisjons-spor eller deterministisk logikk å falde tilbake på.

Rob Giardina er medgrunnlegger og CEO av Claritype, et selskap som utvikler AI-systemer som bringer forklarbarhet og kontroll til bedriftsdataanalyse. Han tjenestegjorde tidligere som en Forward Deployed Engineer i Palantir Technologies.