Miksi Generative-Augmented Retrieval on seuraava askel data-analytiikassa

Kolme neljästä ihmisestä sanoo, että heidän organisaatiot käyttävät tekoälyä. Kuitenkin suurin osa tästä toiminnasta keskittyy edelleen rakenteettomaan sisältöön: kokousten tiivistämiseen, sähköpostien luomiseen tai asiakastuen automatisointiin.

Ironisesti, paljon sellaista dataa, joka todella ohjaa liiketoimintapäätöksiä – talousraportit, varastotaulukot ja KPI:t – on edelleen suurelta osin koskematon tekoälylle.

Syytä tähän ei ole puute ambisiosta, vaan puute luottamuksesta. Kun malli “hallusinoi” lauseen, se voidaan usein korjata; kun se “hallusinoi” numeron, se on katastrofi. CFO ei voi hyväksyä vastausta, jonka hän ei voi vahvistaa.

Tänään rakenteinen data elää kymmenissä järjestelmissä, kullakin omilla säännöillään ja suhteillaan. Tekoälyn saaminen toimimaan oikein tämän monimutkaisuuden yli on haaste, joka on vaikeampi kuin mikään chatbot.

Liiketoiminnat ja niiden tiimit – mukaan lukien ei-tekniset käyttäjät – tarvitsevat mahdollisuuksia vuorovaikuttaa datansa kanssa yksinkertaisella tavalla, jotta pullonkaulat voitaisiin poistaa ja nopeita, tarkkoja oivalluksia voitaisiin hankkia. Ilman SQL:n oppimista.

Jotkut ratkaisut ovat tulossa – tarkastellaan joitakin merkittäviä esimerkkejä, niiden hyötyjensä ja heikkouksiensa kanssa.

Tekoäly ja rakenteinen data – silta liian pitkälle

Viimeisten kahden vuoden aikana on tehty useita yrityksiä yhdistää tekoälynsäätely ja rakenteinen data.

Monet niistä tulevat teknologiajäteistä, joilla on merkittäviä resursseja ja dataa. Snowflake esimerkiksi esitteli Cortex Analystin, joka yrittää sallia käyttäjien esittää luonnollisen kielen kysymyksiä Snowflaken datavarastoa vastaan.

Jotta tarkkuutta voitaisiin parantaa, Cortexilla on tapa tarjota semanttista metadataa – mutta malli on voimakkaasti rajoitettu. Yhtäältä, se on rakennettava manuaalisesti, ja vaikka se voidaan tehdä, se voi toimia vain enintään 10 taulukon kanssa, mikä ei riitä edes keskikokoiselle yritykselle. Mitä suurempi, sitä enemmän luottamus murtuu, kun tarkkuus laskee.

Tarina toistuu Databricksin yrityksissä, jotka ottivat teksti-SQL-lähestymistavan AI/BI Genie:llä. Tämä ratkaisu voidaan käyttää vain pienillä alueilla, ja sen tarkkuus laskee, kun datamäärät kasvavat.

Microsoft Power BI Copilot ottaa pinta-tason generatiivisen lähestymistavan, upottamalla tekoälyä suoraan kojuihin kuvauksineen, ehdotuksineen ja raporttien luomisella. Se parantaa tutkimista, mutta ei muuta, miten analytiikkaa johdetaan tai vahvistetaan. Jokainen vastaus riippuu edelleen mallin arviosta, ja kun arvio epäonnistuu, ei ole audit-reittiä tai determinististä logiikkaa, johon voitaisiin turvautua.

Nämä järjestelmät osoittavat oikeaan suuntaan: tekoälyn käyttäminen rakenteisessa yritysdatassa. Mutta ne jakavat myös kriittisen virheen. Ne riippuvat tekoälymallista, joka luo SQL:n luonnollisesta kielestä, ja kun tuo SQL on väärä, mikä tapahtuu usein, liiketoimintakäyttäjä jää jumiin. Johtaja, joka ei voi lukea SQL:ää, ei voi diagnosoida tai korjata tulosta. Keskustelu pysähtyy.

Toinen tapa lähestyä ongelmaa on etukäteen indeksoida todennäköiset kysymys-vastaus-parit. Adan GARAGe, muun muassa, seuraa tätä menetelmää. Se toimii hyvin kapeilla alueilla, joilla kysymykset ovat ennustettavissa, mutta suorituskyky laskee, kun datan monimutkaisuus kasvaa. Kun taulukot ja schemat moninkertaistuvat, etukäteen indeksointi muuttuu nopeasti hallitsemattomaksi.

Erilainen polku: Generative-Augmented Retrieval

Generative-Augmented Retrieval (GAR) kääntää nykyisen RAG-lähestymistavan (Retrieval-Augmented Generation) ylösalaisin (lähde relevantti tieto ja sisällytä se LLM:ään tarkkuuden lisäämiseksi).

GAR:ssa käyttäjän kysymys vuorovaikuttaa suoraan tietokannan kanssa. Ne ovat käännetyt, ei generoitu, ja sama kysymys aina antaa saman vastauksen. GAR:n järjellisyysketju on pysyvä, tarkasteltavissa oleva artefakti, ei väliaikainen keskustelu, joten koko järjellisyysketju voidaan toistaa.

Tämä tarkoittaa, että tulokset ovat eksponentiaalisesti tarkempia kuin yleistetyissä genAI-moottoreissa.

GAR tekee kolme asiaa:

1. Automaattisesti rakentaa semanttisen kerroksen. GAR käyttää tekoälyä paljastamaan suhteet ja liiketoimintamääritelmät järjestelmien yli, yhdistäen datan yhteen malliin
2. Kääntää liiketoimintatarkoituksen korkean tason analyysikielen. Tämä kieli pyytää kysymystä liiketoimintakäsitteen tasolla (“liikevaihto vierailuun tarjoajaa kohti Q2”) ja kääntää suoraan SQL:ksi.
3. Kirjaa jokaisen järjellisyysaskeleen tarkasteltavuuden vuoksi. Jokaisen vastauksen alkuperä on jäljitettävissä.

Miksi tämä on tärkeää

Rajoittamalla järjellisyys yrityksen oman sisäisen tietomallin puitteisiin GAR voi poistaa “hallusinaatiot” ja toimittaa vastauksia, jotka ovat osoitettavasti oikein.

Määritelmät, mittarit ja kysymysmallit kasautuvat ajan myötä, mikä tekee tulevista vastauksista entistä enemmän mukautettuja kyseisen käyttäjän tarpeisiin.

Luottamus on tärkeää liiketoimintakäyttäjille, jotka riippuvat rakenteisesta datastaan perustellakseen liiketoimintapäätöksiään. Kun yhä useammat organisaatiot toteuttavat edistyneitä tekoälyratkaisuja, ne vaativat kehyksiä, jotka laskevat “hallusinaatioiden” ja virheiden riskin lähes nollaan.

Tämä tapahtuu, kun kyselyt liittyvät suoraan tietoihin, kun tekoäly voi toimia suurilla datamäärillä ilman rikkoontumista ja kun vastaukset annetaan johdonmukaisesti ja todistettavasti.