De ce Generative-Augmented Retrieval este frontiera următoare a analizei datelor

Trei din patru persoane spun că organizațiile lor utilizează inteligența artificială. Cu toate acestea, cea mai mare parte a acestei activități se concentrează încă pe conținutul nestructurat: rezumarea ședințelor, redactarea e-mailurilor sau automatizarea suportului clienți.

Însă, în mod ironic, o mare parte a datelor care determină în realitate deciziile de afaceri – rapoarte financiare, tabele de depozit și indicatori de performanță – rămân în mare măsură neatinse de inteligența artificială.

Motivul nu este lipsa de ambiție, ci lipsa de încredere. Când un model generează o propoziție, acest lucru poate fi adesea corectat; când generează un număr, este catastrofal. Un director financiar nu poate semna un răspuns pe care nu îl poate verifica.

Astăzi, datele structurate trăiesc în zeci de sisteme, fiecare cu propriile reguli și relații. A face ca inteligența artificială să raționeze corect pe această complexitate este o provocare mai dificilă decât orice chatbot.

Întreprinderile și echipele lor – inclusiv utilizatorii non-tehnici – trebuie să poată interacționa cu datele lor într-un mod simplu pentru a reduce blocajele și a obține insight-uri rapide și precise. Fără a trebui să învețe SQL.

Unele soluții apar – să aruncăm o privire asupra unor exemple proeminente, cu beneficiile și limitările lor.

Inteligența artificială și datele structurate – un pod prea departe

În ultimii doi ani, au apărut mai multe eforturi pentru a conecta insight-urile inteligenței artificiale și datele structurate.

Multe provin de la gigantii tehnologiei cu resurse semnificative și date. Snowflake, de exemplu, a introdus Cortex Analyst, care încearcă să permită utilizatorilor să pună întrebări în limbaj natural împotriva depozitului de date Snowflake.

Pentru a îmbunătăți acuratețea, Cortex are o modalitate de a furniza metadate semantice – dar modelul este puternic limitat. Pe de o parte, trebuie să fie construit manual, și chiar și așa, poate opera doar pe maximum 10 tabele, ceea ce nu este suficient nici măcar pentru o companie de dimensiuni medii. Orice mai mare, și încrederea se rupe, deoarece acuratețea scade.

Povestea se repetă cu încercările de la Databricks, care a adoptat o abordare text-to-SQL cu AI/BI Genie. Această soluție poate fi implementată eficient doar pe domenii mici, pierzând acuratețea cu seturi de date mai mari.

Microsoft Power BI Copilot adoptă o abordare generativă de suprafață, integrând inteligența artificială direct în tablouri de bord pentru a descrie vizualizări, a sugera măsuri și a redacta rapoarte. Îmbunătățește explorarea, dar nu schimbă modul în care se raționează sau se verifică analitica. Fiecare răspuns depinde în continuare de judecata modelului, și atunci când acea judecată eșuează, nu există nici o urmă de audit sau logică deterministă pe care să se poată baza.

În mod colectiv, aceste sisteme indică direcția corectă: implementarea inteligenței artificiale pe datele structurate ale întreprinderii. Dar ele împărtășesc și o eroare critică. Depind de modelul de inteligență artificială pentru a genera SQL din limbaj natural, și atunci când SQL-ul este greșit, ceea ce se întâmplă adesea, utilizatorul de afaceri este blocat. Un executiv care nu poate citi SQL nu are nici o modalitate de a diagnostica sau corecta rezultatul. Conversația se oprește brusc.

O altă modalitate de abordare a problemei este de a pre-indexa perechi de întrebări și răspunsuri probabile. GARAGe al lui Ada, printre altele, urmează această metodă. Funcționează bine în domenii înguste în care întrebările sunt previzibile, dar performanța scade pe măsură ce crește complexitatea datelor. Odată ce tabelele și schemele se multiplică, pre-indexarea devine rapid de neatins.

O cale diferită: Generative-Augmented Retrieval

Generative-Augmented Retrieval (GAR) inversează abordarea curentă RAG (Retrieval-Augmented Generation sursează informații relevante și le incorporează într-un LLM pentru acuratețe crescută).

În loc să ceară unui LLM să scrie SQL, GAR utilizează inteligența artificială generativă pentru a înțelege intenția întrebării utilizatorului și apoi creează pașii de raționament pentru a genera răspunsul.

În GAR, întrebările interacționează direct cu baza de cunoștințe. Sunt compilate și nu generate, aceeași întrebare dă întotdeauna același răspuns. O lanț de raționament în GAR este un artifact permanent și revizibil, nu o conversație tranzitorie, astfel încât întreaga lanț de raționament poate fi reprodusă.

Acest lucru înseamnă că rezultatele sunt exponențial mai precise decât cele obținute cu motoarele de inteligență artificială generalizate.

La nivelul său fundamental, GAR face trei lucruri:

1. Construire automată a unui strat semantic. GAR utilizează inteligența artificială pentru a descoperi relații și definiții de afaceri pe sisteme, unificând datele într-un singur model
2. Traduce intenția de afaceri în limbaj analitic de nivel înalt. Acest limbaj capturează întrebarea la nivelul conceptului de afaceri (“venituri pe vizită de furnizor pentru trimestrul 2”) și se compilează direct în SQL.
3. Înregistrează fiecare pas de raționament pentru auditabilitate. Originea fiecărui răspuns este traseabilă.

De ce aceasta contează

Prin limitarea raționamentului la modelul de cunoștințe intern al afacerii, GAR poate elimina halucinațiile și livrează răspunsuri care sunt corecte și provabile.

Definițiile, metricile și modelele de întrebări se acumulează în timp, făcând ca răspunsurile viitoare să fie personalizate și mai precise pentru utilizatorul specific.

Elementul de încredere este crucial pentru utilizatorii de afaceri care depind de datele structurate pentru a lua decizii informate. Pe măsură ce tot mai multe organizații implementează soluții avansate de inteligență artificială, vor cere cadre care să aducă riscul de halucinație și eroare la aproape zero.

Acest lucru se întâmplă atunci când interogarea se conectează direct la datele dvs., atunci când inteligența artificială poate lucra cu seturi de date mari fără a se bloca și atunci când răspunsurile sunt oferite cu consecvență și provabilitate.