Proč je Generative-Augmented Retrieval budoucností datové analýzy

Tři ze čtyř lidí říkají, že jejich organizace používají umělou inteligenci. Přesto se většina této činnosti stále soustředí na nestrukturovaný obsah: shrnutí schůzek, vytváření e-mailů nebo automatizace zákaznické podpory.

Ale ironicky, většina dat, která skutečně řídí obchodní rozhodnutí – finanční zprávy, tabulky skladu a KPI – zůstáválargely nedotčena umělou inteligencí.

Důvodem není nedostatek ambicí, ale nedostatek důvěry. Když model hallucinuje větu, lze to často opravit; když však hallucinuje číslo, je to katastrofální. Finanční ředitel nemůže schválit odpověď, kterou nemůže ověřit.

Dnes žijí strukturovaná data v desítkách systémů, každý se svými vlastními pravidly a vztahy. Získání umělé inteligence, aby správně rozuměla této komplexitě, je tvrdším úkolem než jakýkoli chatbot.

Podniky a jejich týmy – včetně netechnických uživatelů – potřebují být schopni interagovat se svými daty jednoduchým způsobem, aby snížili úzká místa a získali rychlé a přesné informace. Bez nutnosti učit se SQL.

Některá řešení se objevují – podívejme se na einige prominentní příklady, s jejich výhodami a nevýhodami.

Umělá inteligence a strukturovaná data – most příliš daleko

V posledních dvou letech se objevily several pokusy o most mezi umělou inteligencí a strukturovanými daty.

Mnohé z nich pocházejí z technologických gigantů s významnými zdroji a daty. Snowflake, například, introduced s Cortex Analyst, který se snaží umožnit uživatelům klást přirozené jazykové otázky proti Snowflake date warehouse.

Pro zlepšení přesnosti má Cortex způsob, jak poskytnout semantic metadata – ale model je silně omezen. Jednak musí být postaven ručně a dokonce tak může operovat pouze na maximálně 10 tabulkách, což je недостаточно ani pro střední společnost. Čím vyšší, tím více důvěra klesá, protože přesnost klesá.

Příběh se opakuje s pokusy Databricks, který přijal text-to-SQL přístup s AI/BI Genie. Toto řešení může být nasazeno pouze účinně na malé domény, ztrácí přesnost s rostoucími datovými sadami.

Microsoft Power BI Copilot přijímá povrchový generativní přístup, vkládající umělou inteligenci přímo do dashboardů pro popis vizuálů, navržení opatření a vypracování zpráv. Zlepšuje průzkum, ale nemění, jak se rozumí analytikám nebo ověřují. Každá odpověď stále závisí na úsudku modelu a když tento úsudek selže, není žádná auditní stopa nebo deterministická logika, na kterou by se lehet spolehnout.

Společně tyto systémy ukazují správným směrem: nasazení umělé inteligence na strukturovaná podniková data. Ale sdílejí také kritickou vadu. Závisí na umělém inteligentním modelu, aby generoval SQL z přirozeného jazyka a když tento SQL je špatný, což se stává často, je obchodní uživatel uvězněn. Výkonný ředitel, který nemůže číst SQL, nemá žádnou možnost diagnostikovat nebo opravovat výsledek. Konverzace skončí.

Jiný způsob, jak řešit problém, je předem indexovat pravděpodobné otázky a odpovědi. Ada’s GARAGe, mezi jinými, následuje tuto metodu. Pracuje dobře v úzkých doménách, kde jsou otázky předvídatelné, ale výkon klesá, jak roste složitost dat. Jakmile se tabulky a schéma množí, předem indexování se rychle stává neříditelným.

Odlišná cesta: Generative-Augmented Retrieval

Generative-Augmented Retrieval (GAR) otočí aktuální RAG přístup vzhůru nohama (Retrieval-Augmented Generation zdrojů relevantních informací a začlení je do LLM pro zvýšení přesnosti).

Místo toho, aby se požadovalo, aby LLM psal SQL, GAR používá generativní umělou inteligenci, aby pochopila záměr uživatelského dotazu a poté vytvořila kroky pro vygenerování odpovědi.

V GAR interagují dotazy přímo s znalostní bází. Jsou kompilovány spíše než generovány, stejná otázka vždy vede ke stejné odpovědi. Důvodovací řetězec v GAR je trvalým, přezkoumatelným artefaktem, ne přechodným chatem, takže celý řetězec důvodu může být reprodukován.

To znamená, že výsledky jsou exponenciálně přesnější než u obecných genAI motorů.

V jádru GAR dělá tři věci:

1. Automatически vytváří semantic layer. GAR používá umělou inteligenci, aby odhalila vztahy a obchodní definice napříč systémy, sjednocuje data do jediného modelu
2. Překládá obchodní záměr do vysoké úrovně analytického jazyka. Tento jazyk zachycuje dotaz na úrovni obchodního konceptu („tržby za návštěvu poskytovatele za Q2“) a kompiluje přímo do SQL.
3. Loguje každý důvodovací krok pro auditovatelnost. Původ každé odpovědi je stopovatelný.

Proč to záleží

Omezením důvodu na vnitřní znalostní model podniku může GAR eliminovat halucinace a dodávat odpovědi, které jsou prokazatelně správné.

Definice, metriky a vzorce dotazů se sčítají over time, dělají budoucí odpovědi dále přizpůsobené pro jeho konkrétního uživatele.

Prvek důvěry je zásadní pro obchodní uživatele, kteří závisí na svých strukturovaných datech, aby dělali informovaná obchodní rozhodnutí. Jak více a více organizací implementuje pokročilá umělá inteligentní řešení, budou požadovat rámce, které přinesou riziko halucinace a chyby téměř na nulu.

To se stane, když dotazování spojí přímo s vašimi daty, když umělá inteligence může pracovat s velkými datovými sadami bez selhání a když jsou odpovědi poskytovány s konzistencí a prokazatelností.