Omri Kohl, CEO a spoluzakladatel Pyramid Analytics – Interview Series

Omri Kohl je CEO a spoluzakladatel Pyramid Analytics. Pyramid Decision Intelligence Platform dodává datové informace pro každého, aby mohl učinit rychlejší a inteligentnější rozhodnutí. Řídí strategii a operace společnosti v rychle rostoucím trhu dat a analýz. Kohl přináší hluboké porozumění analytickým a AI technologiím, cenné manažerské zkušenosti a přirozenou schopnost zpochybnit konvenční myšlení. Kohl je velmi zkušený podnikatel s prokázanou historií vývoje a řízení rychle rostoucích společností. Studoval ekonomii, finance a obchodní management na Bar-Ilan University a má MBA v mezinárodním obchodním managementu z New York University, Leonard N. Stern School of Business.

Můžete začít vysvětlením, co je GenBI, a jak integruje Generative AI s business inteligencí, aby vylepšila rozhodovací procesy?

GenBI je rámec a mechanika pro přenesení síly GenAI, LLM a obecné AI do analytiky, business inteligence a rozhodování.

V současné době není praktické používat GenAI samostatně pro přístup k informacím o datech. Bylo by zapotřebí více než týden, aby se nahrála dostatečná data do vašeho GenAI nástroje, aby se získaly smysluplné výsledky. To je prostě nefunkční, protože obchodní data jsou příliš dynamická a příliš citlivá, aby se používala tímto způsobem. S GenBI může kdokoli získat cenné informace z svých dat, prostě tím, že položí otázku v přirozeném jazyce a uvidí výsledky ve formě BI dashboardu. Stačí méně než 30 sekund, aby se získala relevantní a užitečná odpověď.

Jaké jsou klíčové technologické inovace za GenBI, které umožňují pochopit a provést složité business inteligence úkoly prostřednictvím přirozeného jazyka?

Nu, bez toho, abychom prozradili všechny naše tajemství, existují tři základní komponenty. První, GenBI spouští LLM s všemi prvky, které potřebují k produkci správných analytických kroků, které vyprodukuje požadovanou informaci. To je to, co umožňuje uživateli tvořit dotazy pomocí přirozeného jazyka, i když nejsou přesně definovány, bez znalosti toho, jaký typ grafu, vyšetřování nebo formátu je třeba požadovat.

Dále, Pyramid Analytics GenBI řešení aplikuje tyto kroky na data vaší společnosti, bez ohledu na specifika vaší situace. Mluvíme o nejzákladnějších datech a jednoduchých dotazech, až po nejsložitější použití a komplexní databáze.

Třetí, Pyramid může provést tyto dotazy na podkladových datech a manipulovat výsledky na místě. Samotný LLM nemůže produkovat hlubokou analýzu na databázi. Je zapotřebí robotický prvek, aby nalezl všechny potřebné informace, interpretoval uživatelskou žádost, aby produkoval informace, a předal ji do BI platformy, aby formulaci výsledků buď v prostém jazyce nebo jako dynamickou visualizaci, která může být později upravena prostřednictvím následujících dotazů.

Jak GenBI demokratizuje datové analýzy, zejména pro netechnické uživatele?

Jednoduše řečeno, GenBI umožňuje komukoli získat informace, které potřebují, bez ohledu na jejich úroveň odbornosti. Tradiční BI nástroje vyžadují, aby uživatel znal, jaká je nejlepší technika manipulace dat, aby získal požadované výsledky. Ale většina lidí nemyslí v pie grafech, scatter grafech nebo tabulkách. Nemusí řešit, jaký typ vizualizace je nejvhodnější pro jejich situaci – prostě chtějí odpovědi na své otázky.

GenBI dodává tyto odpovědi komukoli, bez ohledu na jejich odbornost. Uživatel nemusí znát všechny profesionální termíny nebo řešit, zda je scattergraf nebo pie chart nejlepší volbou, a nemusí znát, jak kódovat databázové dotazy. Můžou prozkoumat data pomocí vlastních slov v přirozené konverzaci.

Myslíme si to jako rozdíl mezi používáním papírové mapy k plánování vaší trasy a používáním Google Maps nebo jiného navigačního aplikací. S tradiční mapou musíte řešit, které cesty jsou nejlepší, myslet na potenciální dopravní zácpy a porovnávat různé možnosti tras. Dnes lidé prostě zadají svou destinaci do aplikací a vyrazí – je tolik důvěry v algoritmy, že nikdo nezpochybňuje navrhovanou trasu. Chtěli bychom si myslet, že GenBI přináší podobnou automatizovanou magii do firemních dat.

Jaké je zpětné vazby od raných adoptérů o snadnosti použití a učení?

Získáváme převážně pozitivní zpětnou vazbu. Nejlepší způsob, jak to můžeme shrnout, je: „Wow!“ Uživatelé a testovací týmy velmi oceňují Pyramidovu snadnost použití, silné funkce a smysluplné informace.

Pyramid Analytics má téměř nulovou křivku učení, takže nic nebrání lidem v tom, aby ji přijali na místě. Přibližně tři čtvrtiny všech obchodních týmů, které otestovaly naše řešení, je přijaly a používají je dnes, protože je tak snadné a efektivní.

Můžete sdílet, jak GenBI transformovalo rozhodovací procesy uvnitř organizací, které jej implementovaly? Existují nějaké konkrétní případové studie nebo příklady?

Ačkoli jsme na něm pracovali dlouho, jsme jej spustili teprve před několika týdny, takže jistě chápete, že zatím nemáme kompletní případové studie, které bychom mohli sdílet, nebo zákaznické příklady, které bychom mohli jmenovat. Ale mohu vám říci, že organizace s tisíci uživateli se stávají skutečně datově řízenými, protože každý může získat informace. Uživatelé mohou nyní odemknout skutečnou hodnotu všech svých dat.

GenBI má transformační efekt na odvětví, jako je pojištění, bankovnictví a finance, stejně jako maloobchod, výroba a mnoho dalších vertikál. Najednou je možné pro finanční poradce, například, získat okamžitá doporučení pro optimalizaci portfolia zákazníka.

Jaké byly některé z největších výzev, se kterými jste se setkali při vývoji GenBI, a jak jste je překonali?

Pyramid Analytics již dlouho využíval AI pro analytiku, dlouho předtím, než jsme spustili nové řešení, takže většina výzev byla již vyřešena.

Hlavní novou součástí je přidání sofistikované technologie generování dotazů, která funguje s jakoukoli LLM, aby produkovala přesné výsledky, zatímco udržuje data soukromá. Dosáhli jsme toho odpojením dat od dotazu (více o tom později).

Další velkou výzvou, se kterou jsme se museli vypořádat, byla rychlost. Mluvíme o éře Google, kde lidé očekávají odpovědi okamžitě, ne za hodinu nebo dokonce půl hodiny. Ujistili jsme se, že zpracováním a optimalizací všech pracovních postupů jsme snížili tření.

Pak je tu potřeba zabránit halucinacím. Chatboty jsou náchylné k halucinacím, které zkreslují výsledky a podkopávají spolehlivost. Pracovali jsme tvrdě, aby se tomu zabránilo, zatímco jsme stále udržovali dynamické výsledky.

Jak řešíte otázky související s bezpečností a ochranou dat?

To je skvělá otázka, protože bezpečnost a ochrana dat jsou největší překážkou úspěšné GenAI analytiky. Všichni jsou – zcela správně – znepokojení nad myšlenkou vystavení vysoce citlivých firemních dat třetím stranám AI, ale zároveň chtějí jazykové interpretační schopnosti a datové informace, které tyto motory mohou dodat.

To je důvod, proč nikdy nesdílíme skutečná data s LLM, se kterými spolupracujeme. Pyramid otočí celý předpoklad vzhůru nohama, aby sloužil jako zprostředkovatel mezi vašimi firemními informacemi a LLM. Umožníme vám podat žádost a poté ji předáme LLM spolu s popisem toho, co nazýváme „surovinami“, vlastně jen metadata.

LLM poté vrátí „recept“, který vysvětluje, jak převést uživatelskou otázku na analytický prompt. Poté Pyramid spustí tento recept na datech, která jste již bezpečně připojili ve své samoobslužné instalaci, aby se žádná data nikdy nedostala k LLM. Smícháme výsledky, aby je sloužily zpět vám ve snadno srozumitelném, vizuálním formátu. V podstatě nic, co by mohlo ohrozit vaši bezpečnost a soukromí, se neexponuje nebo neopouští bezpečnostní firewall vaší organizace.

Pro organizace, které chtějí integrovat GenBI do svých stávajících datových infrastruktur, jaký vypadá proces implementace? Existují nějaké předpoklady nebo přípravy, které jsou zapotřebí?

Proces implementace pro Pyramid Analytics nemůže být snazší nebo rychlejší. Uživatelé potřebují velmi málo předpokladů a příprav, a můžete mít vše nastaveno a běžící za méně než hodinu. Nemusíte přesouvat data do nového rámce nebo měnit cokoliv ve své datové strategii, protože Pyramid dotazuje vaše data přímo, kde sídlí.

Není také třeba vysvětlovat vaše data řešení, nebo definovat sloupce. Je to tak jednoduché, jako nahrát soubor CSV nebo připojit váš SQL databázi. Stejné platí pro jakoukoli relační databázi jakéhokoli druhu. Trvá to jen několik minut, aby se připojila vaše data, a poté můžete položit svou první otázku sekundami později.

To samé platí, pokud chcete upravit strukturu, jako změnit model spojení nebo重新definovat sloupce. To vyžaduje nějaký čas a úsilí, ale mluvíme o minutách, ne o měsících dlouhém projektu vývoje. Naši zákazníci jsou často šokováni, že Pyramid je nastaven a běží na jejich klasickém datovém skladu nebo datovém jezeru během pěti minut nebo tak něco.

Nemusíte také vymyslet velmi specifické, přesné nebo dokonce inteligentní otázky, aby se získaly silné výsledky. Můžete udělat chyby v pravopisu a použít nesprávné formulace, a Pyramid vẫn produkuje smysluplnou a hodnotnou odpověď. Co potřebujete, je znalost o datech, o kterých se ptáte.

Jak vypadá vaše strategické vize pro Pyramid Analytics v příštích pěti letech? Jak vidíte, že vaše řešení budou vyvíjet, aby splňovaly měnící se požadavky trhu?

Další velkou hranicí je podpora rozsáhlých, vysoce specifických dotazů. Uživatelé jsou netrpěliví, aby mohli položit velmi přesné otázky, jako otázky o personalizovaných entitách, a LLM nemohou zatím produkovat inteligentní odpovědi v těchto případech, protože nemají takový podrobný vhled do specifik vaší databáze.

Stojíme před výzvou, jak použít jazykové modely, aby se ptaly na specifika vašich dat, aniž by se okamžitě připojila celá vaše obrovská datová jezera k LLM. Jak můžete fine-tunovat váš LLM o datech, která se rehydratují každých dvě sekundy? Můžeme to zvládnout pro pevné body, jako země, umístění a dokonce i data, ale ne pro něco idiosynkratického, jako jména, i když jsme velmi blízko k tomu dnes.

Další výzvou je, aby uživatelé mohli položit své vlastní matematické interpretace dat, aplikovat své vlastní formule. To je obtížné ne proto, že je formula obtížná, ale protože je obtížné pochopit, co uživatel chce, a získat správnou syntaxi. Pracujeme na řešení obou těchto výzev, a až je vyřešíme, budeme mít překročili další eureka bod.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Pyramid Analytics.