Chris Mahl, prezident a generální ředitel ve společnosti Pryon – Interview Series

Chris Mahl je prezident a generální ředitel ve společnosti Pryon. S více než dvěma desetiletími zkušeností v některých z nejznámějších softwarových společností pro podniky, Chris se specializuje na škálování strategií pro vstup na trh a operace pro technologické společnosti ve všech fázích růstu.

Pryon poskytuje důvěryhodnou, bezpečnou a prokázanou cestu k implementaci generativní umělé inteligence v podnikových prostředích. Nejlepší ingestční a vyhledávací motory Pryon lze kombinovat s generativními LLM, aby se implementovala generace s vyhledávacími funkcemi a bezpečně poskytly přesné, okamžité a ověřitelné odpovědi v podnikovém měřítku.

Pryon se zaměřuje na Retrieval-Augmented Generation (RAG). Můžete vysvětlit, jak se váš přístup k vyhledávání liší od ostatních AI poháněných vyhledávacích a znalostních systémů?

Pryonův přístup k vyhledávání vyniká tím, že náš vyhledávací motor může v reálném čase přistupovat k obsahu z různých zdrojů, jako jsou PDF, obrázky, webové stránky a videa, a to při zachování datové ochrany bez externích závislostí. Kombinujeme semantické vyhledávání s jemnou datovou atribucí, abychom dosáhli přesnosti vyhledávání přes 90 %. Na rozdíl od mnoha systémů naše řešení efektivně škáluje pro velké organizace, což umožňuje týmům učinit rychlá a přesná rozhodnutí na základě jejich stávající znalostní báze.

Vyhledávací motor Pryon je navržen tak, aby zpracovával velké množství multimodálního obsahu. Co dělá váš proces ingestování jedinečným a jak zvyšuje přesnost vyhledávání?

Ingestování Pryon může zpracovat multimodální obsah – extrahovat odpovědi z audia, obrázků, textu a videa z různých zdrojů. Toto řeší základní problém nespojitého dat v podnikových prostředích. S rostoucím množstvím nestrukturovaných dat o více než 50 % ročně transformuje náš ingestční motor rozptýlené informace do strukturovaných a akčních znalostí. Proces je navržen s ohledem na bezpečnost a ochranu dat, čímž se chrání citlivá podniková data a činí je okamžitě použitelnými.

Váš vyhledávací motor slibuje okamžité, přesné a ověřitelné odpovědi. Jak Pryon zajišťuje přesnost a minimalizuje halucinace při extrahování informací?

Pryon zajišťuje přesnost a minimalizuje halucinace prostřednictvím několika mechanismů. Naše technologie kombinuje semantické vyhledávání s jemnou datovou atribucí, což znamená, že odpovědi lze vysledovat zpět k jejich konkrétním zdrojům. Tato atribuce je kritická pro ověření. Systém přistupuje k obsahu v reálném čase z původních zdrojů, místo aby se spoléhal na potenciálně zastaralé nebo neúplné znalostní báze. Tento přímý kontakt se zdrojovými materiály, spolu s naší vysokou přesností vyhledávání (přes 90 %), významně snižuje riziko halucinací, které sužují mnoho generativních systémů umělé inteligence.

Jak Pryon zajišťuje aktualizace informací v reálném čase, zejména v dynamických prostředích, jako jsou vláda, energie a zdravotnictví?

Pryon zajišťuje přístup k nejaktuálnějším informacím prostřednictvím flexibilní, na vyžádání synchronizace obsahu. Uživatelé mohou spustit synchronizaci obsahu podle potřeby prostřednictvím našeho Admin portálu nebo automatizovat aktualizace pomocí našeho Sync-API na plánovaném základě – zda týdně, denně nebo dokonce hodinu, v závislosti na provozních potřebách. Naše delta-ověřovací proces optimalizuje efektivitu aktualizací pouze změněného obsahu, zajišťuje rychlé, přesné a zdrojově efektivní vyhledávání znalostí v kritických prostředích, jako jsou vláda, energie a zdravotnictví.

Pryon spolupracuje s vládními a obrannými agenturami. Přestože jsou často detaily klasifikovány, můžete diskutovat o případu použití, kde vaše AI významně zlepšila rozhodování nebo provozní efektivitu?

Pryon spolupracuje s řadou obranných a zpravodajských agentur, včetně Air Force Research Laboratory (AFRL) a Chief Digital and Artificial Intelligence Office (CDAO), aby pomohla zefektivnit operace a umožnit rychlejší a informovanější rozhodování.

Jedním silným příkladem je naše spolupráce s Digitální transformační kanceláří (DAF DTO) Ministerstva letectva USA. Tento tým podporuje personál pro akvizice a údržbu, kteří často potřebují najít kritické informace pohřbené v hundred tisících webových stránek a dokumentů. Společně jsme spustili DTO Wingman, AI poháněného asistenta, který poskytuje přesné, okamžité odpovědi na komplexní otázky – kompletní se zdrojovou atribucí.

Místo ručního vyhledávání policy dokumentů nebo předpisů mohou uživatelé prostě položit otázky, jako “Co jsem oprávněn koupit pomocí své cestovní karty?” nebo “Co je Digitální stavební kód a jak se vztahuje k akvizicím?” AI vrátí přesné odpovědi a dokonce pomáhá generovat zprávy a prezentační materiály rychle.

Poskytováním okamžitého přístupu k důvěryhodným odpovědím pomáhá DTO Wingman týmu pracovat efektivněji a poskytovat spolehlivé a včasné rady senior personálu a rozhodovatelům.

Vaše práce v oblasti life sciences zmiňuje AI asistované výzkum. Jak systém Pryon pomáhá výzkumníkům navigovat rozsáhlá data, jako je PubMed nebo soukromé výzkumné repozitáře?

Systém Pryon pomáhá výzkumníkům navigovat rozsáhlá data, jako je PubMed nebo soukromé výzkumné repozitáře, prostřednictvím několika klíčových schopností.

Vylepšená kvalita výzkumu:

• Snížená lidská chyba: Systematické vyhledávání aktuálních dat zajišťuje méně zmeškaných článků nebo přehlédnutých důkazů.
• Podloženo důkazy: Každá odpověď je založena na původní literatuře, což podporuje datově řízené závěry, zdrojované zpět k větě, ze které pochází.

Ochrana nad vysoce citlivým obsahem:

• Důvěrnost: Udržuje přísnou kontrolu přístupu a šifrování dat, což je nezbytné pro proprietární nebo pacientsky související datové sady.
• Dodržování předpisů: S daty, která jsou regulována předpisy, jako je HIPAA nebo GDPR, výzkumníci mohou důvěřovat, že citlivé informace jsou chráněny.

Pro zákaznickou podporu a prodej, jak se AI Pryon liší od tradičních chatbotů a CRM řešení, pokud jde o zvýšení efektivity a snížení podpory?

Interakce zákaznické podpory a prodeje obvykle musí vyvážit přesnost a flexibilitu chatbotů a CRM řešení. Protože poskytnutí nesprávné odpovědi zákazníkovi je nepřijatelné a může mít právní důsledky, mnoho poskytovatelů chatbotů a tradičních konverzačních AI řešení volí omezit flexibilitu řešení pomocí pevně deterministických interakcí stylu “FAQ only”.

To je bolest pro dodavatele, který vyžaduje manuální kódování konkrétních odpovědí na běžné otázky, a poskytuje špatnou zkušenost pro zákazníka, který má rozhraní chatbotu, ale zcela inflexibilní zkušenost, která se téměř neliší od čtení FAQ. Jiní dodavatelé se snaží použít více flexibilní generativní zkušenost s méně omezeními LLM, ale vzhledem k nedostatku přesného vyhledávání to zahrnuje vkládání celých produktových katalogů nebo webových stránek do kontextového okna LLM, snižuje se přesnost výstupu, potenciálně katastrofálně.

Umění a věda RAG spočívají v maximalizaci signálu (pravdy) a minimalizaci šumu (nepříslušného kontextu, který často mate LLM). Přesnost vyhledávání Pryon – schopnost zdrojovat konkrétní odpověď na úrovni věty napříč všemi dokumenty – znamená, že zákaznická podpora a prodej již nemusí kompromitovat přesnost pro flexibilitu.

Co považujete za největší výzvy v podnikové adopci AI dnes, zejména s RAG založenými systémy?

Zatímco je to určitě něco, co najdeme ve svých vlastních interakcích s trhem, je to také stále více uznávané, že “AI připravená data” (nebo jejich nedostatek) je jediným největším bodem selhání pro nasazení AI.

• 91 % výkonných ředitelů v průzkumu Harvard Business Review uvedlo, že spolehlivá datová základna je nezbytná pro úspěšné nasazení AI.
• McKinsey zjistil, že 70 % iniciativ GenAI čelí výzvám souvisejícím s daty, přičemž pouze 1 % důležitých dat podniku je reprezentováno v dnešních modelech.
• The Wall Street Journal citoval spolehlivost jako #1 obavu pro přijetí agenta AI – problém úzce spojený s kvalitou a dostupností dat.
• Gartner identifikoval nedostatek GenAI připravených dat jako hlavní důvod neúspěšných nasazení.

AI připravená data jdou beyond pouhého vektorování vašich dokumentů Word – je to o sjednocení vašich izolovaných zdrojů, práci s komplexními formáty, jako jsou multimodální vstupy, čištění vašich dat, vylepšování vašich dat, získání jich do formátu, se kterým mohou LLM pracovat, chunking na správné úrovni granularity, aby se udržela optimální přesnost a snížily se náklady, inteligentní indexování a propojení s vysoce výkonným vyhledávacím systémem atd.

Tyto jsou velké výzvy, které vyžadují speciální kompetence a nástroje – v průzkumu RAG builderů, kteří vyvíjejí řešení uvnitř velkých podniků, které Pryon provedl, příprava dat se umístila jako číslo jedna nejdražší, časově nejnáročnější a technicky nejnáročnější část stavby, těsně následovaná informačním vyhledáváním.

Jak odlišujete sadu RAG Pryon od podnikových řešení nabízených společnostmi Microsoft, Google nebo OpenAI?

Konkrétní odlišení se liší od hráče k hráči, ale na vysoké úrovni se velké technologické hráči zaměřují na to, aby byli “rozhraním” pro AI v práci. Pryon se zaměřuje na fundamentálnější úrovni zásobníku – znalostní vrstvu. Pryon řeší hluboké problémy přípravy dat a vyhledávání, zatímco velké technologické hráče se zaměřují na poskytování širokých AI řešení, která mohou sloužit některým jednoduchým případům použití RAG, ale často se rozpadají, když se setkají s reálnými složitostmi podnikových a vládních případů použití. Pryon může být také komplementární s těmito systémy, s obsahem vygenerovaným Copilotem, Gemini nebo GPT, který se pluguje do znalostní vrstvy Pryon, aby se uspořádaly a připravily pro použití downstream aplikacemi a agenty.

S vývojem předpisů AI, jako je EU AI Act a americké směrnice AI, jak Pryon přistupuje k dodržování předpisů a etickému použití AI?

Při globálním vývoji předpisů AI zůstává Pryon zavázán dodržování předpisů a etickému nasazení AI. Náš přístup se shoduje s rámci, jako je EU AI Act, americké směrnice AI a principy Responsible AI (RAI) Ministerstva obrany, zajišťuje, aby naše AI řešení byla důvěryhodná, transparentní a řiditelná. Prostřednictvím souladu s rámcem RAI SHIELD integrujeme přísnou evaluaci, sledovatelnost a nepřetržité monitorování v celém životním cyklu AI – priorita bezpečnosti, férovosti a výkonu. Zavedením těchto osvědčených postupů do naší metodologie nasazení umožňuje Pryon organizacím využívat AI zodpovědně, zatímco splňují nejvyšší standardy předpisů a etiky.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Pryon.