Chris Mahl, prezident a generální ředitel společnosti Pryon – rozhovor

Chris Mahl je prezident a generální ředitel společnosti Pryon. S více než dvěma desítkami let zkušeností ve některých z nejznámějších podnikových softwarových společností se Chris specializuje na škálování strategií prodeje a operací pro technologické společnosti ve všech fázích růstu.

Pryon poskytuje důvěryhodnou, bezpečnou a prokázanou cestu k implementaci generativního umělého inteligence v podnikových prostředích. Nejlepší ingestní a vyhledávací motory Pryon lze kombinovat s generativními LLM, aby se implementoval retrieval-augmentovaný generativní model a zajistily přesné, okamžité a ověřitelné odpovědi v podnikovém měřítku.

Pryon se zaměřuje na Retrieval-Augmented Generation (RAG). Můžete vysvětlit, jak se váš přístup k vyhledávání liší od ostatních systémů umělé inteligence a znalostního managementu?

Pryonův přístup k vyhledávání se vyznačuje tím, že náš vyhledávací motor může v reálném čase přistupovat k obsahu z různých zdrojů, jako jsou PDF, obrázky, webové stránky a videa, a to při zachování datové ochrany bez externích závislostí. Kombinujeme semantické vyhledávání s jemnou datovou atribucí, abychom dosáhli přesnosti vyhledávání nad 90 %. Na rozdíl od mnoha systémů naše řešení škáluje efektivně pro velké organizace, což umožňuje týmům učinit rychlá a přesná rozhodnutí na základě jejich stávající znalostní báze.

Motor ingestování Pryon je navržen tak, aby strukturalizoval velké množství multimodálního obsahu. Co dělá váš proces ingestování jedinečným a jak zlepšuje přesnost vyhledávání?

Pryonův ingestní proces může zpracovat multimodální obsah – extrahovat odpovědi z audio, obrázků, textu a videa z různých zdrojů. Toto řeší základní problém nespojitých dat v podnikových prostředích. S rostoucím množstvím nestrukturovaných dat o více než 50 % ročně transformuje náš ingestní motor rozptýlené informace do strukturované, akční znalosti. Proces je navržen s ohledem na bezpečnost a ochranu soukromí, aby chránil citlivé podnikové údaje, zatímco je činí okamžitě použitelnými.

Vaše vyhledávací motor slibuje okamžité, přesné a ověřitelné odpovědi. Jak Pryon zajišťuje přesnost a minimalizuje halucinace při extrahování informací?

Pryon zajišťuje přesnost a minimalizuje halucinace prostřednictvím několika mechanismů. Naše technologie kombinuje semantické vyhledávání s jemnou datovou atribucí, což znamená, že odpovědi lze vysledovat zpět k jejich konkrétním zdrojům. Tato atribuce je kritická pro ověření. Systém přistupuje k obsahu v reálném čase z původních zdrojů, místo aby se spoléhal na potenciálně zastaralé nebo neúplné znalostní báze. Tento přímý kontakt se zdrojovými materiály, spolu s naší vysokou přesností vyhledávání (nad 90 %), významně snižuje riziko halucinací, které sužují mnoho generativních systémů umělé inteligence.

Jak Pryon zpracovává aktualizace informací v reálném čase, zejména v dynamických prostředích, jako jsou vláda, energie a zdravotnictví?

Pryon zajišťuje přístup k nejaktuálnějším informacím prostřednictvím flexibilní, na vyžádání synchronizace obsahu. Uživatelé mohou spustit synchronizaci obsahu podle potřeby prostřednictvím našeho administrativního portálu nebo automatizovat aktualizace pomocí našeho Sync-API na základě plánu – ať už týdenního, denního nebo i hodinového, v závislosti na provozních potřebách. Naše proces delta-checkingu optimalizuje efektivitu aktualizací pouze změněného obsahu, což zajišťuje rychlé, přesné a zdrojově efektivní vyhledávání znalostí v kritických prostředích, jako jsou vláda, energie a zdravotnictví.

Pryon spolupracuje s vládními a obrannými agenturami. Ačkoli jsou detaily často klasifikovány, můžete diskutovat o případu použití, ve kterém vaše umělá inteligence významně zlepšila rozhodování nebo provozní efektivitu?

Pryon spolupracuje s řadou obranných a zpravodajských agentur, včetně Laboratoře letectva pro výzkum (AFRL) a Úřadu pro digitální a umělou inteligenci (CDAO), aby pomohl zefektivnit operace a umožnit rychlejší a informovanější rozhodování.

Jedním z mocných příkladů je naše spolupráce s Digitálním transformačním úřadem letectva USA (DAF DTO). Tento tým podporuje personál pro akvizice a údržbu, kteří často potřebují najít kritické informace pochované v desítkách tisíc webových stránek a dokumentů. Společně spustili jsme DTO Wingman, asistenta s umělou inteligencí, který poskytuje přesné, okamžité odpovědi na komplexní otázky – včetně zdrojové atribuce.

Místo ručního vyhledávání policy dokumentů nebo předpisů mohou uživatelé jednoduše položit otázky, jako “Co jsem oprávněn koupit pomocí své cestovní karty?” nebo “Co je Digitální stavební kód a jak se vztahuje k akvizicím?” Umělá inteligence vrátí přesné odpovědi a dokonce pomáhá generovat zprávy a prezentační materiály rychle.

Poskytováním okamžitého přístupu k důvěryhodným odpovědím pomáhá DTO Wingman týmům pracovat efektivněji a poskytovat spolehlivé, včasné pokyny seniorům a rozhodujícím osobám.

Vaše práce v oblasti life sciences zmiňuje výzkum podporovaný umělou inteligencí. Jak systém Pryon pomáhá výzkumníkům navigovat rozsáhlé datové sady, jako je PubMed nebo soukromé výzkumné repozitáře?

Systém Pryon pomáhá výzkumníkům navigovat rozsáhlé datové sady, jako je PubMed nebo soukromé výzkumné repozitáře, prostřednictvím několika klíčových schopností.

Vylepšená kvalita výzkumu:

• Snížená lidská chyba: Systematické vyhledávání aktuálních dat zajišťuje méně zmeškaných článků nebo přehlédnutých důkazů.
• Podporováno důkazy: Každá odpověď je založena na původní literatuře, což podporuje závěry založené na datech, které se odvolávají na původní větu.

Ochrana nad vysoce citlivým obsahem:

• Důvěrnost: Udržuje přísné kontroly přístupu a šifrování dat, což je nezbytné pro proprietární nebo pacientsky související datové sady.
• Shoda: S daty, která podléhají předpisům, jako je HIPAA nebo GDPR, mohou výzkumníci důvěřovat, že citlivé informace jsou chráněny.

Pro zákaznickou podporu a prodej, jak se umělá inteligence Pryon liší od tradičních řešení chatbotů a CRM?

Interakce zákaznické podpory a prodeje obvykle musí vyvažovat přesnost a flexibilitu svých řešení chatbotů/CRM. Protože poskytnutí nesprávné odpovědi zákazníkovi je nepřijatelné a může mít právní důsledky, mnoho poskytovatelů chatbotů a tradičních konverzačních řešení umělé inteligence volí omezení flexibility řešení s deterministickými interakcemi stylu “pouze FAQ”.

To je problém pro dodavatele, který vyžaduje manuální kódování konkrétních odpovědí na běžné otázky, a poskytuje špatný zážitek pro zákazníka, který má rozhraní chatbotu, ale zcela inflexibilní zkušenost, která se téměř neliší od čtení FAQ. Jiní dodavatelé se snaží použít flexibilnější generativní zkušenost s méně omezeními pro LLM, ale kvůli nedostatku přesného vyhledávání zahrnuje vkládání celých produktových katalogů nebo webových stránek do kontextového okna LLM, což snižuje přesnost výstupu a potenciálně katastrofálně.

Umění a věda RAG spočívají v maximalizaci signálu (pravdy) a minimalizaci šumu (nepříslušného kontextu, který často mate LLM). Přesnost vyhledávání Pryon – schopnost zdrojovat konkrétní odpověď na úrovni věty napříč všemi dokumenty – znamená, že zákaznická podpora a prodej již nemusí kompromitovat přesnost pro flexibilitu.

Co považujete za největší výzvy v podnikové adopci umělé inteligence dnes, zejména s ohledem na systémy založené na RAG?

Ačkoli je to něco, co nacházíme ve svých vlastních interakcích s trhem, je to také stále více uznávané, že “datová sada připravená pro umělou inteligenci” (nebo její absence) je největším bodem selhání pro nasazení umělé inteligence.

• 91 % výkonných ředitelů v průzkumu Harvard Business Review uvedlo, že spolehlivá datová základna je nezbytná pro úspěšné nasazení umělé inteligence.
• McKinsey zjistil, že 70 % iniciativ GenAI čelí výzvám souvisejícím s daty, přičemž pouze 1 % důležitých dat podniku je reprezentováno v dnešních modelech.
• The Wall Street Journal uvedl, že spolehlivost je největším problémem pro přijetí agentů umělé inteligence – problém, který je úzce spojen s kvalitou a dostupností dat.
• Gartner identifikoval nedostatek dat připravených pro GenAI jako hlavní důvod neúspěšných nasazení.

Datová sada připravená pro umělou inteligenci jde nad rámec pouhého vektorování dokumentů Word – jedná se o sjednocení vašich izolovaných zdrojů, práci s komplexními formáty, jako jsou multimodální vstupy, čištění dat, zlepšování dat, získání dat do formátu, se kterým mohou LLM pracovat, rozdělení na správnou úroveň granularity pro udržení optimální přesnosti a snížení nákladů, inteligentní indexování a propojení s vysoce výkonným systémem vyhledávání atd.

Tyto jsou velké výzvy, které vyžadují specializované kompetence a nástroje – v průzkumu vývojářů RAG, kteří vyvíjejí řešení uvnitř velkých podniků, které provedl Pryon, se příprava dat umístila jako nejdražší, časově nejnáročnější a technicky nejnáročnější část budování, těsně následovaná informačním vyhledáváním.

Jak se liší Pryonova sada RAG od podnikových řešení nabízených společnostmi Microsoft , Google (GOOGL ) nebo OpenAI?

Rozdíly se liší od hráče k hráči, ale na vysoké úrovni se velké technologické hráče zaměřují na to, aby byly “rozhraním” pro umělou inteligenci v práci. Pryon se zaměřuje na fundamentálnější úrovni zásobníku – znalostní vrstvu. Pryon řeší hluboké problémy přípravy dat a vyhledávání, zatímco velké technologické hráče se zaměřují na poskytování širokých řešení umělé inteligence, která mohou sloužit některým jednoduchým případům použití RAG, ale často se rozpadají, když se setkají s skutečnými složitostmi podnikových a vládních případů použití. Pryon může být také komplementární s těmito systémy, s obsahem vygenerovaným Copilotem, Gemini nebo GPT, který se vkládá do znalostní vrstvy Pryon, aby byl připraven pro použití downstream aplikacemi a agenty.

Jak Pryon přistupuje k souladu s předpisy a etickému použití umělé inteligence, zejména s ohledem na evropský zákon o umělé inteligenci a americké pokyny pro umělou inteligenci?

Pryon zůstává zavázán souladu s předpisy a etickým nasazením umělé inteligence, protože se předpisy umělé inteligence vyvíjejí globálně. Náš přístup je v souladu s rámci, jako je evropský zákon o umělé inteligenci, americké pokyny pro umělou inteligenci a principy odpovědné umělé inteligence (RAI) ministerstva obrany, což zajišťuje, že naše řešení umělé inteligence jsou důvěryhodná, transparentní a regulovatelná. Prostřednictvím souladu s rámcem RAI SHIELD integrujeme přísnou evaluaci, sledovatelnost a nepřetržité monitorování v celém životním cyklu umělé inteligence – s prioritou zabezpečení, spravedlnosti a výkonu. Tím, že tyto osvědčené postupy integrujeme do naší metodologie nasazení, Pryon umožňuje organizacím, aby využívaly umělou inteligenci zodpovědně, zatímco splňují nejvyšší regulatorní a etické standardy.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Pryon.