Raj Shukla, CTO společnosti SymphonyAI – Interview Series

Raj Shukla řídí technologickou strategii a realizaci společnosti SymphonyAI a vede inženýrský tým, který vyvíjí platformu Eureka Gen AI. S téměř 20 lety zkušeností v oblasti inženýrství a výzkumu AI/ML a rozsáhlými zkušenostmi s podnikovým AI SaaS z jeho vedoucích inženýrských rolí v Microsoftu, kde jeho úspěšná 14letá kariéra zahrnovala vedení globálních organizací AI vědy a inženýrství napříč Azure, Dynamics 365, MSR a divizemi pro vyhledávání a reklamu. Raj má rozsáhlé zkušenosti s AI/ML v oblasti vyhledávání, reklamy a podnikového AI a vytvořil několik úspěšných produktů AI SaaS v oblasti spotřebitelských i podnikových domén.

SymphonyAI je podniková AI společnost zaměřená na vývoj průmyslově specifických aplikací AI, které poskytují okamžitou podnikatelskou hodnotu. Místo obecných modelů nabízí vertikální řešení pro maloobchod, spotřební zboží, finanční služby, výrobu, média a IT, které řeší výzvy, jako je předpověď, prevence podvodů, optimalizace provozu a analýza. Jejich produkty jsou poháněny platformou Eureka AI, která kombinuje předpovědní, generativní a agenticové schopnosti do pracovních postupů přizpůsobených každé oblasti. Založena v roce 2017, společnost se vyvinula v globálního lídra ve vertikální AI, který slouží tisícům podnikových zákazníků se škálovatelnými, doménově zaměřenými řešeními.

Jste pracoval v přední linii inovace AI v Microsoftu, Oracle (ORCL ) a nyní SymphonyAI—co vás původně přitáhlo do světa podnikového AI a jak se vaše perspektiva vyvinula v průběhu let?

Má cesta do podnikového AI začala s základním přesvědčením, že společnosti by měly implementovat AI, která řeší skutečné podnikatelské problémy, a ne pouze vytvářet AI pro samotnou AI. Viděl jsem, že obecné, široce založené AI řešení zřídka poskytují transformační hodnotu. V SymphonyAI jsme postavili naši firemní strategii a kulturu na vývoji AI, která rozumí specifickým odvětvovým výzvám, od finančních zločinů až po maloobchodní merchandising a průmyslovou propojenou pracovní sílu. Podnikové připravenosti přidává další rozměr – úspěšné podnikové AI vyžaduje více než skvělou technologii, vyžaduje vynikající správu dat a architekturu, sofistikovanou mezioborovou spolupráci a pracovní postupy a plnou transparentnost a auditovatelnost.

Jaké konkrétní nedostatky podniky zaznamenávají u obecných předtrénovaných modelů, zejména v silně regulovaných odvětvích, jako je finance nebo zdravotnictví? 

Obecné předtrénované modely nejsou vytvořeny pro prostředí s vysokými sázkami a silnou regulací, jako je finance, zdravotnictví a maloobchod. Obecné, předtrénované modely narazí na kritické bariéry, včetně potřeby základního odvětvového odborného znalostí, aby řešily specifické nuance a splňovaly přísné regulační a dodržovací požadavky, které se liší v různých geografických oblastech. Nejvíce důležitým je, že nemohou poskytnout přesnost a stopovatelnost, kterou podniky vyžadují, kde chyby by mohly poškodit spotřebitele nebo spustit regulační porušení. Bez ohledu na to, zda se jedná o dodržování předpisů proti praní špinavých peněz nebo umožnění rychlého odstranění stažených položek z distribučních center a regálů, technologie vertikální AI společnosti SymphonyAI je speciálně vytvořena pro odvětví, ve kterých operujeme, a je trénována na ontologii těchto odvětví, což jim umožňuje učinit nebo automatizovat rozhodnutí, která přímo vytvářejí podnikatelský dopad.

Kombinace předtrénovaných modelů s hlubokou doménovou logikou je stále více považována za klíč k odemknutí podnikového ROI—co jsou základní složky, jako je odvětvová znalost, zarovnání KPI a regulační zábrany, které činí tento přístup účinným? 

Kombinace předtrénovaných modelů s hlubokou doménovou logikou odemknou hodnotu vytvořením AI systémů, které rozumí podnikatelskému kontextu a provozním požadavkům. Tento přístup je úspěšný, když jsou modely vylepšeny odvětvovými ontologiemi, zarovnány s podnikovými KPI, aby zajistily, že výstupy přímo slouží měřitelným podnikatelským cílům, a jsou vybaveny regulačními zábranami, které poskytují nezbytné dodržovací rámce a auditní stopy. Když tyto prvky spolupracují, obecná AI se transformuje na podnikatelsky kritické řešení, která pohánějí měřitelné výsledky, zatímco zachovávají spolehlivost a dodržování předpisů, které podniky požadují.

IBM nedávno získala Seek AI a spustila Watsonx Labs v New Yorku, signalizující potenciální strategickou změnu v AI krajině—co to naznačuje o budoucnosti fúzí a akvizic a investičních trendech v podnikovém AI? 

Akvizice Seek AI a spuštění Watsonx Labs je ověřením fundamentální změny, které jsme očekávali: podnikatelská AI krajina se změnila, signalizující, že další vlna fúzí a akvizic bude upřednostňovat společnosti s předtrénovanými vertikálními modely AI, které přicházejí s hlubokou odvětvovou odborností, řízením a regulačními zábranami a výsledky orientovanými na KPI. Strategičtí akvizitéři, jako je IBM, rozpoznávají, že AI agenci zaměřené na podniková data poskytují okamžitý ROI, když rozumí specifickým odvětvovým pracovním postupům. Trh se konsoliduje kolem uznání, že obecní inteligence potřebuje vertikální specializaci, aby poháněla podnikatelskou transformaci.

V jakém okamžiku se základový model vyvine v doménově specifického agenta—co jsou architektonické milníky, které signalizují tuto transformaci? 

Základový model se nevyvíjí přirozeně v doménového agenta; musí být inženýrsky navržen jako jeden. Neexistuje žádný přímý přístup, kde obecný model prostě “získává inteligenci” a stává se bankovním vyšetřovatelem. Transformace se děje pouze tehdy, když inženýrské týmy přestanou spoléhat se na surovou inteligenci modelu a začnou budovat řízenou architekturu kolem něj—zejména vkládají kontextovou vrstvu (jako znalostní graf) a orchestraci, aby donutili model sledovat podnikatelský proces místo svých vlastních pravděpodobnostních tendencí.

Jaké jsou hlavní výzvy při budování agenticích pracovních postupů, které jsou současně odolné a vertikálně specifické, a jak společnost SymphonyAI řeší tyto výzvy? 

Hlavními výzvami při budování odolných, vertikálně specifických agenticích pracovních postupů je zachování spolehlivosti napříč složitými vícestupňovými procesy. Společnost SymphonyAI řeší tyto výzvy prostřednictvím své vícestupňové architektury, která vkládá odvětvovou odbornost přímo do agenta, implementuje zpracování chyb s obnovením a zachovává trvalé řízení kontextu napříč víceseancovými podnikatelskými procesy. To umožňuje našim agentům operovat spolehlivě v prostředí s vysokými sázkami a silnou regulací, kde odolnost znamená zachování přesnosti, dodržování předpisů a provozní integrity.

Společnost SymphonyAI zdůrazňuje robustní datové základy, znalostní grafy a metadata vrstvy—proč jsou tyto schopnosti kritické pro vertikální AI agenty a proč mnoho podniků zápasí s jejich implementací? 

Robustní datové základy a znalostní grafy jsou zásadní pro vertikální AI agenty, aby měli smysluplné zdroje, poskytli kontextualizovaná doporučení a zůstali aktuální s tržními, zákaznickými a procesními změnami napříč všemi úrovněmi podniku. Mnoho podniků zápasí s implementací těchto schopností, protože vyžadují významné počáteční investice do datové architektury, specializované odborné znalosti ontologie a fundamentální změny stávajících datových postupů, které mnoho organizací považuje za organizačně a technicky náročné. To je místo, kde je AI technologický partner s hlubokými zkušenostmi a znalostmi v daném vertikálu neocenitelný, včetně jejich schopnosti předtrénovat AI na rozsáhlých množstvích doménových dat a zdrojů napříč mnoha reálnými zákazníky v tomto odvětví.

V reálných scénářích—jako je detekce finančních zločinů nebo maloobchodní předpověď—jak společnost SymphonyAI kombinuje předpovědní, generativní a agenticí AI do soudržných „dovedností“?

Společnost SymphonyAI kombinuje předpovědní, generativní a agenticí AI do soudržných “dovedností” vytvořením integrovaných pracovních postupů, kde každý AI produkt řeší specifický podnikatelský problém. V detekci finančních zločinů naše předpovědní modely identifikují podezřelé transakční vzorce a generativní AI vytváří podrobné vyšetřovací zprávy a rizikové hodnocení. Současně agenticí AI orchestruje celý pracovní postup, automaticky eskaluje případy, koordinuje s týmy compliance a přizpůsobuje vyšetřovací strategie na základě reálných zjištění.

Klíčovým je, že tyto nejsou samostatné AI nástroje, ale integrované schopnosti v rámci doménově specifických agentů, které rozumí podnikatelskému kontextu, zachovávají stav pracovního postupu a mohou bezproblémově přecházet mezi předpovědní analýzou, obsahovou generací a autonomním aktem, aby poskytly kompletní podnikatelské výsledky místo fragmentovaných AI výstupů.

Vy varoval, že mnoho podnikových AI agentů může zakopnout bez robustnosti—co jsou klíčové charakteristiky dobře navrženého, odolného podnikového AI agenta? 

Dobře navržené, pro kontrolu postavené podnikové AI agenty vyžadují několik kritických charakteristik. Ačkoli mnoho podniků rychle investuje a nasazuje AI agenty, aby zlepšily efektivitu, produktivitu a inovace, často podceňují základní práci nezbytnou pro úspěch. Některé zásadní aspekty, které dobře navržené agenty potřebují k úspěchu, jsou:

• Podnikové AI agenty operují na podnikových datech, která jsou často izolovaná a postrádají řádný programatický přístup, oprávnění a kontrolu přístupu. Agenti potřebují být vybaveni stejnými ověřovacími a autorizačními ustanoveními, jako zaměstnanci.
• Agenti také potřebují zotavit se ze všech forem selhání podnikových systémů, výpadků sítě a nestabilních koncových bodů. Orchestrace vrstva potřebuje umožnit dlouhodobé, odolné, bezchybné pracovní postupy, které většina populárních LLM orchestrátorů nemá.
• LLM budou nedeterministické a selhají v úkolech. Zotavení selhání, opakované pokusy a optimální objevování cest potřebují být klíčovými funkcemi agenticích systémů.

Pro CTO, kteří zvažují budování vertikálních AI platforem interně versus partnerství s nikovými dodavateli, co byste poradil? 

Budování podnikových AI řešení napříč několika odvětvími, včetně maloobchodu/CPG, průmyslu, finančních služeb a dalších, vyžaduje zvládnutí jak nejmodernější AI technologie, tak hluboké odvětvové odborné znalosti současně, aby se dosáhlo skutečné hodnoty z podnikových AI řešení. Naše platforma Eureka AI demonstruje, jak vertikálně specifické datové zdroje, znalostní grafy, předpovědní modely a agenti musí být přizpůsobeny každému odvětví, ale to představuje roky výzkumných investic a zákaznické iterace, kterých většina interních týmů postrádá. Pro podniky a CTO, kteří se chystají investovat do AI, doporučuji jim zvolit řešení, která poskytují skutečné výsledky od prvního dne. Vertikální AI řešení poskytují tyto výsledky, dodávající uživatelům data, která mohou použít k vytvoření podnikatelské hodnoty.

Pohledem do budoucnosti, jak si představujete podnikové AI architektury—budou federované vertikální agenti postavené na sdílených základních modelech normou?

Nebudeme vidět pouze “federované” agenty; uvidíme řízené agenticí architektury. Zatímco sdílené základové modely poskytují rozumový motor, jsou v podstatě komoditami. “Normou” pro úspěšné podniky bude nasazování specializovaných, vertikálních agentů, kteří ne pouze “komunikují” mezi sebou, ale jsou přísně orchestrováni prostřednictvím sdílené kontextové vrstvy. Pokud máte pouze “federované” agenty postavené na základových modelech, získáte hlučný, halucinační systém—co nazýváme “netěsnou trubku” podnikového AI. Abychom tuto architekturu škálovali ve výrobě, potřebujete tři specifické vrstvy, které jdou za rámec jednoduché federace:

• Kontext (Doménový znalostní graf): Agenti potřebují sdílet jediný zdroj pravdy, ne pouze vyměňovat pravděpodobnosti.
• Orchestrace: Potřebujete “hlavního architekta”, který rozhoduje, kdy použít specializovaného agenta a kdy držet člověka v smyčce.
• Rízení: Výstup musí být právně a provozně bezpečný, než opustí systém.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit SymphonyAI.