Babak Hodjat, Chief AI Officer ve společnosti Cognizant: Návratová konverzace

Babak Hodjat, Chief AI Officer ve Cognizant, vede AI Research Labs společnosti, kde jeho práce zahrnuje agentické AI, evoluční výpočty, distribuovanou inteligenci a vývoj AI systémů určených pro nasazení ve velkém podnikovém měřítku. Dlouholetý výzkumník AI, vynálezce a podnikatel, Hodjat dříve spoluzaložil Sentient Technologies, kde pomáhal vybudovat jeden z největších distribuovaných AI systémů na světě, a dříve spoluzaložil Dejima, vyvíjející agentně orientovanou technologii přirozeného jazyka, která přispěla k základům Siri od Apple.

Když jsme dříve hovořili s Babak Hodjat, naše diskuse se zaměřila na jeho kariéru v AI, evoluční přístupy k složitému rozhodování, práci společnosti Cognizant na aplikaci AI na klimatické a územní výzvy a rostoucí demokratizaci AI v podniku. V tomto navazujícím rozhovoru se pozornost přesouvá k rychle se objevujícímu agentickému podniku. Vycházejíc z témat jeho nedávné knihy The Agentic Enterprise, Hodjat zkoumá, proč může architektura mít větší význam než schopnost modelu, jak mohou organizace koordinovat stále složitější sítě AI agentů, kde zapadá centralizovaná důvěra a správa do decentralizovaných ekosystémů agentů, a co ještě musí změnit, než autonomní systémy budou spolehlivě řídit dlouhodobé cíle s minimálním lidským zásahem.

Vaše kariéra zahrnuje některé z nejranějších prací na inteligentních agentech, od technologie přirozeného jazyka Dejima, která pomohla inspirovat Siri, po budování masivních distribuovaných AI systémů ve Sentient a nyní působení jako Chief AI Officer ve společnosti Cognizant. Jak se během této cesty vyvíjela vaše definice „AI agenta“ a co se dnešní vývojáři mohou naučit od těch dřívějších generací agentových systémů?

Definice zůstala stejná, ale schopnosti dnešních agentů znamenají, že mnoho základních funkcí agenta, které jsme museli programovat v 90. letech, je nyní k dispozici přímo s LLM. Proto jsou dnes standardem agenti založení na LLM a když lidé mluví o agentech, předpokládají, že jejich rozhraní a uvažování řídí LLM.

Ve své nedávné knize The Agentic Enterprise tvrdíte, že podnikové AI systémy často uspějí nebo selžou kvůli své architektuře spíše než díky surové schopnosti podkladového modelu. Co dělají společnosti špatně, když předpokládají, že přechod na výkonnější model vyřeší jejich problémy s agentickou AI?

Stejně jako postroje (tj. části agenta, které nejsou LLM) mohou rozhodnout o úspěchu nebo neúspěchu kódovacího agenta, architektura multiagentního systému je klíčová pro jeho úspěch. Je to proto, že architektura odráží kontext, ve kterém by agenti měli fungovat – podobně jako lešení, které drží agentický podnik pohromadě. Bez ní zůstávají agenti neukotveni v realitě podnikových operací, dat, pracovních postupů a procesů. To je do určité míry analogické organizační struktuře podniku, která zahrnuje popisy pracovních míst, definice procesů a komunikační protokoly pro zaměstnance.

Zdůraznili jste, že okolní systém, včetně řízení přístupu, odpovědnosti, orchestraci, sledovatelnosti a dohledu, může být důležitější než samotný model. Co skutečně potřebuje produkčně připravená agentická architektura, co většině nasazení typu proof‑of‑concept chybí?

Proof of concepts (PoC) jsou často neukotvené, takže na začátku potřebujeme, aby agenti fungovali v prostředí, kde mají přístup k interním datům a aplikacím společnosti. Je třeba položit důležité otázky, například jaká data a aplikace jsme připraveni umožnit agentům přístup a jaká rozhodnutí jsme ochotni nechat agenty učinit, aby byl systém bezpečný a chráněný, přičemž očekávané zisky v kvalitě a produktivitě stále lze dosáhnout? V PoC prostředí je těžké na tyto otázky odpovědět. Navíc mohou být zábrany a dohled smysluplné jen tehdy, když agentický systém funguje v součinnosti s dalšími lidskými nebo agentickými procesy ve společnosti. Sandboxování je tedy důležitým krokem v procesu efektivního přechodu z PoC na nasazení.

Cognizant popsal vznik „Agent Operating System“ pro koordinaci sítí AI agentů. Jaké funkce by taková vrstva měla plnit a očekáváte, že orchestraci agentů se nakonec stane tak zásadní pro podnikové výpočty jako dnes operační systémy a cloudové platformy?

Koordinace agentů je důležitá: pokud je příliš rigidní, váš systém se zhorší a bude křehký. Pokud je naopak příliš volná a koordinace je zcela delegována na agenta, riskujete, že úkol agenta bude příliš složitý nebo riskantní. Dobré koordinační mechanismy umožňují agentům spontánně tvořit týmy v reakci na různé situace, což vede k robustní a pružné organizační disciplíně. Jsem zastáncem distribuované koordinace. Je to analogické posílení lidské organizace určitým stupněm pravomocí nad jejím odpovědnostním územím. Když se objeví kontext, členové organizace komunikují a koordinují se přes organizační strukturu, aby určili jednotlivce odpovědné za řešení situace, a reakce je shromážděna, koordinována a konsolidována mezi organizačními uzly. Dobrou zprávou je, že na agentní systémy lze aplikovat přísné kontroly a ochranná opatření, takže taková flexibilita nevede k riskantnímu chování.

Myslím, že stejně jako se MCP rychle stal de facto standardem pro přístup k agentním aplikacím, i koordinační protokoly se objeví a stanou se standardizovanými napříč agentními platformami, aby umožnily spontánní multi-agentní procesy napříč hranicemi agentních systémů. Operační systémy a cloudové platformy pravděpodobně nejsou zde nejlepší analogií; spíše bude nutné vyvinout široce přijímané standardy pro definici multi-agentů a koordinační protokoly, aby se umožnil širší průnik a rozkvět agentifikace v podnicích.

Jak se podniky přesouvají od jednotlivých copilotů k sítím obsahujícím desítky či dokonce stovky specializovaných agentů, jak by měly organizace rozhodovat, které odpovědnosti patří jednotlivým agentům a které by měly zůstat centralizované?

Stejně jako internetový firewall a bezpečnostní nástroje, vytvoření důvěry prostřednictvím živého auditu proti zásadám a vynucování ochranných hranic v agentních systémech by měla být centralizovanou funkcí v rámci podniku, definovanou a udržovanou jednou entitou ve společnosti. Všechny ostatní agentní systémy mohou být poskytovány nebo implementovány decentralizovaně, avšak tyto systémy se budou muset zaregistrovat v důvěryhodném systému, aby jim bylo umožněno fungovat.

Cognizant nasadil interně multi-agentní systém, který propojuje přibližně 200 agentů napříč organizací o zhruba 350 000 zaměstnancích. Co odhalilo provozování v takovém měřítku o agentní AI, co by bylo obtížné zjistit v menších pilotních projektech?

Museli jsme navrhnout systém s ohledem na škálovatelnost, rozšiřitelnost, nákladovou efektivitu a rozumné doby odezvy. V projektech takového rozsahu často musíte vymýšlet věci, které v malých, uzavřených agentních systémech s málo uživateli prostě nepotřebují. Například je třeba zajistit, aby koordinace mezi agenty byla personalizovaná a efektivní, čímž se předejde zbytečným krokům a nákladům. Dále by systém měl být schopen integrovat vlastní aplikace i systémy a agenty třetích stran, takže interoperabilita je důležitá a může ušetřit čas i peníze.

Když autonomní agenti mohou volat API, přistupovat k podnikovým systémům, komunikovat s ostatními agenty a provádět akce rychlostí stroje, tradiční řízení AI se značně ztěžuje. Kde by měla lidská kontrola zůstat povinná a kde mohou organizace bezpečně umožnit agentům samostatně operovat?

Domnívám se, že konečným rozhodujícím faktorem, kde je lidský dohled potřebný a povinný, je důvěra. Jakmile se tyto systémy stanou důvěryhodnějšími, poskytneme jim více autonomie, a pokud to nebude právně vyžadováno (např. kvůli nedostatku právní subjektivity AI), budeme se cítit pohodlně přenechat rozhodování agentům. Měření důvěry a rizika je proto důležité a může pomoci vymezit hranici mezi autonomií a lidským dohledem – hranice, která se může posunout, jakmile se systémy stanou důvěryhodnějšími a méně rizikovými pro autonomní provoz.

Velká část vašich dřívějších výzkumů se zaměřovala na evoluční výpočet a systémy, které se zlepšují pomocí výběru a adaptace. Jak by evoluční přístupy mohly doplnit velké jazykové modely a posilovací učení, když se snažíme vytvářet agenty, kteří se dokážou neustále zlepšovat, místo aby jen prováděli předdefinované pracovní postupy?

Hlavní proud AI dnes dominuje metodám gradientního sestupu, což je forma hledání typu „vylézání po kopci“, která není příliš kreativní. Evoluční výpočet je vysoce efektivní při prohledávání složitých prostorů a může doplnit hlavní přístupy. Naše laboratoř například nedávno dosáhla průlomu v této oblasti: dokázali jsme, že evoluční strategie jsou pro většinu post‑tréninkových LLM lepší než posilovací učení, což vede k modelům stejné nebo vyšší kvality za mnohem nižší náklady. Evoluční přístupy by také mohly pomoci při Test‑Time Training, který usiluje o to, aby se LLM učily i po nasazení.

Výzkum společnosti Cognizant zkoumal prostředí, ve kterých vzájemně působící agenti rozvíjejí spolupráci, soutěž, sdílené znalosti a dokonce i klamavé strategie. Jak se multi‑agentní systémy stávají složitějšími, může se emergentní chování stát jednou z největších výzev při zachování předvídatelnosti a souladu podnikové AI s cíli organizace?

Toto už je pravda, jak dokazuje nedávná široce medializovaná událost OpenAI/Hugging Face. Mohli bychom si myslet, že agenti, omezeni na své výzvy a kontexty a využívající LLM, které se během běhu neučí, budou ve svém chování více či méně konzistentní. Skutečnost však je, že prostředí a motivace agenta se mohou měnit, často v důsledku jeho vlastních akcí v prostředí, což vede k nepředvídatelnému chování. To je ještě pravděpodobnější, když spolu interaguje více agentů, a proto je pro nás zásadní pozorovat autonomní agenty v bezpečných sandboxových podmínkách, abychom mohli určit rozsah a míru jejich emergentních tendencí a zohlednit to v našich návrzích agentů a ochranách. Náš veřejně dostupný systém, TerraLingua, kde můžete zavádět agenty, artefakty a dokonce napodobovat agenty a sledovat jejich individuální i kolektivní chování, je krok tímto směrem.

Pohled za dnešním vlnou agentní AI: jaký technologický průlom nebo architektonický posun podle vás ještě chybí, než budeme schopni vytvořit AI systémy, které spolehlivě zvládnou dlouhodobé, komplexní cíle s minimálním lidským zásahem?

Mnoho omezení dnešních agentů pramení z omezení současného stavu umělé inteligence. LLM jsou po tréninku prakticky pevně dané a nemohou „změnit názor“ na věci, když narazí na nové informace. LLM jsou vším a všichni najednou, a proto je třeba je připravit kontextem a výzvami a jsou na tuto přípravu velmi citlivé. LLM mají omezená okna kontextu a je nutné jim znovu předkládat vše pro každé slovo, které vytvoří, nebo akci, kterou provedou. Na úrovni více agentů si myslím, že potřebujeme široce přijímané distribuované koordinační protokoly, důvěryhodné zábrany a zásady a systémy arbitráže transakcí, aby agentní budoucnost dosáhla svého plného potenciálu.

Děkujeme za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit Cognizant nebo náš předchozí rozhovor.