Andrej Jonovic, generální ředitel XBP Global – série rozhovorů

Andrej Jonovic je generálním ředitelem společnosti XBP Global, nadnárodní technologické a servisní společnosti zaměřené na kriticky důležité podnikové procesy. XBP Global využívá agentní AI v regulovaných oblastech, jako je zdravotnictví, veřejný sektor a finanční služby, kde jsou zásadní přesnost, bezpečnost, suverenita dat a auditovatelnost. V tomto rozhovoru Jonovic hovoří o adaptivní orchestraci procesů, modelech s otevřenými váhami, inteligentním zpracování dokumentů, rozhodování člověka a o tom, co je potřeba k tomu, aby se AI z technické možnosti proměnila v měřitelné provozní výsledky.

Svou kariéru jste začal jako právník zaměřený na transakční právo, poté jste se věnoval fúzím a akvizicím, transformaci společností a nakonec jste stanul v čele XBP Global. Jak toto zázemí ovlivnilo váš přístup k hodnocení správy a řízení, obchodních rizik a organizačního dopadu nasazení umělé inteligence v kriticky důležitých pracovních procesech?

Na AI se nejprve dívám z hlediska provozního modelu. Díky zkušenostem s transakcemi a transformací si zvyknete klást otázku, zda struktura skutečně obstojí, když překročíte rámec prezentace a začnete ji uvádět do praxe.

U AI je to velmi důležité, protože model může samostatně podávat mimořádně dobré výsledky, a přesto vést ke špatným provozním výsledkům. Ve zdravotnictví, veřejném sektoru a bankovnictví jsou přesnost zpracování, dodržování předpisů a auditovatelnost nevyjednatelné. Musíte vědět, kde se data nacházejí, co systém smí dělat, jak se rozhodnutí kontrolují a jaké jsou náklady při provozu pracovního procesu ve velkém objemu.

Správa a řízení musí být součástí návrhu této architektury. Chci vědět, kde model běží, jaké informace překračují hranice podniku, co se zaznamenává do auditní stopy a co se stane, když pracovní proces dospěje k rozhodnutí, které vyžaduje jinou míru kontroly.

Právě v tom se mé dosavadní zkušenosti nejspíš projevují nejvíc. Obecně mě méně zajímá, co technologie dokáže při kontrolované demonstraci. Chci vědět, zda ji lze začlenit do kriticky důležitého procesu a spolehnout se na ni.

XBP Global popisuje agentní AI jako další krok ve vývoji automatizace založené na pravidlech a robotické automatizace procesů. Co se po technické stránce změní, když pracovní proces přejde od dodržování předem stanovených pokynů k využívání agentů AI, kteří dokážou vyvozovat závěry, rozhodovat se a koordinovat více úkolů?

Architektura se stává mnohem adaptivnější.

Tradiční automatizace pracovních procesů je deterministická. Máte pravidla, víte, co bude následovat v dalším kroku, a s rostoucí složitostí procesu pevně zakódováváte další logiku. U předvídatelných úloh to funguje velmi dobře. Problémy nastávají, když je pravidel příliš mnoho nebo se proces mění rychleji, než lze systém přestavět.

Nyní se věnujeme adaptivní orchestraci procesů. Tam, kde to vyžadují přesnost a dodržování předpisů, můžete zachovat deterministické systémy pravidel a do těch částí pracovního procesu, kde může být užitečné vyvozování závěrů, zapojit inteligentní modely. Agenti mohou koordinovat úkoly, přistupovat k informacím a vybírat další krok, aniž by někdo musel předem pevně zakódovat všechny možné cesty procesem.

Další změnou je, že základní model lze snáze vyměnit. Vidíme, že modely s otevřenými váhami podnikové úrovně se velmi rychle zlepšují. Pokud je datový řetězec správně navržen, můžete s vývojem ekosystému začlenit výkonnější model, aniž byste museli přestavět celý provozní proces.

Myslím si tedy, že stále důležitějším technickým aktivem se stává samotný pracovní proces: jeho orchestrace, odborné znalosti v dané oblasti, kontrolní mechanismy a data kolem modelu.

Mnoho společností s AI experimentuje, ale nedaří se jim přejít od pilotních projektů k produkčnímu nasazení. Jaké jsou nejčastější architektonické nebo organizační překážky, které podnikům brání nasazovat agentní pracovní procesy ve velkém měřítku? 

Klienti se posouvají za fázi experimentování. Viděli ukázky a slyšeli velmi ambiciózní přísliby návratnosti investic. V určitém okamžiku musí někdo tuto technologii začlenit do skutečného procesu a zajistit, aby fungovala.

Právě tehdy se architektura komplikuje. Produkční pracovní proces musí být propojený s prostředím, které už společnost používá. Citlivé informace možná bude nutné uchovávat v soukromém cloudu nebo v místní infrastruktuře. Stále musí být možné přistupovat ke stávajícím systémům. Je třeba splnit regulační požadavky. Ekonomická udržitelnost musí obstát i při objemech typických pro podnikové nasazení.

Nedávno jsme získali zakázku týkající se životního cyklu údržby flotily globální letecké společnosti. Každá položka údržby bude převedena do vektorové podoby a uložena v soukromé vektorové databázi v soukromém cloudu klienta. Agentní infrastruktura spravuje přístup k těmto informacím a podporuje reprodukci záznamů v případě, že letadla přestanou být pronajímána nebo budou prodána.

To je úplně jiný problém než prokázat, že model dokáže odpovědět na otázku týkající se záznamu o letadle. Pracujete s celým provozním prostředím, s kontrolou dat a s procesem, který musí opakovaně fungovat.

Z organizačního hlediska bývá problém obvykle v tom, kdo za věc odpovídá. Někdo musí proces znát natolik do hloubky, aby dokázal definovat, co skutečně znamená nasazení do ostrého provozu. Bez této provozní disciplíny může pilotní projekt působit velmi dlouho slibně, aniž by se stal užitečným.

XBP Global kombinuje automatizaci s dohledem člověka zapojeného do procesu, zejména u rozhodnutí s významnými důsledky. Jak určujete, která rozhodnutí může systém umělé inteligence provádět autonomně a kdy musí člověk zůstat součástí procesu? 

Lidskou roli stavíme na posuzování případů.

V procesu, kde mohou mít rozhodnutí závažné důsledky, lze obvykle nechat velké množství případů projít celým procesem s vysokou mírou jistoty. Pak jsou tu hraniční případy, kdy jsou informace neúplné, okolnosti neobvyklé nebo by následky nesprávné odpovědi byly příliš závažné.

Když proces narazí na některý z takových případů, předá danou transakci odborníkovi na příslušnou oblast. Ten ji vyřeší a jeho úsudek lze následně předat systému, aby se model dál zlepšoval.

Myslím, že tato zpětná vazba je důležitá. Lidský dohled má větší přínos, když postupem času zlepšuje pracovní proces. Odborník přináší znalosti oboru v případech, kdy je model stále potřebuje.

Hranice autonomie závisí také do značné míry na prostředí. Posuzování případů ve zdravotnictví, záznamy veřejného sektoru a regulované finanční procesy mají jiné požadavky než interní úkol s malými důsledky. Přijatelná míra jistoty musí odpovídat tomu, jaké skutečné důsledky má rozhodnutí ve chvíli, kdy podle něj systém jedná.

Vaši klienti působí v regulovaných odvětvích a ve veřejném sektoru, kde jsou zásadní suverenita dat, bezpečnost a auditovatelnost. Jak mohou organizace nasazovat velké jazykové modely v chráněných prostředích, aniž by ohrozily schopnosti, díky nimž jsou tyto systémy užitečné? 

Modely s otevřenými vahami výrazně mění odpověď na tuto otázku.

Dlouhou dobu se předpokládalo, že nejlepšího výkonu modelu lze dosáhnout pouze odesláním informací do prostředí někoho jiného. To představuje zjevný problém, když data musí zůstat uvnitř podniku.

Nyní můžeme modely s otevřenými vahami na podnikové úrovni začlenit do nasazených agentních procesů, přičemž data zůstávají v prostředí klienta. Podle požadavků to může znamenat infrastrukturu v privátním cloudu nebo provozovanou přímo v místě nasazení. Organizace přitom může využívat pokrok v širším ekosystému modelů a zároveň zachovat kontrolní mechanismy, které potřebuje pro zajištění suverenity dat.

Architektura se také musí umět měnit. Není důvod předpokládat, že dnešní model zůstane nejlepším modelem pro konkrétní úlohu. Naše tréninkové protokoly jsou navrženy tak, abychom mohli do stávajícího procesu rychle začlenit nové modely.

Pro regulované klienty je tato flexibilita mimořádně cenná, protože pracovní proces se může dál zlepšovat, zatímco hranice, v níž zůstávají data, zůstává nedotčená. Tak lze také začít řešit požadavky, jako je EU AI Act, aniž by se dodržování předpisů považovalo za něco, co se doplní až po nasazení technologie.

Značná část podnikových informací zůstává uvězněna v dokumentech, obrázcích, zastaralých systémech a fyzických záznamech. Jak se vyvíjí inteligentní zpracování dokumentů a jakou roli hraje při přeměně roztříštěných dat na informace, které mohou agenti umělé inteligence spolehlivě využívat?

Myslím, že inteligentní zpracování dokumentů se stává součástí infrastruktury pro agentní pracovní procesy.

Zpracování dokumentů se historicky do značné míry řídilo šablonami. Věděli jste, jak dokument vypadá i které pole potřebujete, a systém je z dokumentu vytěžil. Podnikové informace jsou jen zřídkakdy takto přehledné. Už samotné zdravotnictví může zahrnovat dokumenty EOB, složitou korespondenci, informace o pojistných nárocích a záznamy v různých formátech.

Novější přístup mnohem lépe zohledňuje kontext. Z nestrukturovaných informací lze určit, co je relevantní, a převést je do strukturovaných výstupů, které mohou následné systémy skutečně využít. To je důležité, protože agent nedokáže spolehlivě koordinovat práci, pokud jsou podkladové informace neúplné nebo nesprávně interpretované.

Rozsah také mění povahu problému. Provozujeme prostředí, která zpracovávají obrovské objemy obrázků, pojistných nároků, platebních transakcí a dalších dokumentů. V takovém měřítku se i malý rozdíl v kvalitě vytěžování stává velkým provozním problémem.

IDP se tak stále častěji ocitá na začátku inteligentního pracovního procesu. Převádí roztříštěné informace na využitelná data, poskytuje další části procesu spolehlivý podklad pro činnost a vytváří základ pro další automatizaci v navazujících fázích.

XBP Global hovořila o přechodu od zastaralých procesů založených na pravidlech k agentním procesům umělé inteligence a o dosažení vyšší míry vyřešení případů hned při prvním průchodu. Co všechno musí systém umělé inteligence vědět o procesech, výjimkách a institucionálních znalostech organizace, než bude schopen poskytovat spolehlivé výsledky?

Velká část institucionálních znalostí se nikdy nedostala do přehledného dokumentu popisujícího proces.

Je obsaženo ve starých systémech, souborech pravidel a úsudku lidí, kteří daný proces řídí už řadu let. Vědí, které informace jsou důležité, které pravidlo se uplatní za určitých okolností a co se stane v navazujících krocích, pokud dojde k nesprávnému rozhodnutí.

Při převodu této práce musíte zachovat znalosti o tom, jak proces funguje. V našem prostředí to často znamená kombinovat deterministickou logiku s AI, místo abychom předpokládali, že každé pravidlo musí okamžitě zmizet. V regulovaném pracovním postupu jsou části, kde je systém pravidel mimořádně užitečný, protože požadavek je přesně stanovený. Jiné části naopak dokáže mnohem efektivněji zvládnout inteligentní model, který se umí přizpůsobit různým situacím.

Odborné znalosti v daném oboru napoví, kam co patří.

Proto také nelze úspěšnost vyřešení na první pokus posuzovat jen podle skóre modelu. Pracovní postup musí přinést výsledek, který obstojí i v dalším kroku procesu. Pokud někde v navazujících krocích vyvolá další eskalaci, problém jste nevyřešili, jen přesunuli.

Systém musí procesu dostatečně rozumět, aby věděl, jak vypadá úspěšná transakce od začátku do konce.

Společnost XBP Global využívá automatizaci nejen při provozu pro klienty, ale také při vlastní transformaci směrem k provoznímu modelu, v jehož centru stojí AI. Co jste se naučili tím, že jste firmu využili jako interní testovací prostředí, a jak vyvažujete zvyšování produktivity s rozvojem zaměstnanců a řízením změn?

Při zavádění těchto postupů ve vlastní firmě jsme byli poměrně razantní, protože podle mě se člověk učí velmi rychle, když na výsledku závisí jeho vlastní hospodářské výsledky.

Očekáváme, že naše úsilí o automatizaci s využitím AI jako výchozího přístupu nyní přinese provozní úspory v přepočtu na celý rok ve výši 65 až 75 milionů dolarů, přičemž přibližně 35 milionů dolarů z tohoto přínosu očekáváme v průběhu roku 2026. Tržby na zaměstnance dosáhly ve druhém čtvrtletí přibližně 89 000 dolarů, oproti zhruba 82 000 dolarům v předchozím čtvrtletí, a očekáváme, že do konce roku se přiblíží 100 000 dolarů.

Tyto ukazatele jsou užitečné, protože nám říkají, zda se provozní model skutečně stává produktivnějším.

Dopady na zaměstnance jsou skutečné. Odhadujeme, že do konce roku 2026 se počet zaměstnanců po celém světě sníží přibližně o 20 %, zatímco přejdeme k produktivnějšímu provoznímu modelu. Řízení změn musí zohlednit, že změny v produktivitě ovlivňují požadavky na počet zaměstnanců.

Zároveň musí lidé, kteří v těchto pracovních postupech zůstanou, získat širší schopnosti. Potřebujeme odborníky na danou oblast, architekty a pracovníky provozu, kteří dokážou strukturovat práci, vyhodnocovat výstupy a nést odpovědnost za rozhodnutí s vyšší přidanou hodnotou.

Díky tomu, že tuto transformaci uskutečňujeme ve vlastní firmě, jsou naše diskuse mnohem konkrétnější. Velmi rychle zjistíte, která automatizace přináší dlouhodobou efektivitu a která činnost pouze znamená, že někdo častěji používá AI.

Projekty podnikové AI se často propagují prostřednictvím ukázek, nikoli měřitelných obchodních výsledků. Jaké ukazatele by měli vedoucí pracovníci používat při hodnocení inteligentního pracovního postupu a jak by měli zohlednit přesnost, míru výjimek, dobu zpracování, provozní náklady a snížení rizik?

Pracovní postup bych hodnotil na dvou úrovních.

Na provozní úrovni mě zajímá přesnost, vyřešení na první pokus, doba zpracování, počet výjimek a náklady na zpracování práce. V regulovaném prostředí mě také zajímá, zda lze transakci auditovat a zda kontrolní mechanismy spolehlivě fungují i při velkém objemu.

Pak chci vidět, zda se tato zlepšení promítají do hospodářských výsledků firmy.

Ve společnosti XBP dosáhla naše upravená hrubá marže ve druhém čtvrtletí 24,9 %, což je dosud nejvyšší hodnota, zatímco tržby na zaměstnance vzrostly přibližně na 89 000 dolarů. Cíl provozních úspor v přepočtu na celý rok se rovněž zvýšil na 65 až 75 milionů dolarů, protože jsme identifikovali další příležitosti k automatizaci.

Tyto ukazatele vypovídají o něčem jiném než skóre z benchmarku. Ukazují, zda technologie mění nákladovou strukturu provozu.

Pracovní postup může dosahovat vynikající přesnosti modelu, a přesto jít o špatně zvolené nasazení, pokud je jeho provoz příliš nákladný nebo vede k příliš velkému množství ručního přepracovávání. Myslím, že vedoucí pracovníci musí sledovat výsledky od začátku až do konce. Technologie musí přinést provozní přínos, který se projeví v něčem, co lze skutečně měřit.

Očekáváte, že agentní AI zůstane vrstvou přidanou ke stávajícím podnikovým systémům, nebo se stane hlavní vrstvou pro orchestraci, jejímž prostřednictvím budou lidé, software, data a podnikové procesy vzájemně komunikovat?

Myslím, že stále větší část pracovních postupů bude agentní.

Podniky budou i nadále používat systémy, datová úložiště a aplikace, které plní konkrétní funkce. Změní se způsob, jakým mezi nimi proudí práce. Agentní procesní tok může načítat informace, koordinovat nástroje, spouštět akce a určovat, kdy transakce vyžaduje jiný typ zásahu.

Už teď to lze pozorovat na příkladu letecké společnosti. Záznamy o údržbě jsou uloženy v soukromé vektorové databázi v prostředí klienta, zatímco agentní vrstva řídí, jak se k těmto informacím přistupuje a jak se využívají v průběhu celého životního cyklu údržby.

Očekávám, že tento typ orchestrace bude mnohem běžnější.

Základní modely se budou dál měnit. Modely s otevřenými váhami se rychle zlepšují a po těch, které používáme dnes, přijde další generace. Orchestrace proto bude stále důležitější, protože podniky potřebují řešení, které bude tyto modely dlouhodobě zastřešovat.

Pokud pipeline postavíte tak, aby vycházela z procesů, oborových znalostí, bezpečnostních požadavků a podnikových kontrol, budete moci dál využívat lepší modely, jakmile se objeví. Právě v tom podle mě bude spočívat velká část dlouhodobé hodnoty.

Děkujeme za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více, mohou navštívit XBP Global.