Jayant Swamy, hlavní podnikový architekt ve společnosti Genpact – série rozhovorů

Jayant Swamy, Chief Enterprise Architect at Genpact, je technologický a datový lídr s více než dvěma desetiletími zkušeností zahrnujících podnikové architektury, umělou inteligenci, datové inženýrství, cloudové technologie a rozsáhlou digitální transformaci. Před vstupem do Genpact v roce 2024 působil jako CTO a hlavní architekt ve společnosti Xtrac8.Tech a také jako CTO a spoluzakladatel startupu zaměřeného na AI, který se soustředil na technologie včetně generativní AI a velkých jazykových modelů. Swamy předtím strávil více než deset let v Accenture, kde zastával vedoucí pozice, včetně CTO, globálního vedoucího a globálního ředitelského ředitele Institutu aplikované inteligence, ředitele a globálního obchodního vedoucího pro oblast Data on Cloud a hlavního datového architekta a globálního vedoucího pro datové inženýrství a datové inovace. Na začátku své kariéry strávil více než sedm let ve společnosti Fannie Mae, kde dohlížel na technologické a obchodní informační iniciativy související se správou úvěrů a řízením ztrát, po několika letech jako senior principal v Oracle (ORCL ).

Genpact je globální společnost poskytující technologické a obchodní služby, zaměřená na pomoc podnikům při transformaci složitých operací pomocí umělé inteligence, dat, procesní inteligence a odborných znalostí v dané oblasti. Společnost má kořeny v iniciativě z roku 1997 v rámci GE Capital, stala se nezávislou v roce 2005 a vstoupila na burzu New York Stock Exchange v roce 2007. Dnes Genpact spolupracuje s organizacemi napříč odvětvími, včetně bankovnictví, pojišťovnictví, financí, dodavatelských řetězců, spotřebního zboží, zdravotnictví a technologií, a klade stále větší důraz na generativní AI, agentické systémy, automatizaci a podnikové operace umožněné AI.

Vaše kariéra vás zavedla od rolí v oblasti podnikové architektury a vedení dat v Oracle, Fannie Mae a Accenture až po startupové prostředí a současnou pozici hlavního podnikového architekta v Genpact. Jak tento zkušenostní mix formoval váš pohled na to, kde autonomní AI přináší skutečnou podnikatelskou hodnotu a kde je lidský úsudek nezbytný? 

Během své kariéry jsem zjistil, že rozsah, správa, integrace a riziko jsou stejně důležité jako inovace. Podnikové zkušenosti ukazují, že i nejimpresivnější technologie selže, pokud nefunguje v rámci organizace; startupy zase potvrzují hodnotu rychlého postupu, experimentování a udržování architektury jednoduché a přizpůsobivé. Autonomie AI funguje nejlépe, když se spojí oba přístupy – inovace v rychlém tempu při zachování silných základů. Tak může AI skutečně proměnit tok práce v organizaci. Zjištění z našeho nedávného výzkumu tento fakt jasně podtrhují.

Model samotný je jen jednou částí rovnice. Okolní architektura – data, systémy, pracovní postupy, kontroly a integrace – určuje, zda AI přináší hodnotu ve velkém měřítku. To je to, co myslíme pod „žádná umělá inteligence bez procesní inteligence.“ Je to také základ našeho praktického AI výzkumu v Genpact Labs, kde převádíme vznikající AI schopnosti na produkční, připravená řešení pro klienty. Každá schopnost je spojena s měřitelným obchodním výsledkem a zapojena do pracovního postupu, dat a kontrol potřebných k provozu.

AI by měla mít prostor jednat tam, kde je cíl jasný, data spolehlivá a hranice dobře pochopené. Lidský úsudek zůstává zásadní u rozhodnutí s vysokými sázkami, nejednoznačných, subjektivních, regulovaných nebo vyžadujících odpovědnost a empatii. Autonomie neznamená odstranit lidi ze systému. Jde o navržení systému tak, aby všichni věděli, kde může AI jednat samostatně, kde lidé potřebují přehled a kde musí převzít lidský úsudek.

Mnoho společností hodnotí AI zaměřenou na zákazníky především podle rychlosti, míry zachycení a úspor nákladů. Proč mohou tyto metriky vytvářet zavádějící obrázek o tom, zda technologie skutečně zlepšuje zákaznickou zkušenost?

Problém spočívá v tom, že se jedná především o měření efektivity. Ukazují, jak systém fungoval, ale ne nutně, jak to zákazník vnímal. Vezměte si například zachycení (containment): vysoká míra může vypadat úspěšně interně, ale může skrývat špatné výsledky, pokud zákazník vzdá, opakuje se, dostane neúplné odpovědi nebo nemůže v potřebný okamžik kontaktovat člověka. Zachycení ukazuje, že AI udržela zákazníka v systému, nikoli že získal, co potřeboval. Totéž platí pro úspory nákladů, které mohou přijít na úkor důvěry, spokojenosti nebo kvality řešení.

Systémy AI optimalizují podle signálů, které jim poskytnete, takže podniky musí od samého začátku navrhnout měřicí podněty do systému – propojit front‑endové metriky jako rychlost a zachycení s následnými signály, jako je vyřešení problému a zda výsledek nevytvořil problémy jinde. Nakonec by AI zaměřená na zákazníky měla být měřena podle toho, zda přesně, spravedlivě a s vhodnou úrovní lidské podpory řeší základní problém koncového uživatele.

Jaké signály by AI agent měl použít k rozpoznání nejistoty, frustrace, naléhavosti nebo situace, která spadá mimo jeho zavedený pracovní postup? 

Neexistuje jediný magický signál – podstatné je poskytnout systému dostatek kontextu a pozorovatelnosti, aby rozpoznal, kdy jeho jistota, pravomoc nebo informace již nejsou dostačující. To se může projevit jako konfliktní informace, opakované neúspěšné pokusy nebo agent, který se točí v kruzích. Může to být také změna v jazyce zákazníka – jasný signál frustrace nebo naléhavosti – nebo samotný úkol vyžadující informace, přístup či pravomoc, kterou agent nemá.

Systém také musí znát své vlastní hranice. Pokud problém spadá mimo navržený pracovní postup, vyžaduje nedostupná data nebo překročí definovaný rizikový práh, mělo by to spustit jinou cestu. Cílem není, aby agent zvládl každou možnou situaci – jde o to, aby věděl, kdy zastavit, eskalovat nebo požádat o pomoc.

Jak mohou společnosti rozlišit mezi interakcí, která je jen složitá, a takovou, která skutečně vyžaduje lidský úsudek nebo empatii?

Rozdělovací čára nespočívá v obtížnosti úkolu. Spočívá v tom, kolik úsudku, důsledků a lidského kontextu rozhodnutí zahrnuje. Zřízení agentických operací, kde stroje zpracovávají a lidé validují, vyžaduje pochopení, kde lidskou hodnotu nelze nikdy nahradit.

AI může zvládnout velmi složité úkoly, pokud je cíl jasný, data spolehlivá, proces definovaný a výstupy měřitelné. Složitost sama o sobě nevyžaduje lidský zásah, pokud systém rozumí hranicím, ve kterých může operovat. Lidský zásah je nutný, když je záměr zákazníka nejasný, situace vyžaduje diskrétnost, existuje více platných výsledků nebo rozhodnutí nese významné finanční, právní, lékařské nebo reputační důsledky. Některé interakce také vyžadují ujistění, vysvětlení, vyjednávání nebo empatii – ne jen odpověď. Lidská účast zde je stejně důležitá jako technická přesnost. Architektura by měla tuto rozdílnost odrážet. Tyto zásahy by měly být navrženy do pracovního postupu předem, ne rozhodovány po tom, co se pokusí špatně.

Jak by měl vypadat efektivní proces eskalace, aby zákazníci nemuseli opakovat své podněty nebo začínat interakci znovu, když přebírá lidský operátor?

Dobrá eskalace není jen přenesení zákazníka – jde o přenos kontextu, aby další osoba mohla přímo přejít k řešení. Když lidský operátor přebírá, měl by již mít historii konverzace, identitu a profil zákazníka a to, co AI již vyzkoušela – dost na to, aby se zákazníkovi nekladlo otázky, aby začal znovu.

Jedná se převážně o architektonický problém: pokud AI existuje jen v přední chatové zkušenosti, oddělené od CRM, ERP, zdrojů znalostí, pracovních postupů a vrstvy orchestraci, bezproblémové předání je nemožné.

Měly by se hranice eskalace měnit v závislosti na faktorech, jako jsou finanční riziko, zranitelnost zákazníka, regulatorní požadavky nebo potenciální důsledky nesprávného rozhodnutí?

Pravidla eskalace by měla záviset na úrovni rizika. Čím větší jsou důsledky chyby, tím dříve by měl být zapojen člověk.

Reset hesla může probíhat plně automaticky, ale sporná finanční transakce by měla mít přísnější kontrolu. V oblasti pojistných událostí nebo vymáhání to může znamenat plnou autonomii u rutinních aktualizací stavu, ale povinnou lidskou kontrolu, když případ překročí peněžní práh nebo se objeví indikátor tíživé situace. Čím více regulované nebo důsledné je rozhodnutí, tím silnější by měla být kontrola. Zranitelný zákazník může vyžadovat dřívější lidský zásah a rozhodnutí s nevratnými důsledky by měla mít nižší hranice autonomie.

Tyto hranice by také neměly být ponechány na jednotlivých agentech, aby je improvizovaně interpretovali. Musí být zakomponovány do architektury a vrstvy orchestraci, s jasnými pravidly ohledně toho, co je agent oprávněn dělat, co vyžaduje další ověření a co musí být eskalováno.

Příležitost spočívá v tom, aby autonomie mohla růst s rizikem — plná rychlost u nízkorizikových úkolů, přísnější kontrola tam, kde to má význam. Ve Genpact jsme tuto úroveň přímo zakomponovali do návrhu agentických pracovních postupů — necháváme rutinní případy běžet autonomně, zatímco vše, co překročí definovaný rizikový nebo peněžní práh, je automaticky směrováno k lidskému operátorovi, aniž by agent musel rozhodovat o eskalaci. Podniky, které poskytují každé interakci stejnou úroveň autonomie, rychle promění pohodlí v nákladné chyby.

Vedle dokončení úkolu, jaké metriky by organizace měly použít k hodnocení, zda autonomní systém zákaznického servisu přináší pozitivní výsledky pro zákazníky?

Dokončení úkolu je užitečné, ale rozhodně to není dostačující. Otázka by neměla být „dokázal agent úkol dokončit?“, ale „dostal se zákazník do lepší situace?“. Je to rozdíl mezi slibem výsledku a odpovědností za něj.

To znamená podívat se za dobu zpracování k metrikám, jako je přesnost odpovědí, řešení při první kontaktu, opakované kontakty, kvalita eskalace, spokojenost zákazníků a spravedlnost a konzistence výsledků. Zahrnuje také měření nad rámec jedné interakce. Agent může vypadat úspěšně v jedné části zákaznické cesty, zatímco způsobí problém později. Například případ, který se rychle uzavře, může o týdny později vyvolat další hovor, ovlivnit sentiment zákazníka a nakonec vyžadovat lidskou nápravu, takže stojí za to sledovat, zda je stále vyřešen po 30 dnech.

Je také důležité vědět, zda systém skutečně řeší základní potřebu zákazníka, místo aby pouze uzavřel interakci a považoval ji za úspěch. To vyžaduje end‑to‑end pozorovatelnost pracovního postupu, ne jen metriky z AI rozhraní. Měření zákaznických a obchodních výsledků, namísto činnosti, odhaluje skutečnou návratnost investic AI.

Jak mohou podniky zabránit AI agentům optimalizovat provozní cíle, jako je snížení objemu hovorů nebo doby zpracování, na úkor spravedlnosti, důvěry nebo základních potřeb zákazníka?

Systémy AI jsou pozoruhodně dobré v dosahování jakéhokoli přiděleného cíle. To je výhoda i úskalí: pokud řeknete agentickému systému, že rychlost je jediným cílem, obětuje vše ostatní, aby ho dosáhl.

Podniky musí AI poskytnout vyvážený soubor cílů, kde efektivita hraje roli, ale zároveň stojí vedle zákaznických výsledků, rizika, spravedlnosti, přesnosti a důvěry. To se dosahuje nastavením jasných hranic pro přijatelné chování, testováním na zaujatost a neúmyslné důsledky, udržováním mechanismů lidského zásahu, kontinuálním sledováním rozhodnutí a zajištěním, aby výstupy byly sledovatelné a auditovatelné. Správa nemůže být něco, co se přidává po spuštění systému. Musí být zakomponována do architektury od samého začátku.

Kontekst zákazníka může být rozptýlen napříč předchozími konverzacemi, transakcemi, kanály a podnikovými systémy. Jak mohou společnosti poskytnout AI agentům dostatek kontextu pro lepší rozhodování, aniž by vznikla nová rizika v oblasti soukromí, bezpečnosti nebo správy?

Odpovědí na roztříštěný kontext není dát AI agentovi přístup ke všemu. Jde o poskytnutí řízeného přístupu k správným informacím ve správný okamžik. Podniky potřebují silnou vrstvu dat a integrace, která spojuje agenty s autoritativními systémy záznamů a zároveň kontroluje, co každý agent může vidět a dělat. To zahrnuje přístup založený na roli a účelu, minimální nezbytná data, sledování původu, auditní logy a ochranu citlivých informací.

Větší kontext zlepšuje rozhodnutí AI, ale pouze pokud je řízen. Jinak řešení jednoho problému může vytvořit mnohem větší problém v oblasti soukromí nebo bezpečnosti. Při správném zacházení kontext narůstá, protože systém se učí z předchozích výjimek, čímž budoucí interakce činí chytřejšími, aniž by vznikala nová rizika.

Jak očekáváte, že se bude vyvíjet vztah mezi AI agenty a lidskými zaměstnanci, když se AI zaměřená na zákazníky stává autonomnější, a jaké schopnosti budou organizace muset nyní vybudovat, aby tato spolupráce byla úspěšná?

Lidská role se bude čím dál tím více posouvat od vykonávání každého kroku procesu k řízení, dohledu a vylepšování systému agentů, kteří přebírají objem práce. Lidé budou věnovat více času stanovování cílů, řešení výjimek, uplatňování úsudku, validaci vysoce rizikových rozhodnutí, zdokonalování pracovních postupů, sledování chování agentů a zlepšování architektury a správy těchto agentických systémů. To také mění požadované dovednosti firem. Znalost AI bude důležitá, ale také kritické myšlení, odborné znalosti v dané oblasti, orchestraci agentů, pozorovatelnost a schopnost zpochybnit AI systém, když něco vypadá špatně.

Není to jen výzva pro pracovní sílu. Organizace potřebují architekturu, která tuto spolupráci podpoří, spojující agenty se správnými daty a systémy, koordinující jejich společnou činnost a poskytující lidem přehled o tom, co dělají. Správa, lidský zásah a eskalace musí být navrženy od samého začátku.

Ve své roli hlavního podnikového architekta vnímám jako svou povinnost zajistit, aby celá organizace věděla nejen, jak AI používat, ale také kdy jí důvěřovat, kdy ji zpochybňovat a kdy převzít kontrolu. Tím se architektura stává vstupní branou k odpovědné AI, která buduje důvěru a skutečný dopad.

Děkujeme za skvělý rozhovor, čtenáři, kteří chtějí zjistit více, by měli navštívit Genpact.