Proč se projekty agentické AI ruší a co osm týdnů trvající pilot dělá správně

Zákazník požádá o vrácení peněz a agent najde objednávku v CRM, ověří podmínky vrácení a za méně než minutu připraví odpověď. Pak se ale zasekne, protože schválení refundace se vyřizuje ve finančním systému, ke kterému nemá přístup, a adresa zákazníka se ve dvou databázích liší. Podobné mezery se při předvádění jen zřídka projeví, přesto rozhodují o tom, kolik bude provoz agenta stát a zda mu někdo může důvěřovat. Větší riziko agentické AI ve firmě, do níž je agent nasazen, tedy spočívá v samotném podniku, nikoli v modelu.

Gartner očekává, že do konce roku 2027 bude zrušeno více než 40 % projektů agentické AI, a poukazuje přitom na rostoucí náklady, nejasnou obchodní hodnotu a nedostatečné řízení rizik. Při bližším pohledu se tato prognóza týká toho, jak jsou projekty schvalovány na základě úspěšné demonstrace, aniž by bylo jasné, kolik dnes stojí samotná práce nebo kdo odpovídá za její výsledek.

Vedení každé firmy bych položil otázku, zda podnik dokáže podporovat každodenní práci tohoto agenta za náklady a s mírou rizika, které jsou pro něj přijatelné. Odpověď vyžaduje důkladně se zabývat tím, čemu říkám práce po automatizaci, tedy vším, co lidé musí udělat poté, co agent dokončí svou část práce. Praktickým způsobem, jak to změřit před rozhodnutím o plném nasazení, je osm týdnů trvající pilot.

Problémy, které agent přebírá od podniku

Agent pracuje jen zřídka samostatně, protože i zdánlivě jednoduchý úkol se týká zákaznických záznamů, několika podnikových aplikací a obvykle také schvalovacího kroku. Každé propojení přitom omezuje, co agent může vidět a dělat. Pokud jsou záznamy nekonzistentní nebo není zcela jasné, kdo má co schválit, agent přebírá spolu s úkolem i tento zmatek.

Rutinní případy bývají málokdy problémem; tím jsou výjimky, protože právě u nich narůstají provozní náklady a právě těm se demonstrace záměrně vyhýbá. Výzkum společnosti Deloitte z roku 2026 zjistil, že pouze 5 % organizací považuje své podnikové procesy za velmi dobře připravené na AI agenty. Tento údaj vypovídá více než jakýkoli benchmark modelu, protože naznačuje, že AI je připravena mnohem dříve než většina procesů.

Obchodní přínos musí zahrnovat i práci po automatizaci

Měřit, jak rychle agent vytvoří výstup, je nejjednodušší způsob, jak jeho přínos nadhodnotit. Podstatné je totiž, kolik práce vyžaduje dokončení celého úkolu. Představte si, že zaměstnanci zpracování žádosti zabere 20 minut a agent zkrátí první fázi na dvě minuty. Na první pohled to vypadá jako úspora 18 minut, dokud někdo nestráví 15 minut kontrolou výsledku a opravováním chyb. Jakmile se na druhou stranu účetní bilance započítají náklady na provoz agenta, jsou tři ušetřené minuty jen nepatrným přínosem.

Analýza společnosti McKinsey zaměřená na agenta pro zákaznický servis v bankovnictví ukazuje stejný vzorec ve velkém měřítku: tokeny tvořily 20–25 % variabilních provozních nákladů a lidský dohled 70–75 %, takže většina nákladů připadala na činnosti mimo model. Pokud se výchozí stav nestanoví dříve, než kdokoli začne psát kód, může pilot vykázat značný technický pokrok, a přesto neověřit ekonomickou opodstatněnost investice. Vlastník projektu zodpovědný za jeho obchodní stránku musí mít přinejmenším jasnou odpověď na každý z těchto bodů:

• Objem: jak často proces probíhá a kolik lidí se do něj zapojuje.
• Doba dokončení: jak dlouho trvá celý úkol včetně kontroly a oprav.
• Přesnost: jak často se něco pokazí nebo je třeba úkol provést znovu.
• Náklady na jeden úkol: kolik dnes stojí úspěšné dokončení jednoho úkolu.
• Obchodní dopad: co by skutečné zlepšení změnilo pro zákazníky, zaměstnance nebo podnik.

Agent si musí své místo v pracovním postupu zasloužit

Přijetí nové technologie se obvykle řadí do oblasti řízení změn, podle mých zkušeností se však o něm rozhoduje mnohem dříve — podle toho, kam je agent v pracovním postupu začleněn. Jedna globální firma poskytující odborné služby vytvořila agenty pro podporu a zajišťování souladu s předpisy. Její agent podpory dokázal získávat informace z několika interních systémů, lidé však kvůli jeho použití museli otevřít samostatnou aplikaci, a většinou se jim do toho nechtělo. Když se tentýž pracovní postup přesunul do stávající platformy podpory, agent se objevil přímo v požadavku, na kterém už zaměstnanci pracovali. Stejným způsobem byl začleněn i agent pro prověřování souladu s předpisy: byl zabudován do Salesforce a spustil se při každém vytvoření případu.

Na samotných agentech se nic nezměnilo; změnilo se jejich umístění v pracovním postupu. Zaměstnanci už měli důvod otevřít požadavek nebo založit případ, takže když je agent zastihl právě v tu chvíli, nevyžadovalo to od nich nic navíc. Jeho umístění je proto stejně tak architektonickým rozhodnutím jako otázkou přijetí uživateli: agent potřebuje kontext v místě, kde se práce odehrává, a jeho výstup musí navazovat na další krok, aniž by ho někdo musel ručně kopírovat.

Autonomie mění bezpečnostní rizika

Agent, který může pouze číst informace, představuje jeden druh rizika; agent, který může měnit záznamy nebo posílat e-maily zákazníkům, představuje riziko zcela odlišné. Opatření proto musí odpovídat tomu, co agent skutečně smí dělat. Mezi známá rizika patří příliš rozsáhlá oprávnění a únik citlivých údajů, největší pozornost si však zaslouží útoky typu prompt injection: skryté instrukce v dokumentu nebo e-mailu, které agent převezme při plnění zcela legitimního úkolu.

Doporučení společnosti Gartner z května 2026 ke správě agentů rozdělují autonomii do čtyř úrovní a nabízejí praktický způsob, jak určit, jak přísné kontroly jsou potřeba:

1. Pozorování: agent vyhledává informace a rozpoznává vzorce, přičemž má pouze přístup pro čtení.
2. Doporučování: agent navrhne postup a rozhodnutí učiní zaměstnanec.
3. Jednání se schválením: agent připraví nebo zahájí úkon, který musí člověk před provedením schválit.
4. Autonomní jednání: agent samostatně provádí schválené úkony v rámci stanovených limitů; výjimky jsou sledovány a předávány k řešení.

Na každé úrovni potřebuje agent vlastní identitu, oprávnění omezená na jeho úkol a záznam o každém provedeném úkonu. Organizace také potřebují pravidla pro nakládání s daty a jejich uchovávání, jasno v tom, jaké informace se dostávají k externím poskytovatelům modelů, a někoho, kdo má pravomoc agenta pozastavit a okamžitě mu odebrat přístup, jakmile se něco nezdá.

Každá z těchto kontrol s sebou nese průběžné náklady, protože širší oprávnění, další dohled i časté schvalování se časem nasčítají. Správná míra autonomie je proto nejen bezpečnostním, ale i ekonomickým rozhodnutím. Záleží na tom, zda agent přináší dostatečný přínos při míře rizika, kterou je podnik ochoten přijmout.

Vyberte proces, který dokáže využití agenta ospravedlnit

Mnoho týmů začne u technologie a teprve potom hledá problém, který by s ní vyřešily. Lepším začátkem je proces, jehož náklady nebo zpoždění jsou zřejmé už lidem, kteří danou práci vykonávají.

Globální společnost provozující síť expertů, se kterou jsme spolupracovali, byla přesně takovým případem: její tým přiřazoval požadavky na průzkumy k expertům ve třech systémech, které spolu nekomunikovaly, a u každé shody ručně kontroloval profily, předchozí účast i dodržování pravidel. Vytvořili jsme agenta, který spojil sémantické vyhledávání s údaji o předchozí účasti a pravidly pro dodržování předpisů. V produkčním provozu pak počet hlášení o nesprávném přiřazení klesl o 80 %, přesnost přiřazování vzrostla o 40 % a tým získal zpět 22 % své kapacity.

Projekt uspěl, protože problém byl konkrétní: informace byly roztříštěné, jejich propojování probíhalo ručně a kvalitu přiřazování bylo možné změřit před zavedením řešení i po něm. Konkrétní vymezení také pomáhá určit, zda daný proces vůbec potřebuje agenta. Práci řízenou pevnými pravidly obvykle zvládne levněji tradiční automatizace. Pro práci, která spočívá převážně ve vyhledávání a shrnování informací, se často dobře hodí asistent s umělou inteligencí. Vyšší náklady a rizika spojená s agenty se vyplatí tehdy, když práce vyžaduje porozumět kontextu, vybírat z povolených úkonů a propojovat několik kroků vedoucích k výsledku.

Osm týdnů pilotního provozu s jasnými rozhodovacími body

Celý pilotní projekt se točí kolem jediné obchodní otázky: dokáže tento agent zlepšit proces natolik, aby se vyplatilo provozovat ho ve velkém měřítku? Osm týdnů poskytuje dostatek času na ověření obchodního přínosu, technologie i schopnosti organizace řídit to, co vytvoří.

1.–2. týden: Určete, co je potřeba zlepšit

Začněte tím, že zdokumentujete současný průběh procesu: jeho objem, dobu dokončení, chybovost, opakované zpracování i náklady. Poznamenejte si, které systémy se do něj zapojují, kdo odpovídá za jednotlivé fáze a které výjimky vyžadují zásah člověka. Poté se ujistěte, že se vlastník procesu i technický tým shodují na jediném výsledku, který má agent zlepšit. Rozhodovací bod: pokračujte, až bude jasně vymezen problém, výchozí stav, odpovědná osoba i ukazatele úspěchu.

3. týden: Vymezte hranice agenta

V této fázi se stanovují limity agenta, včetně jeho identity, oprávnění, přístupu k datům, schválených nástrojů a míry autonomie. Otestujte ho proti útokům založeným na podvržených pokynech, neoprávněnému přístupu, odhalení citlivých dat a nesprávnému použití nástrojů. Zaveďte také zaznamenávání událostí a postupy pro řešení incidentů a stanovte, jak agenta pozastavit nebo mu odebrat přístup. Rozhodovací bod: pokračujte, až budou kontroly i postupy pro zásah skutečně otestovány a všichni budou vědět, co agent smí dělat.

4.–6. týden: Otestujte podmínky, které mohou narušit fungování v ukázce

Nyní agenta vystavte realistickým úkolům, včetně neúplných záznamů, protichůdných informací, neobvyklých požadavků a občasných výpadků systému. Sledujte, kolik úkolů dokončí, jak přesný je a kolik práce mají lidé s opravami. Poté vypočítejte skutečné náklady na úspěšně dokončený úkol, a to včetně používání modelu, integrací, monitorování a kontroly. Rozhodovací bod: přejděte k testování v živém provozu, jakmile agent dosáhne dohodnutých prahových hodnot a tým rozumí jak jeho provozním nákladům, tak způsobům, jakými selhává.

7.–8. týden: Zapojte skutečné uživatele

Zpřístupněte agenta malé skupině zaměstnanců a svěřte mu omezenou část skutečné práce; u všeho, co nezvládne, ponechte dosavadní postup. Sledujte, zda ho lidé skutečně používají, zda jim šetří práci a zda důvěřují jeho výstupům.

Na konci porovnejte výsledky s výchozím stavem z prvního týdne a zhodnoťte produktivitu, přesnost, míru využívání, četnost zásahů lidí, celkové provozní náklady i případná dosud nevyřešená bezpečnostní rizika. Poté rozhodněte, zda řešení rozšířit, odstranit konkrétní nedostatky a znovu otestovat, nebo projekt ukončit. I pilotní projekt, který ukáže, že je agent pro danou práci příliš drahý nebo nespolehlivý, splnil svůj účel: zabránil mnohem větší investici založené na pouhých odhadech.

Měřte výsledky a pak rozhodněte, kolik autonomie agentovi svěříte

Počet úkolů, které agent zpracuje, toho příliš neříká. Systém totiž může vyřídit tisíce požadavků, a přesto po zaměstnancích vyžadovat, aby většinu z nich ověřovali, opravovali nebo dokončovali. Mnohem lepší představu o tom, zda se proces zlepšil od začátku do konce, poskytne cena za úspěšně dokončený úkol posuzovaná společně s přesností a mírou výjimek.

Stejné ukazatele mohou posloužit jako podklad pro svěření větší volnosti agentovi. Agent, který spolehlivě vyřizuje rutinní požadavky v dohodnutých mezích, může dostat důvěru, aby je řešil samostatně. Pokud však opakovaně narazí na nejednoznačné případy, musí jejich posouzení i nadále schvalovat člověk a oprávnění je třeba průběžně přehodnocovat podle toho, jak přibývají důkazy.

Rozšiřujte nasazení, až bude firma schopna agenta podporovat

Agent, který dobře funguje v jednom týmu, bude dříve či později muset spolupracovat s dalšími odděleními, aplikacemi a schvalovacími procesy. Jeho nasazení ve větším měřítku vyžaduje jasně určenou odpovědnost, jednotná pravidla řízení přístupu a způsob řešení výjimek, stejně jako rozpočet na průběžnou aktualizaci agenta, když se mění procesy, kolem nichž funguje.

Základní otázkou je, kolik odpovědnosti je organizace připravena předat dál. Rozhodnutí musí vycházet z důkazů získaných při skutečné práci, nikoli z povedené ukázky. Vedení by mělo po osmi týdnech vědět, co agent zvládne, kdy musí zasáhnout lidé a kolik bude jeho provoz stát. Podniky, které v oblasti agentické umělé inteligence získají náskok, budou ty, které od prvního týdne navrhují práci s ohledem na to, co přijde po automatizaci, a financují agenty podle úkolů, které skutečně dokončí.