Proč samotná kvalitnější data agentům AI nestačí

Jednou z nejčastějších rad pro využití AI ve firmách bylo po léta nejprve dát do pořádku data. Logika je jednoduchá: má-li systém přijímat užitečná rozhodnutí, potřebuje pracovat s přesnými a dostupnými informacemi.

Toto tvrzení platí i dnes, ale přestává být úplné, protože agenti AI přecházejí od odpovídání na otázky a vytváření obsahu k tomu, že jednají jménem zaměstnanců a organizací. Data mohou agentovi sdělit, co je pravda o zákazníkovi, transakci, pojistné události nebo požadavku, ale nemusí mu říct, co má následovat – ani jaké důsledky bude mít provedení určité akce. Na tomto rozdílu záleží ve chvíli, kdy agent už jen neposkytuje odpověď, ale schvaluje žádost, aktualizuje záznam, kontaktuje zákazníka nebo posouvá případ dál.

Od zaměstnanců firem se očekává, že se naučí pracovat v rámci struktury zahrnující schvalovací procesy, obchodní pravidla, závislosti, výjimky a cesty eskalace – agenti potřebují způsob, jak postupovat stejně. Vzhledem k tomu, že Gartner předpovídá, že do konce roku 2026 bude 40 % podnikových aplikací obsahovat agenty AI určené pro konkrétní úkoly, oproti méně než 5 % v roce 2025, bude stále obtížnější přehlížet mezery ve znalostech agentů. 

Gartner také předpovídá, že do roku 2028 bude 80 % hmatatelné návratnosti investic z agentní AI pocházet od specializovaných agentů zaměřených na konkrétní domény. Specializace je důležitá, řeší však jen část problému. Znalost určité domény agentovi automaticky neřekne, kde jeho odpovědnost začíná a končí, jak jeho úkol zapadá do širšího procesu ani kdo má převzít práci, když něco přesáhne jeho působnost. Aby se agenti mohli stát spolehlivými účastníky firemních procesů, potřebují znát jak kontext pracovního postupu, tak obchodní data.

Kvalitní data agentovi neřeknou, co bude dál

Představme si žádost o úvěr, u níž může mít agent přístup k finanční historii žadatele, informacím o zaměstnání a dalším relevantním záznamům. Tyto informace mu mohou pomoci žádosti porozumět, neřeknou mu však, jak s ní organizace nakládá.

Které kontroly je třeba provést jako první? Co se změní, když žadatel splní jednu podmínku, ale jinou ne? Jaké informace jsou povinné, než může případ pokračovat? Která rozhodnutí lze učinit automaticky a která musí posoudit úvěrový specialista?

Firemní procesy jsou plné podobných podmíněných větví. Proces může po splnění určitých kritérií automaticky pokračovat, pozastavit se, dokud se neshromáždí další informace, nebo se při výskytu výjimky vydat zcela jinou cestou. Vhodný další krok závisí nejen na dostupných informacích, ale také na tom, v jaké fázi se práce právě nachází a co už se stalo.

Tím se mění, co znamená spolehlivost u firemního agenta. Správná odpověď nestačí, pokud je další krok chybný. Agent může správně vyhodnotit informace, které má k dispozici, a přesto přesunout případ do nesprávné fáze, vynechat povinné schválení nebo jednat dříve, než je dokončena potřebná závislá činnost.

McKinsey nedávno zveřejnila poznatky ze spolupráce se společností z oboru zdravotnických technologií, která zjistila, že platforma AI, kterou používala, nedokáže podporovat několik jejích klíčových pravidel pracovních postupů. Společnost místo odložení termínu spuštění, které by jí umožnilo tyto nedostatky vyřešit, pokračovala podle plánu a nakonec nevyužila odhadem 30 % zamýšlené hodnoty AI. Tento příklad ukazuje, že firmy musí zohlednit proces, v jehož rámci se úkol provádí, nejen informace potřebné k jeho dokončení. 

Přizpůsobte ochranná opatření rozhodnutím, která agent může činit

Jakmile agenti získají schopnost jednat, je třeba přesněji nastavit i pravidla jejich řízení. Agent, který vyhledává dokument se zásadami, nepředstavuje stejné riziko jako agent, který mění zákaznický účet, schvaluje platbu nebo zahajuje transakci. Organizace však snadno sklouznou k jednomu ze dvou extrémů: buď agentům dovolí jednat příliš volně, nebo budou vyžadovat lidské schválení téměř všeho.

Opatření pro kontrolu agentů by měla odpovídat rozhodnutím, která mohou činit, i možným důsledkům. Nízkorizikový opakující se úkon může být vhodné provádět samostatně. U jiného úkonu může být vyžadováno schválení, pokud překročí určitou hodnotu. Neobvyklý případ může být nutné okamžitě předat zaměstnanci.

Lidský dohled je nejpřínosnější, když má jasný účel. Pokud musí člověk schvalovat každý běžný krok, velká část přínosu zavedení agenta se vytrácí. Odstranění kontrolních bodů u rozhodnutí, která skutečně vyžadují úsudek nebo odpovědnost, však vytváří jiný problém.

IBM Research se zasazoval o explicitní pravidla týkající se akcí, které mohou agenti provádět, a bodů, ve kterých je vyžadován lidský dohled. Tyto kontroly musí také zohledňovat proces, kterého se agent účastní. Autorita agenta nemusí nutně zůstat stejná od začátku až do konce případu. To, co může bezpečně dělat, může záviset na fázi procesu, na již ověřených informacích, na dříve přijatých rozhodnutích a na důsledcích další akce.

To znamená, že organizace musí začlenit pravidla řízení přímo do pracovních postupů. Místo toho, aby agentovi přidělily široký soubor oprávnění a spoléhaly na něj za všech okolností, mohou určit, kde smí jednat samostatně, kde musí být splněny další podmínky a kde je třeba předat odpovědnost člověku. Otázkou pak není ani tak to, zda je agent autonomní, ale spíše to, v jaké části procesu má autonomie smysl.

Agenti musí fungovat v rámci již zavedeného podnikání

Kontext procesu je ještě důležitější, když agent musí spolupracovat se zbytkem podniku. Organizace nezačínají od nuly. Jednotlivý požadavek zákazníka už může procházet systémem CRM, úložištěm dokumentů, platformou pro správu případů a systémem ERP a mohou se na něm podílet zaměstnanci z několika oddělení.

Nasazení agenta do jedné části takového prostředí samo o sobě nezefektivní celý proces. Agent může svůj dílčí úkol dokončit dokonale, ale pokud pak zaměstnanec musí jeho výstup zkopírovat do jiné aplikace, zjistit, kdo ho potřebuje jako další, nebo proces jinde ručně znovu spustit, úzké místo se jen přesunulo.

Proto by podniky měly uvažovat o agentech jako o účastnících širšího procesu, nikoli jako o izolovaných nástrojích. Co agenta spouští? Jaké informace dostává? Za co odpovídá? Kam práce pokračuje, jakmile ji dokončí? A co se stane, když svůj úkol nedokáže dokončit?

Tyto otázky jsou ještě důležitější, když organizace zavádějí více specializovaných agentů. Deloitte označila orchestraci za klíčový požadavek pro podniky, které přecházejí k víceagentním systémům, v nichž mohou různí agenti zastávat odlišné role a koordinovat práci. Orchestrace v podniku musí zahrnovat i způsob, jakým spolu agenti komunikují a koordinují svou činnost, nejen to, jak fungují jednotlivě. Bez tohoto dohledu hrozí, že agenti budou jednat na základě neúplného kontextu, spouštět protichůdné kroky nebo obcházet zavedená podniková pravidla a schvalovací postupy. Agenti stále fungují uvnitř organizací, které jsou plné stávajících aplikací, zaměstnanců, podnikových pravidel a procesů, jež mohou trvat dny, týdny nebo měsíce.

Začněte procesem, který je třeba dokončit, a určete, jakou roli v něm mají agenti, lidé a stávající systémy. Agent může samostatně zvládnout jeden krok, jiný agent může provést specializovanou kontrolu, zaměstnanec může učinit rozhodnutí vyžadující úsudek a stávající systém může provést závěrečnou transakci. Podstatné je, aby práce mohla přecházet mezi jednotlivými účastníky, aniž by se cestou ztratil kontext.

Autonomie vyžaduje strukturu

Poskytnout agentům více struktury neznamená, že je třeba každou jejich činnost omezovat další vrstvou pravidel. Ve skutečnosti to může být právě naopak. Díky jasně vymezeným procesům mohou organizace s větší jistotou určit, kde agenti mohou jednat samostatně, protože hranice, výjimky i situace vyžadující eskalaci jsou předem stanoveny. Agent nepotřebuje neomezenou volnost, aby přinášel skutečný přínos. Potřebuje dostatečnou odpovědnost, aby posouval práci kupředu, dostatek kontextu, aby věděl, co následuje, a jasné povědomí o tom, kdy má odpovědnost převzít někdo jiný.

Kvalitnější data budou agentům i nadále rozšiřovat schopnosti. Samotné schopnosti však nestačí k tomu, aby byl agent užitečný v podniku. Skutečnou zkouškou je, zda dokáže ve správný okamžik procesu podniknout správný krok a přitom dodržet hranice stanovené podnikem.