Podniková AI potřebuje kumulativní kontext, než jí lze svěřit autonomii

Představte si pondělní ráno, několik hodin před schůzkou k čtvrtletní prognóze. Vedoucí pracovník financí se zeptá agenta AI: „Proč klesla hrubá marže? Které předpoklady je třeba změnit? A co by měla firma udělat dál?“ Během několika sekund agent získá informace z více systémů, určí několik hlavních příčin a doporučí omezit diskreční výdaje nebo znovu posoudit plán náboru. Jeho odpověď je jasná, podrobná a věrohodná. Na první pohled na ní není nic zjevně špatně.

Právě proto je to tak nebezpečné. 

Při bližším pohledu se ukáže několik opomenutých detailů. Agent použil nesprávnou verzi prognózy. Přehlédl schválenou účetní úpravu z předchozího čtvrtletí. Nezohlednil, že v jednom regionu platí jiná obchodní pravidla. Žádná z podkladových dat přitom nemusela být chybná; agent jednoduše nevěděl, jak organizace tato data interpretuje ani jak spolu jednotlivé části souvisejí. Problém nespočívá v modelu způsobem, který by se dal snadno vyřešit použitím jiného modelu. Jde o to, že model tuto firmu nezná. 

Velká část vývoje podnikové AI se soustředila na schopnosti modelů a autonomii agentů. Model však nemůže dospět ke spolehlivému závěru specifickému pro danou firmu, pokud nerozumí tomu, jak organizace definuje svá čísla a jak je propojuje s fungováním podniku. 

Chybějící vrstvou je kumulativní obchodní kontext neboli spravované porozumění tomu, co podniková data znamenají: jejich definicím, vztahům, předpokladům, výpočtům, pracovním postupům, výjimkám a rozhodnutím, která se kolem nich postupně utvářejí.

Tento kontext se utváří při plánování, prognózování, modelování scénářů, analýze odchylek, opravách, zpětné vazbě, závěrečných účetních činnostech a schvalování rozhodnutí. Bez něj hrozí, že organizace svěří AI větší odpovědnost, aniž jí poskytnou dostatečné porozumění podnikání, aby ji mohla spolehlivě nést. 

Schopnosti AI rostou rychleji než připravenost podniků

Podle zprávy Stanford’s 2026 AI Index 88 % dotázaných organizací používalo v roce 2025 AI, avšak nasazení agentů zůstalo téměř ve všech podnikových funkcích na jednociferných hodnotách. 

Tyto statistiky ukazují, že podniky mají k dispozici schopnosti AI, ale mnohé z nich nejsou připraveny svěřit jí práci se závažnými důsledky. Vedoucí pracovníci vědí, že musí začít využívat AI, stále však potřebují určit, zda postupují na správné úrovni problému.

Model dokáže číst data, aniž rozumí podnikání

Základní modely jsou účinné při rozpoznávání vzorců, syntéze informací, komunikaci v přirozeném jazyce a zkoumání rozsáhlých datových souborů. Přestože jde o významný pokrok, samotný model přestává být tím, co jednotlivé systémy nejvíce odlišuje. 

Náročnějším úkolem pro podniky je naučit AI, co informace firmy znamenají, a hlavně jak se používají při rozhodování a analýze.

Diskuse o správě AI se z velké části zaměřovala na čistá data. Jejich vyčištění je sice nezbytným krokem, pro širší zavádění AI v podniku však nestačí. I dva čisté datové soubory mohou používat odlišné definice, období a obchodní pravidla. 

Studie CEO Study společnosti IBM z roku 2025 zjistila, že 25 % iniciativ v oblasti AI dosáhlo očekávané návratnosti investic a pouze 16 % se rozšířilo v rámci celého podniku. Tento vzorec odpovídá širší výzvě při zavádění: přístup k modelům a datům nezaručuje, že systém AI dokáže sladit organizační pravidla určující, jak se mají informace používat.

Výkonnější modely lze snadno pořídit. Porozumění specifickému pro danou firmu je však třeba vybudovat. 

Kontext získaný při vyhledávání není kumulativní kontext

Velká část toho, co se v souvislosti s podnikovou AI označuje jako kontext, se systému stále dodává prostřednictvím vyhledávání až v okamžiku zadání požadavku. Systém najde relevantní dokument, záznam nebo datový bod, použije jej k vytvoření odpovědi a při příštím dotazu začíná znovu. 

Vyhledávání je užitečné, ale samo o sobě nevytváří kumulativní organizační paměť. Z předchozích interakcí si toho přenáší jen málo, takže AI může při každé nové interakci přistupovat k firmě jako cizinec.

Je to podobné, jako kdybyste každé ráno zaučovali nového, mimořádně schopného analytika. Rozumí financím a ví, jak zkoumat datový soubor, stále se však musí naučit, jak tato konkrétní firma definuje své ukazatele, která prognóza je závazná, proč byla schválena výjimka a které předpoklady se opakovaně ukazují jako chybné.

Kumulativní kontext slouží jinému účelu. Místo aby se s každým zadáním nebo plánovacím cyklem resetoval, postupně se rozšiřuje. Každé šetření, scénář, oprava, schválení i rozhodnutí mohou přispět ke spravovanému porozumění tomu, jak organizace funguje. Díky tomu mohou pozdější cykly navazovat na to, co zjistily cykly předchozí, místo aby při každém zadání znovu objevovaly stejné vztahy, logiku a způsoby práce. 

To neznamená uchovávat všechno donekonečna. Užitečný podnikový kontext musí být záměrně vymezený, opravitelný, zohledňovat oprávnění a být dohledatelný až ke svému zdroji. Organizace musí uchovávat to podstatné a zároveň zajistit, aby bylo možné v průběhu času rozpoznat zastaralé předpoklady, dočasné výjimky a nesprávné interpretace a následně je změnit.

Důvěra se opírá o víc než jen o model

Model je nejviditelnější součástí systému umělé inteligence, ale jen zřídka rozhoduje o tom, zda může podnik důvěřovat výsledku. 

Schopný model může prošetřit odchylku, prozkoumat možná vysvětlení a doporučit postup. Zda se podnik může na toto doporučení spolehnout, závisí na architektuře, která model obklopuje. 

Gartner zjistil, že organizace, které uvádějí úspěšné iniciativy v oblasti umělé inteligence, investují až čtyřikrát více procent svých příjmů do základních oblastí, jako jsou kvalita dat, správa a řízení, pracovníci připravení na umělou inteligenci a řízení změn, než organizace, u nichž jsou výsledky neuspokojivé.

Vrstva řízeného kontextu je součástí těchto základů a nachází se mezi zdrojovými systémy, modely a podnikovými kroky. 

Právě zde se musí oddělit inteligentní úsudek od předvídatelného provádění. Umělá inteligence může zkoumat, připravovat návrhy a doporučovat. Jakmile je nějaký krok posouzen a schválen, jeho provedení by mělo podléhat řízeným výpočtům, kontrolám oprávnění, kontrolám zpětného zápisu a auditním záznamům. Flexibilita, díky níž je model užitečný při zkoumání možností, není vždy vhodná pro provádění změn v podniku.

Model může doporučit, co by se mělo stát. O tom, co se smí stát, rozhoduje okolní architektura včetně lidského schválení a systémových kontrol.

Omezení, díky nimž jsou agenti užiteční

Nasazování agentů postupuje rychleji než zavádění souvisejících kontrol. KPMG zjistila, že podíl organizací, které nasazují alespoň některé agenty umělé inteligence, vzrostl z 11 % v prvním čtvrtletí roku 2025 na 42 % ve třetím čtvrtletí. Gartner však uvedl, že jen 13 % organizací rozhodně souhlasilo s tím, že mají zavedeny odpovídající struktury pro správu agentů.

Na tomto rozdílu záleží, protože schopnosti a oprávnění jsou dvě samostatná konstrukční rozhodnutí. Systém může být technicky schopen přistupovat k databázi, upravovat prognózu nebo spouštět pracovní postup. To ale neznamená, že by měl mít povolení dělat tyto věci samostatně. 

Před svěřením důležitých úkolů agentům by organizace měly uplatnit tři omezení.

• Sjednoťte význam pojmů

Než bude agent schopen o nich uvažovat jednotně, je nutné sjednotit definice, metriky, hierarchie, fiskální kalendáře a pravidla výpočtů. 

Nelze očekávat, že umělá inteligence potichu vyřeší neshody, kterými se organizace sama nezabývala. Bez společného chápání může považovat protichůdné definice za zaměnitelné a vytvořit odpověď, která je sice logická, ale z provozního hlediska nesprávná.

• Rozhodněte, co se bude předávat dál

Organizace musí určit, které opravy, schválení, rozhodnutí a výsledky se stanou znovu použitelným kontextem. Potřebují také pravidla pro uchovávání, přístup a opravy. 

Užitečná paměť se vybírá a spravuje, nehromadí se bez rozmyslu. Jinak může zastaralý předpoklad nebo jednorázová výjimka nenápadně změnit budoucí doporučení.

• Oddělte doporučení od provedení

Analýza, doporučení, navrhovaná změna, provedení schválené člověkem a omezené autonomní provedení představují různé úrovně oprávnění. Agenti by měli mít identity a oprávnění odpovídající každé z těchto úrovní.

Hodnocení musí zahrnovat také celý řetězec činností: jaké informace byly načteny, jaký kontext byl použit, které nástroje byly zavolány, co se změnilo a zda lze tuto změnu vrátit. 

Testování pouze konečné odpovědi přehlédne většinu způsobů, jakými může agentní pracovní postup selhat.

Schopnosti popisují, co agent dokáže, zatímco pravidla správy a řízení určují, co smí dělat.

Autonomie vyžaduje víc než schopnosti

V úvodním scénáři týkajícím se marže je rychlost užitečná jen tehdy, pokud systém zároveň ví, která prognóza je závazná, která výjimka byla schválena, jaký krok smí podniknout a kdo za něj nadále odpovídá. 

Domnívám se, že si umělá inteligence v podnicích získá důvěru pouze tehdy, když bude uchovávat správný kontext a dokáže vysvětlit, jak dospěla k důležitému výsledku. 

Organizace by měly vybudovat tuto vrstvu kontextu a kontrol dříve, než rozšíří autonomii agentů. Práce se změní, odpovědnost nikoli.