Proč agenti AI v podniku narazí na problém s znalostmi, ne s technologií

Minulý rok společnost S&P Global (SPGI ) hlásila, že podíl společností, které opouštějí většinu svých iniciativ AI, se více než zdvojnásobil, z 17 % na 42 %. Předtím společnost Gartner publikovala prognózu agentic AI projektů: 40 % z nich bude ukončeno do konce roku 2027.

Podle společnosti McKinsey & Company téměř polovina všech společností experimentuje s agenty AI. Ale kolik z nich se dostalo beyond pilotní fáze a skutečně funguje? Asi jeden z deseti.

Průmysl nemá nedostatek vysvětlení: halucinace modelů, nedostatek řízení, vysoké náklady na GPU a nedostatek specialistů. Všechny tyto jsou skutečné výzvy. Ale po třech letech práce se systémy znalostního managementu a agenty AI vidím stále častěji jiný vzorec: společnosti předávají svým agentům neúplné údaje.

Jako doktor pedagogických věd považuji tento problém za problém přenosu znalostí. Pokud člověk nemůže vysvětlit, jak dělá rozhodnutí, jeho logika nemůže být přenesena na nového zaměstnance – natož na agenta AI. Pojďme prozkoumat, proč se to děje a co lze proti tomu dělat.

Kde se nachází znalost o tom, jak společnost skutečně funguje

Zeptejte se velké společnosti, kde je uložena znalost zaměstnanců, a uslyšíte dlouhý seznam: Confluence, SharePoint, LMS platformy, FAQ boty, Slack archivy. Může se zdát, že tento stack může RAG systém použít k získání všeho, co potřebuje. Ale jeden zásadní prvek chybí – znalost, která žije v hlavách lidí. Znaloost, kterou nikdo nikdy nezapsal.

Proč je to problém?

Protože pro agenta AI, aby převzal část pracovního postupu – pochopil kontext, zvolil akci a dokončil úkol – potřebuje nejen přístup k znalostní bázi, ale také logiku rozhodování, kterou používá zkušený specialista.

Představte si nového podpůrného agenta, který obdrží žádost: zákazník tvrdí, že zaplatil za službu, ale přístup nebyl aktivován. Scénář zahrnuje standardní sadu kroků, která končí žádostí zákazníka, aby čekal. Ale agent si všimne, že situace je neobvyklá: zákazník již kontaktoval podporu dvakrát a v systému je několik podobných případů za poslední hodinu. Agent se obrátí na zkušenějšího kolegu, který vysvětluje, že již viděl podobné případy a že problém je pravděpodobně selháním na rozhraní platební brány, banky a interního aktivačního systému – takže případ by měl být eskalován do jiného oddělení.

Pro agenta AI je tato logika neviditelná. Může mít přístup ke scénáři, historii lístku a stavu platby, pokud jsou tyto zdroje dat připojeny, ale neví, které signály zkušený operátor považuje za rozhodující. Není to tak, že odborníci záměrně zatajují tuto znalost. Jednoduše ji nemohou formalizovat nebo rozložit na kroky: které možnosti byly vyloučeny, proč byla zvolena určitá akce a v jakém okamžiku bylo jasné, že standardní scénář se neuplatňuje. Kognitivní vědci označují tento jev jako tacitní znalost – implicitní znalost, kterou ani její držitel nemusí být plně vědom.

To je důvod, proč se úzké místo nevytváří na úrovni přístupu k dokumentům, ale ve fázi převodu zkušeností odborníka do formátu vhodného pro výcvik agenta AI.

Co s tím dělat

Aby agent AI fungoval efektivně, nestačí jednoduše připojit LLM k firemní znalostní bázi, protože úspěšná rozhodnutí často závisí na tacitní znalosti. Musí být vytvořena znalostní vrstva, včetně strukturovaných kritérií pro rozhodování.

V znalostním managementu se tento proces nazývá externalizace – převod tacitní znalosti na explicitní znalost. Jinými slovy, společnost musí pochopit nejen to, co dělá odborník, ale také to, jak myslí. To se obvykle provádí prostřednictvím série hloubkových rozhovorů s top odborníkem. Společně s nimi by měl být někdo, kdo je schopen klást správné otázky: metodolog, znalostní inženýr nebo instrukční designér. Jejich úkolem není napsat “návody na základě toho, co říká odborník”, ale rekonstruovat kritéria pro výběr mezi možnostmi, rozložit hraniční případy a odhalit typické chyby, které odborník již automaticky řeší.

Zde může AI významně pomoci: přepisovat rozhovory, seskupovat podobné případy, převádět vysvětlení odborníka na návrh scénářů a generovat situace pro validaci. Ale konečná struktura musí být stále přezkoumána a schválena odborníkem.

Výsledkem by měl být funkční znalostní korpus. Může být použit ve dvou směrech současně – pro výcvik nových zaměstnanců a pro konfiguraci agenta AI. Obě scénáře závisí na stejné základně: strukturované zkušenosti od top specialistů.

Alternativou je pokračovat v závislosti na předpokladu, že RAG nad Confluence nějakým způsobem rekonstruuje logiku, která nebyla nikdy zdokumentována. V praxi to téměř nikdy nefunguje: systém může získat relevantní dokument, ale nenaučí se, jak dělat rozhodnutí v situacích, kde správná akce závisí na kontextu a zkušenostech.

Jak zkontrolovat, zda je agent připraven k práci

Transformoval jste znalosti odborníka do scénářů a nakonfigurovali jste agenta. Ale mezi odpověďmi agenta a skutečnou provozní výkonností je mezera – a tato mezera se stává viditelnou pouze během validace. V této fázi je důležité určit, zda jste skutečně zachytili všechny nezbytné znalosti.

Praktickým přístupem je scénářové testování. Poskytněte agentovi reálné případy z denní práce odborníka: zákazník zpochybňuje poplatky, neobvyklý e-mail přijde, nebo žádost se objeví, která se nevejde do základní scénáře. Výsledky by neměly být hodnoceny jiným LLM, ale stejným odborníkem, který pomáhal vytvořit znalostní korpus. Pokud agent zvolí jinou cestu než zkušený specialista, neznamená to vždy, že model je slabý. Častěji to znamená, že chybí kritické pravidlo, výjimka nebo příklad. V takovém případě se proces vrací na začátek: metodolog vyjasní logiku s odborníkem, znalostní korpus se aktualizuje, instrukce se upřesňují a test se opakuje.

Tento cyklus není volitelným krokem, ale fází, která definuje rozdíl mezi agentem, který pouze “demonstruje potenciál” a tím, který skutečně funguje. Je to pomalý a ne příliš působivý část procesu: nevytváří působivou demonstraci a vyžaduje zapojení odborníků. Ale ti, kteří projdou jím systematicky, skončí s agenty, které skutečně snižují rutinní pracovní zátěž specialistů. Ti, kteří ho přeskočí, často se za šest měsíců ocitnou ve statistikách Gartner, které předpovídají, že 40 % projektů bude zrušeno.

Agentic AI ne selhává kvůli technologie – moderní modely jsou již schopny provádět komplexní úkoly. Selhává, protože společnosti “krmí” ho neúplnými znalostmi. V letech 2024-2025 to mohlo být ještě vysvětleno experimentální fází. V roce 2026 již tato chyba přichází s vysokými náklady.