Myslitelé

Než začnete škálovat AI agenty, zjistěte, co nevědí

Dror Nadler
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodySebevědomé odpovědi selhávají, když agenti vynechají kontext, jako jsou zastaralá data…
Zobrazit více
  • Sebevědomé odpovědi selhávají, když agenti vynechají kontext, jako jsou zastaralá data podání nebo rozdíly ve fiskálním kalendáři.
  • Téměř 6 z 10 podniků vysledovalo sebevědomou, ale nesprávnou odpověď AI k chybějícímu nebo neúplnému obchodnímu kontextu.
  • Lidská kontrola se musí škálovat podle závažnosti, protože správná data sdílená nesprávně mohou stále porušovat předpisy.

Představte si následující situaci: finanční ředitel se chystá na schůzku s významným institucionálním investorem. Tým pro vztahy s investory (IR) požádá nástroj AI, aby mu při přípravě vyhledal základní informace – datum poslední schůzky s danou společností, vyjádřené priority, počet držených akcií a podobně.

Nástroj sebejistě uvede, že investor vlastní 2,5 milionu akcií. Nikdo nic nenamítá a finanční ředitel pokračuje v přípravě na tento důležitý rozhovor, aniž by polevil v tempu.

Má to ale háček: AI převzala tento údaj z podání formuláře 13F, které uvádí držené podíly ke konci předchozího čtvrtletí. Informace byla v době zveřejnění správná… teď už je ale několik měsíců stará. Mezitím investor potichu prodal 2 miliony akcií, a výrazně tak snížil svůj podíl. Program schůzky (a možná i samotná schůzka!) už se nezdá být relevantní.

Co se pokazilo? V tomto případě si AI nic nevymyslela ani nevygenerovala neexistující číslo. Našla legitimní informaci, ale nezasadila ji do kontextu ani nevysvětlila její omezení.

V tomto případě mohou být důsledkem nepříjemný rozhovor nebo promarněná příležitost. V jiných situacích však může podobně jednoznačná odpověď, které chybí zásadní kontext, přinášet ještě větší rizika.

Lepší modely nemusí být řešením

Základní modely se neustále zlepšují. Proč se tedy zdá, že přibývá sebejistých, ale chybných odpovědí – problému, se kterým se potýkají firmy napříč odvětvími?

Především se generativní AI (GenAI) stala naprosto všudypřítomnou. Podle zprávy společnosti McKinsey Stav AI v roce 2026 téměř 9 z 10 odborníků z oblasti podnikání uvádí, že jejich organizace pravidelně využívají AI alespoň v jedné podnikové oblasti.

A jak organizace překonávají fázi experimentování a stále více se spoléhají na AI při každodenních pracovních úkolech a rozhodování, narážejí také na omezení toho, co tyto nástroje vědí a čemu rozumějí.

Nedávný průzkum v oboru ukazuje, co bývá často příčinou: jen za posledních šest měsíců téměř 6 z 10 firem (57 %) zjistilo, že za sebejistou, ale chybnou odpovědí agenta AI chyběl nebo byl neúplný kontext o firmě.

Vzhledem k množství dat dostupných AI to může být překvapivé. Je ale důležité rozlišovat: Kontext není totéž co data.

Co je kontext – a co jím není

Kontext může zahrnovat institucionální znalosti, výjimky z pravidel, vztahy, procesy i očekávání ohledně toho, jak se práce vykonává – tedy nuance, které jsou často pro každou firmu jedinečné.

Při spolupráci s týmy pro vztahy s investory vidím, jak důležité tyto rozdíly mohou být. Podívejme se na několik příkladů, které se na první pohled zdají být jednoduché:

  • Účetní kalendáře: První čtvrtletí jedné společnosti se může shodovat s kalendářním rokem, zatímco jiné začíná v září. Bez tohoto kontextu by agent AI mohl porovnávat výsledky za nesprávná vykazovaná období.
  • Finanční ukazatele: Organizace může vykazovat zisk na akcii podle metodiky GAAP i mimo ni. Agent, který nerozumí tomu, který údaj má uvést (a kdy), by mohl nesprávně prezentovat výkonnost firmy.
  • Příběh firmy: Způsob, jakým firma komunikuje, se postupem času vyvíjí a odráží záměrná rozhodnutí o tom, co zdůraznit a co vynechat. Pokud agent AI nezná souvislosti a důvody, mohl by vytvářet obsah, který pečlivě budovaný příběh firmy ve skutečnosti podrývá.

Není tedy divu, že tentýž základní model může v různých firmách poskytovat velmi odlišné výsledky podle toho, jaký kontext a specializované znalosti má k dispozici.

Účelově navržená AI zaměřená na konkrétní odvětví (takzvaná vertikální AI) může pomoci některé z těchto mezer překlenout, protože zohledňuje specializované znalosti, pracovní postupy a specifika daného odvětví. Ani nejvyspělejší technologie však nedokáže zachytit vše, co organizace ví, a proto mají svou roli i lidé.

Co AI neví o vaší firmě

Lidé tu ale nezůstávají navždy. Představte si, co se stane, když po pěti letech odejde ze společnosti zkušený pracovník pro vztahy s investory (IRO). Pravděpodobně se věnoval vyhledávání a oslovování potenciálních investorů, analýze aktivit akcionářů, budování vztahů, přípravě na zveřejňování hospodářských výsledků, přípravě vedoucích pracovníků… a mnoha dalším činnostem.

Společnosti zůstanou scénáře prezentací hospodářských výsledků, prezentace i další soubory. Ale institucionální znalosti, které za nimi stojí? I ty z velké části odejdou spolu s daným člověkem – zvlášť když uvážíme, že téměř osm z deseti pracovníků pro vztahy s investory (78 %) nemá určeného nástupce.

Organizace proto musí vynaložit úsilí na uchování znalostí a porozumění tak, aby je systémy AI dokázaly využívat. Pouhé připojení agenta AI ke sdílenému disku často nestačí.

Pro firmy napříč odvětvími je důležité mít možnost systematicky zaznamenávat klíčové znalosti a pracovní postupy — například důvody zásadních rozhodnutí, historii vztahů a další informace nezbytné pro plnění poslání, které se nikdy nedostaly do formálního dokumentu.

Vytvoření takové znalostní báze se neobejde bez lidí: jak při zaznamenávání informací, tak při jejich posuzování. Umělá inteligence může pomoci znalosti uspořádat, ale klíčový kontext, který technologiím často uniká, dodávají zaměstnanci.

V prostředích, kde jde o hodně, mohou mezery v kontextu napáchat skutečné škody

Už jsme probírali, co se stane, když AI odpoví nesprávně. Někdy ale může agent AI najít správnou informaci — přesnou, aktuální a relevantní — a přesto způsobit problémy tím, že ji sdílí za nevhodných okolností.

Ve vysoce regulovaných odvětvích jsou takové chyby obzvlášť nákladné.

Například v oblasti vztahů s investory může sdílení neveřejných významných informací (MNPI), například dosud nezveřejněných finančních výsledků, s analytikem nebo investorem porušovat nařízení americké Komise pro cenné papíry (SEC) Regulation Fair Disclosure (Reg FD) — a potenciálně vést k finančním sankcím i poškození pověsti.

Podobným regulatorním rizikům čelí i další odvětví, například zdravotnictví, finanční služby a právní služby. To zdůrazňuje potřebu ochranných mechanismů, když mají agenti AI přístup k citlivým informacím.

I to ukazuje, proč jsou lidé stále nezastupitelní — jsou nezbytnou součástí kontroly a schvalování sdělovaných informací. Firmy mohou zvážit, zda míru lidské kontroly nepřizpůsobit závažnosti situace a nenechat různé typy pracovních postupů s AI fungovat s různou mírou autonomie.

Tři otázky, které si položit před rozšířením nasazení agentů AI

Všichni jsme se nejspíš v práci i v běžném životě někdy ocitli v situaci, kdy jsme nevěděli, co nevíme. Někdy to nemá vážné důsledky, jindy mohou být závažnější.

Dnešní AI má k dispozici obrovské datové soubory, a tak toho ví mnohem víc… stále ale musí „ozvat“, když narazí na mezery. Když tedy firmy využívají AI k řešení stále důležitějších strategických priorit a pracovních postupů, je před rozšířením jejího nasazení důležité položit si tyto otázky:

  • Dokáže náš agent ukázat, odkud jeho odpovědi pocházejí — a kdy byly tyto informace naposledy aktualizovány? Dokáže tyto informace poskytnout, aniž bychom ho o ně museli požádat?
  • Má agent potřebný obchodní kontext, aby mohl požadavky správně interpretovat a reagovat na ně? Uvede, jaká má omezení?
  • Víme, kdy musí zasáhnout člověk a provést kontrolu a schválení? Za jakých okolností k tomu dojde a jak bude kontrola vyvolána?

Řešením není vyhýbat se AI

Chci to říct jasně: AI věřím a jsem přesvědčený o jejím potenciálu. Ve své práci ji používám každý den, vidím její současné i budoucí přínosy a myslím si, že jsme v mnoha ohledech teprve na začátku objevování toho, co AI dokáže. Nepochybuji o tom, že firmám, které se AI vyhýbají, i těm, které ji nedokážou zavést organizovaně a efektivně, skutečně hrozí, že zaostanou.

Přijetí AI ale neznamená dát univerzálnímu modelu přístup k podnikovým datům a nechat ho jednat bez jakýchkoli pravidel.

V tuto chvíli a podle mého nejlepšího vědomí není plně autonomní AI vhodná pro každý podnikový úkol nebo rozhodnutí. Organizace musí vědět, kde může AI fungovat samostatně, kde potřebuje další kontext a kde je lidský úsudek nezbytný.

Než se tedy zeptáte, co agent AI ví, zeptejte se, co neví. Odpovědi ovlivní, jak ho nasadíte, čím ho pověříte a jak mu připravíte podmínky k úspěchu.

Dror Nadler zastává funkci produktového ředitele ve společnosti Q4 Inc., kde vede produktovou strategii a inovace a pomáhá týmům pro vztahy s investory efektivněji využívat AI, data a technologie. Má více než 25 let zkušeností s podnikovými technologiemi, SaaS a finančními službami a v minulosti zastával vedoucí pozice ve společnostech Intralinks, Cellrox, Rapid7 a EMC. Během své kariéry se Dror zaměřuje na vývoj a rozšiřování technologických produktů, podporu inovací a urychlování růstu podnikání. Získal titul Executive MBA na Boston University, magisterský titul v oboru informačních technologií na Harvard University a právnický titul na Reichman University.