Váš AI agent ví všechno — a ničemu nerozumí

„Měli bychom se připojit k mým rodičům na jejich cestě do Irska“ — tato zdánlivě neškodná věta mi poslala mrazivý pocit po zádech.

Má manželka a já cestujeme hodně. Víme, co nám vyhovuje. Rodiče mé manželky ale cestují zřídka dále než několik set mil od svého domova a opustili zemi společně pouze jednou — na naši svatbu.

Abychom to ještě více zkomplikovali, tato cesta byla vánočním dárkem mého tchána pro mou tchyni, aby mohla navštívit svou rodinu, možná naposledy.

Mohl jsem vidět, jak se tato cesta bude vyvíjet jedním slovem: katastrofa. Jak bychom mohli spojit naše úplně odlišné zkušenosti a očekávání, abychom měli úžasnou cestu — nebo se alespoň na konci navzájem nenávidět nemuseli?

Jako každý milovník technologií, který si sám sebe váží, jsem se obrátil k technologiím — konkrétně k AI.

Ale co jsem neočekával, bylo, že můj malý experiment s vytvořením aplikace poháněné AI pomocí vibe codingu pro plánování rodinné cesty mě naučí téměř vše, co potřebuji vědět o aplikaci AI v podnikovém IT.

Čím více krmíte AI, tím hloupější se stává

Většina podnikových nasazení AI následuje předvídatelný vzorec. Organizace začínají tím, že dají agentovi sadu instrukcí a připojí ho k informačnímu zdroji, ať už je to RAG (Retrieval-Augmented Generation) framework, existující znalostní báze nebo dokonce MCP server. Další vrstvou je LLM a nechají ho dělat svou práci.

Problém spočívá v tom, že LLM v jádru jsou hloupé. Nevědí, jak určovat priority pro všechny informace, které mají k dispozici, takže tendují k tomu, aby s každou částí kontextu zacházely stejně. Člověk musí přidat vrstvu výběru a uspořádání informací, která model učí, co je důležité a co není. Bez tohoto výběru dostanete AI, která ví všechno a ničemu nerozumí.

Tři typy paměti, které mají význam

Účinný výběr a uspořádání informací pro podnikovou AI znamená využití tří specifických typů paměti.

První je institucionální paměť, která se na začátku může zdát docela základní. Když někdo řekne „finanční služby“, agent ví, že míní divizi Finančních služeb dané společnosti, nikoli celé odvětví. To se stává trvalou organizační znalostí plnou definic, preferencí a konvencí, které se často nemění. Jak se to rozšiřuje do institucionálních znalostí o strategických prioritách, klíčových iniciativách a organizačních dynamikách, stává se bohatým zdrojem institucionálního kontextu.

Druhým typem je historie akcí, která se zaměřuje na významná rozhodnutí, úkoly a události. Když je podána žádost o službu nebo nasazen systém, agent rozpozná tuto konkrétní akci a zaznamená ji do historie akcí. To se stává historickým záznamem, který spojuje organizační kontext.

Třetím je krátkodobý konverzační kontext. Myslete na to jako na okamžité interakce s agentem. Je to užitečné v daném okamžiku, ale obvykle rychle ztrácí relevanci.

Vzato dohromady, tyto tři typy paměti vytvářejí systém vážení, který obecné modely AI postrádají. Nyní, když někdo řekne agentovi o podniku, klasifikuje a priorizuje všechny tyto paměti a vybírá a uspořádává důležité informace. To tvoří jádro toho, co by AI měla poskytovat: ne pouze doménová data, ale doménové úsudky.

Jak vypadá vybraná a uspořádaná paměť ve velkém měřítku

Ale dost teorie, jak to vypadá v praxi? Zde je to, co jsme objevili při budování těchto agentů sami.

Jedním z běžných scénářů v IT je odeslání chybového tiketu agentovi helpdesku. Řekněme, že vám nefunguje Outlook, takže napíšete popis problému a čekáte, až agent zkontroluje a navrhne řešení.

Ale s vybranou a uspořádanou pamětí na vaší straně by lepší postup mohl zahrnovat pořízení snímku obrazovky, který ukazuje chybu Outlooku, a nahrání toho agentovi. Nyní agent (1) využívá institucionální paměť, aby pochopil vaše pracovní prostředí; (2) kontroluje historii akcí pro související incidenty; a (3) aplikuje kontextuální úsudek pro specifické řešení, ne pouze generické odpovědi.

Výsledkem je inteligentní agent, který nemusí hádat odpověď na základě snímku obrazovky. Nyní skutečně vyšetřuje, dívá se na všechny informace, které aktuálně běží, a dodává užitečnější odpověď. Agent by mohl dokonce expandovat do síťového efektu nebo efektu roje, podívat se na ostatní uživatele v systému, aby viděl, zda je problém s Outlookem pouze váš nebo podnikový problém.

Kontextualizace historie nebo paměti je rozdílovým faktorem. Pokud svou paměť efektivně nevybíráte a neuspořádáváte, budete zaostávat za těmi, kteří ano. Je nezbytné mít architekturu, která ví, jak spravovat data v čase a rozumí, co uchovat, co zobrazit a co pustit.

Zpět na cestu

Takže, jak změnil můj AI poháněný plánovač cesty můj pohled na AI v podnikovém IT?

Co jsem vytvořil, byla aplikace, která fungovala jako náš osobní cestovní koncierge a začala tím, že vedla „rozhovor“ s každým účastníkem. Všichni jsme vysvětlili, na čem nám během cesty záleželo: co jsme museli udělat a co jsme mohli vynechat. Ještě důležitější bylo, že se nás zeptala na naše „proč“ — proč bylo něco důležité pro nás, co to pro nás znamenalo.

Pomocí této informace udělala dvě věci. Nejprve sestavila vyvážený plán cesty, v němž si každý našel něco pro sebe — všichni jsme mohli vidět naše přání a preference reprezentovány v plánu, který vyrobila.

První itinerář byl ovšem jen návrhem. Stále zbývalo mnoho otázek, na které bylo třeba odpovědět.

A to je okamžik, kdy se udál skutečný zázrak. Zeptali jsme se agenta na hotel nebo atrakci nebo jízdu, a odpovědi, které nám dal, byly obohaceny kontextem naší jedinečné situace: „Byla by to dlouhá jízda pro děti, ale můj tchán by miloval hrad (a jedinečnou kavárnu vedle) — a tohle by mohlo být přesně místo, kde má manželka dostane masáž.“

Plná tohoto hlubokého porozumění tomu, co pro nás bylo důležité, mohla nám pomoci naplánovat a vyladit naši cestu způsobem, který by podle mě jinak nebyl možný.

A to bylo v jednom z prvních okamžiků, kdy jsem pochopil, co potřebujeme postavit pro naše podnikové zákazníky: inteligentní systémy, které byly tak zatíženy organizačním, transakčním a osobním kontextem, že každá odpověď a každá interakce by byla jako otisk prstu: úplně jedinečná pro ten okamžik a interakci, aby dodala typ hodnoty, který by se jednoduše nemohl stát jinak.