Váš agent AI ví všechno – a nic nerozumí

„Měli bychom se připojit k rodičům mé manželky na jejich cestě do Irska“ — tato zdánlivě neškodná věta mi poslala mrazivý pocit po zádech.

Má manželka a já cestujeme hodně. Víme, co nám vyhovuje. Rodiče mé manželky ale cestují zřídka dále než několik set mil od svého domova a opustili zemi společně pouze jednou — na naši svatbu.

Abychom to ještě více zkomplikovali, tato cesta byla vánočním dárkem mého tchána pro mou tchyni, aby mohla navštívit svou rodinu, možná naposledy.

Mohl jsem vidět, jak se tato cesta bude vyvíjet v jednom slova: katastrofa. Jak bychom mohli spojit naše úplně odlišné zkušenosti a očekávání, abychom měli úžasnou cestu — nebo alespoň se navzájem nenávíděli na konci?

Jako každý sebevědomý technický specialista, jsem se obrátil k technologiím — konkrétně k AI.

Ale co jsem neočekával, bylo, že můj malý experiment s vytvořením AI poháněné aplikace pro plánování rodinné cesty mi naučí téměř vše, co potřebuji vědět o aplikaci AI v podnikové IT.

Čím více krmite AI, tím hloupější se stává

Většina podnikových nasazení AI následuje předvídatelný vzorec. Organizace začínají tím, že dají agentovi sadu instrukcí a připojí ho k informačnímu zdroji, ať už je to RAG (Retrieval-Augmented Generation) framework, existující znalostní báze nebo dokonce MCP server. Další vrstvou je LLM a nechají ho dělat svou práci.

Problém spočívá v tom, že LLM v jádru jsou hloupé. Neznají, jak priorizovat všechny informace, které mají k dispozici, takže tendují k tomu, aby každou část kontextu léčily stejně. Člověk musí přidat vrstvu kurace, učení modelu, co je důležité a co není. Bez kurace dostanete AI, které ví všechno a nic nerozumí.

Tři typy paměti, které mají význam

Účinná kurace podnikového AI znamená využití tří specifických typů paměti.

První je institucionální paměť, která se na začátku může zdát bastante základní. Když někdo řekne „finanční služby“, agent ví, že míní společnostní finanční služby a ne celý průmysl. To se stává trvalou organizační znalostí plnou definic, preferencí a konvencí, které se často nemění. Jak se to rozšiřuje do institucionálních znalostí o strategických prioritách, klíčových iniciativách a organizačních dynamikách, stává se bohatým zdrojem institucionálního kontextu.

Druhý je historie akcí, který se zaměřuje na významná rozhodnutí, úkoly a události. Když je podána žádost o službu nebo nasazen systém, agent rozpozná tuto konkrétní akci a zaznamená ji do historie akcí. To se stává historickým záznamem, který spojuje organizační kontext.

Třetím je krátkodobý konverzační kontext. Myslete na to jako na okamžité interakce s agentem. Je to užitečné v daném okamžiku, ale rychle ztrácí relevanci.

Vzato dohromady, tyto tři typy paměti vytvářejí systém vážení, který obecné modely AI postrádají. Nyní, když někdo řekne agentovi o podniku, klasifikuje a priorizuje všechny tyto paměti a kuruje informace, které jsou důležité. To tvoří jádro toho, co by AI mělo dodávat: ne pouze doménová data, ale doménové úsudky.

Co vypadá kurovaná paměť v měřítku

Ale dostatkem teorie, co to vypadá v praxi? Zde je to, co jsme objevili při budování těchto agentů sami.

Jedním z běžných scénářů v IT je odeslání chybového tiketu na help desk agenta. Řekněme, že vám nefunguje Outlook, takže napíšete popis problému a čekáte, až agent zkontroluje a navrhne řešení.

Ale s kurovanou pamětí na vaší straně by mohl být lepší proces zahrnovat pořízení snímku obrazovky, který ukazuje chybu Outlooku, a nahrání toho agentovi. Nyní agent (1) využívá institucionální paměť, aby pochopil vaše pracovní prostředí; (2) kontroluje historii akcí pro související incidenty; a (3) aplikuje kontextuální úsudek pro specifické řešení, ne pouze generické odpovědi.

Výsledkem je inteligentní agent, který nemusí hádat odpověď na základě snímku obrazovky. Nyní skutečně vyšetřuje, dívá se na všechny informace, které aktuálně běží, a dodává více užitečnou odpověď. Agent by mohl dokonce expandovat do sítě nebo efektu roje, podívat se na ostatní uživatele v systému, aby viděl, zda je problém s Outlookem pouze váš nebo podnikový problém.

Kontextualizace historie nebo paměti je rozdílovým faktorem. Pokud nekurujete svou paměť efektivně, budete zaostávat za těmi, kteří ano. Je nezbytné mít architekturu, která ví, jak spravovat data v čase a rozumí, co uchovat, co zobrazit a co pustit.

Zpět na cestu

Takže, jak změnil můj AI poháněný plánovač cesty můj pohled na AI v podnikové IT?

Co jsem vytvořil, byla aplikace, která fungovala jako náš osobní cestovní koncierge a začala tím, že „rozhovorila“ každého účastníka. Všichni jsme vysvětlili, co nám na cestě záleželo: co bylo musíme udělat a co jsme mohli vynechat. Více importantly, zeptala se nás na naše „proč“ — proč bylo něco důležité pro nás, co to pro nás znamenalo.

Pomocí této informace udělala dvě věci. První bylo kurace cestovního plánu, který byl vyvážený, aby dodal něco pro každého — všichni jsme mohli vidět naše přání a preference reprezentovány v plánu, který vyrobila.

Ale, samozřejmě, že první itinerář byl pouze návrh.

A to je okamžik, kdy se udál skutečný zázrak. Zeptali jsme se agenta na hotel nebo atrakci nebo jízdu, a odpovědi, které nám dal, byly obohaceny kontextem naší jedinečné situace: „Byla by to dlouhá jízda pro děti, ale můj tchán by miloval hrad (a jedinečnou kavárnu vedle) — a tohle by mohlo být přesně místo, kde má manželka dostane masáž.“

Plná tohoto bohatého porozumění toho, co bylo důležité pro nás, mohla nám pomoci naplánovat a vyladit naší cestu způsobem, který si nemyslím, že by byl možný jinak.

A to bylo v jednom z prvních okamžiků, kdy jsem pochopil, co potřebujeme postavit pro naše podnikové zákazníky: inteligentní systémy, které byly tak zatíženy organizačním, transakčním a osobním kontextem, že každá odpověď a každá interakce by byla jako otisk prstu: úplně jedinečná pro ten okamžik a interakci, aby dodala typ hodnoty, který by se jednoduše nemohl stát jinak.