Váš agent AI ví všechno — a nic nerozumí

“Měli bychom se připojit k rodičům mé manželky na jejich cestě do Irska” — tato zdánlivě neškodná prohlášení mi poslala mráz po zádech.

Má manželka a já cestujeme hodně. Víme, co nás baví. Rodiče mé manželky ale cestují zřídka dále než několik set mil od svého domova a opustili zemi společně celkem jednou — na naši svatbu.

Abychom to ještě více zkomplikovali, tato cesta byla vánočním dárkem od mého tchána pro mou tchyni, aby mohla jet a navštívit svou rodinu, možná naposledy.

Mohli jsme vidět, jak se tato cesta bude vyvíjet v jednom slova: katastrofa. Jak bychom mohli spojit naše divoce odlišné zkušenosti a očekávání, abychom měli úžasnou cestu — nebo alespoň abychom se navzájem nenáviděli na konci?

Jako každý sebeúctyhodný technický specialista, sahám po technologii — konkrétně po AI.

Ale co jsem nečekal, je, že můj malý experiment s vibračním kódováním aplikace pro plánování rodinné cesty s AI mi naučil téměř vše, co potřebuji vědět o aplikaci AI v podnikové IT.

Čím více AI krmíte, tím hloupější se stává

Většina podnikových nasazení AI následuje předvídatelný vzorec. Organizace začínají tím, že dají agentovi sadu instrukcí a připojí ho k informačnímu zdroji, ať už je to RAG (Retrieval-Augmented Generation) framework, existující znalostní báze nebo dokonce MCP server. Další vrstvou je LLM a nechají ho dělat svou věc.

Problém je, že LLM v jádru jsou hloupé. Neumějí priorizovat všechny informace, které mají k dispozici, takže tendují k tomu, aby každou část kontextu zpracovávaly stejně. Člověk musí přidat vrstvu kurace, učit model, co je důležité a co ne. Bez kurace dostanete AI, která ví všechno a nic nerozumí.

Tři typy paměti, které záleží

Účinná kurace podnikové AI znamená využívání tří specifických typů paměti.

První je institucionální paměť, která se na začátku může zdát bastante základní. Když někdo řekne „finanční služby“, agent ví, že míní divizi Financial Services společnosti a ne celý průmysl. To se stává trvalým organizačním poznáním plným definic, preferencí a konvencí, které se často nemění. Jak se to rozšiřuje do institucionálních znalostí o strategických prioritách, klíčových iniciativách a organizačních dynamikách, stává se bohatým zdrojem institucionálního kontextu.

Druhá je historie akcí, která se zaměřuje na významná rozhodnutí, úkoly a události. Když je podán servisní lístek nebo nasazen systém, agent rozpozná tuto konkrétní akci a zaznamená ji do historie akcí. To se stává historickým záznamem, který spojuje organizační kontext.

Třetí je krátkodobý konverzační kontext. Myslete na to jako na okamžité interakce s agentem. Je to užitečné v okamžiku, ale tenduje k rychlé ztrátě relevance.

Vzato dohromady, tyto tři typy paměti vytvářejí váhový systém, který chybí generickým modelům AI. Nyní, když někdo řekne agentovi o podniku, klasifikuje a priorizuje všechny tyto paměti a kuruje informace, které jsou důležité. To tvoří jádro toho, co by AI mělo dodávat: ne jen doménová data, ale doménový úsudek.

Co vypadá kurovaná paměť v praxi

Ale dost bylo teorie, co to vypadá v praxi? Zde je to, co jsme objevili při budování těchto agentů sami.

Jedna běžná IT scéna je odeslání servisního lístku help desk agentovi. Říkejte, že vám nefunguje Outlook, takže napíšete popis problému a čekáte, až agent zkontroluje a navrhne opravu.

Ale s kurovanou pamětí na naší straně by mohl být lepší proces zahrnovat pořízení snímku obrazovky, který ukazuje chybu Outlooku, a nahrání toho agentovi. Nyní agent (1) využije institucionální paměť, aby pochopil váš pracovní prostředí; (2) zkontroluje historii akcí pro související incidenty; a (3) aplikuje kontextuální úsudek pro konkrétní řešení, ne jen generickou odpověď.

Výsledkem je inteligentní agent, který nemusí hádat odpověď na základě snímku obrazovky. Nyní skutečně zkoumá, dívá se na všechny informace, které jsou aktuálně spuštěny, a dodává více užitečnou odpověď. Agent by mohl dokonce expandovat do síťového nebo rojového efektu, dívá se na ostatní uživatele v systému, aby viděl, zda je problém s Outlookem pouze váš nebo podnikový problém.

Kontextualizace historie nebo paměti je rozdílovým faktorem. Pokud nekurujete svou paměť efektivně, zůstanete pozadu za těmi, kteří ano. Je zásadní mít architekturu, která ví, jak spravovat tato data v průběhu času a rozumí, co uchovat, co zobrazit a co pustit.

Zpět k cestě

Takže, jak můj AI-poháněný plánovač cesty změnil můj pohled na AI v podnikové IT?

Co jsem postavil, byla aplikace, která fungovala jako náš osobní cestovní koncierge a začala tím, že „rozhovorila“ každého účastníka. Všichni jsme vysvětlili, co pro nás na cestě záleželo: co bylo povinné a co jsme mohli vynechat. Více důležité bylo, že se nás zeptal o náš „proč“ — proč bylo něco důležité pro nás, co to pro nás znamenalo.

Pomocí této informace udělal dvě věci. První bylo, že kurzoval cestovní plán, který byl vyvážený, aby dodal něco pro každého — všichni jsme mohli vidět naše přání a preference reprezentovány v plánu, který vyprodukoval.

Ale, samozřejmě, že první itinerář byl jen návrh.

A tehdy se udál skutečný zázrak. Zeptali jsme se agenta na hotel nebo atrakci nebo jízdu, a odpovědi, které nám dal, byly obohaceny kontextem naší jedinečné situace: „Byla by to dlouhá jízda pro děti, ale můj tchán by miloval hrad (a jedinečnou kavárnu vedle) — a toto by mohlo být právě místem, kde má manželka dostane masáž.“

Plný tohoto bohatého porozumění toho, co pro nás bylo důležité, mohl nám pomoci naplánovat a upravit naší cestu způsobem, o kterém si nemyslím, že by to bylo možné jinak.

A bylo to v jednom z prvních okamžiků, kdy jsem pochopil, co bychom měli postavit pro naše podnikové zákazníky: inteligentní systémy, které jsou tak naloženy organizačním, transakčním a osobním kontextem, že každá odpověď a každá interakce budou jako otisk prstu: zcela jedinečné pro ten okamžik a interakci, aby dodaly typ hodnoty, který by se prostě nemohl stát žádným jiným způsobem.