Co je paměť AI agenta? Krátkodobá, dlouhodobá, epizodická a sémantická paměť vysvětleny

Paměť AI agenta je systém, který ukládá, organizuje a získává informace, které může agent potřebovat nad rámec okamžité odpovědi modelu. Může zachovat stav aktivního úkolu, minulé zkušenosti, fakta, preference a naučené postupy, ale není to jedna databáze a není to totéž jako kontextové okno modelu.

Paměť pomáhá agentovi zůstat koherentní během dlouhých úkolů a opakovaných interakcí. Může také zavádět zastaralá fakta, rizika soukromí a zavádějící získávání informací. Zásadní otázkou návrhu není „Jak může agent pamatovat vše?“, ale „Co by měl pamatovat, jak dlouho a pod jakou autoritou?“

Kontext není paměť

Modelovo kontextové okno je informace dostupná během konkrétní inference: instrukce, zprávy, výsledky nástrojů, získané dokumenty a další vstupy. Funguje jako dočasná pracovní plocha.

Paměť je širší mechanismus, který rozhoduje, které informace přetrvávají a jak vybrané záznamy vrací do tohoto pracovního prostoru. Databáze plná konverzací je úložiště; stane se užitečnou pamětí jen tehdy, když systém dokáže získat správné informace ve správný čas a představit jejich spolehlivost.

Toto rozlišení je důležité, protože velká kontextová okna neřeší správu paměti. Naplnění výzvy všemi předchozími událostmi zvyšuje náklady a může model rozptylovat irelevantními nebo protichůdnými detaily.

Hlavní typy paměti agenta

Produkční systém může implementovat všechny čtyři pomocí kombinace stavu konverzace, strukturovaných databází, vektorového vyhledávání, záznamů událostí a verzovaných instrukcí. Taxonomie popisuje roli, kterou informace hrají, nikoli databázový produkt, který je ukládá. Preference zákazníka je sémantická paměť, ať už žije v relační tabulce nebo ve vektorovém indexu.

Pracovní nebo krátkodobá paměť

Pracovní paměť uchovává aktivní stav aktuálního úkolu: cíl, současný plán, nedávné pozorování, otevřené otázky, výstupy nástrojů a dokončené kroky. Často je uložena částečně v konverzaci a částečně ve strukturovaném objektu stavu.

Protože pracovní kontext je omezený, dlouhodobě běžící agenti mohou shrnout starší události, samostatně zachovat důležité proměnné nebo načíst jen další relevantní část úkolu.

Epizodická paměť

Epizodická paměť zaznamenává zkušenosti jako události: co se stalo, kdy, v jaké situaci, jaké akce byly provedeny a jaký byl výsledek. Agent si může pamatovat, že konkrétní nasazení selhalo po změně konfigurace, nebo že uživatel odmítl doporučení z uvedeného důvodu.

Epizodické záznamy mohou podporovat případové uvažování – nalezení minulého situace podobné té současné. Vyžadují pečlivé přiřazení, protože dřívější výsledek mohl záviset na podmínkách, které již neplatí.

Sémantická paměť

Sémantická paměť představuje fakta a pojmy nezávisle na jediné události. Příklady zahrnují preferovaný jazyk zákazníka, definici interní metriky nebo vztah mezi produkty.

Sémantická paměť může být uložena v dokumentech, vektorových indexech, relačních databázích nebo znalostních grafech. Důležitá fakta by měla obsahovat původ, časová razítka a vlastnictví, aby si agent mohl rozlišovat autoritativní záznamy od souhrnů generovaných modelem.

Procedurální paměť

Procedurální paměť zachycuje, jak provádět práci: pracovní postup, pravidlo výběru nástrojů, kontrolní seznam, úspěšný plán nebo opakovatelnou dovednost. V současných systémech se to často objevuje jako verzované instrukce, kód nebo testované šablony místo toho, aby se model tiše sám měnil.

Oddělení procedurálních aktualizací od běžné konverzace je bezpečnostní prvek. Jedna neobvyklá interakce by neměla automaticky přepisovat provozní pravidla agenta.

Jak si agent něco pamatuje

Praktický paměťový pipeline má čtyři fáze.

1. Zachytit: pozorovat zprávu, akci, výsledek nebo změnu v prostředí.
2. Vybrat a zakódovat: rozhodnout, zda je informace stojí za zachování, a převést ji do záznamu s metadaty.
3. Uložit: umístit záznam do vhodného systému s řízením přístupu a politikou uchovávání.
4. Vyvolat: když přijde nový úkol, vyhledat relevantní záznamy, seřadit je a umístit malý výběr do kontextu.

Některé systémy přidávají konsolidaci: kombinování opakovaných pozorování, řešení duplicit nebo převod událostí na trvalé fakty. Tento proces by neměl mazat původ ani nejistotu.

Jak funguje vyhledávání

Vyhledávání vektorové podobnosti je běžné, protože dokáže najít sémanticky související záznamy i když se liší formulace. Přesto samotná podobnost není dostačující. Šestiměsíční preference může být tématicky relevantní, ale již neplatná.

Robustní vyhledávání může kombinovat několik signálů:

• sémantická relevance: jak úzce záznam odpovídá aktuálnímu úkolu;
• aktuálnost: zda novější informace by měly mít větší váhu;
• důležitost: zda záznam ovlivňuje klíčové rozhodnutí nebo omezení;
• autorita: zda pochází z důvěryhodného systému, uživatele nebo inferencí modelu;
• rozsah: zda má aktuální agent a uživatel oprávnění k přístupu;
• rozmanitost: zda vybraná paměť přidává odlišné informace místo opakování stejného bodu.

Vlivné architektury paměti

Výzkum Generative Agents představil architekturu, ve které agenti ukládali pozorování, vyhledávali paměti na základě relevance, aktuálnosti a důležitosti a vytvářeli vyšší úrovně reflexí pro řízení plánování. Ukázal, jak může paměť vytvořit kontinuitu ve simulovaném chování.

MemGPT přistoupil k omezenému kontextu pomocí analogie operačního systému, využívající úrovně paměti a explicitní přesun mezi malým aktivním kontextem a větším externím úložištěm. Širší ponaučení je, že kontext by měl být řízen jako vzácný zdroj.

Tyto myšlenky ovlivňují moderní agenty, ale produkční paměť často používá jednodušší komponenty: strukturovaný stav úkolu, log událostí, vektorové úložiště a explicitní uživatelské preference. Složitost by měla následovat prokázanou potřebu.

Paměť vs. generování rozšířené vyhledáváním

Generování rozšířené vyhledáváním (RAG) přináší externí informace do kontextu modelu. Paměť agenta může používat stejné techniky vyhledávání, ale zdroj a životní cyklus se liší.

RAG systém může vyhledávat v kurátorské znalostní bázi, která existuje nezávisle na agentovi. Paměťový systém často zahrnuje záznamy vytvořené vlastními interakcemi agenta a musí rozhodovat, co zapisovat i co číst. Hranice se může rozmazat, ale paměť zavádí personalizaci, uchovávání a rizika dat generovaných samotným uživatelem, která běžné vyhledávání v dokumentech nemusí mít.

Časté selhání paměti

Konflikty jsou nevyhnutelné. Uživatel může změnit preferenci, dva systémy se mohou lišit v informaci o účtu, nebo souhrn může vynechat důležitou výjimku. Spolehlivá paměť uchovává časové razítka a zdroje, určuje, který systém je autoritativní, a zobrazuje nevyřešené rozpory místo tichého výběru záznamu, který je první v pořadí.

• Stárnoucí paměť: starý fakt přebije novější hodnotu v systému záznamů.
• Falešná paměť: inference generovaná modelem je uložena, jako by byla potvrzena.
• Šum při načítání: podobné, ale irelevantní záznamy odvádějí model pozornost.
• Přehnaná personalizace: systém použije preferenci mimo kontext, ve kterém byla zadána.
• Únik mezi uživateli: záznamy jedné osoby nebo nájemce se objeví v kontextu jiného.
• Otrava: škodlivý obsah je uložen tak, aby mohl později manipulovat chováním agenta.
• Neomezené uchovávání: citlivá data přetrvávají bez jasného účelu nebo cesty ke smazání.

Zodpovědný návrh paměti

Začněte explicitními kategoriemi. Oddělte autoritativní fakta, uživatelsky poskytnuté preference, modelové souhrny a surové interakční logy. Uchovávejte původ a časová razítka. Důležitým faktům přiřaďte pravidla expirace nebo vyžadujte potvrzení, když se důkazy rozcházejí.

Uživatelé by měli mít možnost vidět, opravit a smazat trvalou osobní paměť, kde je to vhodné. Kontrola přístupu musí platit jak při ukládání, tak při načítání. Záznam, který existuje v databázi, není automaticky způsobilý pro každého agenta, úkol nebo uživatele.

Paměť hodnotíme jako systém. Otestujte, zda agent načítá užitečné záznamy, ignoruje irelevantní, respektuje aktualizovaná fakta, odolává pokusům o otravu a chová se správně, když není k dispozici žádná paměť. Změřte zlepšení vůči přidané latenci, nákladům a riziku soukromí.

Znamená paměť, že se agent učí?

Obvykle ne, váhy modelu se nemění. Většina paměti agenta je externí informace, která je načtena do kontextu modelu během běhu. To může chování dramaticky změnit, ale liší se od tréninku nebo doladění základního modelu. Udržení tohoto rozdílu pomáhá týmům uvažovat o reverzibilitě: externí záznam lze opravit nebo smazat bez nutnosti přeškolení modelu.

Ne nutně. Většina paměti agenta mění informace poskytované pevnému modelu; neaktualizuje parametry modelu. Systém může jednat jinak, protože se mění jeho kontext, což může připomínat učení, aniž by se měnila podkladová neuronová síť.

Toto oddělení je užitečné. Externí paměť lze snadněji kontrolovat, opravovat, spravovat a mazat než znalosti zakotvené tréninkem.

Co si zapamatovat o tom, co je paměť AI agenta

Paměť AI agenta je architektura pro vyhledávání a správu kolem modelu. Pracovní paměť udržuje aktuální úkol; epizodická paměť zaznamenává zkušenosti; sémantická paměť uchovává fakta; a procedurální paměť kóduje opakovaně použitelné postupy.

Nejlepší systém paměti je selektivní, přičitatelný, citlivý na oprávnění a snadno opravovatelný. Cílem není pamatovat si co nejvíc. Cílem je pomoci agentovi přinést správný důkaz do správného rozhodnutí – aniž by došlo k narušení důvěry.