Fundamentele AI
Ce este memoria agentului AI? Memoria pe termen scurt, pe termen lung, episodică și semantică explicată
Memoria agentului nu este o singură bază de date sau un prompt în creștere infinită. Este un sistem conceput pentru a păstra contextul de lucru, episoadele, faptele și procedurile învățate — și pentru a recupera informația potrivită la momentul potrivit.
Adaugă Unite.AI la sursele tale preferate pe Google
Memoria agentului AI este sistemul care stochează, organizează și recuperează informațiile de care un agent poate avea nevoie dincolo de răspunsul imediat al modelului. Poate păstra starea activă a sarcinii, experiențele trecute, fapte, preferințe și proceduri învățate, dar nu este o singură bază de date și nu este același lucru cu fereastra de context a unui model.
Memoria ajută un agent să rămână coerent pe parcursul sarcinilor lungi și al interacțiunilor repetate. De asemenea, poate introduce informații învechite, riscuri de confidențialitate și recuperări înșelătoare. Întrebarea esențială de proiectare nu este „Cum poate agentul să-și amintească totul?” ci „Ce ar trebui să-și amintească, pentru cât timp și sub ce autoritate?”
Contextul nu este memorie
Fereastra de context window a unui model este informația disponibilă în timpul unei inferențe specifice: instrucțiuni, mesaje, rezultate ale instrumentelor, documente recuperate și alte intrări. Funcționează ca un spațiu de lucru temporar.
Memory este mecanismul mai larg care decide ce informații persistă și cum înregistrările selectate revin în acel spațiu de lucru. O bază de date plină de conversații este stocare; devine memorie utilă doar când sistemul poate recupera informația corectă la momentul potrivit și poate reprezenta fiabilitatea acesteia.
Această distincție contează deoarece ferestrele mari de context nu rezolvă gestionarea memoriei. Umplerea unui prompt cu fiecare eveniment anterior crește costul și poate distrage modelul cu detalii irelevante sau contradictorii.
Principalele tipuri de memorie ale agentului
Un sistem de producție poate implementa toate patru cu un amestec de stare a conversației, baze de date structurate, căutare vectorială, jurnale de evenimente și instrucțiuni versionate. Taxonomia descrie rolul pe care informația îl are, nu produsul de bază de date care o stochează. O preferință a clientului este memorie semantică, indiferent dacă se află într-un tabel relațional sau într-un index vectorial.
Memoria de lucru sau pe termen scurt
Memoria de lucru păstrează starea activă a sarcinii curente: obiectivul, planul actual, observațiile recente, întrebările deschise, rezultatele instrumentelor și pașii finalizați. De obicei este stocată parțial în conversație și parțial într-un obiect de stare structurat.
Din cauza limitărilor contextului de lucru, agenții care rulează pe termen lung pot rezuma evenimentele mai vechi, pot păstra variabilele importante separat sau pot încărca doar următoarea porțiune relevantă a sarcinii.
Memoria episodică
Memoria episodică înregistrează experiențele ca evenimente: ce s-a întâmplat, când, în ce situație, ce acțiuni au fost întreprinse și ce a rezultat. Un agent ar putea să-și amintească că o anumită implementare a eșuat după o modificare de configurare sau că un utilizator a respins o recomandare dintr-un motiv specificat.
Înregistrările episodice pot susține raționamentul bazat pe cazuri—găsirea unei situații trecute similare cu cea curentă. Ele necesită atribuire atentă deoarece un rezultat anterior ar fi putut depinde de condiții care nu mai sunt valabile.
Memoria semantică
Memoria semantică reprezintă fapte și concepte independent de un eveniment unic. Exemple includ limba preferată a unui client, definiția unei metrici interne sau relația dintre produse.
Memoria semantică poate fi stocată în documente, indexuri vectoriale, baze de date relaționale sau grafuri de cunoaștere. Faptele importante ar trebui să includă proveniența, marcajele temporale și proprietatea, astfel încât agentul să poată distinge înregistrările autoritare de rezumatele generate de model.
Memoria procedurală
Memoria procedurală captează modul de a efectua munca: un flux de lucru, o regulă de selecție a instrumentelor, o listă de verificare, un plan de succes sau o abilitate reutilizabilă. În sistemele actuale, aceasta apare adesea ca instrucțiuni versionate, cod sau șabloane testate, mai degrabă decât ca un model care se modifică silențios.
Separarea actualizărilor procedurale de conversația obișnuită este o caracteristică de siguranță. O singură interacțiune neobișnuită nu ar trebui să rescrie automat regulile de operare ale agentului.
Cum își amintește un agent ceva
| Memorie de lucru | Context temporar utilizat în timpul sarcinii curente. |
|---|---|
| Memorie episodică | Înregistrări ale evenimentelor selectate și interacțiunilor anterioare. |
| Memorie semantică | Fapte sau concepte generalizate derivate din experiență. |
| Uitat | Înlăturare sau degradare care limitează starea învechită, sensibilă și de valoare scăzută. |
Un flux practic de memorie are patru etape.
- Captură: observă un mesaj, o acțiune, un rezultat sau o schimbare de mediu.
- Selectare și codare: decide dacă informația merită păstrată și o convertește într-o înregistrare cu metadate.
- Stocare: plasează înregistrarea într-un sistem adecvat cu controale de acces și o politică de retenție.
- Recuperare: când apare o sarcină nouă, caută înregistrări relevante, le clasifică și plasează o mică selecție în context.
Unele sisteme adaugă consolidare: combină observațiile repetate, rezolvă duplicatele sau convertește evenimentele în fapte durabile. Acest proces nu ar trebui să șteargă proveniența sau incertitudinea.
Cum funcționează recuperarea
Căutarea prin similaritate vectorială este comună deoarece poate găsi înregistrări semantically legate chiar și când formularea diferă. Totuși, similaritatea singură nu este suficientă. O preferință de șase luni poate fi relevantă din punct de vedere tematic, dar nu mai este validă.
O recuperare robustă poate combina mai multe semnale:
- relevanță semantică: cât de strâns se potrivește înregistrarea cu sarcina curentă;
- recență: dacă informațiile mai noi ar trebui să primească o pondere mai mare;
- importanță: dacă înregistrarea influențează o decizie cheie sau o constrângere;
- autoritate: dacă provine dintr-un sistem de încredere, de la un utilizator sau dintr-o inferență a modelului;
- scop: dacă agentul și utilizatorul curent au permisiunea de a accesa informația;
- diversitate: dacă amintirile selectate adaugă informații distincte în loc să repete același punct.
Arhitecturi de memorie influente
Cercetarea Generative Agents a introdus o arhitectură în care agenții stocau observații, recuperau amintiri pe baza relevanței, recenței și importanței și formau reflecții de nivel superior pentru a ghida planificarea. A demonstrat cum memoria poate crea continuitate în comportamentul simulat.
MemGPT a abordat contextul limitat printr-o analogie cu sistemul de operare, utilizând niveluri de memorie și mișcare explicită între un context activ mic și o stocare externă mai mare. Lecția mai largă este că contextul ar trebui gestionat ca o resursă limitată.
Aceste idei influențează agenții moderni, dar memoria de producție folosește adesea componente mai simple: un stat de sarcină structurat, un jurnal de evenimente, un depozit vectorial și preferințe explicite ale utilizatorului. Complexitatea ar trebui să urmeze o nevoie demonstrată.
Memorie vs. Generare augmentată prin recuperare
Generarea augmentată prin recuperare (RAG) aduce informații externe în contextul modelului. Memoria agentului poate folosi aceleași tehnici de recuperare, dar sursa și ciclul de viață diferă.
Un sistem RAG poate recupera dintr-o bază de cunoștințe curată care există independent de agent. Un sistem de memorie include adesea înregistrări create de interacțiunile proprii ale agentului și trebuie să decidă ce să scrie, precum și ce să citească. Granița poate deveni neclară, dar memoria introduce personalizare, retenție și riscuri de date generate de sine pe care recuperarea de documente obișnuită nu le are.
Eșecuri comune ale memoriei
Conflictele sunt inevitabile. Un utilizator poate schimba o preferință, două sisteme pot fi în dezacord cu privire la un cont sau un rezumat poate omite o excepție importantă. O memorie fiabilă păstrează marcaje temporale și surse, definește care sistem este autoritar și expune contradicțiile nerezolvate în loc să selecteze silențios înregistrarea care apare prima.
- Memorie învechită: un fapt vechi suprascrie o valoare mai recentă din sistemul de înregistrare.
- Memorie falsă: o inferență generată de model este stocată ca și cum ar fi confirmată.
- Zgomot de recuperare: înregistrări similare, dar irelevante, distrag modelul.
- Supra-personalizare: sistemul aplică o preferință în afara contextului în care a fost furnizată.
- Scurgere între utilizatori: înregistrările de la o persoană sau chiriaș apar în contextul altei persoane.
- Intoxicare: conținutul malițios este stocat pentru a putea manipula comportamentul ulterior al agentului.
- Păstrare nelimitată: datele sensibile persistă fără un scop clar sau o cale de ștergere.
Proiectarea memoriei în mod responsabil
Începeți cu categorii explicite. Separați faptele autoritare, preferințele furnizate de utilizator, rezumatele modelului și jurnalele brute de interacțiune. Stocați proveniența și marcajele temporale. Atribuiți faptelor cu impact ridicat reguli de expirare sau solicitați confirmarea atunci când dovezile intră în conflict.
Utilizatorii ar trebui să poată vedea, corecta și șterge memoria personală durabilă, acolo unde este cazul. Controlul de acces trebuie să se aplice atât în timpul stocării, cât și al recuperării. O înregistrare care există în baza de date nu este automat eligibilă pentru fiecare agent, sarcină sau utilizator.
Evaluați memoria ca sistem. Testați dacă agentul recuperează înregistrări utile, ignoră pe cele irelevante, respectă faptele actualizate, rezistă încercărilor de intoxicare și se comportă corect atunci când nu există memorie disponibilă. Măsurați îmbunătățirea în raport cu latența suplimentară, costul și expunerea la confidențialitate.
Înseamnă memoria că agentul învață?
De obicei, greutățile modelului nu se modifică. Majoritatea memoriei agentului constă în informații externe recuperate în contextul modelului în timpul execuției. Acestea pot schimba comportamentul dramatic, dar diferă de antrenarea sau ajustarea fină a modelului de bază. Menținerea clară a distincției ajută echipele să raționeze despre reversibilitate: o înregistrare externă poate fi corectată sau ștearsă fără a reantrena modelul.
Nu neapărat. Majoritatea memoriei agentului modifică informațiile furnizate unui model fix; nu actualizează parametrii modelului. Sistemul poate avea un comportament diferit deoarece contextul său se schimbă, ceea ce poate semăna cu învățarea fără a modifica rețeaua neuronală de bază.
Această separare este utilă. Memoria externă poate fi inspectată, corectată, guvernată și ștearsă mai ușor decât cunoștințele încorporate prin antrenament.
Ce trebuie să reținem despre ce este memoria agentului AI
Memoria agentului AI este o arhitectură de recuperare și guvernanță în jurul unui model. Memoria de lucru menține sarcina curentă; memoria episodică înregistrează experiențele; memoria semantică păstrează faptele; iar memoria procedurală codifică modalități reutilizabile de lucru.
Cel mai bun sistem de memorie este selectiv, atribuit, conștient de permisiuni și ușor de corectat. A reține mai mult nu este obiectivul. Ajutarea agentului să aducă dovezile potrivite în decizia corectă — fără a încălca încrederea — este scopul.
