Limita de memorie a ChatGPT este frustrantă — Creierul arată o cale mai bună

Dacă ești un utilizator avansat ChatGPT, este posibil să fi întâlnit recent temutul ecran „Memoria este plină”. Acest mesaj apare atunci când atingi limita de memorii salvate de ChatGPT și poate fi un obstacol semnificativ în timpul proiectelor pe termen lung. Memoria ar trebui să fie o caracteristică cheie pentru sarcinile complexe și continue - vrei ca inteligența artificială să transmită cunoștințele din sesiunile anterioare în rezultate viitoare. Avertismentul de memorie plină în mijlocul unui proiect urgent (de exemplu, în timp ce depanam erori persistente de server HTTP 502 pe unul dintre site-urile noastre surori) poate fi extrem de frustrant și perturbator.

Frustrarea cu limita de memorie a ChatGPT

Problema principală nu este că există o limită de memorie – chiar și utilizatorii plătitori de ChatGPT Plus pot înțelege că pot exista limite practice privind cât de mult poate fi stocat. Adevărata problemă este cum Trebuie să gestionați amintirile vechi odată ce limita este atinsă. Interfața actuală pentru gestionarea memoriei este plictisitoare și consumatoare de timp. Când ChatGPT vă notifică faptul că memoria este plină 100%, aveți două opțiuni: să ștergeți cu meticulozitate amintirile una câte una sau să le ștergeți pe toate odată. Nu există niciun instrument intermediar sau de selecție în masă pentru a elimina eficient informațiile stocate.

Ștergerea unei amintiri pe rând, mai ales dacă trebuie să faci asta la fiecare câteva zile, pare o corvoadă care nu este propice utilizării pe termen lung. La urma urmei, majoritatea amintirilor salvate au fost păstrate dintr-un motiv - conțin context valoros pe care l-ai furnizat către ChatGPT despre nevoile sau afacerea ta. Bineînțeles, ai prefera să ștergi numărul minim de elemente necesare pentru a elibera spațiu, astfel încât să nu împiedici înțelegerea istoricului tău de către inteligența artificială. Cu toate acestea, designul gestionării memoriei impune o abordare de tipul „totul sau nimic” sau o curățare manuală lentă. Am observat personal că fiecare amintire ștearsă eliberează doar aproximativ... 1% din spațiul de memorie, sugerând că sistemul permite doar în jur 100 de amintiri în total înainte de a fi plin (utilizare 100%). Această limită strictă pare arbitrară, având în vedere amploarea sistemelor moderne de inteligență artificială, și subminează promisiunea ca ChatGPT să devină un asistent informat care crește odată cu tine în timp.

Ce ar trebui să se întâmple

Având în vedere că ChatGPT și infrastructura din spatele său au acces la resurse de calcul aproape nelimitate, este surprinzător că soluția pentru memoria pe termen lung este atât de rudimentară. În mod ideal, Memoria pe termen lung generată de inteligența artificială ar trebui să reproducă mai bine modul în care funcționează creierul uman și gestionează informațiile în timp. Creierul uman a dezvoltat strategii eficiente pentru gestionarea amintirilor – nu înregistrăm pur și simplu fiecare eveniment cuvânt cu cuvânt și îl stocăm la nesfârșit. În schimb, creierul este conceput pentru eficiență: deținem informații detaliate pe termen scurt, apoi treptat... consolida și comprima acele detalii în memoria pe termen lung.

În neuroștiință, consolidarea memoriei se referă la procesul prin care amintirile instabile pe termen scurt sunt transformate în amintiri stabile și de lungă durată. Conform modelului standard de consolidare, noile experiențe sunt inițial codificate de cal de mare, o regiune a creierului crucială pentru formarea amintirilor episodice, iar în timp, cunoștințele sunt „antrenat” în cortex pentru stocare permanentă. Acest proces nu se întâmplă instantaneu - necesită trecerea timpului și se întâmplă adesea în perioadele de odihnă sau de somn. Hipocampul acționează în esență ca un tampon de învățare rapidă, în timp ce cortexul integrează treptat informațiile într-o formă mai durabilă în rețele neuronale răspândite. Cu alte cuvinte, „memoria pe termen scurt” a creierului (memoria de lucru și experiențele recente) este transferată și reorganizată sistematic într-un depozit de memorie pe termen lung distribuit. Acest transfer în mai mulți pași face ca memoria să fie mai rezistentă la interferențe sau uitare, similar cu stabilizarea unei înregistrări, astfel încât să nu fie ușor suprascrisă.

În mod crucial, creierul uman nu risipesc resurse prin stocarea fiecărui detaliu ad litteram. În schimb, tinde să filtreze detaliile banale și să păstreze ceea ce este cel mai semnificativ din experiențele noastre. Psihologii au observat de mult timp că atunci când ne amintim un eveniment trecut sau o informație învățată, de obicei amintește-ți esența mai degrabă decât o relatare perfectă, cuvânt cu cuvânt. De exemplu, după ce citești o carte sau vizionezi un film, îți vei aminti punctele principale ale intrigii și temele, dar nu fiecare replică de dialog. În timp, cuvintele exacte și detaliile mărunte ale experienței se estompează, lăsând în urmă un rezumat mai abstract al ceea ce s-a întâmplat. De fapt, cercetările arată că memoria noastră verbatim (detalii precise) se estompează mai repede decât memoria noastră esențială (semnificația generală) pe măsură ce trece timpul. Aceasta este o modalitate eficientă de a stoca cunoștințe: prin eliminarea detaliilor inutile, creierul „comprimă” informațiile, păstrând părțile esențiale care sunt susceptibile de a fi utile în viitor.

Acest compresie neurală poate fi comparat cu modul în care computerele comprimă fișierele și, într-adevăr, oamenii de știință au observat procese analoage în creier. Când reluăm mental o amintire sau ne imaginăm un scenariu viitor, reprezentarea neuronală este efectiv accelerată și lipsită de unele detalii - este o versiune comprimată a experienței reale. Neurologi de la UT Austin a descoperit un mecanism de unde cerebrale care ne permite să ne amintim o întreagă secvență de evenimente (să zicem, o după-amiază petrecută la magazinul alimentar) în doar câteva secunde, utilizând un ritm cerebral mai rapid care codifică informații mai puțin detaliate, de nivel înalt. În esență, creierul nostru poate parcurge rapid amintirile, păstrând conturul și punctele critice, omițând în același timp detaliile bogate, care ar fi inutile sau prea voluminoase pentru a fi redate integral. Consecința este că planurile imaginare și experiențele amintite sunt stocate într-o formă condensată - încă utilă și inteligibilă, dar mult mai eficientă din punct de vedere al spațiului și timpului decât experiența originală.

Un alt aspect important al gestionării memoriei umane este prioritizareNu tot ce intră în memoria pe termen scurt este imortalizat în stocarea pe termen lung. Creierul nostru decide în mod subconștient ce merită ținut minte și ce nu, pe baza semnificației sau a importanței emoționale. studiu recent la Universitatea Rockefeller a demonstrat acest principiu folosind șoareci: șoarecii au fost expuși la mai multe rezultate într-un labirint (unele foarte recompensatoare, altele ușor recompensatoare, altele negative). Inițial, șoarecii au învățat toate asocierile, dar când au fost testați o lună mai târziu, doar cele cel mai important memoria cu recompense mari a fost păstrată, în timp ce detaliile mai puțin importante au dispărut.

Cu alte cuvinte, creierul a filtrat zgomotul și a păstrat amintirea cea mai importantă pentru obiectivele animalului. Cercetătorii au identificat chiar și o regiune a creierului, talamusul anterior, care acționează ca un fel de moderator între hipocamp și cortex în timpul consolidării, semnalând care amintiri sunt suficient de importante pentru a fi „salvate” pe termen lung. Talamusul pare să trimită întăriri continue pentru amintirile valoroase – spunând practic cortexului „păstrează aceasta” până când amintirea este complet codificată – permițând în același timp amintirilor mai puțin importante să se estompeze. Această constatare subliniază faptul că Uitarea nu este doar o defecțiune a memoriei, ci o caracteristică activă a sistemuluiPrin renunțarea la informațiile banale sau redundante, creierul previne aglomerarea memoriei și asigură accesul ușor la cele mai utile cunoștințe.

Regândirea memoriei AI cu principii umane

Modul în care creierul uman gestionează memoria oferă o structură clară pentru modul în care ChatGPT și sistemele similare de inteligență artificială ar trebui să gestioneze informațiile pe termen lung. În loc să trateze fiecare memorie salvată ca pe un punct de date izolat care trebuie fie păstrat pentru totdeauna, fie șters manual, o inteligență artificială ar putea... consolidează și rezumă amintirile mai vechi în fundal. De exemplu, dacă aveți stocate zece conversații sau fapte corelate despre proiectul dvs. în desfășurare, inteligența artificială le-ar putea îmbina automat într-un rezumat concis sau într-un set de concluzii cheie - comprimând efectiv memoria, păstrându-i în același timp esența, la fel cum creierul condensează detaliile în esență. Acest lucru ar elibera spațiu pentru informații noi, fără a „uita” cu adevărat ce a fost important în legătură cu vechile interacțiuni. Într-adevăr, documentația OpenAI sugestii că modelele ChatGPT pot deja face unele actualizări și combinări automate ale detaliilor salvate, dar experiența actuală a utilizatorului sugerează că acest lucru nu este încă perfect sau suficient.

O altă îmbunătățire inspirată de om ar fi prioritizarea reținerii memoriei. În loc de o limită rigidă de 100 de elemente, inteligența artificială ar putea evalua care amintiri au fost cel mai frecvent relevante sau cele mai critice pentru nevoile utilizatorului și ar putea elimina (sau reduce eșantionarea) doar pe cele care par a fi mai puțin importante. În practică, acest lucru ar putea însemna că ChatGPT identifică faptul că anumite fapte (de exemplu, obiectivele principale ale companiei dvs., specificațiile proiectului în curs, preferințele personale) sunt foarte importante și ar trebui întotdeauna păstrate, în timp ce fragmentele unice de informații de acum câteva luni ar putea fi arhivate sau eliminate mai întâi. Această abordare dinamică este similară cu modul în care creierul... elimină continuu conexiunile neutilizate și le consolidează pe cele utilizate frecvent pentru a optimiza eficiența cognitivă.

Concluzia este că un sistem de memorie pe termen lung pentru IA ar trebui evolua, nu doar să se umple și să se oprească. Memoria umană este remarcabil de adaptivă - se transformă și se reorganizează în timp și nu se așteaptă ca un utilizator extern să microgestioneze fiecare slot de memorie. Dacă memoria ChatGPT ar funcționa mai mult ca a noastră, utilizatorii nu s-ar confrunta cu un zid brusc la 100 de intrări și nici cu alegerea dureroasă între a șterge totul sau a da clic pe o sută de elemente unul câte unul. În schimb, amintirile mai vechi din chat s-ar transforma treptat într-o bază de cunoștințe distilată pe care inteligența artificială o poate folosi, iar doar piesele cu adevărat învechite sau irelevante ar dispărea. Comunitatea inteligenței artificiale, care este publicul țintă aici, poate aprecia că implementarea unui astfel de sistem ar putea implica tehnici precum sumarizarea contextului, baze de date vectoriale pentru recuperarea cunoștințelor...sau straturi ierarhice de memorie în rețelele neuronale – toate domenii active de cercetare. De fapt, oferirea unei forme de „memorie episodică” pentru inteligența artificială care se comprimă în timp este o provocare cunoscută, iar rezolvarea acesteia ar fi un salt către o inteligență artificială care învață continuu și își scalează baza de cunoștințe în mod sustenabil.

Concluzie

Limitarea actuală a memoriei ChatGPT pare o soluție temporară care nu valorifică întreaga putere a inteligenței artificiale. Analizând cogniția umană, vedem că memoria pe termen lung eficientă nu înseamnă stocarea nelimitată de date brute - ci este vorba despre compresia inteligentă, consolidarea și uitarea lucrurilor corecte. Capacitatea creierului uman de a păstra ceea ce contează, economisind în același timp spațiul de stocare, este tocmai ceea ce face ca memoria noastră pe termen lung să fie atât de vastă și utilă. Pentru ca inteligența artificială să devină un adevărat partener pe termen lung, ar trebui să adopte o strategie similară: să distileze automat interacțiunile trecute în informații durabile, în loc să descarce această povară asupra utilizatorului. Frustrarea de a lovi un zid de „memorie plină” ar putea fi înlocuită de un sistem care crește elegant odată cu utilizarea, învățarea și amintirea într-un mod flexibil, asemănător cu cel uman. Adoptarea acestor principii nu numai că ar rezolva problema experienței utilizatorului, dar ar debloca și o experiență de inteligență artificială mai puternică și personalizată pentru întreaga comunitate de utilizatori și dezvoltatori care se bazează pe aceste instrumente.