Limita de memorie a ChatGPT este frustrantă – Creierul arată o cale mai bună

Dacă sunteți un utilizator avansat al ChatGPT, este posibil să fi întâmpinat recent ecranul “Memoria este plină”. Acest mesaj apare atunci când ați atins limita memoriei salvate a ChatGPT, și poate fi un obstacol semnificativ în proiectele pe termen lung. Memoria ar trebui să fie o funcție cheie pentru sarcinile complexe și continue – doriți ca inteligența dvs. artificială să poată păstra cunoștințele din sesiunile anterioare pentru a le folosi în ieșirile viitoare. A vedea un avertisment de memorie plină în mijlocul unui proiect cu termen limită (de exemplu, în timp ce rezolvam erorile persistente de server 502 HTTP pe unul dintre site-urile noastre surori) poate fi extrem de frustrant și perturbator.

Frustrarea cu limita de memorie a ChatGPT

Problema de bază nu este că există o limită de memorie – chiar și utilizatorii ChatGPT Plus plătesc pot înțelege că pot exista limite practice pentru cantitatea de date care pot fi stocate. Problema reală este cum trebuie gestionate vechile memorii atunci când se atinge limita. Interfața actuală pentru gestionarea memoriei este laborioasă și consumatoare de timp. Atunci când ChatGPT vă anunță că memoria dvs. este plină la 100%, aveți două opțiuni: ștergeți memoria veche una câte una, sau ștergeți toate deodată. Nu există o opțiune intermediară sau unelte de selecție în masă pentru a gestiona eficient informațiile stocate.

Ștergerea unei memorii pe rând, mai ales dacă trebuie să faceți acest lucru la fiecare câteva zile, se simte ca o corvoadă care nu este propice utilizării pe termen lung. După toate, majoritatea memorilor salvate au fost păstrate pentru un motiv – conțin context valoros pe care l-ați furnizat ChatGPT despre nevoile dvs. sau despre afacerea dvs. Natural, ați prefera să ștergeți numărul minim de elemente necesare pentru a elibera spațiu, astfel încât să nu împiedicați înțelegerea inteligenței artificiale a istoricului dvs. Cu toate acestea, designul gestionării memoriei impune o abordare totul sau nimic, sau o curățare manuală lentă. Am observat personal că fiecare memorie ștearsă eliberează doar aproximativ 1% din spațiul de memorie, ceea ce sugerează că sistemul permite doar aproximativ 100 de memorii înainte de a fi plin (100% utilizare). Acest plafon dur se simte arbitrar, având în vedere scala sistemelor moderne de inteligență artificială, și subminează promisiunea ChatGPT de a deveni un asistent cunoscător care crește cu dvs. în timp.

Ce ar trebui să se întâmple

Având în vedere că ChatGPT și infrastructura din spatele său au acces la resurse de calcul aproape nelimitate, este surprinzător că soluția pentru memoria pe termen lung este atât de rudimentară. Ideal, memoriile pe termen lung ale inteligenței artificiale ar trebui să reproducă mai bine modul în care funcționează creierul uman și gestionează informațiile în timp. Creierul uman are strategii eficiente pentru gestionarea memoriei – nu înregistrează pur și simplu fiecare eveniment cuvânt cu cuvânt și nu stochează informația indefinit. În schimb, creierul este proiectat pentru eficiență: păstrăm informații detaliate pe termen scurt, apoi consolidăm și comprimăm aceste detalii în memoria pe termen lung.

În neuroștiință, consolidarea memoriei se referă la procesul prin care memorile instabile pe termen scurt sunt transformate în memorii stabile și de lungă durată. Conform modelului standard de consolidare, experiențele noi sunt inițial codificate de hipocamp, o regiune a creierului crucială pentru formarea amintirilor epizodice, și, în timp, cunoștințele sunt „antrenate” în cortex pentru stocare permanentă. Acest proces nu se întâmplă instantaneu – necesită trecerea timpului și adesea are loc în timpul perioadelor de repaus sau somn. Hipocampul acționează, în esență, ca un tampon de învățare rapidă, în timp ce cortexul integrează treptat informațiile într-o formă mai durabilă, distribuită pe rețele neuronale extinse. În alte cuvinte, „memoria pe termen scurt” a creierului (memoria de lucru și experiențele recente) este transferată sistematic și reorganizată într-un depozit de memorie pe termen lung distribuit. Acest transfer în mai multe etape face memoria mai rezistentă la interferențe sau uitare, similar cu stabilizarea unei înregistrări pentru a nu fi suprascrisă ușor.

În mod crucial, creierul uman nu irosește resurse stocând fiecare detaliu cuvânt cu cuvânt. În schimb, tendința este de a filtra detalii triviale și de a păstra ceea ce este mai semnificativ din experiențele noastre. Psihologii au remarcat de mult timp că, atunci când ne amintim un eveniment din trecut sau informații învățate, de obicei ne amintim esența mai degrabă decât un raport perfect, cuvânt cu cuvânt. De exemplu, după ce citiți o carte sau urmăriți un film, vă veți aminti punctele principale ale intrigii și temele, dar nu fiecare linie de dialog. Pe măsură ce trece timpul, cuvintele exacte și detaliile minore ale experienței se estompează, lăsând în urmă o sinteză mai abstractă a ceea ce s-a întâmplat. De fapt, cercetările arată că memoria noastră cuvânt cu cuvânt (detalii precise) se estompează mai repede decât memoria noastră esențială (înțelesul general) pe măsură ce trece timpul. Acesta este un mod eficient de a stoca cunoștințe: prin abandonarea detaliilor inutile, creierul „comprimă” informațiile, păstrând doar părțile esențiale care sunt probabil să fie utile în viitor.

Această compresie neurală poate fi comparată cu modul în care computerele comprimă fișiere, și, într-adevăr, oamenii de știință au observat procese analoge în creier. Atunci când ne reamintim o amintire sau ne imaginăm o scenă viitoare, reprezentarea neurală este, în esență, accelerată și lipsită de unele detalii – este o versiune comprimată a experienței reale. Oamenii de știință de la UT Austin au descoperit un mecanism de undă cerebrală care ne permite să ne amintim o întreagă secvență de evenimente (de exemplu, o după-amiază petrecută la magazinul de alimente) în doar câteva secunde, folosind un ritm cerebral mai rapid care codifică informații mai puțin detaliate, de nivel superior. În esență, creierul nostru poate să „deruleze” amintirile, păstrând conturul și punctele cheie, omițând detaliile bogate, care ar fi inutile sau prea voluminoase pentru a fi redate în întregime. Consecința este că planurile imaginate și experiențele amintite sunt stocate într-o formă condensată – încă utile și inteligibile, dar mult mai eficiente din punct de vedere al spațiului și timpului decât experiența originală.

Un alt aspect important al gestionării memoriei umane este prioritizarea. Nu tot ceea ce intră în memoria pe termen scurt este imortalizat în stocarea pe termen lung. Creierul nostru decide subconștient ce este demn de a fi reținut și ce nu, pe baza importanței sau a salienței emoționale. Un studiu recent de la Universitatea Rockefeller a demonstrat acest principiu, folosind șoareci: șoarecii au fost expuși la mai multe rezultate într-un labirint (unele foarte răsplătitoare, unele moderat răsplătitoare, unele negative). Inițial, șoarecii au învățat toate asocierile, dar atunci când au fost testați după o lună, doar cea mai salientă amintire de înaltă răsplată a fost reținută, în timp ce detaliile mai puțin importante dispăruseră.

Cu alte cuvinte, creierul a filtrat zgomotul și a păstrat amintirea care conta cel mai mult pentru obiectivele animalului. Cercetătorii au identificat chiar o regiune a creierului, talamusul anterior, care acționează ca o specie de moderator între hipocamp și cortex în timpul consolidării, semnalizând care amintiri sunt suficient de importante pentru a fi „salvate” pe termen lung. Talamusul pare să trimită întărire continuă pentru amintirile valoroase – spunând, în esență, cortexului „păstrează aceasta” până când amintirea este pe deplin codificată – în timp ce permite amintirilor mai puțin importante să dispară. Acest lucru subliniază că uitarea nu este doar o eșec a memoriei, ci o funcție activă a sistemului: prin abandonarea informațiilor triviale sau redundante, creierul împiedică depozitarea sa de memorie să fie aglomerată și asigură că cunoștințele cele mai utile sunt ușor accesibile.

Reevaluarea memoriei inteligenței artificiale cu principii umane

Modul în care creierul uman gestionează memoria oferă o direcție clară pentru modul în care sistemele de inteligență artificială, cum ar fi ChatGPT, ar trebui să gestioneze informațiile pe termen lung. În loc de a trata fiecare memorie salvată ca un punct de date izolat care trebuie păstrat pentru totdeauna sau șters manual, o inteligență artificială ar putea consolida și rezuma memoriile mai vechi în fundal. De exemplu, dacă aveți zece conversații sau fapte legate despre proiectul dvs. în curs, inteligența artificială ar putea să le combine automat într-un rezumat concis sau într-un set de concluzii cheie – comprimând, în esență, memoria, dar păstrând esența, asemenea modului în care creierul condensează detalii în esență. Acest lucru ar elibera spațiu pentru informații noi fără a „uita” cu adevărat ceea ce era important despre interacțiunile mai vechi. Într-adevăr, documentația OpenAI sugerează că modelele ChatGPT pot face actualizări și combinări automate ale detaliilor salvate, dar experiența actuală a utilizatorului sugerează că nu este încă suficient de fluidă.

O altă îmbunătățire inspirată de principiile umane ar fi retenția memoriei prioritizate. În loc de o limită rigidă de 100 de articole, inteligența artificială ar putea cântări care memorii au fost cele mai frecvent relevante sau mai critice pentru nevoile utilizatorului și ar șterge (sau ar reduce) doar pe cele care par mai puțin importante. În practică, acest lucru ar putea însemna că ChatGPT identifică fapte precum (de exemplu, obiectivele de bază ale companiei, specificațiile proiectului în curs, preferințele personale) ca fiind foarte semnificative și ar trebui să le păstreze întotdeauna, în timp ce piese ocazionale de trivii de luni în urmă ar putea fi arhivate sau eliminate primul. Acestă abordare dinamică se aliniază cu modul în care creierul prunează continuu conexiunile neutilizate și întărește conexiunile frecvent utilizate pentru a optimiza eficiența cognitivă.

Fundamentul este că un sistem de memorie pe termen lung pentru inteligența artificială ar trebui să evolueze, nu doar să se umple și să se oprească. Memoria umană este remarcabil de adaptabilă – se transformă și se reorganizează pe măsură ce trece timpul, și nu necesită un utilizator extern să gestioneze fiecare slot de memorie. Dacă memoria ChatGPT ar funcționa mai mult ca a noastră, utilizatorii nu ar întâmpina un zid abrupt la 100 de intrări, nici alegerea dureroasă între ștergerea tuturor sau clic pe sute de articole unul câte unul. În schimb, memoriile mai vechi ale conversațiilor ar trebui să se transforme treptat într-o bază de cunoștințe distilată pe care inteligența artificială o poate folosi, și doar piesele cu adevărat învechite sau irelevante ar dispărea. Comunitatea inteligenței artificiale, care este publicul țintă aici, poate aprecia că implementarea unui astfel de sistem ar putea implica tehnici precum rezumarea contextului, baze de date vectoriale pentru recuperarea cunoștințelor sau straturi de memorie ierarhice în rețele neuronale – toate acestea fiind domenii active de cercetare. De fapt, oferirea inteligenței artificiale a unei forme de „memorie epizodică” care se comprimă în timp este o provocare cunoscută, și rezolvarea ei ar fi un salt către inteligența artificială care învață continuu și își extinde baza de cunoștințe în mod durabil.

Concluzie

Limitarea actuală de memorie a ChatGPT se simte ca o soluție provizorie care nu valorifică pe deplin puterea inteligenței artificiale. Prin a ne uita la cogniția umană, vedem că memoria pe termen lung eficientă nu se referă la stocarea unei cantități nelimitate de date brute – ci la compresia inteligentă, consolidarea și uitarea lucrurilor potrivite. Capacitatea creierului uman de a păstra ceea ce contează, în timp ce economisește spațiu de stocare, este exact ceea ce face memoria noastră pe termen lung atât de vastă și utilă. Pentru ca inteligența artificială să devină un partener pe termen lung adevărat, ar trebui să adopte o strategie similară: să distileze automat interacțiunile trecute în insight-uri durabile, în loc de a încărca această sarcină asupra utilizatorului. Frustrarea de a atinge un zid de „memorie plină” ar putea fi înlocuită de un sistem care crește cu grație odată cu utilizarea, învățând și amintind într-un mod flexibil, similar omului. Adoptarea acestor principii nu numai că ar rezolva problema de utilizator, dar ar debloca și o experiență de inteligență artificială mai puternică și personalizată pentru întreaga comunitate de utilizatori și dezvoltatori care se bazează pe aceste instrumente.