De geheugengrens van ChatGPT is frustrerend — De hersenen laten een betere manier zien

Als je een fervent gebruiker van ChatGPT bent, heb je mogelijk onlangs het gevreesde “Geheugen is vol”-scherm tegen gekomen. Dit bericht verschijnt wanneer je de limiet van ChatGPT’s opgeslagen geheugens bereikt, en het kan een aanzienlijke hindernis zijn bij langdurige projecten. Geheugen zou een sleutelfunctie moeten zijn voor complexe, lopende taken – je wilt dat je AI kennis uit eerdere sessies meeneemt naar toekomstige uitvoer. Het zien van een geheugen vol-waarschuwing midden in een tijdgevoelig project (bijvoorbeeld, terwijl ik aan het troubleshooten was van persistente HTTP 502-serverfouten op een van onze zustersites) kan extreem frustrerend en storend zijn.

De frustratie met de geheugengrens van ChatGPT

Het kernprobleem is niet dat er een geheugengrens bestaat – zelfs betalende ChatGPT Plus-gebruikers kunnen begrijpen dat er praktische limieten kunnen zijn aan hoeveel er opgeslagen kan worden. Het echte probleem is hoe je oude geheugens moet beheren zodra de limiet is bereikt. Het huidige interface voor geheugenbeheer is omslachtig en tijdrovend. Wanneer ChatGPT je meldt dat je geheugen 100% vol is, heb je twee opties: pijnlijk langzaam geheugens een voor een verwijderen, of allemaal tegelijk wissen. Er is geen tussenweg of bulkselectietool om je opgeslagen informatie efficiënt te snoeien.

Het verwijderen van één geheugen tegelijk, vooral als je dit elke paar dagen moet doen, voelt als een klus die niet bevorderlijk is voor langdurig gebruik. Immers, de meeste opgeslagen geheugens werden om een reden bewaard – ze bevatten waardevolle context die je aan ChatGPT hebt verstrekt over je behoeften of je bedrijf. Natuurlijk zou je liever het minimum aantal items verwijderen dat nodig is om ruimte vrij te maken, zodat je de begrip van de AI voor je geschiedenis niet verstoort. Toch dwingt het ontwerp van het geheugenbeheer een alles-of-niets-benadering of een langzame handmatige curatie af. Ik heb persoonlijk waargenomen dat elk verwijderd geheugen slechts ongeveer 1% van de geheugencapaciteit vrijmaakt, wat suggereert dat het systeem alleen ongeveer 100 geheugens toelaat voordat het vol is (100% gebruik). Deze harde limiet voelt willekeurig aan, gezien de schaal van moderne AI-systemen, en ondermijnt de belofte dat ChatGPT een kundige assistent wordt die met je meegroeit in de loop van de tijd.

Wat er zou moeten gebeuren

Gezien het feit dat ChatGPT en de infrastructuur erachter toegang hebben tot vrijwel onbeperkte rekencapaciteit, is het verrassend dat de oplossing voor langetermijngeheugen zo rudimentair is. Ideaal gezien zouden langetermijn-AI-geheugens beter moeten repliceren hoe de menselijke hersenen informatie over tijd heen verwerken en beheren. De menselijke hersenen hebben efficiënte strategieën voor geheugenbeheer ontwikkeld – we nemen niet elk evenement letterlijk op en slaan het niet onbeperkt op. In plaats daarvan zijn de hersenen ontworpen voor efficiëntie: we houden gedetailleerde informatie in het kortetermijngeheugen, en vervolgens consolideren en compressen die details in het langetermijngeheugen.

In de neurologie verwijst geheugenconsolidatie naar het proces waarbij onstabiele korte-termijngeheugens worden omgezet in stabiele, langdurige. Volgens het standaardmodel van consolidatie worden nieuwe ervaringen aanvankelijk gecodeerd door de hippocampus, een hersenregio die cruciaal is voor het vormen van episodische geheugens, en met de tijd wordt de kennis “getraind” in de cortex voor permanente opslag. Dit proces gebeurt niet onmiddellijk – het vereist de passage van tijd en gebeurt vaak tijdens periodes van rust of slaap. De hippocampus fungeert als een snelle leerbuffer, terwijl de cortex de informatie langzaam integreert in een meer duurzame vorm over uitgebreide neurale netwerken. In andere woorden, het “kortetermijngeheugen” van de hersenen (werkgeheugen en recente ervaringen) wordt systematisch overgedragen en georganiseerd in een gedistribueerd langetermijngeheugen. Deze meerdere overdracht maakt het geheugen meer resistent tegen interferentie of vergeten, vergelijkbaar met het stabiliseren van een opname zodat deze niet gemakkelijk overschreven kan worden.

Belangrijk is dat de menselijke hersenen geen middelen verspillen door elke detail letterlijk op te slaan. In plaats daarvan filteren ze triviale details uit en behouden ze wat het meest betekenisvol is uit onze ervaringen. Psychologen hebben lang geleden opgemerkt dat wanneer we een verleden evenement of geleerde informatie herinneren, we meestal de essentie ervan onthouden, in plaats van een perfecte, letterlijke weergave. Bijvoorbeeld, nadat je een boek hebt gelezen of een film hebt bekeken, herinner je je de belangrijkste plotpunten en thema’s, maar niet elke dialoog. Met de tijd vervaagt de exacte woordkeus en de kleine details van de ervaring, waardoor alleen een meer abstracte samenvatting van wat er gebeurd is overblijft. In feite toont onderzoek aan dat ons letterlijke geheugen (precieze details) sneller vervaagt dan ons geheugen van de essentie (algemene betekenis) met het verstrijken van de tijd. Dit is een efficiënte manier om kennis op te slaan: door overtollige specificaties te verwijderen, “compressen” de hersenen informatie, waardoor alleen de essentiële delen overblijven die in de toekomst nuttig kunnen zijn.

Deze neurale compressie kan worden vergeleken met hoe computers bestanden comprimeren, en inderdaad hebben wetenschappers soortgelijke processen in de hersenen waargenomen. Wanneer we een geheugen mentaal afspelen of een toekomstig scenario verbeelden, wordt de neurale representatie effectief versneld en ontdaan van enkele details – het is een gecomprimeerde versie van de werkelijke ervaring. Neurologen aan de UT Austin ontdekten een hersengolfmechanisme dat ons in staat stelt om een hele reeks gebeurtenissen (bijvoorbeeld een middag doorgebracht in de supermarkt) in slechts enkele seconden te herinneren door een snellere hersenritme te gebruiken dat minder gedetailleerde, hoogwaardige informatie codeert. In wezen kunnen onze hersenen door geheugens heen spoelen, waarbij ze de contour en de kritieke punten behouden en de rijke details weglaten, die overbodig of te omvangrijk zouden zijn om in zijn geheel af te spelen. Het gevolg is dat verbeelde plannen en herinnerde ervaringen in een gecondenseerde vorm worden opgeslagen – nog steeds nuttig en begrijpelijk, maar veel efficiënter in opslag en tijd dan de oorspronkelijke ervaring.

Een ander belangrijk aspect van geheugenbeheer in de hersenen is prioriteit. Niet alles dat in het kortetermijngeheugen terechtkomt, wordt onsterfelijk in het langetermijngeheugen opgeslagen. Onze hersenen beslissen onderbewust wat het waard is om te onthouden en wat niet, op basis van significantie of emotionele relevantie. Een recente studie aan de Rockefeller University demonstreerde dit principe met behulp van muizen: de muizen werden blootgesteld aan verschillende resultaten in een doolhof (sommige zeer belonend, sommige matig belonend, sommige negatief). Aanvankelijk leerden de muizen alle associaties, maar toen ze een maand later getest werden, werd alleen het meest opvallende hoogwaardige geheugen behouden, terwijl de minder belangrijke details waren verdwenen.

Met andere woorden, de hersenen filterden het lawaai eruit en behielden het geheugen dat het meest belangrijk was voor de doelen van het dier. Onderzoekers identificeerden zelfs een hersenregio, de anterior thalamus, die fungeert als een soort moderator tussen de hippocampus en de cortex tijdens consolidatie, en aangeeft welke geheugens belangrijk genoeg zijn om “op te slaan” voor de langetermijn. De thalamus lijkt continue versterking te geven voor waardevolle geheugens – het vertelt de cortex in feite “houd deze” totdat het geheugen volledig is gecodeerd – terwijl minder belangrijke geheugens vervagen. Deze vondst benadrukt dat vergeten niet alleen een falen van het geheugen is, maar een actief kenmerk van het systeem: door los te laten van triviaal of redundantie-informatie, voorkomt de hersenen dat de geheugenopslag wordt opgevuld en zorgt ervoor dat de meest nuttige kennis gemakkelijk toegankelijk is.

Het herschrijven van AI-geheugen met menselijke principes

De manier waarop de menselijke hersenen geheugen hanteren, biedt een duidelijk blauwdruk voor hoe ChatGPT en soortgelijke AI-systemen langetermijninformatie moeten beheren. In plaats van elk opgeslagen geheugen te behandelen als een geïsoleerd datapunt dat ofwel voor altijd moet worden bewaard of handmatig moet worden verwijderd, zou een AI oudere geheugens kunnen consolideren en samenvatten op de achtergrond. Bijvoorbeeld, als je tien verwante gesprekken of feiten hebt opgeslagen over je lopende project, zou de AI deze mogelijk automatisch kunnen samenvoegen tot een conciese samenvatting of een set van sleutelconclusies – effectief het geheugen comprimeren terwijl de essentie behouden blijft, net zoals de hersenen details comprimeren tot de essentie. Dit zou ruimte vrijmaken voor nieuwe informatie zonder echt “te vergeten” wat belangrijk was over de oude interacties. Inderdaad, de documentatie van OpenAI hint dat de modellen van ChatGPT al enige automatische updating en combineren van opgeslagen details kunnen doen, maar de huidige gebruikerservaring suggereert dat het nog niet naadloos of voldoende is.

Een andere door de mens geïnspireerde verbetering zou geprioriteerd geheugenbehoud zijn. In plaats van een starre limiet van 100 items, zou de AI kunnen wegen welke geheugens het meest relevant of het meest kritiek zijn voor de behoeften van de gebruiker, en alleen diegene verwijderen (of downsamplen) die het minst belangrijk lijken. In de praktijk zou dit kunnen betekenen dat ChatGPT identificeert dat bepaalde feiten (bijv. de kerndoelen van je bedrijf, specifics van je project, persoonlijke voorkeuren) zeer relevant zijn en altijd moeten worden bewaard, terwijl eenmalige stukjes trivia uit maanden geleden kunnen worden gearchiveerd of verwijderd. Deze dynamische aanpak komt overeen met hoe de hersenen continu onderbenutte verbindingen snoeien en vaker gebruikte versterken om cognitieve efficiëntie te optimaliseren.

De kern is dat een langetermijngeheugensysteem voor AI moet evolueren, niet alleen vol raken en stoppen. Het menselijke geheugen is opmerkelijk aanpasbaar – het verandert en reorganiseert zich met de tijd, en het verwacht niet dat een externe gebruiker elk geheugenslot handmatig moet beheren. Als het geheugen van ChatGPT meer op dat van ons zou werken, zouden gebruikers geen abrupte muur van 100 items tegenkomen, noch de pijnlijke keuze tussen alles wissen of elk item een voor een doorlopen. In plaats daarvan zouden oude chatgeheugens langzaam veranderen in een gedistilleerde kennisbasis die de AI kan gebruiken, en alleen de echt verouderde of irrelevante stukken zouden verdwijnen. De AI-gemeenschap, die hier het doelpubliek is, kan waarderen dat het implementeren van een dergelijk systeem technieken kan omvatten zoals contextsamenvatting, vector databases voor kennisopslag, of hiërarchische geheugenlagen in neurale netwerken – allemaal actieve onderzoeksgebieden. Feitelijk, het geven van AI een vorm van “episodisch geheugen” dat over tijd comprimeert, is een bekende uitdaging, en het oplossen ervan zou een stap zijn naar AI die continu leert en zijn kennisbasis duurzaam schaalt.

Conclusie

De huidige geheugengrens van ChatGPT voelt als een tijdelijke oplossing die de volledige kracht van AI niet benut. Door naar menselijke cognitie te kijken, zien we dat effectief langetermijngeheugen niet gaat over het opslaan van onbeperkte ruwe data – het gaat over slimme compressie, consolidatie en vergeten van de juiste dingen. De capaciteit van de menselijke hersenen om vast te houden wat belangrijk is en tegelijkertijd opslag te besparen, is precies wat ons langetermijngeheugen zo uitgebreid en nuttig maakt. Om AI te laten worden tot een echte langetermijnpartner, zou het een soortgelijke strategie moeten aannemen: automatisch oude interacties samenvatten tot duurzame inzichten, in plaats van deze last af te wentelen op de gebruiker. De frustratie van het tegenkomen van een “geheugen vol”-muur zou kunnen worden vervangen door een systeem dat soepel meegroeit met gebruik, lerend en onthoudend op een flexibele, menselijke manier. Het aannemen van deze principes zou niet alleen het UX-pijnpunt oplossen, maar ook een krachtigere en meer gepersonaliseerde AI-ervaring ontgrendelen voor de hele gemeenschap van gebruikers en ontwikkelaars die van deze tools afhankelijk zijn.