Milla Jovovichs MemPalace skal løse AI-s problemer med minne

Millioner av mennesker åpner en chattevindu hver dag og begynner å forklare seg selv til kunstig intelligens (AI). Den lytter oppmerksomt, genererer umiddelbart et intelligent lydende svar og så, når sesjonen er over, glemmer den hver eneste detalj om interaksjonen.

Skalene på denne ritualet er overveldende. ChatGPT alene håndterer over en milliard forespørsler per dag, med over 800 millioner ukentlige aktive brukere per slutten av 2025. Generativ AI-tilpasning har nådd over 16% av verdens befolkning, et tall som ikke eksisterte meningsfullt for tre år siden.

En enorm infrastruktur med en økende miljøpris støtter denne modellen: USAs datacenterer forbrukte 183 terawattimer med elektrisitet i 2024, mer enn 4% av landets totale forbruk, eller omtrent likt Pakistans årlige elektrisitetsbehov.

På grunn av mangelen på minne i AI-systemer, brukes en stor prosentdel av denne energien på å gjenopprette kontekst. Gjentatte forklaringer, prosjektgjeninnføringer og kontekstdumper på starten av hver sesjon er bortkastede beregninger.

Minne er hva som gjør et verktøy til en samarbeidspartner

AI-assistentene har ingen varig minne som standard. Dette ville ikke ha noen betydning hvis vi brukte AI som en regnemaskin: taste inn et tall, få et resultat, gå videre.

Men de fleste mennesker bruker det ikke på den måten lenger. De har lange, iterative, dypt kontekstuelle samtaler med AI – bygger ting over uker eller måneder, utvikler felles språk, beslutninger og historie. Mengden kontekst AI kan aktivt holde i mente på et gitt tidspunkt kan variere avhengig av abonnementstieret.

Hittil har AI vist seg å være et fantastisk verktøy, men siden de tidlige utviklingsstadiene har det vært rettet mot å bli betraktet som en kompanjong. Denne ambisjonen krever minne. Uten det, vil fremgangen fortsette å nullstilles.

Varig minne endrer hva AI kan gjøre i praksis. En utvikler får en AI som beholder arkitektoniske beslutninger og grunnene bak dem. Et team får en som kjenner prosjektets historie uten å bli gjeninnført. En forfatter får en som har samlet kunnskap om deres arbeid over tid. Evnen til modellen betyr mindre enn om den faktisk kan samle kunnskap om personen som bruker den.

Hvorfor dette har vært hardt å løse

Utfordringen er ikke bare lagring, men også gjenvinning. I teorien kan du mata inn hver eneste tidligere samtale i en ny sesjon. Men det blir raskt komputasjonelt absurd. Kontekstvinduer, selv om de utvides, er ikke uendelige. Å dumpe måneder med ustrukturert chat i en prompt er ikke bare ueffektivt, men også tids- og energikrevende.

Paras Pandey, en dataingeniør, setter frem den grundige vanskeligheten på en enkel måte: “AI-minne er i realiteten et problem med gjenvinnings-troverdighet forkledt som et lagringsproblem. Du kan lagre hva som helst, det harde er å gjenvinne riktig del av det på inferenstid uten å hallucinere hullene. Det er en vanskeligere versjon av hva vi har løst i datasystemer i årevis, og feltet er fortsatt i begynnelsen.”

Aktuelle AI-minne-tilnærminger innebærer å la systemene bestemme hva som er verdt å huske. Men å la AI bestemme hva som betyr noe ofte kaster bort nettopp den nuanserte konteksten som gjorde den opprinnelige utvekslingen verdifull. Du beholder den generelle ideen, men mister hele samtalen der du forklarte dine spesifikke bekymringer, og alternativene du vurderte og forkastet.

Den ideelle situasjonen ville være å gjøre riktig informasjon tilgjengelig på riktig tidspunkt.

Velkommen til MemPalace

Dette er nettopp problemet som MemPalace, et nylig lansert åpen kildekode-prosjekt, tar sikte på. I stedet for å sammenfatte eller kaste, lagrer det samtaler i fullt omfang og bygger en navigerbar struktur rundt dem, lånt fra den antikke greske teknikken med minnepalasset, hvor oratorer ville plassere ideer mentalt i bestemte rom i et forestilt bygg for å huske dem senere.

Hva som gjør MemPalace bemerkelsesverdig, er ikke bare elegansen i tilnærmingen. Det er resultatene. I standard akademiske benchmark for AI-minnegjenvinning har MemPalace postet de høyeste scorene noensinne publisert for et gratis system, og det gjør det mens det kjører helt på din egen maskin, uten abonnement, uten sky-avhengighet og uten ekstern API-behov.

Konkurrerende kommersielle tjenester tar betalt fra 20 til 250 dollar per måned for sammenlignbare, og ofte dårligere fungerende funksjoner.

Denne kombinasjonen av beste-i-klassen-ytelse, fullstendig lokal og helt gratis, er uvanlig nok til å være verdt å merke seg. Og fordi det kjører på din egen maskinvare i stedet for på fjerne servere, er hver forespørsel du sender gjennom MemPalace en som ikke bidrar til den svellende energiregnskapet til dataindustrien.

Det større bildet

MemPalace er ett prosjekt, men det peker på noe større: erkjennelsen av at varig minne ikke er en premium-tillegg til AI-systemer, men en grunnleggende prestasjon for de nye bruksområdene for AI.

Prosjektet ble bygget av et lite team, Milla Jovovich (ja, skuespilleren fra Resident Evil), Ben Sigman, og Claude, og er listet som å ha bare syv commits.

At et system som overgår kommersielle produkter med dedikerte ingeniørteam kom fra et så lean arbeid, sier noe om hvor den virkelige vanskeligheten ligger.

Problemene var ikke datamaskiner eller ressurser. Det var en tydeligere modell av hva minne faktisk trenger å gjøre.