Tankeledere

Milla Jovovichs MemPalace tar sikte på å løse hukommelsesproblemet i AI

Juan Pablo Aguirre Osorio
Legg til Unite.AI blant dine foretrukne kilder på Google
A woman standing in a luminous, neoclassical hallway, interacting with glowing holographic data structures representing a
Viktige punkterMemPalace løser AIens minnehentingsproblem ved å lagre hele samtaler i en lokal…
Vis mer
  • MemPalace løser AIens minnehentingsproblem ved å lagre hele samtaler i en lokal navigerbar struktur.
  • Vedvarende minne forvandler AI fra et engangsverktøy til en ekte samarbeidspartner for langsiktige prosjekter.
  • Systemet overgår kostbare kommersielle tjenester mens det kjører helt lokalt og fullstendig gratis på brukerens maskinvare.

Millioner av mennesker åpner et chattevindu hver dag og begynner å forklare seg selv til kunstig intelligens (AI). Den lytter oppmerksomt, genererer umiddelbart et svar som høres intelligent ut og så, når sesjonen er over, glemmer den hver eneste detalj om interaksjonen.

Omfanget av dette ritualet er overveldende. ChatGPT alene håndterer over en milliard forespørsler per dag, med over 800 millioner ukentlige aktive brukere per slutten av 2025. Bruken av generativ AI har nådd over 16% av verdens befolkning, mens bruken ikke hadde noe betydelig omfang tre år tidligere.

En enorm infrastruktur med en økende miljøpris støtter denne modellen: USAs datasentre forbrukte 183 terawattimer med elektrisitet i 2024, mer enn 4% av landets totale strømforbruk, eller omtrent likt Pakistans årlige elektrisitetsbehov.

På grunn av mangelen på minne i AI-systemer, brukes en stor prosentdel av denne energien på å gjenopprette kontekst. Gjentatte forklaringer, prosjektgjeninnføringer og kontekstdumper på starten av hver sesjon er bortkastede beregninger.

Minne er hva som gjør et verktøy til en samarbeidspartner

AI-assistentene har ikke noe varig minne som standard. Dette ville ikke ha noen betydning hvis vi brukte AI som en regnemaskin: taste inn et tall, få et resultat, gå videre.

Men de fleste mennesker bruker det ikke på den måten lenger. De har lange, iterative, dypt kontekstuelle samtaler med AI – bygger ting over uker eller måneder, utvikler felles språk, beslutninger og historie. Mengden kontekst AI aktivt kan holde tilgjengelig på et gitt tidspunkt kan variere avhengig av abonnementsnivået.

Hittil har AI vist seg å være et fantastisk verktøy, men siden de tidlige utviklingsstadiene har det vært rettet mot å bli betraktet som en kompanjong. Denne ambisjonen krever minne. Uten det, vil fremgangen fortsette å nullstilles.

Varig minne endrer hva AI kan gjøre i praksis. En utvikler får en AI som beholder arkitektoniske beslutninger og grunnene bak dem. Et team får en som kjenner prosjektets historie uten å måtte orienteres på nytt. En forfatter får en som har samlet kunnskap om forfatterens arbeid over tid. Modellens evner betyr mindre enn om den faktisk kan samle kunnskap om personen som bruker den.

Hvorfor dette har vært vanskelig å løse

Utfordringen er ikke bare lagring, men også gjenfinning av informasjon. I teorien kan du mate inn hver eneste tidligere samtale i en ny sesjon. Men det blir raskt beregningsmessig absurd. Kontekstvinduer, selv om de utvides, er ikke uendelige. Å dumpe måneder med ustrukturert chat i en prompt er ikke bare ueffektivt, men også tids- og energikrevende.

Paras Pandey, en dataingeniør, beskriver den grunnleggende vanskeligheten på en enkel måte: “AI-minne er i realiteten et problem med nøyaktigheten i informasjonsgjenfinning forkledt som et lagringsproblem. Du kan lagre hva som helst, det vanskelige er å hente frem riktig del under inferens uten å fylle hullene med oppdiktede opplysninger. Det er en vanskeligere versjon av det vi har arbeidet med å løse i datasystemer i årevis, og feltet er fortsatt i begynnelsen.”

Aktuelle AI-minne-tilnærminger innebærer å la systemene bestemme hva som er verdt å huske. Men å la AI bestemme hva som betyr noe, fører ofte til at den kaster bort nettopp den nuanserte konteksten som gjorde den opprinnelige utvekslingen verdifull. Du beholder den generelle ideen, men mister hele samtalen der du forklarte dine spesifikke bekymringer, og alternativene du vurderte og forkastet.

Den ideelle situasjonen ville være å gjøre riktig informasjon tilgjengelig på riktig tidspunkt.

Velkommen til MemPalace

Dette er nettopp problemet som MemPalace, et nylig lansert prosjekt med åpen kildekode, tar sikte på. I stedet for å sammenfatte eller kaste, lagrer det samtaler i fullt omfang og bygger en navigerbar struktur rundt dem, lånt fra den antikke greske teknikken med minnepalasset, hvor oratorer ville plassere ideer mentalt i bestemte rom i et forestilt bygg for å huske dem senere.

Hva som gjør MemPalace bemerkelsesverdig, er ikke bare elegansen i tilnærmingen. Det er resultatene. I standard akademiske referansetester for gjenfinning av informasjon i AI-minne har MemPalace postet de høyeste scorene noensinne publisert for et gratis system, og det gjør det mens det kjører helt på din egen maskin, uten abonnement, uten sky-avhengighet og uten behov for et eksternt API.

Konkurrerende kommersielle tjenester tar betalt fra 20 til 250 dollar per måned for sammenlignbare, og ofte dårligere fungerende funksjoner.

Denne kombinasjonen av beste-i-klassen-ytelse, fullstendig lokal drift og helt gratis bruk er uvanlig nok til å være verdt å merke seg. Og fordi det kjører på din egen maskinvare i stedet for på fjerne servere, er hver forespørsel du sender gjennom MemPalace en som ikke bidrar til det voksende energiregnskapet til datasenterindustrien.

Det større bildet

MemPalace er ett prosjekt, men det peker på noe større: erkjennelsen av at varig minne ikke er et premiumtillegg til AI-systemer, men en grunnleggende funksjon for de nye bruksområdene for AI.

Prosjektet ble bygget av et lite team, Milla Jovovich (ja, skuespilleren fra Resident Evil), Ben Sigman, og Claude, og er listet som å ha bare syv commits.

At et system som overgår kommersielle produkter med dedikerte ingeniørteam, kom fra en så begrenset innsats, sier noe om hvor den virkelige vanskeligheten ligger.

Problemene var ikke datamaskiner eller ressurser. Det var en tydeligere modell av hva minne faktisk trenger å gjøre.

Juan Pablo Aguirre Osorio er en medvirkende reporter for Espacio Media Incubator. Med en bakgrunn i full-stack ingeniørarbeid, bringer Juan Pablo en teknisk bakgrunn til sin rapportering om banebrytende teknologier, inkludert AI. Hans arbeid har vært presentert i HackerNoon, The Sociable og andre, og han var tidligere studentambassadør hos Microsoft.