Milla Jovovichs MemPalace zielt darauf ab, AIs Speicherproblem zu lösen

Millionen von Menschen öffnen täglich ein Chat-Fenster und beginnen, sich einer künstlichen Intelligenz (KI) zu erklären. Sie hört aufmerksam zu, generiert sofort eine clever klingende Antwort und vergisst dann, wenn die Sitzung endet, jedes einzelne Detail über die Interaktion.

Das Ausmaß dieser Zeremonie ist atemberaubend. ChatGPT allein bearbeitet über eine Milliarde Anfragen pro Tag, mit mehr als 800 Millionen wöchentlich aktiven Nutzern Ende 2025. Die Verbreitung generativer KI hat über 16% der Weltbevölkerung erreicht, eine Zahl, die vor drei Jahren nicht bedeutungsvoll existierte.

Eine enorme Infrastruktur mit zunehmendem Umweltpreis unterstützt dieses Modell: US-amerikanische Rechenzentren verbrauchten 2024 183 Terawattstunden Strom, mehr als 4% des gesamten Stromverbrauchs des Landes, oder etwa gleichbedeutend mit dem jährlichen Strombedarf Pakistans.

Aufgrund des Mangels an Speicher von KI-Systemen wird ein großer Teil dieser Energie für die erneute Herstellung von Kontext verschwendet. Wiederholte Erklärungen, Projektwiedereinführungen und Kontextabläufe zu Beginn jeder Sitzung sind verschwendete Rechenleistung.

Speicher ist es, was ein Werkzeug in einen Mitarbeiter verwandelt

KI-Assistenten haben standardmäßig keinen persistenten Speicher. Das wäre nicht wichtig, wenn wir KI wie einen Taschenrechner verwenden würden: eine Zahl eingeben, ein Ergebnis erhalten, weitermachen.

Aber die meisten Menschen verwenden es nicht mehr auf diese Weise. Sie führen lange, iterative, tief kontextuelle Gespräche mit KI – bauen Dinge über Wochen oder Monate auf, entwickeln eine gemeinsame Sprache, Entscheidungen und Geschichte. Die Menge an Kontext, den die KI zu jedem gegebenen Zeitpunkt im Kopf behalten kann, variiert je nach Abonnement-Tarif.

Bisher hat sich KI als wunderbares Werkzeug erwiesen, aber seit den frühen Entwicklungsstadien darauf abgezielt, als Begleiter angesehen zu werden. Diese Ambition erfordert Speicher. Ohne ihn wird der Fortschritt weiterhin zurückgesetzt.

Persistenter Speicher ändert, was KI in der Praxis tun kann. Ein Entwickler erhält eine KI, die architektonische Entscheidungen und die zugrunde liegende Argumentation behält. Ein Team erhält eine, die die Projektgeschichte kennt, ohne erneut eingeführt zu werden. Ein Schriftsteller erhält eine, die über die Zeit hinweg Kenntnisse über seine Arbeit angesammelt hat. Die Fähigkeit des Modells ist weniger wichtig als die Frage, ob es tatsächlich Kenntnisse über die Person sammeln kann, die es verwendet.

Warum dies schwer zu lösen war

Die Herausforderung besteht nicht nur im Speicher, sondern in der Wiederherstellung. Theoretisch kann man jede vergangene Konversation in eine neue Sitzung einfügen. Aber das wird schnell rechenintensiv absurd. Kontextfenster, obwohl sie sich erweitern, sind nicht unendlich. Der Abfall von Monaten unstrukturierter Konversation in einen Prompt ist nicht nur ineffektiv, sondern auch zeitaufwändig und energieverbrauchend.

Paras Pandey, ein Daten-Ingenieur, bringt die Kernschwierigkeit einfach zum Ausdruck: “KI-Speicher ist wirklich ein Wiederherstellungs-Fidelitäts-Problem, das als Speicher-Problem verkleidet ist. Man kann alles persistieren, das Schwierige ist, den richtigen Ausschnitt davon zur Inferenzzeit wiederzuerlangen, ohne die Lücken zu halluzinieren. Das ist ein schwierigeres Problem, das wir in Daten-Systemen seit Jahren lösen, und das Feld ist noch immer in den Anfängen.”

Die aktuellen KI-Speicher-Ansätze beinhalten, dass Systeme entscheiden, was es wert ist, sich zu merken. Aber wenn man KI entscheiden lässt, was wichtig ist, wirft man oft genau den Nuancen-Kontext weg, der den ursprünglichen Austausch wertvoll gemacht hat. Man behält die allgemeine Idee, aber verliert das gesamte Gespräch, in dem man seine spezifischen Bedenken erklärte und die Alternativen, die man in Betracht zog und ablehnte.

Das ideale Szenario wäre, die richtigen Informationen zum richtigen Moment auffindbar zu machen.

MemPalace kommt ins Spiel

Genau dieses Problem zielt MemPalace, ein kürzlich veröffentlichtes Open-Source-Projekt, darauf ab. Anstatt zusammenzufassen oder wegzuschmeißen, speichert es Konversationen vollständig und baut eine navigierbare Struktur um sie herum, indem es die alte griechische Technik des Gedächtnispalastes übernimmt, bei der Redner Ideen in bestimmten Räumen eines imaginierten Gebäudes mental platzierten, um sie später abrufen zu können.

Was MemPalace bemerkenswert macht, ist nicht nur die Eleganz des Ansatzes. Es sind die Ergebnisse. In Standard-Akademischen Benchmarks für KI-Speicher-Wiederherstellung hat MemPalace die höchsten Punktzahlen, die jemals für ein kostenloses System veröffentlicht wurden, und es tut dies, während es vollständig auf Ihrem eigenen Rechner läuft, ohne Abonnement, ohne Cloud-Abhängigkeit und ohne externe API-Anforderung.

Konkurrierende kommerzielle Dienste verlangen zwischen 20 und 250 US-Dollar pro Monat für vergleichbare und oft schlechter ausführende Funktionalitäten.

Diese Kombination aus Spitzenleistung, vollständig lokaler Ausführung und völlig kostenlos ist ungewöhnlich genug, um Aufmerksamkeit zu verdienen. Und da es auf Ihrem Hardware läuft und nicht auf Remote-Servern, ist jede Anfrage, die Sie über MemPalace leiten, eine, die nicht zum anwachsenden Energie-Verbrauch der Rechenzentrums-Industrie beiträgt.

Das größere Bild

MemPalace ist ein Projekt, aber es weist auf etwas Größeres hin: die Erkenntnis, dass persistenter Speicher kein Premium-Add-on für KI-Systeme ist, sondern eine grundlegende Leistung für die neuen Anwendungsfälle von KI.

Das Projekt wurde von einem kleinen Team, Milla Jovovich (Ja, die Schauspielerin aus Resident Evil), Ben Sigman und Claude, erstellt und hat nur sieben Commits.

Dass ein System, das kommerzielle Produkte mit dedizierten Ingenieur-Teams übertrifft, aus einem so schlanken Bemühen stammt, sagt etwas über die wahre Schwierigkeit aus.

Das Problem lag nicht bei Computern oder Ressourcen. Es lag an einem klareren Modell davon, was Speicher eigentlich tun muss.