MemPalace Milli Jovovich ma rozwiązać problem pamięci AI

Miliony ludzi otwierają okno czatu każdego dnia i zaczynają przedstawiać siebie sztucznej inteligencji (AI). Słucha uważnie, natychmiast generuje inteligentnie brzmiącą odpowiedź, a następnie, gdy sesja się kończy, zapomina każdy szczegół dotyczący interakcji.

Skala tego rytuału jest oszałamiająca. Sam ChatGPT obsługuje ponad jeden miliard zapytań dziennie, a według danych z końca 2025 roku miał ponad 800 milionów aktywnych użytkowników tygodniowo. Przyjęcie generatywnej sztucznej inteligencji osiągnęło ponad 16% światowej populacji, podczas gdy trzy lata wcześniej nie było jeszcze znaczącej adopcji tej technologii.

Ogromna infrastruktura z rosnącą ceną środowiskową wspiera ten model: amerykańskie centra danych zużywały 183 terawatogodziny prądu w 2024 roku, więcej niż 4% całkowitego zużycia energii elektrycznej w kraju, czyli mniej więcej tyle, ile roczne zapotrzebowanie na prąd w Pakistanie.

Ze względu na brak pamięci systemów sztucznej inteligencji, znaczna część tej energii jest tracona na ponowne ustalenie kontekstu. Powtarzające się wyjaśnienia, ponowne wprowadzenia projektów i zrzuty kontekstu na początku każdej sesji to marnowanie mocy obliczeniowej.

To pamięć zmienia narzędzie we współpracownika

Asystenci AI nie mają domyślnie trwałej pamięci. Nie miałoby to znaczenia, gdybyśmy używali AI jak kalkulatora: wprowadź liczbę, otrzymaj wynik, idź dalej.

Ale większość ludzi nie używa jej już w ten sposób. Mają długie, iteracyjne, głęboko kontekstowe rozmowy z AI – budują rzeczy przez tygodnie lub miesiące, rozwijają wspólny język, decyzje i historię. Ilość kontekstu, jaki AI może aktywnie utrzymywać w danym momencie, może się różnić w zależności od poziomu subskrypcji.

Do tej pory AI okazała się wspaniałym narzędziem, ale od wczesnych etapów rozwoju miała stać się towarzyszem. Ta ambicja wymaga pamięci. Bez niej postęp będzie nadal resetowany.

Trwała pamięć zmienia to, co AI może robić w praktyce. Deweloper otrzymuje AI, która zachowuje decyzje architektoniczne i powody, dla których zostały podjęte. Zespół otrzymuje AI, która zna historię projektu bez potrzeby ponownego briefowania. Pisarz otrzymuje AI, która zgromadziła wiedzę o twórczości tego pisarza z biegiem czasu. Możliwości modelu mają mniejsze znaczenie niż to, czy może naprawdę gromadzić wiedzę o osobie, która z niego korzysta.

Dlaczego to było trudne do rozwiązania

Wyzwanie nie polega tylko na przechowywaniu, ale na wyszukiwaniu informacji. W teorii możesz wprowadzić każdą poprzednią rozmowę do nowej sesji. Ale to szybko staje się obliczeniowo absurdalne. Okna kontekstowe, chociaż rozszerzające się, nie są nieskończone. Zrzucanie miesięcy nieustrukturyzowanego czatu do promptu nie tylko nie jest skuteczne, ale także czasochłonne i energochłonne.

Paras Pandey, inżynier danych, wyjaśnia trudność w prosty sposób: “Pamięć AI to tak naprawdę problem wierności wyszukiwania informacji przebrany za problem przechowywania. Możesz utrwalić wszystko, trudna część polega na wyszukaniu odpowiedniego fragmentu w czasie wnioskowania bez wypełniania luk zmyślonymi informacjami. To trudniejsza wersja tego, czego rozwiązaniem zajmujemy się w systemach danych od lat, a dziedzina jest nadal w powijakach.”

Bieżące podejścia do pamięci AI polegają na tym, że systemy decydują, co warto pamiętać. Ale pozwalanie AI na decydowanie, co jest ważne, często wyrzuca dokładnie ten rodzaj kontekstu pełnego niuansów, który uczynił pierwotną wymianę wartościową. Zachowujesz ogólny pomysł, ale tracisz całą rozmowę, w której wyjaśniłeś swoje szczególne obawy, oraz alternatywy, które rozważałeś i odrzuciłeś.

Idealnym scenariuszem byłoby uczynienie odpowiednich informacji dostępnymi w odpowiedniej chwili.

MemPalace wkracza do gry

To właśnie problem, z którym ma się zmierzyć MemPalace, niedawno wydany projekt open-source. Zamiast podsumowywania lub wyrzucania, przechowuje rozmowy w całości i buduje nawigowalną strukturę wokół nich, korzystając ze starożytnej greckiej techniki pałacu pamięci, w której mówcy umieszczali w myślach idee w określonych pokojach wyobrażonego budynku, aby je później przypomnieć.

O tym, że MemPalace jest godny uwagi, decyduje nie tylko elegancja podejścia, ale także wyniki. W standardowych akademickich benchmarkach dotyczących wyszukiwania informacji w pamięci AI, MemPalace osiągnął najwyższe wyniki kiedykolwiek opublikowane dla bezpłatnego systemu, i robi to, działając w całości na Twoim urządzeniu, bez subskrypcji, bez zależności od chmury i bez konieczności korzystania z zewnętrznego API.

Konkurujące usługi komercyjne pobierają od 20 do 250 dolarów miesięcznie za porównywalną, a często gorszą funkcjonalność.

To połączenie najwyższej klasy wydajności, całkowicie lokalnego działania i pełnej bezpłatności jest na tyle niezwykłe, że warto zwrócić na to uwagę. A ponieważ działa na Twoim sprzęcie, a nie na serwerach zdalnych, każde zapytanie, które przekierujesz przez MemPalace, to zapytanie, które nie powiększa rosnącego rachunku za energię branży centrów danych.

Większy obraz

MemPalace to jeden projekt, ale wskazuje on na coś większego: uznanie, że trwała pamięć nie jest dodatkową funkcją premium do systemów AI, ale podstawową cechą dla nowych przypadków użycia AI.

Projekt został zbudowany przez mały zespół: Millę Jovovich (tak, aktorkę z Resident Evil), Bena Sigmana i Claude. Według wykazu ma tylko siedem commitów.

To, że system przewyższający produkty komercyjne z dedykowanymi zespołami inżynierskimi powstał przy tak niewielkim nakładzie pracy, mówi coś o tym, gdzie leży prawdziwa trudność.

Problemem nie były komputery ani zasoby. Potrzebny był jaśniejszy model tego, co pamięć naprawdę musi robić.