Projekt MemPalace Milla Jovovich ma na celu rozwiązanie problemu pamięci sztucznej inteligencji

Miliony ludzi otwierają okno czatu każdego dnia i zaczynają tłumaczyć się sztucznej inteligencji (AI). Słucha uważnie, natychmiast generuje inteligentnie brzmiącą odpowiedź, a następnie, gdy sesja się kończy, zapomina każdy szczegół dotyczący interakcji.

Skala tego rytuału jest oszałamiająca. Sam ChatGPT obsługuje ponad jeden miliard zapytań dziennie, z ponad 800 milionami aktywnych użytkowników tygodniowo od późnego 2025 roku. Przyjęcie generatywnej sztucznej inteligencji osiągnęło ponad 16% światowej populacji, liczby, której nie było trzy lata temu.

Ogromna infrastruktura z rosnącą ceną środowiskową wspiera ten model: amerykańskie centra danych zużywały 183 terawatogodziny prądu w 2024 roku, więcej niż 4% całkowitego zużycia kraju, czyli mniej więcej tyle, ile roczne zapotrzebowanie na prąd w Pakistanie.

Ze względu na brak pamięci systemów sztucznej inteligencji, znaczna część tej energii jest tracona na ponowne ustalenie kontekstu. Powtarzające się wyjaśnienia, ponowne wprowadzenia projektów i zrzuty kontekstu na początku każdej sesji to zmarnowana obliczeniowa moc.

Pamięć to co zmienia narzędzie w współpracownika

Asystenci AI nie mają domyślnie trwałej pamięci. Nie miałoby to znaczenia, gdybyśmy używali AI jak kalkulatora: wprowadź liczbę, otrzymaj wynik, idź dalej.

Ale większość ludzi nie używa jej już w ten sposób. Mają długie, iteracyjne, głęboko kontekstowe rozmowy z AI – budują rzeczy przez tygodnie lub miesiące, rozwijają wspólny język, decyzje i historię. Ilość kontekstu, jaki AI może aktywnie utrzymywać w danym momencie, może się różnić w zależności od poziomu subskrypcji.

Do tej pory AI okazała się wspaniałym narzędziem, ale od wczesnych etapów rozwoju miała na celu być uważana za towarzysza. Ta ambicja wymaga pamięci. Bez niej postęp będzie nadal resetowany.

Trwała pamięć zmienia to, co AI może robić w praktyce. Deweloper otrzymuje AI, która zachowuje decyzje architektoniczne i powody, dla których zostały podjęte. Zespół otrzymuje AI, która zna historię projektu bez potrzeby ponownego briefowania. Pisarz otrzymuje AI, która zgromadziła wiedzę o swojej pracy w czasie. Możliwości modelu mają mniejsze znaczenie niż to, czy może naprawdę gromadzić wiedzę o osobie, która z niego korzysta.

Dlaczego to było trudne do rozwiązania

Wyzwanie nie polega tylko na przechowywaniu, ale na odzyskiwaniu. W teorii możesz wprowadzić każdą poprzednią rozmowę do nowej sesji. Ale to szybko staje się obliczeniowo absurdalne. Okna kontekstowe, chociaż rozszerzające się, nie są nieskończone. Zrzucanie miesięcy nieustrukturyzowanego czatu do podpowiedzi nie tylko nie jest skuteczne, ale także czasochłonne i energochłonne.

Paras Pandey, inżynier danych, wyjaśnia trudność w prosty sposób: “Pamięć AI to tak naprawdę problem wierności odzyskiwania przebrany za problem przechowywania. Możesz utrwalić wszystko, trudna część polega na odzyskaniu odpowiedniej części w czasie inferencji bez wyobrażania luk. To trudniejsza wersja tego, co rozwiązywaliśmy w systemach danych przez lata, a dziedzina jest nadal w powijakach.”

Bieżące podejścia do pamięci AI polegają na tym, że systemy decydują, co warto pamiętać. Ale pozwalanie AI na decydowanie, co jest ważne, często wyrzuca dokładnie ten rodzaj nuansowanego kontekstu, który uczynił pierwotną wymianę wartościową. Zachowujesz ogólny pomysł, ale tracisz całą rozmowę, w której wyjaśniłeś swoje szczególne obawy, oraz alternatywy, które rozważałeś i odrzuciłeś.

Idealnym scenariuszem byłoby uczynienie odpowiednich informacji dostępnymi w odpowiedniej chwili.

Wejdź do MemPalace

To właśnie problem, na który celuje MemPalace, niedawno wydany projekt open-source. Zamiast podsumowywania lub wyrzucania, przechowuje rozmowy w całości i buduje nawigowalną strukturę wokół nich, korzystając z starożytnej greckiej techniki pałacu pamięci, gdzie mówcy umieszczali myśli w określonych pokojach wyobrażonego budynku, aby je później przypomnieć.

To, co sprawia, że MemPalace jest godny uwagi, nie jest tylko elegancja podejścia. To wyniki. W standardowych akademickich benchmarkach dla odzyskiwania pamięci AI, MemPalace osiągnął najwyższe wyniki kiedykolwiek opublikowane dla bezpłatnego systemu, i robi to, działając w całości na Twoim urządzeniu, bez subskrypcji, bez zależności od chmury i bez wymaganej zewnętrznej API.

Konkurujące usługi komercyjne pobierają od 20 do 250 dolarów miesięcznie za porównywalną, a często gorszą funkcjonalność.

To połączenie najlepszej klasy wydajności, w pełni lokalnej i całkowicie bezpłatnej jest na tyle niezwykłe, że warto zwrócić na to uwagę. A ponieważ działa na Twoim sprzęcie, a nie na serwerach zdalnych, każde zapytanie, które przekierujesz przez MemPalace, to zapytanie, które nie dodaje do rosnącego rachunku za energię w branży centrów danych.

Większy obraz

MemPalace to jeden projekt, ale wskazuje on na coś większego: uznanie, że trwała pamięć nie jest dodatkową funkcją premium do systemów AI, ale podstawową cechą dla nowych przypadków użycia AI.

Projekt został zbudowany przez mały zespół, Milla Jovovich (tak, aktorka z Resident Evil), Ben Sigman, i Claude, i jest wymieniony jako mający tylko siedem commitów.

To, że system przewyższający produkty komercyjne z dedykowanymi zespołami inżynierskimi powstał z tak szczupłego wysiłku, mówi coś o tym, gdzie leży prawdziwa trudność.

Problemem nie były komputery ani zasoby. Była to jaśniejszy model tego, co pamięć naprawdę musi robić.