Milla Jovovichin MemPalace usiluje vyřešit problém paměti umělé inteligence

Miliony lidí denně otevřou okno pro chat a začnou vysvětlovat sami sebe umělým inteligencím (AI). Poslouchají pozorně, okamžitě generují chytrě znějící odpovědi a poté, když sezení skončí, zapomenou na každý detail o interakci.

Stupeň tohoto rituálu je ohromující. ChatGPT sám zpracovává více než jednu miliardu dotazů denně, s více než 800 miliony týdenních aktivních uživatelů ke konci roku 2025. Adopce generativní umělé inteligence dosáhla více než 16% světové populace, číslo, které před třemi lety nemělo žádný význam.

Ohromná infrastruktura s rostoucí environmentální cenou podporuje tento model: datové centra ve Spojených státech spotřebovala 183 terawatt-hodin elektřiny v roce 2024, více než 4% celkové spotřeby země, nebo zhruba stejně jako roční spotřeba elektřiny v Pákistánu.

Vzhledem k nedostatku paměti systémů umělé inteligence se velký procentní podíl této energie vynakládá na znovunastavení kontextu. Opakovaná vysvětlení, reintrodukce projektů a kontextové dumpování na začátku každé relace jsou promarněné výpočty.

Paměť je to, co dělá z nástroje spolupracovníka

Asistenti umělé inteligence nemají žádnou trvalou paměť výchozí. To by nebylo důležité, kdybychom používali umělou inteligenci jako kalkulačku: zadáte číslo, získáte výsledek, pokračujete.

Ale většina lidí to už nedělá. Mají dlouhé, iterativní, hluboce kontextové konverzace s umělou inteligencí – budují věci po týdnech nebo měsících, rozvíjejí sdílený jazyk, rozhodnutí a historii. Množství kontextu, které může umělá inteligence aktivně mít na paměti v daném okamžiku, se může lišit v závislosti na úrovni předplatného.

Dosud se umělá inteligence ukázala jako báječný nástroj, ale od raných fází vývoje směřovala k tomu, aby byla považována za společníka. Tohoto cíle lze dosáhnout pouze s pamětí. Bez ní bude pokrok pokračovat v resetování.

Trvalá paměť mění to, co může umělá inteligence dělat v praxi. Vývojář získá umělou inteligenci, která si pamatuje architektonická rozhodnutí a důvody, proč byla učiněna. Tým získá umělou inteligenci, která zná historii projektu bez nutnosti opětovného seznámení. Spisovatel získá umělou inteligenci, která nahromadila znalosti o jeho práci v průběhu času. Schopnost modelu záleží méně než to, zda může skutečně nahromadit znalosti o osobě, která ji používá.

Proč je toto řešení tak obtížné

Výzvou není pouze úložiště, ale i načtení. Teoreticky můžete nakrmit každou předchozí konverzaci do nové relace. Ale to se rychle stává výpočetně absurdním. Kontextové okna, i když se rozšiřují, nejsou nekonečná. Dumpování měsíců nestrukturovaného chatu do podnětu není pouze neúčinné, ale také časově a energeticky náročné.

Paras Pandey, inženýr dat, jasně popisuje hlavní obtíž: “Paměť umělé inteligence je ve skutečnosti problém s věrností načtení, převlečený za problém úložiště. Můžete.persistovat cokoliv, obtížná část je načtení správného řezu v době inference bez halucinace mezer. To je tvrdší verze toho, co jsme řešili v systémech dat po mnoho let, a toto pole je stále v počátcích.”

Currentní přístupy k paměti umělé inteligence zahrnují rozhodnutí systémů, co je stojí za to pamatovat. Ale dovolit umělé inteligenci rozhodnout, co je důležité, často zahazuje přesně ten druh nuancovaného kontextu, který učinil původní výměnu cennou. Zachováte obecnou ideu, ale ztratíte celou konverzaci, ve které jste vysvětlili své specifické obavy a alternativy, které jste zvažovali a odmítli.

Ideální scénář by byl takový, aby se správné informace našly ve správný okamžik.

Vstupuje MemPalace

Toto je přesně problém, na který MemPalace, nedávno vydaný open-source projekt, cílí. Místo toho, aby shrnoval nebo zahazoval, ukládá konverzace v plném rozsahu a buduje pro ně procházející strukturu, inspirovanou starověkou řeckou technikou paláce paměti, kde řečníci umisťovali myšlenky do specifických místností představeného budovy, aby je později mohli vybavit.

Co činí MemPalace pozoruhodným, není pouze elegancí přístupu. Je to výsledky. V standardních akademických testech pro načtení paměti umělé inteligence MemPalace dosáhl nejvyšších skóre, která kdy byla publikována pro bezplatný systém, a to vše při běhu完全 na vašem vlastním počítači, bez předplatného, bez závislosti na cloudu a bez externího API.

Konkurenční komerční služby účtují kdekoliv mezi 20 a 250 dolary měsíčně za srovnatelnou a často horší funkčnost.

Tato kombinace špičkového výkonu, plně lokálního a zcela bezplatného je dostatečně neobvyklá, aby stála za pozornost. A protože běží na vašem hardwaru místo vzdálených serverů, každá vaše dotaz, kterou směrujete přes MemPalace, je jednou, která nepřispívá k rostoucímu energetickému účtu průmyslu datových center.

Širší pohled

MemPalace je jeden projekt, ale ukazuje na něco většího: uznání, že trvalá paměť není přídavnou funkcí pro systémy umělé inteligence, ale základním úkolem pro nové použití umělé inteligence.

Projekt byl postaven malým týmem, Milla Jovovich (ano, herečka z Resident Evil), Ben Sigman, a Claude, a je uveden jako mająci pouze sedm commitů.

Skutečnost, že systém, který překonává komerční produkty s věnovanými inženýrskými týmy, pochází z tak štíhlého úsilí, říká něco o tom, kde leží skutečná obtíž.

Problém nebyl v počítačích nebo zdrojích. Byl to jasnější model toho, co paměť skutečně potřebuje dělat.