Проект MemPalace Мілли Йовович має на меті вирішити проблему пам’яті штучного інтелекту

Міліони людей щодня відкривають вікно чату та починають пояснювати собі штучний інтелект (AI). Він уважно слухає, миттєво генерує розумну відповідь, а потім, коли сесія закінчується, забуває кожну деталь про взаємодію.

Масштаб цього ритуалу вражаючий. Сам ChatGPT обробляє понад один мільярд запитів на день, з більш ніж 800 мільйонами активних користувачів на тиждень станом на кінець 2025 року. Прийом генеративного штучного інтелекту досягнув понад 16% населення світу, число, яке не існувало раніше три роки тому.

Відповідну інфраструктуру з підвищенням екологічної ціни підтримує ця модель: американські центри даних спожили 183 терават-години електроенергії у 2024 році, що становить понад 4% загального споживання країни, або приблизно дорівнює річному попиту Пакистану на електроенергію.

Через відсутність пам’яті систем штучного інтелекту, великий відсоток цієї енергії витрачається на відновлення контексту. Повторювані пояснення, повторне представлення проекту та вивільнення контексту на початку кожної сесії – це марна обчислювальна операція.

Пам’ять – це те, що перетворює інструмент на співробітника

Помічники штучного інтелекту не мають постійної пам’яті за замовчуванням. Це не мало б значення, якщо б ми використовували штучний інтелект як калькулятор: ввели число, отримали результат, перейшли далі.

Але більшість людей не використовують його так. Вони ведуть тривалі, ітеративні, глибоко контекстні розмови зі штучним інтелектом – створюють речі протягом тижнів або місяців, розвивають спільну мову, рішення та історію. Кількість контексту, який штучний інтелект може активувати в будь-який момент часу, може варіюватися залежно від рівня підписки.

До цього часу штучний інтелект довів себе чудовим інструментом, але з ранніх стадій розвитку він мав на меті бути компаньйоном. Ця амбіція вимагає пам’яті. Без неї прогрес продовжить скидуватися.

Постійна пам’ять змінює те, що штучний інтелект може робити на практиці. Розробник отримує штучний інтелект, який зберігає архітектурні рішення та їхнє обґрунтування. Команда отримує такий, який знає історію проекту без повторної інструкції. Письменник отримує такий, який накопичив знання про свою роботу з часом. Можливості моделі мають менше значення, ніж те, чи може він фактично накопичувати знання про людину, яка ним користується.

Чому це було складно вирішити

Виїмка не полягає лише у зберіганні, а й у відновленні. Теоретично можна підгодувати кожну минулу розмову в нову сесію. Але це швидко стає обчислювально абсурдним. Вікна контексту, хоча й розширюються, не є нескінченними. Вивільнення місяців неструктурованого чату в промпт не тільки неефективне, але й витрачає час і енергію.

Парас Пандей, інженер даних, висловлює основну складність просто: “Пам’ять штучного інтелекту насправді є проблемою вірності відновлення, маскованою під проблему зберігання. Ви можете зберігати все, важко відновити правильний шматок у час висновку без галюцинації пробілів. Це складніша версія того, що ми розв’язували в системах даних протягом років, і галузь все ще на ранній стадії”.

Поточні підходи до пам’яті штучного інтелекту включають дозволення системам вирішувати, що варто пам’ятати. Але дозволення штучному інтелекту вирішувати, що має значення, часто викидає саме той нюанс контексту, який зробив оригінальний обмін цінним. Ви зберігаєте загальну ідею, але втрачаєте весь розмову, де ви пояснювали свої конкретні проблеми та альтернативи, які ви розглядали та відкинули.

Ідеальний сценарій полягає в тому, щоб зробити правильну інформацію доступною в потрібний момент.

Вступ MemPalace

Це саме проблема, на яку спрямований MemPalace, недавно випущений відкритий проєкт. Замість підсумовування або викидання, він зберігає розмови повністю та будує навігаційну структуру навколо них, запозичуючи з давньогрецької техніки палаци пам’яті, де оратори розміщували ідеї в конкретних кімнатах уявної будівлі, щоб пізніше їх згадати.

Те, що робить MemPalace помітним, не тільки елегантність підходу. Це результати. У стандартних академічних бенчмарках для відновлення пам’яті штучного інтелекту MemPalace показав найвищі бали, які коли-небудь публікувалися для безкоштовної системи, і він робить це, працюючи повністю на вашій машині, без підписки, без залежності від хмари та без зовнішнього API.

Конкурентні комерційні служби стягують будь-яку суму від 20 до 250 доларів на місяць за порівнянну, а часто гіршу функціональність.

Таке поєднання найкращої у своєму класі продуктивності, повністю локальної та повністю безкоштовної є досить незвичайним, щоб звернути на це увагу. І оскільки він працює на вашому обладнанні, а не на віддалених серверах, кожен запит, який ви маршрутизуєте через MemPalace, є тим, який не додається до розбухаючого енергетичного реєстру галузі центрів даних.

Більша картина

MemPalace – це один проєкт, але він вказує на щось більше: визнання того, що постійна пам’ять не є преміум-додатком до систем штучного інтелекту, а фундаментальною особливістю для нових випадків використання штучного інтелекту.

Проєкт був створений маленькою командою, Міллою Йовович (так, актрисою з Resident Evil), Беном Сігманом та Клодом, і перераховується як такий, що має лише сім комітів.

Те, що система, яка перевершує комерційні продукти з присвяченими інженерними командами, вийшла з такого скромного зусилля, говорить про те, де лежить справжня складність.

Проблема не полягала в комп’ютерах чи ресурсах. Це була ясна модель того, що пам’ять насправді повинна робити.