Проект Milla Jovovich MemPalace решает проблему памяти ИИ

Миллионы людей открывают окно чата каждый день и начинают объяснять себя искусственному интеллекту (ИИ). Он внимательно слушает, мгновенно генерирует умное звучание ответа, и затем, когда сеанс заканчивается, забывает каждую деталь об взаимодействии.

Масштаб этого ритуала поражает. ChatGPTalone обрабатывает более одного миллиарда запросов в день, с более чем 800 миллионами активных пользователей в неделю на конец 2025 года. Принятие генеративного ИИ достигло более 16% населения мира, число, которое не существовало три года назад.

Огромная инфраструктура с растущей экологической ценой поддерживает эту модель: американские центры обработки данных потребили 183 тераватт-часа электроэнергии в 2024 году, что составляет более 4% от общего потребления страны, или примерно равно годовому потреблению электроэнергии Пакистана.

Из-за отсутствия памяти у систем ИИ, большая часть этой энергии тратится на восстановление контекста. Повторные объяснения, повторные представления проектов и сброс контекста в начале каждой сессии – это потраченные вычисления.

Память – это то, что превращает инструмент в сотрудника

Помощники ИИ не имеют постоянной памяти по умолчанию. Это не имело бы значения, если бы мы использовали ИИ как калькулятор: вводим число, получаем результат, переходим к следующему.

Но большинство людей больше не используют его таким образом. У них длинные, итеративные, глубоко контекстные разговоры с ИИ – они строят что-то в течение недель или месяцев, разрабатывают общий язык, решения и историю. Количество контекста, который ИИ может активно держать в уме в любой момент времени, может варьироваться в зависимости от уровня подписки.

До сих пор ИИ оказался замечательным инструментом, но с ранних стадий разработки он стремился быть рассмотренным как компаньон. Эта амбиция требует памяти. Без нее прогресс будет продолжать сбрасываться.

Постоянная память меняет то, что ИИ может делать на практике. Разработчик получает ИИ, который сохраняет архитектурные решения и рассуждения, лежащие в их основе. Команда получает ИИ, который знает историю проекта без повторного брифинга. Писатель получает ИИ, который накопил знания о его работе за время. Возможности модели имеют меньшее значение, чем то, может ли она фактически накапливать знания о человеке, который ее использует.

Почему это было трудно решить

Проблема не только в хранении, но и в извлечении. Теоретически, можно подать каждое прошедшее разговор в новую сессию. Но это быстро становится вычислительным абсурдом. Окна контекста, хотя и расширяются, не бесконечны. Сброс месяцев неструктурированного чата в запрос не только неэффективен, но и затратен по времени и энергии.

Парас Пандей, инженер данных, формулирует основную трудность просто: “Память ИИ – это фактически проблема достоверного извлечения, замаскированная под проблему хранения. Вы можете сохранить все, но трудно извлечь правильную часть в момент вывода без заполнения пробелов. Это более сложная версия того, что мы решали в системах данных в течение лет, и эта область еще находится на ранней стадии.”

Текущие подходы к памяти ИИ предполагают, что системы решают, что стоит помнить. Но разрешение ИИ решать, что важно, часто выбрасывает именно тот нюансированный контекст, который сделал исходный обмен ценным. Вы сохраняете общую идею, но теряете весь разговор, где вы объяснили свои конкретные проблемы и рассмотрели альтернативы, которые вы отвергли.

Идеальный сценарий заключался бы в том, чтобы сделать правильную информацию доступной в нужный момент.

Вступает MemPalace

Это именно проблема, на которую нацеливается MemPalace, недавно выпущенный открытый проект. Вместо того, чтобы суммировать или выбрасывать, он хранит разговоры полностью и строит навигируемую структуру вокруг них, заимствуя из древнегреческой техники памятного дворца, где ораторы мысленно размещали идеи в определенных комнатах воображаемого здания, чтобы вспомнить их позже.

То, что делает MemPalace заметным, – это не только элегантность подхода. Это результаты. В стандартных академических бенчмарках для извлечения памяти ИИ MemPalace показал высшие баллы, когда-либо опубликованные для бесплатной системы, и он делает это, работая полностью на вашем компьютере, без подписки, без зависимости от облака и без внешнего API.

Конкурирующие коммерческие услуги взимают от 20 до 250 долларов в месяц за сравнимую, и часто хуже работающую функциональность.

Такое сочетание лучшей производительности, полностью локальной и совершенно бесплатной, достаточно необычно, чтобы обратить на это внимание. И поскольку он работает на вашем оборудовании, а не на удаленных серверах, каждый запрос, который вы направляете через MemPalace, – это запрос, который не добавляется к растущему энергетическому счету отрасли центров обработки данных.

Большая картина

MemPalace – это один проект, но он указывает на что-то большее: признание того, что постоянная память не является премиум-дополнением к системам ИИ, а фундаментальным достижением для новых случаев использования ИИ.

Проект был построен небольшой командой, Миллой Йовович (да, актрисой из Resident Evil), Беном Сигманом и Клодом, и в нем перечислено только семь коммитов.

Тот факт, что система, превосходящая коммерческие продукты с посвященными инженерными командами, возникла из такого скромного усилия, говорит о том, где лежит настоящая трудность.

Проблема не заключалась в компьютерах или ресурсах. Это была более четкая модель того, что память на самом деле должна делать.