МемПалас Миллы Йовович Стремится Решить Проблему Памяти ИИ

Миллионы людей открывают окно чата каждый день и начинают объяснять себя искусственному интеллекту (ИИ). Он внимательно слушает, мгновенно генерирует умное звучащее ответ, и затем, когда сеанс заканчивается, забывает каждую деталь об взаимодействии.

Масштаб этого ритуала ошеломляющий. ChatGPT alone обрабатывает более одного миллиарда запросов в день, с более чем 800 миллионами активных пользователей в неделю на конец 2025 года. Принятие генеративного ИИ достигло более 16% населения мира, число, которое не существовало осмысленно три года назад.

Огромная инфраструктура с растущей экологической ценой поддерживает эту модель: центры данных в США потребили 183 тераватт-часов электроэнергии в 2024 году, более 4% от общего потребления страны, или примерно равно годовому спросу на электроэнергию в Пакистане.

Из-за отсутствия памяти у систем ИИ, большая часть этой энергии тратится на восстановление контекста. Повторные объяснения, повторные представления проектов и сброс контекста в начале каждого сеанса – это потраченные вычисления.

Память – это то, что превращает инструмент в сотрудника

Помощники ИИ по умолчанию не имеют постоянной памяти. Это не имело бы значения, если бы мы использовали ИИ как калькулятор: вводите число, получаете результат, переходите дальше.

Но большинство людей не используют его таким образом. У них есть длинные, итеративные, глубоко контекстные разговоры с ИИ – построение чего-то за недели или месяцы, разработка общего языка, решений и истории. Количество контекста, который ИИ может активно держать в уме в любой момент времени, может варьироваться в зависимости от уровня подписки.

До сих пор ИИ оказался замечательным инструментом, но с ранних стадий разработки он стремился быть рассмотренным как компаньон. Эта амбиция требует памяти. Без нее прогресс будет продолжать сбрасываться.

Постоянная память меняет то, что ИИ может делать на практике. Разработчик получает ИИ, который сохраняет архитектурные решения и обоснование их. Команда получает один, который знает историю проекта без повторного инструктажа. Писатель получает один, который накопил знания о своей работе за время. Возможности модели имеют меньшее значение, чем то, может ли он фактически накапливать знания о человеке, использующем его.

Почему это было трудно решить

Проблема заключается не только в хранении, но и в извлечении. В теории вы можете подать каждое прошлое разговор в новый сеанс. Но это быстро становится вычислительным абсурдом. Окна контекста, хотя и расширяются, не бесконечны. Сброс месяцев неструктурированного чата в подсказку не только неэффективен, но и затратен по времени и энергии.

Парас Пандей, инженер данных, прямо формулирует основную трудность: “Память ИИ на самом деле является проблемой точности извлечения, замаскированной под проблему хранения. Вы можете сохранить все, трудная часть – извлечь правильный срез из него во время вывода без заполнения пробелов. Это более сложная версия того, что мы решали в системах данных в течение лет, и область仍然 находится на ранней стадии”.

Текущие подходы к памяти ИИ предполагают разрешение системам решать, что стоит помнить. Но разрешение ИИ решать, что важно, часто выбрасывает именно тот тонкий контекст, который сделал исходный обмен ценным. Вы сохраняете общую идею, но теряете весь разговор, где вы объяснили свои конкретные проблемы и альтернативы, которые вы рассмотрели и отвергли.

Идеальный сценарий был бы сделать правильную информацию доступной в нужный момент.

Вступает MemPalace

Именно эту проблему решает MemPalace, недавно выпущенный открытый проект. Вместо того, чтобы суммировать или выбрасывать, он хранит разговоры полностью и строит навигируемую структуру вокруг них, заимствуя из древнегреческой техники памятного дворца, где ораторы мысленно размещали идеи в определенных комнатах воображаемого здания, чтобы вспомнить их позже.

Что делает MemPalace заметным, не только элегантность подхода. Это результаты. В стандартных академических тестах для извлечения памяти ИИ MemPalace показал самые высокие баллы, когда-либо опубликованные для бесплатной системы, и он делает это, работая полностью на вашем компьютере, без подписки, без зависимости от облака и без внешнего API.

Конкурирующие коммерческие услуги взимают любую сумму от 20 до 250 долларов в месяц за сравнимую, и часто худшую, функциональность.

Такое сочетание лучшей производительности, полностью локальной и совершенно бесплатной, достаточно необычно, чтобы обратить на себя внимание. И поскольку он работает на вашем оборудовании, а не на удаленных серверах, каждый запрос, который вы маршрутизируете через MemPalace, – это запрос, который не добавляется к разрастающемуся энергетическому счету отрасли центров данных.

Большая картина

MemPalace – это один проект, но он указывает на что-то большее: признание того, что постоянная память не является премиум-дополнением к системам ИИ, это фундаментальное достижение для новых случаев использования ИИ.

Проект был построен небольшой командой, Миллой Йовович (да, актрисой из Resident Evil), Беном Сигманом и Клодом, и перечислен как имеющий только семь коммитов.

Тот факт, что система, обогнавшая коммерческие продукты с посвященными инженерными командами, пришла из такой скромной попытки, говорит о том, где лежит真正щая трудность.

Проблема не заключалась в компьютерах или ресурсах. Это была более ясная модель того, что память на самом деле должна делать.