Лидеры мнений

MemPalace Миллы Йовович стремится решить проблему памяти ИИ

Juan Pablo Aguirre Osorio
Добавьте Unite.AI в избранные источники в Google
A woman standing in a luminous, neoclassical hallway, interacting with glowing holographic data structures representing a
Ключевые моментыMemPalace решает проблему извлечения памяти в ИИ, сохраняя полные диалоги в локальной…
Показать больше
  • MemPalace решает проблему извлечения памяти в ИИ, сохраняя полные диалоги в локальной навигируемой структуре.
  • Постоянная память превращает ИИ из одноразового инструмента в настоящего партнёра для долгосрочных проектов.
  • Система превосходит дорогостоящие коммерческие сервисы, работая полностью локально и абсолютно бесплатно на оборудовании пользователя.

Миллионы людей открывают окно чата каждый день и начинают объяснять себя искусственному интеллекту (ИИ). Он внимательно слушает, мгновенно генерирует ответ, который звучит умно, и затем, когда сеанс заканчивается, забывает каждую деталь о взаимодействии.

Масштаб этого ритуала поражает. Один только ChatGPT обрабатывает более одного миллиарда запросов в день, с более чем 800 миллионами активных пользователей в неделю на конец 2025 года. Принятие генеративного ИИ достигло более 16% населения мира, тогда как три года назад его использование еще не имело сколько-нибудь значимого масштаба.

Огромная инфраструктура с растущей экологической ценой поддерживает эту модель: американские центры обработки данных потребили 183 тераватт-часа электроэнергии в 2024 году, что составляет более 4% от общего потребления электроэнергии в стране, или примерно равно годовому потреблению электроэнергии Пакистана.

Из-за отсутствия памяти у систем ИИ, значительная доля этой энергии тратится на восстановление контекста. Повторные объяснения, повторные представления проектов и загрузка массивов контекстной информации в начале каждой сессии — это напрасная трата вычислительных ресурсов.

Память – это то, что превращает инструмент в сотрудника

Помощники ИИ не имеют постоянной памяти по умолчанию. Это не имело бы значения, если бы мы использовали ИИ как калькулятор: вводим число, получаем результат, переходим к следующему.

Но большинство людей больше не используют его таким образом. У них длинные, итеративные, глубоко контекстные разговоры с ИИ – они строят что-то в течение недель или месяцев, разрабатывают общий язык, решения и историю. Количество контекста, который ИИ может активно держать в уме в любой момент времени, может варьироваться в зависимости от уровня подписки.

До сих пор ИИ оказался замечательным инструментом, но с ранних стадий разработки целью было сделать его компаньоном. Эта амбиция требует памяти. Без нее прогресс будет продолжать сбрасываться.

Постоянная память меняет то, что ИИ может делать на практике. Разработчик получает ИИ, который сохраняет архитектурные решения и рассуждения, лежащие в их основе. Команда получает ИИ, который знает историю проекта без повторного брифинга. Писатель получает ИИ, который накопил знания о работе этого писателя с течением времени. Возможности модели имеют меньшее значение, чем то, может ли она фактически накапливать знания о человеке, который ее использует.

Почему это было трудно решить

Проблема не только в хранении, но и в извлечении. Теоретически, можно загрузить все прошлые разговоры в новую сессию. Но это быстро становится вычислительным абсурдом. Окна контекста, хотя и расширяются, не бесконечны. Загрузка месяцев неструктурированного чата в запрос не только неэффективна, но и затратна по времени и энергии.

Парас Пандей, инженер данных, формулирует основную трудность просто: “Память ИИ – это фактически проблема достоверного извлечения, замаскированная под проблему хранения. Вы можете сохранить все, но трудно извлечь правильную часть в момент вывода, не заполняя пробелы выдуманной информацией. Это более сложная версия того, что мы пытаемся решить в системах данных уже много лет, и эта область еще находится на ранней стадии.”

Текущие подходы к памяти ИИ предполагают, что системы решают, что стоит помнить. Но разрешение ИИ решать, что важно, часто выбрасывает именно те тонкие детали контекста, которые сделали исходный обмен ценным. Вы сохраняете общую идею, но теряете весь разговор, где вы объяснили свои конкретные проблемы и рассмотрели альтернативы, которые вы отвергли.

Идеальный сценарий заключался бы в том, чтобы сделать правильную информацию доступной в нужный момент.

Вступает MemPalace

Это именно проблема, на которую нацеливается MemPalace, недавно выпущенный проект с открытым исходным кодом. Вместо того, чтобы суммировать или выбрасывать, он хранит разговоры полностью и строит навигируемую структуру вокруг них, заимствуя из древнегреческой техники дворца памяти, где ораторы мысленно размещали идеи в определенных комнатах воображаемого здания, чтобы вспомнить их позже.

То, что делает MemPalace заметным, – это не только элегантность подхода. Это результаты. В стандартных академических бенчмарках для поиска информации в памяти ИИ MemPalace показал высшие баллы, когда-либо опубликованные для бесплатной системы, и он делает это, работая полностью на вашем компьютере, без подписки, без зависимости от облака и без внешнего API.

Конкурирующие коммерческие услуги взимают от 20 до 250 долларов в месяц за сравнимую, и часто хуже работающую функциональность.

Такое сочетание первоклассной производительности, полностью локальной работы и полной бесплатности достаточно необычно, чтобы обратить на это внимание. И поскольку он работает на вашем оборудовании, а не на удаленных серверах, каждый запрос, который вы направляете через MemPalace, – это запрос, который не добавляется к растущему энергетическому счету отрасли центров обработки данных.

Более широкая перспектива

MemPalace – это один проект, но он указывает на что-то большее: признание того, что постоянная память не является премиум-дополнением к системам ИИ, а фундаментальной функцией для новых случаев использования ИИ.

Проект был построен небольшой командой, Миллой Йовович (да, актрисой из Resident Evil), Беном Сигманом и Клодом, и в нем перечислено только семь коммитов.

Тот факт, что система, превосходящая коммерческие продукты с выделенными инженерными командами, возникла из такого скромного усилия, говорит о том, где лежит настоящая трудность.

Проблема не заключалась в компьютерах или ресурсах. Это была более четкая модель того, что память на самом деле должна делать.

Хуан Пабло Агирре Осорио является внештатным репортером Espacio Media Incubator. Обладая опытом в full-stack-разработке, Хуан Пабло привносит технические знания в свои репортажи о передовых технологиях, включая ИИ. Его работы были представлены в HackerNoon, The Sociable и других, и ранее он был студенческим амбассадором в Microsoft.