AGI и будущее ИИ
ИИ в 2027 году: память станет следующим испытанием машинного интеллекта

Ключевые моментыТесты памяти будут оценивать исправление и воздержание, а не простое воспроизведение…
Показать больше
- Тесты памяти будут оценивать исправление и воздержание, а не простое воспроизведение фактов.
- Выбранная структурированная память должна превосходить недифференцированную полную историю в контролируемых сравнениях.
- Ассистентские продукты будут раскрывать происхождение и объём того, что они сохраняют для пользователей.
Ассистент помнит, что проект принадлежит Майе. Затем Майя передаёт его другому человеку. На следующий день ассистент уверенно поручает ей ещё одну задачу. Он сохранил факт, но упустил из виду, как обстоят дела. Этот небольшой сбой отражает гораздо более серьёзную проблему машинного интеллекта.
Память полезна, только если система способна определить, что по-прежнему актуально, что следует извлечь из памяти, а что нужно пересмотреть или забыть. В 2027 году эти решения станут более серьёзной проверкой возможностей системы, чем объём истории, которую способна хранить модель.
Память уже существует в нескольких формах. MemGPT исследовала иерархическое управление контекстом. Titans представила модуль нейронной памяти, который обновляется во время тестирования. Настройки персонализации Gemini от Google и настройки памяти Copilot от Microsoft описывают сохранение данных, доступное пользователям, и возможности управления им. Эти механизмы не следует сводить к одной способности: извлечение сохранённой записи, поддержание контекста и обновление усвоенных параметров открывают разные возможности и приводят к разным сбоям.
Приведённые ниже прогнозы касаются наблюдаемого прогресса в рамках этих механизмов. Они не связывают оценку памяти с датой появления AGI и не делают вывод о сознании системы на основании её способности сохранять информацию.
1. Проверки памяти будут выходить за рамки простого воспроизведения фактов
Легко радоваться тому, что система помнит вчерашний ответ, пока этот ответ не становится неверным. В новых оценках памяти в 2027 году в рамках одной проверки объединят исправление ошибок, уместный отказ от ответа и использование прошлого опыта. Системе нужно будет не просто извлечь предложение, похожее на вопрос. Ей придётся распознавать, когда прошлый опыт имеет значение, а когда опора на него ухудшит нынешний ответ.
Для рассуждений о времени недостаточно просто найти подходящую фразу. Клиент мог получить возврат денег, срок действия политики мог истечь, а исключение могло распространяться лишь на один случай. Ассистенту нужно восстановить, какое положение дел актуально сейчас. Для этого необходимы оценки с противоречивыми обновлениями, чёткими временными границами и вопросами, на которые невозможно ответить по имеющимся записям.
LongMemEval уже оценивает такие способности, как рассуждение о времени, обновление знаний и отказ от ответа. Поэтому неверно утверждать, что все прежние оценки памяти проверяли лишь простое воспроизведение. Представленная в 2026 году LongMemEval-V2 расширяет обсуждение, уделяя внимание опыту в конкретной среде: рабочим процессам, меняющимся состояниям и регулярно возникающим операционным деталям. Её 451 тщательно отобранный вопрос показывает разницу между запоминанием разговора и умением приносить пользу в конкретной рабочей среде.
LoCoMo — ещё один важный ориентир: в этом тесте используются длительные разговоры, проверенные и отредактированные людьми. Его устройство также подчёркивает методологическую проблему: сгенерированные истории разговоров могут быть структурированы гораздо яснее, чем противоречивые и неполные записи обычной работы. Успешное прохождение теста, созданного на основе таких историй, ещё не доказывает, что память будет надёжно работать при любом внедрении.
Я прогнозирую, что в тестах будут чаще сочетаться эти требования. Агент должен помнить, что рабочий процесс завершился сбоем, понимать, почему этот опыт важен для последующей задачи, и не применять полученный урок, если необходимые условия больше не выполняются. Для этого нужно проверять связь между сохранённой информацией и последующим решением, а не поощрять воспроизведение фразы, где бы она ни встречалась в записях.
На что обратить внимание в 2027 году
Следите за оценками памяти, которые проверяют, как агент действует после изменения факта, когда имеющиеся записи неполны или когда прежний урок становится актуальным для новой задачи. Общедоступные задания и методы подсчёта баллов упростят оценку прогресса. Одни лишь более высокие показатели полноты извлечения мало что скажут о надёжном сохранении контекста между сеансами.
Что это значит для бизнеса
Командам, оценивающим ассистентов с долговременной памятью, следует создавать тесты на основе изменений, происходящих в их собственной работе: пересмотренных политик, смены ответственных, истёкших предпочтений и неполных записей. Проверяйте, меняет ли агент своё поведение и признаёт ли неопределённость. Такие ситуации могут выявить операционные слабые места, которые остались бы незаметными при демонстрации того, как система запоминает имена или предпочтения.
2. В контролируемых тестах отобранная память превзойдёт неструктурированную историю
Чем больше истории, тем выше вероятность путаницы. Устаревшая инструкция, повторяющийся рассказ и полезное наблюдение могут соперничать за внимание в длинном контексте. Я ожидаю, что в контролируемых оценках 2027 года отобранная и структурированная память с заметным отрывом превзойдёт неструктурированную историю целиком. Особенно интересным будет результат при неизменных базовой модели и доступной информации: улучшение объяснялось бы упорядочиванием опыта, а не простым предоставлением более мощной модели.
Идея в том, что полезная память отбирает и упорядочивает информацию. Она может отличить актуальный факт от устаревшего, сохранить обоснование принятого решения или извлечь урок из рабочего процесса именно тогда, когда он нужен. Полная стенограмма делает доступной каждую деталь, но при этом оставляет модели задачу заново восстанавливать актуальное положение дел для каждого нового вопроса.
Эта интуиция не гарантирует результата. Система суммаризации может удалить единственную деталь, которая понадобится позже. Система поиска может не найти важное событие. При индексировании предположение самой модели может быть принято за подтверждённый факт. Полный контекст может оказаться более надёжной отправной точкой, если ответ зависит от тонкой детали, которую компонент формирования памяти отбросил.
Возможные подходы уже представлены в статье LongMemEval, где рассматриваются варианты индексирования, поиска и чтения. Иерархия MemGPT предлагает более ранний системный подход к управлению содержимым активного контекста. Это исследовательские работы, посвящённые оценке различных архитектур. Сам факт их существования не подтверждает ни преимущество в 10 пунктов, ни независимое воспроизведение результатов, необходимые для моего прогноза.
Наиболее показательные случаи будут связаны с обновлениями и временными ограничениями. Если клиент дважды менял адрес, для правильного ответа может понадобиться последнее подтверждённое значение и запись о том, с какого момента оно стало действительным. Тщательно поддерживаемое представление состояния позволяет явно показать это различие. В обычной истории могут по-прежнему содержаться все факты, но при этом у модели будет больше возможностей выбрать неверный.
За чем следить в 2027 году
Обращайте внимание на сравнения, в которых структурированная память и контекст с полной историей получают доступ к одной и той же информации через одну и ту же базовую модель. В наиболее убедительных результатах будут использоваться вопросы, не встречавшиеся ранее, а также учитываться затраты на запись памяти наряду с точностью ответов. Результаты, достигнутые за счёт усечения истории для сравнения или выбора свидетельств с предварительным знанием ответа, будут менее убедительными.
Что это означает для бизнеса
Оценивайте архитектуру памяти как часть архитектуры приложения. Сравнивайте поиск, сводки, структурированное состояние и расширенный контекст на типичных задачах, в том числе с исправлениями и противоречивыми записями. Учитывайте затраты на поддержку памяти и исправление ошибок. Увеличенный объём контекста может помочь, но команде всё равно нужны доказательства того, что система находит и использует нужную информацию.
3. Продукты с памятью будут показывать, на каких данных основана сохраняемая информация
Ассистент, который запоминает что-то о вас, должен уметь показать источник этих сведений и позволять вам их исправлять. Такое ожидание кажется само собой разумеющимся — до тех пор, пока память не будет сформирована на основе нескольких разговоров и использована в разных ситуациях. В 2027 году крупные продукты-ассистенты сделают некоторые из этих связей более прозрачными для пользователя. Практическим достижением станет память, которую пользователь сможет проверить, изменить или удалить, ясно понимая, где она может использоваться.
Запись в памяти полезнее, если пользователь может узнать, откуда она взялась и на что влияет. Предпочтение, высказанное в одном разговоре, имеет иной статус, чем факт, выведенный из нескольких документов. Ошибочный вывод должен поддаваться исправлению, не заставляя пользователя искать все последующие ответы, на которые он мог повлиять.
Важные средства управления уже существуют. В документации Microsoft о конфиденциальности настройки памяти разграничены с историей разговоров и другими настройками персонализации. В анонсе Google о временных чатах и настройках персонализации описаны варианты использования предыдущих разговоров. Анонс Google об импорте чатов и памяти в 2026 году также показывает, что постоянный контекст становится функцией переноса данных. Прогноз касается появления более целостного набора средств управления, а не самой возможности нажать кнопку удаления.
Происхождение данных должно быть указано достаточно конкретно, чтобы его можно было проверить. Формулировка «на основе вашей истории» обозначает категорию данных, но не объясняет, на каких свидетельствах основано конкретное утверждение. Ссылка на источник или запись с датой позволит пользователю отличить прямое указание от интерпретации. Информация о пределах применения может пояснить, распространяется ли память на будущие чаты, конкретное рабочее пространство или действия, выполняемые с помощью подключённых инструментов.
При описании удаления нужна такая же точность. Удаление записи из активного хранилища памяти продукта не означает автоматически, что удалён исходный разговор, очищены резервные копии или информация забыта моделью и исключена из её весов. Продукт должен объяснять, какую именно операцию он выполняет. Мой прогноз предполагает наличие наблюдаемых средств управления продуктом и документации, а не обещание полного стирания данных со всех уровней хранения.
Ожидание прогресса обусловлено не только этическими, но и практическими причинами. Ассистент не сможет стать надёжным долгосрочным помощником, если пользователь не может исправить состояние, на основании которого тот действует. Исправления — часть работы с системой. Даже хорошо оформленный интерфейс, отображающий воспоминания, но не объясняющий их происхождение и дальнейшее использование, удовлетворит лишь часть этой потребности.
За чем следить в 2027 году
Обращайте внимание на интерфейсы памяти, которые связывают сохранённую запись с доступным для проверки источником, позволяют исправить или удалить её и объясняют, где эта информация может использоваться повторно. Все эти возможности должны работать вместе для каждой отдельной записи. Общая сводка памяти или возможность удалить всю историю не снимут важных вопросов о происхождении данных и пределах их использования.
Что это означает для бизнеса
Прежде чем внедрять ассистентов с постоянной памятью, определите, как сотрудники смогут просматривать и исправлять сохраняемую системой информацию. Попросите поставщиков разграничить активную память, исходные диалоги и другие сохраняемые записи, а также объяснить, на что распространяется каждый механизм управления. Ответы помогут компании распределить ответственность за поддержание точного контекста по мере того, как меняются люди, проекты и рабочие отношения.
4. Непрерывное обучение покажет ограниченный прогресс при условии сохранения ранее усвоенного
Изучение нового не должно незаметно стирать то, что уже приносит пользу. Именно в этом состоит сложный компромисс, связанный с постоянным обновлением параметров и нейронной памятью. Я ожидаю, что в 2027 году крупные модели покажут ограниченный прогресс: заметно лучше усвоят новые знания, в основном сохранив результаты на уже известных оценочных тестах. Такой результат будет интересен именно тем, что ограничение останется в силе. Если отказаться от прежних тестов, заявить об улучшении станет проще, но оно будет гораздо менее значимым.
Это более узкое утверждение, чем заявление о том, что система способна бесконечно обучаться решению любых задач. Обновление модели на основе нового опыта может ухудшить уже имеющиеся у неё способности. Чтобы результат можно было считать убедительным, необходимо измерять и усвоение нового, и сохранение прежних навыков после многократных обновлений, а также раскрывать объём вычислений, необходимый для этих обновлений.
В статье Titans рассматриваются долговременная нейронная память и запоминание во время тестирования. MIRAS описывает семейство последовательностных моделей через выбор ассоциативной памяти, целей обучения, механизмов сохранения и методов оптимизации. В объяснении результатов исследования Google ясно сказано, что речь идёт о конкретных архитектурах и механизмах памяти. Это не следует представлять как доказательство того, что каждая используемая языковая модель непрерывно меняет свои базовые знания.
В опубликованном позднее объявлении о фреймворке «сна» от 27 октября 2026 года описывается чередование активной обработки с офлайн-консолидацией в заранее выделенных компонентах памяти. В нём представлен исследовательский подход к усвоению информации, призванный уменьшить забывание. Название — вычислительная аналогия; фреймворк работает на основе фиксированной архитектуры и заданных правил обновления.
Эти направления делают прогноз правдоподобным, однако доказательная база пока ограничена, а результаты во многом зависят от дизайна эксперимента. Система может казаться обучающейся, если оценочные вопросы похожи на примеры, использованные при обновлении. Она может сохранить средний балл, утратив при этом небольшую, но важную способность. Кроме того, консолидация опыта может требовать столь значительных дополнительных вычислительных ресурсов, что достигнутый выигрыш окажется непривлекательным для реального внедрения. Необходимы независимое воспроизведение результатов и раздельная отчётность о результатах на старых и новых задачах.
За чем следить в 2027 году
Следите за экспериментами, результаты которых можно независимо воспроизвести и в которых отдельно оцениваются усвоение нового и сохранение прежних способностей после многократных обновлений. Для интерпретации результатов крайне важно учитывать вычислительные затраты, проверки на контаминацию данных и эффективность на ранее изученных задачах. Если улучшение результатов на новом учебном материале сопровождается потерями в других областях, это покажет, что компромисс между усвоением и сохранением знаний остаётся существенным, даже если общий показатель обучения растёт.
Что это значит для бизнеса
Командам R&D и поставщикам моделей следует отличать перспективный механизм обучения от процесса обновления, готового к внедрению. Любой пилотный проект должен предусматривать регрессионное тестирование, контролируемые данные для обновления, отслеживание версий и возможность вернуться к предыдущему состоянию. Планы по развитию продукта должны опираться на подтверждённые результаты усвоения и сохранения знаний, а также на эксплуатационные затраты, а не на предположение, что непрерывная адаптация будет надёжно работать со всеми задачами клиентов.
Главный критерий — способность сохранять непрерывность в условиях изменений
Полезная система памяти должна достаточно избирательно относиться к информации, чтобы не захлебнуться в накопленном опыте, и быть достаточно гибкой для пересмотра, чтобы справляться с меняющимся миром. Её ошибки часто выглядят обыденно: устаревшее предпочтение, неверно указанный ответственный или исключение из прошлого, применённое слишком широко. Такие сбои показательны: они позволяют понять, способен ли ассистент извлекать из истории взаимодействий здравые суждения о том, как действовать в следующий раз.












