Кризис памяти ИИ: мы строим цифровой темный век

Миллионы агентов ИИ входят в производственные системы. Почти ни один из них не может делиться оперативным опытом. Это почему этот архитектурный выбор имеет значение — и что меняется, если мы все сделаем правильно.

В 14:06, клиент размещает онлайн-заказ на ноутбук.

Агент проверки запросил свою операционную базу данных: чистая история покупок, сумма в нормальном диапазоне, адрес доставки ранее использовался, устройство и местоположение соответствуют недавним успешным заказам. Все выглядит нормально. Агент одобряет заказ.

В то же время агент поведения обрабатывает данные кликстрима в lakehouse данных компании. Из сессии он выводит закономерность: пользователь прибыл直接 на глубокую страницу оформления заказа без просмотра или сравнения. Этот сигнал слаб сам по себе, но он является известным предшественником в сценариях учетной записи при совокупности с нормальными покупками.

Агент поведения записывает эту интерпретацию как полученные знания для дальнейшего анализа и обучения модели.

Агент проверки никогда не видит этого. Не потому, что сигнал не был рассчитан, и не потому, что он был проигнорирован — но потому, что знания живут внутри системы, которую агент проверки не консультирует во время авторизации.

Каждый агент ведет себя правильно, учитывая то, что он может видеть. Каждый записывает свои выводы в систему, которой он владеет, и эти выводы остаются невидимыми для других агентов, работающих параллельно. Решения локально правильны, но глобально неполны.

Ноутбук отправляется.

Через тридцать шесть часов оплата оспаривается. Расследование подтверждает, что учетная запись была скомпрометирована ранее в тот же день. Атакующий сохранил транзакцию в нормальных пределах, полагаясь на тот факт, что единственное раннее предупреждение существовало как поведенческое знание, запертые вне контекста принятия решений агентом проверки.

Неудача не была вызвана отсутствием данных, медленной обработкой или плохой моделью. Это был агентский силос: знания были сформированы, но не были общие.

И это раскрывает проблему, о которой почти никто не говорит. Мы построили архитектуры, в которых агенты ИИ, принимающие решения, не могут получить доступ к тому, что другие агенты ИИ уже открыли.

Проблема, которую решила печатная машинка

До печатной машинки знания были хрупкими. Когда ученый умирал, большая часть того, что он узнал, умирала с ним. Математик в Лондоне мог провести десятилетия, открывая принципы, которые математик в Париже независимо открывал бы через пятьдесят лет. Прогресс был реальным, но он был локальным, медленным и многократно сбрасывался.

Печатная машинка не сделала людей умнее. Она внешне проявляла память. Знания перестали быть связаны с одним умом и начали сохраняться после жизни своего создателя. Инсайты могли быть общие, пересмотрены и построены на протяжении поколений. Это позволило прогрессу накапливаться.

Мы рискуем повторить ошибку до-печатной машинки с ИИ.

Большинство организаций сейчас развертывают агентов ИИ в производственных системах, и многие активно экспериментируют в таких областях, как поддержка клиентов, разработка программного обеспечения, исследования и обнаружение мошенничества. Эти агенты обычно развертываются как независимые сервисы, соответствующие современным архитектурам микросервисов, каждая со своей собственной базой данных и операционной границей. Даже внутри одной и той же организации агенты получают инсайты из своего собственного производственного опыта, но редко делятся знаниями, которые они производят, с другими агентами, принимающими связанные решения.

В результате оперативный инсайт остается фрагментированным. Местные решения могут улучшиться, но опыт не накапливается в системе. Каждый прорыв, который остается в ловушке внутри одного агента, является прорывом, который не может накапливаться.

На этот раз ограничивающим фактором не является интеллект или скорость. Это память. Без способа для систем ИИ внешне проявлять и делиться тем, что они открывают, прогресс сбрасывается чаще, чем накапливается.

Как выглядит общая память

Большие контекстные окна могут обогатить индивидуальное рассуждение, но они не создают общий, постоянный опыт между агентами.

Общая память меняет результаты не за счет улучшения моделей, а за счет изменения того, что агенты могут видеть в момент принятия решений.

В системе-силосе каждый агент рассуждает правильно внутри своей собственной границы. Агент проверки оценивает транзакционный риск. Агент поведения анализирует закономерности кликстрима. Каждый записывает свои выводы в систему, которой он владеет, и эти выводы остаются невидимыми для других агентов, работающих параллельно. Решения локально правильны, но глобально неполны.

С помощью слоя общей памяти эта граница исчезает.

Когда агент поведения обрабатывает сессию, он выводит слабый, но значимый сигнал: навигационную закономерность, связанную с ранними попытками учетной записи. Вместо того, чтобы хранить этот инсайт только для офлайн-анализа, он записывает сигнал в общую память, связанную с активной сессией.

Через несколько мгновений, когда агент проверки оценивает покупку, он запрашивает эту же память. Транзакция все еще выглядит нормально. Но теперь он видит дополнительный контекст: поведенческое предупреждение, которое в противном случае было бы отсутствующим. Ни один сигнал не является решающим сам по себе. Вместе они пересекают порог для дальнейшей верификации.

Ничего в агентах самих не изменилось. Ни одна модель не была переобучена. Ни один централизованный контроллер не вмешался. Разница заключается в видимости: инсайт, сформированный одним агентом, становится доступным другому, пока он еще имеет значение.

Критически, этот инсайт сохраняется. Когда результат позже известен — мошенничество или законно — связь между сигналом и результатом записывается. Со временем система накапливает эмпирическую запись о том, какие слабые индикаторы имеют значение, и при каких условиях. Будущие решения информируются опытом, который выходит за рамки одного взаимодействия или агента.

Общая память не является хранилищем данных и не является операционной базой данных. Это низко-задержный субстрат для полученного контекста: сигналов, интерпретаций и ассоциаций, которые переживают взаимодействие, которое их произвело, и остаются запросными для других агентов, принимающих связанные решения.

Это то, как опыт накапливается — не внутри одной модели, а на протяжении всей системы в целом.

Архитектурный компромисс за агентскими силосами

Агентские силосы не являются ошибкой реализации. Они являются предсказуемым результатом корпоративных архитектур, разработанных для другого вида потребителя.

На протяжении десятилетий производственные системы разделяли рабочие нагрузки по функциям. Операционные системы были оптимизированы для низко-задержных, последовательных транзакций, в то время как аналитические системы были оптимизированы для крупномасштабной агрегации и исторического открытия закономерностей (OLTP vs. OLAP). Это разделение отражало, как потреблялись инсайты: аналитические результаты производились для людей, а не машин, и поэтому ожидалось, что они будут поступать асинхронно и вне критического пути принятия решений.

Агенты ИИ наследуют это архитектурное разделение, но они не подходят для него.

Последствием является не просто задержка инсайта, но и структурные слепые пятна. Инсайты, произведенные в аналитических системах, по конструкции, обнаруживаются после того, как реальные решения уже были приняты. Сигналы, которые могли изменить результаты, существуют, но не могут быть представлены в момент принятия решений, потому что они находятся в системах, которые не предназначены для непрерывного запроса автономными принимающими решения.

Архитектура не сломана. Она не соответствует требованиям автономных систем.

Отсутствующая дисциплина: контекстная инженерия

Общая память вводит проблему, которую большинство команд не готовы решить: решить, какой опыт должен сохраниться.

Системы ИИ генерируют огромное количество сырого опыта — транзакций, кликов, сообщений, действий, результатов. Сохранение всего этого не является практичным или полезным. Без намеренного выбора общая память становится шумом. Вызов заключается не в сборе большего количества данных, а в формировании опыта в контекст, который другие агенты могут использовать.

Это роль контекстной инженерии.

Контекстная инженерия — это дисциплина, которая решает, какие наблюдения становятся устойчивыми сигналами, как эти сигналы представлены и когда они должны быть представлены другим агентам. Она находится между сырыми событиями и рассуждением агентов, преобразуя транзиторную активность в общее, актуальное понимание.

На практике это означает повышение закономерностей, индикаторов и условных ассоциаций, в то время как большинство сырого опыта исчезает. Слабый сигнал или крайний случай может не иметь значения в изоляции, но становится ценным, когда накапливается и представляется в нужный момент.

Контекстная инженерия определяет, будет ли общая память просто хранить опыт или позволять ему накапливаться.

Что происходит, если мы все сделаем правильно

Это не будущая проблема. Это архитектурное решение, которое принимается — часто неявно — командами инфраструктуры сегодня.

Дефолтный путь — изоляция. Агенты ИИ действуют независимо, опираясь только на свой собственный опыт. Каждый из них принимает быстрые, локально правильные решения, но интеллект достигает плато. Те же самые крайние случаи повторяются, слабые сигналы заново открываются, и неудачи повторяются с большей скоростью и объемом.

Альтернатива — слой общей памяти.

Когда полученный контекст сохраняется и виден в момент принятия решений, опыт перестает испаряться. Инсайты, открытые один раз, остаются доступными. Слабые сигналы приобретают значение через накопление. Решения улучшаются не потому, что модели меняются, а потому, что агенты больше не рассуждают в изоляции.

Это не требует больших моделей, реального переобучения или централизованного контроля. Это требует обращения с памятью как с первоклассным архитектурным слоем — разработанным для низко-задержного доступа, сохранения и общей видимости.

Архитектурные дефолты быстро затвердевают. Системы, построенные без общей памяти, становятся все более трудными для доработки по мере распространения агентов. Выбор прост: строить системы, которые накапливают опыт — или системы, которые бесконечно сбрасываются.