Корпоративному ИИ необходим накопительный контекст, прежде чем ему можно будет доверить автономную работу

Представьте: утро понедельника, до совещания по квартальному прогнозу остаются считаные часы. Руководитель финансового отдела спрашивает ИИ-агента: «Почему снизилась валовая маржа? Какие допущения нужно изменить? И что компании следует делать дальше?» За считаные секунды агент получает данные из нескольких систем, выявляет несколько факторов и рекомендует сократить необязательные расходы или пересмотреть план найма. Ответ ясный, подробный и правдоподобный. В нем нет ничего, что выглядело бы очевидно неверным.

Именно поэтому это так опасно. 

Если разобраться, обнаружится, что не учтено несколько важных деталей. Агент использовал не ту версию прогноза. Он не учел утвержденную бухгалтерскую корректировку за предыдущий квартал. Он не принял во внимание, что в одном из регионов действуют другие правила ведения бизнеса. Исходные данные не обязательно были неверными; агент просто не знал, как организация интерпретирует эти данные и как они связаны между собой. Проблему нельзя легко решить, просто заменив модель на другую. Дело в том, что модель не знает особенностей этого бизнеса. 

Разработка корпоративного ИИ во многом была сосредоточена на возможностях моделей и автономности агентов. Но модель не сможет прийти к надежному выводу, учитывающему специфику компании, если не поймет, как организация определяет свои показатели и как они связаны с тем, как устроен ее бизнес. 

Не хватает накопительного контекста бизнеса — управляемого понимания того, что означают корпоративные данные: их определений, взаимосвязей, допущений, расчетов, рабочих процессов, исключений и решений, которые со временем накапливаются вокруг них.

Такой контекст формируется в ходе планирования, прогнозирования, моделирования сценариев, анализа отклонений, корректировок, обратной связи, закрытия отчетных периодов и утверждения решений. Без него организации рискуют возложить на ИИ больше ответственности, не обеспечив ему достаточного понимания бизнеса, чтобы надежно справляться с этой ответственностью. 

Возможности ИИ развиваются быстрее, чем готовность компаний

Согласно данным опроса организаций, 88% из них использовали ИИ в 2025 году, однако доля внедрения агентов оставалась однозначной почти во всех бизнес-функциях.

Эти данные показывают, что у компаний есть доступ к возможностям ИИ, но многие из них пока не готовы поручать ИИ выполнение задач, имеющих серьезные последствия. Руководители понимают, что им нужно внедрять ИИ, но им еще предстоит определить, на том ли уровне проблемы они сосредоточили свои усилия.

Модель может анализировать данные, не понимая бизнес

Большие базовые модели хорошо распознают закономерности, обобщают информацию, взаимодействуют на естественном языке и помогают исследовать большие наборы данных. Это значительный прогресс, однако сама модель становится все менее важным фактором, отличающим одно решение от другого. 

Более сложная задача для корпоративного ИИ — научить его понимать, что означает информация компании и, что особенно важно, как она используется при принятии решений и анализе.

В обсуждениях управления ИИ большое внимание уделялось чистоте данных. Это необходимый шаг, но его недостаточно, чтобы масштабировать ИИ и широко внедрить его в компаниях. Даже два чистых набора данных могут использовать разные определения, временные периоды и правила ведения бизнеса. 

Согласно исследованию IBM 2025 CEO Study, ожидаемую рентабельность инвестиций обеспечили 25% инициатив в области ИИ, а масштабировать их во всей компании удалось лишь в 16% случаев. Эта картина отражает более масштабную проблему внедрения: наличие доступа к моделям и данным не гарантирует, что система ИИ сможет учитывать организационные правила, определяющие, как следует использовать информацию.

Приобрести более мощные модели несложно. Понимание, учитывающее специфику компании, необходимо создавать самостоятельно. 

Контекст, извлекаемый по запросу, — не то же самое, что накопительный контекст

В корпоративном ИИ контекстом часто называют информацию, которую система извлекает в момент запроса. Она находит подходящий документ, запись или точку данных и использует найденное для формирования ответа, а при следующем запросе начинает все заново. 

Извлечение информации полезно, но само по себе не создает накапливаемую организационную память. Система сохраняет мало информации для будущего, поэтому при каждом новом взаимодействии ИИ может воспринимать компанию как незнакомую.

Это похоже на то, как если бы каждое утро на работу выходил новый блестящий аналитик. Он разбирается в финансах и умеет анализировать наборы данных, но ему все равно нужно выяснять, как именно эта компания определяет свои показатели, какой прогноз считается основным, почему было одобрено исключение и какие допущения раз за разом оказываются неверными.

Накопительный контекст выполняет другую функцию. Вместо того чтобы обнуляться с каждым запросом или циклом планирования, он со временем накапливается. Каждое расследование, сценарий, корректировка, согласование и решение могут внести вклад в управляемое понимание того, как работает организация. Благодаря этому в последующих циклах можно опираться на выводы предыдущих, а не заново выявлять те же взаимосвязи, логику и методы работы при каждом запросе. 

Это не означает, что нужно хранить всё бессрочно. Полезный для организации контекст необходимо целенаправленно ограничивать по объёму, обеспечивать возможность его исправления, учитывать права доступа и сохранять связь с источником. Организациям важно сохранять значимую информацию и при этом следить за тем, чтобы устаревшие предположения, временные исключения и неверные интерпретации можно было выявлять и со временем изменять.

Доверие обеспечивается тем, что лежит в основе модели

Модель — самая заметная часть системы ИИ, но редко именно она определяет, может ли организация доверять результату. 

Способная модель может исследовать отклонения, рассматривать возможные объяснения и рекомендовать действия. Возможность организации полагаться на эту рекомендацию зависит от архитектуры, в которую встроена модель. 

Gartner выяснила, что организации, сообщающие об успешных инициативах в области ИИ, инвестируют до четырех раз больше (в процентах от выручки) в такие фундаментальные направления, как качество данных, управление, подготовка специалистов к работе с ИИ и управление изменениями, чем организации, добивающиеся неудовлетворительных результатов.

Управляемый слой контекста — часть этой основы: он располагается между исходными системами, моделями и бизнес-действиями. 

Именно здесь интеллект должен отделяться от детерминированного исполнения. ИИ может проводить анализ, готовить проекты и давать рекомендации. После проверки и утверждения действия его исполнение должно проходить через контролируемые расчёты, проверку прав доступа, механизмы записи изменений в исходные системы и журналы аудита. Гибкость, благодаря которой модель полезна при изучении возможных вариантов, не всегда уместна, когда речь идёт о внесении изменений в работу организации.

Модель может рекомендовать, что следует сделать. Архитектура вокруг неё, включая одобрение человека и системные средства контроля, определяет, что разрешено сделать.

Ограничения, благодаря которым агенты полезны

Агентов внедряют быстрее, чем создают средства контроля за их работой. По данным KPMG, доля организаций, внедряющих хотя бы некоторых ИИ-агентов, выросла с 11% в первом квартале 2025 года до 42% к третьему кварталу. Однако Gartner сообщила, что лишь 13% организаций полностью согласились с тем, что у них созданы надлежащие структуры управления агентами.

Этот разрыв важен, поскольку возможности системы и объём предоставленных ей полномочий — разные проектные решения. Система может быть технически способна получить доступ к базе данных, пересмотреть прогноз или запустить рабочий процесс. Но это не означает, что ей следует разрешать делать всё это самостоятельно. 

Прежде чем поручать агентам значимую работу, организациям следует установить три ограничения.

• Установить общее понимание

Прежде чем агент сможет последовательно рассуждать о разных данных, необходимо согласовать определения, показатели, иерархии, финансовые календари и правила расчётов. 

Не следует ожидать, что ИИ молча разрешит разногласия, которые сама организация ещё не урегулировала. Если общего понимания нет, система может воспринять противоречащие друг другу определения как взаимозаменяемые и выдать связный, но неверный с операционной точки зрения ответ.

• Решить, что следует сохранять

Организациям необходимо определить, какие исправления, согласования, решения и результаты станут повторно используемым контекстом. Также нужны правила хранения, доступа и внесения исправлений. 

Полезную память отбирают и контролируют, а не накапливают без разбора. В противном случае устаревшее предположение или разовое исключение может незаметно повлиять на будущие рекомендации.

• Отделить рекомендации от обязательств

Анализ, рекомендация, предлагаемое изменение, исполнение после одобрения человека и ограниченное автономное исполнение — это разные уровни полномочий. У агентов должны быть идентификаторы и права доступа, соответствующие каждому из этих уровней.

Оценка должна также охватывать всю цепочку действий: какая информация была извлечена, какой контекст использовался, какие инструменты вызывались, что изменилось и можно ли отменить эти изменения. 

Проверка только итогового ответа не позволяет выявить большинство возможных сбоев в рабочем процессе с участием агента.

Возможности определяют, что агент может делать, а управление — что ему разрешено делать.

Для автономности недостаточно одних возможностей

В рассмотренном в начале сценарии с маржой скорость полезна лишь в том случае, если система также знает, какой прогноз является авторитетным, какое исключение было одобрено, какие действия ей разрешено предпринимать и кто по-прежнему несёт ответственность. 

Я считаю, что корпоративный ИИ заслужит доверие, только если будет сохранять нужный контекст и сможет показать, как пришёл к результату, имеющему серьёзные последствия. 

Прежде чем расширять автономность агентов, организациям следует создать такой слой контекста и контроля. Работа изменится, но ответственность останется.