Лидеры мнений
Архитектурные изменения, необходимые для управления агентами ИИ

Ключевые моментыОтноситесь к агентам как к цифровым коллегам с пропусками доступа и границами раскрытия…
Показать больше
- Относитесь к агентам как к цифровым коллегам с пропусками доступа и границами раскрытия информации, а не как к быстрым исправлениям через промпты.
- Управление по замыслу требует единой панели управления для последовательного применения политик во всех средах.
- Без наблюдения в реальном времени и отслеживания происхождения данных предприятия не могут аудировать действия агентов или подтверждать соответствие требованиям во время выполнения.
ИИ больше не является просто чат-ботом, генерирующим текст. В корпоративных средах агенты ИИ выполняют действия, такие как получение конфиденциальных данных, запуск рабочих процессов, вызов инструментов и регистрация активности в различных системах. Автономность полностью меняет обсуждение управления; механизмы контроля и процедуры, изначально разработанные для человеческих пользователей и традиционных приложений, не были созданы для управления программным обеспечением, которое может выполнять многоступенчатые действия во время выполнения.
Риск не является теоретическим. Маленькие пробелы в видимости, контроле доступа и возможности аудита могут быстро накапливаться, превращаясь в сбои во время выполнения, которые трудно обнаружить и еще труднее обратить.
Чтобы идти в ногу с этой новой эрой, управление агентами ИИ не может быть выполнено путем добавления дополнительных документов по политике. Для этого требуется управление, заложенное в архитектуру: архитектурный подход, в котором контроли встроены в плоскость управления и обеспечиваются непрерывно во время выполнения. Если агенты будут действовать как цифровые коллеги, они должны унаследовать те же корпоративные ограничения, что и люди, плюс более сильный контроль во время выполнения.
Почему управление ломается в эпоху конвергенции
Корпоративная архитектура вошла в эпоху конвергенции. Данные и рабочие нагрузки теперь охватывают несколько облаков, частных центров данных и краевых сред.
Существуют организации, которые запускают свои платформы в параллельных системах, поскольку они имеют несколько процессов, которыми необходимо управлять одновременно. Это включает отдельные системы идентификации, конвейеры обработки журналов, каталоги и утвержденные процессы. Результатом является то, что некоторые называют “платформой Франкенштейна”, где накладные расходы на интеграцию увеличиваются с каждым новым инструментом или облачной средой. На самом деле, эта фрагментация проявляется в повседневной реальности.
Согласно недавнему опросу, 47% респондентов указывают на сложные требования к доступу и процессы, а 44% – на ограниченную видимость того, где находятся данные, как препятствия для эффективного использования данных.
Именно здесь агенты раскрывают швы между системами.
Чтобы ответить на бизнес-вопрос, агенту может потребоваться извлечь данные из локальной системы ERP, облачной системы CRM, оперативной телеметрии в другом облаке и документов в совместной среде. Если организация обеспечивает политику по-разному в каждом месте, агент либо не сможет выполнить задание, либо, что хуже, сможет выполнить его способами, которые нельзя объяснить или контролировать.
Это момент, когда лидеры предприятий должны обратить внимание. Агенты поднимают планку, требуя согласованности между средами и подотчетности во время выполнения.
Управление, по этой причине, привлекается в центр внимания регулирующими органами и службами безопасности. Примером этого является рамка управления рисками ИИ NIST, которая подчеркивает управление рисками на протяжении всего жизненного цикла ИИ, а не только на этапе создания. Это напоминание о том, что соблюдение требований и доверие являются оперативными обязанностями, а не разовыми проверками.
От политики к платформе
Управление, заложенное в архитектуру, означает, что управление перемещается вместе с рабочей нагрузкой, а не реализуется заново в каждом сегменте. На практике это зависит от трех строительных блоков:
-
Единая плоскость управления
Одно место для определения и обеспечения идентификации, доступа, политики, каталогов и полномочий во всех облаках и центрах данных.
Цель – написать политику один раз и обеспечить ее выполнение где бы ни находились данные и модели, а не перестраивать системы контроля в каждой системе. Это предотвращает расхождение в поведении агентов, когда один и тот же агент ведет себя безопасно в одной среде, но опасно в другой.
Практический тест прост: если пользователь не может получить доступ к столбцу, проверьте, что агент, действующий от его имени, также не может получить доступ к нему. Это должно указать на то, выполняются ли написанные политики во всей плоскости управления.
-
Фабрика данных (data fabric), основанная на открытых стандартах
Агентам нужен контекст для работы. Когда этот контекст распределен по разным структурам, принадлежащим разным командам, архитектура data fabric помогает стандартизировать семантику и шаблоны доступа, чтобы агентам не приходилось осваивать новый набор правил для каждого набора данных.
Открытые форматы таблиц, такие как Apache Iceberg, поддерживают это, позволяя нескольким вычислительным движкам совместно использовать одни и те же данные под управлением общих правил, не копируя их в новый изолированный сегмент. Это важно, потому что дублирование данных – это место, где управление обычно терпит неудачу. Как только команды начинают копировать “только то, что агенту нужно”, вы создаете новую, менее управляемую среду.
Если агенты могут работать с наборами данных без введения новых пробелов в разрешениях, управление работает так, как предполагалось.
-
Наблюдаемость и отслеживание происхождения данных в реальном времени
Агенты управляемы только в том случае, если можно увидеть, что они делают во время выполнения.
Наблюдаемость здесь не просто приятное дополнение, но является основой для контроля и реагирования на инциденты во время выполнения.
Конкретно, необходимо иметь доказательство действий агентов от начала до конца. Агенты должны быть в состоянии доказать действия, например к каким данным был получен доступ и какие инструменты были вызваны, и затем отслеживание происхождения данных позволяет связать выходные данные с входными. Это позволяет командам проверять эти решения и устранять неисправности, если необходимо, тем самым доказывая общее соответствие требованиям.
Относиться к агентам как к “цифровым коллегам”
Одна из наиболее полезных моделей мышления – относиться к агентам как к цифровым коллегам.
Вот сравнение, которое поясняет эту мысль: как сотрудники имеют бейджи доступа, которые разрешают вход в некоторые здания и комнаты, но не в другие, управление позволяет агентам иметь доступ с ограничениями. Одним из ключевых дополнений является то, что агенты должны быть способны с учетом ситуации определять, что им разрешено раскрывать.
Рассмотрим агента поддержки. Ему может потребоваться доступ к предыдущим случаям поддержки, чтобы решить проблему, но он не может раскрыть конфиденциальные данные другого клиента при этом. Иначе говоря, агент может использовать знания с ограниченным доступом для рассуждений, но все равно должен обеспечивать границы раскрытия. Это не является “проблемой написания подсказок”, того типа, с которым мы уже научились справляться; вместо этого это проблема идентификации и применения правил в процессе работы.
Что меняется в 2026 году: агенты переходят от экспериментов к производству
2026 год – это год, когда эксперименты заканчиваются, а агенты переходят в промышленную эксплуатацию.
Этот сдвиг заставляет предприятия работать на двух скоростях. Одна – это скорость инноваций, где команды тестируют новые модели, инструменты и рабочие процессы агентов, чтобы получить конкурентное преимущество. А другая – это безопасная скорость, где системы должны соответствовать требованиям соответствия и эксплуатации, которые могут включать строгие контроли доступа и слепые пятна.
Без архитектурного управления эти две скорости будут конфликтовать.
Если команды развертывают этих агентов до того, как они будут управляемы, возникнет лоскутная система отдельных мер контроля и операционных сбоев. А если происходит обратное, вы получаете режим неудачи, при котором безопасность блокирует все, а инновации перемещаются в теневые ИТ, подрывая управление.
Цель не состоит в том, чтобы выбрать скорость. Это построение архитектуры, которая поддерживает обе.
Практический чек-лист для управления агентами во время выполнения
- Если вы строите или масштабируете агентов, важно задать себе следующие вопросы, чтобы раскрыть, является ли управление действительно архитектурным: Можно ли объяснить, от начала до конца, какие данные агент получил, чтобы произвести ответ или выполнить действие?
- Являются ли решения о доступе последовательными во всех гибридных средах или различаются ли они по платформам?
- Есть ли у вас телеметрия для действий агентов, включая вызовы инструментов, проверки политики и обращения к людям?
- Можно ли ограничить, приостановить или изолировать агента во время выполнения, если он ведет себя неожиданно?
- Есть ли у вас план мониторинга после развертывания, который соответствует вашим нормативным обязательствам и аппетиту к риску?
Если вы не можете ответить на эти вопросы, относитесь к развертыванию агента как к инциденту в рабочей среде, который ждет своего часа.
Сдвиг управления должен быть архитектурным, или он не существует
Агенты станут стандартным дополнением к корпоративным операциям. Вопрос в том, станут ли они надежной частью корпоративных операций.
Если агентами не будут управлять с не меньшей уверенностью, чем людьми и критически важным программным обеспечением, последствия будут реальными. Мы увидим эти последствия в утечке данных, неудачах в соблюдении требований, оперативных срывах и потере доверия к программам ИИ.
Лидеры должны перестать относиться к управлению агентами как к упражнению по документации. По мере расширения возможностей платформы управление агентами должно быть одним из тех, которые принимают на себя надзор за другими ролями. Это означает встраивание контролей в плоскость управления, обеспечение наблюдаемости действий и возможности аудита решений. И затем масштабирование.
Это то, как получить агентов, которые движутся быстро, не нарушая работу предприятия.











