Партнёрства
Microsoft запускает инициативу по обеспечению прозрачности ИИ для корпоративных агентов

Ключевые моментыСуществующие средства контроля наблюдают за активностью вокруг моделей, но не могут…
Показать больше
- Существующие средства контроля наблюдают за активностью вокруг моделей, но не могут проверить, что происходит внутри них.
- Эта структура требует доказательств, которые остаются переносимыми, когда предприятия переключаются на другие модели или поставщиков.
- Microsoft расширит свое участие в Инициативе по стандартам SI-агентов NIST для разработки открытых стандартов.
17 ноября 2026 года на конференции Microsoft Ignite компания Microsoft объявила об инициативе по обеспечению прозрачности ИИ, объединившей более 40 организаций для разработки открытых стандартов защиты и управления моделями и агентами ИИ у разных поставщиков.
Председатель совета директоров и генеральный директор Сатья Наделла представил эту инициативу вместе с клиентами и партнёрами, среди которых Accenture, Adobe, KPMG, Mastercard и Volvo Cars. Цель сотрудничества — сделать системы ИИ подотчётными, независимо проверяемыми и безопасными по своей конструкции независимо от модели или поставщика. Основополагающий принцип инициативы заключается в том, что чем автономнее ИИ, тем выше должны быть требования к прозрачности.
Дефицит проверяемых данных в корпоративной среде
Компании подключают модели к данным, инструментам, учётным данным и инфраструктуре, позволяя агентам выполнять действия без одобрения человека на каждом этапе. По словам Microsoft, существующие средства контроля могут отслеживать активность вокруг моделей, но не позволяют видеть, что происходит внутри них, или независимо проверять утверждения моделей об их собственном поведении.
В блоге компании о безопасности проводится аналогичное различие применительно к ограничению возможностей агентов: обнаружение агента, управление им и ограничение его действий по-прежнему не позволяют понять, как ведёт себя лежащая в его основе модель. Поэтому после действий, имеющих существенные последствия, остаются три вопроса: что ИИ было поручено и что ему было разрешено делать, что происходило между запросом и результатом и можно ли независимо проверить эту активность.
Microsoft сравнивает агентов, имеющих доступ к данным, инструментам и учётным данным, с привилегированными инсайдерами, работающими со скоростью и в масштабах машин. Возникающий дефицит проверяемых данных создаёт риски для безопасности, соблюдения требований, аудита и подотчётности. При этом ответственность остаётся на организации, внедрившей систему: именно её руководителям приходится отчитываться перед клиентами, сотрудниками, советом директоров, аудиторами и регулирующими органами.
Структура «Наблюдать — Проверять — Контролировать»
Структура инициативы объединяет эти требования в три части. Наблюдение охватывает запрос и разрешение на его выполнение, модель и среду её выполнения, данные и инструменты, к которым обращались, а также совершённые действия. Кроме того, предусматривается непрерывный мониторинг активности агентов и сигналов риска с учётом политик и установленных пороговых значений.
Проверка касается источника свидетельств. Записи об идентификаторе агента, делегированном ему намерении и выполненных действиях позволят установить, поступила ли информация от модели, среды её выполнения или независимых систем идентификации и управления политиками. Затем сигналы, сообщаемые моделью, можно будет сверять с независимо зафиксированными данными с помощью собственных систем безопасности и контроля соблюдения требований организации, а не полагаться исключительно на сведения поставщика.
Контроль использует сведения о цели каждого рабочего процесса, его владельце, данных и делегированных полномочиях, чтобы применять политики до совершения действий с существенными последствиями. Те же записи помогут восстановить ход событий в ходе расследований, локализации инцидентов, восстановления и аудитов. Предполагается, что они останутся пригодными к использованию при смене моделей или поставщиков, в том числе при переходе между закрытыми моделями и моделями с открытыми весами, чтобы команды разработки могли обновлять агентов, не ставя под угрозу управление безопасностью и аудит соблюдения требований.
Разработка стандартов и их внедрение в продукты
Microsoft расширит своё участие в инициативе NIST SI по разработке стандартов для агентов и использует результаты собственных исследований для создания открытых отраслевых стандартов прозрачности, безопасности и управления ИИ. Программа NIST призвана содействовать разработке технических стандартов под руководством отрасли и открытых протоколов, чтобы автономные агенты могли безопасно работать и взаимодействовать в разных цифровых системах.
Стратегические направления инициативы объединяют добровольные рекомендации и анализ пробелов для разработки стандартов под руководством отрасли, работу по устранению препятствий для взаимодействия протоколов, создаваемых сообществами, а также исследования в области аутентификации агентов, инфраструктуры идентификации и оценки безопасности.
Microsoft также планирует включить результаты работы в рамках инициативы в Microsoft AI, Microsoft Foundry и Microsoft Copilot. Клиенты смогут использовать полученные свидетельства с инструментами безопасности и контроля соблюдения требований от Microsoft или других поставщиков.
Практический критерий успеха инициативы — смогут ли её участники воплотить эту структуру в общие стандарты и переносимые свидетельства: записи, которые позволят компании управлять агентами до начала их действий и впоследствии восстанавливать ход их работы, даже если лежащая в основе система модель или поставщик изменятся.












