Партнерства
Microsoft запускає ініціативу з прозорості ШІ для корпоративних агентів

Ключові моментиІснуючі засоби контролю спостерігають за активністю навколо моделей, але не можуть…
Показати більше
- Існуючі засоби контролю спостерігають за активністю навколо моделей, але не можуть перевірити, що відбувається всередині них.
- Ця структура вимагає доказів, які залишаються переносними, коли підприємства змінюють моделі або постачальників.
- Microsoft розширить свою участь в Ініціативі стандартів SI Agent NIST для розробки відкритих стандартів.
17 листопада 2026 року на конференції Microsoft Ignite компанія Microsoft оголосила про ініціативу з прозорості ШІ, об’єднавши понад 40 організацій для розроблення відкритих стандартів захисту й управління моделями ШІ та агентами в різних постачальників.
Голова ради директорів і генеральний директор Satya Nadella представив цю ініціативу разом із клієнтами та партнерами, зокрема Accenture, Adobe, KPMG, Mastercard і Volvo Cars. Мета співпраці — зробити системи ШІ підзвітними, незалежно перевірюваними та безпечними за задумом, незалежно від моделі чи постачальника. Її основний принцип полягає в тому, що зі зростанням автономності ШІ має зростати й прозорість.
Брак доказів у корпоративному середовищі
Підприємства підключають моделі до даних, інструментів, облікових даних і інфраструктури, завдяки чому агенти можуть виконувати дії без схвалення людини на кожному кроці. За словами Microsoft, наявні засоби контролю можуть відстежувати активність навколо моделей, але не бачать, що відбувається всередині них, і не можуть незалежно перевірити описи моделями власної поведінки.
У блозі Microsoft про безпеку подібне розмежування проведено щодо ізоляції агентів: виявлення, регулювання й ізоляція агента все одно не дають змоги побачити, як поводиться модель, що лежить в його основі. Тому після дій, які мають значні наслідки, залишаються три запитання: що саме ШІ попросили зробити й на що уповноважили, що відбувалося між запитом і результатом та чи можна незалежно перевірити цю діяльність.
Microsoft порівнює агентів із доступом до даних, інструментів і облікових даних із внутрішніми користувачами, які мають привілейований доступ і діють зі швидкістю та в масштабах машин. Через брак доказів виникають ризики для безпеки, дотримання вимог, аудиту й підзвітності; водночас відповідальність залишається за організацією, яка впровадила систему, коли її керівникам доводиться звітувати перед клієнтами, працівниками, радами директорів, аудиторами та регуляторами.
Підхід «Бачити, перевіряти й контролювати»
Підхід ініціативи структурує ці вимоги за трьома напрямами. Бачити — це враховувати запит і надані дозволи, модель і середовище виконання, дані й інструменти, до яких отримано доступ, а також виконані дії. Також передбачено постійний моніторинг діяльності агентів і сигналів ризику з огляду на політики та встановлені порогові значення.
Перевіряти — означає встановлювати джерело доказів. Записи про ідентичність агента, делегований намір і виконані дії показуватимуть, чи надійшла інформація від моделі, її середовища виконання або незалежних систем ідентифікації та політик. Сигнали, про які повідомляє модель, можна буде звіряти з незалежно зафіксованими даними за допомогою власних систем безпеки й дотримання вимог організації, а не покладатися лише на опис постачальника.
Контролювати — означає використовувати дані про мету, власника, дані та делеговані повноваження кожного робочого процесу, щоб забезпечувати дотримання політик до виконання дій, які мають значні наслідки. Ті самі записи допомагатимуть відтворити перебіг подій під час розслідувань, ізоляції, відновлення й аудитів. Вони мають залишатися придатними до використання, навіть коли організації змінюють моделі чи постачальників, зокрема переходять між моделями із закритими та відкритими вагами, щоб команди розробників могли оновлювати агентів без шкоди для управління безпекою чи аудитів дотримання вимог.
Розроблення стандартів і впровадження продуктів
Microsoft розширить свою участь в ініціативі SI зі стандартів для агентів NIST і спиратиметься на власні дослідження, щоб розробляти відкриті галузеві стандарти прозорості, безпеки та управління ШІ. Програму NIST створено для сприяння розробленню технічних стандартів під керівництвом галузі та відкритих протоколів, щоб автономні агенти могли безпечно працювати й взаємодіяти між різними цифровими системами.
Стратегічні напрями охоплюють добровільні рекомендації та аналіз прогалин для розроблення стандартів під керівництвом галузі, роботу зі зменшення перешкод для взаємодії між протоколами, розробленими спільнотами, а також дослідження автентифікації агентів, інфраструктури ідентифікації та оцінювання безпеки.
Microsoft також планує інтегрувати напрацювання ініціативи в Microsoft AI, Microsoft Foundry та Microsoft Copilot. Клієнти зможуть використовувати отримані докази разом із засобами безпеки й дотримання вимог від Microsoft або інших постачальників.
Практична перевірка ефективності ініціативи — чи зможуть її учасники перетворити цей підхід на спільні стандарти й переносимі докази: записи, які дають підприємству змогу керувати агентами до того, як вони почнуть діяти, а згодом відтворювати їхню поведінку, навіть якщо модель чи постачальник зміняться.












