Вібхуті Сінха, головний директор з продукції компанії Saviynt – Серія інтерв’ю

Вібхуті Сінха, головний директор з продукції компанії Saviynt, очолює бачення, інновації та стратегічний напрямок портфеля ідентифікації та інтелекту компанії, а також керує успіхом продукції та партнерства. З майже двома десятилітнями досвіду в галузі управління ідентифікацією та доступом (IAM), він відіграв центральну роль у формуванні великомасштабних архітектур безпеки для компаній Fortune 500.

Saviynt – це хмарна платформа безпеки ідентифікації, яка зосереджена на допомозі підприємствам керувати та захищати доступ до користувачів, застосунків, даних та все частіше систем штучного інтелекту. Її флагманський продукт, Identity Cloud, забезпечує уніфіковане управління ідентифікацією та адміністрацією (IGA), управління привілейованим доступом та управління доступом до застосунків в рамках однієї платформи, що дозволяє організаціям застосовувати заходи безпеки, дотримання вимог та принципи Zero Trust у великому масштабі. Платформа використовує штучний інтелект для автоматизації рішень щодо доступу, моніторингу ризиків та управління не тільки людськими користувачами, а й нелюдськими ідентифікаторами, такими як сервісні облікові записи та агенти штучного інтелекту, що відображає зростаючу складність сучасних корпоративних середовищ. Консолідуючи безпеку ідентифікації в один контрольний шар, Saviynt спрямована на зменшення операційних витрат, одночасно покращуючи видимість та дотримання вимог у хмарних, гібридних та локальних системах.

Ви провели понад десятиліття в Saviynt, допомагаючи компанії зростати від ранньої хмарної орієнтації до глобальної платформи безпеки ідентифікації, як це змінило ваше бачення ідентифікації як основи для забезпечення безпеки підприємств, керованих штучним інтелектом?

Коли я приєднався до Saviynt, ідентифікація не була чимось, про що більшість рад директорів або CEO говорили. Це часто розглядалося як надання облікових записів та виконання сертифікацій. За роки, коли компанії перейшли до хмари та SaaS вибухнули, ідентифікація тихо стала шаром, який зв’язував все: людей, застосунки, інфраструктуру та дані.

Бути частиною цього шляху змінило моє бачення. Я почав бачити ідентифікацію не як категорію продукції, а як контрольний шар для того, як робота фактично виконується в компанії. Кожне рішення щодо доступу, кожна затвердження, кожний автоматизований процес – все це повертається до ідентифікації.

Тепер з штучним інтелектом ми бачимо той самий зсув знову. Агенти штучного інтелекту по суті є цифровими працівниками, які можуть діяти від імені людей або підприємств. Якщо ви не надаєте їм ідентифікації, власності та управління, ви закінчуєтеся автоматизацією без відповідальності. Тому я вважаю, що ідентифікація буде основою для забезпечення безпеки підприємств, керованих штучним інтелектом. Ідентифікація – це те, що приносить відповідальність, управління та контроль до автономних систем.

Saviynt запускає спеціальну контрольну площину ідентифікації для агентів штучного інтелекту, з корпоративної точки зору, який розрив у сучасних архітектурах ідентифікації та безпеки спонукав до цього рішення?

Поточні інструменти ідентифікації та безпеки не були розроблені для автономних акторів. Вони були розроблені для працівників та застосунків, а не для програмних сутностей, які можуть приймати рішення, виконувати дії та працювати незалежно.

Більшість систем ідентифікації сьогодні дуже хороші в відповіді на питання “Хто ви?” і “Який доступ був вам наданий?” Але у світі агентів штучного інтелекту більш важливим стає питання “Що ви робите зараз, і повинні ви це робити?””

Також був розрив у управлінні. Компанії починають розгортувати сотні або тисячі агентів на платформах, таких як Copilot, Vertex AI та Bedrock, але багато організацій навіть не знають, скільки агентів у них є, хто володіє ними, які дані вони можуть доступити, або що відбувається, якщо власник залишає компанію. Це створює не тільки проблему безпеки, а й проблему управління та відповідальності.

Це фактично спонукло нас до ідеї контрольної площини ідентифікації для агентів штучного інтелекту: централізований спосіб відкриття, управління, контролю та аудиту ідентифікації штучного інтелекту протягом всього їхнього життєвого циклу та дій у режимі реального часу.

Як керування автономними агентами штучного інтелекту відрізняється від управління традиційними нелюдськими ідентифікаторами, такими як сервісні облікові записи або боти?

Керування агентами штучного інтелекту дуже відрізняється від управління традиційними нелюдськими ідентифікаторами (НХІ), оскільки ці ідентифікатори зазвичай детермініровані та передбачувані. Сервісний обліковий запис виконує певну роботу. Бот виконує певне завдання. Їх поведінка не змінюється, якщо хтось не змінить код.

Агенти штучного інтелекту відрізняються, оскільки вони автономні, адаптивні та орієнтовані на цілі. Вони не просто виконують фіксований скрипт. Ці агенти вирішують, як виконати завдання, які інструменти використовувати, які дані доступити, і часом навіть з якими іншими агентами співпрацювати. Їх поведінка може еволюціонувати з часом, оскільки моделі, підказки або інтеграції змінюються.

Це означає, що надання доступу один раз і його перегляд кожні кілька місяців не є сталим моделлю управління. Вам потрібно безперервне управління, включаючи відкриття, володіння, управління життєвим циклом та, найважливіше, контроль у режимі реального часу для оцінки того, що агент робить в даний момент.

Зміна полягає в тому, що з традиційними НХІ ви керуєте доступом. З агентами штучного інтелекту вам потрібно керувати поведінкою та діями в режимі реального часу. Авторизація не означає придатність. Безпека штучного інтелекту буде побудована на цій ідеї.

Як важливо є уніфікована видимість по всім цією інфраструктурі, коли підприємства приймають інструменти, такі як Amazon Bedrock, Google Vertex AI та Microsoft Copilot Studio?

Ви не можете захистити те, чого не бачите.

Уніфікована видимість по всім платформам, таким як Amazon Bedrock, Google Vertex AI та Microsoft Copilot Studio, дуже важлива, і чесно кажучи, це те, з чим більшість організацій зараз борються. Прийняття штучного інтелекту відбувається дуже швидко, і це відбувається одночасно на кількох платформах.

Одна бізнес-одиниця або команда може будувати агентів у Copilot Studio, інша команда експериментує з Bedrock, а інша група використовує Vertex AI. Дуже швидко ви закінчуєтеся агентами штучного інтелекту, розкиданими по всьому підприємству, без централізованого інвентарю.

Перша проблема, з якою стикаються компанії, дуже проста: вони навіть не знають, скільки агентів штучного інтелекту у них є, де вони працюють, які дані вони можуть доступити, або хто ними володіє. Без видимості ви не можете керувати, а якщо ви не можете керувати, ви точно не можете захистити.

Уніфікована видимість стає основою. До управління життєвим циклом, до контролю у режимі реального часу, до політики, перший крок – відкриття та інвентаризація по всім платформам штучного інтелекту. У світі штучного інтелекту видимість є операційною, безпековою та вимогною.

Як виглядає повний життєвий цикл агента штучного інтелекту з точки зору ідентифікації та управління, від створення до виведення з експлуатації?

Мені подобається пояснювати життєвий цикл агента штучного інтелекту так само, як я пояснюю життєвий цикл працівника.

Спочатку агент створюється та налаштовується. Хтось (розробник, кодер або бізнес-аналітик) будує агента в Bedrock або Copilot Studio. На цьому етапі ми повинні поставити базові питання щодо ідентифікації: Хто володіє цим агентом? Яке його завдання? Які системи йому потрібно доступити?

Потім агент починає працювати. Він доступиться до систем, читає або записує дані через API, викликає інструменти, запускає робочі процеси та, можливо, навіть спілкується з іншими агентами. Під час цієї фази нам потрібно постійно моніторити, що він робить, і переконатися, що він залишається в межах свого призначеного завдання та дозволів.

З часом агент змінюється. Можливо, ми додаємо нові інструменти, оновлюємо модель, розширюємо його доступ або змінюємо його роль. Це подібно до події переміщення для людської ідентифікації і воно потребує управління та затверджень.

І, нарешті, коли агент більше не потрібен, його слід вивести з експлуатації – доступ скасовано, облікові дані видалено, інтеграції зупинено та аудитні журнали збережено.

У простих термінах, життєвий цикл виглядає так: Створити → призначити власника та мету → надати доступ з мінімальними привілеями → моніторити та керувати → керувати змінами → вивести з експлуатації чисто.

Як організації повинні думати про забезпечення безпеки взаємодій між агентами штучного інтелекту, коли системи штучного інтелекту починають працювати та співпрацювати незалежно?

Я вважаю, що взаємодії між агентами штучного інтелекту стануть однією з найбільших проблем безпеки в найближчі роки.

Сьогодні ми переважно турбуємося про те, чи повинен людина мати доступ до системи. У майбутньому нам доведеться турбуватися про те, чи можуть тисячі агентів спілкуватися з іншими агентами, запускати робочі процеси, доступитися до даних та приймати рішення без людини в циклі.

Ризик полягає не тільки в тому, що один агент може зробити, а в тому, що кілька агентів можуть зробити разом. Ви можете закінчитися ситуацією, коли жоден агент не має занадто багато доступу, але коли вони співпрацюють, вони можуть виконувати дуже потужні дії.

Організації повинні розглянути кілька речей:

• Кожен агент повинен мати унікальну ідентифікацію.
• Контроль безпеки на етапі розробки недостатній. Охоронні заходи у режимі реального часу є обов’язковими.
• Взаємодії між агентами повинні бути аутентифіковані.
• Дії повинні бути авторизовані в режимі реального часу.
• Делегування повинно бути обмежене та тимчасовим.
• Все повинно бути записано для аудиту.

У багатьох відношеннях ми переходимо до зовсім іншої моделі безпеки: від управління доступом людини до управління співпрацею машин у безпрецедентному масштабі.

Які найімовірніші ризики компанії зараз стикаються з ними, коли розгортають агентів штучного інтелекту без належного управління ідентифікацією?

Найбільший ризик зараз не якийсь фантастичний сценарій захоплення штучним інтелектом. Це щось набагато більш базове, і це вже відбувається в більшості організацій, які експериментують з агентами штучного інтелекту. Компанії створюють агентів всюди, але вони не мають централізованого способу відстежувати їх, керувати ними або керувати тим, до чого вони можуть доступитися.

Прийняття було пріоритетом до цього часу, і це зрозуміло. Кожна нова технологія проходить через цю фазу, але безпека та управління повинні наздогнати швидко.

Якщо ні, підприємства ризикують агентами без чітких власників та з надмірним доступом до даних. Ці агенти можуть витікати конфіденційну інформацію та продовжувати працювати після закінчення проекту – все без чіткого аудитного сліду.

Ми бачили це раніше з сервісними обліковими записами та хмарними ресурсами. Спочатку відбувається прийняття, потім розширення, потім проблеми безпеки та управління. Штучний інтелект слідує тому самому шаблону, тільки набагато швидше та з більшою автономією та агентністю.

Без управління ідентифікацією агенти штучного інтелекту фактично стають необмеженими привілейованими ідентифікаторами. Це ризиковано для будь-якої організації. Це не інновація, а додатковий інститутський ризик.

Як зростання агентів штучного інтелекту змінює визначення ідентифікації в корпоративних системах?

Я вважаю, що визначення ідентифікації всередині підприємств розширюється великим чином. Воно раніше обмежувалося переважно працівниками, потім розширилося до зовнішніх ідентифікаторів з вибухом ланцюжків постачання, віддалених працівників тощо. Пандемія прискорила це ще більше, коли ми почали керувати сервісними обліковими записами та ботами як нелюдськими ідентифікаторами. Тепер агенти штучного інтелекту ведуть це ще на一步 далі.

Агенти штучного інтелекту не просто облікові записи або скрипти. Вони приймають рішення, доступ themselves до систем, генерують вміст, запускають робочі процеси та співпрацюють з іншими агентами. Вони торкаються ваших даних, приймають рішення та змінюють результати. Вони починають поводитися більше як цифрові працівники, ніж як програмні облікові записи.

Це означає, що ідентифікація тепер про щось більше, ніж просто хто може увійти. Це про те, хто або що діє всередині підприємства, що їм дозволено робити, хто ними володіє та як ми відстежуємо та керуємо їхніми діями.

Ідентифікація еволюціонує від чогось, що представляє користувача, до чогось, що представляє будь-якого актора – людину або машину – який може діяти та змінювати результати всередині організації.

Коли оцінюєте засновників або команди, які будують безпеку штучного інтелекту або ідентифікацію, які сигнали вказують на те, що вони真正но розуміють складність цієї галузі?

Ті, хто真正но розуміє цю галузь, не починають з технології. Вони починають з проблеми. Вони можуть артикулювати не тільки те, що вони будують, а й чому поточний підхід є розбитим і хто втрачає сон через це.

Сигнал для мене – це конкретність. Хто може сказати “Штучний інтелект вводить нові ризики ідентифікації.” Але можуть вони пройти вас через те, як токен OAuth може бути неправильно використаний в агентському робочому процесі? Чи розуміють вони, чому нелюдські ідентифікатори фундаментально відрізняються від людських, не тільки за обсягом, а й за поведінкою, життєвим циклом та радіусом дії?

Я також звертаю увагу на те, як вони говорять про клієнтів. Найкращі засновники в цій галузі зазвичай самі пережили біль як CISO, архітектор, керівник з дотримання вимог або провели так багато часу з практиками, що можуть майже закінчити їхні речення. Вони не продають категорію. Вони розв’язують конкретну, складну проблему, про яку вони не можуть перестати думати.

І потім є регуляторна та екосистемна грамотність. Ідентифікація та безпека штучного інтелекту не існують у вакуумі. Засновники, яких я найімовірніше оцінюю, розуміють, як їхній продукт сидить всередині ширшої позови щодо дотримання вимог – NIST, SOC 2, майбутні рамки управління штучним інтелектом – і вони подумали над тим, де вони підключаються до стека, а де вони володіють ним.

Для мене червоні прапори – це команди, які просто переслідують нарратив штучного інтелекту. Вони можуть описати ринок красиво, але коли виштовхуєте їх на конкретні деталі, нарратив слабшає.

Чи бачите ви ідентифікацію, яка стає основним контрольним шаром для систем штучного інтелекту так само, як мережева безпека колись визначала корпоративні межі, і як безпекові команди повинні готуватися до цього зсуву?

Так, і я вважаю, що ми ближче до цього переломного моменту, ніж більшість безпекових команд розуміють.

Мережевий периметр мав сенс, коли активи були фізичними, такими як сервери у центрі даних, працівники в офісі або трафік на краю. Але хмарний периметр розчинився, і ми покладалися на ідентифікацію, щоб заповнити пробіл. Zero Trust не був тільки маркетинговим терміном; це було визнання того, що периметр зник, і що ідентифікація має значення більше, ніж будь-коли.

Агенти штучного інтелекту ось-ось вплинуть на ідентифікацію тим самим чином, яким хмарний периметр вплинув на мережу. Ці системи доступ themselves до ресурсів, приймають рішення, викликають API, ланцюжки дій через інструменти та платформи, і роблять все це автономно з швидкістю машин. Питання “Чи дозволено це?” вже не можна відповісти на рівні брандмауера. Воно повинно бути відповіде на рівні ідентифікації, у режимі реального часу, з повним контекстом того, що агент намагається зробити та чому.

Ідентифікація стає контрольним шаром. Але це фундаментально складніше ідентифікації, ніж те, що ми будували раніше. Це не тільки аутентифікація. Це авторизація, яка знає намір, контекст та ланцюжок дій, які агент вже виконав. Це інша проблема, ніж видача сертифікату або обертання облікових даних.

Для безпекових команд підготовка починається з зміни мислення. Перестаньте думати про системи штучного інтелекту як про застосунки, які потрібно захистити на периметрі, і почніть думати про них як про суб’єкти – сутності з ідентифікацією, привілеями, життєвим циклом, який потрібно керувати з кінця в кінець. Хто налаштував цього агента? Що йому дозволено робити? Хто відповідає, коли він робить щось несподіване?

Команди, які вийдуть вперед, не будуть тими, хто прикріплює безпеку штучного інтелекту як післядумку. Вони будуть тими, хто розширить свою позицію щодо управління ідентифікацією, щоб охопити нелюдські ідентифікатори та агенти штучного інтелекту до того, як ці ідентифікатори почнуть приймати рішення.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Saviynt.