Джефф Марголіс, головний директор з продукції та стратегії в Saviynt – Інтерв’ю Серія

Джефф Марголіс, головний директор з продукції та стратегії в Saviynt, керує управлінням продукції, корпоративною стратегією, технологічними партнерствами та корпоративним розвитком, працюючи з клієнтами, партнерами та командами по всій організації для формування довгострокової продукції компанії та карти зростання. Він має понад 25 років досвіду в галузі ідентифікації та кібербезпеки, раніше обіймав посаду головного стратегічного директора Saviynt та займав керівні посади в Mandiant, Deloitte та Accenture. У Mandiant він керував стратегією, стратегічними партнерствами та корпоративним розвитком, тоді як на початку своєї кар’єри він допомагав засновувати та розширювати практику ідентифікації та управління доступом Accenture у глобальну організацію з більш ніж 700 фахівців. Марголіс має ступінь бакалавра з оптичної інженерії Університету Рочестера та ступінь магістра з електротехніки Університету Каліфорнії, Берклі.

Saviynt – це компанія з ідентифікаційною безпекою, що працює на основі штучного інтелекту, яка зосереджена на допомозі підприємствам керувати та забезпечувати доступ для людей, нелюдських ідентифікаторів, машин, застосунків, інфраструктури та агентів штучного інтелекту. Платформа ідентифікації Saviynt об’єднує управління ідентифікацією, управління привілейованим доступом, управління доступом до застосунків, зовнішнє управління ідентифікацією, безпеку нелюдських ідентифікаторів та управління позicíєю ідентифікаційної безпеки в єдиній хмарній платформі, призначеної для хмарних, локальних, SaaS, IaaS та гібридних середовищ. Компанія все більше позиціонує себе навколо потреб епохи штучного інтелекту, включаючи інструменти для забезпечення безпеки агентів штучного інтелекту, управління робочими процесами агентів та забезпечення природної мови ідентифікаційних операцій за допомогою пропозицій, таких як Saviynt MCP Server в AWS Marketplace.

Як головний директор з продукції та стратегії, у вас є передові місця для спостереження за змінами вимог безпеки ідентифікації підприємств. Як поява агентів штучного інтелекту змінила спосіб мислення організацій про ідентифікацію, доступ та управління, і як ці зміни вплинули на розробку Saviynt Agent Access Gateway та Intent-Aware Runtime Authorization?

Агенти штучного інтелекту змінюють безпеку ідентифікації, оскільки людські та машинні ідентифікатори працюють зовсім по-різному. Тепер це не тільки управління людьми, які входять до застосунків. Організації керують програмним забезпеченням, яке може мислити, приймати рішення та діяти автономно в різних системах. Я вважаю агентів наступним поколінням застосунків. Після мейнфреймів, клієнт-серверних, веб- та SaaS-застосунків ми зараз вступаємо в епоху агентських застосунків.

Основи залишаються тими ж. Організації повинні знати, хто володіє агентом, хто може ним користуватися, які системи він може доступити, та як його діяльність регулюється. Машинні ідентифікатори змінюють швидкість та масштаб. Бізнес-користувач тепер може створити агента за кілька хвилин, що означає, що управління повинно рухатися так само швидко. Саме це призвело нас до розробки Agent Access Gateway та Intent-Aware Runtime Authorization, щоб допомогти підприємствам приймати агентів з правильними засобами контролю доступу, підзвітністю та обмеженнями з самого початку.

Агенти штучного інтелекту швидко переходять від експериментів до виробничих середовищ. Як автономні агенти змінюють традиційну модель ідентифікації та управління доступом, на яку підприємства покладалися десятиліттями?

Традиційна ідентифікація та управління доступом були побудовані навколо людей та передбачуваного програмного забезпечення. Користувач автентифікувався, запитував доступ та виконував певні дії в визначених системах. Ми розуміємо людський життєвий цикл ідентифікації чітко в цьому контексті, включаючи спосіб надання доступу. Агенти штучного інтелекту вводять інший життєвий цикл. Вони можуть бути створені швидко, діяти безперервно, адаптуватися до робочих процесів та взаємодіяти з багатьма застосунками, API та джерелами даних з великою автономією.

Основні принципи ідентифікації все ще застосовуються: кожна ідентифікація потребує автентифікації, авторизації, управління та підзвітності. Швидкість дуже відрізняється. Замість кількох підприємств- застосунків, побудованих центральними командами, організації можуть мати тисячі агентів, створених бізнес-користувачами. Насправді, 92% керівників з інформаційної безпеки не мають повної видимості в ідентифікації штучного інтелекту, а 95% сумніваються, що вони могли б виявити або обмежити зловживання, якщо б це сталося. Безпека ідентифікації повинна еволюціонувати так, щоб володіння, контроль доступу, затвердження та моніторинг встановлювалися автоматично при створенні агентів.

Багато організацій все ще використовують дозволи та засоби контролю доступу, розроблені для людських працівників та традиційних застосунків. Чому ці підходи недостатні при роботі з агентами штучного інтелекту, які можуть мислити, адаптуватися та виконувати дії незалежно?

Традиційна авторизація зазвичай запитує: “Чи дозволено цій ідентифікації виконувати цю дію?” Це вже не достатньо для агентів штучного інтелекту, оскільки агент може технічно мати дозвіл на виконання певної дії, але все одно діяти поза наміром користувача.

Наприклад, якщо користувач просить агента “очистити” базу даних, агент може інтерпретувати це як видалення записів. Він може мати дозвіл на видалення цих записів, але це не означає, що це було наміром користувача. З агентами організації повинні оцінювати не тільки, чи дозволена дія, але й чи вона відповідає первісному плану та наміру задачі.

Saviynt недавно представив Intent-Aware Runtime Authorization™. Що саме означає “освідомлена наміром” авторизація, і як вона відрізняється від традиційних моделей автентифікації та авторизації?

Осьвідомлена наміром авторизація означає оцінку того, чи дії агента відповідають тому, що люди мали на увазі, коли його створили. Кожен агент створюється або відправляється для виконання певної задачі, і ця задача створює контекст для того, що агент повинен і не повинен робити.

Традиційна авторизація приймає бінарне рішення: чи дозволено це чи ні? Осьвідомлена наміром авторизація додає ще один шар, запитуючи, чи дія має сенс у контексті первісної задачі. Якщо агент був запитаний на архівування старих даних, але починає видаляти активні записи, це може бути технічно дозволено, але це не відповідає наміру користувача. Метою освідомленої наміром авторизації в режимі реального часу є регулювання дій агентів на основі контексту задачі, політики та очікуваних результатів.

Як підприємства можуть визначити, чи повинен агент штучного інтелекту бути дозволений виконувати певну дію, навіть якщо він технічно має дозвіл на доступ до основної системи?

Це починається з планування. Перед тим, як агент виконує дію, організації повинні визначити, що він повинен досягнути, які системи він повинен доступити, які обмеження застосовуються, та які політики він повинен дотримуватися. Цей план стає базою для оцінки поведінки агента.

Ключовим питанням є не тільки те, чи має агент доступ, але й чи його дія відповідає задачі, для виконання якої він був створений. Багато існуючих застосунків та API не були розроблені для забезпечення такого рівня контексту, тому модель шлюзу важлива. Agent Access Gateway забезпечує додатковий шар контролю для оцінки планів проти дій та допомоги в управлінні надмірним надання прав або пробілами в старих системах.

Однією з найбільших проблем навколо агентів штучного інтелекту є те, що вони можуть діяти через кілька застосунків та джерел даних за секунди. Які нові ризики це створює для команд безпеки, і які ризики зараз недооцінюються?

Агенти штучного інтелекту не завжди створюють абсолютно нові ризики. У багатьох випадках вони збільшують ймовірність того, що існуючі ризики будуть використані. Якщо організація вже має надмірно надані облікові записи, слабкі засоби контролю або системи, які покладаються на неясність, агенти можуть знайти та діяти на цих слабкостях набагато швидше, ніж люди, збільшуючи ризик.

Я іноді порівнюю це з залишенням незакритої задньої двері. Вразливість вже існує, але ймовірність того, що хтось її знайде, може бути низькою. Тепер уявіть агента, який перевіряє кожну задню двері через тисячі середовищ за секунди. Саме тому організації повинні зробити основні речі правильно: знати, які агенти існують, зрозуміти, що вони можуть доступити, обмежити непотрібні дозволи та регулювати їхню діяльність безперервно.

Як підприємства розгортають кілька агентів штучного інтелекту по відділам, як організації повинні регулювати, хто може взаємодіяти з цими агентами, та які інформаційні системи або джерела даних ці агенти можуть доступити?

Корисним способом мислення про агент штучного інтелекту є розглянути його як застосунок. Підприємства вже знають, як регулювати застосунки: хто володіє ними, хто може ними користуватися, які системи вони підключаються до, які дані вони можуть доступити, та як цей доступ переглядається. Ті ж питання застосовуються до агентів.

Різниця полягає в тому, що агенти можуть бути створені за кілька хвилин бізнес-користувачами, а не за місяці великими командами розробників, і тільки 5% керівників з інформаційної безпеки відчувають впевненість, що вони могли б обмежити скомпрометований агент штучного інтелекту. Регулювання повинно бути закладено в процес створення, щоб володіння, доступ, затвердження, надання прав та періодичні огляди встановлювалися з самого початку, а не додавалися після того, як агент вже діє.

Тіньовий штучний інтелект став все більшою проблемою, оскільки працівники приймають інструменти штучного інтелекту поза офіційним наглядом ІТ. Як агенти штучного інтелекту посилюють цю проблему, і які практичні кроки можуть вирішити організації, щоб відновити видимість та контроль?

Агенти штучного інтелекту посилюють Тіньовий штучний інтелект, оскільки вони легко створюються та можуть діяти через системи. Це не означає, що організації повинні спробувати зупинити людей від використання їх. Продуктивні вигоди реальні, і бізнес буде їх переслідувати.

Практична відповідь полягає в видимості та обмеженнях. Організації повинні знати, які агенти існують, хто ними володіє, що вони призначені для виконання, та які системи або дані вони можуть доступити. Кожен агент повинен мати ідентифікацію, визначені дозволи та тривалу моніторинг. Багато підприємств все ще знаходяться на досить ранніх стадіях експериментів, тому ще є час побудувати регулювання до того, як прийняття агентів досягне набагато більшої масштабу. Але цей час швидко закінчується.

Оглядаючи майбутнє, ви вважаєте, що кожен агент штучного інтелекту в кінцевому підсумку потребуватиме власної цифрової ідентифікації, кадрової структури та журналу аудиту, подібного до людських працівників? Що таке ця майбутня модель?

Кожен агент штучного інтелекту повинен мати власну ідентифікацію беззаперечно, щоб організації знали, що це таке, хто ним володіє, що він може доступити, та що він робить. Людські ідентифікатори та нелюдські ідентифікатори, включаючи агенти штучного інтелекту, повинні регулюватися через єдину модель безпеки ідентифікації.

Концепції знайомі: автентифікація, авторизація, володіння, дозволи, відстеження діяльності та регулювання. Що змінюється, це масштаб. Підприємства можуть скоро створювати сотні агентів на тиждень, в кінцевому підсумку ведучи до десятків тисяч або навіть мільйонів агентських застосунків. Майбутнє полягає в застосуванні основ безпеки ідентифікації до кожного типу ідентифікації з набагато більшою швидкістю та масштабом. Тепер час почати реалізацію.

Як підприємства спішать розгортати агентський штучний інтелект, які найпоширеніші помилки, які ви бачите в організації сьогодні, і чого повинні пріоритезувати лідери з безпеки та технологій протягом наступних 12-24 місяців, щоб забезпечити, що агенти штучного інтелекту залишаються як продуктивними, так і довіреними?

Було б великою помилкою залишити безпеку в цій епохи на випадок. Продуктивні вигоди, пов’язані з агентським штучним інтелектом, реальні, і організації повинні їх захопити. Найбільший ризик полягає в тому, що безпека та регулювання не тримаються кроку.

Під час наступних 12-24 місяців лідери повинні зосередитися на видимості та основах регулювання: підтримувати інвентаризацію агентів, призначати володіння, надавати кожному агенту ідентифікацію, зрозуміти, що він може доступити, і зробити регулювання частиною процесу створення. Це можливість побудувати безпеку в основну платформу з самого початку, а не спробувати доопрацювати її пізніше.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Saviynt.