Лiat Hayun, старший віце-президент з управління продуктами та досліджень у Tenable – Серія інтерв’ю

Лiat Hayun є старшим віце-президентом з управління продуктами та досліджень у Tenable Cloud Security. До того, як приєднатися до Tenable, Лiat була співзасновником і генеральним директором Eureka Security, компанії з безпеки даних, яку придбала Tenable. Перед тим, як заснувати Eureka Security, Лiat понад десяти років очолювала зусилля з кібербезпеки в Ізраїльському кіберкомандуванні та в компанії Palo Alto Networks (PANW ). Як віце-президент з управління продуктами в компанії Palo Alto Networks, Лiat очолювала розробку Cortex XDR і керованої служби пошуку загроз.

Tenable – це американська компанія з кібербезпеки, яка спеціалізується на допомозі організаціям у виявленні, розумінні, пріоритезації та ліквідації безпеки уразливостей по всьому цифровому атакувальному поверхню. Найбільш відомою є її платформа управління уразливостями та інструменти, такі як широко використовуваний сканер уразливостей Nessus, які дозволяють підприємствам отримувати видимість загроз, що охоплюють інфраструктуру ІТ, хмарні, OT/IoT та системи ідентифікації, та приймати рішучі дії для зменшення ризику, що впливає на бізнес. Рішення Tenable забезпечують безперервне відкриття, пріоритезацію та аналіз загроз для підтримки активної управління кіберризиком для десятків тисяч клієнтів по всьому світу.

Що фундаментально робить автономних агентів штучного інтелекту більш небезпечними, ніж традиційні моделі штучного інтелекту, які реагують лише на дії користувача, а не діють незалежно?

Автономні агенти штучного інтелекту змінюють природу ризику, оскільки вони можуть ініціювати завдання, отримувати доступ до систем, приймати рішення та взаємодіяти з іншими службами без нагляду людини.

Ця незалежність розширює швидкість та масштаб потенційного впливу, збільшуючи ймовірність витоку даних, порушення операцій та фінансових втрат. Агент штучного інтелекту може запитувати дані, викликати робочі процеси, викликати API або змінювати інфраструктуру в режимі реального часу. Якщо агент неправильно налаштований або скомпрометований, він може рухатися по системах, використовуючи дозволи, які йому надані, часто швидше, ніж людина могла б виявити або втрутитися.

За даними доповіді Tenable про ризики штучного інтелекту та хмари 2026 року, 52% організацій зараз мають нелюдські ідентифікатори з надмірними дозволами, а майже половина з них є неактивними, створюючи поширений необмежений доступ до виробничих середовищ. Це означає, що багато процесів, керованих штучним інтелектом, вже мають доступ, якого вони не активно використовують, але який можуть використовувати атакувальники.

Атакувальники все частіше використовують проблему «збентеженого помічника». їм не потрібно компрометувати сам агент. Замість цього вони обманюють авторизований агент, щоб він виконував дії від їхнього імені, часто через непряме введення запитів або маніпулювання вхідними даними. Агент виконує запит, використовуючи свої законні дозволи, фактично роблячи роботу атакувальника. Коли автономні системи успадковують широкі дозволи або приймають надмірно привілейовані ролі, час між неправильною конфігурацією та експлуатацією фактично зникає, створюючи нульовий розрив у вразливості штучного інтелекту.

Багато підприємств проводять експерименти з агентами штучного інтелекту неформально. Які перші конкретні кроки команди безпеки повинні зробити, щоб оцінити, чи діє агент штучного інтелекту всередині їхнього середовища?

Закриття розриву у вразливості штучного інтелекту починається з відкриття, яке виходить за межі традиційних інвентаризацій активів. Фаза експериментів часто є найнебезпечнішою, оскільки організації не повністю знають, який штучний інтелект використовується, як він налаштований, або яких дозволів йому надано.

Агенти штучного інтелекту рідко живуть в одній, чітко позначеній системі. Багато з них діють поза формальною системою управління. Вони з’являються в інструментах розробника, інтеграціях SaaS, автоматизованих робочих процесах, розширеннях браузера та хмарних службах, що створює розподілену систему розгортання, яка збільшує сліпі плями та обмежує централізований контроль. Це вже поширене явище, оскільки більш ніж 70% організацій інтегрували щонайменше одну третю програму або пакет, пов’язаний зі штучним інтелектом, часто вкладаючи штучний інтелект глибоко в додатки та інфраструктуру з обмеженим централізованим наглядом.

Нещодавні дослідження щодо Clawdbot показують, що експериментальні розгортання агентів можуть становити серйозні ризики, коли можливості розгортаються до того, як безпекові засоби контролю або стандарти конфігурації будуть повністю зрозумілі. Навіть після закінчення експериментів та рішення організації про те, які програми штучного інтелекту прийняти, їм все одно потрібна сильна система управління тим, як ці системи використовуються, яких дозволів вони мають, та як вони взаємодіють з критичними активами.

Фаза відкриття повинна починатися з встановлення єдиної інвентаризації того, де існує штучний інтелект по всьому периметру атаки, включно з кінцевими точками, хмарною інфраструктурою та зовнішніми атакувальними поверхнями. Це включає в себе ідентифікацію бібліотек штучного інтелекту, агентів, API, сервісів моделей та інтеграцій третіх сторін, не лише внутрішньо розгорнутих систем, а й всього, що можна досягти ззовні.

Далі команди повинні відобразити, як ці агенти пов’язані та які дані вони отримують, які ідентифікатори вони використовують, яких дозволів вони мають, та які системи вони можуть досягти. Видимість вимагає контексту, оскільки ризик виникає з відносин.

Нарешті, після експерименту організації повинні визначити, які з цих зв’язків створюють досяжні шляхи до критичних активів та закрити розрив у вразливості штучного інтелекту.

Як порівняються ризики, такі як відкриті поверхні управління або неверифіковані можливості третіх сторін, з більш знайомими загрозами, такими як атаки на ланцюг постачання або підвищення привілеїв?

Неверифіковані можливості третіх сторін та відкриті поверхні управління розширюють подібні ризики, як компрометація ланцюга постачання та підвищення привілеїв, але з посиленим темпом, масштабом та зв’язністю.

Можливості агентів третіх сторін функціонують подібно до залежностей ланцюга постачання програмного забезпечення, а поверхня вразливості вже має суттєву вагу. Вісімдесят шість відсотків організацій приймають пакети коду третіх сторін з критичними уразливостями. Коли ці компоненти діють всередині автономних агентів штучного інтелекту, виконання стає безперервним та автоматизованим, ліквідуючи час між компрометацією та впливом.

Відкриті поверхні управління розширюють шар ідентифікації та доступу ризику, створюючи нові операційні інтерфейси, які несуть підвищені дозволи. Вісімнадцять відсотків організацій вже дозволяють службам штучного інтелекту приймати надмірно привілейовані ролі, надаючи автоматизованим системам широкий доступ до середовищ. Агент штучного інтелекту зв’язує ці вразливості в одну операційну ланцюг. Уразлива залежність, надмірні дозволи та відкриті інтерфейси поєднуються в досяжний шлях атаки. Організації діють в середовищі з нульовим запасом на помилку, де вразливість та експлуатація майже миттєво збігаються.

З точки зору захисту, що виглядає «хорошою гігієною» для організацій, які розгортають агентів штучного інтелекту з доступом до внутрішніх систем або чутливих даних?

Хороша гігієна починається з того, що агентів штучного інтелекту розглядають як привілейованих цифрових акторів з реальною владою по всьому периметру систем та даних. Організації потребують безперервної видимості кожного агента, того, що він робить, та чого він може досягти. Команди повинні застосовувати мінімальні дозволи для ідентифікаторів машин та служб, видаляти неактивний доступ та строго обмежувати дозволи. Кожен агент повинен бути присвячений певному типу завдання, з дозволами та доступом, обмеженими строго цим функцією.

Це має значення, оскільки неактивний доступ є поширеним. Близько половини ідентифікаторів з критичними надмірними дозволами є неактивними, а понад 70%默认них ролей виконання штучного інтелекту залишаються не використаними. Ці умови створюють готові шляхи для підвищення привілеїв, які несуть ризик без надання цінності.

Команди безпеки також повинні розуміти відносини по всій інфраструктурі, сховищах даних, API та додатках. Відображення цих зв’язків розкриває токсичні комбінації вразливостей, такі як уразливі робочі навантаження, до яких можна досягти через надмірно привілейованих агентів з доступом до чутливих даних.

Сильна гігієна також вимагає безперервного управління. Організації повинні контролювати поведінку агентів, контролювати інтеграції, застосовувати гарантії даних та регулярно верифікувати дозволи. Ці практики закривають розрив у вразливості штучного інтелекту та ліквідують досяжні шляхи атаки.

Що ви порадите організаціям зробити, щоб захистити поверхні атаки штучного інтелекту швидко без сповільнення інновацій?

Організації можуть захистити поверхні атаки штучного інтелекту, зменшуючи вразливість з швидкістю та точністю.

Для цього першим пріоритетом є визначення яких систем штучного інтелекту створюють досяжні шляхи до критичних активів. Більше 80% організацій виконують робочі навантаження з уразливостями, які вже були експлуатовані в дикій природі. Ризик вже існує всередині більшості середовищ. Команди безпеки повинні зосередитися на зв’язках, які створюють реальний вплив.

Далі, усвідомте, що автоматизація дозволяє масштабуватися. Безперервне відкриття, контекстна пріоритезація та кероване виправлення дозволяють командам зменшити ризик, зберігаючи швидкість розробки.

Хоча політичні гарантії захисту впровадження, доступ у режимі реального часу, контролювання потоків даних та контрольовані інтеграції допомагають організаціям керувати діяльністю штучного інтелекту, зберігаючи інновації.

Разом ці кроки зменшують розрив у вразливості штучного інтелекту, ліквідуючи високоризикований доступ та небезпечні зв’язки. Швидке зменшення вразливості захищає системи, дозволяючи прийняттям штучного інтелекту рухатися вперед.

Як керівники з інформаційної безпеки повинні думати про ідентифікацію, дозволи та масштаб при наданні агентам штучного інтелекту доступу до виробничих систем?

Керівники з інформаційної безпеки повинні розглядати агентів штучного інтелекту як високошвидкісні нелюдські ідентифікатори з операційною владою по всьому периметру систем та даних.

Рішення про доступ повинні зосередитися на точності. Дозволи повинні відповідати конкретним завданням, залишатися обмеженими у часі та проходити безперервну перевірку. Надмірні дозволи розширюють діапазон та збільшують вплив, коли системи взаємодіють на рівні машин.

Лідери з безпеки також потребують чіткого розуміння ефективного діапазону. Дозволи, у поєднанні з мережевими шляхами, доступом до даних та інтеграціями служб, визначають, що агент може фактично зробити. Розуміння цих відносин розкриває потенційну вразливість до того, як вона стане впливом.

Ідентифікація зв’язує інфраструктуру, дані та додатки по всьому розриву у вразливості штучного інтелекту. ТIGHT проектування дозволів обмежує радіус дії та підтримує контроль. Коли час від відкриття вразливості до експлуатації майже нульовий, управління ідентифікацією визначає, наскільки безпечно штучний інтелект діє у виробництві.

Чи очікуєте ви, що агент штучного інтелекту змусить переглянути існуючі кадри безпеки, або сучасні моделі можна адаптувати для боротьби з цими новими ризиками?

Принципи безпеки залишаються незмінними, але операційні моделі еволюціонують. Агент штучного інтелекту зв’язує системи, ідентифікатори та дані в динамічні середовища, які змінюються безперервно та діють на рівні машин. На відміну від людських операторів, агенти не застосовують судження до своїх дій або не розрізняють відповідні та невідповідні запити. Вони виконують дії на основі інструкцій та дозволів, що збільшує важливість суворого контролю та управління.

Ризик виникає з відносин по всій інфраструктурі, ланцюгах постачання програмного забезпечення та шарах ідентифікації. Організації успадковують вразливість швидше, ніж цикли виправлення можуть跟ати. Автоматичне розгортання та автоматична експлуатація стискають час реакції та збільшують операційну напруженість.

Кадри безпеки повинні зосередитися на видимості та зменшенні вразливості. Команди потребують безперервної видимості того, що існує, як системи зв’язані та які шляхи ведуть до критичних активів.

Визначальною викликом є управління взаємопов’язаним ризиком по всьому розриву у вразливості штучного інтелекту. Програми безпеки успішно діють, безперервно зменшуючи досяжну вразливість та підтримуючи контроль по всьому складному середовищу.

Оглядаючись вперед, які області досліджень безпеки агентів штучного інтелекту, на вашу думку, заслуговують більшої уваги, коли ці інструменти переходять від експериментальних до критично важливих?

Деякі області досліджень сформують майбутнє безпеки агентів штучного інтелекту.

По-перше, зростання екосистем нелюдських ідентифікаторів потребує глибшого аналізу. Організації швидко розширюють машини ідентифікаторів, які діють по всій інфраструктурі, даних та службах. Розуміння моделей привілеїв, поведінки та управління життєвим циклом буде суттєвим.

По-друге, дослідження повинні просунути моделювання багатокрокових шляхів атаки. Системи штучного інтелекту зв’язують ланцюги постачання програмного забезпечення, хмарну інфраструктуру та шар ідентифікації. Відображення того, як ці елементи взаємодіють, покращить передбачення та пріоритезацію ризику.

По-третє, управління автономним прийняттям рішень потребує більшої уваги. Команди безпеки потребують видимості того, як агенти отримують, обробляють та передають чутливі дані з часом.

Нарешті, швидкість експлуатації продовжує прискорюватися. Дослідження того, як атакувальники та захисники діють на рівні машин, сформує стратегії реагування.

Майбутня безпека залежить від розуміння та зменшення розриву у вразливості штучного інтелекту. Дослідження повинні зосередитися на контролі взаємопов’язаної вразливості по всьому периметру атаки.

Агенти штучного інтелекту, які діють на рівні машин, сформують стратегії реагування.

Майбутня безпека залежить від розуміння та зменшення розриву у вразливості штучного інтелекту. Дослідження повинні зосередитися на контролі взаємопов’язаної вразливості по всьому периметру атаки.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Tenable.