Павло Рід, віце-президент з досліджень противника в AttackIQ – Серія інтерв’ю

Павло Рід, віце-президент з досліджень противника в AttackIQ, є досвідченим ветераном світу кібербезпеки. З більш ніж двома десятиліттями досвіду як технологічного стратега для провідних технологічних компаній, Павло керував клієнтами, партнерами, аналітиками та журналістами через еволюцію ландшафту кібербезпеки. Його експертиза охоплює кібербезпеку, біометрію, мережеву безпеку та криптографію.

Нещодавно він очолював команду мисливців за кіберзагрозами, які займалися використанням поведінкових аналітик для виявлення нових загроз в середовищі клієнтів. Павло є опублікованим автором у Серії Prentice Hall з комп’ютерних мереж та розподілених систем і володіє декількома патентами у сфері кібербезпеки.

AttackIQ є провідною компанією з кібербезпеки, яка спеціалізується на імітуванні атак та безперервній перевірці безпеки. Її платформа Adversarial Exposure Validation використовує емуляцію на основі MITRE ATT&CK для перевірки засобів безпеки, виявлення уразливостей та пріоритезації заходів з ліквідації. Заснована у 2013 році, AttackIQ допомагає організаціям покращувати свою оборонну позицію, підвищувати ефективність SOC та зменшувати ризики.

Ви займали керівні посади в різних галузях кібербезпеки протягом понад двох десятиліть. Що спочатку спонукало вас до досліджень противника, і як це призвело вас до AttackIQ?

Моя подорож у сфері кібербезпеки розпочалася понад 25 років тому, коли я встановлював мережі Novell та працював у сфері директорій — Novell, Microsoft Active Directory, LDAP. Цей ранній досвід навчив мене важливості ідентифікації, автентифікації та доступу, основ кібербезпеки.

Потім я перейшов до смарт-карток автентифікації, де мав можливість написати бібліотеки PKCS #11 та зануритися у публічну інфраструктуру ключів (PKI) під час її швидкого зростання. Робота з симетричною та асиметричною криптографією під час того періоду дала мені справжнє розуміння того, як шифрування формує довіру в цифрових середовищах.

Пізніше в своїй кар’єрі я перейшов до класифікації даних, допомагаючи організаціям зрозуміти вартість їхніх даних, щоб вони могли захистити те, що найважливіше. Цей досвід природно призвів до роботи в галузі аналізу поведінки користувачів та сутностей (UEBA), де я отримав практичний досвід роботи з науками про дані та машинним навчанням, включаючи програмування на R.

Зрештою, мені пощастило очолити глобальну команду мисливців за загрозами, де ми проводили реальний відстежування державних противників. Це був інтенсивний та відкритий період. Не існує кращого способу зрозуміти тактику, техніку та процедури (TTP) противників, ніж займатися щоденними операціями проти них.

Під час того періоду виникла повторювана проблема: ми часто казали: “Якби вони зробили Х або мали б контроль у місці…” Була розрив між свідомістю загрози та оперативною готовністю оборони.

Це саме те, що врешті-решт привело мене до AttackIQ. Можливість застосувати те, що я вивчив — емулювати реальних противників через імітування атак та перевірку того, чи оборона є дійсно ефективною — була надто привабливою, щоб її пропустити. Тут ми не просто теоретизуємо про загрози; ми тестуємо, вимірюємо та покращуємо їх щодня.

Наша команда працює під керівництвом принципу: “Думайте погано, робіть добре.” Ми думаємо як противники не для того, щоб нашкодити, а для того, щоб допомогти нашим клієнтам готуватися до них та перемагати їх.

Як ваш досвід у сфері розвідки загроз та партнерства вплинув на ваш підхід до операціоналізації емуляції противника?

Маю досвід роботи як у технічних, так і у маркетингових ролях у компаніях, таких як TITUS, Interset та Micro Focus, я розвинув цілісне розуміння того, як розвідка загроз повинна перетворюватися на оперативні результати, а не тільки на ідеї. Партнерство, зокрема, навчило мене, як спілкуватися про складні проблеми кібербезпеки таким чином, щоб вони були дієві та значущі для різних аудиторій, від CISO до аналітиків SOC.

У AttackIQ емуляція противника не полягає лише у повторенні поведінки загроз. Це полягає у тому, щоб відповідати рамці MITRE ATT&CK, емулювати противників з точністю та допомагати організаціям тестувати, чи їхні засоби безпеки виявлять, запобігнуть чи відреагують, як очікується.

Мої попередні ролі допомогли мені зрозуміти, як звести розрив між розвідкою та виконанням — як операціоналізувати ландшафт загроз таким чином, щоб він був проактивним, вимірюваним та обґрунтованим. Це суть нашої місії в AttackIQ.

Ви зараз очолюєте дослідження противника у час, коли атакувальники приймають штучний інтелект у великому масштабі. Як ви бачите еволюцію тактик штучного інтелекту в останні роки, і як захисники борються за те, щоб не відставати?

Противники використовують штучний інтелект для збільшення швидкості, точності та масштабу своїх операцій. Ми бачимо більш персоналізовані та правдоподібні фішингові приманки, штучний інтелект, згенерований соціальний інжиніринг, і більшу масштабність та ефективність атак. Ці можливості зменшують час між розвідкою та компрометацією, стискаючи вікно захисників для реакції. Багато організацій усе ще залежать від реактивних процесів та статичних правил виявлення, які не були розроблені для боротьби з противниками, які вчаться та еволюціонують. Захисники повинні прийняти безперервну перевірку та управління експозицією, щоб закрити цю прогалину, тестуючи свої засоби безпеки під реалістичними умовами та ітеруючи швидко у відповідь на нові поведінки противників.

Що відрізняє штучний інтелект противника від традиційних кіберзагроз, і чому ви вважаєте, що зміна розуміння — а не тільки інструментів — необхідна для ефективної реакції?

Традиційні загрози часто слідують відомим моделям, які захисники можуть відстежувати та пом’якшувати за допомогою правил виявлення. Тактики штучного інтелекту противника вводять новий рівень змінності та адаптивності, який викликає ці припущення. Він може генерувати нові атакуючі шляхи та ухилятися від засобів безпеки динамічно. Подолання цього виклику вимагає більшого, ніж розгортання нових інструментів. Це вимагає стратегічної зміни того, як організації думають про оборону. Замість реакції на інциденти після факту, команди безпеки повинні симулювати еволюційні загрози, використовуючи відомі тактики, техніку та процедури (TTP), та проактивно валідувати засоби контролю, щоб перевірити реакцію їхніх систем. Розуміння загроз, підтримане реальною емуляцією, є ключем до передбачення та протидії цим новим ризикам.

Можете пояснити, як AttackIQ перекладає розвідку загроз у практичну оборону через емуляцію противника, і як цей процес змінився з появою генерації штучного інтелекту?

Традиційна проблема з розвідкою загроз полягає в операціоналізації, зв’язуванні розриву між ідеями та діями. Емуляція противника вирішує цю проблему, перетворюючи інформацію про відомі поведінки загроз у виконувані тести, які оцінюють, чи поточні засоби безпеки можуть витримати ці поведінки. З генерацією штучного інтелекту ландшафт загроз стає більш рідинним, з більш змінними поведінками. Емуляції тепер повинні відображати не тільки статичні техніки, але й адаптивну та контекстно-залежну поведінку. У AttackIQ живі дані розвідки загроз, пов’язані з MITRE ATT&CK та моделлю поведінки противника, інгеруються в плани емуляції для відображення реальних атак. Ці емуляції розгортаються у виробничих середовищах для перевірки того, чи засоби безпеки виявляють, запобігють чи реагують так, як очікується.

Безперервне управління експозицією загроз (CTEM) стає ключовим компонентом стратегій кіберстійкості. Як організації повинні підходити до CTEM при зустрічі з швидко адаптуючими загрозами, підтримуваними штучним інтелектом?

CTEM представляє зміну від статичних оцінок ризику до динамічної, інтелект-орієнтованої перевірки безпеки. При зустрічі з загрозами, підтримуваними штучним інтелектом, організації повинні розглядати експозицію як рухому ціль. Це означає ідентифікацію та пріоритезацію експозицій на основі активного тестування, а не тільки теоретичних ризиків.

Червоні та сині команди повинні співпрацювати у симуляції адаптивних противників та безперервній перевірці можливостей виявлення та реакції. Організації, які приймають цей підхід, краще підготовлені до адаптації, валідування своїх інвестицій та засобів безпеки та підтримання стійкості серед швидко змінюваного ландшафту.

Курс “Основи безпеки штучного інтелекту” від AttackIQ охоплює рамки ризику, такі як MITRE ATLAS та кадр управління штучним інтелектом (AI RMF). Які аспекти цих рамок, на вашу думку, найменше використовуються або неправильно зрозуміло в корпоративному середовищі?

Одним з найбільш поширених неправильних розумінь є тенденція розглядати ці рамки як ізольовані посібники, а не як оперативні інструменти для побудови стійкості до систем, підтримуваних штучним інтелектом.

MITRE ATLAS, як і ATT&CK на початку, часто розглядається як статичний каталог атакуючих технік, спрямованих проти систем штучного інтелекту/машинного навчання. Насправді ATLAS є тактичною рамкою емуляції противника, розробленою для того, щоб допомогти командам безпеки симулювати штучно-інтелектні загрози — від отруєння даних та ухилення моделі до маніпуляції висновком — та валідувати їхні можливості виявлення, реєстрації та реакції. Проблема полягає в тому, що більшість підприємств ще не побудували видимості чи засоби контролю, необхідні для виявлення атак проти трубопроводу машинного навчання, що робить проактивне використання ATLAS через стратегії емуляції та атаки ще більш критичним. Це недооцінюваний інструмент для тестування того, як системи штучного інтелекту поводяться під тиском противника.

З іншого боку, кадр управління штучним інтелектом (AI RMF) від NIST часто неправильно розуміється як список перевірок на відповідність. Насправді це стратегічна рамка управління — одна, яка підтримує організації в картуванні випадків використання штучного інтелекту, вимірюванні ризиків (включаючи ті, які створюються противниками), управлінні ними шляхом пріоритезації та пом’якшення, та впровадженні нагляду на протяженні всього життєвого циклу системи. Там, де ATLAS є тактичним, AI RMF є стратегічним. Ці дві рамки є висококомплементарними: ATLAS дозволяє валідувати ризик через реальну емуляцію, тоді як AI RMF забезпечує структуру для управління цими ризиками, визначення власності та вирівнювання забезпечення штучного інтелекту з бізнес-пріоритетами.

У нашому курсі “Основи безпеки штучного інтелекту” ми вчимо, що одним з найбільш недооцінених аспектів AI RMF є функції “Карта” та “Вимірювання” — особливо на ранніх етапах розгортання. Ці функції спонукають організації до моделювання не тільки сценаріїв використання системи, але й ідентифікації загроз противників у контексті. Порівняння цього з ATLAS дозволяє організаціям рухатися від теоретичних проблем до операціоналізації безпеки штучного інтелекту значущим та тестируваним способом.

У кінцевому підсумку, втрачена можливість полягає в тому, щоб розглядати ці рамки як академічні. Коли вони використовуються разом, AI RMF та ATLAS дозволяють підходити до безпеки штучного інтелекту, заснованому на загрозах та ризиках, перетворюючи високорівневе управління на реальну гарантію.

Від ін’єкції промпта до крадіжки моделі, OWASP Top 10 для великомасштабних мовних моделей (LLM) підкреслює новий клас уразливостей. Яку з цих загроз, на вашу думку, CISO найменше підготовлений до протидії — і чому?

LLM03: 2025 уразливості ланцюга поставок використовують критичні сліпі плями в існуючому управлінні та припущеннях довіри підприємств, прослизаючи крізь контролю, які не були спочатку розроблені для систем штучного інтелекту/машинного навчання. Традиційні програми безпеки зосереджуються на пакетах програмного забезпечення та залежностях коду, але моделі штучного інтелекту, часто розглянуті як активи даних, не піддаються такій же перевірці. Це дозволяє скомпрометованим попередньо натренованим моделям, отруєним адаптерам LoRA або зміненим злиттям Hugging Face бути інгерованими в виробничі середовища без верифікації, підпису коду або поведінкової оцінки. Через те, що ці моделі не спрацьовують статичний аналіз або сигнатури малвари, вони поводяться як сплячі загрози, активуючись лише під певними промптами або умовами, які ухиляються від виявлення.

Припущення підприємства про те, що авторитетні екосистеми штучного інтелекту або реєстри забезпечують довірчі стандарти, посилює проблему. Команди безпеки можуть вважати, що їхні пайплайни DevSecOps та програми управління постачальниками покривають ризики штучного інтелекту, але насправді більшість з них не проводять аудит походження наборів даних, не забезпечують походження моделей або не застосовують контрольовані списки компонентів (SBOM) до компонентів штучного інтелекту. Атакувальники використовують цю неправильну довіру, маніпулюючи інструментами відкритого коду, бекдорами адаптерів або отруєнням даних, використовуваних у тонкому налаштуванні, щоб безшумно вбудовувати шкідливу поведінку. Без червоних команд та управління, яке явно враховує ці прогалини, навіть добре захищені підприємства ризикують операційним компроматом через довірені, але неверифіковані артефакти штучного інтелекту.

Як емуляція противника еволюціонує, коли червоні та сині команди починають симулювати противників, підтримуваних штучним інтелектом? Чи входимо ми в нову еру симуляційної перевірки безпеки?

Як противники інтегрують штучний інтелект у свої операції, емуляція противника повинна еволюціонувати у відповідь, рухаючись за межі фіксованих підручників. Червоні команди повинні симулювати динамічні, штучно-інтелектні поведінки: півацію, ескалацію привілеїв та адаптивні тактики, техніку та процедури (TTP), усі з яких моделюються для відображення того, як реальний атакувальник, підтримуваний штучним інтелектом, міг би діяти.

Ми входимо в нову еру, де емуляція стає безперервною та інтелект-орієнтованою. Не епізодичні вправи, а симуляції інтегрують реальну розвідку загроз та ітерують виробничі середовища, тестуючи контролю під емерджентними, непередбачуваними умовами. З CTEM цей підхід забезпечує, що перевірка безпеки стає стратегічною, оперативною функцією, а не просто позначкою про проходження.

Оглядаючи вперед, які нові ризики штучного інтелекту викликають у вас найбільше занепокоєння? І де ви бачите найбільшу можливість для захисників вийти вперед?

Найбільшим ризиком є те, як штучний інтелект знижує бар’єр входу для складних атак у великому масштабі. Що раніше вимагало глибоких технічних знань, тепер ставає все більш доступним завдяки комерціалізованим інструментам штучного інтелекту. Штучний інтелект може автоматизувати розвідку, генерувати код експлуатації та створювати підбірні фішингові кампанії, діючи швидше, ніж традиційні засоби безпеки можуть адаптуватися.

З іншого боку, захисники мають паралельну можливість: використовувати штучний інтелект та автоматизацію для проактивної оборони. Автоматизуючи емуляцію, прискорюючи виявлення та пріоритезуючи експозицію на основі реального ризику, команди безпеки можуть передбачати рухи противників, а не просто реагувати на них.

Дякуємо за велике інтерв’ю. Читачам, які бажають дізнатися більше, рекомендуємо відвідати AttackIQ.