Девід Келлерман, Філд CTO у Cymulate – Інтерв’ю Серія

Девід Келлерман є Філд CTO у Cymulate, і старшим технічним фахівцем, який працює з клієнтами в галузі інформаційної та кібербезпеки. Девід веде клієнтів до успіху та високих стандартів безпеки.

Cymulate є компанією з кібербезпеки, яка надає перевірку вразливостей для організацій, які хочуть закрити безпекові пробіли до того, як нападники їх використають. Її платформа дозволяє організаціям оцінити свій безпековий стан і посилити кіберстійкість за допомогою безперервного відкриття, перевірки, пріоритезації та керованого усунення безпекових слабкостей. За допомогою автоматизації та штучного інтелекту Cymulate пропонує передові засоби тестування на проникнення для перевірки контролю, загроз та шляхів атак. Як відкрита платформа, Cymulate інтегрується з існуючими безпековими та ІТ-інфраструктурами для керування процесом управління вразливостями та покращення захисту в реальному часі. Надавши засоби імітації проникнення та атак, а також управління вразливостями, Cymulate допомагає підприємствам виявляти уразливості.

Що ви бачите як основний чинник зростання загроз кібербезпеки, пов’язаних з AI, у 2025 році?

Загрози кібербезпеки, пов’язані з AI, зростають через збільшення доступності AI. Нападники тепер мають доступ до інструментів AI, які можуть допомогти їм ітеруватися над шкідливим ПО, створювати більш переконливі фішингові листи та збільшувати свої атаки, щоб збільшити їхній охват. Ці тактики не є «новими», але швидкість та точність, з якою вони застосовуються, додали значно до вже тривалого списку кіберзагроз, з якими повинні справлятися команди безпеки. Організації поспішають впроваджувати технологію AI, не повністю розуміючи, що безпекові засоби контролю повинні бути встановлені навколо неї, щоб вона не була легко використана нападниками.

Чи є певні галузі або сектори, які є більш вразливими до цих загроз, пов’язаних з AI, і чому?

Галузі, які постійно обмінюються даними через канали між співробітниками, клієнтами чи клієнтами, вразливі до загроз, пов’язаних з AI, оскільки AI робить легше для нападників займатися переконливими схемами соціальної інженерії. Фішингові атаки є ефективно грошовою грою, і якщо нападники тепер можуть надсилати більш автентичні листи більшій кількості одержувачів, їхній рівень успіху значно збільшиться. Організації, які відкривають свої послуги AI для публіки, потенційно запрошують нападників спробувати їх використати. Хоча це є спадковим ризиком відкриття послуг для публіки, важливо зробити це правильно.

Які ключові вразливості організації стикаються при використанні публічних великих мовних моделей для бізнес-функцій?

Витік даних, ймовірно, є основною проблемою. Коли ви використовуєте публічну велику мовну модель, важко сказати точно, куди відправиться ця інформація – і останнє, що ви хочете зробити, це випадково завантажити конфіденційну інформацію в публічний інструмент AI. Якщо вам потрібно проаналізувати конфіденційну інформацію, зберігайте її всередині компанії. Не звертайтесь до публічних великих мовних моделей, які можуть передати цю інформацію в ширший інтернет.

Як підприємства можуть ефективно захистити конфіденційну інформацію при тестуванні або впровадженні систем AI у виробництві?

При тестуванні систем AI у виробництві організації повинні прийняти наступний підхід (на відміну від оборонного). Я маю на увазі, що команди безпеки повинні активно тестувати та перевіряти безпеку своїх систем AI, а не реагувати на надходящі загрози. Постійний моніторинг атак та перевірка систем безпеки можуть допомогти забезпечити захист конфіденційної інформації та правильну роботу засобів безпеки.

Як організації можуть активно захистити себе від атак, які постійно еволюціонують?

Хоча нападники використовують AI для розвитку своїх загроз, команди безпеки також можуть використовувати AI для оновлення своїх засобів імітації проникнення та атак, щоб забезпечити захист від нових загроз. Засоби, такі як щоденний потік загроз Cymulate, завантажують останні загрози в програмне забезпечення Cymulate для імітації проникнення та атак щодня, щоб забезпечити команди безпеки перевірки їхньої організації щодо останніх загроз. AI може допомогти автоматизувати процеси, такі як ці, дозволяючи організаціям залишатися гнучкими та готовими до нових загроз.

Яку роль відіграють автоматизовані платформи перевірки безпеки, такі як Cymulate, у мінімізації ризиків, пов’язаних з кіберзагрозами?

Автоматизовані платформи перевірки безпеки можуть допомогти організаціям залишатися на вершині нових кіберзагроз за допомогою засобів, спрямованих на виявлення, перевірку та пріоритезацію загроз. З AI, яка слугує множником для нападників, важливо не тільки виявляти потенційні вразливості в мережі та системах, але й перевіряти, які з них становлять реальну загрозу для організації. Тільки тоді можна ефективно пріоритезувати вразливості, дозволяючи організаціям мінімізувати найбільш небезпечні загрози перш за все, перш ніж перейти до менш важливих питань. Нападники використовують AI для дослідження цифрових середовищ для потенційних слабкостей перед запуском високоспеціалізованих атак, що означає, що можливість адресувати небезпечні вразливості в автоматичному та ефективному порядку ніколи не була більш критичною.

Як підприємства можуть включити засоби імітації проникнення та атак для підготовки до атак, пов’язаних з AI?

Програмне забезпечення для імітації проникнення та атак є важливим елементом управління вразливостями, який дозволяє організаціям створювати реальні сценарії атак, які вони можуть використовувати для перевірки засобів контролю проти найбільш актуальних загроз сьогодні. Останні дані про загрози та первинні дослідження групи досліджень загроз Cymulate (у поєднанні з інформацією про нові загрози та нові симуляції) застосовуються щодня до засобу Cymulate для імітації проникнення та атак, повідомляючи керівників безпеки, якщо нова загроза не була заблокована або виявлена їхніми існуючими засобами безпеки. З допомогою засобів імітації проникнення та атак організації також можуть адаптувати симуляції AI до своїх унікальних середовищ та політик безпеки з відкритою основою для створення та автоматизації спеціальних кампаній та передових сценаріїв атак.

Які три основні рекомендації ви дали б командам безпеки, щоб вони залишалися попереду нових загроз?

Загрози стають все більш складними щодня. Організації, які не мають ефективної програми управління вразливостями, ризикують відстати від них, тому моя перша рекомендація була б впровадити рішення, яке дозволяє організації ефективно пріоритезувати свої вразливості. Наступною була б забезпечення того, щоб рішення з управління вразливостями включало засоби імітації проникнення та атак, які дозволяють командам безпеки симулювати нові загрози (пов’язані з AI чи ні), щоб оцінити, як засоби контролю організації працюють. Нарешті, я рекомендував би використовувати автоматизацію для забезпечення того, щоб перевірка та тестування могли відбуватися безперервно, а не тільки під час періодичних оглядів. З огляду на те, що ландшафт загроз змінюється щохвилини, важливо мати актуальну інформацію. Дані про загрози з минулого кварталу вже абсолютно застаріли.

Які перспективи розвитку технології AI ви бачите в найближчі п’ять років, які можуть або посилити, або мінімізувати ризики кібербезпеки?

Багато залежить від того, наскільки доступною залишається AI. Сьогодні низькорівневі нападники можуть використовувати можливості AI для підвищення рівня своїх атак, але вони не створюють нових, безпрецедентних тактик – вони просто роблять існуючі тактики більш ефективними. Наразі ми (в основному) можемо компенсувати це. Але якщо AI продовжить розвиватися та залишатися високодоступним, це може змінитися. Регуляції відіграватимуть роль тут – ЄС (і, до певної міри, США) прийняли кроки для регулювання того, як розробляється та використовується AI, тому буде цікаво побачити, чи це матиме вплив на розвиток AI.

Чи очікуєте ви зміни в тому, як організації пріоритезують загрози кібербезпеки, пов’язані з AI, порівняно з традиційними проблемами кібербезпеки?

Ми вже бачимо, як організації визнають цінність рішень, таких як засоби імітації проникнення та атак та управління вразливостями. AI дозволяє нападникам швидко запускати передові, цілеспрямовані кампанії, і командам безпеки потрібна будь-яка можливість, щоб допомогти їм залишатися попереду них. Організації, які використовують засоби перевірки, матимуть значно легше, залишаючись на поверхні, пріоритезуючи та мінімізуючи найбільш небезпечні загрози перш за все. Звісно, більшість нападників шукають легку здобич. Ви не можете зупинити кожну атаку, але можете уникнути того, щоб стати легкою мішенню.

Дякую за чудове інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Cymulate.