Стів Вілсон, Головний офіцер з питань штучного інтелекту та продукції в Exabeam – Серія інтерв’ю

Стів Вілсон є Головним офіцером з питань штучного інтелекту та продукції в Exabeam, де його команда застосовує передові технології штучного інтелекту для вирішення реальних проблем кібербезпеки. Він заснував і співголовує проєкт OWASP Gen AI Security, організації, яка стоїть за індустріальним стандартом списку OWASP Top 10 для безпеки великих мовних моделей.

Його нагороджена книга «Плейбук розробника для безпеки великих мовних моделей» (O’Reilly Media) була обрана як найкраща книга з питань кібербезпеки, що розширює межі, виданням Cyber Defense Magazine.

Exabeam є лідером у сфері розвідки та автоматизації, який забезпечує безпеку операцій для найрозумніших компаній світу. Об’єднавши масштаб і потужність штучного інтелекту з силою наших лідируючих поведінкових аналітик і автоматизації, організації отримують більш цілісний погляд на інциденти безпеки, виявляють аномалії, яких не помічають інші інструменти, і досягають швидших, точніших і повторюваних відповідей. Exabeam надає глобальним командам безпеки можливість боротися з кіберзагрозами, мінімізувати ризики та оптимізувати операції.

Ваша нова посада – Головний офіцер з питань штучного інтелекту та продукції в Exabeam. Як це відображає зростаючу важливість штучного інтелекту в сфері кібербезпеки?

Кібербезпека була однією з перших сфер, яка真正но прийняла машинне навчання – в Exabeam ми використовуємо ML як ядро нашого двигуна виявлення вже понад десяти років, щоб ідентифікувати аномальне поведіння, яке люди самі можуть пропустити. З появою нових технологій штучного інтелекту, таких як інтелектуальні агенти, штучний інтелект переріс з важливого на абсолютно центральне місце.

Моя об’єднана посада Головного офіцера з питань штучного інтелекту та продукції в Exabeam відображає саме цю еволюцію. В компанії, глибоко прив’язаній до впровадження штучного інтелекту в свої продукти, і в галузі, подібній до кібербезпеки, де роль штучного інтелекту ставає дедалі критичнішою, було логічно об’єднати стратегію штучного інтелекту та продукту під однією посадою. Це об’єднання забезпечує стратегічну спрямованість на надання трансформаційних рішень, керованих штучним інтелектом, командам безпеки та операцій, які залежать від нас найбільше.

Exabeam є піонером у сфері “агентного штучного інтелекту” в сфері безпеки операцій. Як це виглядає на практиці та як це відрізняється від традиційних підходів до штучного інтелекту?

Агентний штучний інтелект представляє суттєву еволюцію від традиційних підходів до штучного інтелекту. Це орієнтовано на дії – агенти ініціюють процеси, аналізують інформацію та надають поради до того, як аналітики навіть просять про це. Поза рамками простого аналізу даних, агентний штучний інтелект виступає як радник, пропонуючи стратегічні рекомендації по всьому центру безпеки операцій, спрямовуючи користувачів до найлегших перемог і надають крок за кроком керівництво для покращення їхньої позиції безпеки. Крім того, агенти працюють у спеціалізованих командах, а не у вигляді одного громіздкого чат-бота, кожен з яких налаштований на конкретні особистості та набори даних, які безшовно інтегруються у робочий процес аналітиків, інженерів та менеджерів для надання цілеспрямованої допомоги.

З Exabeam Nova, який інтегрує декілька агентів штучного інтелекту у робочий процес безпеки операцій, як виглядатиме майбутнє ролі аналітика безпеки?

Роль аналітика безпеки точно еволюціонує. Аналітики, інженери з безпеки та менеджери SOC перебувають під навалом даних, сигналів та інцидентів. Фактичний зсув у майбутньому полягає не лише у збереженні часу на рутинних завданнях – хоча агенти справді допомагають у цьому – а у підвищенні ролі кожного до рівня командного лідера. Аналітикам усе ще знадобляться сильні технічні навички, але тепер вони будуть керувати командою агентів, готових прискорити їхні завдання, посилити їхні рішення та суттєво покращити позицію безпеки. Ця трансформація позиціонує аналітиків як стратегічних оркестраторів, а не тактичних реагувальників.

Нещодавні дані показують розрив між виконавцями та аналітиками щодо продуктивності штучного інтелекту. Чому, на вашу думку, існує такий розрив у сприйнятті?

Нещодавні дані показують явний розрив: 71% виконавців вважають, що штучний інтелект суттєво підвищує продуктивність, але лише 22% аналітиків першої лінії, щоденних користувачів, погоджуються. В Exabeam ми бачили, як цей розрив зростає поряд з недавнім ажіотажем щодо обіцянок штучного інтелекту в сфері кібербезпеки. Тепер ніколи не було легше створити блискучі демонстрації штучного інтелекту, і постачальники швидко заявляють, що вони вирішили кожну проблему SOC. Хоча ці демонстрації спочатку вражають виконавців, багато з них не виправдовують очікувань там, де це найважливіше – у руках аналітиків. Потенціал існує, і існують окремі випадки справжньої віддачі, але все ще існує занадто багато шуму та недостатньо суттєвих поліпшень. Щоб звузити цей розрив у сприйнятті, виконавцям потрібно пріоритизувати інструменти штучного інтелекту, які真正но посилюють можливості аналітиків, а не лише вражають на демонстраціях. Коли штучний інтелект真正но підвищує ефективність аналітиків, довіра та справжні поліпшення продуктивності будуть слідувати.

Штучний інтелект прискорює виявлення загроз та реагування на них, але як ви збалансувуєте автоматизацію та людське судження у високоризикових інцидентах кібербезпеки?

Можливості штучного інтелекту швидко покращуються, але сьогодні основні “мовні моделі”, які лежать в основі інтелектуальних агентів, спочатку були розроблені для завдань, таких як переклад мови – а не для нюансів прийняття рішень, теорії гри чи обробки складних людських факторів. Це робить людське судження ще більш важливим у сфері кібербезпеки. Роль аналітика не зменшується штучним інтелектом; вона підвищується. Аналітики тепер є командними лідерами, які використовують свій досвід та інсайти для керування та спрямовування декількох агентів, забезпечуючи, щоб рішення залишалися інформованими контекстом та нюансами. У кінцевому підсумку, балансування автоматизації та людського судження полягає у створенні симбіотичних відносин, у яких штучний інтелект посилює людську експертизу, а не замінює її.

Як ваша стратегія продукції еволюціонує, коли штучний інтелект стає основним принципом дизайну, а не додатком?

В Exabeam наша стратегія продукції фундаментально сформована штучним інтелектом як основним принципом дизайну, а не поверхневим додатком. Ми побудували Exabeam з нуля для підтримки машинного навчання – від інгестії журналів, парсингу, збагачення та нормалізації – для популяції розвиненої спільної моделі інформації, спеціально оптимізованої для живлення систем машинного навчання. Високоякісні, структуровані дані не лише важливі для систем штучного інтелекту – вони є їхньою життєвою кров’ю. Сьогодні ми безпосередньо впроваджують наших інтелектуальних агентів у критичні робочі процеси, уникуючи генеричних, громіздких чат-ботів. Замість цього ми точно націлюємося на важливі випадки використання, які доставляють реальні, відчутні вигоди нашим користувачам.

З Exabeam Nova, ви маєте на меті “перейти від асистуючого до автономного”. Які ключові етапи для досягнення повністю автономних операцій безпеки?

Ідея повністю автономних операцій безпеки є цікавою, але передчасною. Повністю автономні агенти, у будь-якій сфері, просто ще не ефективні чи безпечні. Хоча прийняття рішень у штучному інтелекті покращується, воно ще не досягло рівня надійності людини і не досягне цього протягом деякого часу. В Exabeam наш підхід не полягає у переслідуванні повної автономії, яку моя група в OWASP ідентифікує як основну уразливість, відому як Надмірна Агентність. Надання агентам більшої автономії, ніж можна надійно протестувати та валідувати, ставить операції на ризиковану територію. Замість цього нашою метою є команди інтелектуальних агентів, здатних, але ретельно керованих, які працюють під наглядом людських експертів у SOC. Таке поєднання людського нагляду та цілеспрямованої агентської допомоги є реалістичним, впливаючим шляхом вперед.

Які найбільші виклики ви зустріли при інтеграції Генеративного штучного інтелекту та машинного навчання у масштабі, необхідному для операцій кібербезпеки в реальному часі?

Одним з найбільших викликів при інтеграції Генеративного штучного інтелекту та машинного навчання у масштабі для операцій кібербезпеки є балансування швидкості та точності. Генеративний штучний інтелект сам по собі не може замінити масштаб того, що наш високошвидкісний двигун машинного навчання обробляє – обробка терабайт даних безперервно. Навіть найрозвітліші агенти штучного інтелекту мають “вікно контексту”, яке є величезно недостатнім. Замість цього наш рецепт включає використання машинного навчання для відокремлення величезних даних у дієві інсайти, які наші інтелектуальні агенти потім перекладають та оперціоналізують ефективно.

Ви співзаснували OWASP Top 10 для застосувань великих мовних моделей. Що надихнуло це, і як ви бачите, як це формуватиме найкращі практики безпеки штучного інтелекту?

Коли я запустив OWASP Top 10 для застосувань великих мовних моделей на початку 2023 року, структурованої інформації про безпеку великих мовних моделей та Генеративного штучного інтелекту було мало, але інтерес був неймовірно високим. Уже через декілька днів понад 200 волонтерів приєдналися до ініціативи, привносяючи різноманітні думки та експертизу для формування оригінального списку. З того часу його прочитали понад 100 000 разів, і він став фундаментальним для міжнародних галузевих стандартів. Сьогодні зусилля розширилися у проєкт OWASP Генеративної безпеки штучного інтелекту, який охоплює такі галузі, як червоне командування штучного інтелекту, безпека агентських систем та обробка наступального використання Генеративного штучного інтелекту у сфері кібербезпеки. Наша група недавно перевищила 10 000 учасників і продовжує просувати практики безпеки штучного інтелекту у світі.

Ваша книга «Плейбук розробника для безпеки великих мовних моделей» виграла топ-нагороду. Яке найважливіше висновок або принцип з книги, який кожен розробник штучного інтелекту повинен зрозуміти при створенні безпечних застосунків?

Найважливіший висновок з моєї книги «Плейбук розробника для безпеки великих мовних моделей» простий: «із великою силою приходить велика відповідальність». Хоча розуміння традиційних концепцій безпеки залишається важливим, розробники зараз стикаються з цілком новим набором викликів, специфічних для великих мовних моделей. Ця потужна технологія не є вільним пропуском; вона вимагає проактивних, ретельних практик безпеки. Розробники повинні розширити свій погляд, визнаючи та адресуючи ці нові уразливості з самого початку, впроваджуючи безпеку у кожному етапі життєвого циклу застосунку штучного інтелекту.

Як ви бачите еволюцію робочої сили кібербезпеки за наступні 5 років, коли агентний штучний інтелект стане більш поширеним?

Ми зараз перебуваємо у гонці штучного інтелекту. Противники агресивно розгортають штучний інтелект для подальшого своїх шкідливих цілей, роблячи фахівців з кібербезпеки більш важливими, ніж будь-коли. Наступні 5 років не зменшать робочу силу кібербезпеки; вони підвищать її. Професіонали повинні прийняти штучний інтелект, інтегруючи його у свої команди та робочі процеси. Ролі безпеки змішаться у стратегічне командування – менше індивідуального зусилля та більше про оркестрування ефективної відповіді з командою агентів, керованих штучним інтелектом. Ця трансформація надає фахівцям з кібербезпеки можливість лідувати рішуче та впевнено у боротьбі проти постійно еволюційних загроз.

Дякуємо за велике інтерв’ю. Читачам, які бажають дізнатися більше, рекомендуємо відвідати Exabeam.