Інтерв’ю
Steve Wilson, Головний офіцер з питань штучного інтелекту та продукції в Exabeam – Серія інтерв’ю
Steve Wilson є Головним офіцером з питань штучного інтелекту та продукції в Exabeam, де його команда застосовує передові технології штучного інтелекту для подолання реальних викликів кібербезпеки. Він заснував і співголовує проєкт OWASP Gen AI Security, організації, яка стоїть за індустріальними стандартами OWASP Top 10 для безпеки великих мовних моделей.
Його нагороджена книга «The Developer’s Playbook for Large Language Model Security» (O’Reilly Media) була обрана як найкраща книга з передових питань кібербезпеки виданням Cyber Defense Magazine.
Exabeam є лідером у сфері інтелекту та автоматизації, яка забезпечує безпеку операцій для найрозумніших компаній світу. Об’єднуючи масштаб і силу штучного інтелекту з силою наших індустріально-лідируючих поведінкових аналітик та автоматизації, організації отримують більш цілісний погляд на інциденти безпеки, виявляють аномалії, яких не виявляють інші інструменти, і досягають швидших, більш точних і повторюваних реакцій. Exabeam надає можливість глобальним командам з безпеки боротися з кіберзагрозами, мінімізувати ризики та оптимізувати операції.
Ваша нова посада – Головний офіцер з питань штучного інтелекту та продукції в Exabeam. Як це відображає еволюцію важливості штучного інтелекту в сфері кібербезпеки?
Кібербезпека була однією з перших галузей, яка真正но прийняла машинне навчання – в Exabeam ми використовуємо ML як ядро нашого двигуна виявлення протягом понад десяти років для ідентифікації аномальної поведінки, яку люди самі можуть пропустити. З появою нових технологій штучного інтелекту, таких як інтелектуальні агенти, штучний інтелект вирос від важливого до абсолютно центрального.
Моя об’єднана посада Головного офіцера з питань штучного інтелекту та продукції в Exabeam відображає саме цю еволюцію. В компанії, яка глибоко прив’язана до впровадження штучного інтелекту у свої продукти, і в галузі, такій як кібербезпека, де роль штучного інтелекту ставає дедалі критичнішою, було сенс об’єднати стратегію штучного інтелекту та продукту під однією посадою. Це об’єднання забезпечує нашу стратегічну спрямованість на доставку трансформаційних рішень, керованих штучним інтелектом, аналітикам безпеки та оперативним командам, які залежать від нас найбільше.
Exabeam є піонером “агентного штучного інтелекту” в сфері безпеки операцій. Як це виглядає на практиці і як воно відрізняється від традиційних підходів до штучного інтелекту?
Агентний штучний інтелект представляє собою значну еволюцію від традиційних підходів до штучного інтелекту. Це орієнтовано на дії – проактивно ініціюючи процеси, аналізуючи інформацію та надаючі поради ще до того, як аналітики про це попросили. Поза рамками простого аналізу даних, агентний штучний інтелект діє як радник, надаючи стратегічні рекомендації по всій SOC, спрямовуючи користувачів до найлегших перемог і надаючи крок за кроком керівництво для покращення їхньої позиції безпеки. Крім того, агенти діють як спеціалізовані команди, а не одна незграбна чат-бот, кожна з яких налаштована з конкретними особистостями та наборами даних, які безшовно інтегруються у робочий процес аналітиків, інженерів та менеджерів для надання цілеспрямованої, ефективної допомоги.
З Exabeam Nova, який інтегрує 여러 агентів штучного інтелекту у робочий процес SOC, як виглядає майбутнє ролі аналітика безпеки? Чи воно еволюціонує, зменшується чи стає більш спеціалізованим?
Роль аналітика безпеки точно еволюціонує. Аналітики, інженери з безпеки та менеджери SOC однаково перебувають під навалом даних, сигналів та випадків. Реальна зміна майбутнього полягає не лише у збереженні часу на рутинних завданнях – хоча агенти точно допомагають у цьому – а у підвищенні ролі кожного до рівня командира. Аналітикам усе ще знадобляться сильні технічні навички, але тепер вони будуть керувати командою агентів, готових прискорити їхні завдання, посилити їхні рішення та справжнім чином покращити позицію безпеки. Ця трансформація позиціонує аналітиків як стратегічних організаторів, а не тактичних реагувальників.
Нещодавні дані показують розрив між виконавцями та аналітиками щодо продуктивності штучного інтелекту. Чому, на вашу думку, існує такий розрив у сприйнятті?
Нещодавні дані показують явний розрив: 71% виконавців вважають, що штучний інтелект суттєво підвищує продуктивність, але лише 22% аналітиків першої лінії, щоденних користувачів, погоджуються. В Exabeam ми бачили, як цей розрив зростає поряд з недавнім ажіотажем щодо обіцянок штучного інтелекту в сфері кібербезпеки. Ніколи ще не було так легко створити блискучі демо-версії штучного інтелекту, і постачальники швидко заявляють, що вони вирішили кожну проблему SOC. Хоча ці демо-версії спочатку вражають виконавців, багато з них не виправдовують очікувань там, де це має значення – у руках аналітиків. Потенціал існує, і існують окремі випадки справжньої віддачі, але все ще існує надто багато шуму та надто мало справжніх покращень. Для подолання цього розриву у сприйнятті виконавці повинні пріоритизувати інструменти штучного інтелекту, які真正но посилюють аналітиків, а не лише вражають на демо. Коли штучний інтелект真正но підвищує ефективність аналітиків, довіра та справжнє покращення продуктивності будуть слідувати.
Штучний інтелект прискорює виявлення загроз і реакцію, але як ви підтримуєте баланс між автоматизацією та людським судженням у високих ставках інцидентів кібербезпеки?
Капабельності штучного інтелекту швидко покращуються, але сьогодні “мовні моделі” підтримують інтелектуальні агенти, які спочатку були розроблені для завдань, таких як переклад мови, а не для нюансированого прийняття рішень, теорії гри чи обробки складних людських факторів. Це робить людське судження ще більш важливим у сфері кібербезпеки. Роль аналітика не зменшується штучним інтелектом; вона підвищується. Аналітики тепер є командиром, який використовує свій досвід та інсайт для керівництва та спрямовування декількох агентів, забезпечуючи, щоб рішення залишалися інформованими контекстом та нюансами. В кінцевому підсумку, баланс між автоматизацією та людським судженням полягає у створенні симбіотичних відносин, у яких штучний інтелект посилює людську експертизу, а не заміняє її.
Як ваша стратегія продукції еволюціонує, коли штучний інтелект стає основним принципом дизайну, а не додатком?
В Exabeam наша стратегія продукції фундаментально сформована штучним інтелектом як основним принципом дизайну, а не поверхневим додатком. Ми побудували Exabeam з нуля для підтримки машинного навчання – від інгестії журналів, парсингу, збагачення та нормалізації – для популяції потужної спільної моделі інформації, спеціально оптимізованої для годування систем машинного навчання. Високоякісні, структуровані дані не лише важливі для систем штучного інтелекту – вони їхнє життя. Сьогодні ми безпосередньо впроваджуємо наших інтелектуальних агентів у критичні робочі процеси, уникając генеричних, незграбних чат-ботів. Замість цього ми точно націлюємося на важливі випадки використання, які доставляють реальні, відчутні вигоди нашим користувачам.
З Exabeam Nova, ви маєте на меті перейти “від асистуючого до автономного”. Які ключові етапи для досягнення повністю автономних операцій з безпеки?
Ідея повністю автономних операцій з безпеки є цікавою, але передчасною. Повністю автономні агенти, у будь-якій галузі, просто ще не ефективні чи безпечні. Хоча прийняття рішень у штучному інтелекті покращується, воно ще не досягло рівня надійності людини і не досягне цього протягом деякого часу. В Exabeam наш підхід не полягає у погоні за повною автономією, яку моя група в OWASP ідентифікує як основну уразливість, відому як Надмірна Агентність. Надання агентам більшої автономії, ніж можна надійно протестувати та валідувати, ставить операції на ризиковану територію. Замість цього我们的 мета полягає у команді інтелектуальних агентів, здатних, але ретельно керованих, які працюють під наглядом людських експертів у SOC. Це поєднання людського нагляду та цілеспрямованої агентської допомоги є реалістичним, впливовим шляхом вперед.
Які найбільші виклики ви зустріли при інтеграції GenAI та машинного навчання у масштабі, необхідному для операцій з безпеки в реальному часі?
Одним з найбільших викликів при інтеграції GenAI та машинного навчання у масштабі для операцій з безпеки є баланс між швидкістю та точністю. GenAI сам по собі не може замінити масштаб того, що обробляє наш високошвидкісний двигун машинного навчання – обробка терабайт даних безперервно. Навіть найбільш просунуті агенти штучного інтелекту мають “вікно контексту”, яке є вкрай недостатнім. Замість цього наш рецепт включає використання машинного навчання для витягування масивних даних у діючі інсайти, які наші інтелектуальні агенти потім перекладають та оперціоналізують ефективно.
Ви співзаснували OWASP Top 10 для застосунків LLM. Що надихнуло це, і як ви бачите, як це формуватиме найкращі практики безпеки штучного інтелекту?
Коли я запустив OWASP Top 10 для застосунків LLM на початку 2023 року, структурованої інформації про безпеку LLM та GenAI було мало, але інтерес був надзвичайно високим. Усього за кілька днів понад 200 волонтерів приєдналися до ініціативи, привносяючи різноманітні погляди та експертизу для формування оригінального списку. З того часу його прочитали понад 100 000 разів, і він став фундаментальним для міжнародних галузевих стандартів. Сьогодні ця робота розширилася до проєкту OWASP Gen AI Security, який охоплює галузі, такі як червоне командування штучного інтелекту, безпека агентських систем та обробка наступального використання Gen AI у сфері кібербезпеки. Наша група недавно перевищила 10 000 учасників і продовжує просувати найкращі практики безпеки штучного інтелекту у світі.
Ваша книга, ‘The Developer’s Playbook for LLM Security‘, виграла топ-нагороду. Яке найважливіше висновок або принцип з цієї книги, яке кожен розробник штучного інтелекту повинен зрозуміти при створенні безпечних застосунків?
Найважливіший висновок з моєї книги, “The Developer’s Playbook for LLM Security”, простий: “з великою силою приходить велика відповідальність”. Хоча розуміння традиційних концепцій безпеки залишається важливим, розробники тепер стикаються з цілком новим набором викликів, специфічних для LLM. Ця потужна технологія не є вільним пропуском; вона вимагає проактивних, вдумливих практик безпеки. Розробники повинні розширити свій погляд, визнаючи та усуваючи ці нові уразливості з самого початку, впроваджуючи безпеку у кожному етапі життєвого циклу застосунку штучного інтелекту.
Як ви бачите еволюцію робочої сили кібербезпеки протягом наступних 5 років, коли агентний штучний інтелект стане більш масовим?
Ми зараз перебуваємо в гонці озброєння штучного інтелекту. Противники агресивно розгортають штучний інтелект для досягнення своїх шкідливих цілей, роблячи фахівців з кібербезпеки ще більш важливими, ніж раніше. Наступні п’ять років не зменшать робочу силу кібербезпеки; вони підвищать її. Фахівці повинні прийняти штучний інтелект, інтегруючи його у свої команди та робочі процеси. Ролі безпеки змішаться до стратегічного командування – менше індивідуальних зусиль і більше про оркестрування ефективної реакції з командою агентів, керованих штучним інтелектом. Ця трансформація надає фахівцям з кібербезпеки можливість керувати рішуче та впевнено у боротьбі з постійно еволюціонуючими загрозами.
Дякуємо за велике інтерв’ю. Читачам, які бажають дізнатися більше, слід відвідати Exabeam.
