Лідери думок

ШІ може масштабувати кібербезпеку. Але що саме масштабувати?

Eyal Fisher
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиОбробка більшої кількості даних не покращує автоматично виявлення загроз без…
Показати більше
  • Обробка більшої кількості даних не покращує автоматично виявлення загроз без організаційного контексту.
  • Доопрацьовані моделі можуть підтримувати великомасштабні розслідування з більш передбачуваними витратами, ніж передові моделі.
  • Автономність має бути пропорційною ризику, а управління слід розробляти до масштабування агентів.

Сьогодні команди корпоративної безпеки стикаються з таким обсягом активності, телеметричних даних і сповіщень, що фізично не можуть вручну розслідувати їх усі. За різними оцінками, середня команда з операційної безпеки отримує понад 4 400 сповіщень на день, свідчать деякі дослідження. Організації зростають і додають нові інструменти, а ШІ дає змогу здійснювати більше атак, тож ця кількість неминуче збільшуватиметься. Ми вже бачимо підприємства, у чиїх середовищах є два мільйони кінцевих пристроїв. Команди безпеки, які вручну розслідують ці сповіщення, опиняються в нерівному становищі проти зловмисників, які дедалі частіше діють за допомогою агентів.

Для фахівців із захисту ШІ-агенти можуть змінити цю ситуацію, беручи на себе розслідування та інші повторювані завдання в усьому середовищі. Однак здатність обробляти більше даних автоматично не означає кращого виявлення загроз чи реагування на них. Потрібен не лише масштаб, а й контекст.

Чому контекст важливий для оцінювання масштабування

Агент, який розслідує події на мільйонах кінцевих пристроїв, має розуміти, що саме він шукає, яка поведінка вважається незвичною саме в цьому середовищі та які результати потребують подальшого розслідування. Без такого контексту автоматизація ризикує масштабувати шум і генерувати недоречні або оманливі висновки.

Важливо також пам’ятати, що не кожна організація зможе покладатися на розслідування кожного сповіщення за допомогою передових моделей: це буде надто дорого.

Середовища безпеки відрізняються інфраструктурою, застосунками, операційними вимогами, регуляторними зобов’язаннями та допустимим рівнем ризику. Фахівці із захисту мають забезпечувати безперебійну роботу застосунків, дотримуватися вимог відповідності та не допускати збоїв у роботі.

Щоб бути ефективними, агенти мають враховувати знання організації, зокрема результати попередніх розслідувань, усталені процедури та судження досвідчених аналітиків. Значну частину цих знань неможливо просто передати агенту у вигляді таблиці чи в іншому форматі: їх потрібно засвоювати, спостерігаючи за роботою досвідчених фахівців із захисту.

Для підприємств головне питання полягає в тому, як перетворити ці інституційні знання на системи, здатні ухвалювати послідовні, відповідні контексту рішення зі швидкістю машинної обробки.

Як застосовувати знання організації на практиці

Організаціям потрібні механізми для збирання та застосування знань, на яких ґрунтуються розслідування, зокрема попередніх рішень у справах, усталених процедур і підходів аналітиків до інтерпретації доказів. На підприємствах також можуть бути «власні» процеси й інструменти, а також неформалізовані знання команди, які потрібно зафіксувати.

Один із можливих підходів — спеціалізація моделей. Дообучення моделей для окремих корпоративних клієнтів дає змогу проводити масштабні розслідування з передбачуванішими витратами, зберігаючи високу ефективність. Дообучені моделі з відкритим кодом можуть бути особливо корисними для завдань, що охоплюють дуже велику кількість кінцевих пристроїв.

Організаціям також потрібно оцінювати ефективність агентів у міру того, як змінюються моделі, робочі процеси та корпоративні середовища. Синтетичні середовища, або цифрові двійники, можуть слугувати репрезентативними майданчиками для тестування різних версій агентів, коли виробничі дані вже недоступні або застаріли.

Дообучення — не єдиний спосіб надати контекст. Альтернативами є пошук і витягування даних, пам’ять, оркестрація робочих процесів та явні засоби контролю політик. Головна вимога полягає в тому, щоб обраний метод підвищував ефективність агента в середовищі, де він працюватиме.

Автономність у великих масштабах потребує чітких меж, нагляду та координації

Правильно визначити загрозу — лише частина завдання. Агенти мають розуміти, які дії їм дозволено виконувати, коли потрібне схвалення людини та як не порушити нормальну роботу підприємства. Щоб упровадження викликало довіру, необхідно визначити, де агенти можуть діяти автономно, а де потрібне рішення людини.

Для автономності у великих масштабах потрібен і ефект масштабу. Компанії, які використовуватимуть передові моделі для мільйонів розслідувань, збанкрутують. Тому вкрай важливо знайти найефективніший спосіб проводити розслідування за допомогою моделі ШІ — малої мовної моделі (SLM) чи пропрієтарної моделі.

Рівень автономності має відповідати рівню ризику. Рутинні, добре зрозумілі завдання можуть виконуватися автономно, тоді як дії з серйозними наслідками або здатні спричинити збої можуть потребувати схвалення людини чи додаткового дозволу. Корпоративна безпека також залежить від координації між командами. Якщо розслідування виявило загрозу, для усунення якої потрібно змінити конфігурацію брандмауера, його результати мають безперешкодно передаватися команді, відповідальній за цю систему, із забезпеченням належних дозволів і відповідальності за усунення загрози.

Отже, управління та проєктування робочих процесів — невіддільні складові впровадження агентів, а не засоби контролю, які можна додати після масштабування технології.

Наступний показник успіху ШІ в безпеці — якість результатів

Організаціям слід оцінювати агентів за результативністю, зокрема за точністю розслідувань, частотою хибнопозитивних і хибнонегативних результатів, часом, потрібним для розслідування та усунення проблем, вартістю одного розслідування, якістю ескалації та дотриманням політик авторизації.

Постійне оцінювання має вирішальне значення, оскільки моделі й робочі процеси змінюються. Тестування різних версій агентів на репрезентативних випадках і використання синтетичних середовищ можуть допомогти організаціям виявляти регресії до розгортання оновлень у робочому середовищі.

Керівникам служб безпеки потрібно зіставляти переваги автоматизації з операційними ризиками її впровадження. На те, як швидко можна запроваджувати нові можливості, впливають доступність застосунків, вимоги щодо дотримання нормативних вимог, толерантність організації до ризику та строки впровадження.

ШІ дає командам безпеки змогу розв’язати давню проблему нестачі ресурсів, але сам масштаб не є кінцевою метою. Справжня можливість полягає в поєднанні швидкості машин із контекстом організації, належними повноваженнями та людським судженням, щоб агенти могли розрізняти важливе, вживати правильних заходів і за потреби залучати потрібних людей.

Eyal Fisher є співзасновником і технічним директором Legion Security, де він визначає технічний напрям розвитку платформи компанії для агентних операцій із безпеки. Як лідер думок у сфері ШІ та підприємець, Eyal раніше став співзасновником компанії генеративного ШІ ART AI та стартапу у сфері хмарної безпеки, а також має досвід дослідницької роботи в University of Cambridge. Визнаний піонер у сфері генеративного ШІ, він присвятив свою кар’єру розширенню можливостей застосування машинного навчання в реальних операціях із безпеки.