Чи достатньо надійні агенти ШІ для мого бізнесу?

Великі мовні моделі (LLM) та агенти ШІ суттєво впливають на багато галузей, зокрема на кібербезпеку. Їхній потенціал здається безмежним. Однак на практиці, коли LLM інтегрують у ключові робочі процеси, де ухвалюють бізнес-рішення, виникає багато проблем, особливо з конфіденційністю та точністю даних. Постає запитання: чи достатньо надійні агенти ШІ для мого бізнесу?

Щодо кібербезпеки та центрів моніторингу й реагування на загрози інформаційній безпеці (SOC), коротка відповідь така сама, яку ми чуємо впродовж усієї кар’єри: так. За належного контролю та заходів зниження ризиків агенти ШІ можуть успішно й безпечно працювати в реальних робочих середовищах SOC, створюючи значну цінність разом з аналітиками-людьми.

Виклики застосування ШІ в кібербезпеці

Готові LLM, які використовують як єдине рішення, мають кілька основних проблем, зокрема галюцинації, отруєння даних та ін’єкції промптів. В автономному SOC вони можуть спричинити серйозні труднощі, зокрема такі:

Обмежені дані призводять до неточних висновків – Для якісної роботи агентам ШІ потрібна вся відповідна інформація з робочого середовища: принаймні стільки ж даних, скільки мають аналітики-люди, а в ідеалі більше. Брак даних змушує агентів робити хибні припущення, які можуть відрізнятися між повторними запусками розслідування. Якщо обмежити доступ до даних через міркування безпеки або можливі дії ШІ через бюджет, слід очікувати зниження точності.

Неузгоджені висновки – Агенти ШІ мають ухвалювати рішення й виконувати завдання на основі зібраних даних. У типових середовищах обсяг даних безпеки дуже великий, тому для балансу між точністю та бюджетом часто застосовують вибірковий підхід. Під час повторних розслідувань можуть відрізнятися висновок, визначений рівень серйозності та рекомендовані дії. Це нормально, якщо різниця залишається в допустимих межах. Так буває навіть тоді, коли два різні аналітики-люди розглядають те саме сповіщення.

Непрозорі міркування, або проблема «чорної скриньки (BBOX.BO ) »  – Деякі агенти ШІ працюють як непрозорі системи. Результати SOC на основі ШІ спочатку можуть справляти велике враження, але для важливих бізнес-рішень потрібно розуміти, чому система рекомендувала певні дії. Проте це не є невіддільним обмеженням ШІ: деякі агенти докладають значних зусиль для прозорості. Перед рішенням про впровадження рекомендується ретельно перевірити агентів у межах перевірки цінності рішення (Proof of Value).

Як удосконалився ШІ в кібербезпеці

Підходи до кібербезпеки на основі ШІ значно вдосконалилися від часу своєї появи. Розгляньмо такі приклади:

Консенсус завдяки вибірці зменшує неузгодженість – Неузгодженість рішень або результатів можна ефективно зменшити, залучивши кількох агентів ШІ з різними конфігураціями, наприклад різними моделями з різними налаштуваннями температури, до інтерпретації даних, зібраних попередніми операціями агентів.

Вибірковий підхід допомагає організаціям зрозуміти, у чому різні моделі погоджуються, а в чому розходяться. Спираючись на узгоджену інформацію та надаючи меншої ваги інформації, щодо якої є розбіжності, можна суттєво зменшити неузгодженість.

Водночас інформація, щодо якої агенти вибірки не погоджуються, також цінна: вона виявляє невизначеність і потребу в якісніших даних або вхідній інформації. Такі розбіжності допомагають визначити пріоритет доступу до необхідних даних для кращих рішень.

Послідовні процедури завдяки посібникам з розслідування  – Одна з головних причин неузгоджених результатів повторних розслідувань SOC на основі ШІ полягає у зміні не лише зібраних даних, а й гіпотез, створених або змінених під час розслідування. Загальний посібник зі стандартними операційними процедурами (SOP) для певних категорій допомагає агентам формувати узгодженіші гіпотези та підвищує загальну узгодженість результатів. Це не новий підхід: більшість аналітиків-людей у SOC вже користуються SOP для ефективних і послідовних розслідувань. Агенти ШІ можуть робити так само.

Простежувані докази пояснюють роботу чорної скриньки – Належна практика полягає в тому, щоб від початку проєктувати SOC на основі ШІ з урахуванням підтвердних доказів. Кожне рішення та кожна гіпотеза агента мають спиратися на інформацію, зокрема записи міркувань і необроблені дані журналів, які ці міркування підтверджують.

ШІ для кібербезпеки, якому можна довіряти

Агенти ШІ можуть прискорювати виявлення, первинне оцінювання та реагування на загрози, але водночас створюють реальні ризики: неузгоджені результати, непрозорі рішення та чутливість до якості даних. Довіра до їх використання в критично важливих середовищах потребує міркувань, підтверджених доказами, зокрема записами та необробленими матеріалами; структурованих SOP для зменшення варіативності; багатоагентної вибірки для розмежування консенсусу й невизначеності; а також запобіжників для цілісності даних, протидії ін’єкціям промптів та обмежень кількості кроків і бюджету.

Усі ці важливі вдосконалення можна реалізувати за допомогою передових підходів на основі агентів ШІ з LLM, призначених для роботи зі складністю сучасних операцій безпеки, підтримуваних ШІ. Наприклад, деякі передові підходи використовують розвинену багатоагентну вибірку, щоб залучити колективний інтелект різних моделей. Вони співпрацюють задля консенсусу, мінімізації неузгодженості та виявлення сфер невизначеності. Структуровані й чіткі посібники з розслідування забезпечують дотримання найкращих практик і стандартних процедур на всіх етапах аналізу, підвищуючи послідовність і надійність кожної операції.

Наскрізна простежуваність рішень дає змогу перевірити й зрозуміти кожен висновок, рекомендацію та автоматизовану дію. Це забезпечує повну прозорість для команд безпеки й водночас зміцнює довіру зацікавлених сторін. Поєднання цих ключових елементів із надійним контролем якості даних промптів, безпеки та операційних запобіжників у передових підходах на основі агентів ШІ з LLM дає SOC змогу отримувати результати, які не лише надійні й прозорі, а й готові до робочого застосування в реальних середовищах і для ваших найкритичніших завдань.