Kindo запускає Deep Hat Sift, щоб скоротити кількість зайвих запусків ШІ-агентів

ШІ-агент, який опрацьовує кожне сповіщення безпеки чи запис журналу, створює витрати, навіть коли доходить висновку, що нічого робити не потрібно. За корпоративних обсягів такі перевірки, які не потребують подальших дій, самі можуть перетворитися на значне навантаження. Kindo запустила Deep Hat Sift — модель, яка визначає, які вхідні події потребують запуску агента, перш ніж їх почне обробляти більша модель.

Про запуск оголосили 28 жовтня. Sift навчається на висновках агента, для якого працює, а потім відфільтровує події, які той інакше відхилив би. Спершу продукт лише спостерігає, нічого не приховуючи: кожна подія й далі надходить агенту, доки людина не перевірить запропоновану поведінку фільтрації та не затвердить порогове значення.

Цей підхід пропонує інший механізм контролю витрат, ніж вибір дешевшої мовної моделі. Замість того щоб знижувати вартість кожної перевірки, Sift прагне уникати перевірок, які, імовірно, не потребуватимуть подальших дій. Ефективність залежить і від якості цих рішень, і від засобів контролю того, що пропускається.

Модель ухвалення рішень перед мовною моделлю

Kindo описує Deep Hat Sift як модель ухвалення рішень «Системи 1»: швидку й недорогу модель, яка відповідає на запитання про відбір, а не генерує відповідь. Кожну модель призначено для конкретного джерела, цільового агента й завдання фільтрації, тож вона навчається на даних, що відповідають навантаженню, для якого її призначено.

Така специфічність має значення. Подія, важлива для розслідування інциденту безпеки, може бути неважливою для роботи служби підтримки. Sift навчається визначати, які події відхиляє цільовий агент, використовуючи його висновки як навчальний сигнал. За словами Kindo, завдяки цьому для кожного потоку не потрібно окремо залучати людей для маркування даних.

На початковому етапі система працює в тіньовому режимі. Sift оцінює вхідні події, тоді як агент і далі перевіряє їх усі, що дає змогу системі порівнювати свої прогнози з рішеннями агента. Перш ніж розпочати фільтрацію, оператори отримують попередній перегляд того, що було б відфільтровано на їхніх власних даних.

Потім людина має затвердити порогове значення та письмово обґрунтувати своє рішення. Завдяки цьому рішення про прийнятну поведінку фільтрації ухвалює команда, відповідальна за робочий процес, а не система автоматично активується після встановлення моделі.

Вибіркова перевірка та режим із пропусканням усіх подій допомагають контролювати пропуски

Фільтрація створює складну проблему вимірювання: якщо подія ніколи не надходить агенту, як команда може знати, чи мала вона це зробити? Sift і далі надсилає агенту випадкову вибірку подій, які інакше відфільтрував би, щоб висновки агента щодо цієї вибірки допомагали постійно вимірювати частку пропущених подій.

На сторінці продукту чітко зазначено, із чим порівнюють результати: повноту виявлення та частку пропусків вимірюють відповідно до оцінок агента. Ці показники свідчать про те, наскільки точно Sift відтворює рішення цього агента. Самі по собі вони не підтверджують, що агент правильно виявляє кожен інцидент безпеки чи операційну проблему.

За словами Kindo, якщо якість погіршується, Sift переходить у режим із пропусканням усіх подій і знову надсилає їх агенту на перевірку, замість того щоб продовжувати їх придушувати. Компанія також описує граничні значення активності, після досягнення яких під час різкого сплеску система може повернутися в тіньовий режим. Відфільтровані події та рішення про схвалення записуються в журнал, щоб команди могли перевірити, що саме було відфільтровано і чому.

«Система нічого не фільтрує, доки людина не затвердить порогове значення, а якщо якість погіршується, вона переходить у режим із пропусканням усіх подій і надсилає їх на оцінювання мовній моделі», — сказав в оголошенні Трой Преслі, інженер Deep Hat Sift у Kindo.

Ці механізми показують компроміс, а не усувають його. Обережніша фільтрація може зберегти повноту охоплення, але заощадити менше запусків. Агресивніша фільтрація може зменшити обсяг роботи, проте тоді ще важливішими стають вибіркова перевірка, виявлення погіршення якості та якість агента, який опрацьовує події далі.

Для сповіщень, заявок і безперервних потоків журналів

Запуск розрахований на робочі процеси з великим обсягом вхідних даних, де лише невелика їх частка потребує подальших дій. Kindo називає сповіщення SIEM-систем і систем виявлення загроз на кінцевих пристроях, черги заявок, повідомлення про фішингові атаки, системні й мережеві журнали, а також потоки з платформ на кшталт Kafka. Серед джерел даних для моніторингу — Splunk, Datadog і New Relic.

Sift працює перед агентом, а не замінює ці вихідні системи. Платформа безпеки й далі генерує виявлені загрози, система обробки заявок і далі веде свою чергу, а агент відповідає за справи, які до нього надходять. Новий рівень визначає, які події запускають цю додаткову роботу за допомогою ШІ.

Такий самий підхід можна застосовувати у фінансових процесах і процесах забезпечення відповідності вимогам, де перевіряють потоки транзакцій або політик. І тут відбір подій для перевірки — це не те саме, що визначення факту шахрайства чи відповідності вимогам. Важливими складниками результату залишаються цільовий агент і пов’язаний із ним бізнес-процес.

Як Sift інтегрується з платформою Kindo для керування агентами

Ширша платформа Kindo об’єднує агентів із корпоративними системами безпеки, інфраструктури та ІТ-операцій. Вона поєднує виконання завдань із контекстом, дозволами й операційним наглядом, надаючи командам змогу керувати роботою після вибору моделі.

На сайті компанії описано закріплення агентів, політики доступу та розподіл витрат за агентом, власником і командою. Sift додає контроль на більш ранньому етапі цього процесу: він визначає, чи має подія взагалі запускати агента. Так технічне рішення про фільтрування пов’язується з операційним питанням про те, які робочі навантаження спричиняють витрати на інференс.

Згідно з оголошенням про запуск, Deep Hat Sift уже доступний для локального розгортання, у хмарі під самостійним керуванням, у хмарі Kindo та в ізольованих від мережі середовищах. Оцінювання виконується там, де встановлено Kindo, а виклики моделей керуються через платформу. Продукт працює з агентами Kindo.

Економія залежатиме від потоку подій

Kindo не надала ані загального показника економії у відсотках, ані універсального орієнтира точності для Sift. Натомість на сторінці продукту командам пропонують попередньо оцінити, які події система відсіюватиме, на власних даних. Для покупців це важлива відмінність: економічний результат залежить від обсягу подій, вартості кожного запуску, якого вдалося уникнути, частки подій, що потребують дій, і порогового значення, яке команда вважає прийнятним.

Для потоків із великою кількістю шуму уникнення непотрібних запусків агентів може зробити безперервний аналіз за допомогою ШІ доступнішим. Для потоків, де пропущена подія може мати серйозні наслідки, контроль вибірки та ескалації стає не менш важливим, ніж витрати на інференс. Deep Hat Sift інтегрує ці рішення в робочий процес агентів, зміщуючи головне питання з того, яка модель має обробити подію, на те, чи потрібно цій моделі взагалі її обробляти.