Kindo запускает Deep Hat Sift, чтобы сократить число ненужных запусков ИИ-агентов

ИИ-агент, который анализирует каждое оповещение системы безопасности или каждую запись журнала, обходится в определённую сумму, даже если приходит к выводу, что никаких действий не требуется. При корпоративных объёмах такие безрезультатные проверки сами по себе могут стать существенной нагрузкой. Kindo запустила Deep Hat Sift — модель, которая определяет, какие входящие события требуют запуска агента, прежде чем их начнёт обрабатывать более крупная модель.

О запуске объявили 28 октября. Sift учится на вердиктах обслуживаемого им агента, а затем отфильтровывает события, которые тот в противном случае отклонил бы. Сначала продукт только наблюдает, не блокируя события: каждое из них по-прежнему поступает агенту, пока специалист не проверит предлагаемое поведение фильтра и не утвердит порог.

Этот подход предлагает иной механизм контроля затрат, чем выбор более дешёвой языковой модели. Вместо того чтобы снижать стоимость каждой проверки, Sift стремится избегать проверок, которые, скорее всего, не потребуют действий. Эффективность модели зависит как от качества этих решений, так и от механизмов контроля за тем, какие события пропускаются.

Модель принятия решений перед языковой моделью

Kindo описывает Deep Hat Sift как модель принятия решений типа «Система 1»: быструю и недорогую модель, которая отвечает на вопрос о выборе, а не генерирует ответ. Каждая модель привязана к определённому источнику, целевому агенту и задаче фильтрации, поэтому её обучение учитывает специфику рабочей нагрузки, для которой она предназначена.

Такая специализация важна. Событие, значимое для расследования инцидента безопасности, может быть неважным для работы службы поддержки. Sift учится определять, какие события отклоняет целевой агент, используя его вердикты в качестве обучающего сигнала. По словам Kindo, это избавляет от необходимости отдельно организовывать разметку данных людьми для каждого потока.

На начальном этапе система работает в теневом режиме. Sift оценивает входящие события, пока агент продолжает проверять их все, что позволяет системе сравнивать свои прогнозы с решениями агента. Прежде чем фильтрация начнётся, операторы получают на собственных данных предварительный просмотр событий, которые были бы исключены.

Затем специалист должен утвердить порог и письменно обосновать своё решение. Таким образом, решение о допустимом поведении фильтра принимает команда, отвечающая за рабочий процесс, а активация не становится автоматическим следствием установки модели.

Выборочная проверка и режим отказа с открытым доступом помогают выявлять пропущенные события

Фильтрация создаёт сложную проблему измерения: если событие никогда не поступает агенту, как команда узнает, следовало ли его проверять? Sift продолжает отправлять агенту случайную выборку событий, которые в противном случае были бы отфильтрованы. Вердикты агента по этой выборке позволяют постоянно измерять долю пропусков.

На странице продукта чётко указана точка отсчёта: полнота и доля пропусков измеряются относительно оценок агента. Эти показатели позволяют понять, насколько точно Sift воспроизводит решения этого агента. Сами по себе они не подтверждают, что агент правильно выявляет каждый инцидент безопасности или операционную проблему.

По словам Kindo, если качество работы ухудшается, Sift переключается в разрешительный режим и снова направляет события агенту на проверку, а не продолжает их подавлять. Компания также описывает предельные значения активности, при превышении которых во время резкого всплеска система может вернуться в теневой режим. Отфильтрованные события и решения об утверждении записываются в журнал, чтобы команды могли выяснить, что именно было исключено и почему.

«Система ничего не фильтрует, пока специалист не утвердит порог. Если качество работы ухудшается, она переключается в разрешительный режим и направляет всё на оценку большой языковой модели», — сказал в объявлении Трой Пресли, инженер Deep Hat Sift в Kindo.

Эти механизмы позволяют увидеть компромисс, но не устраняют его. При более осторожной фильтрации можно сохранить охват, но сэкономить меньше запусков. Более агрессивная фильтрация может сократить объём работы, однако тогда возрастают требования к выборочной проверке, выявлению ухудшения качества и надёжности нижестоящего агента.

Для оповещений, заявок и непрерывных потоков журналов

Продукт предназначен для рабочих нагрузок с большим объёмом входящих данных, где лишь небольшая их доля требует действий. Kindo называет оповещения SIEM и систем обнаружения угроз на конечных устройствах, очереди заявок, сообщения о фишинговых письмах, системные и сетевые журналы, а также потоки с таких платформ, как Kafka. Среди источников данных для мониторинга — Splunk, Datadog и New Relic.

Sift располагается перед агентом, а не заменяет эти исходные системы. Платформа безопасности по-прежнему выявляет угрозы, система управления заявками продолжает вести очередь, а агент отвечает за случаи, которые до него доходят. Новый уровень определяет, какие события запускают эту дополнительную работу с помощью ИИ.

Та же схема может применяться в финансовых процессах и процедурах контроля соответствия требованиям, где проверяются потоки транзакций или политики. И здесь выбор событий для проверки не равнозначен определению факта мошенничества или соответствия требованиям. Целевой агент и окружающий его бизнес-процесс по-прежнему играют важную роль в результате.

Как Sift вписывается в платформу управления агентами Kindo

Более широкая платформа Kindo связывает агентов с корпоративными системами безопасности, инфраструктуры и ИТ-операций. Она объединяет выполнение задач с контекстом, разрешениями и операционным контролем, предоставляя командам место для управления работой после выбора модели.

На сайте компании описаны правила владения агентами и доступа, а также распределение затрат по агентам, владельцам и командам. Sift добавляет контроль на более раннем этапе этого процесса: позволяет определить, должно ли событие вообще запускать агента. Так техническое решение о фильтрации связывается с практическим вопросом о том, какие рабочие нагрузки создают расходы на инференс.

Согласно объявлению о запуске, Deep Hat Sift уже доступен для локального развертывания, в самостоятельно управляемом облаке, в облаке Kindo и в изолированных от внешних сетей средах. Оценка выполняется там, где установлена Kindo, а вызовы моделей обрабатываются через платформу. Продукт работает с агентами Kindo.

Экономия будет зависеть от потока событий

Kindo не приводит ни общего процента экономии, ни универсального показателя точности для Sift. Вместо этого на странице продукта командам предлагают предварительно оценить, какие из их собственных событий будут отсеиваться. Для покупателей это важное различие: экономический эффект зависит от объема событий, стоимости каждого предотвращенного запуска, доли событий, требующих действий, и порога срабатывания, который команда считает приемлемым.

Для шумных потоков предотвращение ненужных запусков агентов может сделать непрерывный анализ с помощью ИИ более доступным. В потоках, где пропуск события чреват серьезными последствиями, механизмы выборки и эскалации не менее важны, чем расходы на инференс. Deep Hat Sift включает эти решения в рабочий процесс агентов, смещая главный вопрос с того, какая модель должна обработать событие, на вопрос о том, нужно ли вообще поручать его обработку этой модели.