Лидеры мнений
ИИ помогает масштабировать кибербезопасность. Но что именно мы масштабируем?

Ключевые моментыОбработка большего объёма данных не улучшает автоматически обнаружение угроз без…
Показать больше
- Обработка большего объёма данных не улучшает автоматически обнаружение угроз без организационного контекста.
- Дообученные модели могут поддерживать крупномасштабные расследования с более предсказуемыми затратами, чем передовые модели.
- Автономность должна быть соразмерна риску, а управление должно быть разработано до масштабирования агентов.
Сегодня команды корпоративной безопасности сталкиваются с таким объемом активности, телеметрии и оповещений, что вручную расследовать их все практически невозможно. Оценки разнятся, но, согласно некоторым исследованиям, средняя команда центра мониторинга безопасности получает более 4 400 оповещений в день. По мере расширения организаций, появления новых инструментов и роста числа атак, которым способствует ИИ, это количество неизбежно будет увеличиваться. Уже есть примеры компаний, в инфраструктуре которых насчитывается два миллиона конечных устройств. Команды безопасности, расследующие эти оповещения вручную, оказываются в заведомо неравном положении по сравнению со злоумышленниками, которые все чаще используют автономных ИИ-агентов.
ИИ-агенты могут изменить ситуацию к лучшему для специалистов по защите: они способны взять на себя расследования и другие повторяющиеся задачи во всей инфраструктуре. Однако возможность обрабатывать больше данных не означает автоматически, что обнаружение угроз или реагирование на них станет эффективнее. Нужен не просто масштаб, а контекст.
Почему при оценке масштаба важен контекст
Расследуя инциденты на миллионах конечных устройств, агент должен понимать, что именно он ищет, какое поведение считается необычным в конкретной среде и какие результаты требуют дальнейшей проверки. Без такого контекста автоматизация рискует лишь масштабировать шум и порождать не относящиеся к делу или вводящие в заблуждение выводы.
Важно также помнить, что не каждая организация сможет использовать передовые модели для расследования каждого оповещения: это обойдется слишком дорого.
Среды безопасности различаются по инфраструктуре, приложениям, операционным требованиям, нормативным обязательствам и допустимому уровню риска. Специалистам по защите нужно поддерживать работу приложений, соблюдать требования законодательства и не допускать сбоев в операционной деятельности.
Чтобы агенты работали эффективно, они должны учитывать знания организации, в том числе результаты предыдущих расследований, установленные процедуры и профессиональные суждения опытных аналитиков. Многие из этих знаний нельзя просто загрузить в агента в виде таблицы или файла другого формата: их можно получить, только наблюдая за работой опытных специалистов по защите и учась у них на практике.
Для крупных компаний главный вопрос заключается в том, как преобразовать накопленные в организации знания в системы, способные принимать последовательные и уместные с учетом контекста решения с машинной скоростью.
Как внедрить знания организации в рабочие процессы
Организациям нужны механизмы для сбора и применения знаний, на которых основаны расследования: предыдущих решений по делам, установленных процедур и подходов аналитиков к интерпретации доказательств. Кроме того, в компаниях могут быть собственные процессы и инструменты, а также неформализованные знания сотрудников — их тоже необходимо зафиксировать.
Один из возможных подходов — специализация моделей. Дообучение моделей для отдельных корпоративных клиентов позволяет проводить масштабные расследования с более предсказуемыми затратами, сохраняя высокую эффективность. Дообученные модели с открытым исходным кодом могут быть особенно полезны для задач, связанных с очень большим количеством конечных устройств.
Организациям также необходимо оценивать эффективность агентов по мере изменения моделей, рабочих процессов и корпоративных сред. Искусственные среды, или цифровые двойники, позволяют создавать условия, близкие к реальным, чтобы тестировать разные версии агентов, когда производственные данные больше недоступны или устарели.
Дообучение — не единственный способ обеспечить агентов контекстом. Альтернативами служат поиск и извлечение информации, память, оркестрация рабочих процессов и явные политики управления. Главное, чтобы выбранный подход повышал эффективность агента в той среде, где он будет работать.
Для автономной работы в большом масштабе нужны четкие границы, надзор и координация
Правильно распознать угрозу — лишь часть задачи. Агенты должны понимать, какие действия им разрешено выполнять, когда требуется одобрение человека и как не нарушить нормальную работу компании. Чтобы внедрение заслуживало доверия, необходимо определить, где агенты могут действовать самостоятельно, а где требуется решение человека.
Для автономной работы в большом масштабе важен и эффект масштаба. Компании, использующие передовые модели для миллионов расследований, сами доведут себя до банкротства. Поэтому крайне важно найти наиболее экономичный способ проводить расследования с помощью ИИ-модели — будь то Small Language Model (SLM) или проприетарная модель.
Степень автономности должна соответствовать уровню риска. Рутинные и хорошо понятные задачи можно поручить агентам, тогда как действия с серьезными последствиями или способные нарушить работу систем могут требовать одобрения человека или дополнительного разрешения. Безопасность корпоративной среды зависит и от координации между командами. Если расследование выявило угрозу, для устранения которой нужно изменить настройки межсетевого экрана, задачу необходимо без задержек передать команде, отвечающей за эту систему, обеспечив надлежащие разрешения и ответственность за устранение проблемы.
Поэтому управление и проектирование рабочих процессов — необходимые составляющие внедрения агентов, а не меры контроля, которые можно добавить уже после масштабирования технологии.
Качество результатов — новый критерий успеха ИИ в сфере безопасности
Организациям следует оценивать агентов по результативности, учитывая точность расследований, долю ложноположительных и ложноотрицательных результатов, время на расследование и устранение проблем, стоимость одного расследования, качество эскалации и соблюдение политик авторизации.
Непрерывная оценка необходима по мере изменения моделей и рабочих процессов. Тестирование разных версий агентов на типовых случаях и использование синтетических сред помогают организациям выявлять регрессии до развертывания обновлений в рабочей среде.
Руководителям служб безопасности необходимо сопоставлять преимущества автоматизации с операционными рисками ее внедрения. Доступность приложений, требования к соблюдению нормативных требований, допустимый для организации уровень риска и сроки реализации — всё это влияет на то, насколько быстро можно внедрять новые возможности.
ИИ дает командам безопасности возможность решить давнюю проблему нехватки ресурсов, однако сама по себе масштабируемость не является конечной целью. Настоящая возможность заключается в сочетании машинной скорости с пониманием контекста организации, соответствующими полномочиями и человеческим суждением, чтобы агенты могли определять, что действительно важно, предпринимать правильные действия и при необходимости привлекать нужных людей.












