CrowdStrike нацелилась на rogue-ИИ-агентов с помощью обнаружения внутренних угроз

CrowdStrike объявила 4 ноября 2026 года на Fal.Con Europe в Барселоне, что в IV квартале добавит обнаружение внутренних угроз со стороны агентов в Falcon Next-Gen SIEM. В анонсе эта будущая функция представлена вместе с уже доступными скоординированными расследованиями с участием нескольких агентов, которые связывают поведенческие оповещения с расследованиями и реагированием в разных доменах.

Речь идёт о корпоративном агенте, имеющем системный доступ к конфиденциальным данным и право самостоятельно действовать с ними. Если таким агентом манипулируют или его поведение отклоняется от заданного, но при этом он не нарушает никаких правил, инструментам, основанным на политиках и журналах событий, нечего фиксировать как явное нарушение. Кроме того, им может быть трудно отличить действия агента от действий запустившего его человека. В результате поведенческая проблема на уровне отдельных событий может выглядеть вполне легитимно.

Функция обнаружения внутренних угроз со стороны агентов предназначена для изучения нормального поведения каждого ИИ-агента и его владельца, а затем выявления отклонений, даже если никакие политики не нарушены. Этот риск учитывается в оценке, которую Falcon Next-Gen SIEM формирует для владельца и хоста, а аномальное поведение напрямую направляется на скоординированное расследование. Таким образом, поводом для проверки становится не только нарушение правила, но и изменение поведения; в расследование при этом передаётся контекст, связанный с учётной записью и хостом.

Скоординированные расследования стали общедоступны

Расследования, которые теперь доступны всем пользователям, были представлены 2 сентября 2026 года на Fal.Con в Лас-Вегасе. Charlotte AI параллельно задействует агентов, обученных экспертами, для работы в доменах конечных устройств, идентификации, SaaS, облачных и сетевых сред. Вместо изолированных проверок они работают на общем уровне контекста, а затем приходят к единому выводу, показывая ход рассуждений и его обоснование.

Такая архитектура решает проблему сведения воедино результатов расследования в разных доменах. Аналитики могут изучать ход рассуждений агентов, а не вручную объединять результаты отдельных проверок. Общий контекст также позволяет одному агенту передавать другим сведения, полученные в ходе того же расследования.

Результаты обнаружения и расследования передаются на уровень реагирования, в который входит аварийный выключатель ИИ Falcon Guardian, завершающий работу агента. Аналитики также могут с помощью функции прерывания работы агента приостановить или остановить на середине задачи работающего агента Charlotte AI или AgentWorks. Эта мера призвана предотвратить несанкционированные действия и неконтролируемые расходы.

Контроль со стороны человека и следующий этап обнаружения угроз

Charlotte Agentic SOAR доступен как единое управляемое рабочее пространство для агентов, рабочих процессов и пользовательских приложений. Уровень автономности можно настроить от обязательного одобрения человеком до полностью автономного выполнения. Контрольные точки с участием человека приостанавливают работу агента, когда тот обращается к конфиденциальному инструменту, и создают запрос на действие. Аналитики могут одобрить действие, отклонить его, указав причину, или изучить полную трассировку работы агента. Так для инструментов, требующих более строгого контроля, создаётся возможность проверить и оценить принятое решение.

В планах на тот же IV квартал указаны и несколько смежных средств контроля. Обнаружение угроз в экосистеме ИИ должно охватывать неправомерное использование API больших языковых моделей, кражу ключей API, а также компрометацию помощников для программирования, серверов MCP и агентских платформ. Планируется также распространить контрольные точки одобрения с отдельных вызовов инструментов на целые агенты, приложения и рабочие процессы.

Функция контроля и отслеживания расходов на ИИ призвана обеспечивать видимость потребления ресурсов в реальном времени, останавливать выполнение на середине процесса и принимать решение о повышении или отказе в повышении лимита, когда агент достигает установленного предела. Таким образом, контроль расходов дополняет одобрение действий в целях безопасности и позволяет администраторам прерывать автономную работу, если потребление ресурсов становится неприемлемым.

Ещё одна функция — средства защиты агентов от отклонения от политик — запланирована на первый квартал 2028 финансового года. Falcon Guardian будет проверять взаимодействия Charlotte AI и AgentWorks на предмет отклонения от политик, несанкционированных вызовов инструментов и доступа к данным за пределами разрешённого. Ещё не выпущенные сервисы и функции находятся в разработке, и планы могут измениться. Поэтому указанные названия и сроки представляют собой дорожную карту, а не описание уже доступных решений.

Выпуск постепенно формирует рабочий процесс обеспечения безопасности агентов: скоординированные расследования и средства контроля со стороны операторов доступны уже сейчас, обнаружение изменений в поведении запланировано на IV квартал, а средства защиты от отклонения от политик появятся позднее. Для специалистов по киберзащите это означает практическое различие между проверкой или остановкой действия агента и выявлением едва заметного изменения его поведения, которое должно запустить реагирование.