Sysdig запускает AI Defense для контроля действий агентов от конечных устройств до облака

Sysdig запустила AI Defense — продукт для обеспечения безопасности и управления на этапе выполнения, предназначенный для анализа действий ИИ-агентов и вмешательства, когда эти действия выходят за рамки политик организации. В объявлении от 4 ноября сообщается о широком запуске продукта для macOS и Windows. Предусмотренные средства мониторинга должны связывать активность на рабочих станциях сотрудников с облачными ресурсами, к которым дают доступ их учетные данные.

Продукт призван отвечать на переход от ИИ, который выдает ответы, к ИИ, который управляет программным обеспечением. Агент для написания кода может читать файлы, вызывать инструменты, запускать процессы и изменять инфраструктуру. Чтобы защитить такой рабочий процесс, необходимо понимать и задачу, которую, по мнению агента, он выполняет, и операции, которые фактически происходят в системе.

Связь между намерениями агента и данными операционной системы

По словам Sysdig, AI Defense сочетает инструменты мониторинга, встроенные в среду агента — фреймворк, в котором он работает, — с телеметрией операционной системы. Эти инструменты фиксируют обращения к инструментам, серверам Model Context Protocol, навыкам и плагинам, включая передаваемые им аргументы и цели вызовов. Наблюдение на уровне системы отдельно регистрирует процессы и действия, порождаемые такими вызовами.

Это различие важно, если описание действий агента неполно или скомпрометировано. Одно зафиксированное обращение к инструменту может запустить несколько процессов, а подключение или навык, добавленные во время сеанса, могут изменить возможности агента. Sysdig сообщает о предварительном наблюдении: на каждое действие в журналах агентов приходилось примерно семь фоновых процессов. Это вывод компании, а не универсальное соотношение для всех агентов.

Система также учитывает уровень доступа: одна и та же операция чтения файла может иметь разные последствия в зависимости от того, дает ли задействованная учетная запись доступ к тестовой среде или права администратора в производственной среде. Граф действий должен связывать последовательность событий, ответственное лицо, заявленную агентом активность и доступные ему ресурсы.

Политики, позволяющие разрешить, приостановить или заблокировать действие

Организации могут сначала включить политики в режиме оповещений и лишь затем активировать их принудительное применение. После активации, по словам Sysdig, политики могут блокировать непроверенные инструменты и подключения, останавливать рискованный доступ с использованием учетных данных или приостанавливать действие до одобрения человеком. В описании выпуска также говорится о завершении процесса, если действие обходит предыдущий уровень контроля.

Эти механизмы применяются на разных этапах последовательности выполнения. Предотвратить завершение операции — не то же самое, что обнаружить активность и завершить процесс после этого. В объявлении не приводится общедоступная таблица, показывающая, какие средства контроля предотвращают действия в каждой поддерживаемой операционной системе, среде агента и управляемой платформе.

Шаблоны политик включают сопоставления с OWASP Top 10 for LLM Applications и предусматривают пути исключений для разработчиков. Sysdig также описывает журналы сеансов, в которых указано, какая политика применялась, что было разрешено или заблокировано и кто одобрил исключение. Эти записи могут помочь при расследовании и аудите, избавляя команды от необходимости восстанавливать ход сеанса после инцидента.

Что дает фонд Falco

Sysdig связывает продукт со своей историей в области безопасности облачных систем на этапе выполнения и с проектом Falco, который компания изначально создала как проект с открытым исходным кодом. В документации Falco описаны наблюдение за событиями ядра Linux и источниками событий, предоставляемыми плагинами, обогащение событий контекстом контейнеров и Kubernetes, а также применение правил для создания оповещений.

Эта основа помогает понять, почему Sysdig делает упор на наблюдение за фактическим выполнением операций, а не только на рассказ самой системы ИИ о своих действиях. Это не означает, что проект Falco с открытым исходным кодом сам по себе обеспечивает все возможности управления агентами и блокировки, описанные для AI Defense. Документированную архитектуру обнаружения Falco и коммерческий продукт Sysdig следует рассматривать отдельно.

В выпуске среди сред агентов, которые продукт должен выявлять и связывать с ответственным человеком, названы Claude Code, Codex, GitHub Copilot и Cursor. Заявление о доступности для macOS и Windows конкретнее общего описания охвата Linux, Kubernetes и управляемых платформ агентов; организациям потребуется определить, какая интеграция применима в каждой среде.

Управление на этапе выполнения дополняет тестирование моделей

В техническом разборе совместной ответственности Sysdig представляет средства контроля на этапе выполнения как дополнительный уровень защиты для работы агента. Практическое различие состоит в том, чтобы не просто просить модель соблюдать ограничения, а обеспечивать их соблюдение, когда программное обеспечение пытается выполнить операцию.

AI Defense позиционируется как дополнение к существующим средствам защиты конечных устройств, тестированию моделей и проверкам безопасности методом red team. Тестирование показывает, как модель или рабочий процесс ведет себя в выбранных условиях; управление на этапе выполнения контролирует действия во время реального сеанса. Ни одно из этих описаний не гарантирует, что развернутая система защищена от компрометации: эффективность зависит от настройки политик и охвата пути выполнения операций.

Учет действий агентов и расходов на ИИ

Помимо безопасности, Sysdig утверждает, что AI Defense связывает вызовы моделей с агентом, командой и ответственным сотрудником, в том числе если активность не проходит через централизованный шлюз ИИ. Это может помочь организациям отличать дорогостоящее использование моделей для рутинных задач от активности, для которой нужна более мощная модель.

Более широкая идея заключается в создании единого слоя данных для обеспечения безопасности, управления и контроля затрат. По мере того как агенты получают доступ к большему числу инструментов и работают с реальными учетными данными сотрудников, их влияние определяется тем, что они могут выполнять. Sysdig AI Defense призван сделать эти полномочия видимыми и обеспечить возможность их применения непосредственно в момент действия.