Sysdig запускає AI Defense для контролю дій агентів від кінцевих пристроїв до хмари

Sysdig запустила AI Defense — продукт для захисту й контролю під час виконання, призначений перевіряти дії агентів ШІ та втручатися, коли вони виходять за межі політик організації. У повідомленні від 4 листопада йдеться, що продукт став загальнодоступним для macOS і Windows; його функції видимості мають пов’язувати активність на робочих станціях співробітників із хмарними ресурсами, до яких надають доступ їхні облікові дані.

Продукт відповідає на перехід від ШІ, що генерує відповіді, до ШІ, який працює з програмним забезпеченням. Агент для написання коду може читати файли, викликати інструменти, запускати процеси й змінювати інфраструктуру. Щоб захистити такий робочий процес, потрібно розуміти і завдання, яке, на думку агента, він виконує, і операції, що фактично відбуваються за лаштунками.

Поєднання намірів агента з даними операційної системи

За словами Sysdig, AI Defense поєднує інструментування всередині середовища агента — програмної основи, на якій він працює, — з телеметрією операційної системи. Інструментування середовища фіксує виклики інструментів, серверів Model Context Protocol, навичок і плагінів, зокрема їхні аргументи та цілі. Спостереження на рівні системи надає окремий запис процесів і дій, спричинених цими викликами.

Ця відмінність має значення, коли звіт агента неповний або його скомпрометовано. Одна зафіксована дія з інструментом може запустити кілька процесів, а додане під час сеансу підключення чи навичка можуть змінити можливості агента. Sysdig повідомляє, що під час початкових спостережень на кожну дію в журналах агента припадало приблизно сім процесів, які відбувалися на нижчому рівні; це результат спостережень компанії, а не універсальне співвідношення для всіх агентів.

Система також враховує рівень повноважень: одна й та сама операція читання файлу може мати різні наслідки залежно від того, чи надають залучені облікові дані доступ до тестового середовища, чи дають змогу адмініструвати виробниче середовище. Граф дій має пов’язувати послідовність подій, відповідальну особу, заявлену агентом діяльність і доступні йому ресурси.

Політики, що дозволяють, призупиняють або блокують дії

Організації можуть спочатку ввімкнути для політик режим сповіщень, а вже потім — режим примусового застосування. За словами Sysdig, після ввімкнення примусового застосування ці політики можуть блокувати неперевірені інструменти й підключення, припиняти ризикований доступ за допомогою облікових даних або призупиняти дію до схвалення людиною. У повідомленні також описано завершення процесу, якщо дія обходить попередній рівень контролю.

Ці механізми діють на різних етапах послідовності виконання. Запобігти завершенню операції — не те саме, що виявити активність і згодом завершити процес. У повідомленні немає загальнодоступної таблиці, яка показувала б, які саме засоби контролю запобігають діям у кожній підтримуваній операційній системі, середовищі агента та керованій платформі.

Шаблони політик містять зіставлення з переліком OWASP Top 10 для застосунків на основі LLM і процедури винятків для розробників. Sysdig також описує записи сеансів, у яких зазначено, яка політика застосовувалася, що було дозволено або заблоковано та хто схвалив виняток. Ці записи можуть допомогти в розслідуваннях і під час аудиту, тож командам не доведеться відновлювати перебіг сеансу після інциденту.

Що додає Фонд Falco

Sysdig пов’язує продукт зі своєю історією у сфері захисту хмарної інфраструктури під час виконання та з проєктом Falco, який компанія створила спочатку. У документації Falco описано спостереження за подіями ядра Linux і джерелами подій, які надають плагіни, збагачення подій контекстом контейнерів і Kubernetes, а також застосування правил для створення сповіщень.

Ця основа пояснює, чому Sysdig наголошує на спостереженні за фактичним виконанням, а не лише на покладанні на розповідь системи ШІ. Однак це не означає, що проєкт Falco з відкритим кодом сам по собі надає всі описані в AI Defense можливості контролю агентів і блокування дій. Документовану архітектуру виявлення Falco та комерційний продукт Sysdig слід розглядати окремо.

У повідомленні серед середовищ агентів, які продукт має обліковувати й пов’язувати з відповідальним за них користувачем, названо Claude Code, Codex, GitHub Copilot і Cursor. Заява про доступність для macOS і Windows конкретніша за ширший опис охоплення Linux, Kubernetes і керованих платформ агентів; організаціям потрібно буде з’ясувати, яка інтеграція застосовується для кожного середовища.

Контроль під час виконання доповнює тестування моделей

У технічному обговоренні спільної відповідальності Sysdig описує засоби контролю під час виконання як рівень захисту робочих операцій агента. Практична відмінність полягає в тому, щоб не просто просити модель дотримуватися обмежень, а примусово забезпечувати їх дотримання, коли програмне забезпечення намагається виконати операцію.

AI Defense позиціюють як доповнення до наявного захисту кінцевих пристроїв, тестування моделей і red teaming. Під час тестування перевіряють поведінку моделі чи робочого процесу за вибраних умов; контроль під час виконання стосується дій у реальному сеансі. Жодне з цих формулювань не засвідчує, що розгортання захищене від компрометації, а ефективність залежить від налаштування політик і охоплення всього шляху виконання.

Визначення відповідальних за активність агентів і витрат на ШІ

Окрім безпеки, Sysdig стверджує, що AI Defense пов’язує виклики моделей з агентом, командою та відповідальною особою, зокрема й ті дії, які не проходять через централізований шлюз ШІ. Це може допомогти організаціям відрізняти дороге використання моделей для рутинної роботи від діяльності, що потребує потужнішої моделі.

Ширша пропозиція полягає у створенні спільного рівня доказової інформації для безпеки, управління та контролю витрат. Коли агенти отримують доступ до більшої кількості інструментів і працюють із реальними обліковими даними співробітників, їхній вплив визначається тим, що вони можуть виконувати. Sysdig AI Defense прагне зробити ці повноваження видимими й забезпечити їх дотримання безпосередньо під час виконання дій.