Sysdig uvádí AI Defense, které řídí činnost agentů od koncového zařízení až po cloud

Společnost Sysdig uvedla na trh AI Defense, produkt pro zabezpečení a správu za běhu, který je navržen k prověřování činnosti agentů AI a zásahu v případech, kdy jejich kroky překročí zásady organizace. Produkt byl podle oznámení z 4. listopadu zpřístupněn všem uživatelům pro systémy macOS a Windows. Jeho přehled má propojit aktivitu na pracovních stanicích zaměstnanců s cloudovými prostředky, k nimž jim jejich přihlašovací údaje umožňují přístup.

Produkt reaguje na posun od AI, která poskytuje odpovědi, k AI, která ovládá software. Programovací agent může číst soubory, spouštět nástroje a procesy i měnit infrastrukturu. Zabezpečení takového pracovního postupu vyžaduje porozumět jak úkolu, o němž se agent domnívá, že jej provádí, tak operacím, které skutečně probíhají na pozadí.

Propojení záměrů agenta s důkazy z operačního systému

Podle společnosti Sysdig AI Defense kombinuje instrumentaci uvnitř prostředí agenta – rámce, který jej spouští – s telemetrií operačního systému. Instrumentace prostředí zachycuje volání nástrojů, serverů Model Context Protocol, dovedností a zásuvných modulů, včetně jejich argumentů a cílů. Pozorování na úrovni systému poskytuje samostatný záznam procesů a činností, které tato volání vyvolají.

Toto rozlišení je důležité, pokud je popis činnosti agenta neúplný nebo byla jeho činnost kompromitována. Jediná zaznamenaná akce nástroje může spustit několik procesů a připojení nebo dovednost přidané v průběhu relace mohou změnit možnosti agenta. Sysdig uvádí, že při prvotním pozorování připadalo na každou akci v protokolech agenta přibližně sedm souvisejících procesů na nižší úrovni; jde o zjištění společnosti, nikoli o obecně platný poměr pro všechny agenty.

Systém zohledňuje také úroveň oprávnění: stejná operace čtení souboru může mít různé důsledky podle toho, zda použité přihlašovací údaje umožňují přístup do testovacího prostředí, nebo správu produkčního prostředí. Graf akcí má propojit posloupnost událostí, odpovědnou osobu, činnost uváděnou agentem a dostupné prostředky.

Zásady, které akci povolí, pozastaví nebo zablokují

Organizace mohou zásady nejprve spustit v režimu upozornění a teprve poté zapnout jejich vynucování. Podle společnosti Sysdig mohou vynucované zásady blokovat neprověřené nástroje a připojení, zabránit rizikovému přístupu k přihlašovacím údajům nebo pozastavit akci a vyžádat si schválení člověkem. Vydání popisuje také ukončení procesu, pokud akce projde přes dřívější kontrolní mechanismus.

Tyto mechanismy se uplatňují v různých fázích provádění. Zabránit dokončení operace není totéž jako zaznamenat činnost a následně ukončit proces. Oznámení neobsahuje veřejnou matici, která by ukazovala, které kontroly fungují preventivně v jednotlivých podporovaných operačních systémech, prostředích agentů a spravovaných platformách.

Šablony zásad zahrnují mapování na OWASP Top 10 for LLM Applications a výjimky pro vývojáře. Sysdig popisuje také záznamy relací, které ukazují, jaké zásady byly uplatněny, co bylo povoleno nebo zablokováno a kdo schválil výjimku. Tyto záznamy mohou usnadnit vyšetřování a audit, aniž by týmy musely po incidentu zpětně rekonstruovat průběh relace.

Co přináší Falco Foundation

Sysdig spojuje produkt se svou historií v oblasti zabezpečení cloudových nativních systémů za běhu a s projektem Falco, který původně vytvořila. Dokumentace projektu Falco popisuje sledování událostí jádra Linuxu a zdrojů událostí poskytovaných zásuvnými moduly, obohacování událostí o kontext kontejnerů a Kubernetes a používání pravidel k vytváření upozornění.

Tento základ objasňuje, proč Sysdig klade důraz na pozorování skutečně prováděných operací, místo aby spoléhal výhradně na popis činnosti vytvořený systémem AI. Neznamená to, že samotný open source projekt Falco poskytuje všechny funkce správy agentů nebo blokování popsané u AI Defense. Dokumentovanou architekturu detekce projektu Falco a komerční produkt společnosti Sysdig je třeba chápat odděleně.

Vydání uvádí Claude Code, Codex, GitHub Copilot a Cursor mezi prostředími agentů, která chce společnost evidovat a jejichž činnost chce přiřazovat konkrétním odpovědným osobám. Informace o dostupnosti pro macOS a Windows je konkrétnější než obecnější popis pokrytí zahrnujícího Linux, Kubernetes a spravované platformy agentů; organizace budou muset pro každé prostředí určit příslušnou integraci.

Správa činnosti za běhu doplňuje testování modelů

Technický rozbor sdílené odpovědnosti od společnosti Sysdig představuje kontroly za běhu jako vrstvu dohlížející na práci agenta. V praxi jde o rozdíl mezi požadavkem, aby model respektoval určitou hranici, a vynucením této hranice ve chvíli, kdy se software pokusí provést operaci.

AI Defense je prezentováno jako doplněk stávající ochrany koncových zařízení, testování modelů a red teamingu. Testování zkoumá, jak se model nebo pracovní postup chová za vybraných podmínek; správa za běhu se zaměřuje na činnosti během skutečné relace. Ani jedno z těchto tvrzení nedokládá, že nasazení je imunní vůči kompromitaci; účinnost závisí na nastavení zásad a pokrytí cesty provádění.

Přiřazování činnosti agentů a nákladů na AI

Kromě bezpečnosti Sysdig uvádí, že AI Defense přiřazuje volání modelů k příslušnému agentovi, týmu a odpovědné osobě, a to i v případě činnosti, která neprochází centralizovanou bránou AI. Organizacím by to mohlo pomoci rozlišit nákladné využívání modelů při běžné práci od činnosti, která vyžaduje výkonnější model.

Širší přínos spočívá ve společné vrstvě důkazů pro bezpečnost, správu a řízení nákladů. S tím, jak agenti získávají přístup k dalším nástrojům a pracují pod skutečnými přihlašovacími údaji zaměstnanců, určuje jejich dopad to, co mohou provádět. Cílem Sysdig AI Defense je zviditelnit a umožnit vynucování těchto oprávnění přímo při provádění akcí.