Sysdig lanceert AI Defense om agentacties van endpoint tot cloud te beheren

Sysdig heeft AI Defense gelanceerd, een product voor runtimebeveiliging en governance dat is ontworpen om te controleren wat AI-agents doen en in te grijpen wanneer hun acties het beleid van een organisatie overschrijden. De aankondiging van 4 november maakt het product algemeen beschikbaar voor macOS en Windows. De beoogde zichtbaarheid verbindt activiteiten op werkstations van medewerkers met de cloudresources waartoe hun inloggegevens toegang geven.

Het product speelt in op de verschuiving van AI die antwoorden genereert naar AI die software bedient. Een programmeeragent kan bestanden lezen, tools aanroepen, processen starten en infrastructuur wijzigen. Om die workflow te beveiligen, moet duidelijk zijn welke taak de agent denkt uit te voeren én welke bewerkingen er daadwerkelijk op de achtergrond plaatsvinden.

De intentie van agents verbinden met bewijs uit het besturingssysteem

Volgens Sysdig combineert AI Defense instrumentatie in het agentframework — het raamwerk dat de agent uitvoert — met telemetrie van het besturingssysteem. De instrumentatie van het framework registreert aanroepen van tools, Model Context Protocol-servers, vaardigheden en plug-ins, inclusief de bijbehorende argumenten en doelen. Observatie op systeemniveau biedt een afzonderlijk overzicht van de processen en activiteiten die door die aanroepen worden veroorzaakt.

Dat onderscheid is van belang wanneer de beschrijving van een agent onvolledig of gecompromitteerd is. Eén gerapporteerde toolactie kan meerdere processen starten, en een verbinding of vaardigheid die tijdens een sessie wordt toegevoegd, kan veranderen wat de agent kan doen. Sysdig meldt dat het in een vroege waarneming ongeveer zeven onderliggende processen aantrof voor elke actie in agentlogboeken. Dat is een bevinding van het bedrijf, geen universele verhouding voor alle agents.

Het systeem houdt ook rekening met de bevoegdheden: dezelfde bestandsleesbewerking kan verschillende gevolgen hebben, afhankelijk van de vraag of de gebruikte inloggegevens toegang geven tot een testomgeving of productie beheren. Een actiegrafiek moet de opeenvolging van gebeurtenissen verbinden met de verantwoordelijke persoon, de opgegeven activiteit van de agent en de resources waartoe deze toegang heeft.

Beleid om acties toe te staan, te pauzeren of te blokkeren

Organisaties kunnen beleid eerst in de waarschuwingsmodus gebruiken voordat ze handhaving inschakelen. Volgens Sysdig kan dat beleid, zodra het wordt gehandhaafd, niet-goedgekeurde tools en verbindingen blokkeren, risicovolle toegang via inloggegevens tegenhouden of een actie stilzetten voor menselijke goedkeuring. In de aankondiging wordt ook beschreven hoe een proces kan worden beëindigd als een actie een eerdere controle passeert.

Deze mechanismen werken op verschillende momenten in een uitvoeringsvolgorde. Voorkomen dat een bewerking wordt voltooid, is iets anders dan activiteit detecteren en daarna een proces beëindigen. De aankondiging bevat geen openbaar overzicht van welke controles preventief werken op elk ondersteund besturingssysteem, framework en beheerd platform.

Beleidssjablonen bevatten koppelingen naar de OWASP Top 10 for LLM Applications, met uitzonderingsroutes voor ontwikkelaars. Sysdig beschrijft ook sessieregistraties waarin staat welk beleid van toepassing was, wat werd toegestaan of geblokkeerd en wie een uitzondering goedkeurde. Die registraties kunnen onderzoek en audits ondersteunen, zonder dat teams na een incident een sessie opnieuw hoeven samen te stellen.

Wat de Falco Foundation toevoegt

Sysdig verbindt het product met zijn geschiedenis op het gebied van cloud-native runtimebeveiliging en Falco, het open-sourceproject dat het bedrijf oorspronkelijk heeft ontwikkeld. In de documentatie van Falco staat dat het gebeurtenissen in de Linux-kernel en door plug-ins aangeleverde gebeurtenisbronnen observeert, gebeurtenissen verrijkt met context over containers en Kubernetes, en regels toepast om waarschuwingen te genereren.

Die basis verklaart waarom Sysdig de nadruk legt op waargenomen uitvoering in plaats van uitsluitend te vertrouwen op het verhaal van een AI-systeem. Dat betekent niet dat het open-sourceproject Falco zelf alle functies voor agentgovernance of het blokkeren van acties levert die in AI Defense worden beschreven. De gedocumenteerde detectiearchitectuur van Falco en het commerciële product van Sysdig moeten afzonderlijk worden beschouwd.

In de aankondiging noemt Sysdig Claude Code, Codex, GitHub Copilot en Cursor als agentomgevingen die het wil inventariseren en aan een menselijke verantwoordelijke wil koppelen. De beschikbaarheid voor macOS en Windows wordt specifieker beschreven dan de bredere dekking die ook Linux, Kubernetes en beheerde agentplatforms omvat. Organisaties zullen voor elke omgeving moeten vaststellen welke integratie van toepassing is.

Runtimegovernance als aanvulling op modeltests

In Sysdigs technische toelichting op gedeelde verantwoordelijkheid worden runtimecontroles beschreven als een beveiligingslaag rond het werk dat een agent uitvoert. Het praktische verschil is dat je een model kunt vragen een grens te respecteren, terwijl je die grens ook daadwerkelijk kunt handhaven wanneer software een bewerking probeert uit te voeren.

AI Defense wordt gepositioneerd naast bestaande endpointbeveiliging, modeltests en red teaming. Bij tests wordt onderzocht hoe een model of workflow zich onder bepaalde omstandigheden gedraagt; runtimegovernance richt zich op acties tijdens een daadwerkelijke sessie. Geen van beide beschrijvingen houdt in dat een implementatie immuun is voor compromittering. De effectiviteit hangt af van de configuratie van het beleid en de dekking van het uitvoeringstraject.

Agentactiviteiten en AI-uitgaven toeschrijven

Naast beveiliging koppelt Sysdig AI Defense modelaanroepen aan de agent, het team en de verantwoordelijke persoon, ook wanneer de activiteit niet via een gecentraliseerde AI-gateway verloopt. Zo kunnen organisaties onderscheid maken tussen kostbaar modelgebruik voor routinematige taken en activiteit waarvoor een krachtiger model nodig is.

Het bredere uitgangspunt is een gemeenschappelijke bewijslaag voor beveiliging, governance en kostenbeheer. Naarmate agents meer tools krijgen en met echte inloggegevens van medewerkers werken, wordt hun impact bepaald door wat ze kunnen uitvoeren. Sysdig AI Defense wil die bevoegdheden zichtbaar en afdwingbaar maken op het moment dat acties worden uitgevoerd.