Sysdig lancerer AI Defense til at styre agenters handlinger fra slutpunkt til sky

Sysdig har lanceret AI Defense, et produkt til sikkerhed og styring under afvikling, der er udviklet til at undersøge, hvad AI-agenter foretager sig, og gribe ind, når deres handlinger overskrider en organisations politikker. Produktet blev ifølge meddelelsen den 4. november gjort generelt tilgængeligt til macOS og Windows. Løsningen skal give indsigt, der forbinder aktivitet på medarbejdernes arbejdsstationer med de skyressourcer, som deres legitimationsoplysninger giver adgang til.

Produktet imødekommer skiftet fra AI, der genererer svar, til AI, der betjener software. En kodeagent kan læse filer, kalde værktøjer, starte processer og ændre infrastruktur. For at sikre denne arbejdsgang skal man forstå både den opgave, agenten mener, den udfører, og de operationer, der faktisk foregår i baggrunden.

Forbind agentens hensigt med dokumentation fra operativsystemet

Sysdig oplyser, at AI Defense kombinerer instrumentering i agentens kørselsramme – det framework, der afvikler agenten – med telemetri fra operativsystemet. Instrumenteringen i kørselsrammen registrerer kald til værktøjer, Model Context Protocol-servere, færdigheder og plugins, herunder deres argumenter og mål. Overvågning på systemniveau giver en separat registrering af de processer og den aktivitet, som disse kald udløser.

Forskellen er vigtig, når agentens redegørelse er ufuldstændig eller kompromitteret. En rapporteret handling med et værktøj kan starte flere processer, og en forbindelse eller færdighed, der tilføjes under en session, kan ændre, hvad agenten er i stand til. Sysdig rapporterer en tidlig observation af omtrent syv underliggende processer for hver handling i agentlogfiler; det er et resultat fra virksomheden og ikke et universelt forhold, der gælder for alle agenter.

Systemet tager også højde for adgangsniveauet: Den samme filindlæsningshandling kan have forskellige konsekvenser, alt efter om de involverede legitimationsoplysninger giver adgang til et testmiljø eller administratorrettigheder i produktionsmiljøet. En handlingsgraf skal forbinde hændelsesforløbet, den ansvarlige person, agentens beskrevne aktivitet og de ressourcer, den har adgang til.

Politikker, der tillader, sætter på pause eller blokerer handlinger

Organisationer kan starte med politikker i alarmtilstand, før de aktiverer håndhævelse. Når politikkerne håndhæves, kan de ifølge Sysdig blokere værktøjer og forbindelser, der ikke er godkendt, forhindre risikabel adgang med legitimationsoplysninger eller sætte en handling på pause, indtil et menneske har godkendt den. Udgivelsen beskriver også, hvordan en proces kan afsluttes, hvis en handling slipper forbi en tidligere kontrol.

Disse mekanismer griber ind på forskellige tidspunkter i en eksekveringssekvens. At forhindre en operation i at blive gennemført er noget andet end at registrere aktivitet og afslutte en proces bagefter. Meddelelsen indeholder ikke en offentlig oversigt over, hvilke kontroller der forebygger handlinger på hvert understøttet operativsystem, i hver kørselsramme og på hver administreret platform.

Politikskabelonerne indeholder koblinger til OWASP Top 10 for LLM Applications samt undtagelsesforløb for udviklere. Sysdig beskriver også sessionsregistreringer, der viser, hvilken politik der gjaldt, hvad der blev tilladt eller blokeret, og hvem der godkendte en undtagelse. Registreringerne kan understøtte undersøgelser og revisionsarbejde, uden at teams behøver at genskabe en session efter en hændelse.

Det bidrager Falco Foundation med

Sysdig knytter produktet til sin historie inden for cloud-native sikkerhed under afvikling og Falco, open source-projektet, som virksomheden oprindeligt skabte. Falcos dokumentation beskriver overvågning af hændelser i Linux-kernen og hændelseskilder fra plugins, berigelse af hændelser med kontekst fra containere og Kubernetes samt anvendelse af regler til at generere alarmer.

Dette fundament er med til at forklare, hvorfor Sysdig lægger vægt på observeret eksekvering frem for udelukkende at stole på AI-systemets egen beskrivelse. Det betyder ikke, at open source-projektet Falco i sig selv leverer alle de funktioner til agentstyring og blokering, der beskrives for AI Defense. Falcos dokumenterede arkitektur til registrering og Sysdigs kommercielle produkt bør betragtes hver for sig.

Udgivelsen nævner Claude Code, Codex, GitHub Copilot og Cursor blandt de agentmiljøer, som løsningen skal registrere og spore til en ansvarlig person. Oplysningen om tilgængelighed til macOS og Windows er mere specifik end den bredere beskrivelse af dækning, der også omfatter Linux, Kubernetes og administrerede agentplatforme. Organisationer skal fastslå, hvilken integration der er relevant for hvert miljø.

Styring under afvikling supplerer modeltest

Sysdigs tekniske gennemgang af delt ansvar beskriver kontroller under afvikling som et lag omkring det arbejde, en agent udfører. Den praktiske forskel består i at bede en model om at respektere en grænse over for faktisk at håndhæve den, når software forsøger at udføre en handling.

AI Defense præsenteres som et supplement til eksisterende slutpunktsbeskyttelse, modeltest og red teaming. Test undersøger, hvordan en model eller arbejdsgang opfører sig under udvalgte forhold; styring under afvikling håndterer handlinger under en faktisk session. Ingen af beskrivelserne fastslår, at en udrulning er immun over for kompromittering, og effektiviteten afhænger af politikernes konfiguration og af, om eksekveringsforløbet er dækket.

Sporing af agentaktivitet og AI-udgifter

Ud over sikkerhed siger Sysdig, at AI Defense knytter modelkald til den ansvarlige agent, det ansvarlige team og den ansvarlige person, også når aktiviteten ikke går gennem en centraliseret AI-gateway. Det kan hjælpe organisationer med at skelne mellem dyr modelbrug til rutineopgaver og aktivitet, der kræver en mere avanceret model.

Den bredere idé er et fælles evidenslag til sikkerhed, styring og omkostningsstyring. Efterhånden som agenter får adgang til flere værktøjer og arbejder med medarbejderes reelle legitimationsoplysninger, afhænger deres indvirkning af, hvad de kan udføre. Sysdig AI Defense sigter mod at gøre disse beføjelser synlige og mulige at håndhæve dér, hvor handlingen finder sted.