Sysdig lansează AI Defense pentru a guverna acțiunile agenților, de la punctul final la cloud

Sysdig a lansat AI Defense, un produs de securitate și guvernanță la execuție, conceput pentru a inspecta acțiunile agenților AI și a interveni atunci când acestea depășesc politicile unei organizații. Anunțul din 4 noiembrie precizează că produsul este disponibil în general pentru macOS și Windows, iar vizibilitatea oferită este menită să conecteze activitatea de pe stațiile de lucru ale angajaților cu resursele din cloud la care le permit accesul datele de autentificare.

Produsul răspunde trecerii de la inteligența artificială care oferă răspunsuri la cea care operează software. Un agent de programare poate citi fișiere, apela instrumente, porni procese și modifica infrastructura. Pentru a securiza acest flux de lucru, trebuie înțelese atât sarcina pe care agentul crede că o îndeplinește, cât și operațiunile care au loc efectiv în fundal.

Corelarea intenției agentului cu dovezile din sistemul de operare

Potrivit Sysdig, AI Defense combină instrumentarea încorporată în cadrul de execuție al agentului — cadrul care îl rulează — cu telemetria sistemului de operare. Instrumentarea cadrului de execuție înregistrează apelurile către instrumente, serverele Model Context Protocol, abilități și module suplimentare, inclusiv argumentele și țintele acestora. Monitorizarea la nivel de sistem oferă o evidență separată a proceselor și activităților generate de aceste apeluri.

Această distincție contează atunci când relatarea agentului este incompletă sau compromisă. O singură acțiune raportată a unui instrument poate porni mai multe procese, iar o conexiune sau o abilitate adăugată în timpul unei sesiuni poate schimba ceea ce este capabil să facă agentul. Sysdig raportează o observație preliminară de aproximativ șapte procese subiacente pentru fiecare acțiune din jurnalele agenților; aceasta este o constatare a companiei, nu un raport universal valabil pentru toți agenții.

Sistemul ține cont și de nivelul de acces: aceeași operațiune de citire a unui fișier poate avea consecințe diferite, în funcție de faptul că datele de autentificare implicate oferă acces la un mediu de testare sau permit administrarea mediului de producție. Graficul acțiunilor este conceput pentru a corela succesiunea evenimentelor, persoana responsabilă, activitatea declarată de agent și resursele accesibile.

Politici care permit, suspendă sau blochează o acțiune

Organizațiile pot începe prin a rula politicile în modul de alertare, înainte de a activa aplicarea lor. Odată aplicate, politicile pot, potrivit Sysdig, să blocheze instrumentele și conexiunile neverificate, să împiedice accesul riscant la datele de autentificare sau să suspende o acțiune până la aprobarea unei persoane. Anunțul descrie și posibilitatea de a încheia un proces dacă o acțiune trece de un control anterior.

Aceste mecanisme intervin în momente diferite ale secvenței de execuție. Împiedicarea finalizării unei operațiuni este diferită de detectarea activității și încheierea ulterioară a unui proces. Anunțul nu oferă o matrice publică ce arată care controale sunt preventive pentru fiecare sistem de operare, cadru de execuție și platformă gestionată acceptate.

Șabloanele de politici includ corespondențe cu OWASP Top 10 for LLM Applications, precum și căi de exceptare pentru dezvoltatori. Sysdig descrie și înregistrări ale sesiunilor care arată ce politică s-a aplicat, ce a fost permis sau blocat și cine a aprobat o excepție. Aceste înregistrări pot sprijini investigațiile și activitățile de audit, fără ca echipele să fie nevoite să reconstituie o sesiune după un incident.

Ce adaugă Falco Foundation

Sysdig leagă produsul de experiența sa în securitatea la execuție în mediile cloud-native și de Falco, proiectul open-source pe care l-a creat inițial. Documentația Falco descrie monitorizarea evenimentelor din nucleul Linux și a surselor de evenimente furnizate de module suplimentare, îmbogățirea evenimentelor cu informații contextuale despre containere și Kubernetes, precum și aplicarea regulilor pentru generarea alertelor.

Această bază ajută la înțelegerea motivului pentru care Sysdig pune accentul pe execuția observată, în loc să se bazeze exclusiv pe relatarea unui sistem AI. Asta nu înseamnă că proiectul open-source Falco oferă, prin el însuși, toate funcțiile de guvernanță a agenților sau de blocare descrise pentru AI Defense. Arhitectura de detectare documentată pentru Falco și produsul comercial Sysdig trebuie analizate separat.

Anunțul menționează Claude Code, Codex, GitHub Copilot și Cursor printre mediile pentru agenți pe care produsul își propune să le inventarieze și să le asocieze unui responsabil uman. Informația privind disponibilitatea pentru macOS și Windows este mai precisă decât descrierea mai amplă a acoperirii, care se extinde la Linux, Kubernetes și platforme gestionate pentru agenți; organizațiile vor trebui să stabilească integrarea aplicabilă fiecărui mediu.

Guvernanța la execuție completează testarea modelelor

Discuția tehnică a Sysdig despre responsabilitatea partajată prezintă controalele la execuție ca pe un nivel de protecție pentru activitatea desfășurată de un agent. Distincția practică este între a-i cere unui model să respecte o limită și a impune respectarea acelei limite atunci când software-ul încearcă să efectueze o operațiune.

AI Defense este prezentat ca o completare a protecției existente pentru punctele finale, a testării modelelor și a testării de tip red team. Testarea examinează comportamentul unui model sau al unui flux de lucru în condiții selectate; guvernanța la execuție vizează acțiunile din timpul unei sesiuni reale. Niciuna dintre aceste descrieri nu garantează că o implementare este imună la compromitere, iar eficacitatea depinde de configurarea politicilor și de acoperirea traseului de execuție.

Atribuirea activității agenților și a cheltuielilor pentru AI

Dincolo de securitate, Sysdig afirmă că AI Defense asociază apelurile către modele cu agentul, echipa și persoana responsabilă, inclusiv în cazul activităților care nu trec printr-un gateway AI centralizat. Acest lucru ar putea ajuta organizațiile să distingă între utilizarea costisitoare a modelelor pentru sarcini obișnuite și activitățile care justifică folosirea unui model mai capabil.

Propunerea mai amplă este crearea unui strat comun de evidențe pentru securitate, guvernanță și gestionarea costurilor. Pe măsură ce agenții dobândesc mai multe instrumente și operează folosind acreditările reale ale angajaților, impactul lor este determinat de ceea ce pot executa. Sysdig AI Defense își propune să facă această autoritate vizibilă și să permită aplicarea ei în momentul acțiunii.