DeepKeep adaugă măsuri de protecție în timpul execuției pentru agenții de programare AI cu AI Lens pentru dezvoltatori

DeepKeep a introdus AI Lens for Developers, un strat de securitate conceput pentru a oferi CISOs vizibilitate și control politic asupra agenților de programare AI care rulează pe mașinile dezvoltatorilor. Produsul extinde capabilitățile existente ale DeepKeep de control al utilizării AI și protecție la runtime către instrumente precum Cursor și Claude Code, cu suport pentru GitHub Copilot, OpenAI Codex, Lovable, Windsurf și alți agenți de programare planificați.

Lansarea abordează o problemă de securitate creată de autonomia tot mai mare a instrumentelor pentru dezvoltatori. Agenții moderni de programare pot inspecta și modifica fișiere locale, pot executa comenzi shell și pot apela servicii externe prin Model Context Protocol (MCP). Aceste permisiuni fac instrumentele utile, dar permit și unui agent să expună acreditări, să modifice cod sensibil sau să interacționeze cu sisteme din afara controalelor pe care echipele de securitate le aplică în mod tradițional aplicațiilor cloud.

Rezultatul este un decalaj tot mai mare în vizibilitate. O companie poate aproba un asistent de programare ca produs, având puține dovezi despre ce a făcut un agent individual în timpul unei sesiuni specifice. După cum a investigat recent Unite.AI, echipele de securitate au nevoie din ce în ce mai mare să urmărească apelurile de instrumente ale agenților, execuția comenzilor și evenimentele care modifică sistemul, nu doar să mențină o listă de servicii AI aprobate.

Inspectarea acțiunilor agenților înainte și după execuție

AI Lens for Developers este construit ca un plug-in ușor, nu ca un agent complet la capătul punctului final. DeepKeep afirmă că se integrează în fluxul de lucru al agenților de programare pentru a inspecta prompturile, citirile de fișiere, comenzile shell și apelurile de instrumente MCP înainte și după execuție. Fiecare activitate poate fi direcționată prin sistemul de politici al companiei pentru o decizie de permitere, blocare sau audit.

Distincția dintre monitorizarea pre-execuție și post-execuție este importantă. Un jurnal de audit poate explica de ce a avut loc un incident, dar nu poate preveni o comandă distructivă sau opri scurgerea unui secret din mediul dezvoltatorului. DeepKeep poziționează AI Lens atât ca un control preventiv, cât și ca o sursă de dovezi pentru răspunsul la incidente și conformitate.

Produsul poate semnala acreditări, tokenuri de acces și parole incluse în prompturi sau în fișiere atașate. De asemenea, examinează codul generat de agent pentru tipare nesigure, cum ar fi funcții care omite autentificarea. Comenzile considerate distructive pot fi reținute pentru aprobare umană, în timp ce administratorii pot crea reguli personalizate de fraze-cheie pentru a identifica referințe la depozite sensibile, secțiuni de cod sau proiecte interne.

DeepKeep afirmă că fiecare sesiune generează un registru de audit detaliat care poate include ID-ul dispozitivului, conținutul promptului și ID-ul utilizatorului. Acest lucru oferă echipelor de securitate o modalitate de a reconstrui activitatea unui agent chiar dacă un dezvoltator modifică o cerere blocată și o încearcă din nou.

Politică centrală pentru AI orientat dezvoltatorilor

Administratorii gestionează regulile prin Policy Hub al DeepKeep. Politicile pot fi aplicate pe bază de rol sau la nivelul întregii organizații și pot acoperi categorii precum informații personale identificabile, acreditări și comenzi distructive. Abordarea are scopul de a permite companiilor să stabilească o postură de securitate consistentă, permițând în același timp echipelor de inginerie să continue să folosească fluxuri de lucru de dezvoltare agentice.

Focalizarea produsului pe MCP este deosebit de oportună. Protocolul oferă aplicațiilor AI o metodă standard de a se conecta cu instrumente și date enterprise, dar fiecare server și acțiune apelabilă poate extinde suprafața de atac accesibilă unui agent. ghidul pentru Model Context Protocol al Unite.AI notează că gazdele și serverele MCP formează limite de securitate distincte, inclusiv expunerea la injecții de prompt și la ieșiri de instrumente neîncredere. Monitorizarea doar a modelului este, prin urmare, insuficientă când modelul poate acționa prin alte sisteme.

Ofer Rotberg, vicepreședintele de produs al DeepKeep, susține că agenții de programare moștenesc un acces de dezvoltator neobișnuit de puternic în timp ce acționează cu o autonomie în creștere. Din perspectiva sa, CISOs au nevoie de vizibilitate continuă asupra comportamentului agenților și de capacitatea de a opri acțiunile dăunătoare în timp real, în loc să aștepte să investigheze următorul incident.

Parte a unei platforme mai largi de securitate AI

AI Lens for Developers face parte din platforma mai largă de securitate AI a DeepKeep. Compania oferă, de asemenea, un AI Firewall, red teaming AI automatizat și ghidat de oameni, controale de utilizare AI, scanare de agenți și scanare de modele. DeepKeep afirmă că controalele sale pot fi aplicate pe tot parcursul ciclului de viață AI, de la dezvoltare și testare până la utilizarea în producție a aplicațiilor și agenților.

Compania a fost fondată în 2021 și descrie platforma sa ca fiind independentă de model, cu suport pentru implementare în medii SaaS, cloud privat, on-premises și izolate. Argumentul său mai amplu este că întreprinderile au nevoie de un limbaj comun de politici pentru modele, aplicații, angajați și agenți autonomi, în loc de controale separate pentru fiecare instrument AI.

Pentru CISOs, agenții orientați către dezvoltatori devin un test urgent al acestei idei. Securitatea tradițională a aplicațiilor se concentrează puternic pe codul care ajunge în producție. Agenții de programare adaugă un alt nivel de risc: procesul care citește depozitul, generează codul și rulează comenzi poate fi autonom. Produse precum AI Lens încearcă să facă acest proces observabil și aplicabil fără a elimina avantajele de viteză care i-au determinat pe dezvoltatori să adopte agenții inițial.