DeepKeep přidává runtime ochranné zábrany pro AI kódovací agenty s AI Lens for Developers

DeepKeep představila AI Lens for Developers, bezpečnostní vrstvu navrženou tak, aby poskytla CISO viditelnost a kontrolu politik nad AI kódovacími agenty pracujícími na vývojářských strojích. Produkt rozšiřuje stávající funkce DeepKeep pro řízení používání AI a runtime‑ochranu na nástroje jako Cursor a Claude Code, s podporou GitHub Copilot, OpenAI Codex, Lovable, Windsurf a s plánovanou podporou dalších kódovacích agentů.

Spuštění řeší bezpečnostní problém vzniklý rostoucí autonomií vývojářských nástrojů. Moderní kódovací agenti mohou prohlížet a upravovat místní soubory, spouštět shellové příkazy a volat externí služby prostřednictvím Model Context Protocol (MCP). Tato oprávnění činí nástroje užitečnými, ale zároveň umožňují agentovi odhalit přihlašovací údaje, změnit citlivý kód nebo komunikovat se systémy mimo kontrolní mechanismy, které bezpečnostní týmy tradičně uplatňují na cloudové aplikace.

Výsledkem je rostoucí mezera ve viditelnosti. Společnost může schválit kódovacího asistenta jako produkt, přičemž má jen málo důkazů o tom, co konkrétní agent během konkrétní relace udělal. Jak nedávno zkoumal Unite.AI, bezpečnostní týmy čím dál více potřebují sledovat volání nástrojů agentů, provádění příkazů a události měnící systém, nikoli jen udržovat seznam schválených AI služeb.

Kontrola akcí agenta před a po provedení

AI Lens for Developers je vytvořen jako lehký plug‑in místo plnohodnotného koncového agenta. DeepKeep uvádí, že se napojuje do workflow kódovacího agenta a kontroluje výzvy, čtení souborů, shellové příkazy a MCP volání nástrojů před i po jejich spuštění. Každá aktivita může být směrována přes politický systém společnosti k rozhodnutí povolit, zablokovat nebo auditovat.

Rozlišení mezi monitorováním před provedením a po provedení je důležité. Auditní stopa může vysvětlit, proč k incidentu došlo, ale nedokáže zabránit destruktivnímu příkazu ani zastavit únik tajemství z vývojářova prostředí. DeepKeep představuje AI Lens jako jak preventivní kontrolu, tak zdroj důkazů pro reakci na incidenty a soulad s předpisy.

Produkt může označit přihlašovací údaje, přístupové tokeny a hesla obsažená ve výzvách nebo přiložených souborech. Také zkoumá kódy generované agentem na nebezpečné vzory, například funkce, které vynechávají autentizaci. Příkazy považované za destruktivní mohou být pozdrženy k lidskému schválení, zatímco administrátoři mohou vytvářet vlastní pravidla klíčových frází pro identifikaci odkazů na citlivé repozitáře, části kódu nebo interní projekty.

DeepKeep uvádí, že každá relace generuje podrobný auditní záznam, který může obsahovat ID zařízení, obsah výzvy a ID uživatele. To poskytuje bezpečnostním týmům možnost rekonstruovat činnost agenta i v případě, že vývojář upraví blokovaný požadavek a pokusí se jej znovu.

Centrální politika pro AI určenou vývojářům

Administrátoři spravují pravidla prostřednictvím Policy Hub společnosti DeepKeep. Politiky lze aplikovat podle role nebo napříč celou organizací a mohou zahrnovat kategorie jako osobní identifikovatelné informace, přihlašovací údaje a destruktivní příkazy. Tento přístup má umožnit společnostem nastavit konzistentní bezpečnostní postoj a zároveň umožnit vývojářským týmům nadále používat agentní vývojové workflowy.

Produkt se zaměřuje na MCP, což je zvláště aktuální. Protokol poskytuje AI aplikacím standardní způsob, jak se připojit k nástrojům a podnikovým datům, ale každý server a volatelná akce mohou rozšířit útočný povrch agenta. Unite.AI’s průvodce Model Context Protocol uvádí, že hostitelé a servery MCP tvoří odlišné bezpečnostní hranice, včetně vystavení útokům typu prompt injection a nedůvěryhodnému výstupu nástrojů. Monitorování samotného modelu proto nestačí, když model může jednat skrze jiné systémy.

Ofer Rotberg, viceprezident produktů ve společnosti DeepKeep, tvrdí, že kódovací agenti získávají neobvykle silný přístup vývojářů a přitom působí s rostoucí autonomií. Z jeho pohledu potřebují CISO kontinuální viditelnost chování agenta a schopnost zastavit škodlivé akce v reálném čase místo čekání na vyšetření dalšího incidentu.

Součást širší platformy AI bezpečnosti

AI Lens for Developers je součástí širší platformy AI zabezpečení společnosti DeepKeep. Firma také nabízí AI Firewall, automatizované i lidsky řízené AI red teaming, kontrolu používání AI, skenování agentů a skenování modelů. DeepKeep uvádí, že jeho kontroly lze aplikovat napříč životním cyklem AI, od vývoje a testování až po produkční nasazení aplikací a agentů.

Společnost byla založena v roce 2021 a popisuje svou platformu jako modelově agnostickou, s podporou nasazení v SaaS, privátním cloudu, on‑premise a v prostředích oddělených od sítě. Jejím širším poselstvím je, že podniky potřebují jednotný jazyk politik pro modely, aplikace, zaměstnance a autonomní agenty, místo samostatných kontrol pro každý AI nástroj.

Pro CISO se agenti směřující k vývojářům stávají naléhavým testem této myšlenky. Tradiční zabezpečení aplikací se silně soustředí na kód, který dosáhne do produkce. Kódovací agenti přidávají další vrstvu rizika: proces, který čte repozitář, vytváří kód a spouští příkazy, může být sám autonomní. Produkty jako AI Lens se snaží učinit tento proces pozorovatelným a vynutitelným, aniž by odstraňovaly rychlostní výhody, které vývojáře přiměly k adopci agentů v první řadě.