DeepKeep wprowadza zabezpieczenia w czasie wykonywania dla agentów kodujących AI z AI Lens dla programistów

DeepKeep wprowadziło AI Lens for Developers, warstwę bezpieczeństwa zaprojektowaną, aby dawać CISO wgląd i kontrolę polityk nad agentami kodującymi AI działającymi na maszynach deweloperów. Produkt rozszerza istniejące funkcje kontroli użycia AI i ochrony w czasie wykonywania DeepKeep na narzędzia takie jak Cursor i Claude Code, z wsparciem dla GitHub Copilot, OpenAI Codex, Lovable, Windsurf oraz planowanymi dodatkowymi agentami kodującymi.

Premiera rozwiązuje problem bezpieczeństwa spowodowany rosnącą autonomią narzędzi deweloperskich. Nowoczesne agenty kodujące mogą przeglądać i modyfikować lokalne pliki, wykonywać polecenia powłoki oraz wywoływać usługi zewnętrzne poprzez Model Context Protocol (MCP). Te uprawnienia czynią narzędzia przydatnymi, ale także umożliwiają agentowi ujawnienie poświadczeń, zmianę wrażliwego kodu lub interakcję z systemami poza kontrolami, które zespoły bezpieczeństwa tradycyjnie stosują wobec aplikacji w chmurze.

Wynikiem jest rosnąca luka w widoczności. Firma może zatwierdzić asystenta kodującego jako produkt, mając niewiele dowodów na to, co konkretny agent zrobił w danej sesji. Jak niedawno zbadało Unite.AI, zespóły bezpieczeństwa coraz częściej muszą śledzić wywołania narzędzi agentów, wykonywanie poleceń oraz zdarzenia zmieniające system, a nie tylko utrzymywać listę zatwierdzonych usług AI.

Sprawdzanie działań agenta przed i po wykonaniu

AI Lens for Developers jest zbudowane jako lekka wtyczka, a nie pełny agent końcowy. DeepKeep twierdzi, że integruje się z przepływem pracy agenta kodującego, aby sprawdzać podpowiedzi, odczyty plików, polecenia powłoki oraz wywołania narzędzi MCP przed i po ich uruchomieniu. Każda aktywność może być kierowana przez system polityk firmy w celu podjęcia decyzji zezwolenia, blokady lub audytu.

Rozróżnienie między monitorowaniem przed wykonaniem a po wykonaniu jest istotne. Ścieżka audytu może wyjaśnić, dlaczego doszło do incydentu, ale nie może zapobiec destrukcyjnemu poleceniu ani powstrzymać wycieku sekretu z środowiska dewelopera. DeepKeep pozycjonuje AI Lens zarówno jako kontrolę prewencyjną, jak i źródło dowodów dla reagowania na incydenty i zgodności.

Produkt może oznaczać poświadczenia, tokeny dostępu i hasła zawarte w podpowiedziach lub załączonych plikach. Analizuje także kod generowany przez agenta pod kątem niebezpiecznych wzorców, takich jak funkcje pomijające uwierzytelnianie. Polecenia uznane za destrukcyjne mogą być wstrzymywane do zatwierdzenia przez człowieka, a administratorzy mogą tworzyć własne reguły fraz kluczowych, aby identyfikować odwołania do wrażliwych repozytoriów, sekcji kodu lub wewnętrznych projektów.

DeepKeep twierdzi, że każda sesja generuje szczegółowy rekord audytu, który może zawierać identyfikator urządzenia, treść podpowiedzi i identyfikator użytkownika. Daje to zespołom bezpieczeństwa możliwość odtworzenia działań agenta, nawet jeśli deweloper zmodyfikuje zablokowane żądanie i spróbuje je ponownie.

Centralna polityka dla AI skierowanego do programistów

Administratorzy zarządzają regułami poprzez Policy Hub DeepKeep. Polityki mogą być stosowane według roli lub w całej organizacji i mogą obejmować kategorie takie jak dane osobowe, poświadczenia oraz destrukcyjne polecenia. Podejście ma na celu umożliwienie firmom ustalenie spójnej postawy bezpieczeństwa przy jednoczesnym pozwoleniu zespołom inżynierskim na dalsze korzystanie z przepływów pracy opartych na agentach.

Skupienie produktu na MCP jest szczególnie aktualne. Protokół zapewnia aplikacjom AI standardowy sposób łączenia się z narzędziami i danymi przedsiębiorstwa, ale każdy serwer i wywoływalna akcja mogą poszerzyć powierzchnię ataku dostępnego dla agenta. przewodnik po Model Context Protocol firmy Unite.AI zauważa, że hosty i serwery MCP tworzą odrębne granice bezpieczeństwa, w tym narażenie na wstrzyknięcie podpowiedzi i niezweryfikowane wyjście narzędzi. Monitorowanie samego modelu jest więc niewystarczające, gdy model może działać poprzez inne systemy.

Ofer Rotberg, wiceprezes ds. produktu w DeepKeep, twierdzi, że agenci kodujący dziedziczą niezwykle silny dostęp dewelopera, jednocześnie działając z rosnącą autonomią. Z jego perspektywy CISO potrzebują ciągłej widoczności zachowań agenta oraz możliwości zatrzymania szkodliwych działań w czasie rzeczywistym, zamiast czekać na zbadanie kolejnego incydentu.

Część szerszej platformy bezpieczeństwa AI

AI Lens for Developers znajduje się w szerszej platformie bezpieczeństwa AI DeepKeep. Firma oferuje również AI Firewall, zautomatyzowane i wspomagane przez człowieka AI red teaming, kontrolę użycia AI, skanowanie agentów oraz skanowanie modeli. DeepKeep twierdzi, że jego kontrole mogą być stosowane na całym cyklu życia AI, od rozwoju i testowania po produkcyjne wykorzystanie aplikacji i agentów.

Firma została założona w 2021 roku i opisuje swoją platformę jako niezależną od modelu, z wsparciem dla wdrożeń w SaaS, prywatnej chmurze, on-premises oraz środowiskach odizolowanych (air-gapped). Jej szersza propozycja brzmi, że przedsiębiorstwa potrzebują wspólnego języka polityk dla modeli, aplikacji, pracowników i autonomicznych agentów, zamiast oddzielnych kontroli dla każdego narzędzia AI.

Dla CISO, agenci skierowani do deweloperów stają się pilnym testem tej koncepcji. Tradycyjne bezpieczeństwo aplikacji koncentruje się mocno na kodzie, który trafia do produkcji. Agenci kodujący dodają kolejną warstwę ryzyka: proces, który odczytuje repozytorium, tworzy kod i wykonuje polecenia, może sam być autonomiczny. Produkty takie jak AI Lens starają się uczynić ten proces obserwowalnym i egzekwowalnym, nie usuwając przy tym przyspieszeń, które skłoniły deweloperów do przyjęcia agentów w pierwszej kolejności.