DeepKeep Menambahkan Pembatasan Runtime untuk Agen Pengkodean AI dengan AI Lens untuk Pengembang

DeepKeep telah memperkenalkan AI Lens for Developers, sebuah lapisan keamanan yang dirancang untuk memberikan visibilitas dan kontrol kebijakan kepada CISOs atas agen pengkodean AI yang beroperasi di mesin pengembang. Produk ini memperluas kemampuan kontrol penggunaan AI dan perlindungan runtime yang sudah ada pada DeepKeep ke alat-alat seperti Cursor dan Claude Code, dengan dukungan untuk GitHub Copilot, OpenAI Codex, Lovable, Windsurf, dan agen pengkodean tambahan yang direncanakan.

Peluncuran ini menangani masalah keamanan yang muncul akibat meningkatnya otonomi alat pengembang. Agen pengkodean modern dapat memeriksa dan memodifikasi file lokal, mengeksekusi perintah shell, serta memanggil layanan eksternal melalui Model Context Protocol (MCP). Izin-izin tersebut membuat alat ini berguna, namun juga memungkinkan agen untuk mengekspos kredensial, mengubah kode sensitif, atau berinteraksi dengan sistem di luar kontrol yang biasanya diterapkan tim keamanan pada aplikasi cloud.

Hasilnya adalah kesenjangan visibilitas yang semakin lebar. Sebuah perusahaan dapat menyetujui asisten pengkodean sebagai produk sementara memiliki sedikit bukti tentang apa yang dilakukan agen individu selama sesi tertentu. Seperti yang baru-baru ini dieksplorasi oleh Unite.AI, tim keamanan semakin membutuhkan pelacakan panggilan alat agen, eksekusi perintah, dan peristiwa yang mengubah sistem, bukan sekadar mempertahankan daftar layanan AI yang disetujui.

Memeriksa Tindakan Agen Sebelum dan Sesudah Eksekusi

AI Lens for Developers dibangun sebagai plug-in ringan, bukan sebagai agen endpoint penuh. DeepKeep menyatakan bahwa ia terhubung ke alur kerja agen pengkodean untuk memeriksa prompt, pembacaan file, perintah shell, dan panggilan alat MCP sebelum dan sesudah dijalankan. Setiap aktivitas dapat dialihkan melalui sistem kebijakan perusahaan untuk keputusan izinkan, blokir, atau audit.

Perbedaan antara pemantauan pra-eksekusi dan pasca-eksekusi penting. Jejak audit dapat menjelaskan mengapa suatu insiden terjadi, namun tidak dapat mencegah perintah destruktif atau menghentikan rahasia keluar dari lingkungan pengembang. DeepKeep menempatkan AI Lens sebagai kontrol pencegahan sekaligus sumber bukti untuk respons insiden dan kepatuhan.

Produk ini dapat menandai kredensial, token akses, dan kata sandi yang termasuk dalam prompt atau file terlampir. Ia juga memeriksa kode yang dihasilkan agen untuk pola tidak aman, seperti fungsi yang tidak menyertakan otentikasi. Perintah yang dianggap destruktif dapat ditahan untuk persetujuan manusia, sementara administrator dapat membuat aturan frasa kunci khusus untuk mengidentifikasi referensi ke repositori sensitif, bagian kode, atau proyek internal.

DeepKeep menyatakan bahwa setiap sesi menghasilkan catatan audit terperinci yang dapat mencakup ID perangkat, konten prompt, dan ID pengguna. Hal ini memberi tim keamanan cara untuk merekonstruksi aktivitas agen bahkan jika pengembang memodifikasi permintaan yang diblokir dan mencoba lagi.

Kebijakan Sentral untuk AI yang Menghadapi Pengembang

Administrator mengelola aturan melalui Policy Hub milik DeepKeep. Kebijakan dapat diterapkan berdasarkan peran atau di seluruh organisasi dan dapat mencakup kategori seperti informasi pribadi yang dapat diidentifikasi, kredensial, dan perintah destruktif. Pendekatan ini dimaksudkan untuk memungkinkan perusahaan menetapkan postur keamanan yang konsisten sekaligus membiarkan tim teknik terus menggunakan alur kerja pengembangan berbasis agen.

Fokus produk pada MCP sangat tepat waktunya. Protokol ini memberikan aplikasi AI cara standar untuk terhubung dengan alat dan data perusahaan, namun setiap server dan aksi yang dapat dipanggil dapat memperluas permukaan serangan yang dapat dijangkau agen. panduan Model Context Protocol oleh Unite.AI mencatat bahwa host dan server MCP membentuk batas keamanan yang berbeda, termasuk paparan terhadap injeksi prompt dan output alat yang tidak terpercaya. Oleh karena itu, memantau model saja tidak cukup ketika model dapat mengambil tindakan melalui sistem lain.

Ofer Rotberg, wakil presiden produk DeepKeep, berargumen bahwa agen pengkodean mewarisi akses pengembang yang sangat kuat sambil bertindak dengan otonomi yang semakin meningkat. Menurutnya, CISOs membutuhkan visibilitas terus-menerus terhadap perilaku agen dan kemampuan untuk menghentikan tindakan berbahaya secara real time daripada menunggu untuk menyelidiki insiden berikutnya.

Bagian dari Platform Keamanan AI yang Lebih Luas

AI Lens for Developers berada dalam platform keamanan AI yang lebih luas milik DeepKeep. Perusahaan juga menawarkan AI Firewall, red teaming AI yang otomatis dan dipandu manusia, kontrol penggunaan AI, pemindaian agen, dan pemindaian model. DeepKeep menyatakan bahwa kontrolnya dapat diterapkan di seluruh siklus hidup AI, mulai dari pengembangan dan pengujian hingga penggunaan produksi aplikasi dan agen.

Perusahaan ini didirikan pada tahun 2021 dan menggambarkan platformnya sebagai bersifat model-agnostik, dengan dukungan untuk penyebaran di lingkungan SaaS, private-cloud, on-premises, dan air-gapped. Penawaran yang lebih luas adalah bahwa perusahaan membutuhkan bahasa kebijakan bersama untuk model, aplikasi, karyawan, dan agen otonom, bukan kontrol terpisah untuk setiap alat AI.

Bagi CISOs, agen yang menghadap pengembang menjadi ujian mendesak dari ide tersebut. Keamanan aplikasi tradisional sangat fokus pada kode yang mencapai produksi. Agen pengkodean menambahkan lapisan risiko lain: proses yang membaca repositori, membuat kode, dan menjalankan perintah dapat menjadi otonom. Produk seperti AI Lens berupaya membuat proses tersebut dapat diamati dan dapat ditegakkan tanpa menghilangkan peningkatan kecepatan yang membuat pengembang mengadopsi agen sejak awal.