DeepKeep Thêm Rào Cản Thời Gian Chạy Cho Các Tác Nhân Lập Trình AI Với AI Lens Dành Cho Các Nhà Phát Triển

DeepKeep đã giới thiệu AI Lens for Developers, một lớp bảo mật được thiết kế để cung cấp cho các CISO khả năng quan sát và kiểm soát chính sách đối với các tác nhân mã AI hoạt động trên máy của nhà phát triển. Sản phẩm mở rộng các khả năng kiểm soát việc sử dụng AI và bảo vệ thời gian chạy hiện có của DeepKeep sang các công cụ như Cursor và Claude Code, đồng thời hỗ trợ GitHub Copilot, OpenAI Codex, Lovable, Windsurf và dự kiến sẽ hỗ trợ thêm các tác nhân mã khác.

Việc ra mắt giải quyết một vấn đề bảo mật do sự tự chủ ngày càng tăng của các công cụ phát triển tạo ra. Các tác nhân mã hiện đại có thể kiểm tra và sửa đổi các tệp cục bộ, thực thi lệnh shell và gọi các dịch vụ bên ngoài thông qua Model Context Protocol (MCP). Những quyền này làm cho công cụ hữu ích, nhưng chúng cũng cho phép một tác nhân tiết lộ thông tin xác thực, thay đổi mã nhạy cảm hoặc tương tác với các hệ thống bên ngoài các kiểm soát mà các đội bảo mật thường áp dụng cho các ứng dụng đám mây.

Kết quả là khoảng cách quan sát ngày càng mở rộng. Một công ty có thể chấp nhận một trợ lý mã như một sản phẩm trong khi có ít bằng chứng về những gì một tác nhân cá nhân đã thực hiện trong một phiên cụ thể. Như Unite.AI đã khám phá gần đây, các đội bảo mật ngày càng cần truy vết các lời gọi công cụ của tác nhân, việc thực thi lệnh và các sự kiện thay đổi hệ thống, chứ không chỉ duy trì danh sách các dịch vụ AI đã được phê duyệt.

Kiểm tra hành động của tác nhân trước và sau khi thực thi

AI Lens for Developers được xây dựng dưới dạng một plug-in nhẹ thay vì một tác nhân đầu cuối đầy đủ. DeepKeep cho biết nó gắn vào quy trình làm việc của tác nhân mã để kiểm tra các lời nhắc, việc đọc tệp, lệnh shell và các lời gọi công cụ MCP trước và sau khi chúng chạy. Mỗi hoạt động có thể được chuyển qua hệ thống chính sách của công ty để quyết định cho phép, chặn hoặc kiểm toán.

Sự khác biệt giữa giám sát trước khi thực thi và sau khi thực thi là quan trọng. Một bản ghi kiểm toán có thể giải thích tại sao một sự cố xảy ra, nhưng nó không thể ngăn chặn một lệnh gây phá hoại hoặc ngăn một bí mật rời khỏi môi trường của nhà phát triển. DeepKeep đang định vị AI Lens vừa là một biện pháp kiểm soát phòng ngừa, vừa là nguồn bằng chứng cho phản ứng sự cố và tuân thủ.

Sản phẩm có thể đánh dấu các thông tin xác thực, token truy cập và mật khẩu được bao gồm trong lời nhắc hoặc tệp đính kèm. Nó cũng kiểm tra mã do tác nhân tạo ra để phát hiện các mẫu không an toàn, chẳng hạn như các hàm bỏ qua xác thực. Các lệnh được đánh giá là gây phá hoại có thể bị giữ lại để chờ phê duyệt của con người, trong khi các quản trị viên có thể tạo các quy tắc cụm từ khóa tùy chỉnh để xác định các tham chiếu đến các kho lưu trữ nhạy cảm, phần mã hoặc dự án nội bộ.

DeepKeep cho biết mỗi phiên sẽ tạo ra một bản ghi kiểm toán chi tiết có thể bao gồm ID thiết bị, nội dung lời nhắc và ID người dùng. Điều này cung cấp cho các đội bảo mật cách tái tạo lại hoạt động của tác nhân ngay cả khi nhà phát triển chỉnh sửa một yêu cầu bị chặn và thử lại.

Chính sách trung tâm cho AI hướng tới nhà phát triển

Quản trị viên quản lý các quy tắc thông qua Policy Hub của DeepKeep. Các chính sách có thể được áp dụng theo vai trò hoặc trên toàn tổ chức và có thể bao phủ các danh mục bao gồm thông tin nhận dạng cá nhân, thông tin xác thực và các lệnh gây phá hoại. Cách tiếp cận này nhằm cho phép các công ty thiết lập một tư thế bảo mật nhất quán đồng thời cho phép các đội kỹ thuật tiếp tục sử dụng quy trình phát triển có tác nhân.

Sự tập trung của sản phẩm vào MCP đặc biệt kịp thời. Giao thức này cung cấp cho các ứng dụng AI một cách chuẩn để kết nối với công cụ và dữ liệu doanh nghiệp, nhưng mỗi máy chủ và hành động có thể gọi được đều có thể mở rộng bề mặt tấn công mà một tác nhân có thể tiếp cận. hướng dẫn về Model Context Protocol của Unite.AI lưu ý rằng các máy chủ và host MCP tạo ra các ranh giới bảo mật riêng biệt, bao gồm việc tiếp xúc với tấn công chèn lời nhắc và đầu ra công cụ không tin cậy. Do đó, chỉ việc giám sát mô hình là không đủ khi mô hình có thể thực hiện hành động thông qua các hệ thống khác.

Ofer Rotberg, phó chủ tịch sản phẩm của DeepKeep, cho rằng các tác nhân mã thừa hưởng quyền truy cập mạnh mẽ không bình thường của nhà phát triển trong khi hoạt động với mức độ tự chủ ngày càng tăng. Theo quan điểm của ông, các CISO cần có khả năng quan sát liên tục hành vi của tác nhân và khả năng ngăn chặn các hành động gây hại ngay trong thời gian thực thay vì chờ đợi để điều tra sự cố tiếp theo.

Một phần của nền tảng bảo mật AI rộng hơn

AI Lens for Developers nằm trong nền tảng bảo mật AI rộng hơn của DeepKeep. Công ty cũng cung cấp AI Firewall, red teaming AI tự động và có sự hướng dẫn của con người, kiểm soát việc sử dụng AI, quét tác nhân và quét mô hình. DeepKeep cho biết các biện pháp kiểm soát của mình có thể được áp dụng trên toàn vòng đời AI, từ phát triển và kiểm thử đến việc sử dụng trong môi trường sản xuất của các ứng dụng và tác nhân.

Công ty được thành lập vào năm 2021 và mô tả nền tảng của mình là không phụ thuộc vào mô hình, hỗ trợ triển khai trong môi trường SaaS, đám mây riêng, tại chỗ và môi trường không kết nối mạng. Thông điệp rộng hơn của họ là các doanh nghiệp cần một ngôn ngữ chính sách chung cho các mô hình, ứng dụng, nhân viên và các tác nhân tự động thay vì các biện pháp kiểm soát riêng lẻ cho mỗi công cụ AI.

Đối với các CISO, các tác nhân hướng tới nhà phát triển đang trở thành một thử nghiệm cấp bách của ý tưởng này. Bảo mật ứng dụng truyền thống tập trung mạnh vào mã nguồn được đưa vào sản xuất. Các tác nhân mã thêm một lớp rủi ro khác: quy trình đọc kho lưu trữ, tạo mã và thực thi lệnh có thể tự động. Các sản phẩm như AI Lens đang cố gắng làm cho quy trình này có thể quan sát và thực thi mà không làm mất đi những lợi thế về tốc độ đã khiến các nhà phát triển chấp nhận sử dụng tác nhân ngay từ đầu.