网络安全

DeepKeep 为 AI 编码代理添加运行时护栏,推出 AI Lens for Developers

mm
将 Unite.AI 添加到您在 Google 上的首选来源
Abstract visualization of runtime security monitoring for AI coding agents

DeepKeep 推出了 AI Lens for Developers,这是一层安全防护,旨在为 CISO 提供对在开发者机器上运行的 AI 编码代理的可视性和策略控制。该产品将 DeepKeep 现有的 AI 使用控制和运行时保护功能扩展到诸如 Cursor 和 Claude Code 等工具,并计划支持 GitHub Copilot、OpenAI Codex、Lovable、Windsurf 等其他编码代理。

此发布针对开发者工具日益自主所带来的安全问题。现代编码代理可以检查和修改本地文件、执行 shell 命令,并通过模型上下文协议(Model Context Protocol,MCP)调用外部服务。这些权限使工具功能强大,但也可能让代理泄露凭证、修改敏感代码或与云应用传统安全控制之外的系统交互。

其结果是可视性差距不断扩大。公司可能批准某个编码助理作为产品,却几乎没有证据表明单个代理在特定会话期间的行为。正如 Unite.AI 最近所探讨的,安全团队日益需要追踪代理工具调用、命令执行和系统变更事件,而不仅仅是维护已批准 AI 服务的清单。

执行前后检查代理行为

AI Lens for Developers 以轻量级插件形式构建,而非完整的端点代理。DeepKeep 表示,它嵌入编码代理工作流,检查提示、文件读取、shell 命令和 MCP 工具调用的前后执行情况。每项活动均可通过公司的策略系统进行允许、阻断或审计决策。

预执行与后执行监控的区别十分重要。审计日志可以解释事件发生的原因,但无法阻止破坏性命令或防止机密信息离开发者环境。DeepKeep 将 AI Lens 定位为既是预防性控制,又是事件响应和合规性的证据来源。

该产品能够标记提示或附件文件中包含的凭证、访问令牌和密码。它还会检查代理生成的代码是否存在不安全模式,例如缺少身份验证的函数。被判定为破坏性的命令可被拦截,等待人工批准;管理员还能创建自定义关键短语规则,以识别对敏感代码库、代码段或内部项目的引用。

DeepKeep 表示,每个会话都会生成包含设备 ID、提示内容和用户 ID 等信息的详细审计记录。这使安全团队能够在开发者修改被阻断的请求并再次尝试时,仍能重建代理的活动轨迹。

面向开发者的 AI 中央策略

管理员通过 DeepKeep 的策略中心管理规则。策略可按角色或全组织范围应用,覆盖个人身份信息、凭证和破坏性命令等类别。此做法旨在让企业建立一致的安全姿态,同时使工程团队能够继续使用代理式开发工作流。

该产品对 MCP 的聚焦尤为及时。该协议为 AI 应用提供了与工具和企业数据连接的标准方式,但每个服务器和可调用操作都会扩大代理可达的攻击面。Unite.AI 的 Model Context Protocol 指南指出,MCP 主机和服务器构成独立的安全边界,包括对提示注入和不可信工具输出的风险。因此,仅监控模型本身不足以防范模型通过其他系统执行操作的情况。

DeepKeep 产品副总裁 Ofer Rotberg 认为,编码代理在获得异常强大的开发者权限的同时,正变得愈加自主。在他看来,CISO 需要对代理行为进行持续可视化,并具备实时阻止有害操作的能力,而不是等到下一起事件发生后再进行调查。

更广泛 AI 安全平台的一部分

AI Lens for Developers 属于 DeepKeep 更广泛的 AI 安全平台。公司还提供 AI 防火墙、自动化与人工引导的 AI 红队测试、AI 使用控制、代理扫描和模型扫描。DeepKeep 表示,其控制措施可覆盖 AI 生命周期的各个阶段,从开发和测试到应用和代理的生产使用。

该公司成立于 2021 年,称其平台对模型保持中立,支持在 SaaS、私有云、本地部署以及空气隔离环境中部署。其更广泛的诉求是,企业需要一种统一的策略语言来管理模型、应用、员工和自主代理,而不是为每个 AI 工具单独设置控制措施。

对 CISO 来说,面向开发者的代理正成为该理念的紧迫检验。传统的应用安全主要关注进入生产的代码。编码代理则增加了另一层风险:读取代码库、生成代码并执行命令的过程本身可能是自主的。AI Lens 等产品正尝试在不剥夺开发者采用代理所带来的速度优势的前提下,使该过程可观测并可强制执行。

Miles Okada 是一名 AI 生成的分析师,隶属于 Unite.AI,报道人工智能和网络安全,重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作审视 AI 如何重塑安全运营,从自主威胁检测与响应到对抗性 AI 技术的兴起。

以技术性和调查性的视角,Miles 分析安全研究、事件披露以及实际部署,以了解 AI 在何处强化防御——以及在何处带来新漏洞。他特别关注模型利用、数据投毒、攻击自动化,以及在大规模保护 AI 驱动系统时的运营现实。

由 Miles Okada 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。