思想领袖

隐藏在批准软件中的隐形代理:影子AI的真正风险

mm
将 Unite.AI 添加到您在 Google 上的首选来源

两年前,影子AI指的是员工将客户数据粘贴到ChatGPT中。解决方案,总体而言,是可管理的:发现工具,制裁好的工具,阻止坏的工具,培训人员。大多数组织都处于执行该游戏计划的中间阶段,其中61%的组织已经在其环境中遇到了影子AI,该游戏计划基本有效。

然而,这个描述不再适用于当前的问题。影子AI已经从行为问题转变为架构问题。传统的治理无法跟上现代景观的步伐,包括供应商嵌入和员工布线的AI代理,它们在获得继承凭证的批准系统中运行,使身份成为唯一的真正控制点。

你没有注意到的两个影子

2026年的有趣问题不是哪个AI工具被员工打开,而是哪个AI代理被你的批准供应商在上个季度的产品更新中悄悄地添加了,以及它从安装它的人那里继承了什么权限。

影子AI曾经是一个行为问题。你可以看到它,命名它,并制定政策来对抗它。但现在正在传播的版本是结构性的。它通过你已经批准的软件到来,使用你已经颁发的凭证,在你已经审计的工作流中运行。影子不再是行为性的,而是架构性的。员工仍然在画面中,但他们已经从使用AI转变为部署AI:将代理连接到他们已经可以访问的系统中,并通过设计为自助的接口来实现这一点。针对第一个行为的政策无法触及第二个行为。

这就是为什么“禁止它”从来不是真正的辩论。那些通过批准企业工具和推动员工使用受管制的替代品而领先于影子AI的CISO们赢得了这一轮,并发现下一轮已经开始,且有两个向量,而不是一个。第一个向量是供应商在生产中已有的产品中添加的内容:嵌入式模型、代理模式、新集成,这些都是在没人读过的发布说明中到来的。第二个向量是员工自己布线的内容:一个LLM连接到CRM,通过无代码自动化,一个自定义GPT获得了数据仓库的API密钥,一个MCP连接从桌面助手到生产系统。两者产生相同的结果,包括代理在批准的凭证下,针对批准的系统,在未经任何审查的工作流中运行。采购可以看到第一个向量,但可能完全忽略第二个向量。

值得承认的是,第一轮的胜利是多么不均衡。九成组织计划在未来6-24个月内增加AI相关的IT预算,其中许多组织计划在IT运营中更广泛地扩展智能能力。资金正在流向智能能力。控制措施正在跟上,但步伐很慢。这个不平衡是问题所在,而不是问题的副作用。

边界一直是人类的

适用于第一波的思维模型不适用于这一波。将影子AI视为员工行为的思维模型假设安全团队可以影响员工的选择。然而,供应商的架构消除了这种选择。撰写电子邮件的模型、安排会议的代理、总结文档并将其转发的助手,所有这些都不需要员工做任何事情,只需继续使用他们被告知要使用的软件。

诚实的答案是,大多数安全程序仍在保护的边界是一个人类行为的边界。员工打开工具、员工授予访问权限、员工做出安全团队可以观察和塑造的决定。这个边界正在两个方向上同时消失。从上方,供应商正在将代理添加到批准的产品中,速度快于任何审查过程。从下方,员工正在从用户角色转变为集成者角色,通过设计为自助的接口将代理连接到系统中,这些接口从未被设计为具有治理功能。取代边界的新边界围绕着身份构建,针对正在执行的内容,无论这些身份是人还是代理,还是两者之间的混乱状态,都需要大多数组织尚未具备的控制织物。

唯一剩下的地方

身份是正确的控制点,但框架必须转变。传统的表述说“身份是新的边界”,因为用户无处不在,设备无处不在,SaaS无处不在。这在十年前是真的,现在已经是基本条件。2026年版本有所不同:身份是唯一可以看到AI实际正在做什么的地方,因为到AI执行时,工具边界已经被跨越。代理正在使用某人的凭证运行。谁的凭证,什么范围,针对什么数据,在谁的授权下,这些问题产生了有用的审计跟踪。工具级别的治理无法回答这些问题,因为工具不再是分析单位。

几乎90%的IT领导者已经认识到统一对他们安全地实施和扩展AI的能力有直接影响。更难的问题是控制层面的统一到底是什么意思。它不能只是意味着更少的仪表盘。它意味着一个单一的身份织物,每个参与者,无论是人类、服务账户、代理还是嵌入式模型,都通过相同的机制进行配置、范围、监控和退役。任何不达到的东西都给你一种整合的治理外表,但实际上只是碎片化的执行。

你的供应商审查有过期日期

不幸的是,供应商审查只在有限时间内有效。这对安全程序的结构有不舒服的影响。大多数AI治理委员会围绕工具审查组织,供应商来进行评估、批准或拒绝,以便将其添加到注册表中。这个过程假设工具在批准时的行为与在生产中的行为相同。对于嵌入AI的软件来说,这个假设在批准后立即被打破。供应商将发布新的模型、新的代理模式、新的集成,这些都出现在六个月前批准的审查中没有读过的发布说明中。

从工具到身份

那些将治理从工具转移到身份的程序将会坚持下去。每个针对你的数据的行为,无论由谁执行,都可以追溯到一个具有已知所有者、范围权限集和定义生命周期的身份。无论是人类还是非人类,员工还是代理,批准的工具还是嵌入式模式,问题都是相同的:这是谁,可以做什么,我们如何知道什么时候应该停止?能够回答这些问题的程序不需要赢得工具批准的竞赛。不能回答这些问题的程序将会在供应商和员工的速度超越任何审查过程时一直处于追赶状态。

影子AI作为一个类别不会消失。尤其是在新的代理式工作力的时代,72%的组织已经在生产中拥有AI代理。相反,它正成为一个更大问题中较小的一部分。那些在下一个预算周期中花费资金用于工具发现和批准政策的组织正在解决2024年的问题,但时间线却是2026年。那些花费资金用于身份层次的仪表化,以适应人类、代理和两者之间复杂状态的组织,正在解决他们实际上会遇到的问题。

影子AI的第一波教会了安全团队,他们无法超越员工的好奇心。第二波将教会他们,他们无法超越供应商的速度或员工的聪明才智。两个教训都指向相同的结论:治理的单位从来都不是工具。它始终是通过工具执行的身份。

罗兰·帕尔默(Roland Palmer)是JumpCloud的首席信息安全官(CISO)和安全副总裁。他是扩展全球风险和合规框架的专家,负责JumpCloud的全球安全战略,确保该平台保持为智能、安全的IT基础。拥有超过20年的经验,罗兰有着将复杂的风险格局转化为有形的商业价值的成功记录。在加入JumpCloud之前,他在Sumo Logic担任了8年的安全和合规副总裁,期间他从零开始建立了全球安全运营中心,并获得了包括FedRAMP、ISO 27001和HIPAA在内的关键认证。