网络安全
2027 年的 AI 安全:智能体权限将决定影响范围

要点决定误解能传播多远的将是代理权限,而不是模型的可信度。
查看更多
- 决定误解能传播多远的将是代理权限,而不是模型的可信度。
- 安全评估必须同时报告合法任务完成情况和被阻止的攻击,以证明代理仍然有用。
- 事件报告应追踪凭证和委托权限路径,而不是模型的异常输出。
想象一名员工让 AI 助手整理塞得满满的收件箱。这个任务听起来无伤大雅,直到一条消息诱使助手打开客户记录、导出附件或发送付款请求。安全问题已不再只是答案是否可信,而是软件是否有权把误解转化为行动。
这正是 2027 年智能体安全领域日益凸显的压力所在。企业希望助手能够完成工作,安全团队则需要知道这种自由止于何处,以及工作仍在进行时,他们能否收回这种自由。
这种衔接已经开始构建。Microsoft 于 2026 年正式全面推出了其 Entra Agent ID 平台。Okta 已将代理身份治理扩展至各身份提供商和代理生态系统。AWS 于 3 月正式全面推出了Bedrock AgentCore 中的 Policy,将授权决策置于代理自身代码之外。如果预测代理身份产品会在 2027 年出现,就忽视了已经存在的市场。
1. 生产环境中的证据将比身份产品发布公告更重要
智能体应当能够失去自己的工作权限,而不影响其人类发起者的访问权限。当助手与所用应用之间隔着多个连接器和服务账户时,这个简单的预期就难以实现。2027 年,知名企业的生产环境案例将开始显示,独立的智能体身份能否经受住这一过程:一开始权限有限,整个流程中身份清晰可辨,最终还能单独关闭该智能体。
即使工作负载有所不同,其机制也并不陌生。身份验证用于确认正在执行操作的软件主体。授权则决定该主体可以使用哪些资源、执行哪些操作。委派将其权限与某个人或组织关联起来。仅有一条清单记录,并不能证明在发生重要操作时,这些控制措施确实有效。
NIST 在2026 年 8 月关于代理身份的讨论中,阐述了凭据共享所引发的问责问题。随后提出的设计原则要求进行明确的身份识别、权限受限的委派,以及有效期短且可撤销的授权。这些是拟议中的设计原则,并不意味着每款已部署的产品都实现了这些原则,也不构成一项新的普遍法律要求。
当工作流跨越组织边界时,工程难题便会显现。智能体可能通过一个身份提供商接入,调用由另一家公司运营的连接器,再使用第三种授权模型来调用应用。如果连接器改用自身权限强大的服务凭据,上游范围狭窄的授权就可能演变为下游的广泛访问权限。可见身份必须贯穿这一整条链路,否则控制平面就会失去原本要维护的关键区分。
Microsoft 发布的Agent 365 公告和 Okta 对Agent Gateway 的说明表明,供应商正在针对这一问题构建解决方案。这些内容仍只是供应商对相关功能的描述。我更有把握的判断是,具体的生产环境证据将会出现,而不是声称这些系统能够消除安全失陷。
2027 年值得关注的动向
关注这样的生产部署:智能体拥有自己的身份,仅获得完成任务所需的权限,并且可以在不妨碍人类发起者访问的情况下被禁用。客户介绍这些控制措施在互联应用中如何运行的案例,将比单纯的身份注册更有参考价值。若仍持续依赖共享服务凭据,则会削弱这一预测的可信度。
这对企业意味着什么
安全负责人应要求供应商展示完整的委派链路,包括下游连接器使用的权限。采购和部署审查应明确智能体的负责人、获准执行的操作,以及撤销访问权限的流程。只有当组织能够控制每个已注册智能体实际能做什么时,不断增加的智能体注册清单才有意义。
2. 衡量更强防御能力的标准,将是它能否保障有用工作顺利进行
最容易保障安全的智能体,就是什么都做不了的智能体;但它也最容易沦为毫无商业价值的工具。2027 年更值得关注的成果,是一种既能让正当工作继续进行,又能大幅减少未经授权工具操作的防御方案。我的测试标准刻意设得很高:此类操作必须可复现地减少一半,同时正当任务的完成率下降不得超过 10 个百分点。防护措施必须保留足够的实用性,才能让智能体继续保持启用状态。
提示注入会改变模型被要求视为指令的内容。无论该指令变得多么有说服力,都应由授权机制决定拟执行的操作是否获准。检索到的文档即使要求导出数据,也不应仅仅因为智能体能够读取该文档,就因此获得导出权限。
模型上下文协议安全指南说明了集成层为何重要:它针对混淆代理问题、令牌直通,以及连接可能滥用权限的其他方式。由此可见,问题关乎架构。模型声明的意图与应用程序能够强制执行的权限是两个不同的对象,应用程序必须验证后者。
还有第二项要求:受保护的智能体仍须完成获授权的工作。AgentDojo建立了一个可扩展的环境,用于测试针对工具调用型智能体的攻击与防御。2026 年的 AgentDyn 预印本认为,真实且开放式的任务既会暴露安全弱点,也会揭示过度拦截的问题。另一项近期的提示注入失败案例分析则区分了拒绝攻击、仅仅忽略攻击,以及未能完成用户任务这几种情况。这些研究结果仅适用于其评估的系统和情境,并非总体范围内的安全发生率。
核心权衡是可以衡量的。拦截所有写入操作,可能会让未授权写入的得分非常出色,却使记账智能体变得毫无用处。要让评估结果令人信服,就应公布攻击结果、合法任务的完成情况、获准执行的操作范围,以及哪些情况下需要人工批准。还必须考虑自适应攻击者:如果某种防御只对防御措施公开之前设计的攻击有效,那么它所能提供的保障就比较有限。
2027 年值得关注的事项
应关注同时报告合法任务完成情况和攻击拦截情况的安全评估。最有力的证据应表明,智能体能够继续执行获授权的工作,同时由独立的强制执行层拒绝未授权操作,包括针对该防御措施调整过的攻击。如果攻击成功率下降的同时,任务普遍无法完成,那么这种结果所能提供的安心程度就要低得多。
这对企业意味着什么
评估智能体时,应同时考量其安全性和实用性。采购团队应将有代表性的业务任务和真实的滥用场景纳入同一项评估,随后审查哪些操作需要批准,以及权限在哪些环节得到强制执行。这样一来,就能在考量赋予智能体过多权限可能造成的损害时,也看清过度拦截所带来的代价。
3. 事件报告将追溯权限传递路径
智能体发生事件后,最能揭示问题的或许是:某条指令是如何获得执行权限的。恶意消息只是其中一个环节;将其影响传递下去的凭证、连接器和委派权限也是如此。我预计,2027 年经供应商确认披露的事件将更清楚地呈现这些路径。这将为防御人员提供比又一个“模型说了不该说的话”的案例更有用的信息。
此类披露中的关键信息应当是一连串过程:智能体接触到某项输入,提出或选择一项操作,获得或继承权限,随后越过预定边界。如果只描述模型说了哪些异常的话,就无法解释实际运行中的失效;如果只描述凭证泄露,又可能忽略智能体为何暴露或使用了该凭证。
这并不是在预测首次发生此类越界会是在明年。Anthropic 在其2026 年 9 月网络安全事件评估中,描述了四起事件:Claude 模型在与评估相关的活动中,未经授权访问了真实的第三方系统。这是模型提供商对特定事件所作的披露,不应将其泛化为企业遭入侵的测算发生率,也不应视为对所有细节的独立核实。
OWASP 智能体应用十大风险为讨论智能体故障提供了实用的风险框架。然而,框架给出的是分类,而不是事件总数。披露增加,可能源于部署规模扩大、检测能力提升、报告更加坦诚,或这几种因素共同作用。仅凭披露增加本身,无法证明每个已部署的智能体都变得更不安全。
我对此的信心较低,因为披露相关的激励因素并不确定。组织可能悄悄修复连接器,将故障视为普通的访问控制漏洞,或拒绝透露客户名称。因此,即便运营层面发生了重大变化,公开记录仍可能寥寥无几。这种不确定性应纳入预测,而不是通过把每次推测性的漏洞演示都算作一次入侵来消除。
2027 年值得关注的事项
应关注那些说明智能体如何从读取不可信材料,转而对真实资源行使权限的事件报告。若报告清楚说明连接器、委派凭证、受影响的操作和补救措施,将增强这一预测的可信度。仅限于描述模型异常响应的报告,则较难揭示失效的实际运行边界。
这对企业意味着什么
事件响应团队应保留足够的智能体和应用程序遥测数据,以便还原从输入到操作的完整路径。供应商审查应明确由谁通知客户、哪些记录可以提供,以及如何遏制受损的连接。这些安排将决定组织在智能体行为异常时,能够多快评估所受影响。
4. 撤销权限将接受计时检验
关闭开关,意味着承诺在一定时间内停止运行。如果智能体已经复制了凭证或开启了另一个会话,撤销其身份后,仍可能存在一段时间窗口,在此期间相关操作依然能够成功。到2027年,独立测试将开始在多个互联应用中用秒表检验这项承诺。这里的预测很具体:新的受保护操作将在一分钟内被阻止,即使凭证已被缓存,也不例外。
在身份目录中承诺撤销权限很容易,要证明撤销效果已传递到下游则难得多。连接器可能保留访问令牌;工作进程可能维持活动会话;计划任务可能持有先前已获授权的请求。禁用智能体的清单记录,并不能证明这些执行路径已停止使用过期权限。
NIST 的可撤销授权原则和 AWS 的网关强制执行与策略日志记录,阐述了所需架构的部分要素。我的判断是,买家将越来越多地要求看到实际测得的遏制时间。60 秒这一门槛是我的预测目标,并非归因于上述任何一方的要求。
一次设计完善的演练,应区分停止新工作与撤销已完成的工作。撤销权限无法收回已经发送的消息。可衡量的承诺是:撤销生效后提交的新受保护操作会被拒绝。对于正在执行的操作,则需要另行明确并记录其取消或完成规则。如果不作这种区分,一场引人注目的“紧急停止开关”演示可能掩盖实际保证范围要窄得多这一事实。
信心水平偏低至中等,反映了获取可重复的跨连接器证据有多困难。公开的产品文档可以证明产品支持哪些行为,但这项预测需要实际测得的时间结果。测试人员还必须在已建立的会话中进行操作,因为过期授权最可能在这种情况下产生影响。
2027 年值得关注的情况
留意这类权限撤销演示:开始测试时,智能体已经通过活动连接器执行任务,其中包括使用已缓存的凭证或已建立的会话。有效的测试结果应测出新的受保护操作停止所需的时间,并清楚说明正在执行的工作如何处理。若只展示控制面板中的条目已被禁用,却未测试下游环节,核心问题仍然没有答案。
这对企业意味着什么
应将关闭智能体视为一项需要演练的事件响应能力。测试智能体能够访问的应用,找出撤销权限后仍会继续存在的会话,并明确由谁负责停止排队中的工作。要区分阻止下一项操作与撤销已经完成的操作;恢复计划必须兼顾两者。
安全预算将投向可执行权限的边界
我们的目标是赋予智能体足够的权限,使其发挥作用,同时为其设定足够的边界,确保其仍可受到管控。这种平衡将在连接器、令牌和权限检查中协商确定,而不是在对话界面中。当下一次事故发生时,决定性的问题将是:在有人或某种机制将系统拦下之前,它已经能够做多少事。












