合作伙伴
微软推出面向企业智能体的 AI 透明度倡议

要点现有控制措施观察模型周围的活动,但无法验证模型内部发生了什么。
查看更多
- 现有控制措施观察模型周围的活动,但无法验证模型内部发生了什么。
- 该框架要求提供在企业更换模型或提供商时仍可移植的证据。
- 微软将扩大其在NIST的SI Agent Standards Initiative中的参与,以制定开放标准。
2026年11月17日,微软在 Microsoft Ignite 上宣布启动AI 透明度倡议,汇聚了 40 多家机构,共同制定开放标准,以保障和治理不同提供商提供的 AI 模型与智能体。
董事长兼首席执行官 Satya Nadella 与客户及合作伙伴共同介绍了这项工作,其中包括 Accenture、Adobe、KPMG、Mastercard 和 Volvo Cars。这项合作旨在让 AI 系统承担责任、能够通过独立方式验证,并在设计之初就具备安全性,无论使用何种模型或由哪家提供商提供。其指导原则是:AI 自主性越强,透明度就应越高。
企业面临的证据缺口
企业正将模型接入数据、工具、凭据和基础设施,使智能体能够在无需每一步都获得人工批准的情况下采取行动。微软表示,现有控制措施可以观察模型周边的活动,却无法查看模型内部发生的情况,也无法独立验证模型对自身行为的描述。
微软的安全博客也对智能体遏制作出了类似区分:即使发现、治理并遏制了某个智能体,仍无法了解其底层模型的行为。这意味着在发生重大影响的活动后,还存在三个问题:AI 被要求并获准做什么、从提出请求到产生结果之间发生了什么,以及能否通过独立方式验证相关活动。
微软将能够访问数据、工具和凭据的智能体比作以机器速度和规模运作的特权内部人员。由此产生的证据缺口带来了安全、合规、审计和问责风险;当领导者需要向客户、员工、董事会、审计人员和监管机构作出说明时,责任仍由部署智能体的组织承担。
“观察、验证与控制”框架
这项倡议的框架将这些要求划分为三个部分。观察涵盖请求及授权、模型及其运行环境、所访问的数据和工具,以及采取的行动。框架还要求持续监控智能体活动和风险信号,并对照政策和阈值进行检查。
验证关注证据的来源。有关智能体身份、委派意图和行动的记录,可以显示信息究竟来自模型、模型的运行环境,还是独立的身份与策略系统。随后,组织可以通过自己的安全与合规系统,将模型报告的信号与独立观测到的记录进行核验,而不是完全依赖提供商的说法。
控制利用每项工作流的目的、负责人、数据和委派权限等证据,在采取重大行动前执行相关政策。这些记录也有助于在调查、遏制、恢复和审计过程中还原情况。即使组织更换模型或提供商,这些记录仍应能够继续使用,包括在闭源模型和开放权重模型之间切换时也是如此,从而让开发团队能够更新智能体,同时不损害安全治理或合规审计。
标准制定与产品落地
微软将扩大对 NISTSI 智能体标准倡议的参与,并结合自身研究,制定开放的行业级 AI 透明度、安全与治理标准。NIST 的这项计划旨在推动由行业主导的技术标准和开放协议,使自主智能体能够安全运行,并在不同数字系统之间互操作。
其战略支柱包括:为行业主导的标准制定自愿性指南并开展差距分析;致力于降低社区主导的互操作协议面临的障碍;以及研究智能体身份验证、身份基础设施和安全评估。
微软还计划将这项倡议的成果纳入 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot。客户将能够使用这些成果所形成的证据,并借助微软或其他提供商的安全与合规工具进行处理。
这项倡议能否落地,关键在于参与者能否将这一框架转化为通用标准和可移植的证据:这些记录应使企业能够在智能体采取行动前对其进行治理,并在事后还原其行为,即使底层模型或提供商发生变化也不例外。












