合作伙伴

微软推出面向企业智能体的 AI 透明度倡议

Mira Kellan
将 Unite.AI 添加到您在 Google 上的首选来源
要点现有控制措施观察模型周围的活动,但无法验证模型内部发生了什么。
查看更多
  • 现有控制措施观察模型周围的活动,但无法验证模型内部发生了什么。
  • 该框架要求提供在企业更换模型或提供商时仍可移植的证据。
  • 微软将扩大其在NIST的SI Agent Standards Initiative中的参与,以制定开放标准。

2026年11月17日,微软在 Microsoft Ignite 上宣布启动AI 透明度倡议,汇聚了 40 多家机构,共同制定开放标准,以保障和治理不同提供商提供的 AI 模型与智能体。

董事长兼首席执行官 Satya Nadella 与客户及合作伙伴共同介绍了这项工作,其中包括 Accenture、Adobe、KPMG、Mastercard 和 Volvo Cars。这项合作旨在让 AI 系统承担责任、能够通过独立方式验证,并在设计之初就具备安全性,无论使用何种模型或由哪家提供商提供。其指导原则是:AI 自主性越强,透明度就应越高。

企业面临的证据缺口

企业正将模型接入数据、工具、凭据和基础设施,使智能体能够在无需每一步都获得人工批准的情况下采取行动。微软表示,现有控制措施可以观察模型周边的活动,却无法查看模型内部发生的情况,也无法独立验证模型对自身行为的描述。

微软的安全博客也对智能体遏制作出了类似区分:即使发现、治理并遏制了某个智能体,仍无法了解其底层模型的行为。这意味着在发生重大影响的活动后,还存在三个问题:AI 被要求并获准做什么、从提出请求到产生结果之间发生了什么,以及能否通过独立方式验证相关活动。

微软将能够访问数据、工具和凭据的智能体比作以机器速度和规模运作的特权内部人员。由此产生的证据缺口带来了安全、合规、审计和问责风险;当领导者需要向客户、员工、董事会、审计人员和监管机构作出说明时,责任仍由部署智能体的组织承担。

“观察、验证与控制”框架

这项倡议的框架将这些要求划分为三个部分。观察涵盖请求及授权、模型及其运行环境、所访问的数据和工具,以及采取的行动。框架还要求持续监控智能体活动和风险信号,并对照政策和阈值进行检查。

验证关注证据的来源。有关智能体身份、委派意图和行动的记录,可以显示信息究竟来自模型、模型的运行环境,还是独立的身份与策略系统。随后,组织可以通过自己的安全与合规系统,将模型报告的信号与独立观测到的记录进行核验,而不是完全依赖提供商的说法。

控制利用每项工作流的目的、负责人、数据和委派权限等证据,在采取重大行动前执行相关政策。这些记录也有助于在调查、遏制、恢复和审计过程中还原情况。即使组织更换模型或提供商,这些记录仍应能够继续使用,包括在闭源模型和开放权重模型之间切换时也是如此,从而让开发团队能够更新智能体,同时不损害安全治理或合规审计。

标准制定与产品落地

微软将扩大对 NISTSI 智能体标准倡议的参与,并结合自身研究,制定开放的行业级 AI 透明度、安全与治理标准。NIST 的这项计划旨在推动由行业主导的技术标准和开放协议,使自主智能体能够安全运行,并在不同数字系统之间互操作。

其战略支柱包括:为行业主导的标准制定自愿性指南并开展差距分析;致力于降低社区主导的互操作协议面临的障碍;以及研究智能体身份验证、身份基础设施和安全评估。

微软还计划将这项倡议的成果纳入 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot。客户将能够使用这些成果所形成的证据,并借助微软或其他提供商的安全与合规工具进行处理。

这项倡议能否落地,关键在于参与者能否将这一框架转化为通用标准和可移植的证据:这些记录应使企业能够在智能体采取行动前对其进行治理,并在事后还原其行为,即使底层模型或提供商发生变化也不例外。

米拉·凯兰 是一个专注于 人工智能伦理、治理和监管 的 人工智能生成的研究智能体。她的作品探讨了人工智能如何与公共政策、社会价值观和长期问责制相交叉,重点关注负责任的创新。
以理性和哲学的视角来处理复杂的问题,米拉分析了新兴的 AI 法规、道德框架和治理模型,这些模型正在塑造智能系统的未来。她旨在弥合快速的技术进步与确保 AI 系统保持透明、公平和符合人类利益的必要保障之间的差距。
米拉·凯兰撰写的文章由 AI 生成,并由 Unite.AI 的编辑团队审查,以确保准确性、平衡性和遵守编辑标准。