为什么公司应该遵循基于价值观的 AI 治理方法

2025 年 9 月，联合国所有成员国首次聚集讨论国际 AI 治理；许多国家在 2 月的德里 AI 影响峰会上再次被代表。该活动导致了两个新的以 AI 治理为中心的机构的启动；但它最多只是一个象征性的成功。

联合国的新机制旨在确保共识：它们避开了诸如 AI 的军事用途等有争议的领域，并缺乏明确的资金来源和执行力。对于有经验的观察者来说，这并不令人惊讶。今天的联合国缺乏快速行动或确保其决定得到普遍遵守的能力，使其成为一个难以实现真正变化的论坛。

这符合一个既定的模式。尽管人们多年来一直试图在 AI 规范方面达成共识，但并没有达成任何重大国际协议，从而在各国和集团被迫制定自己的规则时留下了空白。然而，AI 的有效治理对于我们希望看到它被广泛采用、被公众信任以及以带来持久的社会和经济利益的方式使用至关重要。

临时修补和维修

对于正在建设和运营 AI 系统的全球公司来说，这种缺乏共同的、同意的治理机制是有问题的。他们希望在世界各地部署 AI 系统，但没有两个司法管辖区遵循相同的规则。因此，他们被迫为他们的系统创建一个通用的治理框架，然后从头开始在每个他们运营的国家重建它，以确保它符合当地的法律和法规。这种方法会产生大量额外的工作，使 AI 计划更加昂贵和容易延迟，并削弱全球公司利用规模经济和与用户分享有效工具的能力。

然而，有一种替代方法。对于希望简化他们的方法的公司来说，最佳选择可能是建立一个 AI 治理框架，该框架考虑了不同地区的共同道德原则，确保他们在保护个人自由、隐私和安全方面无论如何都能达到高标准。这是一种强大的方法，AI 业务可以通过这种方法增加公众对其技术的信任，扩大其客户群，并利用 AI 的潜在利益。

AI 治理的六个关键价值

对于任何有兴趣采用基于价值观的 AI 治理方法的组织，我建议使用我们遵循的六个关键价值：责任、可解释性、透明度、公平性、安全性和可争议性。

我们选择这些价值观，因为它们涵盖了 AI 系统生命周期的所有主要领域，并且已经在与 AI 相关的各种国际和国家标准中编纂，例如国际标准化组织的 ISO/IEC 42001 和 英国政府人工智能游戏规则书。

首先，责任意味着知道谁在 AI 生命周期的每个阶段负责什么。没有明确的所有权，至关重要的控制可能会被省略，因为没有个人或团队承担最终责任。组织应该为 AI 系统和关键阶段分配高级别的指定所有者，例如他们的首席 AI 官，并使用基于风险的治理模型，对第三方工具与内部开发的工具同样严格。这样可以像理解自己的系统一样理解供应商的条款、限制和责任。

经济合作与发展组织（OECD）在其关于在 AI 中推进责任制的指导中很好地阐述了这一点，建议组织“创建机制，将 AI 风险管理过程嵌入更广泛的组织治理中，在组织内和整个 AI 价值链中促进风险管理文化”。

其次，解释性意味着组织应该能够展示 AI 系统如何做出决定。为此，需要有记录和跟踪决策的机制，以及清晰的系统设计、训练数据和决策过程记录。这些结合起来可以让团队了解系统从开始到部署的信息来源。

公平性侧重于确保 AI 系统产生公平的结果，并且不会复制或放大现有的偏见。没有故意的检查，系统可能会通过提供偏斜的结果造成伤害，特别是在招聘、医疗保健和刑事司法等高影响力领域。为了减轻这一点，组织应该实施偏见检测措施，定期在相关群体中审查输出，并设计治理框架以适应当地的非歧视性要求。在实践中，这意味着要建立满足最高法律标准的系统，包括遵守《2010 年平等法》和《欧盟基本权利宪章》等法律的义务。

透明度是关于让用户和监管机构清楚地了解。人们应该了解何时使用 AI、它在决策中扮演什么角色以及它的基础数据是什么。一个实用的起点是标准化 AI 系统的文档，并支持内部工具，如模型卡：提供给机器学习模型的简短文档，解释模型的预期使用背景、性能评估程序的详细信息以及其他相关信息。没有透明度，用户无法对不公平的结果提出异议，监管机构无法有效干预，可能会掩盖有害的影响。

安全性涉及保护 AI 系统免受未经授权的访问、操纵或意外行为。弱安全性会使组织、用户及其数据面临风险，可能会造成财务和声誉损害。组织应该定义性能和准确性阈值，在现实条件下对系统进行压力测试，并纳入红队测试以识别漏洞。

最后，争议性确保人们有一个明确且可访问的方式来挑战或上诉由 AI 驱动的决定。没有它，受影响的用户将没有任何补救措施，问题可能永远不会被提出来或解决。组织应该在使用时提供报告渠道，分配高级所有者来管理投诉，并确保系统可以在必要时暂停、审查或更新。

基于价值观的框架的好处是什么？

采用这种基于价值观的 AI 治理方法有两个有力的理由。首先，构建和部署 AI 系统的组织有道德责任，确保他们不会滥用个人数据或将用户置于不必要的风险之中；其次，这是一种更有效的方法，可以在实践中实现 AI 的承诺的好处。

AI 系统的用户，无论是企业还是个人，都会对其创造者隐含地信任他们不会滥用个人数据或将他们置于不必要的风险之中。当组织违反这种信任时，他们很难保留这些用户。最终，除非人们信任 AI 系统并且可以看到它们带来的明显好处，否则他们不会接受它们的引入。这将导致更多的社会和经济分裂，我们将错过许多由这项技术提供的机会。

另一方面，公司如果在所有地区（包括治理要求较宽松的地区）都采用基于价值观的框架，可以向客户、投资者和监管机构展示，他们正在遵循比基本合规性要求更高的标准。这建立了信任、参与度和最终的商业成功。

强大的 AI 治理是价值的创造者，而不是合规负担。它使企业能够更快地将新产品推向市场，降低风险暴露，并在多个市场中自信地扩大解决方案的规模。

麦肯锡的“AI 现状”报告 发现 ，“CEO 对 AI 治理的监督……是与组织的通用 AI 使用相关的自我报告的底线影响最相关的因素”，这强调了此类方法的商业效益。在这方面，构建强大的道德框架到 AI 系统中代表了开明的自利。

除此之外，这只是正确的事情。我们围绕同一原则构建了我们的全球道德 AI 政策：先进技术必须服务于人们和社会，而不是相反。这反映了社会 5.0 的更广泛的愿景：一个以人为本的创新模型，旨在将经济进步与解决社会挑战结合起来。

如果像 AI 这样的新兴技术要促进一个更幸福、更和谐的社会，它们必须建立在坚实的道德基础上。这始于关注不仅是组织必须满足的标准，还包括他们希望实现的标准。