思想领袖

企业为何应采取以价值观为基础的人工智能治理方式

Isabella Grandi
将 Unite.AI 添加到您在 Google 上的首选来源
要点基于价值观的人工智能治理框架使企业能够在全球范围内运营,无需为每个司法管辖区重建系统。
查看更多
  • 基于价值观的人工智能治理框架使企业能够在全球范围内运营,无需为每个司法管辖区重建系统。
  • 采纳问责制与公平性等六大核心价值有助于建立公众信任,并满足最高的道德标准。
  • 强大的人工智能治理通过加速市场准入和降低跨区域风险,为企业创造商业价值。

2025年9月,联合国所有成员国首次齐聚一堂,讨论国际人工智能治理;其中许多国家又派代表参加了2月在德里举行的人工智能影响力峰会。此次活动促成了两个以人工智能治理为重点的新机构,但充其量只取得了象征性的成功。

联合国的新机制旨在争取共识,因此避开了人工智能军事用途等争议领域,而且缺乏明确的资金来源和执行权力。对有经验的观察者而言,这不足为奇。如今的联合国既难以迅速行动,也无法确保各方普遍遵守其决定,因此很难在这一平台上推动实质性变革。

这延续了一种长期存在的模式。尽管多年来围绕人工智能监管开展了零散的共识建设尝试,但始终没有达成重大的国际协议,由此形成的治理空白迫使各国及国家集团制定自己的规则。然而,如果我们希望人工智能得到广泛采用、赢得公众信任,并带来持久的社会和经济效益,有效治理就至关重要

权宜应对,反复修补

对于开发和运营人工智能系统的全球企业而言,缺乏共同认可的统一治理机制是一大难题。它们希望在全球部署系统,但没有两个司法管辖区遵循完全相同的规则。因此,企业只能先为系统建立一个通用治理框架,再在每一个经营所在国从头重建该框架,以确保符合当地法律法规。这种做法带来大量额外工作,推高人工智能项目成本并增加延误风险,也削弱了全球企业实现规模经济、向各地用户提供有效工具的能力。

不过,还有另一条路。对于希望简化做法的企业,最佳选择或许是建立一个兼顾不同地区共同伦理原则的人工智能治理框架,确保无论在哪里,都以高标准保护个人自由、隐私和安全。这是人工智能企业增强公众对技术的信任、巩固客户基础并发挥人工智能社会效益潜力的有力途径。

人工智能治理的六项核心价值

对于希望采取价值观导向治理方式的组织,我建议采用我们遵循的六项核心价值:问责、可解释性、透明度、公平、安全,以及对决策提出异议的能力。

我们选择这些价值,是因为它们覆盖人工智能系统生命周期的所有主要领域,并已载入多项相关国际和国家标准,例如国际标准化组织的ISO/IEC 42001以及《英国政府人工智能应用指南》。

首先,问责意味着清楚知道,在人工智能生命周期的每个阶段,谁对什么负责。如果责任归属不清,关键控制措施就可能被遗漏,因为没有任何个人或团队承担最终责任。组织应为人工智能系统及关键阶段指定具名的高级负责人,例如首席人工智能官,并采用基于风险的治理模式,对第三方工具和内部开发工具进行同样严格的审查。这意味着,组织应像了解自己的系统一样,充分了解供应商条款、限制和法律责任。

经济合作与发展组织(OECD)在关于加强人工智能问责的指导文件中准确阐述了这一点,建议组织建立“将人工智能风险管理流程融入更广泛组织治理的机制,在组织内部及整个人工智能价值链中培育风险管理文化”。

其次是可解释性。组织应当能够说明,人工智能系统是如何作出决策的。这需要记录和追溯决策过程的机制,以及清晰的系统设计、训练数据和决策流程记录。这些措施共同帮助团队理解信息的来源和流转过程,覆盖从系统构想到部署的整个阶段。

公平旨在确保人工智能系统产生公正的结果,不复制或放大已有偏见。如果没有有针对性的检查,系统可能因输出偏颇结果而造成伤害,在招聘、医疗保健和刑事司法等高影响领域尤其如此。为减轻这种风险,组织应采取偏见检测措施,定期检查相关群体的输出结果,并设计能够适应当地反歧视要求的治理框架。实践中,这意味着系统应达到其可能遇到的最高法律标准,包括英国《2010年平等法》和《欧盟基本权利宪章》等法律规定的义务。

透明度旨在让用户和监管机构都能清楚了解情况。人们应知道何时使用了人工智能、它在决策中发挥什么作用,以及以哪些数据为基础。一个切实可行的起点,是统一各人工智能系统的文档标准,并借助模型卡等内部工具提供支持。模型卡是随机器学习模型提供的简短文件,说明模型预期使用的场景、性能评估程序的细节及其他相关信息。缺乏透明度,用户就无法质疑不公正的结果,监管机构也无法有效介入,而有害影响可能被掩盖。

安全涉及保护人工智能系统免遭未经授权的访问、操纵或非预期行为。如果安全薄弱,人工智能就可能让组织、用户及其数据面临风险,并造成财务和声誉损失。组织应设定性能与准确率阈值,在真实场景条件下进行压力测试,并纳入红队测试以发现漏洞。

最后,可提出异议确保人们有清晰、便利的途径来质疑人工智能驱动的决策或提出申诉。没有这种机制,受影响用户就没有救济渠道,问题也可能永远无法暴露或解决。组织应在使用环节提供问题报告渠道,指定高级负责人处理投诉,并确保必要时可以暂停、审查或更新系统。

价值观导向的框架有哪些好处?

采用这种价值观导向的人工智能治理方式,有两个重要理由。首先,开发和部署系统的主体对受到系统影响的人与组织负有伦理责任;其次,这种方式能更有效地在实践中兑现人工智能承诺的收益。

无论企业用户还是个人用户,都默认相信系统开发者不会滥用个人数据,也不会使他们承担不必要的风险。一旦组织辜负这种信任,就很难留住用户。归根结底,只有两个条件同时满足,人们才会接受系统的引入:信任这些系统,并能看到它们带来的明确好处。否则,社会和经济分化会加剧,我们也将错失这项技术提供的许多机会。

反过来,在所有地区都采用价值观导向框架的企业,包括在治理要求较宽松的地区,可以向客户、投资者和监管机构证明,它们对自己的要求高于基本合规标准。这能增强信任和参与,最终促进商业成功。

强有力的人工智能治理能够创造价值,而不是合规负担。它让企业更快地将新产品推向市场,降低风险敞口,并有信心地在多个市场扩大解决方案的应用规模。

麦肯锡的《人工智能现状》报告发现 “首席执行官对人工智能治理的监督……是与以下情况相关性最强的因素之一:组织自行报告,使用生成式人工智能对其净利润产生了更大的影响”,这凸显了此类做法的商业效益。从这个角度看,将坚实的伦理框架融入人工智能系统,是一种明智的自身利益追求。

除此之外,这本身就是正确的事。我们围绕同一原则制定了全球人工智能伦理政策:先进技术必须服务于人与社会,而非反过来。这体现了社会5.0更广泛的愿景,即以人为本的创新模式,力求将经济进步与社会挑战的解决相结合。

如果人工智能等新兴技术要促进更幸福、更和谐的社会,就必须以坚实的伦理基础为支撑。起点不仅是关注组织必须满足的标准,也要关注它们希望达到的标准。

伊莎贝拉·格兰迪(Isabella Grandi)是NTT DATA UK&I的数据与人工智能战略、治理和伦理总监。她与各组织合作,共同制定和实施负责任的人工智能和人工智能治理,帮助他们从当前状态转变为更成熟、数据驱动的运营模式。她的工作重点是将伦理实践和强大的人工智能风险管理融入组织设计和部署人工智能的方式,确保负责任的使用被构建到决策结构和日常运营中。