白宫的人工智能权利法案对美国和世界其他地区的意义

白宫科学和技术政策办公室（OSTP）最近发布了一份名为“人工智能权利法案蓝图：让自动化系统为美国人民服务”的白皮书。这一框架是在OSTP宣布启动“为人工智能世界开发权利法案”的过程开始一年后发布的。

该法案的序言清楚地说明了白宫理解人工智能对社会构成的迫在眉睫的威胁。这是序言中所述的内容：

“当今民主面临的重大挑战之一是技术、数据和自动化系统的使用方式，这些方式威胁着美国公众的权利。这些工具经常被用来限制我们的机会，阻止我们访问关键资源或服务。这些问题是有据可查的。在美国和世界各地，原本应该帮助患者护理的系统被证明是不安全、无效或有偏见的。用于招聘和信用决策的算法被发现反映和延续了现有的不平等或嵌入新的有害偏见和歧视。未经检查的社交媒体数据收集被用来威胁人们的机会，破坏他们的隐私，或无处不在地跟踪他们的活动——往往是在没有他们的知识或同意的情况下。”

该人工智能权利法案和其提出的框架将对人工智能的未来意味着什么尚有待观察。我们所知道的是，新的发展正在以指数级的速度出现。曾经被认为是不可能的，即时语言翻译现在已经成为现实，同时我们也正在经历由OpenAI和其著名的GPT-3平台领导的自然语言理解（NLU）革命。

从那时起，我们已经看到通过一种称为稳定扩散的技术实现了瞬间图像生成，这可能很快就会成为主流消费产品。简而言之，这项技术允许用户简单地输入任何他们可以想象的查询，然后人工智能就会生成一幅与查询相匹配的图像。

在考虑指数增长和加速回报法则时，很快就会有一个时候，人工智能将占据生活的每个方面。那些了解这一点并利用这一范式转变的个人和公司将会受益。遗憾的是，社会的很大一部分可能会成为人工智能故意和非故意后果的牺牲品。

人工智能权利法案旨在支持政策和实践的制定，以保护民权和促进自动化系统的建设、部署和治理中的民主价值。该法案将如何与中国的方法相比尚有待观察，但它是一项有可能改变人工智能格局的权利法案，可能会被像澳大利亚、加拿大和欧盟这样的盟友所采用。

然而，人工智能权利法案是非强制性的，不构成美国政府的政策。它不超越、修改或解释任何现有的法令、法规、政策或国际文书。这意味着将由企业和政府自行遵守本白皮书中概述的政策。

该法案已经确定了五项原则，应指导自动化系统的设计、使用和部署，以保护美国公众在人工智能时代：

1. 安全有效的系统

人工智能系统，特别是那些依赖深度学习的系统，对社会构成明显的危险。这些原则试图解决这个问题：

“您应该免受不安全或无效系统的侵害。自动化系统应该在多元化社区、利益相关者和领域专家的咨询下开发，以识别系统的顾虑、风险和潜在影响。系统应该经过预部署测试、风险识别和缓解，以及持续监测，以证明它们是安全和有效的，基于其预期用途、不安全结果的缓解（包括超出预期用途的结果）和遵守特定领域的标准。这些保护措施的结果应该包括不部署系统或从使用中删除系统的可能性。自动化系统不应被设计为故意或合理地预见可能危及您的安全或您社区的安全。它们应该被设计为主动保护您免受自动化系统的非预期使用或影响所带来的危害。您应该免受不当或不相关的数据使用的侵害，在自动化系统的设计、开发和部署中，以及免受其重复使用的累积危害。独立评估和报告，确认系统是安全和有效的，包括采取的缓解潜在危害的步骤，应该被执行和公开，尽可能地公开结果。”

2. 算法歧视保护

这些政策解决了企业滥用个人的一些问题。

使用人工智能系统招聘人员时，一个常见的问题是深度学习系统经常在有偏见的数据上进行训练，以达到招聘结论。这基本上意味着过去的不良招聘做法将导致人工智能招聘代理的性别或种族歧视。 一项研究表明，尝试去性别化训练数据的困难。

政府有偏见的数据的另一个核心问题是错误逮捕的风险，或甚至更糟糕的犯罪预测算法，这些算法为少数民族提供更长的监禁期。

“您不应面临算法歧视，系统应该被设计和使用以公平的方式。算法歧视发生在自动化系统导致基于种族、颜色、民族、性别（包括怀孕、分娩和相关医疗条件、性别认同、间性状态和性取向）、宗教、年龄、国籍、残疾、退伍军人身份、基因信息或法律保护的任何其他分类的不合理的不同待遇或影响。根据具体情况，算法歧视可能违反法律保护。自动化系统的设计者、开发者和部署者应该采取主动和持续的措施来保护个人和社区免受算法歧视，并以公平的方式使用和设计系统。这一保护应该包括系统设计的一部分的主动公平评估，使用代表性数据和保护免受人口统计特征的代理，确保为残疾人设计和开发的无障碍，预部署和持续的差异测试和缓解，以及明确的组织监督。独立评估和以算法影响评估的形式以清晰语言报告，包括差异测试结果和缓解信息，应该被执行和公开，尽可能地公开。”

值得注意的是，美国在人工智能方面采取了非常透明的方法，这些政策旨在保护公众，一种与中国采取的人工智能方法形成鲜明对比。

3. 数据隐私

这一数据隐私原则可能是最有可能影响社会最大部分的原则。该原则的第一部分似乎关注数据的收集，特别是通过互联网收集的数据，这是一个众所周知的问题，尤其是对于社交媒体平台。这些数据可以被用于出售广告，甚至更糟糕的是，操纵公众舆论和影响选举。

“您应该免受滥用数据行为的侵害，并且您应该对有关您的数据的使用拥有代理权。您应该免受设计选择的侵害，这些设计选择可以确保保护是默认启用的，包括确保数据收集符合合理的期望，并且只收集特定上下文中严格必要的数据。自动化系统的设计者、开发者和部署者应该寻求您的许可，并尊重您关于收集、使用、访问、转移和删除您的数据的决定，以适当的方式和最大程度地可能；如果不可能，应使用替代的隐私保护措施。系统不应采用用户体验和设计决策来混淆用户选择或让用户承担侵犯隐私的默认设置的负担。同意只应用于证明数据收集在可以适当和有意义地给出的情况下是合理的。任何同意请求都应简洁、易于理解，并让您对数据收集和使用的具体上下文拥有代理权；当前难以理解的通知和选择实践应更改为更广泛的数据使用。”

该数据隐私原则的第二部分似乎关注政府和企业的监视。

目前，企业能够监控和监视员工，在某些情况下可能是为了提高工作场所的安全性，在COVID-19大流行期间可能是为了执行佩戴口罩的规定，大多数情况下只是为了监控工作时间的使用。 在许多情况下，员工感到自己被监控和控制超过了可接受的程度。

“增强的保护和限制应针对敏感领域的数据和推断，包括健康、工作、教育、刑事司法和金融，以及与青年有关的数据，应优先考虑您。敏感领域的您的数据和相关推断只应用于必要的功能，您应受到道德审查和使用限制的保护。您和您的社区应免受未经检查的监视；监视技术应受到加强的监督，包括至少预部署评估其潜在危害和范围限制，以保护隐私和公民自由。持续监视和监控不应在教育、工作、住房或其他可能限制权利、机会或访问的监视技术使用的背景下使用。尽可能地，您应能够访问确认您的数据决策已被尊重并提供对监视技术对您的权利、机会或访问的潜在影响的评估的报告。”

值得注意的是，人工智能可以被用来保护人们的隐私。

4. 通知和解释

这应该是企业部署人工智能道德顾问委员会以及推动开发可解释人工智能的号召。可解释人工智能在人工智能模型出错时是必要的，了解人工智能的工作原理可以轻松诊断问题。

可解释人工智能还将允许以透明的方式共享有关如何使用数据以及人工智能为什么做出某个决定的信息。没有可解释人工智能，很难遵守这些政策，因为深度学习的黑盒问题。

专注于改进这些系统的企业也将从了解深度学习算法做出特定决策背后的细微差别和复杂性中受益。

“您应该知道自动化系统正在被使用，并且了解它如何为影响您的结果做出贡献。自动化系统的设计者、开发者和部署者应该提供一般可访问的清晰语言文档，包括自动化系统的整体功能描述、自动化在其中发挥作用的角色、系统使用的通知、负责系统的个人或组织以及对影响您的结果的解释，这些解释应该是清晰、及时和可访问的。这种通知应该保持最新，系统影响的人员应该被通知系统使用或关键功能的重大更改。您应该知道自动化系统如何和为什么对影响您的结果做出贡献，包括当自动化系统不是唯一决定结果的输入时。自动化系统应该提供技术上有效、有意义且对您和任何需要了解系统的操作员或其他人有用的解释，并且这些解释应该根据内容的风险水平进行校准。报告，包括这些自动化系统的摘要信息，以清晰语言和对通知和解释的清晰度和质量的评估，应该被执行和公开，尽可能地公开。”

5. 人类替代、考虑和回退

与上述大多数原则不同，这一原则最适用于政府实体或代表政府工作的私营机构。

即使有人工智能道德委员会和可解释人工智能，当生命处于危险之中时，回退到人工审查也很重要。总是存在错误的可能性，请求人工审查可能会避免人工智能错误地将错误的人送入监狱等情景。

司法和刑事系统最容易对社会边缘群体造成不可弥补的危害，应特别注意这一原则。

“您应该能够选择退出，并且能够访问一个人，他们可以快速考虑和解决您遇到的问题。您应该能够选择退出自动化系统，转而使用人类替代方案，在适当的情况下。适当性应该根据特定情况下的合理期望来确定，并专注于确保广泛的可访问性和保护公众免受特别有害的影响。在某些情况下，法律可能需要人类或其他替代方案。您应该能够访问一个能够及时考虑和解决问题的人类回退和升级问题，如果自动化系统失败、产生错误或您想上诉或对其影响提出异议。人类考虑和回退应该是可访问的、公平的、有效的、维护的，并且应该伴有适当的操作员培训，并且不应对公众施加不合理的负担。具有敏感域意图用途的自动化系统，包括但不限于刑事系统、就业、教育和健康，应该另外根据目的量身定制，提供对监督的有意义的访问权限，包括与系统交互的人员的培训，并将人类考虑因素纳入不利或高风险的决策中。报告，包括这些人类治理流程的描述和对其及时性、可访问性、结果和有效性的评估，应该被执行和公开，尽可能地公开。”

摘要

OSTP应该因尝试引入一个框架来弥合社会所需的安全协议与可能阻碍机器学习发展的严厉政策之间的差距而受到赞扬。

在概述原则之后，该法案继续提供了对所讨论问题的技术伴侣，以及有关每个原则和实施这些原则的最佳方法的详细信息。

精明的企业主和企业应该注意研究该法案，因为尽快实施这些政策将是有利的。

可解释人工智能将继续在重要性方面占主导地位，如该法案中的这句话所示。

“在整个联邦政府中，机构正在进行和支持关于可解释人工智能系统的研究。NIST正在进行人工智能系统可解释性的基本研究。一个由研究人员组成的多学科团队旨在开发测量方法和最佳实践，以支持可解释人工智能的核心原则的实施。国防高级研究计划局有一个关于可解释人工智能的计划，旨在创建一套机器学习技术，这些技术可以产生更可解释的模型，同时保持高水平的学习性能（预测准确性），并使人类用户能够理解、适当地信任和有效地管理新一代人工智能伙伴。国家科学基金会关于人工智能公平性的计划也包括对可解释人工智能研究基础的特定兴趣。”

不应忽视的是，最终，这些原则将成为新的标准。