白宫的人工智能权利法案对美国和世界其他地区的意义

白宫科学和技术政策办公室（OSTP）最近发布了一份名为“人工智能权利法案蓝图：让自动化系统为美国人民服务”的白皮书。这一框架是在OSTP宣布启动“为人工智能世界开发一项权利法案”的过程一年后发布的。

该法案的前言清楚地说明了白宫理解人工智能对社会构成的迫在眉睫的威胁。这是前言中所述的内容：

“在今天对民主构成的重大挑战中，技术、数据和自动化系统的使用方式威胁着美国公众的权利。这些工具经常被用来限制我们的机会和阻止我们获得关键资源或服务。这些问题是有据可查的。在美国和世界各地，原本应该帮助患者护理的系统被证明是不安全、无效或有偏见的。用于招聘和信用决策的算法被发现反映和复制了现有的不想要的不平等或嵌入新的有害偏见和歧视。未经检查的社交媒体数据收集被用来威胁人们的机会、破坏他们的隐私或无处不在的跟踪他们的活动——往往没有他们的知识或同意。”

该《权利法案》和其提出的框架将对人工智能的未来意味着什么尚待观察。我们知道的是，新发展正在以指数级的速度涌现。曾经被认为是不可能的，即时语言翻译现在已经成为现实，同时我们也正在经历由OpenAI和其著名的GPT-3平台领导的自然语言理解（NLU）革命。

从那时起，我们已经看到了通过一种称为稳定扩散的技术实现的瞬间图像生成，这可能很快会成为主流消费产品。本质上，使用这种技术，用户可以简单地输入任何他们可以想象的查询，人工智能就会生成与查询相匹配的图像。

当我们考虑到指数增长和加速回报定律时，很快就会有一个时候，人工智能将占据生活的每个方面。了解这一范式转变并利用它的个人和公司将会受益。遗憾的是，社会的很大一部分可能会成为人工智能的故意和非故意后果的受害者。

人工智能权利法案旨在支持制定和实施保护民权、促进自动化系统建设、部署和治理中的民主价值的政策和做法。该法案将如何与中国的方法相比尚待观察，但这是一个有可能改变人工智能格局的权利法案，可能会被像澳大利亚、加拿大和欧盟这样的盟友采用。

话虽如此，人工智能权利法案是非强制性的，不构成美国政府的政策。它不取代、修改或解释任何现有的法令、法规、政策或国际文书。 这意味着将由企业和政府遵守本白皮书中概述的政策。

该法案已经确定了五项原则，应指导自动化系统的设计、使用和部署，以保护人工智能时代的美国公众。以下我们将概述这5项原则：

1. 安全有效的系统

有明显和现实的危险威胁着社会，特别是那些依赖深度学习的滥用人工智能系统。这是通过以下原则来解决的：

“您应该受到保护，不受不安全或无效系统的影响。 自动化系统应该在多元化社区、利益相关者和领域专家的咨询下开发，以确定系统的顾虑、风险和潜在影响。系统应该经过预部署测试、风险识别和缓解，以及持续监测，以证明它们是安全和有效的，基于其预期用途、缓解不安全结果（包括超出预期用途的结果）以及遵守特定领域的标准。这些保护措施的结果应该包括不部署系统或从使用中删除系统的可能性。自动化系统不应该被设计为意图或合理预见的可能危及您的安全或您社区的安全。它们应该被设计为积极保护您免受人工智能系统使用或影响的无意或预见的危害。您应该受到保护，不受不适当或不相关的数据使用的影响，在自动化系统的设计、开发和部署中，以及数据的复合危害的影响。独立的评估和报告应该进行，以确认系统是安全和有效的，包括采取的缓解潜在危害的步骤，并且这些结果应该在可能的情况下公开。”

2. 算法歧视保护

这些政策解决了企业滥用个人时出现的一些问题。

使用人工智能系统招聘人员时，一个常见的问题是深度学习系统通常会在有偏见的数据上进行训练，以达到招聘结论。这基本上意味着过去的不良招聘做法将导致人工智能代理的性别或种族歧视。 一项研究表明，尝试去性别化训练数据的困难。

政府有偏见的数据的另一个核心问题是错误逮捕的风险，或者更糟糕的是犯罪预测算法，为少数民族提供更长的监禁期。

“您不应面临算法歧视，系统应该以公平的方式使用和设计。 算法歧视发生在自动化系统导致基于种族、肤色、民族、性别（包括怀孕、分娩和相关医疗条件、性别身份、性别状态和性取向）、宗教、年龄、国籍、残疾、退伍军人身份、基因信息或法律保护的任何其他分类的不合理的区别对待或影响。根据具体情况，例如算法歧视可能违反法律保护。自动化系统的设计者、开发者和部署者应该采取积极和持续的措施，保护个人和社区免受算法歧视，并以公平的方式使用和设计系统。这应该包括设计中的积极公平性评估、代表性数据的使用和对人口统计特征的代理保护、确保残疾人在设计和开发中的可访问性、预部署和持续的差异测试和缓解，以及明确的组织监督。独立评估和以算法影响评估的形式进行的普通语言报告，包括差异测试结果和缓解信息，应该在可能的情况下进行和公开，以确认这些保护措施。”

值得注意的是，美国在人工智能方面采取了非常透明的方法，这些政策旨在保护公众，这与中国采取的人工智能方法形成鲜明对比。

3. 数据隐私

这一数据隐私原则可能会影响最大的人口群体。原则的第一部分似乎关注数据的收集，特别是通过互联网收集的数据，这是社交媒体平台的一个众所周知的问题。这些数据然后可以用于出售广告，甚至更糟糕的是操纵公众舆论和影响选举。

“您应该受到保护，免受滥用数据行为的影响，通过内置的保护，并且您应该对如何使用您的数据有发言权。 您应该受到保护，免受违反隐私的侵害，通过设计选择，确保这些保护措施被包含在内，包括确保数据收集符合合理的期望，并且只收集特定上下文中严格必要的数据。自动化系统的设计者、开发者和部署者应该寻求您的许可，并尊重您关于数据收集、使用、访问、转移和删除的决定，以适当的方式和最大程度地可能；如果不可能，应该使用替代的隐私保护措施。系统不应该采用用户体验和设计决策来模糊用户选择或让用户承担入侵性默认设置的负担。同意只应该用于证明数据收集在可以适当和有意义地给出的情况下。任何同意请求应该简洁、易于理解，并给您对数据收集和使用上下文的发言权；当前的难以理解的通知和选择做法应该改变。”

数据隐私原则的第二部分似乎关注政府和企业的监视。

目前，企业能够监控和监视员工，在某些情况下可能是为了提高工作场所安全，在COVID-19大流行期间是为了强制佩戴口罩，通常只是为了监控工作时间的使用。在许多情况下，员工感到自己被监控和控制超过了可接受的程度。

“增强的保护和限制适用于敏感领域的数据和推断，包括健康、工作、教育、刑事司法和金融，以及与青年有关的数据，应该优先考虑您。 在敏感领域，您的数据和相关推断只应该用于必要的功能，您应该受到道德审查和使用禁令的保护。您和您的社区应该免受未经检查的监视；监视技术应该受到加强的监督，包括至少预部署评估其潜在危害和范围限制，以保护隐私和民权。持续监视和监控不应该在教育、工作、住房或其他使用此类监视技术可能限制权利、机会或访问的背景下使用。您应该在可能的情况下拥有确认您的数据决策已被尊重的报告，并提供对监视技术对您的权利、机会或访问的潜在影响的评估。”

值得注意的是，人工智能可以被用来保护人们的隐私。

4. 通知和解释

这应该是企业部署人工智能道德顾问委员会以及推动开发可解释的人工智能的号召。可解释的人工智能在人工智能模型出错时是必要的，了解人工智能的工作原理可以轻松诊断问题。

可解释的人工智能还将允许透明地共享有关数据使用情况的信息以及人工智能做出决定的原因。没有可解释的人工智能，根据深度学习的黑盒问题，将不可能遵守这些政策。

专注于改进这些系统的企业也将从了解深度学习算法做出特定决定背后的细微差别和复杂性中受益。

“您应该知道自动化系统正在被使用，并且了解它如何为影响您的结果做出贡献。 自动化系统的设计者、开发者和部署者应该提供一般可访问的普通语言文档，包括自动化系统的总体功能的清晰描述、自动化在系统中的作用、系统的责任人或组织以及对影响您的结果的解释。这些通知应该保持最新，并且系统影响的人员应该被通知有关系统使用情况或关键功能的重大更改。您应该知道自动化系统如何和为什么决定了影响您的结果，包括当自动化系统不是唯一决定结果的输入时。自动化系统应该提供技术上有效、对您有意义和有用的解释，并且根据内容的风险水平进行校准。包括有关这些自动化系统的摘要信息和通知和解释的清晰度和质量的评估的报告应该在可能的情况下公开。”

5. 人类替代、考虑和回退

与上述大多数原则不同，这一原则最适用于政府实体或代表政府工作的私营机构。

即使有人工智能道德委员会和可解释的人工智能，当生命岌岌可危时，回退到人工审查也很重要。总是有错误的潜在风险，人工审查可能会避免人工智能错误地将错误的人送入监狱的情况。

司法和刑事系统有最大的空间可能会对社会的边缘群体造成无法弥补的伤害，应该特别注意这一原则。

“您应该能够选择退出，适当时，并且能够访问一个人，可以快速考虑和解决您遇到的问题。 您应该能够选择退出自动化系统，转而使用人工替代方案，适当时。适当性应该基于特定上下文的合理期望，并且关注确保广泛的可访问性和保护公众免受特别有害的影响。某些情况下，可能需要人工或其他替代方案。您应该能够获得及时的人工审查和解决问题的机会，如果自动化系统失败、产生错误或您想上诉或对其影响提出异议。人工审查和回退应该是可访问的、公平的、有效的、维护良好的，并且应该伴有适当的操作员培训，并且不应该对公众施加不合理的负担。自动化系统的预期使用范围在敏感领域，包括但不限于刑事司法系统、就业、教育和健康，应该另外根据目的量身定制，提供对监督的有意义的访问权限，包括与系统交互的任何人员的培训，并且应该包含对不利或高风险决策的考虑。人工治理流程的描述和对其及时性、可访问性、结果和有效性的评估的报告应该在可能的情况下公开。”

摘要

OSTP 应该因尝试引入一个框架来弥合社会所需的安全协议和可能阻碍机器学习发展的严厉政策之间的差距而受到赞扬。

在概述原则之后，该法案继续提供有关所讨论问题的技术伴侣以及有关每个原则和实施这些原则的最佳方法的详细信息。

精明的企业主和企业应该注意研究这项法案，因为尽快实施这些政策只会有益。

可解释的人工智能将继续在重要性方面占据主导地位，如该法案中的这句话所示。

“在整个联邦政府中，机构正在进行和支持有关可解释人工智能系统的研究。NIST 正在进行人工智能系统可解释性的基本研究。一个由研究人员组成的跨学科团队旨在开发测量方法和最佳实践，以支持可解释人工智能的核心原则的实施。DARPA 有一个关于可解释人工智能的计划，旨在创建一套机器学习技术，产生更可解释的模型，同时保持高水平的学习性能（预测准确性），并使人类用户能够理解、适当信任和有效管理新一代人工智能伙伴的出现。国家科学基金会关于人工智能公平性的计划也包括对可解释人工智能研究基础的特定兴趣。”

不应忽视的是，最终，这些原则将成为新的标准。