布拉德福德·纽曼，北美贸易秘密实践主席 – 采访系列

布拉德福德专门处理与贸易秘密和人工智能相关的事务。他是美国律师协会人工智能分委员会的主席。 2019年，布拉德福德被《每日杂志》评为加利福尼亚州20位顶尖人工智能律师之一。他在提出2018年被美国众议院讨论草案的联邦人工智能工作场所和知识产权立法方面发挥了重要作用。他还制定了人工智能监督和公司治理最佳实践，以确保算法公平。

是什么最初引发了您对人工智能的兴趣？

我多年来一直代表世界领先的创新者和人工智能产品及技术的生产商。我的兴趣一直是去了解机器学习的法律和技术方面，并观察人工智能的演变。我对人工智能在各个领域的应用前景感到着迷。

您是人工智能理性监管的坚定倡导者，特别是在保护公共卫生的监管方面。您能否讨论一下您的一些主要担忧？

我相信我们处于人类历史上最深刻的革命的早期阶段。人工智能有可能影响我们生活的每个方面，从我们早上醒来到晚上睡觉 — 并且还会影响我们睡眠期间的生活。人工智能的许多应用将会积极地影响我们的生活质量，并可能延长我们的寿命作为一个物种。

目前，从计算机科学和机器学习的角度来看，人类仍然深度参与人工智能的过程，从编写算法到理解训练数据集，再到处理结果，认识到人工智能的局限性和产品化技术。

但是，我们正面临着两个主要挑战。首先，所谓的“黑盒子”问题：随着人工智能的复杂性（如人工神经网络）的增加，人类对人工智能的理解和参与将会减少。其次，政府和私人利益对人工智能的使用将会增加。

我的担忧是，人工智能将被故意或无意地用于与西方民主理念中的个人自由和自由相悖的方式。

我们如何解决这些问题？

社会已经到了我们必须解决不是什么可以用人工智能做，而是什么应该被禁止或部分限制的地步。

首先，我们必须明确哪些决定不能完全或部分由人工智能的算法输出做出。这意味着，即使每个专家都同意输入和输出的数据是完全无偏见、透明和准确的，我们仍然需要立法禁止使用人工智能进行任何预测或实质性决策。

承认这一点在一个我们渴望数学确定性的世界中似乎违反直觉，但是建立人工智能的“禁飞区”对于保护我们珍视的自由和民主的基础至关重要。

其次，对于其他基于人工智能分析的决策，我们需要立法明确规定哪些决策需要人类参与决策过程。

您在2018年提出了一项联邦人工智能工作场所和知识产权立法，这项立法被美国众议院讨论草案采纳。您能否讨论一下这些提案的内容？

人工智能数据保护法旨在促进创新，设计用于（1）提高人工智能的透明度和可信度；（2）解决人工智能对劳动力市场的影响；（3）保护公共健康和安全。

该法案有几个关键组成部分。例如，它禁止公司仅依靠人工智能做出某些决定，包括就业和医疗治疗的决定，并禁止医疗保险提供商仅凭人工智能分析做出医疗治疗覆盖决定。它还建立了人工智能委员会 — 一个负责监管人工智能与公共健康和安全相关方面的新联邦机构，并要求公司任命首席人工智能官。

您还制定了人工智能监督和公司治理最佳实践，以确保算法公平。您目前看到人工智能系统中的一些公平性或偏见问题是什么？

这个问题已经引起了学术界和美国政府机构（如平等就业机会委员会）的密切关注。大多数情况下，偏见是由于训练数据集中的缺陷或对测试环境的理解和透明度不足所致。这也受到对人工智能缺乏中央所有权和高级管理层的监督的影响。

这种缺乏技术理解和情况意识是一个重大的责任问题。我已经与几位著名的原告律师讨论过人工智能偏见案件，他们正在寻找相关案件。

深度学习经常面临“黑盒子”问题，我们输入数据到人工神经网络中，然后输出结果，但不知道结果是如何生成的。你认为这是一个主要问题吗？

是的。随着算法和神经网络的不断演化，人类越来越不参与其中，我们面临着一个真正的风险，即我们将无法理解人工智能功能和输出的关键要素。

由于COVID-19，世界各国都引入了人工智能驱动的国家监视系统。您对此类监视的潜在滥用有多大的担忧？

忽视或低估人工智能监视的滥用风险是天真和不负责任的，尤其是从个人权利和自由的角度来看。虽然联系追踪在全球大流行中看似合理，人工智能面部识别提供了一种有效的措施，超出了人类的能力，但社会必须建立法律禁止滥用并有效的监督和执行机制。否则，我们将把个人权利和自由的核心元素交给国家。这种权利一旦被剥夺，就不会被归还。

您之前说过，“我们必须建立人工智能的‘禁飞区’，以保护美国人珍视的自由和民主的基础。”您能否分享一些您关心的问题？

讨论人工智能时，我们必须始终关注人工智能的基本目的：从大型数据集中产生准确的预测分析，并用于对人类进行分类和决策。接下来，我们必须检查决策者是谁，他们正在做出什么决定，以及他们的决定基于什么。

如果我们了解决策者是对我们的健康、生计和自由有最大影响力的雇主、房东、医生、保险公司、执法机构和其他私人、商业和政府机构，那么很容易看出，在西方自由民主国家中，应该有一些决定不能仅由人工智能做出。

虽然很多明显的决定容易想到，比如禁止在犯罪发生之前就监禁某人，但人工智能在我们生活的各个方面的广泛应用带来了更多复杂的伦理困境。例如，如果算法准确预测那些在社交媒体上发布海滩度假照片、饮酒的人比那些发布锻炼照片的人平均3.5年后更容易被解雇或辞职，那么应该仅凭算法输出就拒绝前者晋升或加薪吗？如果算法确定每天玩视频游戏超过2小时的青少年不太可能从四年制大学毕业，那么应该仅凭算法输出就拒绝这些学生入学吗？如果算法确定接受ICU治疗的COVID-19症状的60岁亚洲女性比70岁的非裔美国男性更容易生存，那么应该优先为女性提供医疗治疗吗？

这些过于简单的例子只是众多决策中的一小部分，仅凭人工智能输出进行决策将违背我们对个人人权的看法。

您还想分享关于人工智能或贝克·麦肯齐的其他内容吗？

我非常高兴能够在人工智能快速演变的环境中领导贝克·麦肯齐真正国际化的人工智能实践。我们认识到我们的客户渴望在所有人工智能相关事务上获得指导，从谈判合同到建立内部监督，从避免偏见指控到了解新兴的国内和国际监管框架。

公司希望做正确的事情，但很少有律师事务所拥有必要的专业知识和对人工智能及机器学习的理解来帮助他们。对于我们这些人工智能爱好者和律师来说，这是一个激动人心的时期，可以为客户提供真正的价值。

感谢您对这些重大社会问题的精彩答案。希望了解更多关于布拉德福德·纽曼的读者可以点击这里。