安德鲁·佩里，ABBYY 的道德福音传道者 – 采访系列

安德鲁·佩里是数字智能公司 ABBYY 的道德福音传道者。他们赋予组织访问其运营中有价值但往往难以获得的见解的能力，从而实现真正的商业转型。

ABBYY最近推出了一个全球倡议，促进可靠的人工智能的发展。我们决定问安德鲁关于人工智能伦理、人工智能滥用以及人工智能行业如何解决这些问题的看法。

是什么最初引发了您对人工智能伦理的兴趣?

最初引发我对人工智能伦理兴趣的是对法律和人工智能技术交叉点的深入兴趣。我从事法律职业，代表无法承担法律服务费用的被告。然后，我转向技术，专注于高级搜索和人工智能在法律实践中的应用。作为一名认证的数据隐私专业人员，我特别热衷于隐私法和人工智能技术的适当使用，以符合和增强隐私权。

面部识别技术经常被权威机构滥用，包括美国政府。这应该是一个多大的社会问题?

面部识别技术的影响应该是一个重大的社会问题，因为它会影响许多基本权利，包括经济、社会和安全权利。

有明确的证据表明面部识别算法是不可靠的。美国国家标准与技术研究所（NIST）的一项研究发现，面部识别算法对非裔美国人有100倍的误识率。乔治城法学院的一项类似研究发现，基于警匪照片的面部识别算法会产生高比例的假阳性，尤其是针对非裔美国人。2018年麻省理工学院的一项研究发现，亚马逊面部识别软件会产生高达35%的假阳性，尤其是针对黑皮肤人群。

因此，监管机构正在采取措施禁止在监视和画像的背景下使用面部识别技术。例如，美国加利福尼亚州参议院通过了一项州范围内禁止使用面部识别技术和其他生物识别监视方法的法案。

IBM宣布停止销售面部识别软件，理由是它违反了基本人权和自由。微软也宣布了一项类似的决定，停止销售其面部识别技术，理由是基本人权。

COMPAS软件被美国法院用于犯罪风险评估，错误地将有色人种罪犯标记为比白人罪犯更容易再犯。这是否应该成为法院使用人工智能的选择?

对COMPAS的研究发现，它在预测犯罪方面并不比随机的人好。虽然预测分析在商业环境中具有显著的价值，但它已被证明会导致司法中的不平等。这在Pro Publica的一份报告中得到了体现，该报告发现COMPAS，美国法院最常用的犯罪风险评估软件，错误地将有色人种罪犯标记为比白人罪犯更容易再犯，比例是后者的两倍。

这些不平等引发了当时的司法部长埃里克·霍尔德的担忧，他对人工智能技术在预测再犯率方面的潜在不平等表示了担忧。

如何避免无意中将负面偏见编程到人工智能系统中?

首先，必须承认人工智能可能会产生无意识偏见。减轻其不利影响需要采取整体方法，包括制定人工智能道德指南，例如经合组织提出的道德框架。该框架基于七项基本原则，包括人类代理和监督、技术健全性和安全性、隐私和治理、透明度、多样性和非歧视、社会福祉和问责制。

第二，遵守保护免受自动画像的法律框架至关重要。例如，欧盟有着长期保护和尊重隐私权的历史，其最新和最强大的表达是通用数据保护条例（GDPR），该条例特别保护免受自动决策的侵害。

第三，需要行业对人工智能技术的开发和使用负责，并致力于提供透明度而不影响其专有知识产权。 Partnership on AI是一个具有80多名成员的组织，致力于研究和讨论关键的人工智能问题。

最后，技术组织应该致力于在商业发布人工智能算法之前进行偏见影响评估，特别是当这些应用影响隐私和安全权时。技术领导者在发布新的人工智能应用之前应该考虑的问题包括：训练该技术的数据是否足够多样化？如何检测偏见？如何测试和由谁测试？开发者的激励是什么？谁将从中获得商业利益？

重要的是要记住，人工智能解决方案反映了这些应用程序所训练的底层数据，因此确保这些数据不偏向并正确反映这些解决方案将要服务的多样化受众至关重要。正如人工智能研究人员乔安娜·布莱森教授所说，“如果底层数据反映了刻板印象，或者如果您从人类文化中训练人工智能，您将会发现偏见。如果我们不小心，我们将把这种偏见整合到计算机程序中，这些程序正迅速地接管从医院到学校到监狱的一切——这些程序本应消除这些偏见。”

ABBYY最近推出了全球倡议，促进可靠人工智能的发展。这一倡议对ABBYY的未来有多重要?

开发我们全球可靠人工智能倡议的决定是由我们作为一家影响全球企业和服务数万个人的组织的信念驱动的，我们有义务成为具有社会良知的好企业公民。这不仅有助于从我们的全球客户和合作伙伴那里获得更大的信任，而且还确保我们的技术继续以造福大众的方式产生深远影响。

这也从商业角度来说是有道理的。推广和支持人工智能的可靠使用可以加强我们的品牌价值，赢得全球客户和合作伙伴的信任。信任可以转化为重复业务和可持续增长。

该倡议的一部分是ABBYY致力于培养一种促进人工智能道德使用和社会效用的文化。其他公司如何才能培养这种文化?

技术公司需要建立人工智能道德使用的框架。这种承诺的程度取决于人工智能算法的预期应用。最好的衡量其影响的方法是应用“不造成伤害”的原则，并对人工智能的可靠使用做出自上而下的承诺。

同样重要的是对透明度的承诺。虽然知识产权应该与人工智能可靠性的原则保持平衡，但人工智能的负责任使用的透明度和问责制的重要性应该在整个组织中明确表达和传达。

ABBYY致力于交付具有社会和经济效益的人工智能技术。这是一个难以实现的平衡。公司如何才能实现这一点?

领导者可以通过考虑德勤提出的建议来实现这一平衡：将伦理融入人工智能开始于确定对利益相关者（如客户、员工、监管机构和公众）重要的内容。公司应该成立一个由跨职能领导者和外部顾问组成的专门的人工智能治理和咨询委员会，该委员会将与多利益相关者工作组接触，并建立和监督人工智能解决方案（包括其设计、开发、部署和使用）的治理。

我们在冠状病毒大流行期间体现了这一平衡。我们免费或以折扣价提供了许多技术，以帮助个人和组织应对危机、保持业务连续性，并在不可预测的情况下支持客户。

我们最近通过NeoML开放了我们的技术框架，NeoML是一个跨平台的开源机器学习库，允许软件开发人员利用经过验证和可靠的模型来推进人工智能创新。

您能否分享关于使用人工智能进行COVID-19应用程序的联系追踪以及平衡隐私权的需求的看法?

这是一个特别棘手的问题。有些人认为实施移动跟踪应用程序代表了对隐私权的不受欢迎的侵犯。另一方面，当涉及公共安全时，权利总是有限的。这是权利和责任之间的权衡。然而，权利并非绝对的。遏制全球大流行需要协调的行动和资源的应用，这些资源可以被负责任地使用来保护大众。

这种平衡在法律框架中得到体现。例如，通用数据保护条例（GDPR）确定了六个处理个人可识别信息的合法理由，包括一项规定，当处理对公共利益至关重要时，可以在没有数据主体同意的情况下处理个人信息。

此外，GDPR的第46条直接规定，在人道主义紧急情况（包括流行病）下，处理个人信息是正当的，但应仅在无法以其他法律依据为基础的情况下进行。

除了平衡隐私权和公共利益外，技术部门和政策制定者还应实施以人工智能驱动的画像和共享高度敏感的健康信息为特征的道德、透明和公平的指南。包括谷歌和Facebook在内的主要科技公司已经开始了跟踪用户移动以确定病毒传播情况和评估社交距离措施有效性的计划。

我相信，只要信息是匿名的，其使用就具有社会效用。

您是否还有其他关于ABBYY新全球倡议促进可靠人工智能发展的想法?

法规通常滞后于技术创新，因此公司需要在人工智能技术及其对隐私和安全权利的影响方面发挥积极作用。我们的倡议反映了我们在这一努力中的承诺。自成立以来，我们一直创造创新技术来保护有价值的信息并将其转化为可行的知识。

此外，人工智能技术的道德使用不应仅从法律角度考虑，也应从道德义务和商业原则角度考虑。如果您的解决方案具有广泛的影响力，并影响业务关键功能，则应将人工智能技术的透明度作为行业标准。

非常感谢您回答这些重要问题。要查看ABBYY的指导原则和遵守可靠人工智能原则的方法，请单击这里。任何人都可以访问ABBYY网站，了解更多关于ABBYY的信息。