负责任的人工智能是什么？原则、挑战和益处

负责任的人工智能（RAI）是指设计和部署透明、公平、负责和遵循道德准则的人工智能系统。随着人工智能系统变得更加强大和普遍，确保它们以负责任的方式开发和遵循安全和道德准则至关重要。

医疗保健、交通、网络管理和监控是安全关键人工智能应用，系统故障可能会产生严重后果。大公司意识到负责任的人工智能对于减轻技术风险至关重要。然而，根据麻省理工学院斯隆管理学院和波士顿咨询公司的一份报告，包括1093名受访者，54%的公司缺乏负责任的人工智能专业知识和人才。

尽管思想领袖和组织已经制定了负责任的人工智能的原则，但确保人工智能系统的负责任开发仍然存在挑战。让我们详细探讨这个想法：

5个负责任的人工智能原则

1. 公平性

技术人员应该设计程序，以确保人工智能系统公平地对待所有个人和群体，而不带有偏见。因此，在高风险决策应用中，公平性是主要要求。

公平性被定义为：

“检查对各种人口群体的影响，并选择一种数学定义的群体公平性，以满足所需的法律、文化和道德要求。”

2. 责任

责任意味着开发和部署人工智能系统的个人和组织应该对其决策和行动负责。部署人工智能系统的团队应该确保其人工智能系统是透明的、可解释的、可审计的，并且不会对社会造成伤害。

责任包括七个组成部分：

1. 背景（需要责任的目的）
2. 范围（责任的主题）
3. 代理（谁负责？）
4. 论坛（负责方必须向谁报告）
5. 标准（责任的标准）
6. 过程（责任的方法）
7. 影响（责任的后果）

3. 透明度

透明度意味着人工智能系统中的决策理由是清晰和可理解的。透明的人工智能系统是可解释的。

根据可信任人工智能评估清单（ALTAI），透明度有三个关键元素：

1. 可追溯性（数据、预处理步骤和模型是可访问的）
2. 可解释性（决策/预测的理由是清晰的）
3. 开放沟通（关于人工智能系统的局限性）

4. 隐私

隐私是负责任人工智能的主要原则之一。它指的是保护个人信息的保护。这一原则确保个人信息是经过同意收集和处理的，并且不被恶意人员获取。

最近，Clearview，一家为执法机构和大学开发面部识别模型的公司，曾被英国数据监管机构以750万英镑的罚款处罚，因为他们未经同意从社交媒体上收集了20亿张英国居民的图像。

5. 安全

安全意味着人工智能系统是安全的，不会对社会构成威胁。人工智能安全威胁的一个例子是对抗性攻击。这些恶意攻击会欺骗机器学习模型，使其做出错误的决定。保护人工智能系统免受网络攻击对于负责任的人工智能至关重要。

4个主要的负责任人工智能挑战和风险

1. 偏见

与年龄、性别、国籍和种族相关的人类偏见会影响数据收集，可能导致有偏见的人工智能模型。美国商务部的一项研究发现，面部识别人工智能会错误识别有色人种。因此，在执法中使用人工智能进行面部识别可能会导致错误逮捕。此外，创建公平的人工智能模型具有挑战性，因为有21个不同的参数来定义它们。因此，存在权衡；满足一个公平的人工智能参数意味着牺牲另一个。

2. 可解释性

可解释性是开发负责任人工智能的关键挑战。它指的是了解机器学习模型如何得出特定的结论。

深度神经网络缺乏可解释性，因为它们作为黑盒子运行，具有多个隐藏层的神经元，使得理解决策过程变得困难。这在高风险决策中可能是一个挑战，例如医疗保健、金融等。

此外，正式化机器学习模型中的可解释性具有挑战性，因为它是主观的和特定于领域的。

3. 治理

治理指的是一套规则、政策和程序，用于监督人工智能系统的开发和部署。最近，人工智能治理话语取得了显著进展，组织提出了框架和道德准则。

欧盟的可信任人工智能道德准则、澳大利亚人工智能道德框架和经合组织人工智能原则是人工智能治理框架的例子。

但是，近年来人工智能的快速发展可能会超越这些人工智能治理框架。为此，需要一个框架来评估人工智能系统的公平性、可解释性和道德性。

4. 监管

随着人工智能系统变得更加普遍，需要监管来考虑道德和社会价值。开发不扼杀人工智能创新的监管是一个关键挑战。

即使有通用数据保护条例（GDPR）、加利福尼亚消费者隐私法案（CCPA）和个人信息保护法（PIPL）等监管机构，人工智能研究人员发现97%的欧盟网站未能遵守GDPR法律框架要求。

此外，立法者面临着重大的挑战，即就人工智能的定义达成一致，包括经典人工智能系统和最新的人工智能应用。

3个主要的负责任人工智能益处

1. 减少偏见

负责任的人工智能减少了决策过程中的偏见，建立了对人工智能系统的信任。减少人工智能系统中的偏见可以提供公平和公正的医疗保健系统，并减少人工智能金融服务中的偏见等。

2. 提高透明度

负责任的人工智能使人工智能应用变得透明，建立了对人工智能系统的信任。透明的人工智能系统降低了错误和滥用的风险。提高透明度使得审计人工智能系统更容易，赢得了利益相关者的信任，并可以导致负责的人工智能系统。

3. 更好的安全性

安全的人工智能应用确保数据隐私，产生可靠和无害的输出，并且免受网络攻击。

微软和谷歌等科技巨头已经开发了负责任的人工智能原则。负责任的人工智能确保人工智能的创新不会对个人和社会造成伤害。

思想领袖、研究人员、组织和法律当局应该不断修订负责任的人工智能文献，以确保人工智能创新的安全未来。

有关更多人工智能相关内容，请访问unite.ai。