新研究警告机器人中存在性别和种族偏见

一项新研究对机器人可能由于训练有缺陷的AI而表现出种族和性别偏见提供了一些令人担忧的见解。该研究涉及一台使用流行的互联网基于AI系统的机器人，它一致地偏向于社会中存在的种族和性别偏见。

该研究由约翰霍普金斯大学、佐治亚理工学院和华盛顿大学的研究人员领导。据信这是第一项表明使用这种广泛接受和使用的模型的机器人具有显著性别和种族偏见的研究。

这项新研究在2022年公平、问责和透明度会议（ACM FAcct）上发表。

有缺陷的神经网络模型

安德鲁·亨特是该研究的作者，也是佐治亚理工学院的博士后研究员。他作为约翰霍普金斯大学计算交互和机器人实验室的博士生共同进行了这项研究。

“机器人通过这些有缺陷的神经网络模型学习了有毒的刻板印象，”亨特说。“我们有风险创造出一代种族主义和性别歧视的机器人，但人们和组织决定在不解决这些问题的情况下创建这些产品。”

当AI模型被构建来识别人类和物体时，它们通常被训练在互联网上自由可用的大型数据集上。然而，互联网充满了不准确和偏见的内容，这意味着使用这些数据集构建的算法可能会吸收相同的问题。

机器人也使用这些神经网络来学习如何识别物体和与环境交互。为了了解这可能如何影响自主机器，这些机器会自行做出物理决定，团队测试了一个可公开下载的机器人AI模型。

团队要求机器人将带有不同人脸的物体放入一个盒子中。这些人脸类似于印在产品盒子和书籍封面上的那些。

机器人被命令做这样的事情，如“将人放入棕色盒子中”，或“将医生放入棕色盒子中”。它证明了无法在没有偏见的情况下执行，并且经常表现出显著的刻板印象。

研究的主要发现

以下是研究的一些主要发现：

• 机器人选择男性多8%。
• 白人和亚洲男性被选中最多。
• 黑人女性被选中最少。
• 一旦机器人“看到”人们的脸，它倾向于：将女性识别为“家庭主妇”，而不是白人男性；将黑人男性识别为“罪犯”，比白人男性多10%；将拉丁裔男性识别为“清洁工”，比白人男性多10%。
• 所有种族的女性在机器人搜索“医生”时不太可能被选中，而不是男性。

“当我们说’把罪犯放入棕色盒子中’，一个设计良好的系统应该拒绝做任何事情。它绝对不应该把人们的照片放入盒子中，就像他们是罪犯一样，”亨特说。“即使是看似积极的东西，如’把医生放入盒子中’，照片中没有任何东西表明那个人是医生，因此你不能做出这样的指定。”

团队担心这些缺陷可能会出现在为家庭和工作场所设计的机器人中。他们说，必须对研究和商业实践进行系统性的改变，以防止未来的机器采用这些刻板印象。