人工智能伦理联盟谴责预测犯罪算法

周二，一些人工智能研究人员、伦理学家、数据科学家和社会科学家发布了一篇博客文章，认为学术研究人员应该停止追求预测个体犯罪行为的可能性研究，基于犯罪统计和面部扫描等变量。

博客文章由批判性技术联盟撰写，该联盟认为使用此类算法会延续对少数群体的偏见循环。许多关于面部识别和预测性执法算法有效性的研究发现，这些算法往往对少数群体判断更严厉，联盟认为这是由于司法系统的不平等所致。司法系统产生有偏见的数据，因此在此数据上训练的算法也会延续这些偏见，批判性技术联盟认为。联盟认为，“犯罪性”的概念往往基于种族，因此在这些技术上进行的研究假设算法是中立的，但事实上并不存在这种中立性。

据The Verge报道，一家学术作品的大型出版商Springer计划出版一项研究，题为“使用图像处理的深度神经网络模型来预测犯罪性”。研究作者声称已经开发出一种面部识别算法，可以在没有偏见的情况下预测个人犯罪的可能性，准确率约为80%。然而，批判性技术联盟致函Springer，敦促出版商不要出版该研究或涉及类似研究的未来研究。

“像Springer这样的主要出版商传播这项工作将代表着对反复被驳斥的、在现实世界中具有社会危害的研究的合法化和应用的重大一步，”联盟认为。

Springer表示不会出版该论文，据MIT Technology Review报道。Springer表示，该论文提交给即将举行的会议，但经过同行评审后，该论文因被拒绝而未被出版。

批判性技术联盟认为，犯罪预测论文只是一个更大、有害趋势的单个实例，即人工智能工程师和研究人员试图根据敏感的、社会构建的变量预测行为。联盟还认为，许多研究都是基于科学上值得怀疑的想法和理论，这些理论没有得到生物学和心理学现有证据的支持。例如，普林斯顿和谷歌的研究人员发表了一篇文章，警告说，声称能够根据面部特征预测犯罪性的算法是基于被驳斥和危险的伪科学，如面相学。研究人员警告不要让机器学习重新激活被驳斥的理论，以支持种族主义制度。

最近的黑人生命问题运动已经促使许多使用面部识别算法的公司重新评估他们使用这些系统的做法。研究发现，这些算法经常存在偏见，基于非代表性、有偏见的训练数据。

信件的签署者除了认为人工智能研究人员应该放弃对犯罪预测算法的研究外，还建议研究人员重新评估人工智能模型的成功标准。联盟成员建议，算法的社会影响应该成为成功的衡量标准，除了精度、召回率和准确率等指标。正如论文作者所写的：

“如果机器学习要带来所谓的‘社会利益’，那么研究人员在这个领域必须积极反思使他们的工作成为可能的权力结构（和伴随的压迫）。”