美国首例错误逮捕案因算法问题而发生

上周，纽约时报报道了美国首例因算法问题导致错误逮捕的案例。该事件发生在底特律，当时一名叫罗伯特·朱利安-博尔查克·威廉斯的非裔美国男子被错误地匹配到了一段安全摄像头视频上，视频显示一个人正在实施店铺盗窃。

美国公民自由联盟（ACLU）迅速采取行动，并对底特律警察局提出投诉。之后，ACLU推动威廉斯的案件被驳回，并将他的信息从底特律的犯罪数据库中删除，检察官随后采取了这些行动。

这一发展是美国首次出现此类事件，并凸显了随着面部识别技术在全球范围内被政府和执法机构使用而出现的一些严重问题。

面部识别系统的问题

面部识别系统已经成为一个争议话题，尤其是在那些关心隐私和错误指控的人们中，随着最近在全国和世界各地对警察暴力和歧视的抗议活动，人们对其的审查只会增加。

这些算法为执法带来了一个全新的方面，但它们充满了缺陷。

威廉斯被错误指认为犯下罪行的抢劫发生在2018年10月。随后，监控视频被上传到密歇根州的面部识别数据库中。

错误指控

威廉斯的照片出现在一组照片中，一名保安将他识别为罪犯。

根据ACLU的说法，那名保安从未亲眼目睹过抢劫现场。

今年1月，威廉斯接到了一通来自底特律警察局的电话，通知他被逮捕。当他认为这通电话是恶作剧时，警察仅仅一小时后就出现在他的家中。

威廉斯随后被带到一个拘留中心，在那里他被拍摄了照片、采集了指纹和DNA，并被扣留了一整夜。

接下来，他被审问了一场他从未犯下的罪行，这一切都是因为一个有缺陷的识别系统。

威廉斯的案件在被捕两周后被驳回，但从更广泛的角度来看，这一事件意味着很多，对隐私来说，这是一个非常重要的指标。随着政府和执法机构越来越多地使用面部识别软件，这一案例可能是严重违法的开始，这些违法行为已经在像中国这样的国家发生，但在美国尚未公开曝光。

其中一个违法行为是威廉斯的DNA样本、照片和指纹现在都被记录在案，这都是技术的直接结果。此外，他的逮捕记录也被保存下来。

私营公司和执法机构

威廉斯的案例发生在IBM、微软和亚马逊等大公司停止向执法机构提供面部识别技术之后。

第一家停止提供此类技术的公司是IBM，CEO阿尔文德·克里希纳向国会发送了一封信，宣布不再提供一般目的的面部识别或分析软件。此外，公司还停止了对该技术的研究和开发。

“IBM坚决反对并不会容忍任何面部识别技术的使用，包括其他供应商提供的面部识别技术，用于大规模监控、种族歧视、侵犯基本人权和自由，或任何不符合我们价值观和信任与透明原则的目的。我们认为，现在是开始国内执法机构是否应该使用面部识别技术以及如何使用的国家对话的时候，”根据信件内容。

亚马逊在宣布对允许执法机构使用其Rekognition面部识别平台实施为期一年的禁令后紧随其后。

这一宣布仅在IBM做出决定几天后就发生了。

关于面部识别技术和歧视问题最重要的工作之一是由乔伊·布奥拉姆维尼和蒂姆尼特·盖布鲁共同撰写的2018年论文。布奥拉姆维尼是MIT媒体实验室的研究员，盖布鲁是微软研究院的成员。

2018年的论文发现，“机器学习算法可以根据种族和性别等类别进行歧视。”

罗伯特·朱利安-博尔查克·威廉斯的案例对许多生活在美国的人来说非常令人担忧，但它也是一个指标，表明在全球范围内正在发生什么。政府和执法机构使用面部识别技术才刚刚开始，还没有足够的措施来防止其被滥用。不论是中国广泛使用面部识别技术进行监控，还是威廉斯在美国被错误识别，这项技术都将使全球人口面临一系列以前不存在的新型隐私和人权侵犯风险。