米国で初の顔認識システムによる誤認逮捕が発生

先週、ニューヨークタイムズは、米国で初の顔認識システムによる誤認逮捕が発生したと報じた。デトロイトで起きたこの事件では、ロバート・ジュリアン＝ボーチャック・ウィリアムズというアフリカ系アメリカ人の男性が、店舗盗難の犯人と間違われて逮捕された。

アメリカ自由人権協会（ACLU）はすぐに動き出し、デトロイト警察に対して訴訟を起こした。ACLUの働きかけにより、ウィリアムズの事件は2週間後に却下され、彼の情報はデトロイトの犯罪データベースから削除された。

この事件は、世界中で顔認識技術の使用が拡大する中で、米国で初のケースとなり、重大な懸念を引き起こしている。

顔認識システムの問題

顔認識システムは、プライバシーと誤認の問題について論争を呼んでいる。

最近の警察の暴力と差別に対する世界中の抗議活動により、顔認識技術の使用についての懸念が高まっている。

これらのアルゴリズムは、法執行機関に新たな側面をもたらしたが、多くの欠陥を抱えている。

誤認の事件

ウィリアムズが誤認された事件は、2018年10月に発生した。事件の映像は、2019年3月にミシガン州の顔認識データベースにアップロードされた。

ウィリアムズの写真は、写真のラインナップに含まれ、セキュリティガードによって事件の犯人と識別された。

ACLUによると、セキュリティガードは実際には事件を目撃していなかった。

ウィリアムズは、2019年1月にデトロイト警察から電話を受け、逮捕された。警察は彼の家に到着し、1時間後に彼を逮捕した。

ウィリアムズは、逮捕後、留置場で指紋とDNAを採取され、夜間を警察署で過ごした。

その後、ウィリアムズは、犯していない犯罪について尋問を受けた。すべては、不正確な顔認識システムのためだった。

ウィリアムズの事件は、2週間後に却下されたが、より大きな意味を持つ。法執行機関による顔認識技術の使用が増える中で、この事件は、重大なプライバシーと人権侵害の始まりとなる可能性がある。

ウィリアムズのDNAサンプル、指紋、逮捕写真は、すべてこの技術の結果として記録された。また、彼の逮捕歴も残っている。

民間企業と法執行機関

ウィリアムズの事件は、IBM、Microsoft (MSFT ) 、Amazonなどの大手企業が、法執行機関への顔認識技術の提供を停止したタイミングと重なった。

最初にこの決定を下したのはIBMで、CEOのアーヴィンド・クリシュナは、国会に「一般的な目的の顔認識や分析ソフトウェアの提供を停止する」と書簡で通知した。また、同社は、この技術の研究開発も中止した。

「IBMは、顔認識技術を含むすべての技術の、大量監視、人種プロファイリング、基本的人権と自由の侵害、またはIBMの価値観と信頼と透明性の原則に一致しない目的への使用を強く反対し、容認しない」と書簡で述べた。

Amazonも、法執行機関が同社のRekognition顔認識プラットフォームを使用することを1年間停止することを発表した。

この発表は、IBMの決定から数日後にされた。

顔認識技術と差別に関する重要な研究の一つは、2018年のジョイ・ブオラムウィニとティムニット・ゲブルによる論文である。ブオラムウィニはMITメディアラボの研究者で、ゲブルはMicrosoft Researchのメンバーである。

2018年の論文では、「機械学習アルゴリズムは、人種や性別などのクラスに基づいて差別する可能性がある」と述べられている。

ロバート・ジュリアン＝ボーチャック・ウィリアムズの事件は、米国に住む多くの人々にとって、非常に心配な事態である。また、世界中で起こっている事態の指標ともなっている。政府や法執行機関による顔認識技術の使用は、まだ始まったばかりであり、不正使用を防ぐための規制はほとんどない。中国での顔認識技術の広範な使用や、米国でのウィリアムズの誤認事件のように、この技術は、世界中の人口に新たなプライバシーと人権侵害のリスクをもたらしている。