米国で初のアルゴリズムの誤作動による誤認逮捕事例

先週、ニューヨークタイムズは、米国で初のアルゴリズムの誤作動による誤認逮捕事例を報道した。 この事件は、デトロイトでロバート・ジュリアン＝ボルチャク・ウィリアムズというアフリカ系アメリカ人の男性が、店舗盗難事件の犯人と誤認されたことにより逮捕されたものである。

アメリカ自由人権協会（ACLU）はすぐに行動を起こし、デトロイト警察に対して苦情を申し立てた。ACLUがウィリアムズの事件を却下し、デトロイトの犯罪データベースから彼の情報を削除するように求めた後、検察官はその要求に従った。

この開発は、米国では初の事例であり、州が顔認識技術を使用することに関連する深刻な懸念を浮き彫りにしている。

顔認識システムの問題

顔認識システムは、プライバシーと誤認の懸念を抱く人々の間で論争の的となっている。

最近、警察の暴力と差別に対する国中の抗議活動により、その懸念はさらに高まっている。

これらのアルゴリズムは、法執行に新たな側面をもたらしたが、欠陥が多く見られる。

誤認

ウィリアムズが誤認された強盗事件は、2018年10月に発生した。 監視ビデオは、2019年3月にミシガン州の顔認識データベースにアップロードされた。

ウィリアムズの写真は、写真の並びの中に含まれており、セキュリティガードがウィリアムズを犯罪者として特定した。

ACLUによると、そのガードは、実際には強盗事件を目撃していなかった。

1月、ウィリアムズはデトロイト警察署から電話を受け、逮捕されたことを知らされた。 彼がその電話を悪戯電話と判断したとき、警察は1時間以内に彼の自宅に到着した。

ウィリアムズは、留置センターに連れて行かれ、そこで指紋、DNAサンプルが取られ、夜通し警察署で留め置かれた。

その後、ウィリアムズは、実際には犯していない犯罪について、誤った認識システムのために尋問を受けた。

ウィリアムズの事件は、逮捕の2週間後に却下されたが、より大きな意味では、この事件はプライバシーに対する重大な影響を及ぼした。 政府や法執行機関が顔認識ソフトウェアを使用することが増える中、この事件は、中国のような国で既に発生しているような、深刻な違反の始まりとなる可能性がある。

そのような違反の1つは、ウィリアムズのDNAサンプル、指紋、逮捕写真が、技術の直接的な結果としてファイルに残っていることである。 さらに、彼の逮捕記録も残っている。

民間企業と法執行機関

ウィリアムズの事件は、IBM、Microsoft、Amazonなどの大手企業が、顔認識技術を法執行機関に提供するのを停止したことと同時期に発生した。

最初にそうした企業はIBMで、CEOのアーヴィンド・クリシュナが、一般的な顔認識や分析ソフトウェアの提供を中止することをCongressに書簡で通知した。 さらに、同社はこの技術の研究開発も中止した。

「IBMは、顔認識技術を含むいかなる技術も、他のベンダーが提供する顔認識技術を含め、大量監視、人種プロファイリング、基本的人権と自由の侵害、またはIBMの価値観や信頼と透明性の原則と一致しない目的のために使用することを断固として反対し、容認しない」と書簡には記載されている。 「私たちは、今が国内の法執行機関が顔認識技術をどのように使用すべきかについて、国家的な対話を始めるべき時期であると信じている。」

Amazonは、警察が同社のRekognition顔認識プラットフォームを使用することを、1年間停止することを発表した。

この発表は、IBMの決定の数日後に行われた。

顔認識技術と差別に関する問題で行われた最も重要な研究の1つは、2018年にジョイ・ブオラムウィニとティムニット・ゲブルが共著した論文である。 ブオラムウィニはMITメディアラボの研究者であり、ゲブルはMicrosoft Researchのメンバーである。

2018年の論文では、「機械学習アルゴリズムは、人種や性別などのクラスに基づいて差別する可能性がある」と述べられている。

ロバート・ジュリアン＝ボルチャク・ウィリアムズの事件は、米国に住む多くの人にとって非常に心配なことであるが、世界中で何が起こっているかを示す指標でもある。 政府や法執行機関が顔認識技術を使用することは、まだ始まったばかりであり、不倫使用を防ぐための措置はほとんど取られていない。 中国の顔認識技術を使用した監視や、米国でのウィリアムズの誤認事件のように、技術は、以前は存在しなかった新しいプライバシーと人権侵害のリスクを世界人口にさらすものである。