Amerika Serikat Mengalami Kasus Penangkapan Salah yang Pertama Karena Algoritma yang Buruk

Minggu lalu, The New York Times melaporkan kasus pertama penangkapan salah yang disebabkan oleh algoritma yang buruk di Amerika Serikat. Insiden ini terjadi di Detroit ketika Robert Julian-Borchak Williams, seorang pria Afrika-Amerika, ditangkap setelah salah diidentifikasi sebagai pelaku kejahatan di rekaman keamanan.

American Civil Liberties Union (ACLU) segera mengambil tindakan dan mengajukan keluhan terhadap polisi Detroit. Setelah ACLU mendesak agar kasus Williams dibatalkan dan informasinya dihapus dari basis data kriminal di Detroit, jaksa penuntut melanjutkan tindakan tersebut.

Pengembangan ini adalah yang pertama dari jenisnya di Amerika Serikat, dan menyoroti beberapa masalah serius yang mulai muncul di seluruh dunia dengan penggunaan teknologi pengenalan wajah oleh negara.

Masalah dengan Sistem Pengenalan Wajah

Sistem pengenalan wajah telah menjadi subjek kontroversi selama beberapa waktu, semakin menjadi titik debat di antara mereka yang peduli dengan privasi dan tuduhan palsu.

Dengan protes baru-baru ini di seluruh negara dan di banyak bagian dunia melawan kebrutalan polisi dan diskriminasi, pengawasan itu hanya meningkat.

Algoritma ini telah membawa aspek baru ke penegakan hukum dan penuh dengan kesalahan.

Tuduhan Palsu

Pencurian yang Williams salah diidentifikasi sebagai pelakunya terjadi pada Oktober 2018. Video pengawasan kemudian diunggah ke basis data pengenalan wajah negara bagian Michigan pada Maret 2019.

Foto Williams berhasil masuk ke dalam daftar foto, di mana seorang penjaga keamanan mengidentifikasi Williams sebagai orang yang melakukan kejahatan.

Menurut ACLU, penjaga keamanan itu tidak pernah secara langsung menyaksikan pencurian.

Pada Januari, Williams menerima panggilan telepon dari Departemen Kepolisian Detroit yang menginformasikan tentang penangkapannya. Ketika dia mengabaikan panggilan itu sebagai lelucon, polisi tiba di rumahnya hanya satu jam kemudian.

Williams kemudian dibawa ke pusat penahanan di mana dia memiliki foto, sidik jari, dan DNA diambil, dan dia kemudian ditahan semalam di stasiun.

Apa yang terjadi kemudian adalah interogasi untuk kejahatan yang tidak pernah dia lakukan, semua karena sistem pengenalan yang rusak.

Kasus Williams dibatalkan dua minggu setelah penangkapannya, tetapi dalam skala yang lebih besar, insiden ini berarti banyak hal dan memiliki implikasi besar untuk privasi. Dengan penggunaan teknologi pengenalan wajah yang meningkat oleh pemerintah dan lembaga penegakan hukum, kasus ini bisa menjadi awal dari pelanggaran serius, yang telah terjadi di negara-negara seperti Cina tetapi belum terjadi di AS, setidaknya menurut pengetahuan umum.

Salah satu pelanggaran tersebut adalah bahwa sampel DNA, foto, dan sidik jari Williams sekarang semua ada di file sebagai hasil langsung dari teknologi. Tidak hanya itu, penangkapannya juga ada di catatan.

Perusahaan Swasta dan Penegakan Hukum

Kasus Williams datang ketika perusahaan besar seperti IBM, Microsoft (MSFT ), dan Amazon (AMZN ) telah berhenti menyediakan teknologi pengenalan wajah mereka kepada lembaga penegakan hukum.

Perusahaan besar pertama yang melakukannya adalah IBM ketika CEO Arvind Krishna mengirim surat kepada Kongres tentang tidak lagi menawarkan perangkat lunak atau analisis pengenalan wajah yang umum. Di atas itu, perusahaan menghentikan penelitian dan pengembangan teknologi.

“IBM secara tegas menentang dan tidak akan mentolerir penggunaan teknologi pengenalan wajah, termasuk teknologi pengenalan wajah yang ditawarkan oleh vendor lain, untuk pengawasan massal, profil rasial, pelanggaran hak asasi manusia dan kebebasan dasar, atau tujuan apa pun yang tidak konsisten dengan nilai dan Prinsip Kepercayaan dan Transparansi kami,” menurut surat itu. “Kami percaya sekarang adalah waktu untuk memulai dialog nasional tentang apakah dan bagaimana teknologi pengenalan wajah harus digunakan oleh lembaga penegakan hukum domestik.”

Amazon mengikuti ketika mereka mengumumkan moratorium satu tahun terhadap penggunaan teknologi pengenalan wajah Rekognition oleh lembaga penegakan hukum.

Pengumuman itu datang hanya beberapa hari setelah keputusan IBM.

Salah satu karya paling penting yang dilakukan terkait masalah diskriminasi dan teknologi pengenalan wajah adalah makalah 2018 yang ditulis bersama oleh Joy Buolamwini dan Timnit Gebru. Buolamwini adalah peneliti di MIT Media Lab, dan Gebru adalah anggota di Microsoft Research.

Makalah 2018 itu menemukan bahwa “algoritma pembelajaran mesin dapat didiskriminasikan berdasarkan kelas seperti ras dan jenis kelamin,” di antara hal-hal lain.

Kasus Robert Julian-Borchak Williams sangat mengkhawatirkan bagi banyak orang yang tinggal di Amerika Serikat, tetapi juga merupakan indikator dari apa yang terjadi di seluruh dunia. Penggunaan teknologi pengenalan wajah oleh pemerintah dan lembaga penegakan hukum baru saja dimulai, dan sangat sedikit yang ada untuk mencegahnya dari digunakan secara tidak etis. Apakah itu penggunaan teknologi pengenalan wajah yang luas di Cina untuk pengawasan, atau kasus Williams yang salah diidentifikasi di Amerika Serikat, teknologi ini membuka populasi dunia untuk serangkaian pelanggaran privasi dan hak asasi manusia yang sebelumnya tidak ada.