AS Melihat Kasus Pertama Penangkapan Salah karena Algoritma yang Buruk

Minggu lalu, The New York Times melaporkan kasus pertama penangkapan salah yang disebabkan oleh algoritma yang buruk di Amerika Serikat. Insiden ini terjadi di Detroit ketika Robert Julian-Borchak Williams, seorang pria Afrika-Amerika, ditangkap setelah salah diidentifikasi dengan rekaman keamanan yang menunjukkan seseorang yang melakukan pencurian toko. 

American Civil Liberties Union (ACLU) segera mengambil tindakan dan mengajukan keluhan terhadap polisi Detroit. Setelah ACLU mendesak agar kasus Williams dibatalkan dan informasinya dihapus dari basis data kriminal di Detroit, jaksa penuntut melanjutkan tindakan tersebut.

Pengembangan ini adalah yang pertama di Amerika Serikat, dan ini menyoroti beberapa kekhawatiran serius yang mulai muncul di seluruh dunia dengan penggunaan teknologi pengenalan wajah oleh negara.

Masalah dengan Sistem Pengenalan Wajah

Sistem pengenalan wajah telah menjadi subjek kontroversi selama beberapa waktu, semakin menjadi titik perdebatan di antara mereka yang khawatir tentang privasi dan tuduhan palsu.

Dengan protes terbaru di seluruh negeri dan di banyak bagian dunia melawan kebrutalan polisi dan diskriminasi, pengawasan itu hanya meningkat. 

Algoritma ini telah membawa aspek baru dalam penegakan hukum dan penuh dengan kelemahan. 

Tuduhan Palsu

Pencurian yang salah diidentifikasi sebagai dilakukan oleh Williams terjadi pada Oktober 2018. Video pengawasan kemudian diunggah ke basis data pengenalan wajah negara bagian Michigan pada Maret 2019. 

Foto Williams berhasil masuk ke dalam daftar foto, di mana seorang penjaga keamanan mengidentifikasi Williams sebagai orang yang melakukan kejahatan. 

Menurut ACLU, penjaga itu tidak pernah benar-benar menyaksikan pencurian secara langsung.

Pada Januari, Williams menerima panggilan telepon dari Departemen Kepolisian Detroit yang membuatnya menyadari penangkapannya. Ketika ia mengabaikan panggilan sebagai lelucon, polisi tiba di rumahnya hanya satu jam kemudian.

Williams kemudian dibawa ke pusat penahanan di mana ia memiliki foto, sidik jari, dan DNA diambil, dan ia kemudian ditahan semalam di stasiun. 

Apa yang diikuti adalah interogasi untuk kejahatan yang tidak pernah ia lakukan, semua karena sistem pengenalan yang rusak.

Kasus Williams dibatalkan dua minggu setelah penangkapannya, tetapi pada skala yang lebih besar, insiden ini berarti banyak hal dan memiliki implikasi besar untuk privasi. Dengan penggunaan perangkat lunak pengenalan wajah yang meningkat oleh pemerintah dan penegak hukum, kasus ini bisa menjadi awal dari pelanggaran serius, yang telah terjadi di negara-negara seperti Cina tetapi belum tiba di AS, setidaknya menurut pengetahuan publik.

Salah satu pelanggaran seperti itu adalah sampel DNA Williams, foto, dan sidik jari sekarang semua ada di file sebagai hasil langsung dari teknologi. Tidak hanya itu, penangkapannya juga ada di catatan.

Perusahaan Swasta dan Penegak Hukum

Kasus Williams datang ketika perusahaan besar seperti IBM, Microsoft, dan Amazon telah berhenti menyediakan teknologi pengenalan wajah mereka untuk penegak hukum.

Perusahaan besar pertama yang melakukannya adalah IBM ketika CEO Arvind Krishna mengirim surat kepada Kongres tentang tidak lagi menawarkan perangkat lunak pengenalan wajah atau analisis umum. Di atas itu, perusahaan menghentikan penelitian dan pengembangan teknologi.

“IBM secara tegas menentang dan tidak akan mendukung penggunaan teknologi pengenalan wajah, termasuk teknologi pengenalan wajah yang ditawarkan oleh vendor lain, untuk pengawasan massal, profil rasial, pelanggaran hak asasi manusia dan kebebasan dasar, atau tujuan apa pun yang tidak konsisten dengan nilai dan Prinsip Kepercayaan dan Transparansi kami,” menurut surat itu. “Kami percaya sekarang adalah waktu untuk memulai dialog nasional tentang apakah dan bagaimana teknologi pengenalan wajah harus digunakan oleh lembaga penegak hukum domestik.”

Amazon mengikuti jejaknya ketika mereka mengumumkan moratorium satu tahun pada penggunaan teknologi pengenalan wajah Rekognition oleh penegak hukum. 

Pengumuman itu datang hanya beberapa hari setelah keputusan IBM.

Salah satu karya paling penting yang dilakukan terkait dengan masalah diskriminasi dan teknologi pengenalan wajah adalah makalah 2018 yang ditulis bersama oleh Joy Buolamwini dan Timnit Gebru. Buolamwini adalah peneliti di MIT Media Lab, dan Gebru adalah anggota di Microsoft Research. 

Makalah 2018 itu menemukan bahwa “algoritma pembelajaran mesin dapat didiskriminasikan berdasarkan kelas seperti ras dan jenis kelamin,” di antara hal-hal lain. 

Kasus Robert Julian-Borchak Williams sangat mengkhawatirkan bagi banyak orang yang tinggal di Amerika Serikat, tetapi juga merupakan indikator dari apa yang terjadi di seluruh dunia. Penggunaan teknologi pengenalan wajah oleh pemerintah dan lembaga penegak hukum baru saja dimulai, dan sangat sedikit yang ada untuk mencegahnya dari digunakan secara tidak etis. Apakah itu penggunaan teknologi pengenalan wajah yang meluas di Cina untuk pengawasan, atau kasus Williams yang salah diidentifikasi di Amerika Serikat, teknologi ini membuka populasi dunia untuk serangkaian pelanggaran privasi dan hak asasi manusia yang sebelumnya tidak ada.