ABD’de Yüz Tanıma Sistemleri Nedeniyle İlk Yanlış Tutuklama Vakası Görüldü

Geçen hafta, New York Times, ABD’de kötü bir algoritma nedeniyle yanlış tutuklama vakasının ilk örneğini rapor etti. Olay, Robert Julian-Borchak Williams adlı bir Afrika Amerikanının, mağazacılık yaptığı güvenlik kamerası görüntülerine yanlışlıkla eşleştirildikten sonra Detroit’te tutuklanmasıyla gerçekleşti.

Amerikan Sivil Özgürlükler Birliği (ACLU) hemen harekete geçti ve Detroit polisine karşı şikayette bulundu. ACLU, Williams’ın davasının düşürülmesini ve bilgilerinin Detroit’teki suç veritabanlarından silinmesini talep etti ve savcılar bu talepleri kabul etti.

Bu gelişme, ABD’de ilk kez yaşanmakta ve devlet tarafından yüz tanıma teknolojisinin kullanımıyla ilgili olarak ortaya çıkan ciddi endişeleri vurgulamaktadır.

Yüz Tanıma Sistemlerinin Problemleri

Yüz tanıma sistemleri, gizlilik ve yanlış suçlamalarla ilgili endişeler nedeniyle already uzun süredir tartışma konusudur.

Ülke genelindeki ve dünyanın birçok yerinde polisin şiddetini ve ayrımcılığını protesto eden gösterilerle birlikte, bu sistemlerin kullanımı daha da sıkı bir şekilde incelenmeye başlanmıştır.

Bu algoritmalar, polislerin çalışma şeklini tamamen değiştirmiş ve birçok hata içeriyor.

Yanlış Suçlama

Williams’ın yanlışlıkla suçlandığı hırsızlık, Ekim 2018’de gerçekleşti. Güvenlik kamerası görüntüleri, Mart 2019’da Michigan eyaletinin yüz tanıma veritabanına yüklenmişti.

Williams’ın fotoğrafı, bir fotoğraf dizisi içinde yer almış ve bir güvenlik görevlisi tarafından suçlunun o olduğu tespit edilmişti.

ACLU’ya göre, bu görevli aslında hırsızlığı persönel olarak görmemişti.

Ocak ayında Williams, Detroit Polis Departmanı’ndan bir arama aldı ve tutuklandığını öğrendi. Aramayı şaka zannederek cevapsız bıraktı, ancak polis bir saat sonra evine geldi.

Williams, bir tutuklama merkezine götürüldü, burada fotoğrafı, parmak izi ve DNA’sı alındı ve geceyi polis merkezinde geçirdi.

Sonrasında, asla işlemediği bir suçla ilgili olarak sorguya çekildi, tüm bunlar kötü bir tanıma sistemi nedeniyle gerçekleşti.

Williams’ın davası, tutuklanmasından iki hafta sonra düşürüldü, ancak daha geniş bir ölçekte, bu olay çok daha önemliydi ve gizlilik açısından ciddi sonuçlar doğurdu. Hükümetler ve polis teşkilatları tarafından yüz tanıma yazılımlarının artan kullanımı, bu gibi ihlallerin başlangıcını oluşturabilir, ki bunlar zaten Çin’de yaşanmakta ve ABD’de de benzeri durumlar ortaya çıkmaya başlamıştır.

Bu ihlallerden biri, Williams’ın DNA’sı, fotoğrafı ve parmak izinin şimdi dosyalarda yer almasıdır. Ayrıca tutuklanması da kayıtlara geçmiştir.

Özel Şirketler ve Polis

Williams’ın davası, IBM, Microsoft (MSFT ) ve Amazon (AMZN ) gibi büyük şirketlerin polislere yüz tanıma teknolojisi sağlamayı durdurduğu bir dönemde gerçekleşti.

İlk olarak IBM, CEO’su Arvind Krishna’nın Kongre’ye gönderdiği bir mektupla, genel amaçlı yüz tanıma veya analiz yazılımlarını artık sunmayacağını açıkladı. Ayrıca, bu teknoloji üzerindeki araştırma ve geliştirme çalışmalarını da durdurdu.

“IBM, herhangi bir yüz tanıma teknolojisini, diğer satıcılar tarafından sunulan yüz tanıma teknolojisi de dahil olmak üzere, toplu gözetim, ırksal profil oluşturma, temel insan hak ve özgürlüklerinin ihlali veya değerlerimiz ve Güven ve Şeffaflık İlkelerimizle tutarlı olmayan herhangi bir amaç için kullanmayı güçlü bir şekilde reddeder ve kınar. Domestik polis teşkilatları tarafından yüz tanıma teknolojisinin nasıl ve ne şekilde kullanılacağı konusunda ulusal bir diyalog başlatabileceğimiz bir zaman olduğuna inanıyoruz.”

Amazon, polisin Rekognition yüz tanıma platformunu kullanmasına bir yıl süreyle moratoryum uygulayacağını açıkladı.

Bu açıklama, IBM’nin kararından birkaç gün sonra geldi.

Yüz tanıma teknolojisi ve ayrımcılık konusundaki en önemli çalışmalardan biri, 2018’de Joy Buolamwini ve Timnit Gebru tarafından ortaklaşa hazırlanan bir makaleydi. Buolamwini, MIT Medya Laboratuvarı’nda bir araştırmacı, Gebru ise Microsoft Araştırma’da bir üyeydi.

2018 makalesi, “makine öğrenimi algoritmalarının ırk ve cinsiyet gibi sınıflara dayanarak ayrımcılık yapabileceğini” ortaya koydu.

Robert Julian-Borchak Williams’ın davası, ABD’de yaşayan birçok kişi için çok endişe verici ve aynı zamanda dünya genelinde neler olduğu konusunda bir göstergedir. Hükümetler ve polis teşkilatları tarafından yüz tanıma teknolojisinin kullanımı henüz başlangıç aşamasındadır ve etik dışı kullanımını önlemek için yeterli önlemler alınmamıştır. Çin’in yüz tanıma teknolojisini gözetim için geniş çapta kullanması veya Williams’ın ABD’de yanlışlıkla suçlanması gibi durumlar, previously var olmayan yeni bir gizlilik ve insan hakları ihlali setini dünya nüfusuna açığa çıkarmaktadır.