Yapay Zeka Etik Koalisyonu Suçluluk Tahmin Algoritmalarını Kınadı

Salı günü, bir aantal yapay zeka araştırmacıları, etikçiler, veri bilimcileri ve sosyal bilimciler bir blog yazısı yayınladı ve akademik araştırmacıların, bireylerin suç işleme olasılığını tahmin etmeye çalışan araştırmaları bırakmaları gerektiğini savundu. Bu araştırmalar, suç istatistikleri ve yüz taramaları gibi değişkenlere dayanmaktadır.

Blog yazısı, Coalition for Critical Technology tarafından yazıldı ve bu tür algoritmaların azınlıklara karşı önyargı döngüsünü sürdürdüğünü iddia etti. Yüz tanıma ve öngörülü polislik algoritmalarının etkinliğini inceleyen birçok çalışma, bu algoritmaların azınlıklara karşı daha sert davrandığını buldu. Coalition for Critical Technology, bu durumun, adalet sisteminin ürettiği önyargılı verilerin bir sonucu olduğunu iddia etti. Koalisyon, “suçluluk” kavramının souvent ırka dayandığını ve bu teknolojiler üzerinde yapılan araştırmaların, algoritmaların tarafsızlığını varsaydığını, ancak böyle bir tarafsızlığın gerçekte不存在 olduğunu savundu.

The Verge’in raporuna göre, akademik çalışmaların büyük bir yayıncısı olan Springer, “Görüntü İşleme Kullanarak Suçluluk Tahmin Eden Derin Sinir Ağı Modeli” adlı bir çalışma yayınlamayı planlıyordu. Çalışmanın yazarları, önyargı olmadan ve yaklaşık %80 doğruluk payı ile bir suç işleme olasılığını tahmin edebilen bir yüz tanıma algoritması geliştirdiklerini iddia ettiler. Ancak Coalition for Critical Technology, Springer’e, bu çalışmayı veya benzer araştırmaları yayınlamaması için bir açık mektup yazdı.

“Bu çalışmanın, büyük bir yayıncı tarafından yayınlanması, defalarca çürütülmüş, sosyal olarak zararlı araştırmaların gerçek dünyada legitimize edilmesi ve uygulanması için önemli bir adım olacaktır” diye savundu koalisyon.

Springer, çalışmayı yayınlamayacağını açıkladı, MIT Technology Review’in raporuna göre. Springer, çalışmanın bir konferans için gönderildiğini, ancak hakem değerlendirmesi sürecinden sonra yayımlanma için reddedildiğini belirtti.

Coalition for Critical Technology, suçluluk tahmin çalışmasının, daha büyük, zararlı bir trendin yalnızca bir örneği olduğunu savundu. Bu trendde, yapay zeka mühendisleri ve araştırmacıları, duyarlı, sosyal olarak inşa edilmiş değişkenler içeren veriler temelinde davranışları tahmin etmeye çalışıyorlar. Koalisyon, bu araştırmaların çoğunun, biyoloji ve psikolojide mevcut kanıtlar tarafından desteklenmeyen, bilimsel olarak şüpheli fikir ve teorilere dayandığını iddia etti. Örneğin, Princeton ve Google’dan araştırmacılar, bir makale yayınladı ve yüz özelliklerine dayalı suçluluk tahmin eden algoritmaların, physiognomy gibi discredited ve tehlikeli pseudobilimlere dayandığını uyardı. Araştırmacılar, makine öğreniminin, ırkçı sistemleri desteklemek için kullanılan, uzun süredir çürütülmüş teorileri canlandırmak için kullanılmaması gerektiğini savundu.

Son zamanlarda, Black Lives Matter hareketinin ivme kazanması, birçok şirketin yüz tanıma algoritmalarının kullanımını yeniden değerlendirmesine neden oldu. Araştırmalar, bu algoritmaların sık sık önyargılı olduğunu ve temsil edilmeyen, önyargılı eğitim verilerine dayandığını buldu.

Mektubun imzalanması, AI araştırmacılarının suçluluk tahmin algoritmaları araştırmalarını bırakmaları gerektiğini savundu. Koalisyon üyeleri, ayrıca, AI modellerinin başarısının nasıl ölçüleceğinin yeniden değerlendirilmesi gerektiğini önerdi. Koalisyon üyeleri, algoritmaların toplumsal etkisinin, doğruluk, geri çağırma ve doğruluk gibi metriklere ek olarak bir başarı ölçütü olmasını önerdi. Çalışmanın yazarları şöyle yazdı:

“Yapay zeka, hibe önerileri ve basın açıklamalarında belirtilen ‘sosyal iyi’yi getirmek için, bu alanda çalışan araştırmacıların, çalışmalarını mümkün kılan güç yapıları (ve bunlarla birlikte gelen baskılar) hakkında aktif olarak düşünmeleri gerekir.”