AI Now Enstitüsü, Emotion Detection Yazılımının Kötüye Kullanımını ve Diğer Etik Sorunları Uyarıyor

AI Now Enstitüsü, yasama organlarına ve diğer düzenleyici kurumlara, emotion-detecting teknolojisini kullanmanın sınırlarını belirlemeleri, özellikle personel işe alma veya öğrenci kabulü gibi önemli kararlar almak için kullanılmasını yasaklamaları konusunda bir rapor yayınladı. Ayrıca, rapor çeşitli konularda bir dizi öneri içeriyordu.

AI Now Enstitüsü, NYU’da bulunan bir araştırma enstitüsüdür ve AI’nin toplum üzerindeki etkisini incelemektedir. AI Now her yıl AI araştırmalarının durumu ve AI’nin şu anda nasıl kullanıldığının etik etkileri hakkında bir rapor yayınlamaktadır. BBC’nin haberine göre, bu yılın raporu algoritmik ayrımcılık, AI araştırmalarında çeşitlilik eksikliği ve işçi sorunları gibi konulara değindi.

Duygu tanıma, emotion-detection algoritmalarının teknik adı, AI araştırmalarının hızla büyüyen bir alanıdır. Bu teknolojiyi kullananlar, mikro ifadeleri, ses tonunu ve vücut dilini analiz ederek insanların duygusal durumları hakkında güvenilir bilgi elde edilebileceğini iddia ediyorlar. AI Now enstitüsü, bu teknolojinin geniş bir uygulama yelpazesi boyunca kullanıldığını, Örneğin, kimin işe alınacağına, sigorta fiyatlarının belirlenmesine ve öğrencilerin derslere dikkat edip etmediğinin izlenmesine karar verilmesinde kullanıldığını belirtiyor.

AI Now’un kurucu ortağı Prof. Kate Crawford, insan duygularının nispeten basit modellerle doğru bir şekilde öngörülebileceğine thường inanılıyor dedi. Crawford, bazı şirketlerin yazılımlarını Paul Ekman’ın çalışmasına dayandırdıklarını, Ekman’ın yüzdeki altı temel emotion türünü öne sürdüğünü söyledi. Ancak Crawford, Ekman’ın teorisi ortaya konduktan sonra yapılan çalışmaların, yüz ifadelerinin çok daha fazla varyasyon içerdiğini ve ifadelerin durumlar ve kültürler arasında kolayca değişebileceğini gösterdiğini belirtti.

“Bu teknolojiler devreye girerken, çok sayıda çalışma, insanların hissettiği emotion ile yüzünün görünümü arasında tutarlı bir ilişki olmadığına dair hiçbir önemli kanıt olmadığını gösteriyor” dedi Crawford BBC’ye.

Bu nedenle, AI Now enstitüsü, affect recognition’ın büyük ölçüde güvensiz teorilere ve şüpheli bilime dayandığını savunuyor. Dolayısıyla, emotion detection sistemlerinin, daha fazla araştırma yapılmadan ve “hükümetlerin yüksek riskli karar alma süreçlerinde affect recognition kullanımını özel olarak yasaklaması” gerektiği görüşünü savunuyor. AI Now, özellikle “duyarlı sosyal ve politik bağlamlarda” teknolojinin kullanımının durdurulmasını öneriyor, bu bağlamlar arasında işe alma, eğitim ve polislik gibi alanlar yer alıyor.

En az bir AI-geliştirme şirketi, affect recognition alanında uzmanlaşmış Emteq, teknolojinin kötüye kullanımını önlemek için düzenleme gerektiğini kabul etti. Emteq’in kurucusu Charles Nduka, BBC’ye, AI sistemlerinin farklı yüz ifadelerini doğru bir şekilde tanıyabildiğini, ancak ifade ile emotion arasında basit bir harita olmadığını söyledi. Nduka, düzenlemenin quá fazla ileri gitmemesi gerektiğini, aksi takdirde araştırmaların engellenebileceğini ve “insanların bebeği banyo suyuna dökmemesi” gerektiğini belirtti.

The NextWeb’in haberine göre, AI Now ayrıca AI endüstrisinin gelecekte rehberlik etmesi için bir dizi politika ve norm önerdi.

AI Now, AI endüstrisinin işyerlerini daha çeşitli hale getirmesi gerektiğini ve işçilerin endişelerini dile getirmelerine olanak tanınması gerektiğini vurguladı. Teknoloji işçilerinin, çalışmalarının zararlı veya etik dışı işler için kullanıldığını bilmeye hakları olmalıdır.

AI Now, ayrıca yasama organlarına, sağlıkla ilgili AI’den elde edilen verilerin kullanımına ilişkin bilgilendirilmiş onay alınması için adımlar atması gerektiğini önerdi. Ayrıca, veri gizliliği ciddiye alınmalı ve biyometrik verilerin hem özel hem de kamu kurumlarını kapsayan gizlilik yasaları tasarlanmalıdır.

Son olarak, enstitü, AI endüstrisinin daha küresel düşünmeye ve AI’nin daha geniş siyasi, toplumsal ve ekolojik sonuçlarını ele almaya çalışması gerektiğini önerdi. AI’nin coğrafi yer değiştirme ve iklim üzerindeki etkisine ilişkin önemli bir çaba sarf edilmesi ve hükümetlerin AI endüstrisinin iklim etkisini kamuoyuna açık bir şekilde sunması gerektiği tavsiye edildi.