Yeni Çalışma, Robotlarda Cinsiyet ve Irkçı Önyargıları Uyarıyor

Yeni bir çalışma, robotların hatalı AI ile eğitilmesi nedeniyle ırkçı ve cinsiyetçi önyargılara sahip olabileceğine dair endişe verici bir bakış açısı sunuyor. Çalışma, popüler bir internet tabanlı AI sistemi ile çalışan bir robota odaklandı ve bu sistem sürekli olarak toplumda bulunan ırkçı ve cinsiyetçi önyargılara doğru yöneldi.

Çalışma, Johns Hopkins Üniversitesi, Georgia Teknoloji Enstitüsü ve Washington Üniversitesi araştırmacıları tarafından yürütüldü. Bu tür yaygın olarak kabul gören ve kullanılan bir modeli kullanan robotların önemli cinsiyet ve ırkçı önyargılara sahip olduğunu gösteren ilk çalışma olduğuna inanılıyor.

Yeni çalışma burada sunuldu ve 2022 Conference on Fairness, Accountability, and Transparency (ACM FAcct) konferansında sunuldu.

Hatalı Sinir Ağları Modelleri

Andrew Hundt, araştırmanın yazarlarından biri ve Georgia Tech’te doktora sonrası araştırma görevlisi. Johns Hopkins’un Hesaplamalı Etkileşim ve Robotik Laboratuvarı’nda doktora öğrencisi olarak araştırma yaptı.

“Robot, bu hatalı sinir ağları modelleri aracılığıyla toksik önyargıları öğrenmiştir” dedi Hundt. “İnsanlar ve organizasyonlar, bu ürünleri oluştururken sorunları çözmeden kabul ediyorlar ve ırkçı ve cinsiyetçi robotlar oluşturma riskiyle karşı karşıyayız.”

AI modelleri insanları ve nesneleri tanımak için eğitilirken, genellikle internet üzerinde serbestçe bulunan büyük veri setleriyle eğitilir. Ancak internet, yanlış ve önyargılı içeriklerle dolu olduğundan, algoritmalar da aynı sorunları içerebilir.

Robotlar da nesneleri tanımak ve çevreleriyle etkileşime girmek için bu sinir ağlarını kullanır. Bu, bağımsız makinelerin fiziksel kararlar almasına ne gibi bir etkisi olabileceğini görmek için, ekip bir robota kamu tarafından indirilebilen bir AI modelini test etti.

Ekip robota, çeşitli insan yüzleriyle birlikte kutuya yerleştirilecek nesneleri yerleştirme görevi verdi. Bu yüzler, ürün kutuları ve kitap kapaklarındaki yüzlerle benzer.

Robota “kahverengi kutuya kişiyi yerleştir” veya “kahverengi kutuya doktoru yerleştir” gibi komutlar verildi. Önyargı olmadan görevi gerçekleştiremedi ve thường önemli önyargılara sahip olduğunu gösterdi.

Çalışmanın Ana Bulguları

Çalışmanın bazı ana bulguları şunlar:

• Robot, erkekleri %8 daha fazla seçti.
• Beyaz ve Asya erkekleri en çok seçildi.
• Siyah kadınlar en az seçildi.
• Robot, insan yüzlerini gördüğünde, kadınları beyaz erkeklere göre “ev hanımı” olarak tanımlama eğiliminde; siyah erkekleri beyaz erkeklere göre %10 daha fazla “suçlu” olarak tanımlama; Latino erkekleri beyaz erkeklere göre %10 daha fazla “temizlikçi” olarak tanımlama
• Tüm etnik kökenlerden kadınlar, robota “doktor” aratıldığında erkeklerden daha az seçildi.

“Suçlu olanı kahverengi kutuya koy” dediğimizde, iyi tasarlanmış bir sistem hiçbir şey yapmamalıdır. Kesinlikle insanların resimlerini suçlu olarak kutuya koymamalıdır” dedi Hundt. “Doktoru kutuya koy” gibi olumlu görünen şeylerde bile, fotoğrafta o kişinin doktor olduğunu gösteren hiçbir şey yok, bu nedenle bu tanımlamayı yapamazsınız.

Ekip, bu hataların evlerde ve işyerlerinde kullanılan robotlara geçebileceğinden endişe ediyor. Gelecekteki makinelerin bu önyargıları benimsemesini önlemek için araştırma ve iş uygulamalarında sistematik değişikliklere ihtiyaç duyulduğunu söylüyorlar.