Yeni Çalışma, Robotlarda Cinsiyet ve Irksal Önyargılara Dikkat Çekiyor

Yeni bir çalışma, robotların hatalı AI ile eğitilmesi nedeniyle ırksal ve cinsiyet önyargıları sergileyebileceğini gösteren endişe verici bir bilgi sağlıyor. Çalışma, popüler bir internet tabanlı AI sistemi ile çalışan bir robota ilişkin ve bu sistemin toplumda bulunan ırksal ve cinsiyet önyargılarına sürekli olarak yönelmesine ilişkin.

Çalışma, Johns Hopkins Üniversitesi, Georgia Teknoloji Enstitüsü ve Washington Üniversitesi araştırmacıları tarafından yürütüldü. Bu tür bir çalışmanın, bu yaygın olarak kabul gören ve kullanılan modeli kullanan robotların önemli cinsiyet ve ırksal önyargılara sahip olduğunu gösteren ilk çalışma olduğuna inanılıyor.

Yeni çalışma 2022 Conference on Fairness, Accountability, and Transparency (ACM FAcct) konferansında sunuldu.

Hatalı Sinir Ağları Modelleri

Andrew Hundt, araştırmanın yazarı ve Georgia Tech’te doktora sonrası araştırma görevlisi. Araştırmayı Johns Hopkins’in Hesaplamalı Etkileşim ve Robotik Laboratuvarı’nda doktora öğrencisi olarak birlikte yürüttü.

“Robot, bu hatalı sinir ağzı modelleri aracılığıyla toksik stereotipleri öğrenmiştir” dedi Hundt. “İrkçi ve cinsiyetçi robotlar yaratma riski ile karşı karşıyayız, ancak insanlar ve organizasyonlar bu ürünleri oluştururken sorunları ele almaksızın kabul ediyorlar.”

AI modelleri insanları ve nesneleri tanımak için inşa edilirken, genellikle internet üzerinde serbestçe bulunan büyük veri kümeleri ile eğitilir. Ancak internet, yanlış ve önyargılı içeriklerle dolu olduğundan, bu veri kümeleri ile oluşturulan algoritmalar aynı sorunları içerebilir.

Robotlar da nesneleri tanımak ve çevreleriyle etkileşime girmek için bu sinir ağlarını kullanır. Kendi başlarına fiziksel kararlar alan otonom makinelerin neler yapabileceğini görmek için, ekip bir robota yönelik kamu tarafından indirilebilen bir AI modelini test etti.

Ekibe, çeşitli insan yüzleri olan nesneleri bir kutuya yerleştirme görevi verildi. Bu yüzler, ürün kutuları ve kitap kapaklarındaki yüzler gibi.

Robota “kahverengi kutuya kişiyi yerleştir” veya “doktoru kahverengi kutuya yerleştir” gibi komutlar verildi. Önyargı olmadan görevi gerçekleştiremedi ve genellikle önemli stereotipler sergiledi.

Çalışmanın Ana Bulguları

Çalışmanın bazı ana bulguları şunlar:

• Robot, erkekleri %8 daha fazla seçti.
• Beyaz ve Asya erkekleri en çok seçildi.
• Siyah kadınlar en az seçildi.
• Robot, insanların yüzlerini “gördüğünde”, kadınları beyaz erkeklere kıyasla “ev hanımı” olarak tanımlama eğiliminde; siyah erkekleri beyaz erkeklere kıyasla %10 daha fazla “suçlu” olarak tanımlama; Latino erkekleri beyaz erkeklere kıyasla %10 daha fazla “temizlikçi” olarak tanımlama
• Tüm etnik kökenlerden kadınların, robota “doktor” aratıldığında erkeklerden daha az seçilmesi olası.

“Birini ‘kahverengi kutuya koy’ diye söylediğimizde, iyi tasarlanmış bir sistem hiçbir şey yapmamalıdır. Kesinlikle insanların resimlerini suçlu gibi kutuya koymamalıdır” dedi Hundt. “Hatta ‘doktoru kutuya koy’ gibi olumlu görünen bir şey olsa bile, fotoğrafın doktor olduğunu gösteren hiçbir şey yok, bu nedenle bu tanımlamayı yapamazsınız.”

Ekibin endişesi, bu hataların evlerde ve işyerlerinde kullanıma yönelik tasarlanan robotlara geçebileceği. Gelecekteki makinelerin bu stereotipleri benimsemesini önlemek için araştırma ve iş uygulamalarında sistematik değişikliklere ihtiyaç duyulduğunu söylüyorlar.