‘Irksal Kategorizasyon’ CLIP Tabanlı Görüntü Sentezleme Sistemleri için Zorluk

ABD’den yapılan yeni bir araştırmada, DALL-E serisinin arkasındaki popüler bilgisayar görme modellerinden birinin, aynı zamanda birçok görüntü oluşturma ve sınıflandırma modelinin de, hypodescent – ırksal kategorizasyon kuralı (ayrıca ‘bir damla’ kuralı olarak da bilinir) eğilimini sergilediği bulundu. Bu kural, bir kişiyi küçük bir ‘karışık’ (yani beyaz olmayan) genetik soydan tamamen ‘azınlık’ ırksal kategorisine koyar.

Hypodescent, insanlık tarihinin en kötü bölümlerini karakterize ettiğinden, yeni makalenin yazarları, bu tür eğilimlerin bilgisayar görme araştırmaları ve uygulamalarında daha fazla dikkat alması gerektiğini öne sürdü. Bunun nedeni, yaklaşık bir milyon kez indirilen ilgili çerçevenin, daha fazla ırksal önyargı yayabileceği ve destekleyici çerçevenin, indirme sayısı bakımından CLIP modelinin %98’ini oluşturmasıdır.

İncelenen mimari, Contrastive Language Image Pretraining (CLIP) adlı bir çoklu modal makine öğrenimi modelidir. Bu model, internetten alınan görüntü/kaptiyon çiftleri üzerinde eğitim yaparak anlamsal ilişkiler öğrenir. Bu, yarı-gözetimli bir yaklaşım olup, etiketleme maliyetini azaltır, ancak kaptiyonları oluşturan kişilerin önyargısını yansıtabilir.