Anderson’un Açısı
CLIP Tabanlı Görüntü Sentezi Sistemlerinde «Irksal Sınıflandırma» Sorunu

Öne çıkan noktalarCLIP, %50 karışım oranlarında çok ırklı yüzleri azınlık olarak kategorize ederek…
Daha fazla göster
- CLIP, %50 karışım oranlarında çok ırklı yüzleri azınlık olarak kategorize ederek hipodesans önyargısı sergiliyor.
- Çalışmada, kadın denekler CLIP'ten erkek deneklere göre daha güçlü hipodesans önyargısıyla karşılaşıyor.
- CLIP, azınlık ırk etiketlerini Beyaz etiketlerinden daha olumsuz değerle ilişkilendiriyor.
ABD’den yapılan yeni bir araştırmada, çok övgü alan DALL-E serisinin arkasındaki popüler bilgisayar vizyonu modellerinden biri olan ve birçok diğer görüntü oluşturma ve sınıflandırma modelinin, hipodesan – ırk kategorizasyonu kuralına (ayrıca ‘bir damla’ kuralı olarak da bilinir) eğilim gösterdiği bulundu. Bu kural, bir kişinin küçük bir miktar ‘karışık’ (yani beyaz olmayan) genetik soyu olan bir kişiyi tamamen ‘azınlık’ ırk kategorisine koyar.
Hipodesan, insanlık tarihinin en çirkin bölümlerinden bazılarını karakterize ettiğinden, yeni makalenin yazarları, bilgisayar vizyonu araştırmaları ve uygulamalarında böyle eğilimlerin daha fazla dikkat çekmesini öneriyorlar. Özellikle de destekleyici çerçevenin, her ay yaklaşık bir milyon kez indirilen ve aşağı akış çerçevelerinde ırksal önyargıyı daha da yayabilecek bir çerçeve olduğunu belirtiyorlar.
Çalışılan mimari, Karşılaştırmalı Dil Görüntü Ön Eğitimi (CLIP) adlı çok kipli bir makine öğrenimi modelidir. CLIP, internetten alınan görüntü/açıklama çiftleri üzerinde eğitim yaparak anlamsal ilişkiler öğrenir – bu, etiketleme maliyetini azaltan yarı gözetimli bir yaklaşımdır, ancak açıklamaları yazan insanların önyargısını yansıtabilir.
Makaleden:
‘Sonuçlarımız, CLIP gömme alanında hipodesan için kanıt sağlar, bu önyargı daha çok kadın görüntülerine uygulanır. Sonuçlar ayrıca, CLIP’in görüntüleri ırksal veya etnik etiketlere White’dan sapma temelinde bağladığını ve White’ı varsayılan olarak kullandığını gösterir.’
Makale ayrıca, bir görüntünün valans ilişkisinin (‘iyi’ veya ‘kötü’ şeylerle ilişkilendirilme eğiliminin) ‘azınlık’ ırk etiketlerinde Beyaz etiketlerine göre belirgin biçimde daha yüksek olduğunu buluyor ve CLIP’in önyargılarının, eğitildiği ABD merkezli metin külliyatını (İngilizce Wikipedia) yansıttığını ileri sürüyor.
CLIP’in görünürdeki hipodesan desteğinin etkileri hakkında yorum yapan yazarlar:
‘CLIP’in ilk kullanımlarından biri, DALL-E adlı sıfır-atış görüntü oluşturma modelini eğitmekti. CLIP mimarisinin daha büyük, kamuya açık olmayan bir sürümü, DALL-E 2 modelinin eğitimi için kullanıldı. Mevcut araştırmanın bulgularıyla uyumlu olarak, DALL-E 2 modelinin kartında belirtilen Riskler ve Sınırlamalar notu, modelin “Beyaz olarak algılanan insanları aşırı temsil etme eğilimindeki görüntüler ürettiğini” belirtir.
‘Bu kullanımlar, CLIP tarafından öğrenilen önyargıların modelin gömme alanının ötesine yayılma potansiyelini gösterir, çünkü özellikler diğer üst düzey AI modellerinin anlamsal oluşumunu yönlendirmek için kullanılır.’
‘Dahası, CLIP ve benzer modellerin sıfır-atış ayarında görüntü ve metin arasındaki ilişkilendirmeye ilişkin ilerlemeler nedeniyle, çok kipli mimarilerin, arama motorları da dahil olmak üzere yaygın olarak kullanılan internet uygulamalarının geleceğinin temeli olarak tanımlanmıştır.’
‘Sonuçlarımız, böyle modellerin doğal dil denetiminden neler öğrendiğine dikkat edilmesi gerektiğini gösterir.’
Makale, şu başlığı taşır: Görsel Anlamsal Yapay Zekâda Hipodesan Kanıtı ve Washington Üniversitesi ve Harvard Üniversitesi’nden üç araştırmacı tarafından yazılmıştır.
CLIP ve Kötü Etkiler
Araştırmacılar çalışmalarının CLIP’teki ilk hipodesan analizi olduğunu belirtse de önceki çalışmalar, büyük ölçüde yeterince dikkatle seçilmemiş internet verileriyle gözetimsiz öğrenmeye dayanan CLIP iş akışının kadınları yetersiz temsil ettiğini, saldırgan içerik üretebildiğini ve görüntü kodlayıcısında anlamsal önyargı (örneğin Müslüman karşıtı tutum) gösterebildiğini ortaya koymuştur.
CLIP’in orijinal makalesi, sıfır-atış ayarında CLIP’in insanların yalnızca %58,3’ünü Beyaz ırk etiketiyle FairFace veri setinde birleştirdiğini kabul etti. Araştırmacılar, FairFace’in Amazon Mechanical Turk çalışanları tarafından olası önyargıyla etiketlendiğini gözlemledi ve “insanların White olarak algılandığı halde CLIP’in bir başka ırkla ilişkilendirdiği insanların önemli bir azınlığı” olduğunu belirttiler.
Devam ediyorlar:
‘Tersi geçerli görünmüyor: FairFace veri setinde diğer ırksal veya etnik etiketlere ait olduğu düşünülen bireyler CLIP tarafından bu etiketlerle ilişkilendiriliyor. Bu sonuç, CLIP’in sosyal bilimcilerin tanımladığı hipodesan kuralını öğrenmiş olabileceğini düşündürüyor: çok ırklı kökene sahip bireyler, aynı derecede geçerli olan çoğunluk veya daha ayrıcalıklı ebeveyn grubundan ziyade azınlık veya daha az ayrıcalıklı ebeveyn grubuna ait olarak algılanıp sınıflandırılmaya daha yatkındır.’
‘Diğer bir deyişle, bir Siyah ve bir Beyaz ebeveynin çocuğu daha Siyah olarak algılanır; bir Asya ve bir Beyaz ebeveynin çocuğu daha Asya olarak algılanır.’
Makalenin üç temel bulgusu vardır: CLIP, çok ırklı kimliğe sahip kişileri kökenlerindeki azınlık ırk kategorisine yönlendirerek hipodesan sergiler; CLIP’te Beyaz varsayılan ırktır ve diğer ırklar Beyaz kategorisinden sapmalarıyla tanımlanır; valans önyargısı (‘kötü’ kavramlarla ilişkilendirilme), bireyin ırksal azınlık olarak sınıflandırılma derecesiyle ilişkilidir.
Yöntem ve Veri
Araştırmacılar, CLIP’in çok ırklı kişilere nasıl davrandığını belirlemek için, daha önce kullanılan bir morflama tekniği kullanarak bireylerin ırksal özelliklerini değiştirdiler. Fotoğraflar, Chicago Face Database adlı bir psikolojik çalışma veri setinden alındı.

Yeni makalenin ek malzemelerindeki ırksal olarak değiştirilmiş CFD görüntülerinden örnekler. Kaynak: https://arxiv.org/pdf/2205.10764.pdf
Araştırmacılar, yalnızca ‘nötr ifade’ görüntülerini veri setinden seçti, önceki çalışmayla tutarlı olmak için. StyleGAN2-ADA adlı Generative Adversarial Network’u ( FFHQ üzerinde eğitilmiş) kullanarak yüzlerin ırksal özelliklerini değiştirdiler ve bir ırktan diğerine geçişi gösteren ara görüntüler oluşturdular (yukarıdaki örnek görüntülere bakın).
Önceki çalışmayla tutarlı olarak, araştırmacılar, veri setindeki Siyah, Asya ve Latin olarak kendini tanımlayan kişilerin yüzlerini Beyaz olarak etiketlenen yüzlerle değiştirdiler. Bu işlemde 19 ara aşama üretildi. Toplam 21.000 1024x1024px görüntü, bu yöntem kullanılarak oluşturuldu.
Araştırmacılar, her bir ırksal morflama setindeki toplam 21 görüntünün her biri için CLIP ile izdüşürülmüş görüntü vektörünü elde etti. Ardından, her görüntüye CLIP’ten bir etiket istediler: ‘çok ırklı’, ‘iki ırklı’, ‘karışık ırk’ ve ‘kişi’ (son etiket ırkı içermiyordu).
Kullanılan CLIP sürümü, CLIP-ViT-Base-Patch32 uygulamasıydı. Yazarlar, bu modelin, araştırma yazılmadan önceki ayda bir milyondan fazla kez indirildiğini ve Transformers kütüphanesinden indirilen tüm CLIP modellerinin %98’ini oluşturduğunu belirtiyorlar.
Testler
Araştırmacılar, CLIP’in potansiyel hipodesan eğilimini test etmek için, her bir morflanmış görüntü dizisi için CLIP tarafından atanan ırksal etiketi not ettiler.
Bulgulara göre, CLIP, yaklaşık %50’lik geçiş noktasında, insanları ‘azınlık’ kategorilerine koyma eğilimindedir.

Öznenin başlangıç ve hedef ırka eşit ölçüde ait olduğu %50 karışım oranında CLIP, dönüştürülmüş 1000 kadın görüntüsünün daha büyük bir bölümünü eşdeğer Beyaz etiketi yerine Asyalı (%89,1), Latin (%75,8) ve Siyah (%69,7) etiketleriyle ilişkilendirir.
Sonuçlar, kadınların görüntülerinin CLIP’te erkeklerinkinden daha fazla hipodesana maruz kaldığını gösteriyor. Yazarlar bunun, internetten elde edilen ve elle seçilmeyen kadın görüntüsü etiketlerinin erkeklerinkine kıyasla kişinin dış görünüşünü daha çok vurgulamasından kaynaklanabileceğini ve sonuçları çarpıtabileceğini düşünüyor.
Hipodesan, %50’lik ırksal geçişte Asya-Beyaz erkek morflama dizisi veya Latino-Beyaz erkek morflama dizisinde gözlemlenmedi, ancak CLIP, %55’lik karıştırma oranında %67,5’lik durumlarda Siyah etiketi atanmasına daha yüksek bir kosinüs benzerliği gösterdi.

Çok ırklı, iki ırklı ve karışık ırk etiketlerinin ortalama kosinüs benzerliği. Sonuçlar, CLIP’in farklı ırksal karışım yüzdelerinde bir tür sınıflandırma sınırı uyguladığını; bu karışımları Beyaz etiketine (deneylerin mantığında «kişi») görüntüde algılanan etnik etiketten daha seyrek atadığını gösterir.
İdeal hedef, CLIP’in ara ırksal karışımları doğru olarak ‘karışık ırk’ olarak sınıflandırmasıdır, ancak CLIP, bir ‘eşiğin’ üzerinde, konuyu tamamen beyaz olmayan etikete atanma eğilimindedir.
CLIP, bazı ara morflama adımlarına gerçekten ‘karışık ırk’ etiketini atar, ancak sonunda, konuyu azınlık katkı ırğına sınıflandırma eğilimindedir.
Valens açısından, yazarlar CLIP’in çarpık yargısını not eder:
‘Ortalama valens ilişkisi (kötü veya hoş olmayan ile ilişkili olma eğilimi) Siyah-Beyaz erkek morflama dizisi boyunca karıştırma oranıyla değişir, öyle ki CLIP, CFD gönüllüleri olarak kendini Siyah olarak tanımlayan yüzlerle benzer yüzler için hoş olmayan şeyler ile ilişkili olur.’

Valens sonuçları – testler, azınlık gruplarının CLIP’te White etiketli konulardan daha fazla olumsuz kavramlarla ilişkili olduğunu gösterir. Yazarlar, bir görüntünün hoş olmayan ilişkilendirme oranının, modelin görüntüyü Siyah etiketi ile ilişkilendirdiği olasılıkla arttığını iddia eder.
Makale şöyle diyor:
‘Kanıtlar, bir görüntünün valensinin ırksal ilişki ile ilişkili olduğunu gösterir. Daha somut olarak, sonuçlarımız, modelin bir görüntüyü Siyah bir birey olarak ne kadar kesin bir şekilde ilişkilendirdiğiyle, görüntünün vektör uzayında hoş olmayan kavramlarla o kadar güçlü ilişkilendirildiğini gösterir.’
Ancak, Asya yüzleri için negatif bir korelasyon bulunur. Yazarlar, bu olgunun, web kaynaklı verilerin ABD kültüründeki Asya topluluklarına yönelik olumlu algılarını yansıtabileceğini öne sürer. Yazarlar şöyle diyor:
‘Asya metin etiketiyle hoşluk arasındaki korelasyonu gözlemlemek, “örnek azınlık” stereotipine karşılık gelebilir, burada Asya kökenli insanlar, Amerikan kültürüne asimilasyonları ve yükselişleri nedeniyle övülür ve hatta “iyi davranış” ile ilişkilendirilir.’
Son amaç, CLIP açısından Beyaz olmanın ‘varsayılan kimlik’ olup olmadığını incelemektir. Sonuçlar, bu mimaride ‘biraz Beyaz’ olmanın oldukça zor olduğunu düşündüren yerleşik bir kutupluluğa işaret ediyor.

21.000 görüntü için kosinüs benzerliği.
Yazarlar şöyle diyor:
‘Kanıtlar, CLIP’in White’ı varsayılan ırk olarak kodladığını gösterir. Bu, White kosinüs benzerlikleri ile kişi kosinüs benzerliklerinin diğer herhangi bir ırksal veya etnik grup için daha güçlü korelasyonu ile desteklenir.’
*Yazarların satır içi alıntılarını köprülere çevirdim.
İlk olarak 24 Mayıs 2022’de yayınlandı.












