Tantangan ‘Kategorisasi Ras’ untuk Sistem Sintesis Gambar Berbasis CLIP

Penelitian baru dari AS menemukan bahwa salah satu model visi komputer populer di balik seri DALL-E yang sangat dibicarakan, serta banyak model generasi dan klasifikasi gambar lainnya, menunjukkan kecenderungan yang terbukti terhadap hipodescent – aturan kategorisasi ras (juga dikenal sebagai ‘aturan satu tetes’) yang mengkategorikan seseorang dengan garis keturunan genetik campuran sepenuhnya ke dalam klasifikasi ras minoritas.

Sejak hipodescent telah membedakan beberapa bab terburuk dalam sejarah manusia, penulis makalah baru tersebut menyarankan bahwa kecenderungan seperti itu dalam penelitian visi komputer dan implementasi harus mendapatkan perhatian yang lebih besar, tidak hanya karena kerangka pendukung yang dipertanyakan, yang diunduh hampir sejuta kali sebulan, dapat lebih lanjut menyebarkan dan mempromosikan bias rasial dalam kerangka hilir.

Arsitektur yang dipelajari dalam karya baru ini adalah Contrastive Language Image Pretraining (CLIP), sebuah model pembelajaran mesin multimodal yang mempelajari asosiasi semantik dengan pelatihan pada pasangan gambar/keterangan yang diambil dari internet – sebuah pendekatan semi-terawasi yang mengurangi biaya pelabelan yang signifikan, tetapi yang kemungkinan besar mencerminkan bias orang-orang yang menciptakan keterangan.

Dari makalah:

‘Hasil kami memberikan bukti untuk hipodescent di ruang penyematan CLIP, bias yang diterapkan lebih kuat pada gambar perempuan. Hasil lebih lanjut menunjukkan bahwa CLIP mengasosiasikan gambar dengan label ras atau etnis berdasarkan deviasi dari Putih, dengan Putih sebagai default.

Makalah itu juga menemukan bahwa asosiasi valensi gambar (kecenderungannya untuk dikaitkan dengan ‘baik’ atau ‘buruk’ hal-hal, jauh lebih tinggi untuk label ras minoritas daripada untuk label Kaukasia, dan menunjukkan bahwa bias CLIP mencerminkan korpus sastra yang berorientasi AS (Wikipedia bahasa Inggris) di mana kerangka tersebut dilatih.

Komentar tentang implikasi dari dukungan CLIP yang tampaknya terhadap hipodescent, penulis menyatakan*:

‘[Di antara] penggunaan pertama CLIP adalah untuk melatih model generasi gambar zero-shot DALL-E. Versi yang lebih besar, non-publik dari arsitektur CLIP digunakan dalam pelatihan DALL-E 2. Sesuai dengan temuan penelitian saat ini, Risks and Limitations yang dijelaskan dalam kartu model DALL-E 2 note bahwa itu “menghasilkan gambar yang cenderung melebih-lebihkan orang yang berpenampilan Putih”.

‘Penggunaan seperti itu menunjukkan potensi untuk bias yang dipelajari oleh CLIP untuk menyebar melampaui ruang penyematan model, karena fitur-fiturnya digunakan untuk memandu pembentukan semantik dalam model AI lain yang canggih.

‘Lebih lanjut, karena kemajuan yang dicapai oleh CLIP dan model serupa untuk mengasosiasikan gambar dan teks dalam pengaturan zero-shot, arsitektur multimodal telah digambarkan sebagai dasar untuk masa depan aplikasi internet yang banyak digunakan, termasuk mesin pencari.

‘Hasil kami menunjukkan bahwa perhatian tambahan terhadap apa yang dipelajari model seperti itu dari pengawasan bahasa alami adalah hal yang dibenarkan.’

Makalah makalah tersebut berjudul Bukti Hipodescent dalam AI Semantik Visual, dan berasal dari tiga peneliti di Universitas Washington dan Universitas Harvard.

CLIP dan Pengaruh Buruk

Meskipun peneliti menyatakan bahwa pekerjaan mereka adalah analisis pertama tentang hipodescent dalam CLIP, karya sebelumnya telah menunjukkan bahwa alur kerja CLIP, yang bergantung pada pelatihan yang tidak terawasi dari data web yang tidak terawasi, mengabaikan peran perempuan, dapat menghasilkan konten ofensif, dan dapat menunjukkan bias semantik (seperti sentimen anti-Muslim) dalam penyandi gambar.

Penelitian asli yang memperkenalkan CLIP mengakui bahwa dalam pengaturan zero-shot, CLIP hanya mengasosiasikan 58,3% orang dengan label ras Putih dalam dataset FairFace. Mengamati bahwa FairFace diberi label dengan bias yang mungkin oleh pekerja Amazon Mechanical Turk, penulis makalah baru tersebut menyatakan bahwa ‘sebuah minoritas yang signifikan dari orang yang dianggap oleh manusia lain sebagai Putih dihubungkan dengan ras lain oleh CLIP.’

Mereka melanjutkan:

‘Kebalikannya tampaknya tidak benar, karena individu yang dianggap milik label ras atau etnis lain dalam dataset FairFace dihubungkan dengan label tersebut oleh CLIP. Hasil ini menunjukkan kemungkinan bahwa CLIP telah mempelajari aturan “hipodescent”, seperti yang dijelaskan oleh ilmuwan sosial: individu dengan keturunan multirasial lebih mungkin dianggap dan dikategorikan sebagai milik kelompok orang tua minoritas atau kurang beruntung daripada kelompok orang tua mayoritas atau beruntung.

‘Dengan kata lain, anak dari orang tua Hitam dan Putih dianggap lebih Hitam daripada Putih; dan anak dari orang tua Asia dan Putih dianggap lebih Asia daripada Putih.’

Makalah tersebut memiliki tiga temuan utama: bahwa CLIP menunjukkan hipodescent, dengan ‘menggembalakan’ orang dengan identitas multirasial ke dalam kategori ras minoritas yang berkontribusi; bahwa ‘Putih adalah ras default di CLIP’, dan bahwa ras yang bersaing didefinisikan oleh ‘deviasi’ dari kategori Putih; dan bahwa bias valensi (asosiasi dengan konsep ‘buruk’) berkorelasi dengan sejauh mana individu dikategorikan ke dalam minoritas ras.

Metode dan Data

Untuk menentukan cara CLIP memperlakukan subjek multirasial, peneliti menggunakan teknik morfing sebelumnya untuk mengubah ras gambar individu. Foto-foto tersebut diambil dari Database Wajah Chicago, sebuah set yang dikembangkan untuk studi psikologis yang melibatkan ras.

Contoh dari gambar CFD yang dimorfkan yang ditampilkan dalam materi pelengkap makalah baru. Sumber: https://arxiv.org/pdf/2205.10764.pdf

Peneliti hanya memilih gambar dengan ‘ekspresi netral’ dari dataset, untuk tetap konsisten dengan pekerjaan sebelumnya. Mereka menggunakan Jaringan Adversarial Generatif StyleGAN2-ADA (dilatih pada FFHQ) untuk mengubah ras gambar wajah, dan menciptakan gambar antara yang menunjukkan perkembangan dari satu ras ke ras lain (lihat contoh gambar di atas).

Peneliti kemudian memperoleh penyematan gambar yang diproyeksikan untuk CLIP untuk setiap gambar dari total 21 gambar dalam set morf rasial. Setelah itu, mereka meminta label untuk setiap gambar dari CLIP: ‘multirasial’, ‘birasial’, ‘ras campuran’, dan ‘orang’ (label terakhir yang menghilangkan ras).

Versi CLIP yang digunakan adalah implementasi CLIP-ViT-Base-Patch32. Penulis mencatat bahwa model ini diunduh lebih dari sejuta kali dalam sebulan sebelum penelitian mereka ditulis, dan menyumbang 98% dari unduhan model CLIP dari pustaka Transformers.

Uji

Untuk menguji kemungkinan kecenderungan CLIP terhadap hipodescent, peneliti mencatat label ras yang diberikan oleh CLIP untuk setiap gambar dalam gradien gambar yang dimorfkan untuk setiap individu.

Menurut temuan, CLIP cenderung mengelompokkan orang dalam kategori ‘minoritas’ sekitar tanda 50%.

Pada rasio pencampuran 50%, di mana subjek sama-sama asal/tujuan ras, CLIP mengasosiasikan jumlah gambar yang lebih besar dengan label Asia (89,1%), Latina (75,8%) dan Hitam (69,7%) daripada dengan label Putih yang setara.

Hasil menunjukkan bahwa subjek perempuan lebih rentan terhadap hipodescent di bawah CLIP daripada laki-laki, meskipun penulis menghipotesiskan bahwa ini mungkin karena label web yang tidak terawasi dan tidak terkurasi yang mengkarakterisasi gambar perempuan cenderung menekankan penampilan subjek lebih daripada dalam kasus laki-laki, dan bahwa ini mungkin memiliki efek skewing.

Hipodescent pada 50% transisi rasial tidak diamati untuk seri morf laki-laki Asia-Putih atau Latino-Putih, sementara CLIP mengasosiasikan kesamaan kosin yang lebih tinggi dengan label Hitam pada 67,5% kasus pada rasio pencampuran 55%.

Kesamaan kosin rata-rata dari label Multirasial, Birasial dan Ras Campuran. Hasil menunjukkan bahwa CLIP beroperasi dengan jenis ‘pengkategorian air terjun’ pada persentase pencampuran ras yang bervariasi, kurang sering mengasosiasikan pencampuran ras tersebut dengan Putih (‘orang’, dalam rasional eksperimen) daripada dengan etnis yang dipersepsikan dalam gambar.

Tujuan ideal, menurut makalah, adalah bahwa CLIP akan mengkategorikan campuran ras intermediate secara akurat sebagai ‘ras campuran’, bukan menentukan ‘titik balik’ di mana subjek sering dianggap sepenuhnya ke dalam label non-Putih.

Untuk beberapa extent, CLIP memang mengasosiasikan langkah morf intermediate dengan Ras Campuran (lihat grafik di atas), tetapi akhirnya menunjukkan preferensi mid-rentang untuk mengkategorikan subjek sebagai ras minoritas yang berkontribusi.

Dalam hal valensi, penulis mencatat penilaian CLIP yang miring:

‘[Asosiasi valensi rata-rata (asosiasi dengan konsep ‘buruk’ atau ‘tidak menyenangkan’ vs. dengan konsep ‘baik’ atau ‘menyenangkan’) bervariasi dengan rasio pencampuran pada seri morf laki-laki Hitam-Putih, sehingga CLIP mengkodekan asosiasi dengan ketidaknyamanan untuk wajah yang paling mirip dengan relawan CFD yang mengidentifikasi diri sebagai Hitam.’

Hasil valensi – uji menunjukkan bahwa kelompok minoritas lebih diasosiasikan dengan konsep negatif dalam arsitektur gambar/pasangan daripada subjek yang diberi label Putih. Penulis menyatakan bahwa asosiasi ketidaknyamanan gambar meningkat dengan kemungkinan bahwa model mengasosiasikan gambar dengan label Hitam.

Makalah tersebut menyatakan:

‘Bukti menunjukkan bahwa valensi gambar berkorelasi dengan asosiasi ras. Lebih konkrit, hasil kami menunjukkan bahwa semakin yakin model bahwa gambar mencerminkan individu Hitam, semakin diasosiasikan gambar tersebut dengan ruang penyematan yang tidak menyenangkan.’

Namun, hasil juga menunjukkan korelasi negatif dalam kasus wajah Asia. Penulis menyatakan bahwa ini mungkin karena penyaluran (melalui data web yang disumber) dari persepsi budaya AS yang positif terhadap orang Asia dan komunitas. Penulis menyatakan*:

‘Mengamati korelasi antara kesenangan dan kemungkinan label teks Asia mungkin sesuai dengan stereotip ‘minoritas model’, di mana orang Asia dipuji karena mobilitas dan asimilasi mereka ke dalam budaya Amerika, dan bahkan diasosiasikan dengan “perilaku baik”.’

Mengenai tujuan akhir, untuk memeriksa apakah Putih adalah ‘identitas default’ dari sudut pandang CLIP, hasil menunjukkan polaritas yang tertanam, menunjukkan bahwa di bawah arsitektur ini, agak sulit untuk ‘sedikit Putih’.

Kesamaan kosin di seluruh 21.000 gambar yang dibuat untuk uji.

Penulis mengomentari:

‘Bukti menunjukkan bahwa CLIP mengkodekan Putih sebagai ras default. Ini didukung oleh korelasi yang lebih kuat antara kesamaan kosin Putih dan kesamaan kosin orang daripada untuk kelompok ras atau etnis lainnya.’

*Konversi saya dari kutipan inline penulis ke tautan.

Dipublikasikan pertama kali pada 24 Mei 2022.