‘Raciale Kategorisering’ Udfordringen for CLIP-baserede Billede Synthese Systemer

Nyt forskning fra USA viser, at en af de populære computer vision-modeller bag den meget omtalte DALL-E-serie, samt mange andre billedgenererings- og klassifikationsmodeller, udviser en beviselig tendens til hypodescent – racemæssig kategorisering (også kendt som ‘en-dråbe’-reglen), som kategoriserer en person med selv en lille del ‘blandet’ (dvs. ikke-kaukasiske) genetisk baggrund fuldstændigt som en ‘minoritets’ racemæssig klassificering.

Da hypodescent har karakteriseret nogle af de værste kapitler i menneskehedens historie, foreslår forfatterne af den nye artikel, at sådanne tendenser i computer vision-forskning og implementering bør modtage større opmærksomhed, ikke mindst fordi den underliggende ramme, der er downloadet næsten en million gange om måneden, kunne yderligere sprede og fremme racemæssig bias i efterfølgende rammer.

Arkitekturen, der studeres i det nye arbejde, er Contrastive Language Image Pretraining (CLIP), en multimodal maskinlæringsmodel, der lærer semantiske associationer ved at træne på billed/kaptionspar fra internettet – en semi-overvåget tilgang, der reducerer den betydelige omkostning ved mærkning, men som sandsynligvis vil reflektere bias fra de personer, der skabte kaptionserne.

Fra artiklen:

‘Vores resultater giver bevis for hypodescent i CLIP-embedding-rummet, en bias, der anvendes mere stærkt på billeder af kvinder. Resultaterne viser yderligere, at CLIP associerer billeder med racemæssige eller etniske mærker baseret på afvigelse fra Hvid, med Hvid som standard.

Artiklen finder også, at en billeds valence-association (dens tendens til at blive associeret med ‘godt’ eller ‘dårligt’) er bemærkelsesværdigt højere for ‘minoritets’ racemæssige mærker end for kaukasiske mærker, og foreslår, at CLIP’s bias reflekterer den US-centriske korpus af litteratur (engelsk Wikipedia) på hvilken rammen blev trænet.

I kommentar til implikationerne af CLIP’s åbenbare støtte til hypodescent, siger forfatterne*:

‘[Blandt] de første brug af CLIP var til at træne zero-shot billedgenereringsmodellen DALL-E. En større, ikke-offentlig version af CLIP-arkitekturen blev brugt i træningen af DALL-E 2. I overensstemmelse med resultaterne fra denne forskning, bemærker Risks and Limitations i DALL-E 2 modelkortet note, at det “producerer billeder, der tenderer til at overrepræsentere personer, der er Hvid-passende”.

‘Sådanne brug demonstrerer potentialet for, at bias lært af CLIP kan sprede sig ud over modellens embedding-rum, da dens funktioner bruges til at guide dannelsen af semantik i andre state-of-the-art AI-modeller.

‘Desuden, delvist på grund af fremskridtene realiseret af CLIP og lignende modeller for at associerer billeder og tekst i zero-shot-sætningen, er multimodale arkitekturer blevet beskrevet som grundlaget for fremtiden for bredt anvendte internet-applikationer, herunder søgemaskiner.

‘Vores resultater indikerer, at yderligere opmærksomhed på, hvad sådanne modeller lærer fra naturlig sprogovervågning, er berettiget.’

Den artikel er titlen Bevis for Hypodescent i Visuel Semantisk AI, og kommer fra tre forskere ved University of Washington og Harvard University.

CLIP og Dårlige Indflydelser

Selvom forskerne bekræfter, at deres arbejde er den første analyse af hypodescent i CLIP, har tidligere arbejde vist, at CLIP-workflowen, der afhænger af primært uovervåget træning fra under-kuraterede web-afledte data, under-repræsenterer kvinder, kan producere krænkelser, og kan demonstrere semantisk bias (såsom anti-muslimsk sentiment) i dens billed-encoder.

Den oprindelige artikel, der præsenterede CLIP, indrømmede, at i en zero-shot-sætning, associerer CLIP kun 58,3% af personer med den Hvide racemæssige mærke i FairFace-datasettet. Observerende, at FairFace var mærket med mulig bias af Amazon Mechanical Turk-arbejdere, siger forfatterne af den nye artikel, at ‘en betydelig minoritet af personer, der opfattes af andre mennesker som Hvid, er associeret med en race andre end Hvid af CLIP.’

De fortsætter*:

‘Den inverse ser ikke ud til at være sand, da personer, der opfattes til at tilhøre andre racemæssige eller etniske mærker i FairFace-datasettet, er associeret med disse mærker af CLIP. Dette resultat antyder muligheden for, at CLIP har lært reglen om “hypodescent”, som beskrevet af samfundsvidenskabsfolk: personer med multiraciale aner er mere sandsynligt at blive opfattet og kategoriseret som tilhørende den minoritets- eller mindre begunstigede forældregruppe end til den lige så legitime majoritets- eller begunstigede forældregruppe.

‘Med andre ord, barnet af en Sort og en Hvid forælder opfattes som mere Sort end Hvid; og barnet af en Asiatisk og en Hvid forælder opfattes som mere Asiatisk end Hvid.’

Artiklen har tre centrale resultater: at CLIP viser hypodescent, ved at ‘samle’ personer med multiraciale identiteter ind i den minoritetsbidragende racemæssige kategori, der gælder for dem; at ‘Hvid er standard-racen i CLIP’, og at konkurrerende racer defineres af deres ‘afvigelse’ fra en Hvid-kategori; og at valence-bias (en association med ‘dårlige’ begreber) korrelerer med, at den enkelte er kategoriseret ind i en racemæssig minoritet.

Metode og Data

For at bestemme, hvordan CLIP behandler multiraciale emner, brugte forskerne en tidligere antaget morfing-teknik til at ændre racen af billeder af personer. Billederne blev taget fra Chicago Face Database, et sæt udviklet til psykologiske studier omfattende race.

Eksempler fra de racemæssigt-morfede CFD-billeder, der er fremhævet i den nye artikels supplerende materiale. Kilde: https://arxiv.org/pdf/2205.10764.pdf

Forskere valgte kun billeder med ‘neutral udtryk’ fra datasettet, for at være konsistent med det tidligere arbejde. De brugte Generative Adversarial Network StyleGAN2-ADA (trænet på FFHQ) til at ændre racen af de ansigtsbilleder, og skabte interstitielle billeder, der demonstrerer overgangen fra en race til en anden (se eksempler ovenfor).

I overensstemmelse med det tidligere arbejde, morfede forskerne ansigter af personer, der selv identificerede sig som Sorte, Asiatiske og Latino i datasettet, til ansigter af personer, der selv identificerede sig som Hvide. Der blev produceret 19 mellemstadier i processen. I alt blev 21.000 billeder på 1024×1024 pixels skabt til projektet ved denne metode.

Forskere fik derefter en projiceret billed-embedding for CLIP for hvert af de i alt 21 billeder i hver racemæssig morf-sæt. Efter dette, fik de en mærke for hvert billede fra CLIP: ‘multiracial’, ‘biracial’, ‘mixed race’, og ‘person’ (den sidste mærke udelader race).

Versionen af CLIP, der blev brugt, var CLIP-ViT-Base-Patch32-implementeringen. Forfatterne bemærker, at denne model blev downloadet over en million gange i måneden før, de skrev deres forskning, og står for 98% af downloads af nogen CLIP-model fra Transformers-biblioteket.

Tests

For at teste CLIP’s potentiale tendens til hypodescent, noterede forskerne den racemæssige mærke, der blev tildelt af CLIP til hvert billede i gradienten af morfede billeder for hvert enkelt individ.

Ifølge resultaterne, tenderer CLIP til at gruppere personer i ‘minoritets’-kategorierne omkring 50%-overgangsmærket.

Ved en 50%-blandingsratio, hvor subjektet er lige så meget oprindelses-/mål-race, associerer CLIP en højere antal af 1000 morfede kvindelige billeder med Asiatisk (89,1%), Latina (75,8%) og Sort (69,7%) mærker end med en tilsvarende Hvid mærke.

Resultaterne viser, at kvindelige subjekter er mere tilbøjelige til hypodescent under CLIP end mænd, selvom forfatterne formoder, at dette kan skyldes, at web-afledte og ukuraterede mærker, der karakteriserer kvindelige billeder, tenderer til at betone subjektets udseende mere end i tilfældet med mænd, og at dette kan have en skævvirkning.

Hypodescent ved en 50%-racemæssig overgang blev ikke observeret for den Asiatisk-Hvide mandlige eller Latino-Hvide mandlige morf-sæt, mens CLIP tildelte en højere cosinus-lighed til den Sorte mærke i 67,5% af tilfældene ved en 55%-blandingsratio.

Den gennemsnitlige cosinus-lighed af Multiracial, Biracial og Mixed Race mærker. Resultaterne indikerer, at CLIP opererer en slags ‘vandløbs’-kategorisering ved varierende procentdel af racemæssig blanding, mindre ofte tildeler en sådan racemæssig blanding til Hvid (‘person’, i rationalet bag eksperimenterne) end til den etnicitet, der er opfattet i billedet.

Det ideelle mål, ifølge artiklen, er, at CLIP ville kategorisere de intermediate racemæssige blanding korrekt som ‘mixed race’, i stedet for at definere en ‘vandløbs’-kategorisering ved varierende procentdel af racemæssig blanding.

For en vis udstrækning, tildeler CLIP de intermediate morf-trin med Mixed Race (se graf ovenfor), men demonstrerer til sidst en midterste præference for at kategorisere subjekter som deres minoritetsbidragende race.

I valence-henseende bemærker forfatterne CLIP’s skæve dom*:

‘[Gennemsnitlig] valence-association (association med dårlig eller ubehagelig vs. med god eller behagelig) varierer med blandingsratioen over den Sorte-Hvide mandlige morf-sæt, sådan at CLIP kodificerer associationer med ubehagelighed for ansigterne, der ligner mest CFD-frivillige, der selv identificerer sig som Sorte.’

Valence-resultaterne – testene viser, at minoritetsgrupper er mere associeret med negative begreber i billed/paar-arkitekturen end for Hvid-mærkede subjekter. Forfatterne påstår, at ubehageligheds-associationen af et billede øges med sandsynligheden for, at modellen associerer billedet med den Sorte mærke.

Artiklen fastslår*:

‘Beviset tyder på, at valence af et billede korrelerer med racemæssig [association]. Mere konkrekt, vore resultater indikerer, at jo mere sikker modellen er på, at et billede afspejler en Sort person, jo mere associerer billedet med ubehageligheds-embedding-rummet.’

Men resultaterne indikerer også en negativ korrelation i tilfældet af Asiatiske ansigter. Forfatterne foreslår, at dette kan skyldes pass-through (via web-kildedata) af positive US-kulturelle opfattelser af Asiatiske personer og samfund. Forfatterne påstår*:

‘At observere en korrelation mellem behagelighed og sandsynlighed for den Asiatiske tekst-mærke kan korresponderer til “model-minoritets”-stereotypen, hvor personer af Asiatiske aner prisges for deres opadgående mobilitet og assimilation i den amerikanske kultur, og endda associeres med “god adfærd”.’

Med hensyn til det endelige mål, at undersøge, om Hvid er ‘standard-identiteten’ fra CLIP’s synspunkt, indikerer resultaterne en indbygget polaritet, der antyder, at under denne arkitektur, er det ret svært at være ‘lidt Hvid’.

Cosinus-lighed på tværs af 21.000 billeder skabt til testene.

Forfatterne kommenterer*:

‘Beviset tyder på, at CLIP kodificerer Hvid som standard-race. Dette understøttes af de stærkere korrelationer mellem Hvid cosinus-ligheder og person cosinus-ligheder end for nogen anden racemæssig eller etnisk gruppe.’

*Min konvertering af forfatternes inline-citationer til hyperlinks.

Først udgivet 24. maj 2022.