De ‘Raciale Categorisatie’ Uitdaging voor CLIP-gebaseerde Beeldsynthesesystemen

Nieuw onderzoek uit de VS toont aan dat een van de populaire computervisie-modellen achter de veelgeprezen DALL-E-serie, evenals veel andere beeldgeneratie- en classificatiemodellen, een aantoonbare neiging vertoont tot hypodescent – de raciale categorisatieregel (ook bekend als de ‘one drop’-regel) die een persoon met zelfs een kleine mate van ‘gemengd’ (d.w.z. niet-Caucasische) genetische afstamming volledig in een ‘mindereheden’-raciale classificatie onderbrengt.

Aangezien hypodescent enkele van de lelijkste hoofdstukken in de menselijke geschiedenis heeft gekenmerkt, suggereren de auteurs van het nieuwe artikel dat dergelijke neigingen in computervisieonderzoek en -implementatie meer aandacht verdienen, niet in de laatste plaats omdat het ondersteunende kader in kwestie, dat bijna een miljoen keer per maand wordt gedownload, de raciale vooroordelen in downstream-kaders verder kan verspreiden en verspreiden.

De architectuur die in het nieuwe werk wordt bestudeerd, is Contrastive Language Image Pretraining (CLIP), een multimodaal machine learning-model dat semantische associaties leert door training op beeld/caption-paren uit het internet – een semi-gecontroleerde aanpak die de aanzienlijke kosten van labeling vermindert, maar die waarschijnlijk de vooroordelen van de mensen die de captions hebben gemaakt, weerspiegelt.

Uit het artikel:

‘Onze resultaten bieden bewijs voor hypodescent in de CLIP-embeddingsruimte, een vooroordeel dat sterker wordt toegepast op beelden van vrouwen. De resultaten geven verder aan dat CLIP beelden associeert met raciale of etnische labels op basis van afwijking van Wit, met Wit als standaard.

Het artikel vindt ook dat de valentieassociatie van een beeld (de neiging om geassocieerd te worden met ‘goede’ of ‘slechte’ dingen) aanzienlijk hoger is voor ‘mindereheden’-raciale labels dan voor blanke labels, en suggereert dat de vooroordelen van CLIP de vooroordelen van de VS-centrische corpus van literatuur (Engelstalige Wikipedia) weerspiegelen waarop het kader is getraind.

In een reactie op de implicaties van de schijnbare steun van CLIP voor hypodescent, merken de auteurs op*:

‘[Onder] de eerste toepassingen van CLIP was het trainen van het zero-shot-beeldgeneratiemodel DALL-E. Een grotere, niet-openbare versie van de CLIP-architectuur werd gebruikt bij het trainen van DALL-E 2. In overeenstemming met de resultaten van het huidige onderzoek, vermeldt de Risks and Limitations van de DALL-E 2-modelkaart note dat het “beelden produceert die de voorkeur geven aan mensen die Wit-passend zijn”.

‘Dergelijke toepassingen demonstreren het potentieel voor de vooroordelen die door CLIP zijn geleerd om zich te verspreiden buiten de embeddingsruimte van het model, aangezien de functies worden gebruikt om de vorming van semantiek in andere state-of-the-art AI-modellen te leiden.

‘Bovendien, dankzij de vooruitgang die is gerealiseerd door CLIP en soortgelijke modellen voor het associëren van beelden en tekst in de zero-shot-setting, zijn multimodale architectuur beschreven als de basis voor de toekomst van breed gebruikte internettoepassingen, waaronder zoekmachines.

‘Onze resultaten geven aan dat extra aandacht nodig is voor wat dergelijke modellen leren van natuurlijke taal supervisie.’

Het artikel heeft als titel Bewijs voor Hypodescent in Visuele Semantische AI en komt van drie onderzoekers van de University of Washington en Harvard University.

CLIP en Slechte Invloeden

Hoewel de onderzoekers beweren dat hun werk de eerste analyse van hypodescent in CLIP is, hebben eerdere werken aangetoond dat de CLIP-workflow, die afhankelijk is van grotendeels ongecontroleerde training van onder-gecurateerde web-gegevens, vrouwen ondervertegenwoordigt, aanstootgevend content kan produceren en semantische vooroordelen (zoals anti-moslimsentiment) in de beeldencoder kan vertonen.

Het oorspronkelijke artikel dat CLIP introduceerde, gaf toe dat in een zero-shot-setting CLIP slechts 58,3% van de mensen associeert met het blanke raciale label in de FairFace-dataset. De auteurs van het nieuwe artikel merken op dat ‘een aanzienlijk deel van de mensen die door andere mensen als blank worden waargenomen, door CLIP wordt geassocieerd met een ras andere dan blank.’

Zij gaan verder:

‘Het omgekeerde lijkt niet waar te zijn, aangezien individuen die door andere mensen als behorend tot andere raciale of etnische labels in de FairFace-dataset worden waargenomen, door CLIP worden geassocieerd met die labels. Dit resultaat suggereert de mogelijkheid dat CLIP de regel van “hypodescent” heeft geleerd, zoals beschreven door sociale wetenschappers: individuen met multiraciale afstamming zijn meer geneigd om te worden waargenomen en gecategoriseerd als behorend tot de minderheid of minder bevoorrechte oudergroep dan tot de even legitieme meerderheid of bevoorrechte oudergroep.

‘Met andere woorden, het kind van een zwarte en een blanke ouder wordt meer als zwart dan als blank waargenomen; en het kind van een Aziatische en een blanke ouder wordt meer als Aziatisch dan als blank waargenomen.’

Het artikel heeft drie centrale bevindingen: dat CLIP hypodescent vertoont, door ‘herders’ mensen met multiraciale identiteiten in de minderheid bijdragende raciale categorie die voor hen geldt; dat ‘Wit de standaardras is in CLIP’, en dat concurrerende rassen worden gedefinieerd door hun ‘afwijking’ van een blanke categorie; en dat valentievooroordeel (een associatie met ‘slechte’ concepten) correleert met de mate waarin het individu wordt gecategoriseerd in een raciale minderheid.

Methode en Gegevens

Om te bepalen hoe CLIP multiraciale onderwerpen behandelt, gebruikten de onderzoekers een eerder geadopteerde morfing-techniek om het ras van beelden van individuen te veranderen. De foto’s werden genomen uit de Chicago Face Database, een set ontwikkeld voor psychologische studies over ras.

Voorbeelden van de raciaal gemorfe CFD-afbeeldingen die in de supplementaire materialen van het nieuwe artikel worden gepresenteerd. Bron: https://arxiv.org/pdf/2205.10764.pdf

De onderzoekers kozen alleen ‘neutrale expressie’-beelden uit de dataset, om consistent te zijn met het eerdere werk. Zij gebruikten het Generative Adversarial Network StyleGAN2-ADA (getraind op FFHQ) om de rasverandering van de gezichtsbeelden te bereiken, en creëerden intermediaire beelden die de progressie van het ene ras naar het andere demonstreren (zie bovenstaande voorbeelden).

Consistent met het eerdere werk, morfen de onderzoekers de gezichten van mensen die zichzelf als zwart, Aziatisch en Latijns-Amerikaans identificeren in de dataset in gezichten van mensen die zichzelf als blank identificeren. Negentien tussenliggende stadia worden in het proces gegenereerd. In totaal werden 21.000 1024x1024px-beelden voor het project gegenereerd met deze methode.

De onderzoekers verkregen vervolgens een geprojecteerde beeldembeddingsruimte voor CLIP voor elk van de in totaal 21 beelden in elke raciale morfenset. Daarna vroegen zij een label voor elk beeld aan CLIP: ‘multiraciaal’, ‘biraciaal’, ‘gemengd ras’, en ‘persoon’ (het laatste label zonder ras).

De gebruikte CLIP-versie was de CLIP-ViT-Base-Patch32-implementatie. De auteurs merken op dat dit model in de maand voorafgaand aan het schrijven van hun onderzoek meer dan een miljoen keer werd gedownload en verantwoordelijk is voor 98% van de downloads van elk CLIP-model uit de Transformers-bibliotheek.

Tests

Om te testen of CLIP een neiging heeft tot hypodescent, noteerden de onderzoekers het raciale label dat door CLIP aan elk beeld in de gradient van gemorfe beelden voor elk individu werd toegekend.

Volgens de resultaten heeft CLIP de neiging om mensen in de ‘mindereheden’-categorieën te groeperen rond het 50%-overgangspunt.

Bij een 50%-mengverhouding, waar het onderwerp gelijk is aan het oorsprong/doelras, associeert CLIP een hoger aantal van 1000 gemorfe vrouwelijke beelden met Aziatische (89,1%), Latina (75,8%) en zwarte (69,7%) labels dan met een equivalent blank label.

De resultaten laten zien dat vrouwelijke onderwerpen meer geneigd zijn tot hypodescent onder CLIP dan mannen, hoewel de auteurs hypotheseren dat dit kan komen doordat de web-gebaseerde en ongecurateerde labels die vrouwelijke beelden karakteriseren, de verschijning van het onderwerp meer benadrukken dan in het geval van mannen, en dat dit een scheefheid kan hebben.

Hypodescent bij een 50%-raciale overgang werd niet waargenomen voor de Aziatisch-Witte mannelijke of Latijns-Amerikaanse-Witte mannelijke morfenserie, terwijl CLIP in 67,5% van de gevallen een hogere cosinusgelijkheid toekende aan het zwarte label bij een 55%-mengverhouding.

De gemiddelde cosinusgelijkheid van multiraciale, biraciale en gemengde raciale labels. De resultaten geven aan dat CLIP een soort ‘watershed’-categorisatie uitvoert bij variërende percentages van raciale menging, minder vaak een dergelijke raciale menging toewijzend aan Wit (‘persoon’, in de redenering van de experimenten) dan aan de etniciteit die in de afbeelding wordt waargenomen.

Het ideale doel is, volgens het artikel, dat CLIP de tussenliggende raciale mengingen nauwkeurig zou categoriseren als ‘gemengd ras’, in plaats van een ‘keerpunt’ te definiëren waarbij het onderwerp zo vaak volledig wordt toegewezen aan de niet-blanke label.

Tot op zekere hoogte wijst CLIP de tussenliggende morfstappen toe aan Gemengd Ras (zie bovenstaande grafiek), maar toont uiteindelijk een voorkeur voor het categoriseren van onderwerpen als hun minderheid bijdragende ras.

In termen van valentie merken de auteurs op dat CLIP een scheef oordeel heeft:

‘[Gemiddelde] valentieassociatie (associatie met onaangenaam vs. met aangenaam) varieert met de mengverhouding over de zwarte-Witte mannelijke morfenserie, zodat CLIP associaties met onaangenaamheid voor de gezichten die het meest lijken op CFD-vrijwilligers die zichzelf als zwart identificeren.’

De valentieresultaten – de tests laten zien dat minderheidsgroepen meer geassocieerd worden met negatieve concepten in de beeld/paararchitectuur dan voor blanke labels. De auteurs beweren dat de onaangenaamheidsassociatie van een beeld toeneemt met de waarschijnlijkheid dat het model het beeld associeert met het zwarte label.

Het artikel stelt:

‘Het bewijs geeft aan dat de valentie van een beeld correleert met raciale [associatie]. Meer concreet geven onze resultaten aan dat hoe zekerder het model is dat een beeld een zwarte persoon weerspiegelt, hoe meer het beeld geassocieerd wordt met de onaangenaamheidsembeddingsruimte.’

Echter, de resultaten geven ook aan dat er een negatieve correlatie is in het geval van Aziatische gezichten. De auteurs suggereren dat dit kan komen doordat de positieve culturele percepties van Aziatische mensen en gemeenschappen in de VS (via de web-gebaseerde gegevens) zijn doorgegeven. De auteurs merken op*:

‘Het observeren van een correlatie tussen aangenaamheid en waarschijnlijkheid van het Aziatische tekstlabel kan overeenkomen met het “modelminderheid”-stereotype, waarbij mensen van Aziatische afstamming worden geprezen voor hun opwaartse mobiliteit en assimilatie in de Amerikaanse cultuur, en zelfs geassocieerd worden met “goed gedrag”.’

Met betrekking tot het laatste doel, om te onderzoeken of Wit de ‘standaardidentiteit’ is vanuit het perspectief van CLIP, geven de resultaten aan dat er een ingebedde polariteit is, wat suggereert dat onder deze architectuur het moeilijk is om ‘een beetje blank’ te zijn.

Cosinusgelijkheid over 21.000 beelden die voor de tests zijn gemaakt.

De auteurs merken op:

‘Het bewijs geeft aan dat CLIP Wit als standaardras codeert. Dit wordt ondersteund door de sterkere correlaties tussen Witte cosinusgelijkheden en persooncosinusgelijkheden dan voor enig ander raciaal of etnisch groep.’

*Mijn conversie van de inline citaten van de auteurs naar hyperlinks.

Voor het eerst gepubliceerd op 24 mei 2022.