La ‘Sfida della Categorizzazione Razziale’ per i Sistemi di Sintesi di Immagini Basati su CLIP

Una nuova ricerca condotta negli Stati Uniti ha scoperto che uno dei popolari modelli di visione computerizzata alla base della serie DALL-E, nonché di molti altri modelli di generazione e classificazione di immagini, presenta una tendenza provata verso l’ipodescendenza – la regola di categorizzazione razziale (nota anche come la regola del “goccia di sangue”) che categorizza una persona con anche una piccola quantità di discendenza genetica “mista” (cioè non caucasica) interamente in una classificazione razziale “minoritaria”.

Dal momento che l’ipodescendenza ha caratterizzato alcuni dei capitoli più brutti della storia umana, gli autori del nuovo studio suggeriscono che tali tendenze nella ricerca e nell’implementazione della visione computerizzata dovrebbero ricevere maggiore attenzione, non ultimo perché il framework di supporto in questione, scaricato quasi un milione di volte al mese, potrebbe ulteriormente diffondere e promuovere pregiudizi razziali in framework downstream.

L’architettura studiata nel nuovo lavoro è il Contrastive Language Image Pretraining (CLIP), un modello di apprendimento multimodale che apprende associazioni semantiche attraverso l’addestramento su immagini/coppie di didascalie tratte da Internet – un approccio semi-supervisionato che riduce il costo significativo dell’etichettatura, ma che probabilmente riflette il pregiudizio delle persone che hanno creato le didascalie.

Dal paper:

‘I nostri risultati forniscono prove di ipodescendenza nello spazio di incorporamento di CLIP, un pregiudizio applicato più fortemente alle immagini di donne. I risultati indicano inoltre che CLIP associa immagini con etichette razziali o etniche in base alla deviazione da Bianco, con Bianco come default.

Il paper trova anche che l’associazione di valenza di un’immagine (la sua tendenza ad essere associata a cose “buone” o “cattive”) è notevolmente più alta per etichette razziali “minoritarie” che per etichette caucasiche, e suggerisce che i pregiudizi di CLIP riflettono il corpus di letteratura statunitense (Wikipedia in lingua inglese) su cui il framework è stato addestrato.

Commentando sulle implicazioni dell’apparente supporto di CLIP per l’ipodescendenza, gli autori affermano*:

‘[Tra] i primi utilizzi di CLIP c’è stato l’addestramento del modello di generazione di immagini zero-shot DALL-E. Una versione più grande e non pubblica dell’architettura CLIP è stata utilizzata nell’addestramento di DALL-E 2. Coerentemente con i risultati della presente ricerca, la sezione Rischi e Limitazioni della carta del modello DALL-E 2 nota che esso “produce immagini che tendono a sovrarappresentare le persone che sono di aspetto bianco”.

‘Tali utilizzi dimostrano il potenziale per i pregiudizi appresi da CLIP di diffondersi al di là dello spazio di incorporamento del modello, poiché le sue funzionalità vengono utilizzate per guidare la formazione della semantica in altri modelli di intelligenza artificiale all’avanguardia.

‘Inoltre, grazie in parte ai progressi realizzati da CLIP e modelli simili per l’associazione di immagini e testo in ambiente zero-shot, le architetture multimodali sono state descritte come la base per il futuro di applicazioni Internet ampiamente utilizzate, incluse le motori di ricerca.

‘I nostri risultati indicano che è necessaria un’attenzione aggiuntiva a ciò che tali modelli apprendono dalla supervisione del linguaggio naturale.’

Il paper si intitola Prove di Ipodescendenza nell’Intelligenza Artificiale Semantica Visiva e proviene da tre ricercatori dell’Università di Washington e dell’Università di Harvard.

CLIP e Cattive Influenze

Sebbene i ricercatori affermino che il loro lavoro è la prima analisi dell’ipodescendenza in CLIP, lavori precedenti hanno dimostrato che il flusso di lavoro di CLIP, che dipende dall’addestramento semi-supervisionato da dati web derivati non curati, sottorappresenta le donne, può produrre contenuti offensivi e può dimostrare pregiudizio semantico (come il sentimento anti-musulmano) nel suo encoder di immagini.

I ricercatori scelgono solo immagini con ‘espressione neutra’ dal set di dati, per rimanere coerenti con il lavoro precedente. Utilizzano la rete generativa avversariale StyleGAN2-ADA (addestrata su FFHQ) per realizzare il cambiamento razziale delle immagini facciali e creano immagini intermedie che dimostrano la progressione da una razza all’altra (vedi immagini di esempio sopra).

Coerentemente con il lavoro precedente, i ricercatori trasformano i volti di persone che si identificano come neri, asiatici e latini nel set di dati in volti di persone che si identificano come bianchi. Vengono prodotti 19 stadi intermedi nel processo. Complessivamente, vengono create 21.000 immagini da 1024×1024 pixel per il progetto con questo metodo.

I ricercatori ottengono quindi un’incorporazione di immagine proiettata per CLIP per ogni immagine dei 21 totali in ogni set di morfismo razziale. Dopo di ciò, richiedono un’etichetta per ogni immagine da CLIP: ‘multirazziale’, ‘birazziale’, ‘razza mista’ e ‘persona’ (l’ultima etichetta omette la razza).

La versione di CLIP utilizzata è l’implementazione CLIP-ViT-Base-Patch32. Gli autori notano che questo modello è stato scaricato oltre un milione di volte nel mese precedente alla stesura della loro ricerca e rappresenta il 98% degli scaricamenti di qualsiasi modello CLIP dalla libreria Transformers.

Metodo e Dati

Al fine di determinare il modo in cui CLIP tratta i soggetti multirazziali, i ricercatori utilizzano una tecnica di morfismo precedentemente adottata per alterare la razza delle immagini di individui. Le foto sono tratte dal Chicago Face Database, un set sviluppato per studi psicologici che coinvolgono la razza.

Esempi dalle immagini CFD morfate presentate nel materiale supplementare del nuovo paper. Fonte: https://arxiv.org/pdf/2205.10764.pdf

I ricercatori scelgono solo immagini con ‘espressione neutra’ dal set di dati, per rimanere coerenti con il lavoro precedente. Utilizzano la rete generativa avversariale StyleGAN2-ADA (addestrata su FFHQ) per realizzare il cambiamento razziale delle immagini facciali e creano immagini intermedie che dimostrano la progressione da una razza all’altra (vedi immagini di esempio sopra).

Coerentemente con il lavoro precedente, i ricercatori trasformano i volti di persone che si identificano come neri, asiatici e latini nel set di dati in volti di persone che si identificano come bianchi. Vengono prodotti 19 stadi intermedi nel processo. Complessivamente, vengono create 21.000 immagini da 1024×1024 pixel per il progetto con questo metodo.

I ricercatori ottengono quindi un’incorporazione di immagine proiettata per CLIP per ogni immagine dei 21 totali in ogni set di morfismo razziale. Dopo di ciò, richiedono un’etichetta per ogni immagine da CLIP: ‘multirazziale’, ‘birazziale’, ‘razza mista’ e ‘persona’ (l’ultima etichetta omette la razza).

La versione di CLIP utilizzata è l’implementazione CLIP-ViT-Base-Patch32. Gli autori notano che questo modello è stato scaricato oltre un milione di volte nel mese precedente alla stesura della loro ricerca e rappresenta il 98% degli scaricamenti di qualsiasi modello CLIP dalla libreria Transformers.

Test

Per testare la potenziale tendenza di CLIP verso l’ipodescendenza, i ricercatori notano l’etichetta razziale assegnata da CLIP a ogni immagine nel gradiente di immagini morfate per ogni individuo.

Secondo i risultati, CLIP tende a raggruppare le persone nelle categorie “minoritarie” intorno al 50% del punto di transizione.

A un rapporto di miscelazione del 50%, dove il soggetto è equamente origine/razza di destinazione, CLIP associa un numero più alto di 1000 immagini morfate femminili con etichette asiatiche (89,1%), latine (75,8%) e nere (69,7%) rispetto a un’etichetta bianca equivalente.

I risultati mostrano che i soggetti femminili sono più propensi all’ipodescendenza sotto CLIP rispetto agli uomini, sebbene gli autori ipotizzino che ciò possa essere dovuto al fatto che le etichette web-derivate e non curate che caratterizzano le immagini femminili tendono a enfatizzare l’aspetto del soggetto più che nel caso degli uomini, e che ciò possa avere un effetto distorto.

L’ipodescendenza al 50% di transizione razziale non è stata osservata per la serie di morfismo maschile asiatico-bianco o latino-bianco, mentre CLIP assegna una somiglianza cosinusa più alta all’etichetta nera nel 67,5% dei casi a un rapporto di miscelazione del 55%.

La somiglianza cosinusa media delle etichette Multirazziale, Birazziale e Razza Mista. I risultati indicano che CLIP opera una sorta di categorizzazione ‘a watershed’ a varie percentuali di miscelazione razziale, assegnando meno frequentemente una tale miscelazione razziale al Bianco (‘persona’, nella razionalizzazione degli esperimenti) rispetto all’etnia percepita nell’immagine.

L’obiettivo ideale, secondo il paper, è che CLIP categorizzi le miscele razziali intermedie in modo accurato come ‘razza mista’, invece di definire un ‘punto di non ritorno’ al quale il soggetto è così frequentemente assegnato interamente all’etichetta non bianca.

Fino a un certo punto, CLIP assegna effettivamente le fasi di morfismo intermedie con l’etichetta Razza Mista (vedi grafico sopra), ma alla fine dimostra una preferenza a medio raggio per categorizzare i soggetti come la loro razza di contribuzione minoritaria.

In termini di valenza, gli autori notano il giudizio distorto di CLIP:

‘[L’associazione di valenza media (associazione con concetti “cattivi” o “sgradevoli” rispetto a concetti “buoni” o “piacevoli”) varia con il rapporto di miscelazione nel corso della serie di morfismo maschile nero-bianco, in modo che CLIP codifichi associazioni con concetti sgradevoli per i volti più simili ai volontari del CFD che si identificano come neri.’

I risultati di valenza – i test mostrano che i gruppi minoritari sono più associati a concetti negativi nell’architettura immagine/coppia rispetto ai soggetti etichettati come Bianchi. Gli autori affermano che l’associazione di sgradevolezza di un’immagine aumenta con la probabilità che il modello associ l’immagine all’etichetta nera.

Il paper afferma:

‘Le prove indicano che la valenza di un’immagine è correlata all’associazione razziale. Più concretamente, i nostri risultati indicano che più il modello è certo che un’immagine rifletta un individuo nero, più l’immagine è associata allo spazio di incorporamento sgradevole.’

Tuttavia, i risultati indicano anche una correlazione negativa nel caso dei volti asiatici. Gli autori suggeriscono che ciò potrebbe essere dovuto al passaggio (attraverso i dati web-derivati) di percezioni culturali positive degli Stati Uniti nei confronti delle persone e delle comunità asiatiche. Gli autori affermano*:

‘Osservare una correlazione tra piacevolezza e probabilità dell’etichetta di testo asiatico potrebbe corrispondere allo stereotipo del “modello di minoranza”, in cui le persone di discendenza asiatica sono elogiate per la loro mobilità verso l’alto e l’assimilazione nella cultura americana, e addirittura associate a “comportamento buono”.’

Riguardo all’obiettivo finale, esaminare se il Bianco sia l'”identità predefinita” dal punto di vista di CLIP, i risultati indicano una polarità incorporata, suggerendo che sotto questa architettura è piuttosto difficile essere “un po’ bianco”.

Somiglianza cosinusa su 21.000 immagini create per i test.

Gli autori commentano:

‘Le prove indicano che CLIP codifica il Bianco come razza predefinita. Ciò è supportato dalle correlazioni più forti tra le somiglianze cosinuse bianche e le somiglianze cosinuse della persona rispetto a qualsiasi altro gruppo razziale o etnico.’

*La mia conversione delle citazioni in linea degli autori in collegamenti ipertestuali.

Pubblicato per la prima volta il 24 maggio 2022.