La ‘categorizzazione razziale’ sfida per i sistemi di sintesi di immagini basati su CLIP

Nuove ricerche negli Stati Uniti hanno scoperto che uno dei popolari modelli di visione computerizzata alla base della molto acclamata serie DALL-E, nonché di molti altri modelli di generazione e classificazione di immagini, esibisce una tendenza dimostrabile verso l’ipodescenza – la regola di categorizzazione razziale (nota anche come regola del ‘goccia unica’) che categorizza una persona anche con una piccola estensione di discendenza genetica ‘mista’ (cioè non caucasica) interamente in una classificazione razziale ‘minoritaria’.

Poiché l’ipodescenza ha caratterizzato alcuni dei capitoli più brutti della storia umana, gli autori del nuovo documento suggeriscono che tali tendenze nella ricerca e nell’implementazione della visione computerizzata dovrebbero ricevere maggiore attenzione, non ultima perché il framework in questione, scaricato quasi un milione di volte al mese, potrebbe ulteriormente diffondere e promuovere pregiudizi razziali in framework a valle.

L’architettura oggetto di studio nel nuovo lavoro è il Contrastive Language Image Pretraining (CLIP), un modello di apprendimento automatico multimodale che apprende associazioni semantiche formando coppie di immagini e didascalie tratte da Internet – un approccio semi-supervisionato che riduce il costo significativo di etichettatura, ma che probabilmente riflette i pregiudizi delle persone che hanno creato le didascalie.

‘L’inverso non sembra essere vero, poiché gli individui che sono percepiti come appartenenti ad altre etichette razziali o etniche nel dataset FairFace sono associati a quelle etichette da CLIP. Questo risultato suggerisce la possibilità che CLIP abbia appreso la regola dell'”ipodescenza”, come descritto dai sociologi: gli individui con discendenza multirazziale sono più probabili di essere percepiti e categorizzati come appartenenti al gruppo genitoriale minoritario o meno avvantaggiato piuttosto che al gruppo genitoriale maggioritario o avvantaggiato.’

‘In altre parole, il figlio di un genitore Nero e uno Bianco è percepito come più Nero che Bianco; e il figlio di un genitore Asiatico e uno Bianco è percepito come più Asiatico che Bianco.’