Provocarea “Categorizării Rasiale” pentru Sistemele de Sinteză a Imaginilor bazate pe CLIP

Noi cercetări din Statele Unite ale Americii au descoperit că unul dintre modelele populare de viziune computerizată din spatele seriei DALL-E, precum și multe alte modele de generare și clasificare a imaginilor, prezintă o tendință demonstrabilă către hipodescență – regula de categorizare a rasei (cunoscută și sub numele de regula “o picătură”) care categorizează o persoană cu o linie genetică “mixtă” (adică non-caucaziană) în întregime într-o categorie de rasă minoritară.

Deoarece hipodescența a caracterizat unele dintre cele mai urâte capitole din istoria umană, autorii noului studiu sugerează că astfel de tendințe în cercetarea și implementarea viziunii computerizate ar trebui să primească o atenție mai mare, nu în ultimul rând pentru că cadrul de susținere în cauză, descărcat aproape un milion de ori pe lună, ar putea să disemineze și să promoveze în continuare prejudecățile rasiale în cadrele downstream.

Arhitectura studiată în noul studiu este Contrastive Language Image Pretraining (CLIP), un model de învățare multimodală care învață asocieri semantice prin antrenarea pe perechi de imagini și subtitluri extrase de pe internet – o abordare semi-supervizată care reduce costul semnificativ al etichetării, dar care este probabil să reflecte prejudecățile oamenilor care au creat subtitlurile.

Din lucrare:

‘Rezultatele noastre oferă dovezi pentru hipodescență în spațiul de încorporare CLIP, o prejudecată aplicată mai puternic imaginilor femeilor. Rezultatele indică, de asemenea, că CLIP asociază imagini cu etichete rasiale sau etnice pe baza deviației de la categoria “Alb”, cu “Alb” ca categorie implicită.

Lucrarea mai arată că asocierea de valență a unei imagini (tendința sa de a fi asociată cu “lucruri bune” sau “lucruri rele”) este semnificativ mai mare pentru etichetele rasiale “minoritare” decât pentru etichetele “Caucazian”, și sugerează că prejudecățile CLIP reflectă corpusul de literatură centrat pe Statele Unite (Wikipedia în limba engleză) pe care a fost antrenat.

Comentând asupra implicațiilor aparentei susțineri a hipodescenței de către CLIP, autorii afirmă*:

‘Printre primele utilizări ale CLIP a fost antrenarea modelului de generare a imaginilor zero-shot DALL-E. O versiune mai mare, nepublică, a arhitecturii CLIP a fost utilizată în antrenarea DALL-E 2. În conformitate cu rezultatele cercetării de față, nota “Riscuri și Limitări” din fișa modelului DALL-E 2 notează că “generează imagini care tind să supra-reprezinte oameni care sunt “albi de suprafață”.’

‘Astfel de utilizări demonstrează potențialul ca prejudecățile învățate de CLIP să se răspândească dincolo de spațiul de încorporare al modelului, deoarece caracteristicile sale sunt utilizate pentru a ghida formarea semantică în alte modele de inteligență artificială de ultimă generație.

‘Mai mult, datorită în parte progreselor realizate de CLIP și de modele similare pentru asocierea imaginilor și textului în contextul zero-shot, arhitecturile multimodale au fost descrie ca fiind baza pentru viitorul aplicațiilor internetului care sunt utilizate pe scară largă, inclusiv motoarele de căutare.

‘Rezultatele noastre indică faptul că este necesară o atenție suplimentară asupra a ceea ce astfel de modele învață din supravegherea limbajului natural.’

Articolul lucrare se intitulează Dovezi pentru hipodescență în inteligența artificială semantică vizuală și provine de la trei cercetători de la Universitatea din Washington și Universitatea Harvard.

CLIP și influențele negative

Deși cercetătorii afirmă că lucrarea lor este prima analiză a hipodescenței în CLIP, lucrări anterioare au demonstrat că fluxul de lucru CLIP, care depinde de date web derivate în mare parte fără supraveghere, sub-reprezintă femeile, poate produce conținut ofensator și poate demonstra prejudecăți semantice (cum ar fi sentimentul anti-musulman) în codificatorul de imagini.

Articolul original care a prezentat CLIP a recunoscut că, într-un context zero-shot, CLIP asociază doar 58,3% dintre oameni cu eticheta rasială “Alb” în setul de date FairFace. Observând că FairFace a fost etichetată cu posibilă prejudecată de către lucrătorii Amazon Mechanical Turk, autorii noului studiu afirmă că “o minoritate semnificativă de oameni care sunt percepuți de alți oameni ca fiind albi sunt asociați cu o rasă alta decât cea albă de către CLIP”.

Ei continuă:

‘Inversul nu pare să fie adevărat, deoarece indivizii care sunt percepuți ca aparținând altor etichete rasiale sau etnice în setul de date FairFace sunt asociați cu acele etichete de către CLIP. Acest rezultat sugerează posibilitatea ca CLIP să fi învățat regula “hipodescenței”, așa cum este descrisă de oamenii de știință sociali: indivizii cu ascendență multirasială sunt mai probabil să fie percepuți și categorisiți ca aparținând grupului părintelui minoritar sau mai puțin avantajoase decât grupului părintelui majoritar sau mai avantajoase.’

‘Cu alte cuvinte, copilul unui părinte negru și unuia alb este perceput ca fiind mai negru decât alb; și copilul unui părinte asiatic și unuia alb este perceput ca fiind mai asiatic decât alb.’

Articolul are trei rezultate principale: că CLIP prezintă hipodescență, prin “îndreptarea” oamenilor cu identități multirasiale în categoria de rasă minoritară care li se aplică; că “Alb” este categoria implicită în CLIP; și că prejudecata de valență (asocierea cu concepte “rele”) corelează cu gradul în care individul este categorisit într-o minoritate rasială.

Metodă și date

Pentru a determina modul în care CLIP tratează subiecții multiraciali, cercetătorii au utilizat o tehnică de morfare adoptată anterior pentru a modifica rasa imaginilor indivizilor. Fotografiile au fost preluate din Baza de date a fețelor din Chicago, un set dezvoltat pentru studii psihologice care implică rasă.

Exemple din imaginile CFD morfate prezentate în materialul suplimentar al noului studiu. Sursă: https://arxiv.org/pdf/2205.10764.pdf

Cercetătorii au ales doar imagini cu “expresie neutră” din setul de date, pentru a rămâne consecvenți cu lucrarea anterioară. Ei au utilizat rețeaua adversă generativă StyleGAN2-ADA (antrenată pe FFHQ) pentru a realiza schimbarea rasei imaginilor faciale, și au creat imagini interstițiale care demonstrează progresia de la o rasă la alta (a se vedea imaginile de mai sus).

Conform lucrării anterioare, cercetătorii au morfat fețele oamenilor care s-au identificat ca negri, asiatici și latino în setul de date în fețe ale celor care s-au identificat ca albi. Nouăsprezece etape intermediare au fost produse în acest proces. În total, 21.000 de imagini de 1024x1024px au fost create pentru proiect prin această metodă.

Cercetătorii au obținut apoi o încorporare proiectată a imaginii pentru CLIP pentru fiecare dintre cele 21 de imagini din fiecare set de morfări rasiale. După aceea, au solicitat o etichetă pentru fiecare imagine de la CLIP: “multirasial”, “biracial”, “rasă mixtă” și “persoană” (ultima etichetă omițând rasa).

Versiunea CLIP utilizată a fost implementarea CLIP-ViT-Base-Patch32. Autorii notează că acest model a fost descărcat de peste un milion de ori în luna precedentă scrierii cercetării, și reprezintă 98% din descărcările oricărui model CLIP din biblioteca Transformers.

Teste

Pentru a testa potențiala tendință a CLIP către hipodescență, cercetătorii au notat eticheta rasială atribuită de CLIP pentru fiecare imagine din gradientul de imagini morfate pentru fiecare individ.

Conform rezultatelor, CLIP tinde să grupeze oamenii în categoriile “minoritare” la aproximativ marca de 50% de tranziție.

La un raport de amestec de 50%, unde subiectul este egal cu rasa de origine/țintă, CLIP asociază un număr mai mare de 1000 de imagini morfate feminine cu etichete asiatice (89,1%), latine (75,8%) și negre (69,7%) decât cu o etichetă albă echivalentă.

Rezultatele arată că subiecții feminini sunt mai predispuși la hipodescență sub CLIP decât bărbații, deși autorii ipotezează că acest lucru se poate datora faptului că etichetele web-derivate și nesupravegheate care caracterizează imaginile feminine tind să accentueze aspectul subiectului mai mult decât în cazul bărbaților, și că acest lucru poate avea un efect de distorsionare.

Hipodescența la un raport de tranziție de 50% nu a fost observată pentru seria de morfări asiatice-albe masculine sau latino-albe masculine, în timp ce CLIP a atribuit o similaritate cosinus mai mare etichetei negre în 67,5% din cazuri la un raport de amestec de 55%.

Similaritatea cosinus medie a etichetelor Multirasial, Biracial și Rasă Mixtă. Rezultatele indică faptul că CLIP operează o categorie de “prag” la diferite procente de amestec rasial, atribuind mai puțin frecvent o astfel de amestecare rasială către “Alb” (“persoană”, în raționamentul experimentelor) decât către etnia care a fost percepută în imagine.

Obiectivul ideal, conform articolului, este ca CLIP să categorizeze amestecările rasiale intermediare în mod corect ca “rasă mixtă”, în loc de a defini un “punct de prag” la care subiectul este frecvent consignat în întregime în categoria non-albă.

Până la un anumit punct, CLIP atribuie etapele morfate intermediare cu eticheta “Rasă Mixtă” (a se vedea graficul de mai sus), dar în cele din urmă demonstrează o preferință de a categorisi subiecții ca rasa minoritară care contribuie.

În ceea ce privește valența, autorii notează judecata distorsionată a CLIP:

‘Asocierea de valență medie (asocierea cu “rău” sau “neplăcut” versus “bun” sau “plăcut”) variază cu raportul de amestec pe seria de morfări negre-albe masculine, astfel încât CLIP codifică asocieri cu neplăcute pentru fețele care sunt cel mai asemănătoare cu voluntarii CFD care se identifică ca negri.’

Rezultatele valenței – testele arată că grupurile minoritare sunt mai asociate cu concepte negative în arhitectura imagine/pereche decât subiecții etichetați “Alb”. Autorii afirmă că asocierea neplăcută a unei imagini crește cu probabilitatea ca modelul să asocieze imaginea cu eticheta “Negru”.

Articolul afirmă:

‘Dovezile indică faptul că valența unei imagini corelează cu asocierea rasială. Mai concret, rezultatele noastre indică faptul că cu cât modelul este mai sigur că o imagine reflectă un individ negru, cu atât mai mult este asociată cu spațiul de încorporare neplăcută.’

Cu toate acestea, rezultatele indică și o corelație negativă în cazul fețelor asiatice. Autorii sugerează că acest lucru se poate datora trecerii (prin datele web-sursă) a percepțiilor culturale pozitive ale americanilor despre oamenii și comunitățile asiatice. Autorii afirmă*:

‘Observarea unei corelații între plăcute și probabilitatea etichetei textuale asiatice poate corespunde stereotipului “minorității model”, în care oamenii de origine asiatică sunt lăudați pentru mobilitatea lor ascendentă și asimilarea în cultura americană, și chiar asociați cu “comportament bun”.’

În ceea ce privește obiectivul final, de a examina dacă “Alb” este “identitatea implicită” din punctul de vedere al CLIP, rezultatele indică o polaritate încorporată, sugerând că sub această arhitectură este destul de dificil să fii “puțin alb”.

Similaritatea cosinus pe 21.000 de imagini create pentru testele.

Autorii comentează:

‘Dovezile indică faptul că CLIP codifică “Alb” ca rasă implicită. Acest lucru este susținut de corelațiile mai puternice între similaritățile cosinus “Alb” și similaritățile cosinus “persoană” decât pentru orice altă grup rasial sau etnic.’

*Conversia mea a citărilor inline ale autorilor în legături.

Publicat pentru prima dată pe 24 mai 2022.