Tekoälyn luomat kasvot saattavat heikentää oikeiden ihmisten työllistymismahdollisuuksia

Et oikeastaan tarvitse tutkijoita tietääksesi, että viehättävä ulkonäkö avaa ovia, sillä olet todennäköisesti elämässäsi jossain määrin joko kärsinyt tästä tai hyötynyt siitä. Et myöskään tarvitse heitä havaitaksesi, että tekoälyn luomat kasvot ovat yleensä viehättävämpiä kuin oikeat ihmiset — useista syistä, joista monet liittyvät ihmisten muovaamiin mieltymyksiin ja prosesseihin.

Silti huomioni kiinnitti tänään aiheeseen liittyvä uusi yhdysvaltalainen tutkimusyhteistyö. Se esittää näyttöä siitä, että tekoälyn luoma kauneus saattaa viedä oikeilta ihmisiltä työhaastatteluja. Tutkimuksessa, johon osallistui 570 ihmistä, aiemmin poikkeuksellisen viehättäviä tekoälykasvoja nähneet arvioivat myöhemmin oikeat työnhakijat huonommin palkattaviksi ja vähemmän luotettaviksi. Heidän halukkuutensa tarjota haastatteluja laski 77,4 prosentista 72,5 prosenttiin, vaikka he arvioivat täsmälleen samoja hakijoita.

Tutkimuksen esimerkkejä tekoälyn luomista kasvoista, jotka osoittavat, kuinka paljon viehättävyysarviot vaihtelivat. Tutkijat testasivat 27 kuvageneraattoria tavallisilla kehotteilla, joissa ei mainittu kauneutta. Ylärivillä ovat automaattisilta arviointijärjestelmiltä eräitä korkeimmista viehättävyyspisteistä saaneet kasvot ja alarivillä eräitä alhaisimmista saaneet. Kaikki kahdeksan kuvattua ihmistä ovat tekoälyn luomia, eivät oikeita. Lähde

Tutkijat selvittivät myös tekoälyn luomien kasvojen viehättävyyttä suhteessa oikeisiin kasvoihin käyttämällä erilaisten kaupallisten mallien ja avoimien painojen mallien tuottamia kuvia. Kun 550 ihmistä pyydettiin arvioimaan oikeiden ihmisten valokuvia tekoälykasvojen rinnalla, synteettiset kasvot saivat johdonmukaisesti korkeampia pisteitä. Lisävertailussa sopivat mittarit osoittivat, että 37 prosenttia tekoälyn luomista naiskasvoista arvioitiin viehättävämmiksi kuin tyypillinen ammattimainen muotimalli.

Tekoälyn luomien kasvojen vertailu ammattimaisiin muotimalleihin 27 kuvageneraattorissa. Kaavio näyttää sen osuuden luoduista kasvoista, jonka pisteet ylittivät ammattimallien mediaanin automaattisilla viehättävyysmittareilla. Mustat pisteet edustavat kaikkia luotuja kasvoja ja keltaiset ympyrät vain naiskasvoja. Kaikkiaan 23 prosenttia luoduista kasvoista ylitti tämän vertailutason; naiskasvoilla osuus nousi 37 prosenttiin. Katkoviivat osoittavat nämä kaksi keskiarvoa.

Tutkimusartikkelissa^† todetaan:

”Tarkastimme 27 vuosina 2022–2026 julkaistua tekstistä kuvaksi -generaattoria yksinkertaisilla kehotteilla, joissa ei koskaan mainita viehättävyyttä tai kauneutta. Analysoimme pää- ja lisävertailuissa 51 300 luotua kasvoa ja 160 196 valokuvaa oikeista ihmisistä.

”Käytimme kolmea automaattista mittaria ja keräsimme kuvien osajoukolle arvioita 550 ihmiseltä.

”Lähes kaikki generaattorit tuottivat kasvoja, jotka saivat automaattisilla mittareilla korkeammat pisteet kuin valokuvatut kasvot. Ihmisarvioijat pitivät kaikkien 23 generaattorin tuotoksia merkitsevästi viehättävämpinä kuin valokuvattuja kasvoja myös monivertailukorjauksen jälkeen.

”Kun kohdistamme analyysin sukupuoleen, havaitsemme, että 37 prosenttia naisia pyytävillä kehotteilla luoduista kasvoista ylitti ammattimaisten muotimallien mediaanin.”

Kirjoittajat huomauttavat myös, että vaikka asiantuntijat — sekä ihmiset että tekoäly — saattavat olla eri mieltä ja väitellä siitä, kuka on ”kauniiden” neljänneksen kärjessä, tällaista hienojakoisuutta ei ole arviointialueilla ”ei viehättävä” tai ”minimaalisesti viehättävä”. Ne toimivat vertailussa eräänlaisena yleisenä roskakorina*:

”Mittarien suurempi yksimielisyys vähiten arvostetuista kuin eniten arvostetuista muistuttaa esteettisen luokittelun tärkeää piirrettä muotimallialan kaltaisissa ympäristöissä: ihmisten ja instituutioiden ei tarvitse olla yhtä mieltä yhdestä ihanteesta tuottaakseen toistuvia eriarvoisuuksia siinä, kenen ulkonäköä arvostetaan vähemmän.”

Kasvojen arvo

Monet tutkimuksen havainnot toistavat yleistä inhimillistä kokemusta kontekstisidonnaisesta ja suhteellisesta havainnoinnista: jos esimerkiksi olit koulusi älykkäin tai viehättävin ihminen, Ivy League -yliopistoon siirtyminen voi nostaa ympäröiviä vaatimuksia huomattavasti ja alentaa suhteellista asemaasi uudessa joukossa.

Maailma ei kuitenkaan ole täynnä tekoälyn luomia ihmisiä, jotka todella kävelevät ympäriinsä ja kyynärpäillään syrjäyttävät lihaa ja verta olevia ihmisiä työhaastatteluissa. Miten generatiivisen tekoälyn kauneusestetiikka voi siis kulttuurisena ilmiönä vaikuttaa mihinkään?

Sen huolestuttavan mahdollisuuden lisäksi, että ihmiset saattavat turvautua plastiikkakirurgiaan vastatakseen paremmin ”tekoälystandardia”, uudessa tutkimuksessa kuvattu vaikutus muistuttaa tekoälyä edeltävää kauneuskulttuuria elokuvissa, televisiossa, muodissa ja muilla näkyvillä ja vaikuttavilla kulttuurin aloilla. Siinä ympäristössä epärealistiset ulkonäköihanteet kyllästivät ja kyllästävät meidät, ja opimme käsittelemään asiaa eräänlaisena signaali-kohinaongelmana. Haaveilemme elokuvatähdistä mutta menemme naimisiin niiden kanssa, joiden kanssa voimme.

Artikkeli kuvaa tekoälyn oman visuaalisen estetiikan kasvavaa vaikutusta samankaltaisessa yhteydessä*:

”Jos luodut kasvot ovat sekä oikeita viehättävämpiä että viehättäviä eriasteisesti, [the] seuraa kysymys: mitä tästä seuraa oikeiden ihmisten arvioinnille? Tarkoin valikoiduille tai muokatuille kuville altistuminen muuttaa ulkonäön vertailua ja myöhempää arviointia. Klassiset kontrastikokeet osoittavat, että hyvin viehättäville ihmisille altistuminen voi alentaa myöhempiä viehättävyysarvioita.

”Generatiivinen tekoäly voi toimittaa toistuvia virtoja erilaisia kasvoja, joita muovaavat samat esteettiset prosessit. On edelleen epäselvää, muuttaako tekoälyn luomille kasvoille altistuminen oikeista ihmisistä tehtäviä arvioita, joilla on merkittäviä seurauksia.”

Kirjoittajat eivät ehdota tiettyä ratkaisua vaan peräänkuuluttavat lisätutkimusta. Sen pitäisi selvittää, milloin tekoälyn luoma kauneus vaikuttaa arvioihimme oikeista ihmisistä, mitkä synteettisten kasvojen piirteet aiheuttavat vaikutuksen ja pätisivätkö tulokset simuloidun rekrytointikokeen ulkopuolella.

Menetelmä ja aineiston valikointi

Selvittääkseen, kuinka laajalti tekoälykuvageneraattorit suosivat viehättäviä kasvoja, tutkijat testasivat 27 vuosina 2022–2026 julkaistua järjestelmää: Stable Diffusion 1.5, 2.1, XL, 3, 3.5-medium, 3.5-large ja 3.5-large-turbo; FLUX.1 dev ja schnell, FLUX.2, FLUX.2-klein 9B ja FLUX.2-klein 4B; GPT Image 1.5 ja GPT Image 2; Grok Image ja Grok Imagine; Nano Banana 2 ja Nano Banana Pro; Midjourney v6, v7 ja v8; PixArt-Sigma; Playground 2.5; HunyuanDiT; Qwen-Image; Sana ja Lumina-2.

Kaikissa järjestelmissä käytettiin samaa yksinkertaista kehotetta muotokuviin, jotka edustivat 14 demografista luokkaa miesten ja naisten joukossa sekä kahdeksaa ammattia (lääkäri; juristi; eläinlääkäri; farmaseutti; kokki; rakennustyöntekijä; sairaanhoitaja ja vähittäiskaupan työntekijä). Kauneutta tai viehättävyyttä ei mainittu.

Myös kehotteita, joista puuttuivat demografiset tiedot, sukupuoli tai ammatti, testattiin. Analyysiin tuotettiin yhteensä 51 300 kuvaa.

Vertailua varten kerättiin 94 249 valokuvaa aineistoista FairFace, IdenProf, SCUT-FBP5500, MEBeauty, Chicago Face Database ja sen monirotuisia ja intialaisia ihmisiä sisältävistä laajennuksista sekä Face Research Lab London -aineistosta. Käyttökelpoiset kasvot havaittiin 89 435 valokuvassa.

Erilaisia länsimaisia ja aasialaisia kasvoja SCUT-FBP5500-aineistosta, joka on yksi uudessa tutkimuksessa käytetyistä kuudesta aineistosta. Lähde

Lisävertailuissa käytettiin 10k US Adult Faces Database -aineistoa, 15 182 ammattimaisten muotimallien valokuvan kokoelmaa sekä aineistoja LookismBench-SyntheticFaces, FFHQ ja StyleGAN2. Muotimallien valokuvia käytettiin ”korkean viehättävyyden” vertailukohtana. Muut kokoelmat analysoitiin erikseen viehättävyysmittarien arvioimiseksi ja lisävertailuja varten.

Kasvot havaittiin ja rajattiin MTCNN:llä ja standardisoitiin sitten. Viehättävyyttä arvioitiin ResNet-50-malleilla, jotka oli koulutettu SCUT-FBP5500- ja MEBeauty-aineistoilla, sekä SwinFace-mallilla, joka oli koulutettu CelebA-annotaatioilla.

Jotta voitiin tarkistaa automaattisten viehättävyyspisteiden vastaavuus ihmisten mielipiteisiin, 550 Yhdysvalloissa asuvaa aikuista arvioi 1 374 oikean ja tekoälyn luoman kasvon valikoiman.

Erillisessä kokeessa 570 yhdysvaltalaista aikuista jaettiin kolmeen ryhmään. Heille näytettiin työnhakijoita, joiden kuvat olivat oikeita valokuvia, retusoituja valokuvia tai tekoälyn luomia kasvoja. Tämän jälkeen kaikki kolme ryhmää arvioivat samoja oikeita hakijoita, jolloin rekrytointipäätösten eroja voitiin mitata. Tutkimuksen pääanalyysit oli ennakkorekisteröity.

Testit

Molemmilla keskeisillä viehättävyysmittareilla tekoälykasvot saivat merkitsevästi korkeammat pisteet kuin oikeat valokuvat 24:llä testatuista 27 generaattorista. Myös CelebA/SwinFace-mittari tuki havaintoa, kuten alla näkyy:

Tekoälyn luomien kasvojen ja oikeiden valokuvien viehättävyyserot 27 kuvageneraattorissa ilmaistuina kolmen automaattisen mittarin keskimääräisinä Cohenin d -arvoina. Positiiviset arvot osoittavat luotujen kasvojen korkeampia viehättävyyspisteitä.

Artikkelin mukaan kaikilla kolmella mittarilla 13 generaattoria tuotti kasvoja, joiden arviot ylittivät oikeiden valokuvien arviot yli yhdellä keskihajonnalla. Nano Banana Pro-, Grok Image- tai Nano Banana 2 -malleille etua ei kuitenkaan havaittu.

Taipumus tuottaa poikkeuksellisen viehättäviä kasvoja oli vähäisempi uudemmissa Midjourney- ja OpenAI-malleissa. Avoimien painojen malleissa vaikutus oli noin kaksinkertainen verrattuna OpenAI:n, Googlen, Midjourneyn ja xAI:n kaupallisiin tuotteisiin.

Ihmisten arvioissa kaikkien 23 generaattorin kasvot arvioitiin oikeita valokuvia viehättävämmiksi, kun generaattoreita oli testattu riittävällä kuvamäärällä luotettavaa vertailua varten. Asteikolla 1 (vähiten viehättävä) – 7 (viehättävin) oikeat kasvot saivat keskimäärin 3,10 pistettä. Tekoälyn luomat kasvot saivat generaattorista riippuen 0,34–2,06 pistettä enemmän, kuten alla näkyy:

Ihmisten viehättävyysarviot 23 tekoälykuvageneraattorin tuottamista kasvoista asteikolla 1–7. Generaattorit ylittivät oikeiden valokuvien keskiarvon, jota osoittaa sininen katkoviiva. Punaiset pisteet osoittavat keskimääräiset arviot ja vaakasuorat palkit kunkin keskiarvon epävarmuuden.

Tekoälyn luomille kasvoille kirjattiin korkeammat arviot kaikissa kuudessa rodullisessa ja etnisessä luokassa (katso kaavio alla). Näin tapahtui myös Nano Banana Pro-, Grok Image- ja Nano Banana 2 -malleilla, joiden kasvot eivät testeissä saaneet oikeita valokuvia korkeampia pisteitä:

Ihmisten viehättävyysarviot tekoälyn luomista kasvoista (punainen) ja oikeista valokuvista (sininen) kuudessa rodullisessa ja etnisessä luokassa. Tekoälykasvot saivat korkeammat keskiarvot jokaisessa luokassa. Erot vaihtelivat 0,74:stä 1,37 pisteeseen seitsemän pisteen asteikolla. Pystysuorat palkit osoittavat kunkin keskiarvon epävarmuuden.

Ihmisten arviot poikkesivat automaattisista tuloksista myös uudempien mallien kohdalla. OpenAI:n GPT Image 1.5:n ja GPT Image 2:n välillä havaittiin vain vähän muutosta, kun taas Midjourneyn versioiden 6, 7 ja 8 viehättävyysarviot nousivat vaiheittain.

Toisin sanoen ihmiset pitivät uudempia tekoälymalleja edelleen poikkeuksellisen viehättävien kasvojen tuottajina, vaikka automaattiset mittarit viittasivat taipumuksen heikentymiseen.

Epäreilu etu

Viimeinen koe selvitti, voiko viehättäville tekoälykasvoille altistuminen vaikuttaa oikeiden työnhakijoiden arviointiin.

Simuloitua ”asiakasmenestyksen asiantuntijan” työpaikkaa varten 570 yhdysvaltalaista aikuista jaettiin kolmeen ryhmään. Arvioituaan neljä identtistä hakijaa kukin ryhmä näki kahdeksan profiilia, joissa oli oikeita valokuvia, retusoituja valokuvia tai tekoälyn luomia kasvoja. Tekoälykasvot olivat aiemmin saaneet viehättävyydestä 5,75 pistettä seitsemästä, kun oikeat valokuvat olivat saaneet 2,99. Retusoituja kuvia oli siloteltu ja kirkastettu Facetunen One-tap Enhance -ominaisuuteen perustuvalla tehosteella.

Mukaan otettiin vielä kaksitoista hakijaa, joiden valokuvat ja pätevyydet olivat samat kaikissa kolmessa ryhmässä, jotta voitiin testata eri kuville altistumisen vaikutusta rekrytointipäätöksiin.

Hakijat, joilla oli tekoälyn luomat kasvot, saivat hieman korkeammat arviot palkattavuudesta ja luotettavuudesta, mutta haastattelukutsujen merkitsevää lisääntymistä ei havaittu. Näille kasvoille altistumisen jälkeen samat oikeat hakijat kuitenkin arvioitiin huonommin palkattaviksi ja vähemmän luotettaviksi, ja haastattelukutsujen osuus laski 77,4 prosentista 72,5 prosenttiin:

Rekrytointikokeen tulokset osoittavat muutokset oikeiden hakijoiden koetussa palkattavuudessa, luotettavuudessa ja haastatteluun pääsyn todennäköisyydessä eri kasvotyypeille altistumisen jälkeen. Arviot laskivat tekoälykasvoille altistumisen jälkeen mutta eivät retusoitujen valokuvien jälkeen. Pisteet osoittavat erot oikeiden valokuvien verrokkiryhmään nähden, ja pystysuorat viivat osoittavat 95 prosentin luottamusvälit.

Retusoiduille valokuville altistumisen jälkeen vastaavaa laskua ei havaittu. Oletettavasti parhaimmillaan näyttävät oikeat ihmiset eivät siis ”nostaneet rimaa” tekoälykuvien tavoin.

Kirjoittajat kommentoivat:

”Hakijat, joihin yhdistettiin tekoälyn luomat kasvot, saivat vain hieman parempia suoria arvioita, mutta nämä kasvot nähneet osallistujat arvioivat myöhemmin samoja oikeita hakijoita kielteisemmin kaikilla kolmella tulosmittarilla.

”Tekoälyn luomat hakijat itse saivat hieman korkeampia suoria luotettavuusarvioita, mikä tekee tekoälykasvoisten profiilien yksinkertaisesta yleisestä vastenmielisyydestä epätodennäköisemmän selityksen.

”Koe kertoo silti, että altistumisella oli merkitystä, ei sitä miksi.”

Johtopäätös

Omien havaintojeni perusteella tekoälyn luomat hahmot ovat varmasti alkaneet hallita katutason mainontaa kaupungissa, jossa asun, mutta kyse on kaksiulotteisesta taiteesta. Nähtäväksi jää, ylittääkö diffuusioon perustuvan generatiivisen videon käyttö televisiossa ja elokuvissa nykyiset oikeudelliset ja eettiset rajoitukset. Jos ylittää, voimme ehkä odottaa paljon suurempaa joukkoa tekoälyn luomia ja/tai parantelemia näyttelijöitä ”nostamaan esteettistä tasoa” ja toteuttamaan uuden artikkelin hahmotteleman ”ympäröivän tekoälykauneuden” skenaarion.

Periaate ei ole uusi, mutta automatisoinnin mahdollisuudet ovat. Tällöin voisi tislaamalla erottaa nykyisten tai entisten oikean maailman julkkisten, mallien ja julkisten edustajien olemuksen, monistaa tai ”parantaa” heitä ja levittää heitä laajasti ilman kalliita sopimusneuvotteluja. Se on kuitenkin vielä tulevaisuutta, jos sitä koskaan tapahtuu.

^† Otsikolla Generative AI Produces and Transmits Beauty Bias, kahdeksalta tutkijalta Cornellista, Floridan yliopistosta ja Pennsylvanian yliopistosta.

* Olen muuttanut kirjoittajien tekstinsisäiset viittaukset hyperlinkeiksi.

Julkaistu ensimmäisen kerran maanantaina 19. lokakuuta 2026