‘Rotu Luokittelu’ Haaste CLIP-pohjaisille Kuvan Synteesi Järjestelmille

Uusi tutkimus Yhdysvalloista osoittaa, että yksi suosituimmista tietokoneen näkömallista, joka on taustalla suositun DALL-E-sarjan lisäksi monissa muissa kuvien luomis- ja luokittelumalleissa, osoittaa todistettavissa olevan taipumusta kohti hypodescentiä – rotuluokittelusääntöä (jota kutsutaan myös ‘yksi tippa’ -säännöksi), joka luokittelee henkilön, jolla on jopa pieni määrä ‘sekoittunutta’ (eli ei-kaukasialaista) geneettistä sukua, kokonaan ‘vähemmistöryhmän’ rotuluokkaan.

Koska hypodescent on luonut joitakin ihmiskunnan historian rumimmista luvuista, tutkimuksen tekijät ehdottavat, että tällaiset taipumukset tietokoneen näkö- ja toteutustutkimuksessa tulisi saada enemmän huomiota, ei vähiten siksi, että kyseinen viitekehys, jota on ladattu lähes miljoona kertaa kuukaudessa, voisi edelleen levittää ja ylläpitää rotuhenkistä harhaa alijärjestelmissä.

Tutkittava arkkitehtuuri on Contrastive Language Image Pretraining (CLIP), monimodaalinen koneoppimismalli, joka oppii semanttisia yhteyksiä kouluttamalla kuvakuvauksparien avulla internetistä – puolivaltainen lähestymistapa, joka vähentää merkittävästi merkintän kustannuksia, mutta joka todennäköisesti heijastaa luomisprosessissa mukana olleiden ihmisten harhaa.