‘Výzva “Rasová Kategorizace” pro Systémy Syntézy Obrázků založené na CLIP’

Nová výzkum z USA zjistil, že jeden z populárních modelů počítačového vidění, který stojí za úspěšnou sérií DALL-E, stejně jako mnoho dalších modelů generování a klasifikace obrázků, vykazuje prokazatelnou tendenci k hypodescenti – rasové kategorizační pravidlo (také známé jako ‘jedna kapka’ pravidlo), které kategorizuje osobu s i malým podílem ‘smíšené’ (tj. ne-kaukazské) genetické linie zcela do ‘menšinové’ rasové kategorie.

Protože hypodescent charakterizoval některé z nejhorších kapitol lidské historie, autoři nové studie navrhují, že takové tendence v počítačovém vidění a implementaci by měly dostat větší pozornost, zejména proto, že podpůrná architektura, která byla stažena téměř milionkrát měsíčně, by mohla dále šířit a podporovat rasovou předpojatost v dalších rámcích.

Architektura, která je studována v nové práci, je Contrastive Language Image Pretraining (CLIP), multimodální model strojového učení, který se učí semantickým asociacím prostřednictvím trénování na obraz/caption párech z internetu – semi-dohledaný přístup, který snižuje významné náklady na označování, ale který pravděpodobně odráží předpojatost lidí, kteří vytvořili popisky.