Cercetătorii dezvoltă un instrument nou pentru a lupta împotriva prejudecăților în viziunea computerizată

Una dintre problemele recente care a apărut în domeniul inteligenței artificiale (IA) este cea a prejudecăților în viziunea computerizată. Mulți experți descoperă acum prejudecăți în sistemele IA, ceea ce duce la rezultate distorsionate în diverse aplicații, cum ar fi programele de sentințe din instanțe.

Există un efort considerabil pentru a remedia unele dintre aceste probleme, iar cea mai recentă dezvoltare vine de la Universitatea Princeton. Cercetătorii de la instituție au creat un instrument nou care poate semnala potențiale prejudecăți în imagini utilizate pentru antrenarea sistemelor IA.

Lucrarea a fost prezentată pe 24 august la Conferința Europeană Virtuală de Viziune Computerizată aici.

Prejudecăți în sistemele IA

Una dintre principalele cauze ale prejudecăților prezente în sistemele IA actuale este faptul că acestea sunt adesea antrenate pe seturi mari de imagini provenite din surse online. Aceste imagini pot fi stereotipe, iar atunci când sunt utilizate pentru dezvoltarea viziunii computerizate, rezultatul poate fi influențat involuntar. Viziunea computerizată este ceea ce permite calculatoarelor să identifice oameni, obiecte și acțiuni.

Instrumentul dezvoltat de cercetători este open-source și poate revela automat potențiale prejudecăți în seturile de date vizuale. Acesta funcționează prin acțiuni care preced utilizarea seturilor de imagini pentru antrenarea modelelor de viziune computerizată, iar problemele legate de subreprezentare și stereotipuri pot fi remediate înainte de a avea un impact.

REVISE

Noul instrument se numește REVISE și se bazează pe metode statistice pentru a identifica potențiale prejudecăți într-un set de date. Acesta se concentrează pe trei domenii: obiect-bazat, bazat pe gen și geografic.

REVISE este complet automat și a fost construit pe baza metodelor anterioare care includeau filtrarea și echilibrarea imaginilor din seturile de date, astfel încât utilizatorul să aibă un control mai mare.

Noul instrument se bazează pe anotări și măsurători existente ale imaginilor pentru a analiza conținutul dintr-un set de date. Unele dintre aceste anotări existente includ numărul de obiecte și țările de origine ale imaginilor.

Într-un exemplu al funcționării instrumentului, REVISE a arătat cum imaginile cu oameni și flori diferă în funcție de gen. Bărbații erau mai probabili să apară cu flori în ceremonii sau întâlniri, iar femeile erau mai probabili să apară cu flori în picturi sau scenarii pregătite.

Olga Russaskovsky este profesoară asistentă de știință computerizată și investigator principal al Laboratorului de Inteligență Artificială Vizuală. Articolul a fost co-autorat cu studenta absolventă Angelina Wang și profesorul asistent de știință computerizată, Arvind Narayanan.

După ce instrumentul identifică discrepanțe, “atunci există întrebarea dacă acesta este un fapt complet inofensiv sau dacă se întâmplă ceva mai profund și acest lucru este foarte greu de automatizat”, a spus Russaskovsky.

Regiuni subreprezentate sau reprezentate incorect

Diverse regiuni din lume sunt subreprezentate în seturile de date de viziune computerizată, ceea ce poate duce la prejudecăți în sistemele IA. Una dintre constatările a fost că o cantitate mult mai mare de imagini provine din Statele Unite și țările europene. REVISE a revelat, de asemenea, că imaginile din alte părți ale lumii adesea nu au legende în limba locală, ceea ce înseamnă că multe pot proveni din perspectiva unui turist asupra unei națiuni.

“…această analiză geografică arată că recunoașterea obiectelor poate fi încă foarte părtinitoare și exclusivă și poate afecta diferite regiuni și oameni în mod inegal”, a continuat Russaskovsky.

“Practica de colectare a seturilor de date în știința computerizată nu a fost examinată cu atenție până recent”, a spus Wang. Când vine vorba de colectarea de imagini, “acestea sunt extrase de pe internet și oamenii nu își dau întotdeauna seama că imaginile lor sunt utilizate [în seturi de date]. Ar trebui să colectăm imagini de la grupuri mai diverse de oameni, dar atunci când o facem, ar trebui să fim atenți să le obținem într-un mod respectuos.”

Vicente Ordonez-Roman este profesoară asistentă de știință computerizată la Universitatea din Virginia.

“Uneltele și testele sunt un pas important… ele ne permit să capturăm aceste prejudecăți mai devreme în proces și să reevaluăm configurația și ipotezele noastre, precum și practicile de colectare a datelor”, a spus Ordonez-Roman. “În viziunea computerizată există unele provocări specifice legate de reprezentare și propagarea stereotipurilor. Lucrări precum cele ale Laboratorului de Inteligență Artificială Vizuală de la Princeton ajută la elucidarea și aducerea în atenția comunității de viziune computerizată a unor astfel de probleme și oferă strategii pentru a le remedia.”

Noul instrument dezvoltat de cercetători este un pas important pentru a remedia prejudecățile prezente în sistemele IA. Acum este momentul să remediem aceste probleme, deoarece va deveni mult mai greu pe măsură ce sistemele progresează și devin mai complexe.