Tutkijat kehittivät uuden työkalun taisteluun tietokoneen näön harhaa vastaan

Yksi viimeaikaisista ongelmista, jotka ovat nousseet esiin tekoälyalueella, on tietokoneen näön harha. Monet asiantuntijat ovat nyt löytäneet harhan tekoälyjärjestelmistä, mikä johtaa vääristyneisiin tuloksiin erilaisissa sovelluksissa, kuten oikeussalissa annettavissa tuomioissa.

On suuri ponnistus edessä, jolla yritetään korjata joitain näistä ongelmista, ja uusin kehitys tulee Princetonin yliopistosta. Tutkijat ovat luoneet uuden työkalun, joka pystyy tunnistamaan potentiaalisia harhoja kuvissa, joita käytetään tekoälyjärjestelmien kouluttamiseen.

Työ esiteltiin 24. elokuuta virtuaalisessa Euroopan tietokoneen näön konferenssissa.

Tekoälyjärjestelmien harha

Yksi tärkeimmistä syistä nykyisten tekoälyjärjestelmien harhaan on, että ne usein koulutetaan suurilla kuvamäärillä, jotka ovat peräisin internetistä. Nämä kuvat voivat olla stereotyyppisiä, ja kun ne käytetään tietokoneen näön kehittämiseen, tuloksena voi olla tahattomasti vaikuttuneet mallit. Tietokoneen näkö mahdollistaa tietokoneiden tunnistaa ihmisiä, esineitä ja toimintoja.

Tutkijoiden kehittämä työkalu on avoimen lähdekoodin, ja se pystyy automaattisesti paljastamaan potentiaalisia harhoja visuaalisissa tietojoukoissa. Se toimii ennen kuin kuvat käytetään tekoälymallien kouluttamiseen, ja ongelmia, kuten aliedustus ja stereotypiat, voidaan korjata ennen kuin ne vaikuttavat tuloksiin.

REVISE

Uusi työkalu on nimeltään REVISE, ja se perustuu tilastollisiin menetelmiin potentiaalisten harhoiden tunnistamiseksi tietojoukossa. Se keskittyy kolmeen alueeseen: esinepohjaiseen, sukupuoleen perustuvaan ja maantieteelliseen.

REVISE on täysin automaattinen ja se perustuu aikaisempiin menetelmiin, jotka sisälsivät kuvien suodattamisen ja tasapainottamisen, jotta käyttäjä voisi hallita niitä.

Uusi työkalu perustuu olemassa oleviin kuva-annotaatioihin ja mittauksiin analysoimaan tietojoukon sisältöä. Jotkut näistä olemassa olevista annotaatioista sisältävät esimerkiksi esineiden määrän ja kuvien maat.

Yhdessä esimerkissä työkalun toiminnasta REVISE osoitti, miten kuvat ihmisistä ja kukista erosivat sukupuolen mukaan. Miehet olivat todennäköisemmin kuvattu kukilla seremonioissa tai kokouksissa, ja naiset olivat todennäköisemmin kuvattu kukilla maalauksissa tai lavastetuissa tilanteissa.

Olga Russakovsky on apulaisprofessori tietokoneen tieteessä ja pää tutkija Visual AI Labissa. Tutkimusartikkeli on kirjoitettu yhdessä graduate student Angelina Wangin ja apulaisprofessori Arvind Narayanin kanssa.

Kun työkalu on tunnistanut epäjohdonmukaisuuksia, “sitten on kysymys siitä, onko tämä täysin viattomat tosiasia, vai onko jotain syvempää tapahtumassa, ja se on hyvin vaikea automatisoida”, Russakovsky sanoi.

Aliedustetut tai väärin edustetut alueet

Monet alueet maailmalla ovat aliedustettuina tietokoneen näön tietojoukoissa, mikä voi johtaa harhaan tekoälyjärjestelmissä. Yksi löydöksistä oli, että dramaattisesti suurempi määrä kuvia tulee Yhdysvalloista ja Euroopan maista. REVISE paljasti myös, että kuvat muista maailman osista usein eivät ole kuvatekstejä paikallisella kielellä, mikä tarkoittaa, että monet voivat olla peräisin matkailijan näkökulmasta.

“… tämä maantieteellinen analyysi osoittaa, että esineiden tunnistaminen voi edelleen olla hyvin harhaa ja sulkeutunut, ja se voi vaikuttaa eri alueisiin ja ihmisiin epätasanaisesti”, Russakovsky jatkoi.

“Tietojoukon keräämisen käytännöt tietokoneen tieteessä eivät ole tarkasteltu tarpeeksi tarkasti vielä”, Wang sanoi. Kun on kyse kuvien keräämisestä, ne “kerätään internetistä, ja ihmiset eivät aina tajua, että heidän kuviaan käytetään [tietojoukoissa]. Meidän pitäisi kerätä kuvia monipuolisemmista ihmisryhmistä, mutta kun teemme niin, meidän on oltava varovaisia, että saamme ne kunnioittavalla tavalla.”

Vicente Ordonez-Roman on apulaisprofessori tietokoneen tieteessä Virginian yliopistossa.

“Työkalut ja vertailu ovat tärkeä askel … ne mahdollistavat meidän havaita nämä harhat aikaisemmin putkistossa ja uudelleenarvioida ongelman asettelu ja oletukset sekä tietojen keräämisen käytännöt”, Ordonez-Roman sanoi. “Tietokoneen näössä on joitain tiettyjä haasteita edustamisen ja stereotyyppien leviämisessä. Tutkimukset, kuten Princetonin Visual AI Labin työ, auttavat selventämään ja tuomaan tietokoneen näön yhteisölle nämä ongelmat ja tarjoavat strategioita niiden lieventämiseksi.”

Tutkijoiden kehittämä uusi työkalu on tärkeä askel auttamaan korjaamaan harhaa, joka on läsnä tekoälyjärjestelmissä. Nyt on aika korjata nämä ongelmat, sillä se tulee olemaan paljon vaikeampaa, kun järjestelmät kehittyvät ja monimutkaistuvat.