Tutkimus osoittaa, että tekoälymallit eivät vastaa ihmisen visuaalista prosessointia

Yorkin yliopiston uusi tutkimus osoittaa, että syvät konvoluutio-neuraaliverkot (DCNN) eivät vastaa ihmisen visuaalista prosessointia käyttämällä konfiguraatiomuotoista hahmottamista. Professori James Elder, tutkimuksen yhteiskirjoittaja, sanoo, että tämä voi johtaa vakaviin ja vaarallisiin seurauksiin tekoälysovelluksissa.

Uusi tutkimus, joka on julkaistu Cell Press -julkaisussa iScience, osoittaa, että tekoälymallit eivät kykene hahmottamaan visuaalista tietoa samalla tavalla kuin ihminen. Tutkimuksessa käytettiin “Frankensteini”-nimisiä visuaalisia ärsykkeitä, jotka auttoivat tutkijoita ymmärtämään, miten sekä ihmisen aivot että DCNN:t prosessoi visuaalista tietoa.

Tutkimus osoitti, että DCNN:t eivät ole yhtä herkkästi vaikuttuvia “Frankensteini”-ärsykkeille kuin ihmisen visuaalinen järjestelmä. Tämä paljastaa, että tekoälymallit eivät kykene hahmottamaan visuaalista tietoa samalla tavalla kuin ihminen.

Uudet visuaaliset ärsykkeet “Frankensteinit”

Tutkimuksessa käytettiin “Frankensteini”-nimisiä visuaalisia ärsykkeitä, jotka olivat muodostettu yhdistelemällä eri osia eri tavoin. Näin ollen “Frankensteinit” olivat visuaalisesti epätavallisia ja haastoivat sekä ihmisen aivot että DCNN:t prosessoimaan visuaalista tietoa.

“Frankensteinit ovat vain esineitä, jotka on otettu aparte ja koottu uudelleen väärin”, Elder sanoo. “Tämän seurauksena ne ovat saaneet oikeat paikalliset piirteet, mutta väärissä paikoissa.”

Tutkimus osoitti, että DCNN:t eivät ole yhtä herkkästi vaikuttuvia “Frankensteini”-ärsykkeille kuin ihmisen visuaalinen järjestelmä. Tämä paljastaa, että tekoälymallit eivät kykene hahmottamaan visuaalista tietoa samalla tavalla kuin ihminen.

“Tuloksemme selittävät, miksi syvät tekoälymallit epäonnistuvat tietyissä tilanteissa ja osoittavat, että visuaalisen prosessoinnin ymmärtäminen aivoissa vaatii tarkastelua laajemmin kuin pelkästään objektien tunnistamisessa”, Elder jatkaa. “Nämä syvät mallit ottavat ‘lyhyitä polkua’ ratkaistessaan monimutkaisia tunnistustehtäviä. Vaikka nämä lyhyet polut toimivat useimmissa tapauksissa, ne voivat olla vaarallisia joissakin nykyisistä tekoälysovelluksista, joita kehitämme yhdessä teollisuus- ja hallituskumppaneidemme kanssa.”

Kuva: Yorkin yliopisto

Maailmanlaajuiset seuraukset

Elder sanoo, että yksi näistä sovelluksista on liikennevideovaroitusjärjestelmät.

“Liikenteessä olevat esineet – ajoneuvot, pyöräilijät ja jalankulkijat – peittävät toisinaan toisensa ja tulevat ajajan silmiin sekavana joukkona irronneita paloja”, hän sanoo. “Aivojen on kyettävä oikein ryhmittelemään nämä palat, jotta ne voivat tunnistaa oikeat kategoriat ja sijainnit. Tekoälyjärjestelmä, joka vain pystyy havainnoimaan paloja yksittäin, epäonnistuu tässä tehtävässä ja voi väärin ymmärtää vaarantuneiden tielläliikkujien riskejä.”

Tutkijat sanovat myös, että muutokset koulutuksessa ja arkkitehtuurissa, joiden tavoitteena on tehdä verkostoista enemmän aivomaisia, eivät saavuttaneet konfiguraatioprosessointia. Mikään verkostoista ei pystynyt ennustamaan ihmisen objektihakemuksia kokeen aikana.

“Spekuloidaan, että vastaamaan ihmisen konfiguraatioherkkyyttä, verkostojen on opittava ratkaisemaan laajempi joukko objektitehtäviä objektien tunnistamisen lisäksi”, Elder päättelee