Tutkimus osoittaa, että tekoälymallit eivät vastaa ihmisen visuaalista käsittelyä

Yorkin yliopiston uusi tutkimus osoittaa, että syvät konvoluutiohermoverkot (DCNN) eivät vastaa ihmisen visuaalista käsittelyä käyttämällä konfiguroitua muodon havaitsemista. Tutkimuksen kirjoittajan, professori James Elderin mukaan tällä voi olla vakavia ja vaarallisia reaalimaailman vaikutuksia tekoälysovelluksiin. 

Uusi tutkimus nimeltä "Syväoppimismallit eivät pysty vangitsemaan ihmisen muodon havainnointia” julkaistiin Cell Press -lehdessä iScience. 

Se oli yhteistutkimus, jonka teki Elder, joka toimii Yorkin ihmis- ja tietokonenäön tutkimusjohtajana sekä Yorkin AI & Societyn keskuksen apulaisjohtajana, ja professori Nicholas Baker, joka on apulaispsykologian professori ja entinen VISTA. tutkijatohtori Yorkissa.

Uusi visuaalinen ärsyke "Frankensteins" 

Ryhmä luotti uusiin visuaalisiin ärsykkeisiin, joita kutsutaan "Frankensteiniksi", jotka auttoivat heitä tutkimaan, kuinka sekä ihmisen aivot että DCNN:t käsittelevät kokonaisvaltaisia, konfiguroituja esineiden ominaisuuksia. 

"Frankensteinit ovat yksinkertaisesti esineitä, jotka on purettu ja koottu takaisin väärin päin", Elder sanoo. "Tämän seurauksena heillä on kaikki oikeat paikalliset ominaisuudet, mutta väärissä paikoissa." 

Tutkimuksessa havaittiin, että frankensteinit eivät sekoita DCNN:itä kuten ihmisen näköjärjestelmä. Tämä paljastaa epäherkkyyden konfiguroitujen objektien ominaisuuksille. 

"Tuloksemme selittää, miksi syvät tekoälymallit epäonnistuvat tietyissä olosuhteissa, ja viittaavat tarpeeseen pohtia tehtäviä objektin tunnistamisen ulkopuolella, jotta voidaan ymmärtää visuaalista prosessointia aivoissa", Elder jatkaa. "Näillä syvällisillä malleilla on tapana käyttää "oikoteitä" monimutkaisten tunnistustehtävien ratkaisemisessa. Vaikka nämä pikanäppäimet voivat toimia monissa tapauksissa, ne voivat olla vaarallisia joissakin todellisissa tekoälysovelluksissa, joiden parissa työskentelemme parhaillaan teollisuus- ja hallituskumppaniemme kanssa."

Kuva: Yorkin yliopisto

Tosimaailman seuraukset

Vanhin kertoo, että yksi näistä sovelluksista on liikennevideoturvajärjestelmät. 

"Kiireen liikenteen kohteet - ajoneuvot, polkupyörät ja jalankulkijat - tukkivat toisiaan ja saapuvat kuljettajan silmään irrotettujen palasten sekamelskana", hän sanoo. "Aivojen on ryhmiteltävä nämä fragmentit oikein tunnistaakseen esineiden oikeat luokat ja sijainnit. Liikenneturvallisuuden valvontaan tarkoitettu tekoälyjärjestelmä, joka pystyy havaitsemaan palaset vain yksittäin, epäonnistuu tässä tehtävässä, mikä saattaa ymmärtää väärin haavoittuville tienkäyttäjille aiheutuvat riskit. 

Tutkijat sanovat myös, että koulutukseen ja arkkitehtuuriin tehdyt muutokset, joiden tarkoituksena oli tehdä verkoista aivomaisempia, eivät tuottaneet konfiguraatiokäsittelyä. Mikään verkoista ei pystynyt ennustamaan tarkasti koekohtaisia ​​ihmisobjektien arvioita. 

"Arvelemme, että ihmisten konfiguraatioherkkyyden vastaamiseksi verkkoja on koulutettava ratkaisemaan laajempi joukko objektitehtäviä kategorioiden tunnistamisen lisäksi", Elder päättää.