AI-mallit ja alustat
Tutkimus osoittaa, että tekoälymallit eivät vastaa ihmisen visuaalista prosessointia
Keskeiset kohdatTekoälyn näkömallit eivät kykene hahmottamaan kokonaisvaltaisia esineiden muotoja…
Näytä lisää
- Tekoälyn näkömallit eivät kykene hahmottamaan kokonaisvaltaisia esineiden muotoja toisin kuin ihmisen havaitseminen.
- Tämä puute voi vaarallisesti johtaa riskien väärinymmärtämiseen käytännön sovelluksissa kuten liikenneturvallisuudessa.
- Verkkojen kouluttaminen laajemmille tehtäville yksinkertaisen tunnistamisen ulkopuolella saattaa olla tarpeen.
Yorkin yliopiston uusi tutkimus osoittaa, etteivät syvät konvoluutioneuroverkot (DCNN) vastaa ihmisen näköjärjestelmän toimintaa muodon osien keskinäisiin suhteisiin perustuvassa hahmottamisessa. Tutkimuksen toinen kirjoittaja, professori James Elder, varoittaa, että tällä voi olla vakavia ja vaarallisia seurauksia käytännön tekoälysovelluksissa.
Uusi tutkimus ”Syväoppimismallit eivät tavoita ihmisen muodon hahmottamisen konfiguraalista luonnetta” julkaistiin Cell Pressin iScience-lehdessä.
Yhteistutkimuksen tekivät Elder, joka toimii Yorkin yliopiston ihmisen ja tietokoneen näköä tutkivana tutkimusprofessorina sekä yliopiston AI & Society -keskuksen toisena johtajana, ja professori Nicholas Baker, psykologian apulaisprofessori ja entinen Yorkin VISTA-ohjelman tutkijatohtori.
Uudet visuaaliset ”Frankenstein”-ärsykkeet
Ryhmä käytti uudenlaisia ”Frankensteineiksi” kutsuttuja visuaalisia ärsykkeitä tutkiakseen, miten ihmisaivot ja DCNN-verkot käsittelevät esineiden kokonaisvaltaisia ominaisuuksia ja osien keskinäisiä suhteita.
”Frankensteinit ovat yksinkertaisesti esineitä, jotka on purettu osiin ja koottu takaisin väärin päin”, Elder sanoo. ”Niissä on siis kaikki oikeat paikalliset piirteet, mutta väärissä paikoissa.”
Tutkimuksessa havaittiin, etteivät Frankensteinit hämmennä DCNN-verkkoja kuten ihmisen näköjärjestelmää. Tämä osoittaa, etteivät verkot ole herkkiä esineiden osien keskinäisille suhteille.
”Tuloksemme selittävät, miksi syvät tekoälymallit epäonnistuvat tietyissä olosuhteissa, ja osoittavat, että aivojen näköprosessoinnin ymmärtämiseksi on tarkasteltava muitakin tehtäviä kuin esineiden tunnistamista”, Elder jatkaa. ”Nämä syvät mallit käyttävät usein oikoteitä ratkaistessaan monimutkaisia tunnistustehtäviä. Vaikka oikotiet toimivat monissa tapauksissa, ne voivat olla vaarallisia joissakin käytännön tekoälysovelluksissa, joita parhaillaan kehitämme teollisuus- ja julkishallinnon kumppaniemme kanssa.”

Kuva: Yorkin yliopisto
Seuraukset käytännön sovelluksissa
Elderin mukaan yksi näistä sovelluksista on liikenneturvallisuuden videovalvontajärjestelmät.
”Vilkkaassa liikennenäkymässä esineet — ajoneuvot, polkupyörät ja jalankulkijat — peittävät toisiaan ja näkyvät kuljettajalle sekavana joukkona irrallisia osia”, hän sanoo. ”Aivojen on ryhmiteltävä nämä osat oikein tunnistaakseen esineiden oikeat luokat ja sijainnit. Liikenneturvallisuutta valvova tekoälyjärjestelmä, joka pystyy havaitsemaan osat vain erillisinä, epäonnistuu tässä tehtävässä ja voi arvioida väärin haavoittuville tienkäyttäjille aiheutuvat riskit.”
Tutkijoiden mukaan myöskään koulutuksen ja arkkitehtuurin muutokset, joiden tarkoituksena oli tehdä verkoista aivojen kaltaisempia, eivät tuottaneet konfiguraalista käsittelyä. Yksikään verkko ei pystynyt ennustamaan tarkasti ihmisten esineistä tekemiä arvioita yksittäisten koetoistojen tasolla.
”Arvelemme, että vastatakseen ihmisen herkkyyttä osien keskinäisille suhteille verkkoja on koulutettava ratkaisemaan laajempi joukko esineisiin liittyviä tehtäviä kuin vain luokkien tunnistaminen”, Elder päättää.












