MIT:n tutkimusryhmä suunnittelee AI-verkkoa, joka kestää vastakkaisia esimerkkejä

Tutkimusryhmä MIT:stä on kehittänyt syvänoppimisalgoritmin, jonka tarkoituksena on auttaa tekoälyjä selviytymään “vastakkaisista” esimerkeistä, jotka voivat aiheuttaa tekoälyjen tekemän virheellisiä ennusteita ja toimia. MIT:n tutkimusryhmän suunnittelema algoritmi voi auttaa tekoälyjärjestelmiä ylläpitämään tarkkuutensa ja välttämään virheiden tekemistä, kun niiden on käsiteltävä hämmentäviä tietopisteitä.

Tekoälyjärjestelmät analysoivat tapahtuman syöteominaisuuksia päättääkseen, miten vastata tapahtumaan. Itsenäisen ajoneuvon ohjaavan tekoälyjärjestelmän on käsiteltävä ajoneuvon kameroiden tietoja ja päättää, mitä tehdä sen perusteella. On kuitenkin mahdollista, että tekoälyjärjestelmän analysoima kuva-aineisto ei ole oikea edustus todellisesta maailmasta. Kamerajärjestelmän viat voivat muuttaa joitain pikseleitä, jolloin tekoäly voi tehdä virheellisiä johtopäätöksiä siitä, mitä toimia on tehtävä.

“Vastakkaiset syötteet” ovat tekoälyjärjestelmille optisia illuusioita. Ne ovat syötteitä, jotka hämmentävät tekoälyjärjestelmää jollain tavoin. Vastakkaisia syötteitä voidaan luoda tietoisesti aiheuttaakseen tekoälyjen virheitä esittämällä tietoja tavalla, joka saa tekoäly Uskomaan, että esimerkin sisältö on jotain muuta kuin se todella on. Esimerkiksi voidaan luoda vastakkainen esimerkki tietokoneen näköjärjestelmälle muuttamalla hieman kissan kuvia, jolloin tekoäly luokittelee kuvat väärin tietokoneen näytöiksi. MIT:n tutkimusryhmä suunnitteli algoritmin, joka auttaa suojelemaan vastakkaisia esimerkkejä sallimalla mallin ylläpitää tietynlaista “epäilyä” siitä, mitä syötteitä se vastaanottaa.

MIT:n tutkijat kutsuivat lähestymistapaansa “Varmistettu vastakkainen kestävyys syvänoppimiselle vahvistusoppimiselle”, tai CARRL. CARRL koostuu vahvistusoppimisen verkosta ja perinteisestä syvänoppimisverkosta, jotka on yhdistetty toisiinsa. Vahvistusoppimisessa käytetään “palkkio”-käsitettä mallin kouluttamiseen antamalla mallille suhteessa enemmän palkkioita, mitä lähemmäs se pääsee tavoitteestaan. Vahvistusoppimismalli käytetään kouluttamaan Deep Q-Netowrkia eli DQN:ää. DQN:t toimivat perinteisten neuroverkkojen tavoin, mutta ne myös liittävät syötearvoihin tietyn palkkion, kuten vahvistusoppimisjärjestelmät.

CARRL toimii mallintamalla eri mahdollisia arvoja syötedatasta.

Oletetaan, että tekoäly yrittää seurata pisteen sijaintia suuremmassa kuvassa, tekoäly ottaa huomioon, että pisteen sijainti voi olla vastakkaisen vaikutuksen tulos ja ottaa huomioon alueita, joissa piste voisi olla. Verkko tekee sitten päätöksiä huonoina tapauksina pisteen sijainnista ja päättää toiminnasta, joka tuottaisi korkeimman palkkion tässä huonossa tapauksessa.

Tavanomainen tapa suojelemiseen vastakkaisia esimerkkejä on ajaa hieman muutettuja versioita syötekuvasta tekoälyverkossa ja tarkastaa, onko tekoäly aina samaa mieltä. Jos kuvan muutokset eivät vaikuta tulokseen, on hyvä mahdollisuus, että verkko on kestävä vastakkaisia esimerkkejä. Tämä ei kuitenkaan ole käytännöllinen strategia tilanteissa, joissa nopeita päätöksiä on tehtävä, koska nämä ovat aikaa vieviä ja laskennallisia menetelmiä. Tämän vuoksi MIT:n tutkijat pyrkivät luomaan neuroverkon, joka voisi tehdä päätöksiä huonoina oletuksina, ymmärryksen, joka voisi toimia tilanteissa, joissa turvallisuus on kriittinen.

MIT:n tutkijat testasivat algoritmiensa pelaamalla Pong-peliä. He sisällyttivät vastakkaisia esimerkkejä syöttämällä tekoälylle tilanteita, joissa pallo näytettiin hieman alempana kuin se todella oli. Kun vastakkaisen esimerkin vaikutus kasvoi, standardoitujen korjaustekniikoiden virheet alkoivat kasvaa, kun taas CARRL pystyi voittamaan enemmän pelejä. CARRL:ia testattiin myös törmäyksen välttämis-tehtävässä. Tehtävä toteutettiin virtuaalisessa ympäristössä, jossa kaksi eri agenttia yrittivät vaihtaa paikkojaan ilman törmäystä toisiinsa. Tutkimusryhmä muutti ensimmäisen agentin havaintoa toisesta agentista, ja CARRL pystyi onnistuneesti ohjaamaan ensimmäisen agentin toisen agentin ohi, vaikka epävarmuuden ollessa korkea, kunnes CARRLista tuli liian varovainen ja se vältti lopulta kohdettaan.

Kuitenkin MIT:n ilmailu- ja avaruustekniikan osaston post doc Michael Everett, joka johti tutkimusta, selitti, että tutkimuksella voi olla vaikutuksia robotien kykyyn selviytyä ennalta arvaamattomissa tilanteissa. Everett selitti MIT Newsin kautta:

“Ihmiset voivat olla vastakkaisia, kuten mennä eteen robotin antureita tai vuorovaikuttaa niiden kanssa, ei välttämättä parhaiden aikomusten kanssa”, Everett sanoo. ”Miten robotti voi ajatella kaikkia asioita, joita ihmiset voivat yrittää tehdä, ja yrittää välttää niitä? Mitenlaista vastakkaisia malleja haluamme puolustaa? Se on jotain, minkä parissa olemme ajattelemassa, miten tehdä.”