Tutkimusryhmä kehittää lähestymistavan neuroverkkojen vertailuun

Los Alamosin kansallisen laboratorion tutkimusryhmä on kehittänyt uuden lähestymistavan neuroverkkojen vertailuun. Ryhmän mukaan tämä uusi lähestymistapa tarkastelee tekoälyn (AI) “mustan laatikon” sisältöä ja auttaa heitä ymmärtämään neuroverkkojen käyttäytymistä. Neuroverkkoja, jotka tunnistavat kuvioita tietoaineistoissa, käytetään laajasti sovelluksissa kuten kasvontunnistusjärjestelmissä ja itseohjautuvissa ajoneuvoissa.

Ryhmä esitti tutkimuksensa, “If You’ve Trained One You’ve Trained Them All: Inter-Architecture Similarity Increases With Robustness”, Conference on Uncertainty in Artificial Intelligence -konferenssissa.

Haydn Jones on tutkija Advanced Research in Cyber Systems -ryhmässä Los Alamosissa ja tutkimuksen pääkirjoittaja.

Neuroverkkojen parempi ymmärtäminen

“Tekoälytutkimusyhteisöllä ei välttämättä ole täydellistä ymmärrystä siitä, mitä neuroverkot tekevät; ne antavat hyviä tuloksia, mutta emme tiedä miten tai miksi”, Jones sanoi. “Uusi menetelmämme tekee paremmin työtä neuroverkkojen vertailussa, mikä on tärkeä askel kohti tekoälyn matemaattisen taustan parempaa ymmärtämistä.

Uusi tutkimus auttaa myös asiantuntijoita ymmärtämään robustien neuroverkkojen käyttäytymistä.

Vaikka neuroverkot ovat suorituskykyisiä, ne ovat myös hauraita. Pienet muutokset olosuhteissa, kuten itseohjautuvan ajoneuvon käsittelemän stop-merkin osittainen peittyminen, voivat saada neuroverkon tunnistamaan merkin väärin. Tämä tarkoittaa, että ajoneuvo ei ehkä pysähdy lainkaan, mikä voi olla vaarallista.

Neuroverkkojen vastustajakoulutus

Tutkijat pyrkivät parantamaan näitä neuroverkkoja tarkastelemalla keinoja parantaa verkkojen robustisuutta. Yksi lähestymistavoista on verkkoihin kohdistuva “hyökkäys” koulutusprosessin aikana, jossa tutkijat tarkoituksella aiheuttavat poikkeamia ja kouluttavat tekoälyä jättämään ne huomiotta. Tämä prosessi, jota kutsutaan vastustajakoulutukseksi, tekee verkkojen hämäämisestä vaikeampaa.

Tutkijat sovelsivat uutta verkkoyhtäläisyyden mittaria vastustajakoulutetuille neuroverkoille. He olivat yllättyneitä siitä, että vastustajakoulutus aiheuttaa konenäön neuroverkkojen konvergoitumisen samankaltaisiin tietoesityksiin, riippumatta verkkoarkkitehtuurista, kun hyökkäyksen suuruus kasvaa.

“Löysimme, että kun koulutamme neuroverkkoja olemaan robusteja adversarial-hyökkäyksiä vastaan, ne alkavat tehdä samoja asioita”, Jones sanoi.

Tämä ei ole ensimmäinen kerta, kun asiantuntijat ovat etsineet täydellistä arkkitehtuuria neuroverkoille. Uudet löydökset osoittavat kuitenkin, että vastustajakoulutuksen käyttöönotto vähentää merkittävästi eroa, mikä tarkoittaa, että tekoälytutkimusyhteisöllä ei välttämättä tarvitse tutkia niin monia uusia arkkitehtuureja, koska on nyt tiedossa, että vastustajakoulutus aiheuttaa erilaisten arkkitehtuurien konvergoitumisen samankaltaisiin ratkaisuihin.

“Löytämällä, että robustit neuroverkot ovat keskenään samankaltaisia, helpotamme sen ymmärtämistä, miten robusti tekoäly todella toimii”, Jones sanoi. “Saatamme jopa löytää vihjeitä siitä, miten aistiminen tapahtuu ihmisillä ja muilla eläimillä.”