Tutkimusryhmä kehittää menetelmän neuroverkkojen vertailuun

Los Alamosin kansallisen laboratorion tutkimusryhmä on kehittänyt uuden lähestymistavan neuroverkkojen vertailuun. Ryhmän mukaan tämä uusi lähestymistapa tarkastelee tekoälyjen (AI) “mustan laatikon” sisältöä ja auttaa heitä ymmärtämään neuroverkkojen käyttäytymistä. Neuroverkot, jotka tunnistavat kuvioita tietokannoissa, käytetään laajasti sovelluksissa kuten kasvontunnistusjärjestelmissä ja itseohjautuvissa ajoneuvoissa.

Ryhmä esitti tutkimuksensa, “If You’ve Trained One You’ve Trained Them All: Inter-Architecture Similarity Increases With Robustness”, Konferenssissa epävarmuudesta tekoälyssä.

Haydn Jones on tutkija Advanced Research in Cyber Systems -ryhmässä Los Alamosissa ja tutkimuksen pääkirjoittaja.

Neuroverkkojen parempi ymmärtäminen

“Tekoälytutkimusyhteisöllä ei välttämättä ole täydellistä ymmärrystä siitä, mitä neuroverkot tekevät; ne antavat hyviä tuloksia, mutta emme tiedä miten tai miksi”, Jones sanoi. “Uusi menetelmämme tekee paremmin työtä neuroverkkojen vertailussa, mikä on tärkeä askel kohti tekoälyn matemaattisen taustan parempaa ymmärtämistä.

Uusi tutkimus auttaa myös asiantuntijoita ymmärtämään robustien neuroverkkojen käyttäytymistä.

Vaikka neuroverkot ovat suorituskykyisiä, ne ovat myös hauraita. Pienet muutokset olosuhteissa, kuten osittain peitettyä pysähtymismerkkiä, jota itseohjautuva ajoneuvo prosessoi, voi aiheuttaa neuroverkon virheellisen tunnistamisen. Tämä tarkoittaa, että se ei koskaan pysähty, mikä voi olla vaarallista.

Adversarial Training Neuroverkkoja

Tutkijat pyrkivät parantamaan näitä neuroverkkoja tarkastelemalla keinoja parantaa verkkojen robustisuutta. Yksi lähestymistavoista on “hyökkäys” verkkoja koulutusprosessin aikana, jossa tutkijat tarkoituksella aiheuttavat poikkeamia ja kouluttavat tekoälyä olemaan niille herkkä. Tämä prosessi, jota kutsutaan adversarial koulutukseksi, tekee verkkojen hämäämisestä vaikeampaa.

Tutkijat sovelsivat uutta verkkoyhtäläisyyden mittaria adversarial-koulutetuille neuroverkoille. He olivat yllättyneitä siitä, että adversarial-koulutus aiheuttaa neuroverkkojen konvergoitumisen samankaltaisiin tietoesityksiin, riippumatta verkkoarkkitehtuurista, kun hyökkäyksen suuruus kasvaa.

“Löysimme, että kun koulutamme neuroverkkoja olemaan robusteja adversarial-hyökkäyksiä vastaan, ne alkavat tehdä samoja asioita”, Jones sanoi.

Tämä ei ole ensimmäinen kerta, kun asiantuntijat ovat etsineet täydellistä arkkitehtuuria neuroverkoille. Uudet löydökset osoittavat kuitenkin, että adversarial-koulutuksen käyttöönotto vähentää merkittävästi eroa, mikä tarkoittaa, että tekoälytutkimusyhteisöllä ei välttämättä tarvitse tutkia niin monia uusia arkkitehtuureja, koska on nyt tiedossa, että adversarial-koulutus aiheuttaa erilaisten arkkitehtuurien konvergoitumisen samankaltaisiin ratkaisuihin.

“Löytämällä, että robustit neuroverkot ovat samankaltaisia toisiinsa, teemme siitä helpomman ymmärtää, miten robusti tekoäly todella toimii”, Jones sanoi. “Saamme ehkä jopa paljastaa vihjeitä siitä, miten aistiminen tapahtuu ihmisillä ja muilla eläimillä.”