Yleiset oletukset koneoppimisen virheistä voivat olla väärin

Syvät neuroverkkot ovat yksi tärkeimmistä tekoälyyn (AI) liittyvistä asiista, koska niitä käytetään kuvien ja tietojen prosessointiin matemaattisen mallinnuksen avulla. Ne ovat vastuussa joistakin alan suurimmista edistysaskelista, mutta ne myös virheilevät monin tavoin. Nämä virheilleet voivat vaikuttaa pienesti tai olla vaikutuksettomia, kuten yksinkertainen virheellinen tunnistaminen, tai ne voivat olla dramaattisempia ja vaarallisempia, kuten itseohjautuvan ajoneuvon virhe.

Houstonin yliopistosta saatu uusi tutkimus viittaa siihen, että yleiset oletuksemme näistä virheistä voivat olla väärin, mikä voisi auttaa arvioimaan verkkojen luotettavuutta tulevaisuudessa.

Tutkimus julkaistiin Nature Machine Intelligence -julkaisussa marraskuussa.

”Vastakkaiset esimerkit”

Koneoppiminen ja muut tekoälytyypit ovat tärkeitä monissa aloissa ja tehtävissä, kuten pankki- ja kyberturvajärjestelmissä. Houstonin yliopiston filosofian apulaisprofessori Cameron Bucknerin mukaan on olemassa ymmärrys siitä, miten ”vastakkaiset esimerkit” aiheuttavat virheitä. Nämä vastakkaiset esimerkit tapahtuvat, kun syvä neuroverkkojärjestelmä virheellisesti tulkitsee kuvia ja muita tietoja, kun se kohtaa tietoja, jotka eivät kuulu siihen koulutusaineistoon, jota käytettiin verkon kehittämiseen.

Nämä vastakkaiset esimerkit ovat harvinaisia, koska usein ne luodaan tai löydetään toisella koneoppimisverkolla.

”Jotkut näistä vastakkaisista tapahtumista voivat olla artefakteja, ja meidän on tunnistettava, mitä ne ovat, jotta voimme tietää, kuinka luotettavia nämä verkkot ovat”, Buckner kirjoitti.

Buckner sanoo, että virhe voi johtua siitä, miten todelliset mallit ja verkko prosessoi niitä, tarkoittaen, että se ei ole täydellinen virhe.

Mallit artefakteina

”Vastakkaisista esimerkeistä johtuvien seurausten ymmärtäminen edellyttää kolmannen mahdollisuuden tutkimista: että jotkut näistä malleista ovat artefakteja”, Buckner sanoi. ”On sekä kustannuksia yksinkertaisesti hylätä nämä mallit että vaaroja niiden käytössä tietämättöminä”.

Vaikka se ei aina ole tapahtumien kulku, tietoinen pahantahtoisuus on suurin riski näiden vastakkaisissa tapahtumissa, jotka aiheuttavat koneoppimisen virheitä.

”Se tarkoittaa, että pahantahtoiset toimijat voivat hämätä järjestelmiä, jotka riippuvat muuten luotettavasta verkosta”, Buckner sanoi. ”Siinä on sovelluksia turvallisuuden kannalta”.

Tämä voi olla esimerkiksi hakkerien murtautuminen turvajärjestelmään, joka perustuu kasvontunnistusteknologiaan, tai väärin merkittyjä liikennemerkkejä, jotka voivat hämätä itseohjautuvia ajoneuvoja.

Aiemmat tutkimukset ovat osoittaneet, että jotkut vastakkaiset esimerkit ovat luonnostaan syntyneitä, ja ne tapahtuvat, kun koneoppimisjärjestelmä virheellisesti tulkitsee tietoja odottamattoman vuorovaikutuksen kautta, joka on erilainen kuin virheet tiedoissa. Nämä luonnostaan syntyneet esimerkit ovat harvinaisia, ja ainoa tapa löytää ne on tekoäly.

Buckner sanoo, että tutkijoiden on uudelleenarvioitava, miten he lähestyvät poikkeamia.

Nämä poikkeamat eli artefaktit selitetään Bucknerin analogian kautta valokuvauksessa, jossa linssin heijastus ei johdu kameran linssin virheestä, vaan valon ja kameran vuorovaikutuksesta.

Joseksi, jos tiedetään, miten tulkita linssin heijastus, voidaan saada tärkeää tietoa, kuten auringon sijainti. Siksi Buckner uskoo, että voidaan saada yhtä arvokasta tietoa koneoppimisen virheistä, jotka johtuvat artefakteista.

Buckner sanoo myös, että kaikki tämä ei tarkoita, että syvä oppiminen ei ole pätevää.

”Jotkut näistä vastakkaisista tapahtumista voivat olla artefakteja”, hän sanoi. ”Meidän on tunnistettava, mitä nämä artefaktit ovat, jotta voimme tietää, kuinka luotettavia nämä verkkot ovat”.