Tietokoneen näkökykyä koulutetaan satunnaisella melulla eikä oikeilla kuvilla

Tutkijat MIT:n tietojenkäsittely- ja tekoälylaboratoriosta (CSAIL) ovat kokeilleet satunnaisen melun käyttämistä tietokoneen näkökyvyn dataseteissä, ja he ovat havainneet, että menetelmä on yllättävän tehokas:

Generaattorimallit kokeen mukaan, lajiteltu suorituskyvyn mukaan. Lähde: https://openreview.net/pdf?id=RQUl8gZnN7O

Näyttää siltä, että “visuaalinen roska” ei pitäisi tuottaa tällaista suorituskykyä. Kuvan oikeassa reunassa mustat pylväät edustavat tarkkuusarvoja (Imagenet-100: ssä) neljälle “oikealle” datasetille. Vaikka “satunnaisen melun” datasetit (jotka on kuvattu eri väreissä, katso ylänurkassa) eivät voi saavuttaa samaa tarkkuutta, ne ovat lähes kaikki kunnioittavien ylä- ja alarajojen (punaiset viivat) sisällä.

Tässä mielessä “tarkkuus” ei tarkoita, että tulokset välttämättä muistuttavat kasvoja, kirkkoa, pitsaa tai mitään muuta tiettyä aluetta, josta olet kiinnostunut luomaan kuvasynteesijärjestelmän, kuten generaattoriverkko tai koodari/dekooderi-kehyksen.

Vaikka tulokset eivät voi olla yhteydessä ylisovittumiseen: elävä keskustelu kirjoittajien ja arvostelijoiden välillä Open Reviewissa paljastaa, että eri sisällön sekoittaminen visuaalisesti monimuotoisista dataseteistä (kuten “kuolleista lehdistä”, “fraktaleista” ja “menetelmämelusta” – katso alla oleva kuva) koulutusdatasettiin parantaa tarkkuutta näissä kokeissa.

Tämä viittaa (ja se on vallankumouksellinen ajatus) uudenlaiseen “aliohittumiseen”, jossa “monimuotoisuus” voittaa “luonnollisuuden”.

Projektin sivu, joka mahdollistaa satunnaisen kuvadatasetin interaktiivisen katselun. Lähde: https://mbaradad.github.io/learning_with_noise/

Tutkijoiden tulokset kyseenalaistavat perus-suhteen kuvapohjaisen neuroniverkkojen ja “oikeiden” kuvien välillä, jotka heille syötetään hälyttävän suurissa määrin joka vuosi, ja viittaavat siihen, että tarve hankkia, kuratoida ja muutoin hallita hyperskaalaisia kuvadatasettejä voi lopulta tulla tarpeettomaksi. Kirjoittajat toteavat:

‘Nykyiset näköjärjestelmät on koulutettu valtavilla dataseteillä, ja nämä datasetit tulevat kustannuksin: kuratointi on kallista, ne periytyvät ihmisten ennakkoasenteista, ja niissä on ongelmia yksityisyyden ja käytön oikeuksien kanssa. Tämän vuoksi on kasvanut kiinnostus halvempiin data-lähteisiin, kuten merkityksettömiin kuviin.’

‘Tässä tutkimuksessa menemme askelen eteenpäin ja kysymme, voimmeko luopua kokonaan oikeista kuvadataseteistä ja oppia proseduraalisten meluprosessien avulla.’

Tutkijat ehdottavat, että nykyiset koneoppimisarkkitehtuurit voivat olla johtaneet jotain paljon perustavampaa (tai odottamattomampaa) kuin mitä aiemmin ajateltiin, ja että “järjettömät” kuvat voivat mahdollisesti antaa paljon tätä tietoa edullisemmin, jopa ad hoc -synteettisen datan avulla, datasetin generoivien arkkitehtuureiden avulla, jotka generoivat satunnaisia kuvia koulutuksen aikana:

‘Me tunnistamme kaksi avainominaisuutta, jotka tekevät hyvää synteettistä dataa näön koulutukseen: 1) luonnollisuus, 2) monimuotoisuus. Mielenkiintoista kyllä, luonnollisin data ei aina ole paras, koska luonnollisuus voi tulla monimuotoisuuden kustannuksella.

‘Se, että luonnollinen data auttaa, ei välttämättä ole yllättävää, ja se viittaa siihen, että todella suuret oikeat datat ovat arvokkaita. Kuitenkin havaitsemme, että se, mikä on ratkaisevaa, ei ole se, että data on oikea, vaan se, että se on luonnollinen, eli se on vanginnut tiettyjä oikeiden datojen rakenteellisia ominaisuuksia.

‘Monet näistä ominaisuuksista voidaan vangita yksinkertaisiin melumalleihin.’

Piirroskuvat, jotka tulivat AlexNet-johtuvasta koodarista, jotkut satunnaiset ‘kuvadatasetit’ käytettiin kirjoittajien kokeissa, jotka kattavat 3. ja 5. (viimeisen) konvoluutiokerroksen. Tässä käytetty menetelmä noudattaa Google AI -tutkimusta vuodelta 2017.

Tutkimus, joka esiteltiin 35. konferenssissa Neuraalisen tietojenkäsittelyn järjestelmistä (NeurIPS 2021) Sydneyssä, on nimeltään Näkemisen oppiminen melun katsomisen kautta, ja se on peräisin kuudelta tutkijalta CSAIL:sta, joilla on yhtäläinen osuus.

Työ suositeltiin yksimielisesti NeurIPS 2021: n valokeilaan, ja vertaisarvostelijat kuvasivat tutkimusta “tieteelliseksi läpimurroksi”, joka avaa “loistavan tutkimusalueen”, vaikka se herättää yhtä monta kysymystä kuin se vastaa.

Tutkijat toteavat tutkimuksessaan:

‘Olemme osoittaneet, että, kun suunnitellaan tuloksien perusteella aiemmasta tutkimuksesta luonnollisten kuvastatistiikkojen, nämä datasetit voivat onnistuneesti kouluttaa visuaalisia edustajia. Toivomme, että tämä tutkimus motivoi uusien generaattorimallien tutkimista, jotka voivat tuottaa rakenteista melua, joka saavuttaa jopa paremman suorituskyvyn monissa visuaalisissa tehtävissä.

‘Onko mahdollista saavuttaa sama suorituskyky kuin ImageNet-koulutuksella? Ehkä, jos ei ole suurta koulutusdatasettiä tietyn tehtävän osalta, paras esikoulutus ei välttämättä ole käyttäminen standardia oikeaa datasettiä, kuten ImageNetiä.’