Uusi järjestelmä voi tuoda tekoälyä puetettaviin laitteisiin ja kodinkoneisiin

MIT:n tutkijaryhmä työskentelee tuodakseen syväoppivia hermoverkkoja mikrokontrollereihin. Edistys tarkoittaa, että tekoäly (AI) voidaan toteuttaa pieniksi tietokonesiruiksi puettavissa lääkinnällisissä laitteissa, kodinkoneissa ja muissa 250 miljardissa esineessä, jotka muodostavat "esineiden internetin" (IoT). IoT on fyysisten objektien verkosto, johon on upotettu antureita, ohjelmistoja ja muita teknologioita, jotka auttavat muodostamaan yhteyden ja vaihtamaan tietoja muiden laitteiden ja järjestelmien kanssa. 

- tutkimus on tarkoitus esitellä konferenssissa neuroinformaationkäsittelyjärjestelmistä joulukuussa. Tutkimuksen johtava kirjoittaja on Ji Lin, Ph.D. opiskelija Song Hanin laboratoriossa MIT:n sähkötekniikan ja tietojenkäsittelytieteen laitoksella. Yhteiskirjoittajia ovat MIT:n Han ja Yujun Lin, Wei-Ming Chen MIT:stä ja National University Taiwanista sekä John Cohn ja Chuan Gan MIT-IBM Watson Labista. 

MCUNet-järjestelmä

Järjestelmää kutsutaan nimellä MCUNet, ja se suunnittelee kompakteja hermoverkkoja, jotka pystyvät äärimmäiseen nopeuteen ja tarkkuuteen IoT-laitteissa, jopa rajoitetulla muistilla ja prosessointiteholla. Tämä järjestelmä voi olla energiatehokkaampi ja parantaa tietoturvaa. 

Tiimi kehitti "pienen syväoppimisjärjestelmän" yhdistämällä kaksi komponenttia - hermoverkkojen ja mikro-ohjainten toiminnan. Ensimmäinen komponentti on TinyEngine, käyttöliittymämoottori, joka toimii käyttöjärjestelmänä ohjaamalla resurssienhallintaa. TinyEngine on optimoitu ajamaan tiettyä hermoverkkorakennetta, jonka TinyNAS, joka on toinen komponentti, valitsee. TinyNAS on hermoarkkitehtuurin hakualgoritmi. 

Lin kehitti TinyNASin, koska olemassa olevien hermoarkkitehtuurin hakutekniikoiden soveltaminen pieniin mikrokontrollereihin oli vaikeaa. Nämä olemassa olevat tekniikat löytävät lopulta tarkimman ja kustannustehokkaimman verkkorakenteen aloitettuaan monilla mahdollisilla ennalta määrätyn mallin pohjalta.

"Se voi toimia melko hyvin GPU:illa tai älypuhelimilla", Lin sanoo. "Mutta on ollut vaikeaa soveltaa näitä tekniikoita suoraan pieniin mikrokontrollereihin, koska ne ovat liian pieniä."

TinyNAS voi luoda mukautetun kokoisia verkkoja. 

"Meillä on paljon mikro-ohjaimia, joissa on eri tehokapasiteetti ja erikokoiset muistit", Lin sanoo. "Joten kehitimme algoritmin [TinyNAS] optimoimaan hakutilan eri mikrokontrollereille."

Koska TinyNAS voidaan räätälöidä, se voi luoda parhaat mahdolliset kompaktit hermoverkot mikro-ohjaimille. 

"Sitten toimitamme lopullisen tehokkaan mallin mikro-ohjaimelle", Lin jatkaa.

Mikro-ohjain tarvitsee puhtaan ja ohuen käyttöliittymämoottorin pyörittääkseen pientä hermoverkkoa. Monissa käyttöliittymämoottoreissa on ohjeet harvoin suoritettaviin tehtäviin, mikä voi haitata mikrokontrolleria. 

"Sillä ei ole off-chip-muistia, eikä siinä ole levyä", Han sanoo. "Kaikki yhdistettynä on vain yksi megatavu flash-muistia, joten meidän on hallittava todella huolellisesti niin pientä resurssia."

TinyEngine luo koodin, joka tarvitaan TinyNASin kehittämän mukautetun hermoverkon suorittamiseen. Käännösaikaa lyhennetään hylkäämällä nollapainokoodi.

"Pidämme vain sen, mitä tarvitsemme", Han sanoo. "Ja koska suunnittelimme hermoverkon, tiedämme tarkalleen, mitä tarvitsemme. Se on järjestelmäalgoritmikoodisuunnittelun etu." 

Testit osoittivat, että TinyEnginen käännetty binäärikoodi oli 1.9–XNUMX kertaa pienempi kuin vastaavissa mikro-ohjainmoottoreissa, mukaan lukien Googlen ja ARM:n mikro-ohjainmoottorit. Huippumuistin käyttö väheni myös lähes puoleen.

MCUNetin kyky

Ensimmäiset MCUNetin testit keskittyivät kuvien luokitteluun. ImageNet-tietokantaa käytettiin järjestelmän kouluttamiseen leimatuilla kuvilla, ja sen kykyä testattiin sitten uusilla. 

Kun MCUNet testattiin kaupallisella mikro-ohjaimella, se luokitteli onnistuneesti 70.7 prosenttia uusista kuvista. Tämä on paljon parempi kuin edellinen paras hermoverkko- ja häiriömoottoripariliitos, jonka tarkkuus oli 54 prosenttia.

"Jopa yhden prosentin parannusta pidetään merkittävänä", Lin sanoo. "Joten tämä on valtava harppaus mikro-ohjaimen asetuksissa."

Kalifornian Berkeley-yliopiston tietojenkäsittelytieteilijän Kurt Keutzerin mukaan tämä "laajentaa syvän hermoverkkojen suunnittelun rajaa entisestään pienten energiatehokkaiden mikro-ohjainten laskenta-alueelle". MCUNet voisi "tuoda älykkäitä tietokonenäköominaisuuksia jopa yksinkertaisimpiin keittiölaitteisiin tai mahdollistaa älykkäämpiä liikeantureita". 

MCUNet parantaa myös tietoturvaa.  

"Tärkein etu on yksityisyyden säilyttäminen", Han sanoo. "Sinun ei tarvitse siirtää tietoja pilveen."

Analysoimalla tietoja paikallisesti on pienempi mahdollisuus henkilökohtaisten tietojen vaarantumiseen. 

Tämän lisäksi MCUNet voisi analysoida ja tarjota tietoa syke-, verenpaine- ja happitason lukemista kaltaisista tiedoista, tuoda syväoppimista IoT-laitteisiin ajoneuvoissa ja muissa paikoissa, joissa on rajoitettu Internet-yhteys, ja vähentää hiilijalanjälkeä käyttämällä vain pientä osaa suurten neuroverkkojen tarvitsema energia.