Uusi järjestelmä voi tuoda tekoälyä käyttöön kannettavissa laitteissa ja kodinkoneissa

MIT:n tutkijaryhmä työskentelee tekoälyverkkojen tuomiseksi mikrokontrollereihin. Edistys askel merkitsee, että tekoäly voidaan toteuttaa pienissä tietokonepiireissä, joita käytetään lääketieteellisissä laitteissa, kodinkoneissa ja muissa 250 miljardissa “internetin asioiden” laitteissa. Internetin asiat ovat fyysisiä esineitä, joihin on upotettu anturit, ohjelmisto ja muut teknologiat, jotka auttavat laitteiden ja järjestelmien välistä tietojen vaihtoa.

Tutkimus on tarkoitus esittää joulukuussa Neural Information Processing Systems -konferenssissa. Tutkimuksen pääkirjoittaja on Ji Lin, joka on tohtorikoulutettava Song Hanin laboratoriossa MIT:n sähkötekniikan ja tietojenkäsittelytieteen osastolla. Muita kirjoittajia ovat MIT:n Han ja Yujun Lin, Wei-Ming Chen MIT:stä ja National University Taiwanista, sekä John Cohn ja Chuan Gan MIT-IBM Watson Labista.

MCUNet-järjestelmä

Järjestelmä on nimeltään MCUNet, ja se suunnittelee tiivisteisiä tekoälyverkkoja, jotka ovat nopeita ja tarkkoja IoT-laitteissa, vaikka niissä on rajoitettu muisti ja prosessointikapasiteetti. Tämä järjestelmä voi olla energiatehokkaampi ja parantaa tietoturvaansa.

Tutkijaryhmä kehitti “pienen tekoälyjärjestelmän” yhdistämällä kaksi komponenttia – tekoälyverkkojen toiminnan ja mikrokontrollerit. Ensimmäinen komponentti on TinyEngine, joka toimii käyttöjärjestelmänä ohjaamalla resurssien hallintaa. TinyEngine on optimoitu suorittamaan tietyn tekoälyverkkorakenteen, jonka TinyNAS on valinnut. TinyNAS on tekoälyarkkitehtuurihaun algoritmi.

Lin kehitti TinyNAS:n, koska olemassa olevat tekoälyarkkitehtuurihaun tekniikat eivät sovellu suoraan pieniin mikrokontrollereihin. Nämä tekniikat löytävät lopulta tarkin ja kustannustehokkain verkkorakenteen, kun niitä sovelletaan useisiin mahdollisiin rakenteisiin, jotka perustuvat ennalta määriteltyyn malliin.

“Se toimii hyvin GPU:illa tai älypuhelimilla”, Lin sanoo. “Mutta on ollut vaikea soveltaa näitä tekniikoita suoraan pieniin mikrokontrollereihin, koska ne ovat liian pieniä.”

TinyNAS voi luoda mukautettuja verkkoja.

“Meillä on paljon mikrokontrollereita, joissa on erilaiset tehokapasiteetit ja erilaiset muistikoot”, Lin sanoo. “Joten kehittimme algoritmin (TinyNAS) optimoidaksemme hakutilaa eri mikrokontrollereille.”

Koska TinyNAS voidaan mukauttaa, se voi luoda parhaat mahdolliset tiivisteiset tekoälyverkot mikrokontrollereille.

“Sitten toimitamme lopullisen, tehokkaan mallin mikrokontrollerille”, Lin jatkaa.

Puhdas ja hoikka käyttöliittymä on tarpeen, jotta mikrokontrolleri voi suorittaa pienen tekoälyverkon. Monet käyttöliittymät sisältävät ohjeita harvoin suoritettaville tehtäville, mikä voi haitata mikrokontrolleria.

“Sillä ei ole ulkoista muistia, eikä sillä ole levyä”, Han sanoo. “Kaikki on yhdistetty yhdeksi megatavuksi, joten meidän on huolehdittava resurssien hallinnasta hyvin.”

TinyEngine luo koodin, jota tarvitaan suorittamaan mukautettu tekoälyverkko, jonka TinyNAS on kehittänyt. Käännösajat lyhenevät poistamalla kuormittava koodi.

“Meillä on vain se, mitä tarvitsemme”, Han sanoo. “Ja koska me suunnittelimme tekoälyverkon, me tiedämme tarkalleen, mitä tarvitsemme. Se on järjestelmä-algoritmi-koodausjärjestelmän etu.”

Testit osoittivat, että TinyEngine:n käännösbinäärikoodi oli 1,9-5 kertaa pienempi kuin muut mikrokontrollerien moottorit, mukaan lukien Google (GOOGL ) ja ARM. Huippumuurin käyttö laski lähes puoleen.

MCUNet:n kyky

MCUNet:iin liittyvät ensimmäiset testit liittyivät kuvien luokitteluun. ImageNet-tietokanta käytettiin kouluttamaan järjestelmää, ja sen kykyä testattiin uusilla kuvilla.

Kun MCUNet testattiin kaupallisella mikrokontrollerilla, se luokitteli onnistuneesti 70,7 prosenttia uusista kuvista. Tämä on paljon parempi kuin aiempi paras tekoälyverkko ja häiriömoottori, joka oli 54 prosenttisesti tarkin.

“Jopa yhden prosentin parannus on merkittävä”, Lin sanoo. “Joten tämä on jättiläinen askel mikrokontrollerien asetuksissa.”

Kurt Keutzer, tietojenkäsittelytieteen tutkija Kalifornian yliopistossa Berkeleyssä, sanoo, että tämä “laajentaa syvän tekoälyverkkojen suunnittelun rajoja edelleen pienien energiatehokkaiden mikrokontrollerien laskentadomainiin”. MCUNet voi “tuoda älykkäät tietokoneen näkökyvyn edellytykset jopa yksinkertaisimpiin keittiöapureihin tai mahdollistaa älykkäämmät liiketunnistimet”.

MCUNet parantaa myös tietoturvaansa.

“Yksi tärkeä etu on yksityisyyden säilyttäminen”, Han sanoo. “Sinun ei tarvitse lähettää tietoja pilveen.”

Koska data analyysoidaan paikallisesti, on vähemmän mahdollisuuksia, että henkilökohtaiset tiedot ovat vaarassa.

Lisäksi MCUNet voi analyysoida ja antaa näkemyksiä tietoja, kuten sydämenlyöntien, verenpaineen ja happamuuden lukemista, tuoda syvän tekoälyä IoT-laitteisiin ajoneuvoissa ja muissa paikoissa, joissa on rajoitettu internet-yhteys, ja vähentää hiilijalanjälkeä käyttämällä vain pientä osaa energiasta, jota tarvitaan suurille tekoälyverkoille.