Nov sistem lahko prinese AI v nosljive naprave, gospodinjske aparate

Skupina raziskovalcev na MIT dela na prenosu globokih učnih nevronskih mrež v mikrokontrolerje. Napredek pomeni, da bi lahko umetno inteligenco (AI) implementirali v majhne računalniške čipe v nosljivih medicinskih napravah, gospodinjskih aparatih in drugih 250 milijardah predmetov, ki sestavljajo »internet stvari« (IoT). IoT je omrežje fizičnih objektov, vgrajenih s senzorji, programsko opremo in drugimi tehnologijami, ki pomagajo pri povezovanju in izmenjavi podatkov z drugimi napravami in sistemi. 

O Raziskave naj bi bil predstavljen decembra na konferenci o sistemih za obdelavo nevronskih informacij. Vodilni avtor raziskave je Ji Lin, dr. študent v Song Hanovem laboratoriju na oddelku za elektrotehniko in računalništvo MIT. Soavtorji so Han in Yujun Lin iz MIT, Wei-Ming Chen iz MIT in Nacionalne univerze Tajvana ter John Cohn in Chuan Gan iz laboratorija MIT-IBM Watson. 

Sistem MCUNet

Sistem se imenuje MCUNet in oblikuje kompaktne nevronske mreže, ki so zmožne ekstremne hitrosti in natančnosti na napravah IoT, tudi z omejenim pomnilnikom in procesorsko močjo. Ta sistem je lahko bolj energetsko učinkovit in izboljša varnost podatkov. 

Ekipa je razvila sistem "drobnega globokega učenja" s kombinacijo dveh komponent - delovanja nevronskih mrež in mikrokontrolerjev. Prva komponenta je TinyEngine, vmesniški motor, ki deluje kot operacijski sistem z usmerjanjem upravljanja virov. TinyEngine je optimiziran za izvajanje posebne strukture nevronske mreže, ki jo izbere TinyNAS, ki je druga komponenta. TinyNAS je algoritem za iskanje nevronske arhitekture. 

Lin je razvil TinyNAS zaradi težav pri uporabi obstoječih tehnik iskanja nevronske arhitekture za majhne mikrokontrolerje. Te obstoječe tehnike sčasoma najdejo najbolj natančno in stroškovno učinkovito strukturo omrežja, potem ko začnejo s številnimi možnimi, ki temeljijo na vnaprej določeni predlogi.

"Lahko deluje precej dobro za GPE ali pametne telefone," pravi Lin. "Vendar je bilo te tehnike težko neposredno uporabiti za majhne mikrokontrolerje, ker so premajhni."

TinyNAS lahko ustvari omrežja po meri. 

"Imamo veliko mikrokontrolerjev z različnimi močmi in različnimi velikostmi pomnilnika," pravi Lin. "Zato smo razvili algoritem [TinyNAS] za optimizacijo iskalnega prostora za različne mikrokontrolerje."

Ker je TinyNAS mogoče prilagoditi, lahko ustvari najboljše možne kompaktne nevronske mreže za mikrokontrolerje. 

»Nato mikrokrmilniku dostavimo končni, učinkovit model,« nadaljuje Lin.

Čist in tanek vmesnik vmesnika je potreben za mikrokrmilnik za zagon majhne nevronske mreže. Številni vmesniški motorji imajo navodila za redko izvajane naloge, ki bi lahko ovirale mikrokrmilnik. 

»Nima pomnilnika zunaj čipa in nima diska,« pravi Han. "Vse skupaj je samo en megabajt flash, zato moramo res skrbno upravljati s tako majhnim virom."

TinyEngine ustvari kodo, potrebno za zagon prilagojene nevronske mreže, ki jo je razvil TinyNAS. Čas prevajanja se skrajša z zavrženjem mrtve kode.

»Hranimo samo tisto, kar potrebujemo,« pravi Han. »In ker smo oblikovali nevronsko mrežo, točno vemo, kaj potrebujemo. To je prednost sistemske kodne zasnove algoritma.« 

Testi so pokazali, da je bila prevedena binarna koda TinyEngine 1.9- do petkrat manjša od podobnih motorjev mikrokrmilnikov, vključno s tistimi iz Googla in ARM. Tudi največja poraba pomnilnika se je skoraj prepolovila.

Sposobnost MCUNeta

Prvi testi za MCUNet so se vrteli okoli klasifikacije slik. Podatkovna baza ImageNet je bila uporabljena za usposabljanje sistema z označenimi slikami, njena sposobnost pa je bila nato preizkušena na novih. 

Ko je bil MCUNet testiran na komercialnem mikrokrmilniku, je uspešno razvrstil 70.7 odstotka novih slik. To je veliko boljše od prejšnjega najboljšega združevanja nevronske mreže in interferenčnega motorja, ki je bilo 54 odstotkov natančno.

"Tudi 1-odstotno izboljšanje velja za pomembno," pravi Lin. "Torej je to ogromen preskok za nastavitve mikrokrmilnika."

Po mnenju Kurta Keutzerja, računalniškega znanstvenika na kalifornijski univerzi v Berkeleyju, to "razširja meje oblikovanja globokih nevronskih mrež še dlje v računalniško domeno majhnih energetsko učinkovitih mikrokontrolerjev." MCUNet bi lahko "prinesel inteligentne zmogljivosti računalniškega vida celo najpreprostejšim kuhinjskim aparatom ali omogočil inteligentnejše senzorje gibanja." 

MCUNet tudi izboljša varnost podatkov.  

»Ključna prednost je ohranjanje zasebnosti,« pravi Han. "Podatkov vam ni treba prenašati v oblak."

Z lokalno analizo podatkov je manjša možnost, da bi bili osebni podatki ogroženi. 

Poleg tega bi lahko MCUNet analiziral in zagotovil vpogled v informacije, kot so odčitki srčnega utripa, krvnega tlaka in ravni kisika, prinesel globoko učenje v naprave IoT v vozilih in na drugih mestih z omejenim dostopom do interneta ter zmanjšal ogljični odtis z uporabo le majhnega deleža energije, potrebne za velike nevronske mreže.