Noul sistem poate aduce inteligența artificială la dispozitivele purtabile și electrocasnice

O echipă de cercetători de la MIT lucrează la aducerea rețelelor neuronale de învățare profundă la microcontrolere. Acest progres înseamnă că inteligența artificială (IA) poate fi implementată în microcipuri mici din dispozitive medicale purtabile, electrocasnice și în alte 250 de miliarde de obiecte care alcătuiesc “internetul lucrurilor” (IoT). IoT este o rețea de obiecte fizice încorporate cu senzori, software și alte tehnologii, care ajută la conectarea și schimbul de date cu alte dispozitive și sisteme.

Cercetarea va fi prezentată la Conferința privind sistemele de procesare a informațiilor neuronale în luna decembrie. Autorul principal al cercetării este Ji Lin, student doctorand în laboratorul lui Song Han din Departamentul de Inginerie Electrică și Știința Calculatoarelor de la MIT. Coautorii includ pe Han și Yujun Lin de la MIT, Wei-Ming Chen de la MIT și Universitatea Națională Taiwan, și John Cohn și Chuan Gan de la Laboratorul MIT-IBM Watson.

Sistemul MCUNet

Sistemul se numește MCUNet și proiectează rețele neuronale compacte capabile de viteză și precizie extreme pe dispozitive IoT, chiar și cu memorie și putere de procesare limitate. Acest sistem poate fi mai eficient din punct de vedere energetic și poate îmbunătăți securitatea datelor.

Echipa a dezvoltat sistemul “învățare profundă mică” prin combinarea a două componente – funcționarea rețelelor neuronale și microcontrolere. Prima componentă este TinyEngine, un motor de interfață care acționează ca un sistem de operare prin gestionarea resurselor. TinyEngine este optimizat pentru a rula o structură de rețea neurală specifică selectată de TinyNAS, care este cealaltă componentă. TinyNAS este un algoritm de căutare a arhitecturii neuronale.

Lin a dezvoltat TinyNAS din cauza dificultății de a aplica tehnici existente de căutare a arhitecturii neuronale la microcontrolere mici. Aceste tehnici găsesc în cele din urmă structura de rețea cea mai precisă și mai eficientă din punct de vedere al costurilor, după ce încep cu multe posibilități bazate pe un șablon predefinit.

“Poate funcționa foarte bine pentru GPU-uri sau smartphone-uri”, spune Lin. “Dar a fost dificil să aplice direct aceste tehnici la microcontrolere mici, deoarece sunt prea mici.”

TinyNAS poate crea rețele de dimensiuni personalizate.

“Avem multe microcontrolere care vin cu capacități de putere diferite și dimensiuni de memorie diferite”, spune Lin. “Așa că am dezvoltat algoritmul [TinyNAS] pentru a optimiza spațiul de căutare pentru diferite microcontrolere.”

Deoarece TinyNAS poate fi personalizat, poate genera cele mai bune rețele neuronale compacte pentru microcontrolere.

“Apoi livrăm modelul final, eficient, către microcontroller”, continuă Lin.

Pentru ca un microcontroller să ruleze o rețea neurală mică, este necesar un motor de interfață curat și subțire. Multe motoare de interfață au instrucțiuni pentru sarcini rare, care pot împiedica un microcontroller.

“Nu are memorie off-chip și nu are disc”, spune Han. “Totul împreună este doar un megabyte de flash, așa că trebuie să gestionăm cu atenție această resursă atât de mică.”

TinyEngine generează codul necesar pentru a rula rețeaua neurală personalizată dezvoltată de TinyNAS. Timpul de compilare este redus prin eliminarea codului inutil.

“Păstrăm doar ceea ce avem nevoie”, spune Han. “Și deoarece am proiectat rețeaua neurală, știm exact ce avem nevoie. Acesta este avantajul proiectării sistem-algoritm.”

Testele au demonstrat că codul binar compilat de TinyEngine a fost de 1,9 până la cinci ori mai mic decât alte motoare de microcontroler, inclusiv cele de la Google (GOOGL ) și ARM. Utilizarea maximă a memoriei a fost, de asemenea, redusă cu aproape jumătate.

Abilitatea MCUNet

Primul test pentru MCUNet s-a învârtit în jurul clasificării imaginilor. Baza de date ImageNet a fost utilizată pentru a antrena sistemul cu imagini etichetate, iar abilitatea sa a fost testată pe imagini noi.

Când MCUNet a fost testat pe un microcontroller comercial, a clasificat cu succes 70,7% din imaginile noi. Acest lucru este mult mai bun decât rețeaua neurală și motorul de interferență precedent, care a fost de 54% precis.

“Chiar și o îmbunătățire de 1% este considerată semnificativă”, spune Lin. “Așa că acesta este un salt uriaș pentru setări de microcontroler.”

Conform lui Kurt Keutzer, un om de știință computerizat de la Universitatea California din Berkeley, acesta “extinde frontiera proiectării rețelelor neuronale profunde și mai departe în domeniul calculatoarelor mici, eficiente din punct de vedere energetic”. MCUNet “poate aduce capacități de viziune computerizată inteligentă chiar și în cele mai simple electrocasnice, sau poate permite senzori de mișcare mai inteligenți.”

MCUNet îmbunătățește, de asemenea, securitatea datelor.

“Un avantaj cheie este păstrarea confidențialității”, spune Han. “Nu trebuie să transmiteți datele către cloud.”

Prin analizarea datelor local, există o șansă mai mică ca informațiile personale să fie compromise.

Pe lângă aceasta, MCUNet poate analiza și oferi informații despre date precum ritmul cardiac, presiunea sanguină și nivelurile de oxigen, poate aduce învățarea profundă la dispozitive IoT din vehicule și alte locuri cu acces limitat la internet și poate reduce amprenta de carbon prin utilizarea doar a unei fracțiuni mici din energia necesară pentru rețelele neuronale mari.