Noul sistem poate aduce inteligența artificială dispozitivelor portabile, aparatelor de uz casnic

O echipă de cercetători de la MIT lucrează la aducerea rețelelor neuronale de învățare profundă la microcontrolere. Avansul înseamnă că inteligența artificială (AI) ar putea fi implementată în cipuri minuscule de computer din dispozitivele medicale portabile, aparatele de uz casnic și celelalte 250 de miliarde de obiecte care alcătuiesc „internetul lucrurilor” (IoT). IoT este o rețea de obiecte fizice încorporate cu senzori, software și alte tehnologii, care ajută la conectarea și schimbul de date cu alte dispozitive și sisteme. 

cercetare urmează să fie prezentat la Conferința privind sistemele de procesare a informațiilor neuronale din decembrie. Autorul principal al cercetării este Ji Lin, Ph.D. student în laboratorul lui Song Han din Departamentul de Inginerie Electrică și Informatică al MIT. Co-autorii includ Han și Yujun Lin de la MIT, Wei-Ming Chen de la MIT și Universitatea Națională din Taiwan și John Cohn și Chuan Gan de la MIT-IBM Watson Lab. 

Sistemul MCUNet

Sistemul se numește MCUNet și proiectează rețele neuronale compacte capabile de viteză și precizie extremă pe dispozitive IoT, chiar și cu memorie și putere de procesare limitate. Acest sistem poate fi mai eficient din punct de vedere energetic și poate îmbunătăți securitatea datelor. 

Echipa a dezvoltat sistemul de „învățare profundă minuscul” combinând două componente – funcționarea rețelelor neuronale și a microcontrolerelor. Prima componentă este TinyEngine, un motor de interfață care acționează ca un sistem de operare prin direcționarea managementului resurselor. TinyEngine este optimizat pentru a rula o structură de rețea neuronală specifică selectată de TinyNAS, care este cealaltă componentă. TinyNAS este un algoritm de căutare a arhitecturii neuronale. 

Lin a dezvoltat TinyNAS din cauza dificultății de a aplica tehnicile de căutare a arhitecturii neuronale existente la microcontrolere mici. Aceste tehnici existente găsesc în cele din urmă cea mai precisă și mai eficientă structură de rețea după ce au început cu multe posibile bazate pe un șablon predefinit.

„Poate funcționa destul de bine pentru GPU-uri sau smartphone-uri”, spune Lin. „Dar a fost dificil să aplici direct aceste tehnici la microcontrolere minuscule, deoarece sunt prea mici.”

TinyNAS poate crea rețele de dimensiuni personalizate. 

„Avem o mulțime de microcontrolere care vin cu capacități de putere diferite și dimensiuni de memorie diferite”, spune Lin. „Așa că am dezvoltat algoritmul [TinyNAS] pentru a optimiza spațiul de căutare pentru diferite microcontrolere.”

Deoarece TinyNAS poate fi personalizat, poate genera cele mai bune rețele neuronale compacte posibile pentru microcontrolere. 

„Apoi livrăm microcontrolerului modelul final, eficient”, continuă Lin.

Este necesar un motor de interfață curat și subțire pentru ca un microcontroler să ruleze rețeaua neuronală minusculă. Multe motoare de interfață au instrucțiuni pentru sarcini rar executate, ceea ce ar putea împiedica un microcontroler. 

„Nu are memorie off-chip și nu are un disc”, spune Han. „Totul adunat este doar un megaoctet de flash, așa că trebuie să gestionăm cu adevărat cu atenție o resursă atât de mică.”

TinyEngine generează codul necesar pentru a rula rețeaua neuronală personalizată dezvoltată de TinyNAS. Timpul de compilare este redus prin eliminarea codului deadweight.

„Păstrăm doar ceea ce ne trebuie”, spune Han. „Și din moment ce am proiectat rețeaua neuronală, știm exact de ce avem nevoie. Acesta este avantajul codesign-ului sistem-algoritm.” 

Testele au demonstrat că codul binar compilat de TinyEngine a fost de 1.9 până la cinci ori mai mic decât motoarele similare cu microcontroler, inclusiv cele de la Google și ARM. Utilizarea maximă a memoriei a fost, de asemenea, redusă la jumătate.

Abilitatea MCUNet

Primele teste pentru MCUNet au vizat clasificarea imaginilor. Baza de date ImageNet a fost folosită pentru a antrena sistemul cu imagini etichetate, iar capacitatea sa a fost apoi testată pe altele noi. 

Când MCUNet a fost testat pe un microcontroler comercial, a clasificat cu succes 70.7% din imaginile noi. Aceasta este mult mai bună decât cea mai bună împerechere anterioară a rețelei neuronale și a motorului de interferență, care a fost precisă cu 54%.

„Chiar și o îmbunătățire de 1% este considerată semnificativă”, spune Lin. „Deci acesta este un salt uriaș pentru setările microcontrolerului.”

Potrivit lui Kurt Keutzer, un informatician la Universitatea din California din Berkeley, acest lucru „extinde granița designului rețelei neuronale profunde și mai mult în domeniul computațional al microcontrolerelor mici eficiente din punct de vedere energetic”. MCUNet ar putea „aduce capabilități inteligente de vizualizare pe computer chiar și celor mai simple aparate de bucătărie sau să permită senzori de mișcare mai inteligenți”. 

De asemenea, MCUNet îmbunătățește securitatea datelor.  

„Un avantaj cheie este păstrarea confidențialității”, spune Han. „Nu trebuie să transmiteți datele în cloud.”

Analizând datele la nivel local, există o șansă mai mică ca informațiile personale să fie compromise. 

În plus, MCUNet ar putea analiza și oferi informații despre bătăile inimii, tensiunea arterială și citirile nivelului de oxigen, să aducă învățare profundă dispozitivelor IoT din vehicule și alte locuri cu acces limitat la internet și să reducă amprenta de carbon folosind doar o mică parte din energia necesară pentru rețelele neuronale mari.