Progrese în microcipuri ne apropie de calculul AI Edge

Cercetătorii de la Universitatea Princeton au dezvoltat hardware și software proiectate împreună pentru a crește și mai mult viteza și eficiența sistemelor specializate de inteligență artificială (AI).

Naveen Verma este profesor de inginerie electrică și informatică la Princeton și conduce echipa de cercetare.

“Software-ul este o parte critică a noilor hardware-uri”, a spus Verma. „Sperăm că designerii pot continua să folosească același sistem software – și să ruleze de zece ori mai rapid și mai eficient.”

Sistemele dezvoltate de cercetători reduc cerințele de putere și cantitatea de date care trebuie schimbate cu serverele remote. Astfel, aplicațiile AI, cum ar fi software-ul de pilotare pentru drone, pot avea loc la marginea infrastructurii de calcul.

Verma este, de asemenea, directorul Centrului Keller pentru Inovare în Educația Ingineriei de la Universitate.

“Pentru a face AI accesibil proceselor în timp real și adesea personale din jurul nostru, trebuie să abordăm întârzierea și confidențialitatea prin mutarea calculelor în sine la margine” a spus Verma. „Și asta necesită atât eficiență energetică, cât și performanță.”

Noi proiecte de cipuri

Echipa de la Princeton a dezvoltat un nou proiect de cip cu doi ani în urmă, care a fost menit să îmbunătățească performanța rețelelor neuronale. Cipul a putut funcționa de zece până la sute de ori mai bine decât alte microcipuri de pe piață.

“Principalul dezavantaj al cipului este că utilizează o arhitectură foarte neobișnuită și disruptivă”, a spus Verma în 2018. „Asta trebuie reconciliat cu infrastructura și metodologia de proiectare pe care o avem și o folosim astăzi.”

Cipul a fost continuu rafinat în următorii doi ani, și a fost creat un sistem software pentru a permite sistemelor AI să utilizeze noua tehnologie în mod eficient. Ideea a fost că noile cipuri ar putea permite sistemelor să fie scalabile atât în hardware, cât și în execuția software-ului.

“Este programabil pe toate aceste rețele”, a spus Verma. „Rețelele pot fi foarte mari, și pot fi foarte mici.”

Cel mai bun scenariu pentru calcul este ca acesta să aibă loc pe tehnologia în sine, și nu într-un calculator de rețea remote. Cu toate acestea, acest lucru necesită cantități masive de putere și stocare a memoriei, ceea ce face dificilă proiectarea unui astfel de sistem.

Pentru a depăși aceste limitări, cercetătorii au proiectat un cip care efectuează calcule și stochează date în aceeași zonă, ceea ce se numește calcul în memorie. Această tehnică reduce energia și timpul necesar pentru a schimba informații cu memoria dedicată.

Pentru a evita operațiunea analogică, care este necesară pentru calculul în memorie și care este sensibilă la corupție, echipa s-a bazat pe condensatoare în loc de tranzistoare în proiectarea cipului. Condensatoarele nu sunt afectate de aceleași efecte cauzate de variațiile de tensiune și sunt mai precise.

În ciuda numeroaselor provocări care înconjoară sistemele analogice, acestea au multe avantaje atunci când sunt utilizate pentru aplicații precum rețelele neuronale. Cercetătorii sunt acum interesați să combine cele două tipuri de sisteme, deoarece sistemele digitale sunt centrale, în timp ce rețelele neuronale care se bazează pe cipuri analogice pot rula operații specializate rapide și eficiente.