Avans în microcipuri ne apropie de calculul edge AI

Cercetătorii de la Universitatea Princeton au dezvoltat hardware și software proiectate pentru a crește și mai mult viteza și eficiența sistemelor de inteligență artificială (IA) specializate.

Naveen Verma este profesor de inginerie electrică și informatică la Princeton și conduce echipa de cercetare.

“Software-ul este o parte critică a noii hardware-ului”, a spus Verma. “Speranța este că designerii pot continua să utilizeze același sistem de software – și să-l facă să funcționeze de zece ori mai rapid și mai eficient.”

Sistemele dezvoltate de cercetători reduc cerințele de putere și cantitatea de date care trebuie schimbată cu serverele remote. Cu aceasta, aplicațiile IA, cum ar fi software-ul de pilotare pentru drone, pot avea loc la marginea infrastructurii de calcul.

Verma este, de asemenea, directorul Centrului Keller pentru Inovare în Educația Ingineristică de la Universitate.

“Pentru a face IA accesibilă proceselor în timp real și adesea personale din jurul nostru, trebuie să abordăm întârzierea și confidențialitatea prin mutarea calculului însuși la margine” a spus Verma. “Și asta necesită atât eficiență energetică, cât și performanță.”

Noi proiecte de cipuri

Echipa de la Princeton a dezvoltat un nou proiect de cip cu doi ani în urmă, care a fost menit să îmbunătățească performanța rețelelor neuronale. Cipul putea să funcționeze de zeci până la sute de ori mai bine decât alte microcipuri de pe piață.

“Principalul dezavantaj al cipului este că utilizează o arhitectură foarte neobișnuită și disruptivă”, a spus Verma în 2018. “Asta trebuie să fie reconciliat cu cantitatea imensă de infrastructură și metodologie de proiectare pe care o avem și o utilizăm astăzi.”

Cipul a fost refăcut continuu în următorii doi ani, iar un sistem de software a fost creat pentru a permite sistemelor IA să utilizeze noua tehnologie în mod eficient. Ideea era că noile cipuri ar putea permite sistemelor să fie scalabile atât în hardware, cât și în execuția software-ului.

“Este programabil pe toate aceste rețele”, a spus Verma. “Rețelele pot fi foarte mari, iar ele pot fi foarte mici.”

Cel mai bun scenariu pentru calcul este ca acesta să aibă loc pe tehnologia însăși, și nu într-un calculator de rețea remote. Cu toate acestea, acest lucru necesită cantități masive de putere și stocare de memorie, ceea ce face dificilă proiectarea unui astfel de sistem.

Pentru a depăși aceste limitări, cercetătorii au proiectat un cip care efectuează calculul și stochează datele în aceeași zonă, ceea ce se numește calcul în memorie. Această tehnică reduce energia și timpul necesar pentru a schimba informații cu memoria dedicată.

Pentru a evita operațiunile analogice, care sunt necesare pentru calculul în memorie și care sunt sensibile la corupție, echipa a utilizat condensatoare în loc de tranzistoare în proiectarea cipului. Condensatoarele nu sunt afectate de aceleași efecte cauzate de variațiile de tensiune și sunt mai precise.

În ciuda altor provocări legate de sistemele analogice, acestea prezintă multe avantaje atunci când sunt utilizate pentru aplicații precum rețelele neuronale. Cercetătorii sunt acum interesați să combine cele două tipuri de sisteme, deoarece sistemele digitale sunt centrale, în timp ce rețelele neuronale care se bazează pe cipuri analogice pot funcționa rapid și eficient operațiuni specializate.