Dispozitivul de Neuron Artificial Nou Ar Putea Reduce Semnificativ Cerințele de Energie pentru Calculele Neuronale

Cercetătorii de la Universitatea din San Diego au dezvoltat un dispozitiv de neuron artificial nou care poate rula calcule neuronale cu 100 până la 1000 de ori mai puțină energie și spațiu decât hardware-ul bazat pe CMOS actual.

Raportul recent a fost publicat într-un articol pe 18 martie în Nature Nanotechnology.

Pentru a genera intrarea pentru una dintre straturile conectate de neuroni artificiali în rețelele neuronale, trebuie aplicată o calculare matematică numită funcție de activare neliniară. Cu toate acestea, această aplicație necesită multă putere de calcul și circuite datorită nevoii de a transfera date între memorie și procesor extern.

Cercetătorii de la UC San Diego au dezvoltat un dispozitiv de dimensiuni nanometrice care poate efectua această funcție de activare mult mai eficient.

Duygu Kuzum este profesor de inginerie electrică și informatică la Școala de Inginerie Jacobs a UC San Diego.

“Calculul rețelelor neuronale în hardware devine din ce în ce mai ineficient pe măsură ce modelele de rețele neuronale devin mai mari și mai complexe”, a spus Kuzum. “Am dezvoltat un dispozitiv de neuron artificial nanoscală care implementează aceste calcule în hardware într-un mod foarte eficient din punct de vedere al spațiului și energiei”.

Studiul a fost condus de Kuzum și studentul doctorand Shangheon Oh, și au colaborat cu profesorul de fizică de la UC San Diego, Ivan Schuller, care conduce un centru de cercetare frontieră a energiei DOE. Centrul este implicat în dezvoltarea de implementări hardware pentru rețele neuronale artificiale eficiente din punct de vedere energetic.

Noul Dispozitiv

Dispozitivul nou dezvoltat se bazează pe o unitate liniară rectificată, care este una dintre cele mai comune funcții de activare utilizate în antrenarea rețelelor neuronale. Acesta necesită hardware care poate suferi modificări graduale de rezistență, ceea ce este ceea ce inginerii au vizat. Dispozitivul poate comuta gradual de la o stare izolatoare la una conductoare cu o cantitate mică de căldură.

Numită tranziție Mott, acest comutator are loc într-un strat extrem de subțire de dioxid de vanadiu, și deasupra acestui strat se află un încălzitor nanofibru din titan și aur. Stratul de dioxid de vanadiu se încălzește lent atunci când curentul trece prin nanofibru, și acest lucru provoacă o comutare lentă și controlată de la izolatoare la conductoare.

Oh este autorul principal al studiului.

“Această arhitectură de dispozitiv este foarte interesantă și inovatoare”, a spus Oh. “În acest caz, trecem curent printr-un nanofibru deasupra materialului pentru a-l încălzi și a induce o modificare graduală de rezistență”.

Implementarea Dispozitivului

Pentru implementare, echipa a fabricat o matrice de dispozitive de activare și o matrice de dispozitive sinaptice, urmată de integrarea celor două pe o placă de circuit imprimat personalizată. Acestea au fost apoi conectate împreună, rezultând o versiune hardware a unei rețele neuronale.

Rețeaua a fost utilizată pentru a procesa o imagine prin detectarea marginilor, identificând contururile și marginile obiectelor din imagine. Sistemul hardware integrat a demonstrat capacitatea sa de a efectua operații de convoluție care sunt importante pentru diverse tipuri de rețele neuronale profunde.

“În acest moment, acesta este un concept de demonstrație”, a spus Kuzum. “Este un sistem mic în care am stivuit doar un strat de sinapsă cu un strat de activare. Prin stivuirea mai multor astfel de dispozitive, puteți crea un sistem mai complex pentru diverse aplicații”.