Nuovo Dispositivo di Neuroni Artificiali Potrebbe Ridurre Notevolmente le Esigenze Energetiche per i Calcoli Neurali

I ricercatori dell’Università di San Diego hanno sviluppato un nuovo dispositivo di neuroni artificiali che può eseguire calcoli neurali con 100-1000 volte meno energia e area rispetto all’attuale hardware basato su CMOS.

Il recente rapporto è stato pubblicato in un articolo il 18 marzo su Nature Nanotechnology.

Per generare l’input per uno dei layer connessi di neuroni artificiali nelle reti neurali, è necessario applicare un calcolo matematico chiamato funzione di attivazione non lineare. Tuttavia, questa applicazione richiede molta potenza di calcolo e circuitazione a causa della necessità di trasferire dati tra la memoria e l’elaboratore esterno.

I ricercatori dell’UC San Diego hanno sviluppato un nuovo dispositivo di dimensioni nanometriche che può eseguire questa funzione di attivazione in modo molto più efficiente.

Duygu Kuzum è professore di ingegneria elettrica e informatica alla UC San Diego Jacobs School of Engineering.

“Il calcolo delle reti neurali in hardware diventa sempre più inefficiente man mano che i modelli delle reti neurali diventano più grandi e complessi”, ha detto Kuzum. “Abbiamo sviluppato un dispositivo di neurone artificiale nanoscale che implementa questi calcoli in hardware in modo molto efficiente in termini di area e energia.”

Lo studio è stato condotto da Kuzum e dal dottorando Shangheon Oh, e hanno collaborato con il professore di fisica della UC San Diego Ivan Schuller, che guida un centro di ricerca energetica della DOE. Il centro si occupa di sviluppare implementazioni hardware di reti neurali artificiali efficienti in termini di energia.

Il Nuovo Dispositivo

Il dispositivo appena sviluppato si basa su una unità lineare rettificata, che è una delle funzioni di attivazione più comuni utilizzate nell’addestramento delle reti neurali. Richiede un hardware che possa subire cambiamenti graduali nella resistenza, che è l’obiettivo degli ingegneri. Il dispositivo può commutare gradualmente da uno stato isolante a uno conduttivo con una piccola quantità di calore.

Chiamato transizione di Mott, questo commutazione si verifica in uno strato estremamente sottile di diossido di vanadio, e al di sopra di questo strato c’è un riscaldatore a nanofilo fatto di titanio e oro. Lo strato di diossido di vanadio si riscalda lentamente quando fluisce corrente attraverso il nanofilo, e ciò provoca un commutazione lenta e controllata da isolante a conduttore.

Oh è l’autore principale dello studio.

“Questa architettura del dispositivo è molto interessante e innovativa”, ha detto Oh. “In questo caso, facciamo fluire corrente attraverso un nanofilo sopra il materiale per riscaldarlo e indurre un cambiamento di resistenza molto graduale.”

Implementazione del Dispositivo

Per l’implementazione, il team ha realizzato una matrice di dispositivi di attivazione e una matrice di dispositivi sinaptici, seguita dall’integrazione dei due su una scheda di circuito stampato personalizzata. Sono stati quindi collegati insieme, risultando in una versione hardware di una rete neurale.

La rete è stata utilizzata per elaborare un’immagine attraverso la rilevazione dei bordi, identificando i contorni e i bordi degli oggetti nell’immagine. Il sistema hardware integrato ha dimostrato la sua capacità di eseguire operazioni di convoluzione che sono importanti per vari tipi di reti neurali profonde.

“Al momento, si tratta di un concetto di prova”, ha detto Kuzum. “È un sistema minuscolo in cui abbiamo impilato solo un layer sinaptico con un layer di attivazione. Impilando più dispositivi di questo tipo, potresti creare un sistema più complesso per diverse applicazioni.”