Nouvel appareil de neurone artificiel qui pourrait réduire considérablement les besoins énergétiques pour les calculs neuronaux

Les chercheurs de l’Université de San Diego ont développé un nouvel appareil de neurone artificiel qui peut exécuter des calculs neuronaux avec 100 à 1000 fois moins d’énergie et de surface que les appareils actuels basés sur la technologie CMOS.

Le rapport récent a été publié dans un article le 18 mars dans Nature Nanotechnology.

Pour générer l’entrée pour l’une des couches connectées de neurones artificiels dans les réseaux de neurones, un calcul mathématique appelé fonction d’activation non linéaire doit être appliqué. Cependant, cette application nécessite beaucoup de puissance de calcul et de circuitry en raison de la nécessité de transférer des données entre la mémoire et le processeur externe.

Les chercheurs de l’UC San Diego ont développé un nouvel appareil de taille nanométrique qui peut effectuer cette fonction d’activation de manière beaucoup plus efficace.

Duygu Kuzum est professeur d’ingénierie électrique et informatique à l’UC San Diego Jacobs School of Engineering.

« Le calcul de réseau de neurones dans le matériel devient de plus en plus inefficace à mesure que les modèles de réseau de neurones deviennent plus grands et plus complexes », a déclaré Kuzum. « Nous avons développé un appareil de neurone artificiel unique à l’échelle nanométrique qui implémente ces calculs dans le matériel de manière très efficace en termes de surface et d’énergie. »

L’étude a été menée par Kuzum et l’étudiant en doctorat Shangheon Oh, et ils ont collaboré avec le professeur de physique de l’UC San Diego, Ivan Schuller, qui dirige un centre de recherche frontalier de l’énergie du DOE. Le centre est impliqué dans le développement de matériel pour les réseaux de neurones artificiels économes en énergie.

Le nouvel appareil

Le nouvel appareil développé repose sur une unité linéaire rectifiée, qui est l’une des fonctions d’activation les plus couramment utilisées dans la formation de réseaux de neurones. Il nécessite un matériel qui peut subir des changements graduels de résistance, ce que les ingénieurs visaient. L’appareil peut basculer progressivement d’un état isolant à un état conducteur avec une petite quantité de chaleur.

Appelé transition de Mott, ce basculement se produit dans une couche extrêmement fine de dioxyde de vanadium, et au-dessus de cette couche se trouve un chauffeur de nanofils en titane et en or. La couche de dioxyde de vanadium chauffe lentement lorsque le courant passe à travers le nanofil, ce qui provoque un basculement lent et contrôlé de l’isolant au conducteur.

Oh est le premier auteur de l’étude.

« Cette architecture d’appareil est très intéressante et innovante », a déclaré Oh. « Dans ce cas, nous faisons passer le courant à travers un nanofil au-dessus du matériau pour le chauffer et induire un changement de résistance très progressif. »

Mise en œuvre de l’appareil

Pour la mise en œuvre, l’équipe a fabriqué un tableau d’appareils d’activation et un tableau d’appareils synaptiques, suivis de l’intégration des deux sur une carte de circuit imprimé personnalisée. Ils ont ensuite été connectés ensemble, ce qui a abouti à une version matériel du réseau de neurones.

Le réseau a été utilisé pour traiter une image à travers la détection de bord, en identifiant les contours et les bords des objets de l’image. Le système matériel intégré a démontré sa capacité à effectuer des opérations de convolution importantes pour les différents types de réseaux de neurones profonds.

« Pour l’instant, c’est une preuve de concept », a déclaré Kuzum. « C’est un système miniature dans lequel nous n’avons empilé qu’une seule couche de synapse avec une seule couche d’activation. En empilant davantage de ces éléments, vous pourriez créer un système plus complexe pour différentes applications. »