Nouveau système capable d’apporter l’IA aux appareils portables et aux appareils ménagers

Une équipe de chercheurs du MIT travaille sur l’intégration de réseaux neuronaux de deep learning aux microcontrôleurs. Cette avancée signifie que l’intelligence artificielle (IA) pourrait être mise en œuvre dans de minuscules puces informatiques dans les appareils médicaux portables, les appareils ménagers et les 250 milliards d’objets qui composent l'”internet des objets” (IoT). L’IoT est un réseau d’objets physiques dotés de capteurs, de logiciels et d’autres technologies, qui aident à connecter et à échanger des données avec d’autres appareils et systèmes. 

La recherche doit être présentée à la Conférence sur les systèmes de traitement de l’information neuronale en décembre. Le principal auteur de la recherche est Ji Lin, un étudiant en doctorat dans le laboratoire de Song Han du département de génie électrique et d’informatique du MIT. Les co-auteurs incluent Han et Yujun Lin du MIT, Wei-Ming Chen du MIT et de l’Université nationale de Taiwan, et John Cohn et Chuan Gan du laboratoire MIT-IBM Watson. 

Système MCUNet

Le système s’appelle MCUNet, et il conçoit des réseaux neuronaux compacts capables d’une vitesse et d’une précision extrêmes sur les appareils IoT, même avec une mémoire et une puissance de traitement limitées. Ce système peut être plus économe en énergie et améliorer la sécurité des données. 

L’équipe a développé le système “tiny deep learning” en combinant deux composants – le fonctionnement des réseaux neuronaux et des microcontrôleurs. Le premier composant est TinyEngine, un moteur d’interface agissant comme un système d’exploitation en dirigeant la gestion des ressources. TinyEngine est optimisé pour exécuter une structure de réseau neuronal spécifique sélectionnée par TinyNAS, qui est l’autre composant. TinyNAS est un algorithme de recherche d’architecture neuronale. 

Lin a développé TinyNAS en raison de la difficulté d’appliquer les techniques de recherche d’architecture neuronale existantes aux minuscules microcontrôleurs. Ces techniques existantes trouvent finalement la structure de réseau la plus précise et la plus rentable après avoir commencé avec de nombreuses possibilités sur la base d’un modèle prédéfini.

“Cela peut fonctionner assez bien pour les GPU ou les smartphones”, déclare Lin. “Mais il est difficile d’appliquer directement ces techniques aux minuscules microcontrôleurs, car ils sont trop petits.”

TinyNAS peut créer des réseaux de taille personnalisée. 

“Nous avons de nombreux microcontrôleurs qui viennent avec différentes capacités de puissance et différentes tailles de mémoire”, déclare Lin. “Nous avons donc développé l’algorithme [TinyNAS] pour optimiser l’espace de recherche pour différents microcontrôleurs.”

Puisque TinyNAS peut être personnalisé, il peut générer les meilleurs réseaux neuronaux compacts possibles pour les microcontrôleurs. 

“Ensuite, nous livrons le modèle final et efficace au microcontrôleur”, poursuit Lin.

Un moteur d’interface propre et mince est nécessaire pour qu’un microcontrôleur exécute le réseau neuronal miniature. De nombreux moteurs d’interface ont des instructions pour des tâches rarement exécutées, ce qui pourrait gêner un microcontrôleur. 

“Il n’a pas de mémoire hors circuit, et il n’a pas de disque”, déclare Han. “Tout ce qui est assemblé ne fait que un megaoctet de flash, nous devons donc vraiment gérer soigneusement une ressource si petite.”

TinyEngine génère le code nécessaire pour exécuter le réseau neuronal personnalisé développé par TinyNAS. Le temps de compilation est réduit en éliminant le code inutile.

“Nous n’avons que ce dont nous avons besoin”, déclare Han. “Et puisque nous avons conçu le réseau neuronal, nous savons exactement ce dont nous avons besoin. C’est l’avantage de la conception système-algorithme.” 

Les tests ont démontré que le code binaire compilé de TinyEngine était 1,9 à cinq fois plus petit que les moteurs de microcontrôleur similaires, y compris ceux de Google et ARM. L’utilisation de mémoire maximale a également été réduite de près de moitié.

Capacité de MCUNet

Les premiers tests pour MCUNet portaient sur la classification d’images. La base de données ImageNet a été utilisée pour entraîner le système avec des images étiquetées, et sa capacité a ensuite été testée sur des images nouvelles. 

Lorsque MCUNet a été testé sur un microcontrôleur commercial, il a classé avec succès 70,7 pour cent des images nouvelles. C’est beaucoup mieux que le meilleur réseau neuronal et le moteur d’interférence précédent, qui était de 54 pour cent précis.

“Même une amélioration de 1 pour cent est considérée comme significative”, déclare Lin. “Donc c’est un bond de géant pour les paramètres du microcontrôleur.”

Selon Kurt Keutzer, un informaticien de l’Université de Californie à Berkeley, cela “étend la frontière de la conception de réseaux neuronaux profonds encore plus loin dans le domaine computationnel des microcontrôleurs économes en énergie”. MCUNet pourrait “apporter des capacités de vision informatique intelligentes même aux appareils de cuisine les plus simples, ou permettre des capteurs de mouvement plus intelligents.” 

MCUNet améliore également la sécurité des données.  

“Un avantage clé est la préservation de la vie privée”, déclare Han. “Vous n’avez pas besoin de transmettre les données au cloud.”

En analysant les données localement, il y a moins de chances que les informations personnelles soient compromises. 

En outre, MCUNet pourrait analyser et fournir des informations sur des données telles que les lectures de fréquence cardiaque, de pression artérielle et de niveau d’oxygène, apporter l’apprentissage profond aux appareils IoT dans les véhicules et d’autres endroits avec un accès limité à Internet, et réduire l’empreinte carbone en utilisant seulement une petite fraction de l’énergie requise pour les grands réseaux neuronaux.