Nouveau système capable d’apporter l’IA aux appareils portables et aux appareils ménagers

Une équipe de chercheurs du MIT travaille sur l’intégration de réseaux de neurones profonds dans les microcontrôleurs. Cette avancée signifie que l’intelligence artificielle (IA) pourrait être mise en œuvre dans de minuscules puces informatiques dans les appareils médicaux portables, les appareils ménagers et les 250 milliards d’objets qui composent l'”Internet des objets” (IoT). L’IoT est un réseau d’objets physiques dotés de capteurs, de logiciels et d’autres technologies, qui aident à connecter et à échanger des données avec d’autres appareils et systèmes.

La recherche doit être présentée à la Conférence sur les systèmes de traitement de l’information neuronale en décembre. Le principal auteur de la recherche est Ji Lin, un étudiant en doctorat dans le laboratoire de Song Han au département de génie électrique et d’informatique du MIT. Les co-auteurs incluent Han et Yujun Lin du MIT, Wei-Ming Chen du MIT et de l’Université nationale de Taiwan, et John Cohn et Chuan Gan du laboratoire MIT-IBM Watson.

Système MCUNet

Le système s’appelle MCUNet, et il conçoit des réseaux de neurones compacts capables d’une vitesse et d’une précision extrêmes sur les appareils IoT, même avec une mémoire et une puissance de traitement limitées. Ce système peut être plus économe en énergie et améliorer la sécurité des données.

L’équipe a développé le système “tiny deep learning” en combinant deux composants – le fonctionnement des réseaux de neurones et les microcontrôleurs. Le premier composant est TinyEngine, un moteur d’interface qui agit comme un système d’exploitation en dirigeant la gestion des ressources. TinyEngine est optimisé pour exécuter une structure de réseau de neurones spécifique sélectionnée par TinyNAS, qui est l’autre composant. TinyNAS est un algorithme de recherche d’architecture de neurones.

Lin a développé TinyNAS en raison de la difficulté d’appliquer les techniques de recherche d’architecture de neurones existantes aux microcontrôleurs minuscules. Ces techniques existantes trouvent finalement la structure de réseau la plus précise et la plus rentable après avoir commencé avec de nombreuses possibilités basées sur un modèle prédéfini.

“Cela peut fonctionner plutôt bien pour les GPU ou les smartphones”, dit Lin. “Mais il est difficile d’appliquer directement ces techniques aux microcontrôleurs minuscules, car ils sont trop petits.”

TinyNAS peut créer des réseaux de neurones de tailles personnalisées.

“Nous avons de nombreux microcontrôleurs qui ont des capacités de puissance et des tailles de mémoire différentes”, dit Lin. “Nous avons donc développé l’algorithme [TinyNAS] pour optimiser l’espace de recherche pour différents microcontrôleurs.”

Puisque TinyNAS peut être personnalisé, il peut générer les réseaux de neurones compacts les plus efficaces pour les microcontrôleurs.

“Ensuite, nous livrons le modèle final et efficace au microcontrôleur”, continue Lin.

Un moteur d’interface propre et mince est nécessaire pour qu’un microcontrôleur exécute le réseau de neurones minuscule. De nombreux moteurs d’interface ont des instructions pour des tâches rarement exécutées, ce qui pourrait gêner un microcontrôleur.

“Il n’a pas de mémoire hors-chip, et il n’a pas de disque”, dit Han. “Tout ce qui est assemblé fait juste un megaoctet de flash, nous devons donc vraiment gérer soigneusement une ressource si petite.”

TinyEngine génère le code nécessaire pour exécuter le réseau de neurones personnalisé développé par TinyNAS. Le temps de compilation est réduit en éliminant le code inutile.

“Nous ne gardons que ce dont nous avons besoin”, dit Han. “Et puisque nous avons conçu le réseau de neurones, nous savons exactement ce dont nous avons besoin. C’est l’avantage de la conception système-algorithme.”

Les tests ont démontré que le code binaire compilé de TinyEngine était 1,9 à cinq fois plus petit que les moteurs de microcontrôleur similaires, y compris ceux de Google (GOOGL ) et d’ARM. L’utilisation de mémoire maximale a également été réduite de près de moitié.

Capacité de MCUNet

Les premiers tests pour MCUNet ont porté sur la classification d’images. La base de données ImageNet a été utilisée pour entraîner le système avec des images étiquetées, et sa capacité a ensuite été testée sur des images nouvelles.

Lorsque MCUNet a été testé sur un microcontrôleur commercial, il a classé avec succès 70,7 pour cent des images nouvelles. C’est beaucoup mieux que le meilleur réseau de neurones et le moteur d’interférence précédent, qui était de 54 pour cent de précision.

“Même une amélioration de 1 pour cent est considérée comme significative”, dit Lin. “Donc c’est un grand bond pour les paramètres de microcontrôleur.”

Selon Kurt Keutzer, un informaticien de l’Université de Californie à Berkeley, cela “étend la frontière de la conception de réseaux de neurones profonds encore plus loin dans le domaine de calcul des microcontrôleurs économes en énergie”. MCUNet pourrait “apporter des capacités de vision informatique intelligentes même aux appareils de cuisine les plus simples, ou permettre des capteurs de mouvement plus intelligents.”

MCUNet améliore également la sécurité des données.

“Un avantage clé est la préservation de la confidentialité”, dit Han. “Vous n’avez pas besoin de transmettre les données au cloud.”

En analysant les données localement, il y a moins de chances que des informations personnelles soient compromises.

En outre, MCUNet pourrait analyser et fournir des informations sur les lectures de fréquence cardiaque, de pression artérielle et de niveau d’oxygène, apporter l’apprentissage profond aux appareils IoT dans les véhicules et d’autres endroits avec un accès limité à Internet, et réduire l’empreinte carbone en n’utilisant qu’une petite fraction de l’énergie requise pour les grands réseaux de neurones.