Le rôle de tinyML dans l’activation de la vision par ordinateur sur le bord – Leaders d’opinion

Par : Davis Sawyer, Co-fondateur et Directeur des produits, Deeplite

La vision par ordinateur a un grand potentiel pour améliorer notre vie quotidienne – et il existe de nombreuses applications et utilisations pour cela. Voici quelques exemples :

• Sono des portes d’entrée intelligentes pour la sécurité domestique aident à prévenir les “pirates de porche” et les cambriolages. Selon une étude de I.H.S. Markit (publiée dans SecurityInfoWatch) le nombre de caméras de surveillance mondiales devait atteindre un milliard en 2021. Aux États-Unis seulement, le nombre de caméras devait atteindre 85 millions ;
• Dans les parkings, les caméras équipées d’IA automatisent le suivi des places de parking disponibles et occupées pour informer les consommateurs des espaces ouverts ;
• Les caméras de tableau de bord sur les camions lisent les panneaux de limitation de vitesse et réduisent dynamiquement la vitesse du camion pour améliorer la sécurité ;
• Et les drones avec caméras connectées surveillent les zones éloignées et difficiles d’accès, et peuvent traiter des images et prendre des décisions en temps réel.

Toutes ces applications utilisent des analyses vidéo intelligentes, alimentées par l’IA et l’apprentissage automatique (ML), pour regarder la vidéo, utiliser l’intelligence pour prendre des décisions, puis agir.

La vision par ordinateur a besoin de plus de ressources sur le bord

Cependant, comme de nombreuses applications alimentées par l’IA, la vision par ordinateur a besoin de poussées de puissance de calcul, de mémoire et d’énergie pour effectuer ses analyses complexes et prendre des décisions. Même si cela est acceptable dans un centre de données avec beaucoup de puissance de calcul, cela peut empêcher le déplacement de l’IA vers le bord. Plus précisément, les petits appareils situés loin des centres de données d’entreprise et fonctionnant sur des batteries petites ont besoin d’une nouvelle génération d’IA qui est plus petite, plus rapide et “plus légère” que les approches traditionnelles. Et les appareils existants devront être mis à niveau avec de nouvelles fonctionnalités d’IA + ML (vision par ordinateur) pour rester viables et compétitifs.

Les nouvelles avancées boostent les réseaux de neurones profonds

Aujourd’hui, les nouvelles avancées en IA rendent les réseaux de neurones profonds (DNN) plus rapides, plus petits et plus économes en énergie – et aident à déplacer l’IA des nuages et des centres de données vers les appareils de bord et les capteurs alimentés par batterie. Lorsqu’il s’agit de la formation de modèles d’IA, l’empreinte carbone étonnante a été documentée et discutée (par exemple, la formation d’un modèle de langage d’IA émet autant de CO2 que 5 voitures pendant leur durée de vie). Cependant, nous devons comprendre quel est l’impact environnemental de l’inférence de modèle d’IA et comment réduire cette empreinte. C’est là que l’optimisation de modèle peut avoir des avantages considérables en réduisant le coût économique et environnemental des DNN.

TinyML permet l’IA sur les petits appareils

Une telle avancée est tinyML, une tendance puissante et nouvelle pour permettre aux petits appareils alimentés par batterie d’utiliser une ML avancée pour livrer la vision par ordinateur et d’autres tâches de perception. Elle facilite l’inférence de ML sur de petits appareils à ressources limitées, généralement sur le bord du nuage, et aide à activer les applications de bord plus proches de l’utilisateur.

Par exemple, un serveur GPU comme un NVIDIA A100 dispose de plus de 40 Go de mémoire disponible, ce qui est adapté pour exécuter des IA complexes comme la vision par ordinateur et le traitement du langage naturel. Cependant, lorsqu’on parle d’appareils de bord et de tinyML, un microcontrôleur (MCU) commun peut avoir seulement 256 Ko de mémoire sur puce, ce qui est plus de 100 000 fois moins de mémoire que le nuage ! De plus, contrairement aux centres de données et au nuage, le matériel des appareils de bord ne peut pas être facilement mis à jour sur le terrain. Cela signifie que nous devons “adapter” notre IA au matériel disponible, ce qui peut prendre des mois à des années d’essais et d’erreurs pour les développeurs pour y parvenir, si cela est possible. C’est là que tinyML, en particulier l’apprentissage automatique (également appelé AutoML), peut jouer un rôle majeur pour briser les barrières à l’adoption de l’IA dans le monde réel.

Et l’influence de tinyML est en train de grandir. Avec plus de 10 000 membres, la fondation tinyML est en train de développer l’écosystème pour soutenir le développement et le déploiement de solutions d’apprentissage automatique à très faible consommation d’énergie sur le bord. La Fondation réunit une communauté mondiale de matériel, de logiciel, d’apprentissage automatique, de scientifiques de données, d’ingénieurs de systèmes, de concepteurs, de produits et d’entreprises.

Un monde d’opportunités

En tout, il existe des milliards de petits appareils connectés partout qui peuvent bénéficier d’une intelligence avancée. Le défi est qu’ils ont très peu de ressources, alors comment pouvons-nous add intelligence to them? tinyML peut jouer un rôle clé pour apporter l’IA et l’apprentissage automatique à plus d’applications basées sur la vision par ordinateur, dans le monde réel, sur le bord, sur de petits appareils. Et cela peut débloquer un monde d’avantages pour les personnes et les entreprises à travers une gamme de produits, de services et d’industries, en nous aidant à pousser dans de nouvelles frontières pour l’IA.