TinyML : Applications, Limitations et son Utilisation dans les Dispositifs IoT et Edge

Au cours des dernières années, l’intelligence artificielle (IA) et l’apprentissage automatique (ML) ont connu une ascension météorique en termes de popularité et d’applications, non seulement dans l’industrie mais également dans le monde académique. Cependant, les modèles d’IA et de ML actuels ont une limitation majeure : ils nécessitent une quantité considérable de puissance de calcul et de traitement pour atteindre les résultats et la précision souhaités. Cela les confine souvent à des dispositifs à haute capacité dotés d’une puissance de calcul substantielle.

Mais compte tenu des progrès réalisés dans la technologie des systèmes embarqués et du développement important de l’industrie de l’Internet des objets, il est souhaitable d’intégrer l’utilisation de techniques et de concepts d’apprentissage automatique dans un système embarqué à ressources limitées pour une intelligence ubiquitaire. Le désir d’utiliser des concepts d’apprentissage automatique dans les systèmes embarqués et les systèmes IoT est le facteur de motivation principal derrière le développement de TinyML, une technique d’apprentissage automatique embarqué qui permet des modèles et des applications d’apprentissage automatique sur de multiples dispositifs à ressources limitées, à puissance limitée et peu coûteux.

Cependant, la mise en œuvre de l’apprentissage automatique sur des dispositifs à ressources limitées n’a pas été simple, car la mise en œuvre de modèles d’apprentissage automatique sur des dispositifs à faible puissance de calcul présente ses propres défis en termes d’optimisation, de capacité de traitement, de fiabilité, de maintenance des modèles, et bien plus encore.

Dans cet article, nous allons plonger plus profondément dans le modèle TinyML et en apprendre davantage sur son contexte, les outils qui soutiennent TinyML et les applications de TinyML à l’aide de technologies avancées. Alors commençons.

Introduction à TinyML : Pourquoi le Monde a Besoin de TinyML

Les dispositifs Internet des objets (IoT) visent à exploiter le calcul de bord, un paradigme de calcul qui fait référence à une gamme de dispositifs et de réseaux près de l’utilisateur pour permettre un traitement en temps réel et fluide des données de millions de capteurs et de dispositifs interconnectés les uns aux autres. L’un des principaux avantages des dispositifs IoT est qu’ils nécessitent une faible puissance de calcul et de traitement, car ils sont déployables au niveau du bord du réseau et ont donc une empreinte mémoire faible.

De plus, les dispositifs IoT s’appuient fortement sur les plateformes de bord pour collecter et transmettre les données, car ces dispositifs de bord collectent des données de capteurs et les transmettent ensuite à un emplacement voisin ou à des plateformes cloud pour traitement. La technologie de calcul de bord stocke et effectue des calculs sur les données et fournit également les infrastructures nécessaires pour supporter le calcul distribué.

La mise en œuvre du calcul de bord dans les dispositifs IoT fournit

1. Une sécurité, une confidentialité et une fiabilité efficaces pour les utilisateurs finals.
2. Un retard plus faible.
3. Une disponibilité plus élevée et une réponse plus rapide aux applications et aux services.

De plus, parce que les dispositifs de bord peuvent déployer une technique collaborative entre les capteurs et le cloud, le traitement des données peut être effectué au niveau du bord du réseau au lieu d’être effectué sur la plateforme cloud. Cela peut aboutir à une gestion efficace des données, à une persistance des données, à une livraison efficace et à un cache de contenu. De plus, pour mettre en œuvre l’IoT dans les applications qui traitent de l’interaction homme-machine et des soins de santé modernes, le calcul de bord fournit un moyen d’améliorer considérablement les services réseau.

Des recherches récentes dans le domaine du calcul de bord IoT ont démontré le potentiel de mise en œuvre de techniques d’apprentissage automatique dans plusieurs cas d’utilisation IoT. Cependant, le principal problème est que les modèles d’apprentissage automatique traditionnels nécessitent souvent une forte puissance de calcul et de traitement, ainsi qu’une grande capacité de mémoire, ce qui limite la mise en œuvre de modèles d’apprentissage automatique dans les dispositifs et les applications IoT.

De plus, la technologie de calcul de bord actuelle manque de capacité de transmission élevée et d’économie d’énergie efficace, ce qui conduit à des systèmes hétérogènes, qui est la principale raison de la nécessité d’une infrastructure harmonieuse et holistique, principalement pour la mise à jour, la formation et le déploiement de modèles d’apprentissage automatique. L’architecture conçue pour les dispositifs embarqués pose un autre défi, car ces architectures dépendent des exigences matérielles et logicielles qui varient d’un dispositif à l’autre. C’est la principale raison pour laquelle il est difficile de construire une architecture d’apprentissage automatique standard pour les réseaux IoT.

De plus, dans le scénario actuel, les données générées par les différents dispositifs sont envoyées à des plateformes cloud pour traitement en raison de la nature computationnellement intensive des implémentations de réseau. De plus, les modèles d’apprentissage automatique dépendent souvent de l’apprentissage profond, de réseaux de neurones profonds, de circuits intégrés spécifiques aux applications (ASIC) et de unités de traitement graphique (GPU) pour traiter les données, et ils ont souvent une puissance et une mémoire plus élevées. Le déploiement de modèles d’apprentissage automatique complets sur les dispositifs IoT n’est pas une solution viable en raison du manque évident de puissance de calcul et de traitement, ainsi que de solutions de stockage limitées.

La demande de miniaturisation de dispositifs embarqués à faible puissance, couplée à l’optimisation des modèles d’apprentissage automatique pour les rendre plus efficaces en termes de puissance et de mémoire, a ouvert la voie à TinyML, qui vise à mettre en œuvre des modèles et des pratiques d’apprentissage automatique sur les dispositifs et les cadres IoT de bord. TinyML permet le traitement de signal sur les dispositifs IoT et fournit une intelligence embarquée, éliminant ainsi le besoin de transférer des données à des plateformes cloud pour traitement. La mise en œuvre réussie de TinyML sur les dispositifs IoT peut finalement aboutir à une augmentation de la confidentialité et de l’efficacité, tout en réduisant les coûts d’exploitation. De plus, ce qui rend TinyML encore plus attrayant, c’est qu’en cas de connectivité inadéquate, il peut fournir une analyse sur site.

TinyML : Introduction et Vue d’Ensemble

TinyML est un outil d’apprentissage automatique qui a la capacité de réaliser une analyse sur dispositif pour différentes modalités de détection, comme l’audio, la vision et la parole. Les modèles d’apprentissage automatique construits sur l’outil TinyML ont des exigences de puissance, de mémoire et de calcul faibles, ce qui les rend adaptés aux réseaux et aux dispositifs embarqués qui fonctionnent sur batterie. De plus, les faibles exigences de TinyML en font un choix idéal pour déployer des modèles d’apprentissage automatique sur le cadre IoT.

Dans le scénario actuel, les systèmes d’apprentissage automatique basés sur le cloud rencontrent quelques difficultés, notamment des problèmes de sécurité et de confidentialité, une consommation d’énergie élevée, des problèmes de fiabilité et de latence, ce qui explique pourquoi les modèles sur les plateformes matérielles et logicielles sont préinstallés. Les capteurs collectent les données qui simulent le monde physique et sont ensuite traitées à l’aide d’un CPU ou d’une unité de traitement microprogrammable (MPU). L’unité de traitement microprogrammable répond aux besoins de support d’analyse d’apprentissage automatique activé par les réseaux et l’architecture de bord. L’architecture d’apprentissage automatique de bord communique avec le cloud d’apprentissage automatique pour le transfert de données et la mise en œuvre de TinyML peut aboutir à une avancée technologique significative.

Il serait sage de dire que TinyML est une combinaison de logiciels, de matériel et d’algorithmes qui travaillent en harmonie les uns avec les autres pour offrir les performances souhaitées. Le calcul analogique ou la mémoire peut être nécessaire pour offrir une meilleure expérience d’apprentissage pour les dispositifs et les systèmes IoT qui ne prennent pas en charge les accélérateurs de matériel. En ce qui concerne les logiciels, les applications construites à l’aide de TinyML peuvent être déployées et mises en œuvre sur des plateformes comme Linux ou Linux embarqué, ainsi que sur des logiciels activés par le cloud. Enfin, les applications et les systèmes construits sur l’algorithme TinyML doivent avoir le soutien de nouveaux algorithmes qui nécessitent des modèles de petite taille pour éviter une consommation de mémoire élevée.

Pour résumer, les applications construites à l’aide de l’outil TinyML doivent optimiser les principes et les méthodes d’apprentissage automatique, ainsi que concevoir le logiciel de manière compacte, en présence de données de haute qualité. Ces données doivent ensuite être flashées à travers des fichiers binaires générés à l’aide de modèles formés sur des machines à capacité et à puissance de calcul plus élevées.

De plus, les systèmes et les applications qui fonctionnent sur l’outil TinyML doivent offrir une grande précision lorsqu’ils sont exécutés sous des contraintes plus serrées, car un logiciel compact est nécessaire pour une faible consommation d’énergie qui prend en charge les implications de TinyML. De plus, les applications ou les modules TinyML peuvent dépendre de l’alimentation par batterie pour prendre en charge leurs opérations sur les systèmes embarqués de bord.

Avec cela dit, les applications TinyML ont deux exigences fondamentales

1. La capacité de mettre à l’échelle des milliards de systèmes embarqués peu coûteux.
2. Le stockage du code sur la mémoire du dispositif avec une capacité inférieure à quelques kilo-octets.

Applications de TinyML à l’Aide de Technologies Avancées

L’une des principales raisons pour lesquelles TinyML est un sujet brûlant dans l’industrie de l’IA et de l’apprentissage automatique est en raison de ses applications potentielles, notamment les applications basées sur la parole et la vision, le diagnostic de santé, la classification et la compression de modèles de données, l’interface cerveau-ordinateur, le calcul de bord, la phénotypique, les véhicules autonomes, et plus encore.

Applications Basées sur la Parole

Communications Parole

Typiquement, les applications basées sur la parole s’appuient sur des méthodes de communication conventionnelles dans lesquelles toutes les données sont importantes et sont transmises. Cependant, ces dernières années, la communication sémantique est apparue comme une alternative à la communication conventionnelle, car dans la communication sémantique, seule la signification ou le contexte des données est transmis. La communication sémantique peut être mise en œuvre dans les applications basées sur la parole à l’aide de méthodes TinyML.

Certaines des applications les plus populaires dans l’industrie des communications par parole aujourd’hui sont la détection de parole, la reconnaissance de parole, l’apprentissage en ligne, l’enseignement en ligne et la communication à objectif. Ces applications nécessitent généralement une consommation d’énergie plus élevée et ont également des exigences de données élevées sur le dispositif hôte. Pour surmonter ces exigences, une nouvelle bibliothèque TinySpeech a été introduite, qui permet aux développeurs de construire une architecture de calcul à faible consommation qui utilise des réseaux de neurones profonds convolutifs pour construire une installation de stockage à faible capacité.

Pour utiliser TinyML pour l’amélioration de la parole, les développeurs ont d’abord abordé la question de la taille du modèle d’amélioration de la parole, car il était soumis à des limitations et des contraintes matérielles. Pour résoudre le problème, une technique de suppression structurée et de quantification entière pour les modèles d’amélioration de la parole à réseaux de neurones récurrentes (RNN) a été déployée. Les résultats ont suggéré que la taille du modèle a été réduite d’environ 12 fois, tandis que les opérations ont été réduites d’environ 3 fois. De plus, il est essentiel que les ressources soient utilisées efficacement, en particulier lorsqu’elles sont déployées sur des applications à ressources limitées qui exécutent des applications de reconnaissance vocale.

En conséquence, pour partitionner le processus, une méthode de codage a été proposée pour les applications de reconnaissance vocale et de parole basées sur TinyML. Les développeurs ont utilisé une opération de fenêtrage pour partitionner le logiciel et le matériel d’une manière qui prétraite les données brutes de la voix. La méthode a semblé fonctionner, car les résultats ont indiqué une diminution de la consommation d’énergie sur le matériel. Enfin, il y a également un potentiel pour mettre en œuvre une partition optimisée entre le logiciel et le matériel pour une meilleure performance dans un avenir proche.

De plus, des recherches récentes ont proposé l’utilisation d’un transducteur basé sur téléphone pour les systèmes de reconnaissance de parole, et la proposition vise à remplacer les prédicteurs LSTM par une couche Conv1D pour réduire les besoins de calcul sur les dispositifs de bord. Lorsqu’elle a été mise en œuvre, la proposition a donné des résultats positifs, car la décomposition en valeurs singulières (SVD) a compressé avec succès le modèle, tandis que l’utilisation de transducteurs à états finis pondérés (WFST) a abouti à une plus grande flexibilité dans l’amélioration du modèle.

De nombreuses applications de reconnaissance vocale, telles que les assistants vocaux ou les commandes vocales, utilisent des techniques d’apprentissage automatique pour fonctionner. Les assistants vocaux populaires comme Siri et Google Assistant interpellent la plateforme cloud à chaque fois qu’ils reçoivent des données, ce qui crée des préoccupations importantes en matière de confidentialité et de sécurité des données. TinyML est une solution viable à ce problème, car il vise à effectuer la reconnaissance vocale sur les dispositifs et à éliminer le besoin de migrer les données vers les plateformes cloud. L’une des façons d’obtenir une reconnaissance vocale sur dispositif est d’utiliser Tiny Transducer, un modèle de reconnaissance vocale qui utilise une couche de bloc de mémoire séquentielle profonde (DFSMN) couplée avec une couche Conv1D au lieu des couches LSTM pour réduire les besoins de calcul et les paramètres du réseau.

Aides Auditives

La perte d’audition est une préoccupation majeure pour la santé dans le monde entier, et la capacité des humains à entendre des sons s’affaiblit généralement avec l’âge, ce qui constitue un problème majeur dans les pays confrontés à une population vieillissante, notamment la Chine, le Japon et la Corée du Sud. Les dispositifs d’aide auditive fonctionnent actuellement sur le principe simple d’amplification de tous les sons d’entrée de l’environnement, ce qui rend difficile pour la personne de distinguer ou de différencier le son souhaité, en particulier dans un environnement bruyant.

TinyML peut être la solution viable à ce problème, car l’utilisation d’un modèle TinyLSTM qui utilise un algorithme de reconnaissance vocale pour les dispositifs d’aide auditive peut aider les utilisateurs à distinguer entre différents sons.

Applications Basées sur la Vision

TinyML a le potentiel de jouer un rôle crucial dans le traitement de jeux de données basés sur la vision, car pour des sorties plus rapides, ces jeux de données doivent être traités sur la plateforme de bord elle-même. Pour y parvenir, le modèle TinyML rencontre les défis pratiques rencontrés lors de la formation du modèle à l’aide de la carte de microcontrôleur OpenMV H7. Les développeurs ont également proposé une architecture pour détecter la langue des signes américaine à l’aide d’un microcontrôleur ARM Cortex M7 qui fonctionne avec seulement 496 Ko de RAM de tampon de trame.

La mise en œuvre de TinyML pour les applications basées sur la vision sur les plateformes de bord a nécessité aux développeurs de surmonter le défi majeur des réseaux de neurones convolutifs (CNN) avec une erreur de généralisation élevée et une précision de formation et de test élevée. Cependant, la mise en œuvre n’a pas généralisé efficacement les images dans de nouveaux cas d’utilisation ainsi que les arrière-plans bruyants. Lorsque les développeurs ont utilisé la méthode d’augmentation d’interpolation, le modèle a obtenu un score de précision supérieur à 98 % sur les données de test et d’environ 75 % en généralisation.

De plus, il a été observé que lorsque les développeurs ont utilisé la méthode d’augmentation d’interpolation, il y a eu une baisse de la précision du modèle lors de la quantification, mais en même temps, il y a eu une augmentation de la vitesse d’inférence du modèle et de la généralisation de la classification. Les développeurs ont également proposé une méthode pour améliorer encore la précision de la formation du modèle en utilisant des données obtenues à partir de différentes sources et en testant les performances pour explorer la possibilité de les déployer sur des plateformes de bord comme les montres intelligentes portables.

De plus, d’autres études sur les CNN ont indiqué qu’il est possible de déployer et d’obtenir des résultats souhaitables avec l’architecture CNN sur des dispositifs à ressources limitées. Récemment, les développeurs ont pu développer un cadre pour la détection de masques médicaux sur un microcontrôleur ARM Cortex M7 à ressources limitées en utilisant TensorFlow Lite avec des empreintes de mémoire minimales. La taille du modèle après quantification était d’environ 138 Ko, tandis que la vitesse d’inférence sur la carte cible était d’environ 30 images par seconde.

Une autre application de TinyML pour les applications basées sur la vision est de mettre en œuvre un dispositif de reconnaissance de gestes qui peut être fixé à une canne pour aider les personnes malvoyantes à naviguer dans leur vie quotidienne de manière facile. Pour concevoir cela, les développeurs ont utilisé le jeu de données de gestes et ont utilisé le jeu de données pour former le modèle ProtoNN avec un algorithme de classification. Les résultats obtenus à partir de la configuration étaient précis, la conception était peu coûteuse et elle a donné des résultats satisfaisants.

Une autre application significative de TinyML est dans l’industrie des véhicules autonomes et des véhicules sans conducteur, en raison du manque de ressources et de puissance de calcul à bord. Pour résoudre ce problème, les développeurs ont introduit une méthode d’apprentissage en boucle fermée basée sur le modèle TinyCNN qui a proposé un modèle prédictif en ligne qui capture l’image en temps réel. Le principal problème que les développeurs ont rencontré lors de la mise en œuvre de TinyML pour la conduite autonome est que le modèle de décision qui a été formé pour fonctionner sur des données hors ligne peut ne pas fonctionner également bien lorsqu’il est confronté à des données en ligne. Pour maximiser pleinement les applications des véhicules autonomes et des véhicules sans conducteur, le modèle doit idéalement être capable de s’adapter aux données en temps réel.

Classification et Compression de Modèles de Données

L’un des plus grands défis du cadre TinyML actuel est de le rendre capable de s’adapter aux données de formation en ligne. Pour résoudre ce problème, les développeurs ont proposé une méthode appelée TinyOL ou apprentissage en ligne TinyML pour permettre la formation avec un apprentissage en ligne incrémental sur des unités de microcontrôleur, permettant ainsi au modèle de se mettre à jour sur les dispositifs de bord IoT. La mise en œuvre a été réalisée à l’aide du langage de programmation C++ et une couche supplémentaire a été ajoutée à l’architecture TinyOL.

De plus, les développeurs ont également effectué l’auto-encodage de la carte de capteur Arduino Nano 33 BLE et le modèle formé a été capable de classifier de nouveaux modèles de données. De plus, les travaux de développement ont inclus la conception d’algorithmes efficaces et plus optimisés pour les réseaux de neurones pour supporter la formation de modèles de dispositif en ligne.

Les recherches sur TinyOL et TinyML ont indiqué que le nombre de couches d’activation a été un problème majeur pour les dispositifs de bord IoT à ressources limitées. Pour résoudre ce problème, les développeurs ont introduit le nouveau modèle TinyTL ou transfert d’apprentissage TinyML pour rendre l’utilisation de la mémoire sur les dispositifs de bord IoT plus efficace et éviter l’utilisation de couches intermédiaires à des fins d’activation. De plus, les développeurs ont également introduit un nouveau module de biais appelé « module résiduel léger » pour maximiser les capacités d’adaptation et, ce faisant, permettre aux extracteurs de fonctionnalités de découvrir des cartes de fonctionnalités résiduelles.

Lorsqu’il est comparé à l’ajustement fin du réseau complet, les résultats sont en faveur de l’architecture TinyTL, car les résultats ont montré que TinyTL réduit la surcharge de mémoire d’environ 6,5 fois avec une perte d’exactitude modérée. Lorsque la dernière couche a été affinée, TinyML a amélioré la précision de 34 % avec une perte d’exactitude modérée.

De plus, les recherches sur la compression de données ont indiqué que les algorithmes de compression de données doivent gérer les données collectées sur un dispositif portable et pour y parvenir, les développeurs ont proposé TAC ou Compresseur d’anomalie Tiny. Le TAC a été capable de surpasser les algorithmes SDT ou tendance de porte basculante et DCT ou transformée cosinus discrète. De plus, l’algorithme TAC a surpassé les algorithmes SDT et DCT en atteignant un taux de compression maximal de plus de 98 % et en ayant un rapport signal-bruit de pointe supérieur à celui des trois algorithmes.

Diagnostic de Santé

La pandémie mondiale de Covid-19 a ouvert de nouvelles portes d’opportunité pour la mise en œuvre de TinyML, car il est maintenant une pratique essentielle de détecter en continu les symptômes respiratoires liés à la toux et au rhume. Pour assurer une surveillance ininterrompue, les développeurs ont proposé un modèle CNN appelé Tiny RespNet qui fonctionne sur un FPGA Xilinx Artix-7 100t qui permet au dispositif de traiter les informations en parallèle, a une grande efficacité et une faible consommation d’énergie. De plus, le modèle TinyResp prend également en compte la parole des patients, les enregistrements audio et les informations démographiques pour classifier les symptômes liés à la toux d’un patient à l’aide de trois ensembles de données distincts.

De plus, les développeurs ont également proposé un modèle capable d’exécuter des calculs d’apprentissage profond sur des dispositifs de bord, un modèle TinyML appelé TinyDL. Le modèle TinyDL peut être déployé sur des dispositifs de bord comme des montres intelligentes et des accessoires pour le diagnostic de santé et est également capable de réaliser une analyse de performance pour réduire la bande passante, la latence et la consommation d’énergie. Pour atteindre le déploiement de TinyDL sur des dispositifs portables, un modèle LSTM a été conçu et formé spécifiquement pour un dispositif portable et il a été alimenté avec des données collectées en tant qu’entrée. Le modèle a un score de précision d’environ 75 à 80 % et il a été capable de fonctionner avec des données hors dispositif.

Enfin, les développeurs ont également proposé une autre application pour surveiller la santé des personnes âgées en estimant et en analysant leurs postures corporelles. Le modèle utilise le cadre agnostique sur le dispositif qui permet au modèle d’activer la validation et la mise en œuvre rapide pour effectuer des adaptations. Le modèle a mis en œuvre des algorithmes de détection de posture corporelle couplés avec des repères faciaux pour détecter les postures corporelles spatiotemporelles en temps réel.

Calcul de Bord

L’une des principales applications de TinyML est dans le domaine du calcul de bord, car avec l’augmentation de l’utilisation de dispositifs IoT pour connecter les dispositifs dans le monde entier, il est essentiel de configurer des dispositifs de bord qui permettront de réaliser des calculs de niveau élevé sur le dispositif lui-même, plutôt que de s’appuyer sur l’architecture cloud. Ces dispositifs de bord comporteront des centres de données individuels qui leur permettront de réaliser des calculs sur le dispositif, réduisant ainsi la dépendance à l’égard du cloud, la latence, en améliorant la sécurité et la confidentialité de l’utilisateur et en réduisant la bande passante.

Les dispositifs de bord utilisant les algorithmes TinyML aideront à résoudre les contraintes actuelles liées à la puissance, au calcul et aux exigences de mémoire, et cela est discuté dans l’image ci-dessous.

De plus, TinyML peut également améliorer l’utilisation et l’application des véhicules aériens sans pilote (UAV) en résolvant les limitations actuelles auxquelles ces machines sont confrontées. L’utilisation de TinyML peut permettre aux développeurs de mettre en œuvre un dispositif économe en énergie avec une faible latence et une grande puissance de calcul qui peut agir comme un contrôleur pour ces UAV.

Interface Cerveau-Ordinateur ou BCI

TinyML a des applications significatives dans l’industrie des soins de santé et peut s’avérer très bénéfique dans différents domaines, notamment la détection de cancer et de tumeurs, les prédictions de santé à l’aide de signaux ECG et EEG, et l’intelligence émotionnelle. L’utilisation de TinyML peut permettre à la stimulation cérébrale profonde adaptative (aDBS) de s’adapter avec succès aux adaptations cliniques. L’utilisation de TinyML peut également permettre à la stimulation cérébrale profonde adaptative (aDBS) d’identifier des marqueurs biologiques et des symptômes liés à la maladie en utilisant des enregistrements invasifs des signaux cérébraux.

De plus, l’industrie des soins de santé implique souvent la collecte d’une grande quantité de données sur un patient, et ces données doivent ensuite être traitées pour parvenir à des solutions spécifiques pour le traitement d’un patient aux premiers stades d’une maladie. Par conséquent, il est essentiel de construire un système qui soit non seulement très efficace, mais également très sécurisé. Lorsque nous combinons l’application IoT avec le modèle TinyML, un nouveau domaine est né, appelé Internet des objets de soins de santé (H-IoT), et les principales applications de H-IoT sont le diagnostic, la surveillance, la logistique, le contrôle de la propagation et les systèmes d’assistance. Si nous voulons développer des dispositifs capables de détecter et d’analyser la santé d’un patient à distance, il est essentiel de développer un système qui ait une accessibilité mondiale et une faible latence.

Véhicules Autonomes

Enfin, TinyML peut avoir des applications généralisées dans l’industrie des véhicules autonomes, car ces véhicules peuvent être utilisés de différentes manières, notamment la poursuite humaine, les fins militaires et les applications industrielles. Ces véhicules ont une exigence principale, à savoir qu’ils doivent être capables d’identifier les objets de manière efficace lorsque l’objet est recherché.

Actuellement, les véhicules autonomes et la conduite autonome sont une tâche assez complexe, en particulier lors du développement de véhicules miniatures ou de petite taille. Des développements récents ont montré un potentiel pour améliorer l’application de la conduite autonome pour les véhicules miniatures en utilisant une architecture CNN et en déployant le modèle sur le GAP8 MCI.

Défis

TinyML est un concept relativement nouveau dans l’industrie de l’IA et de l’apprentissage automatique, et malgré les progrès, il n’est pas encore aussi efficace que nous le souhaitons pour un déploiement massif sur les dispositifs et les réseaux IoT de bord.

Le plus grand défi actuellement rencontré par les dispositifs TinyML est la consommation d’énergie de ces dispositifs. Idéalement, les dispositifs embarqués et les réseaux IoT doivent avoir une durée de vie de la batterie qui s’étend sur 10 ans. Par exemple, dans des conditions idéales, un dispositif IoT fonctionnant sur une batterie de 2 Ah doit avoir une durée de vie de la batterie de plus de 10 ans, étant donné que la consommation d’énergie du dispositif est d’environ 12 microampères. Cependant, dans l’état actuel, une architecture IoT avec un capteur de température, une unité de microcontrôleur et un module WiFi a une consommation de courant d’environ 176,4 milliampères, et avec cette consommation d’énergie, la batterie ne durera que environ 11 heures, au lieu des 10 ans de durée de vie de la batterie requis.

Contraintes de Ressources

Pour maintenir la cohérence d’un algorithme, il est essentiel de maintenir la disponibilité de la puissance, et étant donné le scénario actuel, la disponibilité de puissance limitée pour les dispositifs TinyML est un défi critique. De plus, les limitations de mémoire sont également un défi important, car le déploiement de modèles nécessite souvent une grande quantité de mémoire pour fonctionner efficacement et avec précision.

Contraintes Matérielles

Les contraintes matérielles rendent difficile le déploiement d’algorithmes TinyML à grande échelle en raison de l’hétérogénéité des dispositifs matérielles. Il existe des milliers de dispositifs, chacun ayant ses propres spécifications et exigences matérielles, et en conséquence, un algorithme TinyML doit actuellement être ajusté pour chaque dispositif individuel, ce qui rend le déploiement massif un problème majeur.

Contraintes de l’Ensemble de Données

L’un des principaux problèmes des modèles TinyML est qu’ils ne prennent pas en charge les ensembles de données existants. Il s’agit d’un défi pour tous les dispositifs de bord, car ils collectent des données à l’aide de capteurs externes et ces dispositifs ont souvent des contraintes de puissance et d’énergie. Par conséquent, les ensembles de données existants ne peuvent pas être utilisés pour former les modèles TinyML de manière efficace.

Pensées Finales

Le développement de techniques d’apprentissage automatique a provoqué une révolution et un changement de perspective dans l’écosystème IoT. L’intégration de modèles d’apprentissage automatique dans les dispositifs IoT permettra à ces dispositifs de bord de prendre des décisions intelligentes de leur propre chef sans aucune entrée humaine externe. Cependant, conventionnellement, les modèles d’apprentissage automatique ont souvent des exigences de puissance, de mémoire et de calcul élevées, ce qui les rend inadaptés pour être déployés sur des dispositifs de bord qui sont souvent à ressources limitées.

En conséquence, une nouvelle branche de l’IA a été consacrée à l’utilisation de l’apprentissage automatique pour les dispositifs IoT, et elle a été appelée TinyML. TinyML est un cadre d’apprentissage automatique qui permet même aux dispositifs à ressources limitées de tirer parti de la puissance de l’IA et de l’apprentissage automatique pour assurer une précision, une intelligence et une efficacité plus élevées.

Dans cet article, nous avons discuté de la mise en œuvre de modèles TinyML sur des dispositifs IoT à ressources limitées, et cette mise en œuvre nécessite la formation des modèles, le déploiement des modèles sur le matériel et la réalisation de techniques de quantification. Cependant, étant donné la portée actuelle, les modèles d’apprentissage automatique prêts à être déployés sur les dispositifs et les réseaux IoT de bord ont plusieurs complexités et contraintes, notamment des problèmes de compatibilité matérielles et de cadre.