TinyML: Anwendungen, Einschränkungen und seine Verwendung in IoT- und Edge-Geräten

In den letzten Jahren haben künstliche Intelligenz (KI) und Machine Learning (ML) einen enormen Aufschwung in Popularität und Anwendungen erlebt, nicht nur in der Industrie, sondern auch in der Wissenschaft. Heute haben ML- und KI-Modelle jedoch eine große Einschränkung: Sie erfordern enorme Rechen- und Verarbeitungsleistung, um die gewünschten Ergebnisse und Genauigkeit zu erzielen. Dies beschränkt ihre Verwendung oft auf Geräte mit hoher Rechenleistung.

Durch die Fortschritte in der Technologie von eingebetteten Systemen und der Entwicklung der Internet-of-Things-Industrie ist es wünschenswert, ML-Techniken und -Konzepte in ressourcenbeschränkte eingebettete Systeme für allgegenwärtige Intelligenz zu integrieren. Der Wunsch, ML-Konzepte in eingebettete und IoT-Systeme zu integrieren, ist der Hauptmotivator für die Entwicklung von TinyML, einer eingebetteten ML-Technik, die ML-Modelle und -Anwendungen auf mehrere ressourcenbeschränkte, leistungsbeschränkte und billige Geräte ermöglicht.

Die Implementierung von ML auf ressourcenbeschränkten Geräten ist jedoch nicht einfach, da die Implementierung von ML-Modellen auf Geräten mit geringer Rechenleistung Herausforderungen in Bezug auf Optimierung, Verarbeitungskapazität, Zuverlässigkeit, Wartung von Modellen und vieles mehr mit sich bringt.

In diesem Artikel werden wir einen tieferen Einblick in das TinyML-Modell nehmen und mehr über seinen Hintergrund, die Werkzeuge, die TinyML unterstützen, und die Anwendungen von TinyML mit fortschrittlichen Technologien erfahren. Also los geht’s.

Eine Einführung in TinyML: Warum die Welt TinyML benötigt

IoT-Geräte zielen darauf ab, Edge-Computing zu nutzen, ein Rechenparadigma, das sich auf eine Reihe von Geräten und Netzwerken in der Nähe des Benutzers bezieht, um eine nahtlose und Echtzeitverarbeitung von Daten von Millionen von Sensoren und Geräten zu ermöglichen, die miteinander verbunden sind. Einer der größten Vorteile von IoT-Geräten ist, dass sie nur geringe Rechen- und Verarbeitungsleistung erfordern, da sie am Netzwerkrand bereitgestellt werden können und daher einen geringen Speicherbedarf haben.

Darüber hinaus verlassen sich IoT-Geräte stark auf Edge-Plattformen, um Daten zu sammeln und zu übertragen, da Edge-Geräte Sensordaten sammeln und diese dann an einen nahegelegenen Ort oder an Cloud-Plattformen für die Verarbeitung übertragen. Die Edge-Computing-Technologie speichert und führt die Verarbeitung der Daten durch und bietet die notwendige Infrastruktur, um die verteilte Verarbeitung zu unterstützen.

Die Implementierung von Edge-Computing in IoT-Geräten bietet

1. Effektive Sicherheit, Privatsphäre und Zuverlässigkeit für die Endbenutzer.
2. Geringere Verzögerung.
3. Höhere Verfügbarkeit und Durchsatz für Anwendungen und Dienste.

Darüber hinaus kann die Datenverarbeitung aufgrund der Fähigkeit von Edge-Geräten, eine kooperative Technik zwischen den Sensoren und der Cloud zu nutzen, am Netzwerkrand durchgeführt werden, anstatt in der Cloud-Plattform. Dies kann zu effektiver Datenverwaltung, Datenbeständigkeit, effektiver Lieferung und Inhalts-Caching führen. Zusätzlich kann Edge-Computing die Netzwerkdienste in Anwendungen, die mit H2M oder Human-to-Machine-Interaktion und moderner Gesundheitsversorgung zu tun haben, erheblich verbessern.

Aktuelle Forschung im Bereich von IoT-Edge-Computing hat das Potenzial gezeigt, ML-Techniken in verschiedenen IoT-Anwendungsfällen zu implementieren. Das größte Problem ist jedoch, dass traditionelle ML-Modelle oft starke Rechen- und Verarbeitungsleistung sowie hohe Speicherkapazität erfordern, was die Implementierung von ML-Modellen in IoT-Geräten und -Anwendungen einschränkt.

Darüber hinaus mangelt es der Edge-Computing-Technologie heute an hoher Übertragungskapazität und effektiver Energieeinsparung, was zu heterogenen Systemen führt, die der Hauptgrund für die Notwendigkeit einer harmonischen und holistischen Infrastruktur sind, insbesondere für das Aktualisieren, Trainieren und Bereitstellen von ML-Modellen. Die Architektur, die für eingebettete Geräte entwickelt wurde, stellt eine weitere Herausforderung dar, da diese Architektur von den Hardware- und Software-Anforderungen abhängt, die von Gerät zu Gerät variieren. Es ist der Hauptgrund, warum es schwierig ist, eine Standard-ML-Architektur für IoT-Netzwerke zu entwickeln.

Außerdem werden in der aktuellen Situation die von verschiedenen Geräten generierten Daten an Cloud-Plattformen für die Verarbeitung gesendet, da die Netzwerkimplementierungen rechenintensiv sind. Darüber hinaus sind ML-Modelle oft von Deep Learning, Deep Neural Networks, Application-Specific Integrated Circuits (ASICs) und Graphic Processing Units (GPUs) für die Datenverarbeitung abhängig und haben oft höhere Leistungs- und Speicheranforderungen. Die Bereitstellung von vollständigen ML-Modellen auf IoT-Geräten ist keine praktikable Lösung, da es offensichtlich an Rechen- und Verarbeitungsleistung sowie begrenzten Speicherlösungen mangelt.

Die Nachfrage nach der Miniaturisierung von leistungsarmen eingebetteten Geräten, kombiniert mit der Optimierung von ML-Modellen, um sie leistungs- und speicherEffizienter zu machen, hat den Weg für TinyML geebnet, das darauf abzielt, ML-Modelle und -Praktiken auf Edge-IoT-Geräten und -Framework zu implementieren. TinyML ermöglicht die Signalverarbeitung auf IoT-Geräten und bietet eingebettete Intelligenz, wodurch die Notwendigkeit, Daten an Cloud-Plattformen für die Verarbeitung zu übertragen, eliminiert wird. Die erfolgreiche Implementierung von TinyML auf IoT-Geräten kann letztendlich zu erhöhter Privatsphäre und Effizienz sowie reduzierten Betriebskosten führen. Darüber hinaus macht TinyML es attraktiv, da es in Fällen unzureichender Konnektivität On-Premises-Analytics bereitstellen kann.

TinyML: Einführung und Überblick

TinyML ist ein Machine-Learning-Tool, das die Fähigkeit besitzt, On-Device-Analytics für verschiedene Sensormodalitäten wie Audio, Vision und Sprache durchzuführen. ML-Modelle, die auf dem TinyML-Tool basieren, haben geringe Leistungs-, Speicher- und Rechenanforderungen, was sie für eingebettete Netzwerke und Geräte geeignet macht, die mit Batterie betrieben werden. Darüber hinaus macht die geringe Anforderung von TinyML es zu einer idealen Lösung, um ML-Modelle auf dem IoT-Framework bereitzustellen.

In der aktuellen Situation haben Cloud-basierte ML-Systeme einige Schwierigkeiten, einschließlich Sicherheits- und Datenschutzbedenken, hoher Energieverbrauch, Zuverlässigkeits- und Latenzproblemen, weshalb Modelle auf Hardware-Software-Plattformen vorinstalliert sind. Sensoren sammeln die Daten, die die physische Welt simulieren, und werden dann mit einem CPU oder MPU (Mikroprozessor-Einheit) verarbeitet. Die MPU erfüllt die Anforderungen von ML-Analyse-Unterstützung, die durch Edge-Netzwerke und -Architektur ermöglicht wird. Edge-ML-Architektur kommuniziert mit der ML-Cloud für den Datentransfer und die Implementierung von TinyML kann zu einer erheblichen Weiterentwicklung der Technologie führen.

Es wäre sicher zu sagen, dass TinyML eine Kombination aus Software, Hardware und Algorithmen ist, die zusammenarbeiten, um die gewünschte Leistung zu erzielen. Analog- oder Speicher-Computing kann erforderlich sein, um eine bessere und effektivere Lernerfahrung für Hardware- und IoT-Geräte zu bieten, die keine Hardware-Beschleuniger unterstützen. Was die Software betrifft, können Anwendungen, die mit TinyML entwickelt werden, auf Plattformen wie Linux oder eingebettetem Linux und auf Cloud-fähigen Software bereitgestellt werden. Schließlich müssen Anwendungen und Systeme, die auf dem TinyML-Algorithmus basieren, die Unterstützung neuer Algorithmen haben, die kleine, speicherEffiziente Modelle erfordern, um hohen Speicherbedarf zu vermeiden.

Um zusammenzufassen, müssen Anwendungen, die mit dem TinyML-Tool entwickelt werden, ML-Prinzipien und -Methoden optimieren und die Software kompakt entwerfen, in der Präsenz von hochwertigen Daten. Diese Daten müssen dann durch Binärdateien übertragen werden, die mit Modellen generiert werden, die auf Maschinen mit viel größerer Kapazität und Rechenleistung trainiert werden.

Darüber hinaus müssen Systeme und Anwendungen, die auf dem TinyML-Tool basieren, hohe Genauigkeit bieten, wenn sie unter strengeren Einschränkungen arbeiten, da kompakte Software für geringen Energieverbrauch erforderlich ist, der TinyML-Auswirkungen unterstützt. Darüber hinaus können TinyML-Anwendungen oder -Module von der Batterie abhängig sein, um ihre Operationen auf Edge-eingebetteten Systemen zu unterstützen.

Mit anderen Worten, TinyML-Anwendungen haben zwei grundlegende Anforderungen

1. Die Fähigkeit, Milliarden von billigen eingebetteten Systemen zu skalieren.
2. Die Fähigkeit, den Code auf dem Geräte-RAM mit einer Kapazität von weniger als einigen KB zu speichern.

Anwendungen von TinyML mit fortschrittlichen Technologien

Einer der Hauptgründe, warum TinyML ein heißes Thema in der KI- und ML-Industrie ist, ist seine potenzielle Anwendungen, einschließlich Vision- und Sprach-basierten Anwendungen, Gesundheitsdiagnose, Datenmuster-Komprimierung und -Klassifizierung, Brain-Computer-Interface, Edge-Computing, Phänotypisierung, selbstfahrende Autos und mehr.

Sprachbasierte Anwendungen

Sprachkommunikation

Typischerweise basieren sprachbasierte Anwendungen auf herkömmlichen Kommunikationsmethoden, bei denen alle Daten wichtig sind und übertragen werden. In den letzten Jahren ist jedoch die semantische Kommunikation als Alternative zur herkömmlichen Kommunikation aufgetaucht, bei der nur die Bedeutung oder der Kontext der Daten übertragen wird. Semantische Kommunikation kann in sprachbasierten Anwendungen mit TinyML-Methoden implementiert werden.

Einige der beliebtesten Anwendungen in der Sprachkommunikationsindustrie sind heute Spracherkennung, Sprachübersetzung, Online-Lernen, Online-Unterricht und zielorientierte Kommunikation. Diese Anwendungen haben typischerweise einen höheren Energieverbrauch und erfordern auch hohe Datenanforderungen auf dem Host-Gerät. Um diese Anforderungen zu überwinden, wurde eine neue TinySpeech-Bibliothek eingeführt, die es Entwicklern ermöglicht, eine Architektur mit geringer Rechenleistung zu erstellen, die tiefere konvolutionale Netze verwendet, um eine geringe Speicheranforderung zu bieten.

Um TinyML für Sprachverbesserung zu verwenden, haben die Entwickler zunächst die Größe des Sprachverbesserungsmodells angepasst, da es von Hardware-Einschränkungen und -Beschränkungen abhängig war. Um das Problem zu lösen, wurden strukturierte Beschneidung und ganzzahlige Quantisierung für RNN- oder rekurrente neuronale Netze-Sprachverbesserungsmodelle eingesetzt. Die Ergebnisse zeigten, dass die Größe des Modells um etwa 12x reduziert und die Operationen um etwa 3x reduziert werden konnten. Darüber hinaus ist es wichtig, Ressourcen effektiv zu nutzen, insbesondere wenn sie auf ressourcenbeschränkten Anwendungen eingesetzt werden, die Spracherkennungsanwendungen ausführen.

Als Ergebnis wurde eine Co-Design-Methode für TinyML-basierte Sprach- und Spracherkennungsanwendungen vorgeschlagen. Die Entwickler verwendeten eine Fensteroperation, um Software und Hardware so zu partitionieren, dass die Roh-Sprachdaten vorverarbeitet werden konnten. Die Methode schien zu funktionieren, da die Ergebnisse eine Verringerung des Energieverbrauchs auf der Hardware zeigten. Schließlich gibt es auch das Potenzial, optimierte Partitionierung zwischen Software- und Hardware-Co-Design für bessere Leistung in naher Zukunft zu implementieren.

Darüber hinaus hat die aktuelle Forschung die Verwendung eines phone-basierten Wandlers für Spracherkennungssysteme vorgeschlagen, und der Vorschlag zielt darauf ab, LSTM-Predictoren durch eine Conv1D-Schicht zu ersetzen, um die Rechenanforderungen auf Edge-Geräten zu reduzieren. Als die Implementierung durchgeführt wurde, zeigten die Ergebnisse positive Ergebnisse, da die SVD oder Singular Value Decomposition das Modell erfolgreich komprimiert hatte, während die Verwendung von WFST oder Weighted Finite State Transducers-basiertem Decoding mehr Flexibilität bei der Modellverbesserung ermöglichte.

Viele prominente Anwendungen von Spracherkennung wie virtuelle oder Sprachassistenten, Live-Untertitelung und Sprachbefehle verwenden ML-Techniken, um zu funktionieren. Beliebte Sprachassistenten wie Siri und der Google Assistant pingeln die Cloud-Plattform jedes Mal, wenn sie Daten erhalten, und dies schafft erhebliche Bedenken hinsichtlich Datenschutz und Datensicherheit. TinyML ist eine gangbare Lösung für dieses Problem, da es darauf abzielt, Spracherkennung auf Geräten durchzuführen und die Notwendigkeit, Daten an Cloud-Plattformen zu übertragen, zu eliminieren. Eine der Möglichkeiten, On-Geräte-Spracherkennung zu erreichen, ist die Verwendung von Tiny Transducer, einem Spracherkennungsmodell, das eine DFSMN- oder Deep Feed-Forward Sequential Memory Block-Schicht mit einer Conv1D-Schicht anstelle der LSTM-Schichten verwendet, um die Rechenanforderungen und Netzwerkparameter zu reduzieren.

Hörsysteme

Hörverlust ist ein großes Gesundheitsproblem auf der ganzen Welt, und die Fähigkeit des Menschen, Geräusche wahrzunehmen, schwächt sich im Alter ab, und es ist ein großes Problem in Ländern, die mit einer alternden Bevölkerung zu kämpfen haben, einschließlich China, Japan und Südkorea. Hörsysteme funktionieren derzeit nach dem einfachen Prinzip, alle Eingangsgeräusche aus der Umgebung zu verstärken, was es für die Person schwierig macht, zwischen den gewünschten Geräuschen zu unterscheiden, insbesondere in einer lauten Umgebung.

TinyML könnte eine gangbare Lösung für dieses Problem sein, da die Verwendung eines TinyLSTM-Modells, das ein Spracherkennungsalgorithmus für Hörsysteme verwendet, den Benutzern helfen kann, zwischen verschiedenen Geräuschen zu unterscheiden.

Visionsbasierte Anwendungen

TinyML hat das Potenzial, eine wichtige Rolle bei der Verarbeitung von Computer-Vision-Datensätzen zu spielen, da diese Datensätze für schnellere Ausgaben auf der Edge-Plattform selbst verarbeitet werden müssen. Um dies zu erreichen, hat TinyML die praktischen Herausforderungen beim Training des Modells mit der OpenMV H7-Mikrocontroller-Platine überwunden. Die Entwickler haben auch eine Architektur vorgeschlagen, um die amerikanische Gebärdensprache mit Hilfe eines ARM Cortex M7-Mikrocontrollers zu erkennen, der nur mit 496 KB Frame-Buffer-RAM arbeitet.

Die Implementierung von TinyML für Computer-Vision-Anwendungen auf Edge-Plattformen erforderte von den Entwicklern, die Herausforderung von CNN oder Convolutional Neural Networks mit hoher Verallgemeinerungsfehler und hoher Trainings- und Testgenauigkeit zu überwinden. Die Implementierung verallgemeinerte sich jedoch nicht effektiv auf Bilder in neuen Anwendungsfällen und Hintergründen mit Rauschen. Als die Entwickler die Interpolations-Vergrößerungsmethode verwendeten, erzielte das Modell eine Genauigkeit von über 98% auf Testdaten und etwa 75% bei der Verallgemeinerung.

Darüber hinaus wurde festgestellt, dass die Verwendung der Interpolations-Vergrößerungsmethode zu einer Verringerung der Genauigkeit des Modells während der Quantisierung führte, aber gleichzeitig zu einer Steigerung der Inferenzgeschwindigkeit und Klassifizierungsverallgemeinerung. Die Entwickler haben auch eine Methode vorgeschlagen, um die Genauigkeit der Verallgemeinerung von Modelltraining auf Daten von verschiedenen Quellen zu verbessern und die Leistung zu testen, um die Möglichkeit zu erkunden, es auf Edge-Plattformen wie tragbaren Smartwatches zu bereitstellen.

Darüber hinaus haben weitere Studien zu CNN gezeigt, dass es möglich ist, CNN-Architektur auf Geräten mit begrenzten Ressourcen zu bereitstellen und wünschenswerte Ergebnisse zu erzielen. Kürzlich konnten Entwickler ein Framework für die Erkennung von medizinischen Gesichtsmasken auf einem ARM Cortex M7-Mikrocontroller mit begrenzten Ressourcen mit TensorFlow Lite und minimalem Speicherbedarf entwickeln. Die Modellgröße nach der Quantisierung betrug etwa 138 KB, während die Inferenzgeschwindigkeit auf der Zielplattform etwa 30 FPS betrug.

Eine weitere Anwendung von TinyML für Computer-Vision-Anwendungen ist die Implementierung eines Gesten-Erkennungsgeräts, das an einen Stock angebracht werden kann, um sehbehinderten Menschen zu helfen, sich in ihrem täglichen Leben leicht zu bewegen. Um es zu entwerfen, verwendeten die Entwickler das Gesten-Datensatz und trainierten das ProtoNN-Modell mit einem Klassifizierungs-Algorithmus. Die Ergebnisse, die aus der Einrichtung erhalten wurden, waren genau, die Konstruktion war kostengünstig und sie lieferte zufriedenstellende Ergebnisse.

Eine weitere wichtige Anwendung von TinyML ist in der selbstfahrenden und autonomen Fahrzeugindustrie, da es an Ressourcen und On-Board-Rechenleistung mangelt. Um dieses Problem zu lösen, haben Entwickler eine geschlossene Lernmethode auf der Grundlage des TinyCNN-Modells eingeführt, die ein Online-Prädiktionsmodell vorschlägt, das das Bild in Echtzeit aufnimmt. Das größte Problem, das die Entwickler bei der Implementierung von TinyML für autonome Fahrzeuge hatten, war, dass das Entscheidungsmodell, das für die Offline-Daten trainiert wurde, möglicherweise nicht gleich gut funktioniert, wenn es mit Online-Daten umgeht. Um die Anwendungen von autonomen Fahrzeugen und selbstfahrenden Fahrzeugen vollständig zu nutzen, sollte das Modell idealerweise in der Lage sein, sich an Echtzeit-Daten anzupassen.

Datenmuster-Klassifizierung und -Komprimierung

Eine der größten Herausforderungen des aktuellen TinyML-Frameworks ist es, es zu ermöglichen, sich an Online-Trainingsdaten anzupassen. Um dieses Problem zu lösen, haben Entwickler eine Methode namens TinyOL oder TinyML-Online-Lernen vorgeschlagen, um das Training mit inkrementellem Online-Lernen auf Mikrocontroller-Einheiten zu ermöglichen, wodurch das Modell auf IoT-Edge-Geräten aktualisiert werden kann. Die Implementierung wurde mit der C++-Programmiersprache durchgeführt und eine zusätzliche Schicht wurde der TinyOL-Architektur hinzugefügt.

Darüber hinaus haben Entwickler auch die Auto-Kodierung des Arduino Nano 33 BLE-Sensor-Boards durchgeführt und das trainierte Modell konnte neue Datenmuster klassifizieren. Darüber hinaus umfasste die Entwicklung effiziente und optimierte Algorithmen für neuronale Netze, um die Geräte-Trainingsmuster online zu unterstützen.

Forschung in TinyOL und TinyML hat gezeigt, dass die Anzahl der Aktivierungsschichten ein großes Problem für IoT-Edge-Geräte mit begrenzten Ressourcen darstellt. Um dieses Problem zu lösen, haben Entwickler das neue TinyTL- oder Tiny-Transfer-Lernen-Modell eingeführt, um die Speicher-Nutzung auf IoT-Edge-Geräten effektiver zu machen und die Verwendung von Zwischenschichten für Aktivierungszwecke zu vermeiden. Darüber hinaus haben Entwickler auch ein neues Bias-Modul namens “Lite-Residual-Modul” eingeführt, um die Anpassungsfähigkeit zu maximieren und es den Merkmal-Extraktoren zu ermöglichen, residuale Merkmal-Karten zu entdecken.

Im Vergleich zum vollständigen Netz-Feinabstimmung zeigten die Ergebnisse, dass die TinyTL-Architektur die Speicher-Overhead um etwa 6,5-mal reduzierte, bei moderatem Genauigkeitsverlust. Als die letzte Schicht fein abgestimmt wurde, verbesserte TinyML die Genauigkeit um 34% bei moderatem Genauigkeitsverlust.

Darüber hinaus hat die Forschung zu Datenkomprimierung gezeigt, dass Datenkomprimierungs-Algorithmen die auf einem tragbaren Gerät gesammelten Daten verwalten müssen, und um dies zu erreichen, haben die Entwickler TAC oder Tiny-Anomaly-Compressor vorgeschlagen. Der TAC konnte SDT oder Swing-Door-Trending und DCT oder Discrete-Cosine-Transform-Algorithmen überbieten. Darüber hinaus überbot der TAC-Algorithmus sowohl den SDT- als auch den DCT-Algorithmus, indem er eine maximale Komprimierungsrate von über 98% erreichte und das beste Signal-Rausch-Verhältnis aller drei Algorithmen aufwies.

Gesundheitsdiagnose

Die COVID-19-Pandemie hat neue Chancen für die Implementierung von TinyML eröffnet, da es jetzt eine wichtige Praxis ist, Atemwegssymptome im Zusammenhang mit Husten und Erkältung kontinuierlich zu erkennen. Um eine ununterbrochene Überwachung zu gewährleisten, haben Entwickler ein CNN-Modell namens TinyRespNet vorgeschlagen, das auf einer Xilinx Artix-7 100t FPGA arbeitet und es dem Gerät ermöglicht, die Informationen parallel zu verarbeiten, eine hohe Effizienz und niedrigen Energieverbrauch aufweist. Darüber hinaus nimmt das TinyResp-Modell auch die Sprache der Patienten, Audio-Aufzeichnungen und demografische Informationen als Eingabe, um die hustenbezogenen Symptome eines Patienten zu klassifizieren, die mit drei unterschiedlichen Datensätzen klassifiziert werden.

Darüber hinaus haben Entwickler auch ein Modell namens TinyDL vorgeschlagen, das in der Lage ist, Deep-Learning-Berechnungen auf Edge-Geräten durchzuführen, und es kann auf Edge-Geräten wie Smartwatches und Wearables für die Gesundheitsdiagnose bereitgestellt werden und ist auch in der Lage, Leistungsanalysen durchzuführen, um Bandbreite, Latenz und Energieverbrauch zu reduzieren. Um die Bereitstellung von TinyDL auf Handheld-Geräten zu erreichen, wurde ein LSTM-Modell entwickelt und speziell für ein Wearable-Gerät trainiert und es wurde mit den gesammelten Daten als Eingabe gefüttert. Das Modell hat eine Genauigkeit von etwa 75 bis 80% und es konnte auch mit Off-Device-Daten arbeiten. Diese Modelle, die auf Edge-Geräten laufen, zeigten das Potenzial, die aktuellen Herausforderungen zu lösen, denen IoT-Geräte gegenüberstehen.

Schließlich haben Entwickler auch eine weitere Anwendung vorgeschlagen, um die Gesundheit älterer Menschen zu überwachen, indem sie ihre Körperhaltung schätzen und analysieren. Das Modell verwendet die agnostische Framework auf dem Gerät, das es dem Modell ermöglicht, die Validierung und schnelle Anpassung zu ermöglichen, um Anpassungen durchzuführen. Das Modell implementierte Körperhaltungs-Algorithmen, kombiniert mit Gesichtsmerkmalen, um räumlich-zeitliche Körperhaltungen in Echtzeit zu erkennen.

Edge-Computing

Eine der wichtigsten Anwendungen von TinyML ist im Bereich des Edge-Computing, da mit der zunehmenden Verwendung von IoT-Geräten, um Geräte auf der ganzen Welt zu verbinden, es wichtig ist, Edge-Geräte bereitzustellen, um die Last auf Cloud-Architekturen zu reduzieren. Diese Edge-Geräte verfügen über eigene Rechenzentren, die es ihnen ermöglichen, hochwertige Verarbeitung auf dem Gerät selbst durchzuführen, anstatt auf die Cloud-Architektur zu verlassen. Als Ergebnis kann dies dazu beitragen, die Abhängigkeit von der Cloud zu reduzieren, die Latenz zu reduzieren, die Benutzersicherheit und -privatsphäre zu verbessern und die Bandbreite zu reduzieren.

Edge-Geräte, die TinyML-Algorithmen verwenden, können dazu beitragen, die aktuellen Einschränkungen in Bezug auf Leistung, Rechenleistung und Speicheranforderungen zu lösen, wie im folgenden Bild diskutiert.

Darüber hinaus kann TinyML auch die Anwendung und den Einsatz von unbemannten Luftfahrzeugen (UAVs) verbessern, indem es die aktuellen Einschränkungen dieser Maschinen angeht. Die Verwendung von TinyML kann es Entwicklern ermöglichen, ein energieeffizientes Gerät mit geringer Latenz und hoher Rechenleistung zu implementieren, das als Controller für diese UAVs dienen kann.

Brain-Computer-Interface oder BCI

TinyML hat wichtige Anwendungen in der Gesundheitsbranche und kann in verschiedenen Bereichen wie Krebs- und Tumor-Erkennung, Gesundheitsvorhersagen mit ECG- und EEG-Signalen und emotionaler Intelligenz nützlich sein. Die Verwendung von TinyML kann es ermöglichen, die adaptive tiefe Hirnstimulation (aDBS) erfolgreich an klinische Anpassungen anzupassen. Die Verwendung von TinyML kann es auch ermöglichen, aDBS zu erkennen, Krankheits-bezogene Biomarker und ihre Symptome mit invasiver Aufzeichnung von Hirnsignalen zu identifizieren.

Darüber hinaus umfasst die Gesundheitsbranche oft die Sammlung einer großen Menge an Patientendaten, und diese Daten müssen dann verarbeitet werden, um spezifische Lösungen für die Behandlung eines Patienten in den frühen Stadien einer Krankheit zu erreichen. Als Ergebnis ist es wichtig, ein System zu entwickeln, das nicht nur sehr effektiv, sondern auch sehr sicher ist. Wenn wir IoT-Anwendungen mit dem TinyML-Modell kombinieren, entsteht ein neues Feld namens H-IoT oder Healthcare-Internet-of-Things, und die wichtigsten Anwendungen von H-IoT sind Diagnose, Überwachung, Logistik, Ausbreitungs-Kontrolle und Assistenzsysteme. Wenn wir Geräte entwickeln möchten, die in der Lage sind, die Gesundheit eines Patienten remote zu überwachen, ist es wichtig, ein System zu entwickeln, das eine globale Zugänglichkeit und geringe Latenz aufweist.

Autonome Fahrzeuge

Schließlich kann TinyML weitreichende Anwendungen in der autonomen Fahrzeugindustrie haben, da diese Fahrzeuge auf verschiedene Weise eingesetzt werden können, einschließlich Mensch-Verfolgung, militärischer Zwecke und industrieller Anwendungen. Diese Fahrzeuge haben eine primäre Anforderung, Objekte effizient erkennen zu können, wenn das Objekt gesucht wird.

Bisher ist die autonome Fahrzeug- und Fahrzeugsteuerung eine sehr komplexe Aufgabe, insbesondere bei der Entwicklung von Mini- oder Kleinfahrzeugen. Kürzliche Entwicklungen haben jedoch das Potenzial gezeigt, die Anwendung von autonomen Fahrzeugen für Mini-Fahrzeuge zu verbessern, indem ein CNN-Architektur-Modell auf dem GAP8-MCI bereitgestellt wird.

Herausforderungen

TinyML ist ein relativ neues Konzept in der KI- und ML-Industrie, und trotz der Fortschritte ist es noch nicht so effektiv, wie wir es für die Massenbereitstellung auf Edge- und IoT-Geräten benötigen.

Die größte Herausforderung, der TinyML-Geräte derzeit gegenüberstehen, ist der Energieverbrauch dieser Geräte. Idealerweise sollten eingebettete Edge- und IoT-Geräte eine Batterielebensdauer von über 10 Jahren haben. Zum Beispiel sollte ein IoT-Gerät, das mit einer 2-Ah-Batterie betrieben wird, bei einem Energieverbrauch von etwa 12 μA eine Batterielebensdauer von über 10 Jahren haben. In der aktuellen Situation verbraucht jedoch ein IoT-Architektur mit einem Temperatursensor, einer MCU-Einheit und einem WiFi-Modul etwa 176,4 mA, und bei diesem Energieverbrauch würde die Batterie nur etwa 11 Stunden halten, anstatt der erforderlichen 10 Jahre Batterielebensdauer.

Ressourcen-Einschränkungen

Um die Konsistenz eines Algorithmus zu gewährleisten, ist es wichtig, die Energieverfügbarkeit zu gewährleisten, und in der aktuellen Situation ist die begrenzte Energieverfügbarkeit für TinyML-Geräte eine kritische Herausforderung. Darüber hinaus sind Speicher-Einschränkungen auch eine erhebliche Herausforderung, da die Bereitstellung von Modellen oft eine große Menge an Speicher erfordert, um effektiv und genau zu arbeiten.

Hardware-Einschränkungen

Hardware-Einschränkungen machen es schwierig, TinyML-Algorithmen auf eine breite Skala zu bereitstellen, da es Tausende von Geräten gibt, jedes mit seinen eigenen Hardware-Spezifikationen und -Anforderungen, und daher muss ein TinyML-Algorithmus derzeit für jedes einzelne Gerät angepasst werden, was die Massenbereitstellung zu einem großen Problem macht.

Datensatz-Einschränkungen

Ein großes Problem mit TinyML-Modellen ist, dass sie die vorhandenen Datensätze nicht unterstützen. Es ist eine Herausforderung für alle Edge-Geräte, da sie Daten mit externen Sensoren sammeln und diese Geräte oft Energie- und Leistungs-Einschränkungen haben. Daher können die vorhandenen Datensätze nicht effektiv zum Trainieren von TinyML-Modellen verwendet werden.

Schlussgedanken

Die Entwicklung von ML-Techniken hat eine Revolution und eine Verschiebung der Perspektive im IoT-Ökosystem verursacht. Die Integration von ML-Modellen in IoT-Geräte ermöglicht es diesen Edge-Geräten, intelligente Entscheidungen auf eigene Faust zu treffen, ohne externe menschliche Eingabe. Allerdings haben herkömmliche ML-Modelle oft hohe Leistungs-, Speicher- und Rechenanforderungen, was ihre Bereitstellung auf Edge-Geräten, die oft ressourcenbeschränkt sind, unmöglich macht.

Als Ergebnis wurde ein neuer Zweig in der KI gewidmet, um ML für IoT-Geräte zu verwenden, und es wurde als TinyML bezeichnet. TinyML ist ein ML-Framework, das es sogar ressourcenbeschränkten Geräten ermöglicht, die Macht von KI und ML zu nutzen, um höhere Genauigkeit, Intelligenz und Effizienz zu gewährleisten.

In diesem Artikel haben wir über die Implementierung von TinyML-Modellen auf ressourcenbeschränkten IoT-Geräten gesprochen, und diese Implementierung erfordert das Trainieren der Modelle, die Bereitstellung der Modelle auf der Hardware und die Durchführung von Quantisierungstechniken. Allerdings haben die ML-Modelle, die für die Bereitstellung auf IoT- und Edge-Geräten bereit sind, mehrere Komplexitäten und Einschränkungen, einschließlich Hardware- und Framework-Kompatibilitätsproblemen.