TinyML: Toepassingen, Beperkingen en Gebruik in IoT- en Edge-apparaten

In de afgelopen jaren hebben Artificial Intelligence (AI) en Machine Learning (ML) een enorme populariteit en toepassingen gekend, niet alleen in de industrie maar ook in de academische wereld. Echter, de huidige ML- en AI-modellen hebben één belangrijke beperking: ze vereisen een enorme hoeveelheid reken- en verwerkingskracht om de gewenste resultaten en nauwkeurigheid te bereiken. Dit beperkt hun gebruik vaak tot apparaten met een hoge verwerkingscapaciteit.

Maar gezien de vooruitgang in de technologie van ingebedde systemen en de substantiële ontwikkeling in de Internet of Things-industrie, is het wenselijk om ML-technieken en -concepten te integreren in een resource-beperkte ingebedde systeem voor alomtegenwoordige intelligentie. De wens om ML-concepten te integreren in ingebedde en IoT-systemen is de primaire motivator achter de ontwikkeling van TinyML, een ingebedde ML-techniek die ML-modellen en -toepassingen mogelijk maakt op meerdere resource-beperkte, energie-beperkte en goedkope apparaten.

Echter, de implementatie van ML op resource-beperkte apparaten is niet eenvoudig geweest, omdat het implementeren van ML-modellen op apparaten met lage verwerkingskracht zijn eigen uitdagingen met zich meebrengt in termen van optimalisatie, verwerkingscapaciteit, betrouwbaarheid, onderhoud van modellen en nog veel meer.

In dit artikel zullen we dieper ingaan op het TinyML-model, en meer te weten komen over zijn achtergrond, de tools die TinyML ondersteunen, en de toepassingen van TinyML met behulp van geavanceerde technologieën. Laten we beginnen.

Een Inleiding tot TinyML: Waarom de Wereld TinyML Nodig Heeft

Internet of Things-apparaten (IoT) zijn gericht op het gebruik van edge computing, een rekenparadigma dat verwijst naar een reeks apparaten en netwerken in de buurt van de gebruiker om een naadloze en realtime verwerking van gegevens van miljoenen sensoren en apparaten mogelijk te maken die met elkaar zijn verbonden. Een van de belangrijkste voordelen van IoT-apparaten is dat ze een lage verwerkings- en rekenkracht vereisen, omdat ze op de rand van het netwerk kunnen worden geïmplementeerd en dus een lage geheugenvoetafdruk hebben.

Bovendien zijn IoT-apparaten sterk afhankelijk van edge-platforms om gegevens te verzamelen en te verzenden, aangezien deze edge-apparaten sensorgegevens verzamelen en vervolgens naar een nabijgelegen locatie of cloud-platforms verzenden voor verwerking. De edge-computingtechnologie slaat gegevens op en voert computing uit op de gegevens en biedt ook de noodzakelijke infrastructuur om de gedistribueerde computing te ondersteunen.

De implementatie van edge computing in IoT-apparaten biedt

1. Effectieve beveiliging, privacy en betrouwbaarheid voor eindgebruikers.
2. Lagere vertraging.
3. Hogere beschikbaarheid en doorvoersnelheid voor toepassingen en diensten.

Bovendien, omdat edge-apparaten een samenwerkingsmethode kunnen implementeren tussen sensoren en de cloud, kan de gegevensverwerking op de rand van het netwerk worden uitgevoerd in plaats van op het cloud-platform. Dit kan leiden tot effectief gegevensbeheer, gegevenspersistentie, effectieve levering en inhoudscaching. Bovendien kan edge computing een manier bieden om netwerkdiensten aanzienlijk te verbeteren in toepassingen die te maken hebben met mens-machine-interactie en moderne gezondheidszorg.

Recent onderzoek op het gebied van IoT-edge computing heeft het potentieel aangetoond om Machine Learning-technieken te implementeren in verschillende IoT-gebruiksgevallen. Echter, het grootste probleem is dat traditionele machine learning-modellen vaak een hoge reken- en verwerkingskracht en een hoge geheugencapaciteit vereisen, wat de implementatie van ML-modellen in IoT-apparaten en -toepassingen beperkt.

Bovendien ontbreekt het edge-computingplatform vandaag de dag aan een hoge transmissiecapaciteit en effectieve energibesparing, wat leidt tot heterogene systemen, wat de belangrijkste reden is achter de behoefte aan een harmonieuze en holistische infrastructuur, voornamelijk voor het updaten, trainen en implementeren van ML-modellen. De architectuur die is ontworpen voor ingebedde apparaten vormt een andere uitdaging, aangezien deze architectuur afhankelijk is van de hardware- en software-eisen die van apparaat tot apparaat verschillen. Het is de belangrijkste reden waarom het moeilijk is om een standaard ML-architectuur te bouwen voor IoT-netwerken.

Ook in de huidige situatie wordt de door verschillende apparaten gegenereerde gegevens naar cloud-platforms verzonden voor verwerking vanwege de computationeel intensieve aard van netwerkimplementaties. Bovendien zijn ML-modellen vaak afhankelijk van Deep Learning, Deep Neural Networks, Application Specific Integrated Circuits (ASICs) en Graphic Processing Units (GPUs) voor het verwerken van gegevens en hebben ze vaak een hogere energieverbruik en geheugencapaciteit. Het implementeren van volledige ML-modellen op IoT-apparaten is geen haalbare oplossing vanwege het duidelijke gebrek aan reken- en verwerkingskracht en beperkte opslagmogelijkheden.

De vraag om kleine, lage vermogen ingebedde apparaten te miniaturiseren, gecombineerd met het optimaliseren van ML-modellen om ze energie- en geheugen-efficiënter te maken, heeft de weg vrijgemaakt voor TinyML, dat ML-modellen en -praktijken op edge IoT-apparaten en -frameworks implementeert. TinyML maakt signaalverwerking op IoT-apparaten mogelijk en biedt ingebedde intelligentie, waardoor de noodzaak om gegevens naar cloud-platforms te verzenden voor verwerking wordt geëlimineerd. Een succesvolle implementatie van TinyML op IoT-apparaten kan uiteindelijk leiden tot een toename van de privacy en efficiëntie, terwijl de operationele kosten worden verlaagd. Bovendien maakt TinyML het mogelijk om on-premise analytics te bieden in het geval van onvoldoende connectiviteit.

TinyML: Inleiding en Overzicht

TinyML is een machine learning-tool die in staat is om on-device analytics uit te voeren voor verschillende sensormodaliteiten zoals audio, visie en spraak. ML-modellen die zijn gebouwd met de TinyML-tool hebben lage energieverbruik, geheugen- en rekenkrachteisen, waardoor ze geschikt zijn voor ingebedde netwerken en apparaten die op batterijen werken. Bovendien maakt de lage vereisten van TinyML het een ideale keuze om ML-modellen te implementeren op het IoT-framework.

In de huidige situatie hebben cloud-gebaseerde ML-systemen enkele moeilijkheden, waaronder beveiligings- en privacyproblemen, hoge energieverbruik, betrouwbaarheids- en latentieproblemen, waardoor modellen op hardware-software-platforms zijn vooraf geïnstalleerd. Sensoren verzamelen gegevens die de fysieke wereld simuleren en worden vervolgens verwerkt met behulp van een CPU of MPU (Microprocessing unit). De MPU voldoet aan de eisen van ML-analyseondersteuning die mogelijk wordt gemaakt door edge-gevoelige ML-netwerken en -architectuur. Edge ML-architectuur communiceert met de ML-cloud voor gegevensoverdracht en de implementatie van TinyML kan leiden tot een aanzienlijke vooruitgang in de technologie.

Het zou veilig zijn om te zeggen dat TinyML een combinatie is van software, hardware en algoritmen die samenwerken om de gewenste prestaties te leveren. Analoge of geheugenspecifieke computing kan nodig zijn om een betere en effectievere leerervaring te bieden voor hardware- en IoT-apparaten die geen hardware-acceleratoren ondersteunen. Wat betreft software, kunnen toepassingen die zijn gebouwd met TinyML worden geïmplementeerd en uitgevoerd op platforms zoals Linux of ingebedde Linux en op cloud-geactiveerde software. Ten slotte moeten toepassingen en systemen die zijn gebouwd op het TinyML-algoritme de ondersteuning hebben van nieuwe algoritmen die lage geheugengrootte-modellen nodig hebben om hoge geheugengebruik te voorkomen.

Om alles samen te vatten, moeten toepassingen die zijn gebouwd met de TinyML-tool ML-principes en -methoden optimaliseren, evenals het ontwerpen van compacte software in de aanwezigheid van hoogwaardige gegevens. Deze gegevens moeten vervolgens worden geflashed via binaire bestanden die zijn gegenereerd met behulp van modellen die zijn getraind op machines met veel grotere capaciteit en rekenkracht.

Bovendien moeten systemen en toepassingen die draaien op de TinyML-tool hoge nauwkeurigheid bieden bij het uitvoeren van taken onder striktere beperkingen, omdat compacte software nodig is voor lage energieverbruik die TinyML-implicaties ondersteunt. Bovendien kunnen TinyML-toepassingen of -modules afhankelijk zijn van batterijen om hun bewerkingen op edge-ingebedde systemen te ondersteunen.

Met dat gezegd hebbende, hebben TinyML-toepassingen twee fundamentele vereisten

1. De mogelijkheid om miljarden goedkope ingebedde systemen te schalen.
2. Het opslaan van code op het apparaat-RAM met een capaciteit van minder dan een paar KB.

Toepassingen van TinyML met Geavanceerde Technologieën

Een van de belangrijkste redenen waarom TinyML een hot topic is in de AI- en ML-industrie, is vanwege zijn potentieel voor toepassingen, waaronder visie- en spraakgebaseerde toepassingen, gezondheidsdiagnose, datapatrooncompressie en -classificatie, hersen-computerinterface, edge computing, fenomenologie, zelfrijdende auto’s en meer.

Spraakgebaseerde Toepassingen

Spraakcommunicatie

Typisch gezien zijn spraakgebaseerde toepassingen afhankelijk van conventionele communicatiemethoden waarbij alle gegevens belangrijk zijn en worden verzonden. Echter, in recente jaren is semantische communicatie opgekomen als een alternatief voor conventionele communicatie, waarbij alleen de betekenis of context van de gegevens wordt verzonden. Semantische communicatie kan worden geïmplementeerd in spraakgebaseerde toepassingen met behulp van TinyML-methodologieën.

Enkele van de meest populaire toepassingen in de spraakcommunicatie-industrie vandaag de dag zijn spraakdetectie, spraakherkenning, online leren, online lesgeven en doelgerichte communicatie. Deze toepassingen hebben typisch een hoger energieverbruik en hebben ook hoge gegevensvereisten op het hostapparaat. Om deze vereisten te overwinnen, is een nieuwe TinySpeech-bibliotheek geïntroduceerd die ontwikkelaars in staat stelt om een lage computationele architectuur te bouwen die diepe convolutionele netwerken gebruikt om een lage opslagfaciliteit te bouwen.

Om TinyML te gebruiken voor spraakverbetering, hebben ontwikkelaars eerst de grootte van het spraakverbeteringsmodel aangepakt, omdat het onderhevig was aan hardwarebeperkingen en -beperkingen. Om het probleem aan te pakken, zijn gestructureerde snoeiing en integerkwantificatie voor RNN- of Recurrent Neural Networks-spraakverbeteringsmodellen geïmplementeerd. De resultaten toonden aan dat de grootte van het model met ongeveer 12x kon worden verkleind, terwijl de bewerkingen met ongeveer 3x konden worden verkleind. Bovendien is het essentieel dat resources effectief worden gebruikt, vooral wanneer ze worden geïmplementeerd op resource-beperkte toepassingen die spraakherkenningstoepassingen uitvoeren.

Als gevolg hiervan is een co-designmethode voorgesteld voor TinyML-gebaseerde spraak- en spraakherkenningstoepassingen. De ontwikkelaars hebben een windowing-bewerking gebruikt om software en hardware te partitioneren op een manier die de ruwe spraakgegevens vooraf verwerkt. De methode leek te werken, aangezien de resultaten een afname van het energieverbruik op de hardware aantoonden. Ten slotte is er ook potentieel om geoptimaliseerde partitionering tussen software en hardware co-design te implementeren voor betere prestaties in de nabije toekomst.

Bovendien heeft recent onderzoek de mogelijkheid voorgesteld om een telefoon-gebaseerde transducer te gebruiken voor spraakherkenningssystemen, en het voorstel is gericht op het vervangen van LSTM-predictors met een Conv1D-laag om de computationele eisen op edge-apparaten te verlagen. Toen het werd geïmplementeerd, toonden de resultaten positieve resultaten, aangezien de SVD of Singular Value Decomposition het model succesvol had gecomprimeerd, terwijl het gebruik van WFST of Weighted Finite State Transducers-gebaseerde decoding meer flexibiliteit in modelverbetering biedt.

Veel prominente toepassingen van spraakherkenning, zoals virtuele of spraakassistenten, live ondertiteling en spraakopdrachten, gebruiken ML-technieken om te werken. Populaire spraakassistenten zoals Siri en Google Assistant pingen het cloud-platform elke keer dat ze gegevens ontvangen, en dit creëert significante problemen met betrekking tot privacy en gegevensbeveiliging. TinyML is een haalbare oplossing voor dit probleem, aangezien het gericht is op het uitvoeren van spraakherkenning op apparaten en het elimineren van de noodzaak om gegevens naar cloud-platforms te verzenden. Een van de manieren om on-device spraakherkenning te bereiken, is door het gebruik van Tiny Transducer, een spraakherkenningmodel dat een DFSMN- of Deep Feed-Forward Sequential Memory Block-laag gebruikt, gekoppeld aan een Conv1D-laag in plaats van de LSTM-lagen, om de computationele eisen en netwerkparameters te verlagen.

Hoorapparaten

Gehoorverlies is een belangrijk gezondheidsprobleem wereldwijd, en de menselijke mogelijkheid om geluiden te horen verzwakt meestal met de leeftijd, en het is een groot probleem in landen met een vergrijzende bevolking, waaronder China, Japan en Zuid-Korea. Hoorapparaten werken momenteel op het principe van het versterken van alle invoergeluiden uit de omgeving, waardoor het moeilijk is voor de persoon om het gewenste geluid te onderscheiden, vooral in een lawaaierige omgeving.

TinyML kan een haalbare oplossing zijn voor dit probleem, aangezien het gebruik van een TinyLSTM-model dat een spraakherkenning-algoritme voor hoorapparaten gebruikt, de gebruikers in staat kan stellen om verschillende geluiden te onderscheiden.

Visiegebaseerde Toepassingen

TinyML heeft het potentieel om een cruciale rol te spelen in het verwerken van computer vision-gebaseerde datasets, omdat deze datasets voor snellere uitvoer op de edge-platform zelf moeten worden verwerkt. Om dit te bereiken, heeft TinyML de praktische uitdagingen die worden geconfronteerd bij het trainen van het model met de OpenMV H7-microcontrollerboard. De ontwikkelaars hebben ook een architectuur voorgesteld om Amerikaanse gebarentaal te detecteren met behulp van een ARM Cortex M7-microcontroller die werkt met 496KB frame-buffer RAM.

De implementatie van TinyML voor computer vision-gebaseerde toepassingen op edge-platforms vereiste van ontwikkelaars om de belangrijkste uitdaging van CNN of Convolutional Neural Networks met een hoge generalisatiefout en hoge trainings- en testnauwkeurigheid aan te pakken. Echter, de implementatie generaliseerde niet effectief naar afbeeldingen in nieuwe gebruiksgevallen en achtergronden met ruis. Toen de ontwikkelaars de interpolatie-augmentatiemethode gebruikten, retourneerde het model een nauwkeurigheidsscore van meer dan 98% op testgegevens en ongeveer 75% in generalisatie.

Bovendien werd vastgesteld dat toen de ontwikkelaars de interpolatie-augmentatiemethode gebruikten, er een daling was in de nauwkeurigheid van het model tijdens kwantificatie, maar er was ook een boost in de inferentiesnelheid en classificatiegeneralisatie van het model. De ontwikkelaars hebben ook een methode voorgesteld om de nauwkeurigheid van generalisatie-modeltraining op gegevens die zijn verkregen uit een verscheidenheid aan verschillende bronnen te vergroten en de prestaties te testen om de mogelijkheid te onderzoeken om het te implementeren op edge-platforms zoals draagbare slimme horloges.

Bovendien hebben aanvullende studies op CNN aangetoond dat het mogelijk is om CNN-architectuur te implementeren en gewenste resultaten te behalen op apparaten met beperkte resources. Onlangs hebben ontwikkelaars een framework ontwikkeld voor het detecteren van medische gezichtsmaskers op een ARM Cortex M7-microcontroller met beperkte resources met behulp van TensorFlow Lite met minimale geheugenvoetafdruk. De modellengte na kwantificatie was ongeveer 138 KB, terwijl de interferentiesnelheid op het doelbord ongeveer 30 FPS was.

Een andere toepassing van TinyML voor computer vision-gebaseerde toepassingen is het implementeren van een gebarenherkenningsapparaat dat aan een stok kan worden bevestigd om visueel gehandicapten te helpen bij het navigeren door hun dagelijks leven. Om het te ontwerpen, hebben de ontwikkelaars de gebaren-dataset gebruikt en de dataset gebruikt om het ProtoNN-model te trainen met een classificatie-algoritme. De resultaten die werden verkregen uit de opstelling waren nauwkeurig, het ontwerp was goedkoop en het leverde bevredigende resultaten.

Een andere significante toepassing van TinyML is in de zelfrijdende en autonome voertuigenindustrie vanwege het gebrek aan resources en aan boord van de rekenkracht. Om dit aan te pakken, hebben ontwikkelaars een gesloten leercurve-methode geïntroduceerd die is gebouwd op het TinyCNN-model, dat een online predictor-model voorstelt dat de afbeelding op runtime vastlegt. Het belangrijkste probleem dat ontwikkelaars tegenkwamen bij het implementeren van TinyML voor autonome rijden, was dat het beslissingsmodel dat was getraind om te werken op offline-gegevens mogelijk niet even goed zou werken bij het omgaan met online-gegevens. Om de toepassingen van autonome auto’s en zelfrijdende auto’s volledig te maximaliseren, zou het model idealiter in staat moeten zijn om aan te passen aan real-time gegevens.

Gegevenspatroonclassificatie en -compressie

Een van de grootste uitdagingen van het huidige TinyML-framework is om het in staat te stellen om aan te passen aan online trainingsgegevens. Om dit aan te pakken, hebben ontwikkelaars een methode voorgesteld die bekend staat als TinyOL of TinyML Online Learning, om training met incrementele online learning op microcontroller-eenheden mogelijk te maken, waardoor het model kan worden bijgewerkt op IoT-edge-apparaten. De implementatie werd bereikt met behulp van de C++-programmeertaal en een extra laag werd toegevoegd aan de TinyOL-architectuur.

Bovendien hebben ontwikkelaars ook de auto-encoding van de Arduino Nano 33 BLE-sensorboard uitgevoerd en het getrainde model was in staat om nieuwe gegevenspatronen te classificeren. Bovendien omvatte de ontwikkelingswerk het ontwerpen van efficiënte en geoptimaliseerde algoritmen voor neurale netwerken om apparaattrainingspatronen online te ondersteunen.

Onderzoek naar TinyOL en TinyML heeft aangetoond dat het aantal activatielagen een groot probleem is voor IoT-edge-apparaten met beperkte resources. Om dit aan te pakken, hebben ontwikkelaars het nieuwe TinyTL- of Tiny Transfer Learning-model geïntroduceerd om het gebruik van geheugen op IoT-edge-apparaten effectiever te maken en het gebruik van tussenliggende lagen voor activatie-doeleinden te vermijden. Bovendien hebben ontwikkelaars ook een geheel nieuw bias-module genaamd “lite-residual module” geïntroduceerd om de aanpassingsmogelijkheden te maximaliseren en tegelijkertijd feature-extractors in staat te stellen om residu-kenmerkkaarten te ontdekken.

Toen het werd vergeleken met full network fine-tuning, waren de resultaten in het voordeel van de TinyTL-architectuur, aangezien de resultaten aantoonden dat TinyTL de geheugenvoetafdruk ongeveer 6,5 keer kon verlagen met een matige nauwkeurigheidsverlies. Toen de laatste laag werd gefinetuned, had TinyML de nauwkeurigheid met 34% verbeterd met een matige nauwkeurigheidsverlies.

Bovendien heeft onderzoek naar gegevenscompressie aangetoond dat gegevenscompressie-algoritmen de verzamelde gegevens op een draagbaar apparaat moeten beheren en om dit te bereiken, hebben ontwikkelaars TAC of Tiny Anomaly Compressor voorgesteld. De TAC was in staat om SDT of Swing Door Trending en DCT of Discrete Cosine Transform-algoritmen te overtreffen. Bovendien overtrof het TAC-algoritme zowel de SDT- als de DCT-algoritmen door een maximale compressiesnelheid van meer dan 98% te bereiken en een superieure piek-signaal-ruisverhouding te hebben van de drie algoritmen.

Gezondheidsdiagnose

De COVID-19-pandemie heeft nieuwe kansen geopend voor de implementatie van TinyML, aangezien het nu een essentiële praktijk is om continue te detecteren van respiratoire symptomen gerelateerd aan hoesten en verkoudheid. Om ononderbroken monitoring te garanderen, hebben ontwikkelaars een CNN-model voorgesteld dat werkt op een multi-model instelling en het model is geïmplementeerd op een Xilinx Artix-7 100t FPGA dat het apparaat in staat stelt om gegevens parallel te verwerken, heeft een hoge efficiëntie en laag energieverbruik. Bovendien neemt het TinyResp-model ook de spraak van patiënten, audiorecording en demografische informatie als invoer om te classificeren en de hoestgerelateerde symptomen van een patiënt worden geklassificeerd met behulp van drie onderscheiden datasets.

Bovendien hebben ontwikkelaars ook een model voorgesteld dat in staat is om diepe leercomputaties uit te voeren op edge-apparaten, een TinyML-model genaamd TinyDL. Het TinyDL-model kan worden geïmplementeerd op edge-apparaten zoals smartwatches en wearables voor gezondheidsdiagnose en is ook in staat om prestatieanalyse uit te voeren om bandbreedte, latentie en energieverbruik te verlagen. Om de implementatie van TinyDL op draagbare apparaten te bereiken, is een LSTM-model ontworpen en getraind voor een specifiek draagbaar apparaat en het werd gevoed met verzamelde gegevens als invoer. Het model heeft een nauwkeurigheidsscore van ongeveer 75 tot 80% en het was in staat om te werken met off-device gegevens.

Ten slotte hebben ontwikkelaars ook een andere toepassing voorgesteld om de gezondheid van ouderen te monitoren door hun lichaamshouding te schatten en te analyseren. Het model gebruikt de agnostische framework op het apparaat dat het model in staat stelt om validatie en snelle aanpassing te ondersteunen. Het model implementeert lichaamshoudingsalgoritmen gekoppeld aan gezichtskenmerken om spatiotemporele lichaamshoudingen in real-time te detecteren.

Edge Computing

Een van de belangrijkste toepassingen van TinyML is in het veld van edge computing, aangezien het essentieel is om edge-apparaten in te stellen met de toename van het gebruik van IoT-apparaten om apparaten over de hele wereld te verbinden. Deze edge-apparaten zullen individuele datacenters hebben die hen in staat stellen om hoge computing uit te voeren op het apparaat zelf, in plaats van te vertrouwen op de cloud-architectuur. Als gevolg hiervan zal het helpen om de afhankelijkheid van de cloud te verlagen, de latentie te verlagen, de gebruikersbeveiliging en -privacy te verbeteren en de bandbreedte te verlagen.

Edge-apparaten die TinyML-algoritmen gebruiken, zullen helpen om de huidige beperkingen met betrekking tot energieverbruik, rekenkracht en geheugencapaciteit op te lossen en dit wordt besproken in de onderstaande afbeelding.

Bovendien kan TinyML ook de toepassing en het gebruik van onbemande luchtvaartuigen (UAV’s) verbeteren door de huidige beperkingen die door deze machines worden geconfronteerd, aan te pakken. Het gebruik van TinyML kan ontwikkelaars in staat stellen om een energie-efficiënt apparaat te implementeren met lage latentie en hoge rekenkracht dat kan fungeren als een controller voor deze UAV’s.

Hersenen-Computerinterface of BCI

TinyML heeft significante toepassingen in de gezondheidszorgindustrie en kan zeer nuttig zijn in verschillende gebieden, waaronder kanker- en tumordetectie, gezondheidsvoorspellingen met behulp van ECG- en EEG-signalen en emotionele intelligentie. Het gebruik van TinyML kan de Adaptive Deep Brain Stimulation (aDBS) in staat stellen om klinische aanpassingen aan te passen. Het gebruik van TinyML kan ook aDBS in staat stellen om ziekterelateerde biomarkers en hun symptomen te identificeren met behulp van invasieve opnames van hersensignalen.

Bovendien omvat de gezondheidszorgindustrie vaak de verzameling van een grote hoeveelheid patiëntgegevens en deze gegevens moeten vervolgens worden verwerkt om specifieke oplossingen voor de behandeling van een patiënt in de vroege stadia van een ziekte te bereiken. Als gevolg hiervan is het essentieel om een systeem te bouwen dat niet alleen zeer effectief is, maar ook zeer veilig. Wanneer we IoT-toepassingen combineren met het TinyML-model, wordt een nieuw veld geboren dat bekend staat als de H-IoT of Healthcare Internet of Things, en de belangrijkste toepassingen van de H-IoT zijn diagnose, monitoring, logistiek, verspreidingscontrole en ondersteunende systemen. Als we apparaten willen ontwikkelen die in staat zijn om de gezondheid van een patiënt op afstand te detecteren en te analyseren, is het essentieel om een systeem te ontwikkelen dat globale toegankelijkheid en lage latentie heeft.

Autonome Voertuigen

Ten slotte kan TinyML een breed scala aan toepassingen hebben in de autonome voertuigenindustrie, aangezien deze voertuigen op verschillende manieren kunnen worden gebruikt, waaronder menselijke tracking, militaire toepassingen en industriële toepassingen. Deze voertuigen hebben een primaire vereiste om objecten efficiënt te kunnen identificeren wanneer het object wordt gezocht.

Op dit moment is autonome rijden en autonome rijden een vrij complexe taak, vooral bij het ontwikkelen van mini- of kleine voertuigen. Recent onderzoek heeft aangetoond dat het mogelijk is om de toepassing van autonome rijden voor mini-voertuigen te verbeteren door het gebruik van een CNN-architectuur en het implementeren van het model op de GAP8 MCI.

Uitdagingen

TinyML is een relatief nieuw concept in de AI- en ML-industrie en ondanks de vooruitgang is het nog niet zo effectief als we nodig hebben voor massale inzet op edge- en IoT-apparaten.

De grootste uitdaging die momenteel door TinyML-apparaten wordt geconfronteerd, is het energieverbruik van deze apparaten. Ideaal gezien moeten ingebedde edge- en IoT-apparaten een batterijlevensduur hebben die zich uitstrekt over 10 jaar. Bijvoorbeeld, in ideale omstandigheden, zou een IoT-apparaat dat draait op een 2Ah-batterij een batterijlevensduur van meer dan 10 jaar moeten hebben, aangezien het energieverbruik van het apparaat ongeveer 12 uA is. Echter, in de gegeven staat, heeft een IoT-architectuur met een temperatuursensor, een MCU-eenheid en een WiFi-module een stroomverbruik van ongeveer 176,4 mA en met dit energieverbruik zal de batterij slechts ongeveer 11 uur meegaan, in plaats van de vereiste 10 jaar batterijlevensduur.

Resourcebeperkingen

Om de consistentie van een algoritme te behouden, is het essentieel om de beschikbaarheid van energie te behouden en gezien de huidige situatie is de beperkte energieverbruikbeschikbaarheid voor TinyML-apparaten een kritieke uitdaging. Bovendien vormen geheugenbeperkingen ook een significante uitdaging, aangezien het implementeren van modellen vaak een hoge hoeveelheid geheugen vereist om effectief en nauwkeurig te werken.

Hardwarebeperkingen

Hardwarebeperkingen maken het moeilijk om TinyML-algoritmen op grote schaal te implementeren vanwege de heterogeniteit van hardware-apparaten. Er zijn duizenden apparaten, elk met hun eigen hardware-specificaties en -vereisten en als gevolg hiervan moet een TinyML-algoritme momenteel worden aangepast voor elk individueel apparaat, waardoor massale inzet een groot probleem is.

Gegevenssetbeperkingen

Een van de belangrijkste problemen met TinyML-modellen is dat ze de bestaande gegevenssets niet ondersteunen. Het is een uitdaging voor alle edge-apparaten, aangezien ze gegevens verzamelen met behulp van externe sensoren en deze apparaten vaak energieverbruik- en geheugenbeperkingen hebben. Als gevolg hiervan kunnen de bestaande gegevenssets niet effectief worden gebruikt om TinyML-modellen te trainen.

Slotbeschouwing

De ontwikkeling van ML-technieken heeft een revolutie en een verschuiving in perspectief teweeggebracht in het IoT-ecosysteem. De integratie van ML-modellen in IoT-apparaten zal deze edge-apparaten in staat stellen om intelligente beslissingen te nemen zonder enige externe menselijke invoer. Echter, conventioneel gezien hebben ML-modellen vaak hoge energieverbruik-, geheugen- en rekenkrachteisen, waardoor ze ongeschikt zijn voor implementatie op edge-apparaten die vaak resource-beperkt zijn.

Als gevolg hiervan is een nieuwe tak in AI gewijd aan het gebruik van ML voor IoT-apparaten en het is aangeduid als TinyML. TinyML is een ML-framework dat zelfs resource-beperkte apparaten in staat stelt om de kracht van AI en ML te benutten om hogere nauwkeurigheid, intelligentie en efficiëntie te garanderen.

In dit artikel hebben we gesproken over de implementatie van TinyML-modellen op resource-beperkte IoT-apparaten en deze implementatie vereist het trainen van modellen, het implementeren van modellen op hardware en het uitvoeren van kwantificatietechnieken. Echter, gezien de huidige reikwijdte, hebben de ML-modellen die klaar zijn om te worden geïmplementeerd op IoT- en edge-apparaten verschillende complexiteiten en beperkingen, waaronder hardware- en framework-compatibiliteitsproblemen.