TinyML: Anvendelser, Begrænsninger og Brug i IoT & Edge-Enheder

I de seneste år har kunstig intelligens (AI) og maskinlæring (ML) oplevet en meteoritisk stigning i popularitet og anvendelser, ikke kun i industrien, men også i akademiske kredse. Imidlertid har dagens ML- og AI-modeller en stor begrænsning: de kræver en enorm mængde beregnings- og processorkraft for at opnå de ønskede resultater og nøjagtighed. Dette begrænser ofte deres brug til højkapacitetsenheder med betydelig beregningskraft.

Men takket være fremskridtene inden for indlejret systemteknologi og betydelig udvikling inden for Internet of Things-industrien, er det ønskeligt at inkorporere brugen af ML-teknikker og -koncepter i en ressourcebegrænset indlejret system til almindelig intelligens. Ønsket om at bruge ML-koncepter i indlejrede og IoT-systemer er den primære motivationsfaktor bag udviklingen af TinyML, en indlejret ML-teknik, der tillader ML-modeller og -applikationer på multiple ressourcebegrænsede, strømbegrænsede og billige enheder.

Imidlertid har implementeringen af ML på ressourcebegrænsede enheder ikke været enkel, da implementeringen af ML-modeller på enheder med lav beregningskraft medfører sine egne udfordringer i forhold til optimering, processorkapacitet, pålidelighed, vedligeholdelse af modeller og meget mere.

I denne artikel vil vi dykke dybere ind i TinyML-modellen og lære mere om dens baggrund, værktøjerne, der understøtter TinyML, og anvendelserne af TinyML ved hjælp af avancerede teknologier. Så lad os starte.

En Introduktion til TinyML: Hvorfor Verden Har Brug for TinyML

Internet of Things eller IoT-enheder sigter mod at udnytte edge-computing, en beregningsparadigme, der refererer til en række enheder og netværk nær brugeren for at enable smidig og realtid-bearbejdning af data fra millioner af sensorer og enheder, der er forbundet til hinanden. En af de største fordele ved IoT-enheder er, at de kræver lav beregnings- og processorkraft, da de kan deployes på netværkskanten og derfor har en lavt mindeaftryk.

Desuden afhænger IoT-enheder stærkt af edge-platforme til at indsamle og transmittere data, da disse edge-enheder indsamler sensordata og transmitterer dem enten til en nærliggende lokalitet eller cloud-platforme for bearbejdning. Edge-computing-teknologien gemmer og udfører beregninger på dataene og tilbyder også den nødvendige infrastruktur til at understøtte den distribuerede beregning.

Implementeringen af edge-computing i IoT-enheder giver

1. Effektiv sikkerhed, privatliv og pålidelighed til slutbrugerne.
2. Lavere forsinkelse.
3. Højere tilgængelighed og gennemstrømningssvar til applikationer og tjenester.

Desuden, da edge-enheder kan deployere en samarbejdende teknik mellem sensorerne og cloud-platformen, kan data bearbejdning udføres på netværkskanten i stedet for på cloud-platformen. Dette kan resultere i effektiv datastyring, datavarighed, effektiv levering og indholdscaching. Derudover kan edge-computing også forbedre netværkstjenesterne betydeligt i applikationer, der handler om H2M eller Human to Machine-interaktion og moderne sundhedspleje.

Seneste forskning inden for IoT edge-computing har demonstreret potentialet for at implementere Machine Learning-teknikker i flere IoT-brugsområder. Imidlertid er det største problem, at traditionelle machine learning-modeller ofte kræver stærk beregnings- og processorkraft samt høj hukommelseskapacitet, hvilket begrænser implementeringen af ML-modeller i IoT-enheder og -applikationer.

Desuden mangler edge-computing-teknologien i dag i høj transmissionskapacitet og effektiv strømspare, hvilket fører til heterogene systemer, som er den primære årsag til behovet for en harmonisk og holistisk infrastruktur, primært til opdatering, træning og deployment af ML-modeller. Arkitekturen, der er designet til indlejrede enheder, stiller endnu en udfordring, da disse arkitekturer afhænger af hardware- og softwarekrav, der varierer fra enhed til enhed. Det er den primære årsag til, at det er svært at bygge en standard ML-arkitektur for IoT-netværk.

Desuden sendes data, der genereres af forskellige enheder, i øjeblikket til cloud-platforme for bearbejdning på grund af den beregningsintensive natur af netværksimplementeringer. Derudover er ML-modeller ofte afhængige af Deep Learning, Deep Neural Networks, Application Specific Integrated Circuits (ASICs) og Graphic Processing Units (GPUs) til bearbejdning af data, og de har ofte en højere strøm- og hukommelseskrav. At deploye fuldstændige ML-modeller på IoT-enheder er ikke en viable løsning på grund af den åbenlyse mangel på beregnings- og processorkraft samt begrænsede lagringsløsninger.

Behovet for at miniaturisere lavstrømsindlejrede enheder kombineret med at optimere ML-modeller for at gøre dem mere strøm- og hukommelseseffektive har banet vejen for TinyML, der sigter mod at implementere ML-modeller og -praktikker på edge IoT-enheder og -rammer. TinyML muliggør signalbehandling på IoT-enheder og giver indlejret intelligens, hvilket eliminerer behovet for at overføre data til cloud-platforme for bearbejdning. En succesfuld implementering af TinyML på IoT-enheder kan ultimativt resultere i øget privatliv og effektivitet, samtidig med at den reducerer driftsomkostningerne. Derudover er det, hvad der gør TinyML endnu mere tiltrækkende, at den i tilfælde af utilstrækkelig forbindelse kan give on-premise-analyse.

TinyML: Introduktion og Overblik

TinyML er et machine learning-værktøj, der kan udføre analytics på enheden for forskellige sensoriske modaliteter som lyd, syn og tale. ML-modeller, der er bygget på TinyML-værktøjet, har lav strøm-, hukommelses- og beregningskrav, hvilket gør dem egnet til indlejrede netværk og enheder, der opererer på batterikraft. Derudover gør TinyML’s lave krav det til en ideal løsning til at deploye ML-modeller på IoT-rammen.

I øjeblikket står cloud-baserede ML-systemer over for nogle udfordringer, herunder sikkerheds- og privatlivsproblemer, høj strømforbrug, pålidelighed og forsinkelsesproblemer, hvilket er årsagen til, at modeller på hardware-software-platforme er forudindstalleret. Sensorer indsamler data, der simulerer den fysiske verden, og bearbejdes derefter ved hjælp af en CPU eller MPU (Microprocessing unit). MPU’en dækker ML-analysestøtten, der er aktiveret af edge-vidende ML-netværk og -arkitektur. Edge ML-arkitektur kommunikerer med ML-cloud’en for dataoverførsel og implementering af TinyML, hvilket kan resultere i en betydelig fremgang i teknologien.

Det ville være sikkert at sige, at TinyML er en kombination af software, hardware og algoritmer, der arbejder i harmoni med hinanden for at levere den ønskede præstation. Analog eller hukommelsesbaseret beregning kan være nødvendig for at give en bedre og mere effektiv læringsoplevelse for hardware- og IoT-enheder, der ikke understøtter hardware-acceleratorer. Hvad angår software, kan applikationer, der er bygget med TinyML, deployes og implementeres på platforme som Linux eller indlejret Linux og på cloud-aktiveret software. Endelig skal applikationer og systemer, der er bygget på TinyML-algoritmen, have støtte fra nye algoritmer, der kræver lav hukommelsesstørrelse for at undgå høj hukommelsesforbrug.

For at sammenfatte, skal applikationer, der er bygget med TinyML-værktøjet, optimere ML-principper og -metoder samt designe softwaren kompakt i nærværelse af højkvalitetsdata. Disse data skal derefter overføres gennem binærfiler, der er genereret ved hjælp af modeller, der er trænet på maskiner med langt større kapacitet og beregningskraft.

Desuden skal systemer og applikationer, der kører på TinyML-værktøjet, give høj nøjagtighed, når de udføres under strammere begrænsninger, da kompakt software er nødvendig for lav strømforbrug, der understøtter TinyML-implikationer. Derudover kan TinyML-applikationer eller -moduler afhænge af batterikraft for at understøtte deres operationer på edge-indlejrede systemer.

Med det sagt har TinyML-applikationer to grundlæggende krav

1. Evnen til at skala til milliarder af billige indlejrede systemer.
2. At gemme koden på enhedens RAM med en kapacitet på under få KB.

Anvendelser af TinyML ved hjælp af Avancerede Teknologier

En af de største årsager til, at TinyML er et hot emne i AI- og ML-industrien, er på grund af dets potentielle anvendelser, herunder vision- og talebaserede applikationer, sundhedsdiagnose, datapatternklassifikation og -komprimering, hjernecomputergrænseflade, edge-computing, fenomik, selvstyrende køretøjer og mere.

Talebaserede Applikationer

Talekommunikation

Typisk afhænger talebaserede applikationer af konventionelle kommunikationsmetoder, hvor alle data er vigtige og overføres. Imidlertid er semantisk kommunikation dukket op som en alternativ til konventionel kommunikation, da kun betydningen eller konteksten af data overføres i semantisk kommunikation. Semantisk kommunikation kan implementeres på talebaserede applikationer ved hjælp af TinyML-metoder.

Nogle af de mest populære applikationer i talekommunikationsindustrien i dag er taledetektering, talegenkendelse, online-læring, online-undervisning og målrettet kommunikation. Disse applikationer har typisk et højere strømforbrug og har også høje datakrav på værtenheden. For at overvinde disse krav er der introduceret en ny TinySpeech-bibliotek, der giver udviklere mulighed for at bygge en lav beregningsarkitektur, der bruger dybe convolutionelle netværk til at bygge en lav lagringsfacilitet.

For at bruge TinyML til taleforbedring har udviklere først løst størrelsen af taleforbedringsmodellen, da den var underlagt hardwarebegrænsninger og -begrænsninger. For at tackle problemet blev struktureret beskæring og integer-kvantificering for RNN eller Recurrent Neural Networks taleforbedringsmodel deployet. Resultaterne viste, at modellens størrelse kunne reduceres med næsten 12 gange, mens operationerne kunne reduceres med næsten 3 gange. Derudover er det afgørende, at ressourcerne skal udnyttes effektivt, især når de deployes på ressourcebegrænsede applikationer, der udfører stemmegenkendelsesapplikationer.

Som resultat blev en co-design-metode foreslået til TinyML-baserede stemme- og talegenkendelsesapplikationer. Udviklerne brugte en vindueoperation til at partitionere software og hardware på en måde, der kunne forudbehandle de rå lyddata. Metoden virkede, da resultaterne viste en reduktion i energiforbrug på hardwaren. Endelig er der også potentiale for at implementere optimeret partitionering mellem software- og hardware-co-design for bedre præstation i nærmeste fremtid.

Desuden har ny forskning foreslået brugen af en telefonbaseret transducer til talegenkendelsessystemer, og forslaget sigter mod at erstatte LSTM-forudsigelser med en Conv1D-lag for at reducere beregningsbehovene på edge-enheder. Da det blev implementeret, returnerede forslaget positive resultater, da SVD eller Singular Value Decomposition havde komprimeret modellen succesfuldt, mens brugen af WFST eller Weighted Finite State Transducers-baseret afkodning resulterede i mere fleksibilitet i modelforbedring.

Mange prominente applikationer af talegenkendelse som virtuelle eller stemmeassistenter, live-undertekstning og stemmekommandoer bruger ML-teknikker til at fungere. Populære stemmeassistenter som Siri og Google Assistant pinger cloud-platformen hver gang, de modtager nogen data, og det skaber betydelige bekymringer relateret til privatliv og datasikkerhed. TinyML er en viable løsning til problemet, da den sigter mod at udføre talegenkendelse på enheder og eliminerer behovet for at overføre data til cloud-platforme. En af måderne at opnå talegenkendelse på enheden er at bruge Tiny Transducer, en talegenkendelsesmodel, der bruger en DFSMN eller Deep Feed-Forward Sequential Memory Block-lag kombineret med en Conv1D-lag i stedet for LSTM-lagene for at reducere beregningskravene og netværksparametrene.

Hørehjælpemidler

Høretab er en stor sundhedsbekymring på verdensplan, og menneskets evne til at høre lyde generelt svækkes med alderen, og det er et stort problem i lande, der har en aldrende befolkning, herunder Kina, Japan og Sydkorea. Hørehjælpemidler fungerer i øjeblikket på den simple princip om at forstærke alle inputlyde fra omgivelserne, hvilket gør det svært for personen at skelne eller differentiere mellem den ønskede lyd, især i en støjende omgang.

TinyML kan være en viable løsning for dette problem, da brugen af en TinyLSTM-model, der bruger en talegenkendelsesalgoritme til hørehjælpemidler, kan hjælpe brugerne med at skelne mellem forskellige lyde.

Visionbaserede Applikationer

TinyML har potentiale til at spille en afgørende rolle i bearbejdning af computer vision-baserede datasæt, da disse datasæt kræver hurtige outputs og skal bearbejdes på edge-platformen selv. For at opnå dette møder TinyML-modellen de praktiske udfordringer, der er forbundet med træning af modellen ved hjælp af OpenMV H7-mikrocontrollerboardet. Udviklerne har også foreslået en arkitektur til at detektere amerikansk tegnsprog ved hjælp af en ARM Cortex M7-mikrocontroller, der kun fungerer med 496KB af frame-buffer RAM.

Implementeringen af TinyML til computer vision-baserede applikationer på edge-platforme krævede, at udviklerne overvandt den store udfordring med CNN eller Convolutional Neural Networks med en høj generaliseringsfejl og høj trænings- og testningsnøjagtighed. Imidlertid generaliserede implementeringen ikke effektivt til billeder i nye brugsområder samt baggrunde med støj. Da udviklerne brugte interpolationsforstærkningsmetoden, returnerede modellen en nøjagtighedsscore på over 98% på testdata og omkring 75% i generalisering.

Desuden blev det observeret, at da udviklerne brugte interpolationsforstærkningsmetoden, var der en reduktion i modellens nøjagtighed under kvantificering, men samtidig var der også en stigning i modellens inferenshastighed og klassifikationsgeneralisering. Udviklerne har også foreslået en metode til yderligere at forbedre nøjagtigheden af generaliseringsmodeltræning på data, der er erhvervet fra en række forskellige kilder, og testning af præstationen for at udforske muligheden for at deployere det på edge-platforme som bærbare smarture.

Desuden har yderligere studier af CNN vist, at det er muligt at deployere og opnå ønskede resultater med CNN-arkitektur på enheder med begrænsede ressourcer. Nyligt har udviklere kunnet udvikle en ramme for detektering af medicinske ansigtsmasker på en ARM Cortex M7-mikrocontroller med begrænsede ressourcer ved hjælp af TensorFlow Lite med minimalt mindeaftryk. Modellens størrelse efter kvantificering var omkring 138 KB, mens interferenshastigheden på målboardet var omkring 30 FPS.

En anden applikation af TinyML til computer vision-baserede applikationer er at implementere en gestigenkendelsesenhed, der kan klammes til en stok for at hjælpe synshandicappede mennesker med at navigere gennem deres daglige liv. For at designe det brugte udviklerne gestursdatasættet og brugte datasættet til at træne ProtoNN-modellen med en klassifikationsalgoritme. Resultaterne, der blev opnået fra setuppet, var nøjagtige, designet var billigt, og det leverede tilfredsstillende resultater.

En anden betydelig applikation af TinyML er i selvstyrende og autonome køretøjer på grund af manglen på ressourcer og om bord-computereffekt. For at tackle problemet har udviklere introduceret en lukket læringsmetode bygget på TinyCNN-modellen, der foreslår en online-forudsigelsesmodel, der fanger billedet i køretilstanden. Det største problem, som udviklerne stod over for, da de implementerede TinyML til autonom kørsel, var, at beslutningsmodellen, der var trænet til at fungere på offline-data, måske ikke ville fungere lige så godt, når den havde at gøre med online-data. For at maksimere applikationerne af autonome biler og selvstyrende køretøjer skal modellen ideelt være i stand til at tilpasse sig til realtidsdata.

Data Pattern Klassifikation og Komprimering

En af de største udfordringer for den nuværende TinyML-ramme er at få den til at tilpasse sig til online-træningsdata. For at tackle problemet har udviklere foreslået en metode kendt som TinyOL eller TinyML Online Learning, der giver mulighed for træning med inkrementel online-læring på mikrocontrollerenheder, hvilket giver mulighed for at opdatere modellen på IoT-edge-enheder. Implementeringen blev opnået ved hjælp af C++-programmeringssproget, og en ekstra lag blev tilføjet til TinyOL-arkitekturen.

Desuden har udviklere også udført auto-kodningen af Arduino Nano 33 BLE-sensorboardet, og modellen, der blev trænet, kunne klassificere nye datapatterns. Derudover omfattede udviklingsarbejdet design af effektive og mere optimerede algoritmer for neurale netværk til at understøtte enhedstræning på nettet.

Forskning i TinyOL og TinyML har vist, at antallet af aktiveringslag har været et større problem for IoT-edge-enheder med begrænsede ressourcer. For at tackle problemet har udviklere introduceret den nye TinyTL eller Tiny Transfer Learning-model til at gøre brugen af hukommelse på IoT-edge-enheder mere effektiv og undgå brugen af mellemled for aktiveringsformål. Derudover har udviklere også introduceret en helt ny biasmodul kendt som “lite-residualmodul” for at maksimere tilpasningsmulighederne og give mulighed for, at feature-udtrækningsmodeller kan opdage residuelle feature-kort.

Når det sammenlignes med fuld netværksfinjustering, var resultaterne til fordel for TinyTL-arkitekturen, da resultaterne viste, at TinyTL reducerer hukommelsesoverhovedet omkring 6,5 gange med moderat nøjagtighedsstab. Når den sidste lag var finjusteret, havde TinyML forbedret nøjagtigheden med 34% med moderat nøjagtighedsstab.

Desuden har forskning i datakomprimering vist, at datakomprimeringsalgoritmer skal styre den indsamlede data på en bærbar enhed, og for at opnå dette har udviklere foreslået TAC eller Tiny Anomaly Compressor. TAC kunne overgå SDT eller Swing Door Trending og DCT eller Discrete Cosine Transform-algoritmer. Derudover overgik TAC-algoritmen både SDT- og DCT-algoritmerne ved at opnå en maksimal kompressionsrate på over 98% og havde den bedste peak signal-støj-forhold af de tre algoritmer.

Sundhedsdiagnose

Covid-19-pandemien åbnede nye muligheder for implementeringen af TinyML, da det nu er en essentiel praksis at kontinuerligt detektere respiratoriske symptomer relateret til hoste og forkølelse. For at sikre uafbrudt overvågning har udviklere foreslået en CNN-model Tiny RespNet, der fungerer på en multi-model-indstilling, og modellen er deployet på en Xilinx Artix-7 100t FPGA, der giver enheden mulighed for at bearbejde informationen parallelt, har en høj effektivitet og lav strømforbrug. Derudover tager TinyResp-modellen også patientens tale, lydoptagelser og demografisk information som input for at klassificere og hosterelaterede symptomer hos en patient.

Desuden har udviklere også foreslået en model, der kan køre dyb læring på edge-enheder, en TinyML-model kendt som TinyDL. TinyDL-modellen kan deployes på edge-enheder som smarture og bærbare enheder til sundhedsdiagnose og er også i stand til at udføre præstationsanalyse for at reducere båndbredde, forsinkelse og energiforbrug. For at opnå deployment af TinyDL på håndholdte enheder blev en LSTM-model designet og trænet specifikt for en bærbar enhed, og den blev fødet indsamlet data som input. Modellen havde en nøjagtighedsscore på omkring 75 til 80% og kunne også fungere med off-device-data.

Endelig har udviklere også foreslået en anden applikation til at overvåge ældre menneskers sundhed ved at estime og analysere deres kropsholdninger. Modellen bruger en agnostisk ramme på enheden, der giver modellen mulighed for at aktivere validering og hurtig tilpasning for at udføre tilpasninger. Modellen implementerede kropsholdningsalgoritmer kombineret med ansigtslandemærker for at detektere rumligt-tidsmæssige kropsholdninger i realtid.

Edge-Computing

En af de største applikationer af TinyML er inden for edge-computing, da det med den øgede brug af IoT-enheder til at forbinde enheder på verdensplan, er essentiel at etablere edge-enheder, der kan udføre højniveau-beregning på enheden selv, i stedet for at afhænge af cloud-arkitekturen. Disse edge-enheder vil have individuelle datacentre, der giver dem mulighed for at udføre beregninger på enheden selv, hvilket vil reducere afhængigheden af cloud’en, reducere forsinkelse, forbedre brugerens sikkerhed og privatliv samt reducere båndbredde.

Edge-enheder, der bruger TinyML-algoritmer, vil hjælpe med at løse de nuværende begrænsninger relateret til strøm, beregning og hukommelseskrav, og det diskuteres i billedet nedenfor.

Desuden kan TinyML også forbedre brugen og applikationen af UAV’er (Unmanned Aerial Vehicles) ved at tackle de nuværende begrænsninger, som disse maskiner står over for. Brugen af TinyML kan give udviklere mulighed for at implementere en energi-effektiv enhed med lav forsinkelse og høj beregningskraft, der kan fungere som en controller for disse UAV’er.

Hjernecomputergrænseflade eller BCI

TinyML har betydelig applikationer inden for sundhedsindustrien og kan være meget nyttig i forskellige områder, herunder kræft- og tumor-detektion, sundhedsforudsigelser ved hjælp af ECG- og EEG-signaler samt emotionel intelligens. Brugen af TinyML kan give mulighed for, at Adaptive Deep Brain Stimulation (aDBS) kan tilpasse sig kliniske tilpasninger. Brugen af TinyML kan også give mulighed for, at aDBS kan identificere sygdomsrelaterede biomarkører og deres symptomer ved hjælp af invasive optagelser af hjernesignalerne.

Desuden omfatter sundhedsindustrien ofte indsamlingen af en stor mængde data om en patient, og disse data skal derefter bearbejdes for at nå specifikke løsninger for patientens behandling i de tidlige stadier af en sygdom. Som resultat er det afgørende at bygge et system, der ikke kun er højtydende, men også højtsikret. Når vi kombinerer IoT-applikationer med TinyML-modellen, fødes et nyt felt, der hedder H-IoT eller Healthcare Internet of Things, og de primære applikationer af H-IoT er diagnose, overvågning, logistik, kontrollen af spredning og assistive systemer. Hvis vi ønsker at udvikle enheder, der kan detektere og analysere en patients sundhed på afstand, er det essentiel at udvikle et system, der har global tilgængelighed og lav forsinkelse.

Autonome Køretøjer

Endelig kan TinyML have vidt udbredte applikationer inden for den autonome køretøjsindustri, da disse køretøjer kan anvendes på forskellige måder, herunder menneske-sporing, militære formål og har industrielle applikationer. Disse køretøjer har en primær krav om at kunne identificere objekter effektivt, når objektet søges.

I øjeblikket er autonome køretøjer og selvstyrende kørsel en ret kompleks opgave, især når det kommer til udvikling af mini- eller små køretøjer. Nylige udviklinger har vist potentiale til at forbedre applikationen af selvstyrende kørsel til mini-køretøjer ved hjælp af en CNN-arkitektur og deployeringsmodellen på GAP8 MCI.

Udfordringer

TinyML er et relativt nyt koncept i AI- og ML-industrien, og på trods af fremskridtene er det stadig ikke så effektivt, som vi har brug for til massedeployment på edge- og IoT-enheder.

Den største udfordring, som TinyML-enheder står over for i øjeblikket, er strømforbrug. Ideelt set skal indlejrede edge- og IoT-enheder have en batterilevetid, der strækker sig over 10 år. For eksempel, i ideelle betingelser, en IoT-enhed, der kører på en 2Ah-batteri, skal have en batterilevetid på over 10 år, givet at strømforbrug er omkring 12 uA. Imidlertid, i den givne tilstand, en IoT-arkitektur med en temperatursensor, en MCU-enhed og en WiFi-modul, står strømforbrug på omkring 176,4 mA, og med dette strømforbrug vil batteriet kun vare i omkring 11 timer, i stedet for de nødvendige 10 års batterilevetid.

Ressourcebegrænsninger

For at opretholde en algoritmes konsistens er det afgørende at opretholde strømtilgængelighed, og givet den nuværende situation, er den begrænsede strømtilgængelighed for TinyML-enheder en kritisk udfordring. Derudover er hukommelsesbegrænsninger også en betydelig udfordring, da deployering af modeller ofte kræver en stor mængde hukommelse for at fungere effektivt og nøjagtigt.

Hardwarebegrænsninger

Hardwarebegrænsninger gør det svært at deploye TinyML-algoritmer på en bred skala på grund af hardwareenhedernes heterogenitet. Der er tusinder af enheder, hver med deres egne hardware-specifikationer og -krav, og som resultat skal en TinyML-algoritme i øjeblikket tilpasses til hver enkelt enhed, hvilket gør massedeployment til et stort problem.

Datasætbegrænsninger

En af de største problemer med TinyML-modeller er, at de ikke understøtter de eksisterende datasæt. Det er en udfordring for alle edge-enheder, da de indsamler data ved hjælp af eksterne sensorer, og disse enheder har ofte strøm- og energibegrænsninger. Derfor kan de eksisterende datasæt ikke bruges til at træne TinyML-modellerne effektivt.

Endelige Tanker

Udviklingen af ML-teknikker har ført til en revolution og en skift i perspektiv inden for IoT-økosystemet. Integrationen af ML-modeller i IoT-enheder vil give disse edge-enheder mulighed for at træffe intelligente beslutninger på egen hånd uden nogen ydre menneskelig indput. Imidlertid har konventionelle ML-modeller ofte høje strøm-, hukommelses- og beregningskrav, hvilket gør dem upassende til deployment på edge-enheder, der ofte er ressourcebegrænsede.

Som resultat blev en ny gren i AI dedikeret til brugen af ML til IoT-enheder, og den blev betegnet som TinyML. TinyML er en ML-ramme, der giver selv ressourcebegrænsede enheder mulighed for at udnytte kraften af AI og ML for at sikre højere nøjagtighed, intelligens og effektivitet.

I denne artikel har vi talt om implementeringen af TinyML-modeller på ressourcebegrænsede IoT-enheder, og denne implementering kræver træning af modeller, deployment af modeller på hardwaren og udførelse af kvantificeringsteknikker. Imidlertid, givet den nuværende omfang, har ML-modellerne, der er klar til at blive deployet på IoT- og edge-enheder, flere kompleksiteter og begrænsninger, herunder hardware- og ramme-kompatibilitetsproblemer.