TinyML: Applikationer, Begränsningar och Användning i IoT- och Edge-enheter

Under de senaste åren har artificiell intelligens (AI) och maskinlärning (ML) upplevt en meteorisk ökning av popularitet och tillämpningar, inte bara inom industrin utan också inom akademin. Idag har dock ML- och AI-modellerna en stor begränsning: de kräver en enorm mängd beräknings- och processorkraft för att uppnå önskade resultat och noggrannhet. Detta begränsar ofta deras användning till enheter med hög beräkningsförmåga.

Men med tanke på de framsteg som gjorts inom inbäddad systemteknik och den betydande utvecklingen inom Internet of Things-industrin, är det önskvärt att införa användningen av ML-tekniker och -koncept i en resursbegränsad inbäddad system för allomfattande intelligens. Önskan att använda ML-koncept i inbäddade och IoT-system är den primära motivationsfaktorn bakom utvecklingen av TinyML, en inbäddad ML-teknik som tillåter ML-modeller och -applikationer på flera resursbegränsade, strömbegränsade och billiga enheter.

Men implementeringen av ML på resursbegränsade enheter har inte varit enkel, eftersom implementeringen av ML-modeller på enheter med låg beräkningskraft medför sina egna utmaningar i termer av optimering, bearbetningskapacitet, tillförlitlighet, underhåll av modeller och mycket mer.

I den här artikeln kommer vi att ta en djupare titt på TinyML-modellen och lära oss mer om dess bakgrund, de verktyg som stöder TinyML och tillämpningarna av TinyML med hjälp av avancerad teknik. Så låt oss börja.

En Introduktion till TinyML: Varför Världen Behöver TinyML

Internet of Things eller IoT-enheter syftar till att utnyttja edge-beräkning, en beräkningsparadigm som hänvisar till en uppsättning enheter och nätverk nära användaren för att möjliggöra sömlös och realtidsbearbetning av data från miljontals sensorer och enheter som är sammanlänkade till varandra. En av de stora fördelarna med IoT-enheter är att de kräver låg beräknings- och processorkraft, eftersom de kan distribueras vid nätverkskanten och därmed har en låg minnesavtryck.

Dessutom förlitar sig IoT-enheter tungt på edge-plattformar för att samla in och sedan överföra data, eftersom dessa edge-enheter samlar in sensordata och sedan överför dem antingen till en närliggande plats eller molnplattformar för bearbetning. Edge-beräkningsteknologin lagrar och utför beräkningar på data och tillhandahåller också den nödvändiga infrastrukturen för att stödja den distribuerade beräkningen.

Implementeringen av edge-beräkning i IoT-enheter tillhandahåller

1. Effektiv säkerhet, integritet och tillförlitlighet för slutanvändarna.
2. Lägre fördröjning.
3. Högre tillgänglighet och svarstid för applikationer och tjänster.

Dessutom, eftersom edge-enheter kan distribuera en samarbetsmetod mellan sensorer och molnet, kan data bearbetas vid nätverkskanten i stället för att bearbetas på molnplattformen. Detta kan resultera i effektiv datahantering, datapersistering, effektiv leverans och innehållscachning. Dessutom, för att implementera IoT i applikationer som hanterar H2M eller Human to Machine-interaktion och modern hälsovård, tillhandahåller edge-beräkning en metod för att förbättra nätverkstjänsterna avsevärt.

Nylig forskning inom området IoT-edge-beräkning har visat potentialen att implementera maskinlärningstekniker i flera IoT-användningsfall. Men det stora problemet är att traditionella maskinlärningsmodeller ofta kräver stark beräknings- och processorkraft och hög minneskapacitet, vilket begränsar implementeringen av ML-modeller i IoT-enheter och -applikationer.

Dessutom saknar edge-beräkningsteknologin idag hög överföringskapacitet och effektiv strömsparande, vilket leder till heterogena system, vilket är den primära orsaken till behovet av en harmonisk och holistisk infrastruktur, främst för uppdatering, utbildning och distribution av ML-modeller. Arkitekturen som är utformad för inbäddade enheter utgör en annan utmaning, eftersom dessa arkitekturer beror på hårdvaru- och programvarukrav som varierar från enhet till enhet. Det är den primära orsaken till att det är svårt att bygga en standard-ML-arkitektur för IoT-nätverk.

Även i den nuvarande scenariot skickas de data som genereras av olika enheter till molnplattformar för bearbetning på grund av den beräkningsintensiva naturen hos nätverksimplementeringar. Dessutom är ML-modeller ofta beroende av djupinlärning, djupa neuronnät, applikationsspecifika integrerade kretsar (ASIC) och grafikprocessorer (GPU) för att bearbeta data och de har ofta en högre effekt- och minneskrav. Att distribuera fullständiga ML-modeller på IoT-enheter är inte en livskraftig lösning på grund av den uppenbara bristen på beräknings- och processorkraft och begränsade lagringslösningar.

Kraven på att förminska lågeffektinbäddade enheter i kombination med att optimera ML-modeller för att göra dem mer effekt- och minneseffektiva har banat väg för TinyML, som syftar till att implementera ML-modeller och -praktiker på edge-IoT-enheter och -ramverk. TinyML möjliggör signalbehandling på IoT-enheter och tillhandahåller inbäddad intelligens, vilket eliminerar behovet av att överföra data till molnplattformar för bearbetning. En lyckad implementering av TinyML på IoT-enheter kan slutligen resultera i ökad integritet och effektivitet samtidigt som den minskar driftskostnaderna. Dessutom är det som gör TinyML mer tilltalande att den i händelse av otillräcklig anslutning kan tillhandahålla lokala analyser.

TinyML: Introduktion och Översikt

TinyML är ett maskinlärningsverktyg som har förmågan att utföra analyser på enheten för olika sensoriska modaliteter som ljud, syn och tal. ML-modeller som byggs på TinyML-verktyget har låg effekt, minne och beräkningskrav, vilket gör dem lämpliga för inbäddade nätverk och enheter som drivs av batterier. Dessutom gör TinyML:s låga krav det till en idealisk lösning för att distribuera ML-modeller på IoT-ramverket.

I den nuvarande scenariot står molnbaserade ML-system inför några svårigheter, inklusive säkerhets- och integritetsproblem, hög effektåtgång, tillförlitlighets- och fördröjningsproblem, vilket är varför modeller på hårdvaru- och programvaruplattformar är förinstallerade. Sensorer samlar in data som simulerar den fysiska världen och bearbetas sedan med en CPU eller MPU (mikroprocessorenhet). MPU tillgodoser behoven av ML-analytiskt stöd som möjliggörs av edge-medvetna ML-nätverk och arkitektur. Edge-ML-arkitektur kommunicerar med ML-molnet för dataöverföring och implementeringen av TinyML kan resultera i en betydande förbättring av tekniken.

Det vore säkert att säga att TinyML är en kombination av programvara, hårdvara och algoritmer som arbetar i samklang med varandra för att leverera den önskade prestandan. Analog eller minnesbaserad dator kan krävas för att tillhandahålla en bättre och effektivare inlärningsupplevelse för hårdvara- och IoT-enheter som inte stöder hårdvaruacceleratorer. När det gäller programvara kan applikationer som byggs med TinyML distribueras och implementeras på plattformar som Linux eller inbäddad Linux och på molntjänster. Slutligen måste applikationer och system som byggs på TinyML-algoritmen ha stöd för nya algoritmer som kräver låg minnesstorlek för att undvika hög minnesförbrukning.

För att sammanfatta, applikationer som byggs med TinyML-verktyget måste optimera ML-principer och -metoder samt designa programvaran komprimerat, i närvaro av högkvalitetsdata. Dessa data måste sedan överföras via binära filer som genereras med hjälp av modeller som tränats på maskiner med mycket större kapacitet och beräkningskraft.

Dessutom måste system och applikationer som körs på TinyML-verktyget tillhandahålla hög noggrannhet när de utförs under strängare begränsningar, eftersom komprimerad programvara behövs för låg effektåtgång som stöder TinyML-implikationer. Dessutom kan TinyML-applikationer eller -moduler vara beroende av batterikraft för att stödja deras drift på edge-inbäddade system.

Med det sagt har TinyML-applikationer två grundläggande krav

1. Förmåga att skala miljarder billiga inbäddade system.
2. Lagra koden på enhetens RAM med en kapacitet på några KB.

Tillämpningar av TinyML med Avancerad Teknik

En av de stora anledningarna till att TinyML är ett hett ämne inom AI- och ML-industrin är på grund av dess potentiella tillämpningar, inklusive syn- och talsbaserade tillämpningar, hälsodiagnos, datamönsterkomprimering och -klassificering, hjärndatorgränssnitt, edge-beräkning, fenomik, självkörande fordon och mer.

Talsbaserade Tillämpningar

Talkommunikation

Talsbaserade tillämpningar förlitar sig vanligtvis på konventionella kommunikationsmetoder, där all data är viktig och överförs. Men på senare tid har semantisk kommunikation uppstått som ett alternativ till konventionell kommunikation, där endast meningen eller sammanhanget i data överförs. Semantisk kommunikation kan implementeras i talsbaserade tillämpningar med hjälp av TinyML-metoder.

Några av de mest populära tillämpningarna inom talskommunikationsindustrin idag är taldetektering, talsigenkänning, onlineinlärning, onlineundervisning och målinriktad kommunikation. Dessa tillämpningar kräver vanligtvis hög effektåtgång och har också höga datakrav på värdenheter. För att övervinna dessa krav har en ny TinySpeech-bibliotek introducerats som tillåter utvecklare att bygga en lågberäkningsarkitektur som använder djupa konvolutionsnät för att bygga en låg lagringsanläggning.

För att använda TinyML för talförbättring, hanterade utvecklarna först storleken på talförbättringsmodellen, eftersom den var föremål för hårdvarubegränsningar och -begränsningar. För att hantera problemet distribuerades strukturerad beskärning och heltalskvantifiering för RNN eller återkommande neuronnät talförbättringsmodell. Resultaten visade att modellens storlek minskades med cirka 12 gånger, medan operationerna minskades med cirka 3 gånger. Dessutom är det viktigt att resurser används effektivt, särskilt när de distribueras på resursbegränsade tillämpningar som kör röstigenkänningstillämpningar.

Som ett resultat föreslogs en samdesignsmetod för TinyML-baserad röst- och talsigenkänningstillämpningar. Utvecklarna använde fönsteroperation för att partitionera programvara och hårdvara på ett sätt som förbearbetade de råa ljuddata. Metoden tycktes fungera, eftersom resultaten visade en minskning av energiförbrukningen på hårdvaran. Slutligen finns det också potential att implementera optimerad partitionering mellan programvara och hårdvara samdesign för bättre prestanda i närtid.

Dessutom har nylig forskning föreslagit att använda en telefonbaserad transducer för talsigenkningssystem, och förslaget syftar till att ersätta LSTM-prediktorer med Conv1D-lager för att minska beräkningsbehoven på edge-enheter. När det implementerades returnerade förslaget positiva resultat, eftersom SVD eller singularvärdesdekomposition hade komprimerat modellen framgångsrikt, medan användningen av WFST eller viktade finita tillståndsautomater-baserad avkodning resulterade i större flexibilitet i modellförbättringssystem.

Många framstående tillämpningar av talsigenkänning, som virtuella eller röstassistenter, live-undertextning och röstkommandon, använder ML-tekniker för att fungera. Populära röstassistenter som Siri och Google Assistant pingar molnplattformen varje gång de tar emot några data, och det skapar betydande problem relaterade till integritet och datasäkerhet. TinyML är en livskraftig lösning för problemet, eftersom den syftar till att utföra talsigenkänning på enheter och eliminera behovet av att migrera data till molnplattformar. En av metoderna för att uppnå enhetsbaserad talsigenkänning är att använda Tiny Transducer, en talsigenkäningsmodell som använder ett DFSMN eller djupt feed-forward-sekventiellt minnesblocklager kopplat med ett Conv1D-lager i stället för LSTM-lager för att minska beräkningskraven och nätverksparametrar.

Hörselhjälpmedel

Hörselnedsättning är ett stort hälsoproblem över hela världen, och människans förmåga att höra ljud försvagas vanligtvis när de åldras, och det är ett stort problem i länder som hanterar en åldrande befolkning, inklusive Kina, Japan och Sydkorea. Hörselhjälpmedel fungerar idag på den enkla principen att förstärka alla ingångsljud från omgivningen, vilket gör det svårt för personen att skilja eller särskilja det önskade ljudet, särskilt i ett bullrigt miljö.

TinyML kan vara den livskraftiga lösningen för detta problem, eftersom användningen av en TinyLSTM-modell som använder talsigenkänningsalgoritmer för hörselhjälpmedel kan hjälpa användarna att skilja mellan olika ljud.

Synbaserade Tillämpningar

TinyML har potentialen att spela en avgörande roll vid bearbetning av datorseende-baserade datamängder, eftersom dessa datamängder behöver bearbetas på edge-plattformen själv för snabbare utdata. För att uppnå detta möter TinyML-modellen de praktiska utmaningarna som uppstår under utbildning av modellen med hjälp av OpenMV H7-mikrokontrollern. Utvecklarna föreslog också en arkitektur för att upptäcka amerikanskt teckenspråk med hjälp av en ARM Cortex M7-mikrokontroller som fungerar med endast 496 KB ram.

Implementeringen av TinyML för datorseende-baserade tillämpningar på edge-plattformar krävde att utvecklarna övervann den stora utmaningen med CNN eller konvolutionsneuronnät med hög generaliseringsfel och hög utbildnings- och testnoggrannhet. Men implementeringen generaliserade inte effektivt till bilder i nya användningsfall och bakgrunder med brus. När utvecklarna använde interpolationsförstärkningsmetoden returnerade modellen en noggrannhetsscore på över 98% på testdata och cirka 75% i generalisering.

Dessutom observerades att när utvecklarna använde interpolationsförstärkningsmetoden, fanns det en minskning av modellens noggrannhet under kvantifiering, men samtidigt fanns det också en ökning av modellens inferenshastighet och klassificeringsgeneralisering. Utvecklarna föreslog också en metod för att ytterligare förbättra generaliseringsmodellens utbildning på data som erhållits från en mängd olika källor och testa prestandan för att undersöka möjligheten att distribuera den på edge-plattformar som bärbara smartklockor.

Dessutom har ytterligare studier på CNN visat att det är möjligt att distribuera och uppnå önskade resultat med CNN-arkitektur på enheter med begränsade resurser. Nyligen kunde utvecklare utveckla ett ramverk för upptäckt av medicinska ansiktsmasker på en ARM Cortex M7-mikrokontroller med begränsade resurser med hjälp av TensorFlow Lite med minimala minnesavtryck. Modellstorleken efter kvantifiering var cirka 138 KB, medan inferenshastigheten på målenheten var cirka 30 FPS.

En annan tillämpning av TinyML för datorseende-baserade tillämpningar är att implementera en gestigenkänningsenhet som kan fästas på en käpp för att hjälpa synskadade människor navigera genom sina dagliga liv lätt. För att utforma den använde utvecklarna gestdatamängden och utbildade ProtoNN-modellen med en klassificeringsalgoritm. Resultaten som erhölls från installationen var exakta, designen var lågkostnad och den levererade tillfredsställande resultat.

En annan betydande tillämpning av TinyML är i den självkörande och autonoma fordonindustrin på grund av bristen på resurser och ombordberäkningskraft. För att hantera problemet introducerade utvecklare en sluten loop-inlärningsmetod byggd på TinyCNN-modellen som föreslog en online-prediktor som fångar bilden i realtid. Det stora problemet som utvecklare stod inför när de implementerade TinyML för autonom körning var att beslutsmodellen som tränades för att fungera offline inte fungerade lika bra när den hanterade online-data. För att fullt ut maximera tillämpningarna av autonoma bilar och självkörande fordon bör modellen idealiskt kunna anpassa sig till realtidsdata.

Datamönsterklassificering och Komprimering

En av de största utmaningarna för den nuvarande TinyML-ramen är att möjliggöra den för att anpassa sig till online-träningsdata. För att hantera problemet har utvecklare föreslagit en metod som kallas TinyOL eller TinyML Online Learning för att tillåta utbildning med inkrementell online-inlärning på mikrokontrollenheter, vilket tillåter modellen att uppdateras på IoT-edge-enheter. Implementeringen uppnåddes med hjälp av C++-programmeringsspråket och en ytterligare lager lades till i TinyOL-arkitekturen.

Dessutom har utvecklare också utfört auto-kodning av Arduino Nano 33 BLE-sensorn och den utbildade modellen kunde klassificera nya datamönster. Dessutom ingick utvecklingsarbetet i att utforma effektiva och mer optimerade algoritmer för neurala nätverk för att stödja enhetsutbildningsmönster online.

Forskning i TinyOL och TinyML har visat att antalet aktiveringslager har varit ett stort problem för IoT-edge-enheter med begränsade resurser. För att hantera problemet introducerade utvecklare den nya TinyTL eller Tiny Transfer Learning-modellen för att göra användningen av minne på IoT-edge-enheter mer effektiv och undvika användningen av mellanliggande lager för aktiveringsändamål. Dessutom introducerade utvecklare en helt ny biasmodul som kallas “lite-residualmodul” för att maximera anpassningsförmågan och på så sätt tillåta funktionsextraherare att upptäcka restfunktioner.

När den jämfördes med fullständig nätverksfinjustering var resultaten till fördel för TinyTL-arkitekturen, eftersom resultaten visade att TinyTL minskade minnesöverhuvudet med cirka 6,5 gånger med måttlig noggrannhetsförlust. När den sista lagern justerades förbättrades TinyML noggrannheten med 34% med måttlig noggrannhetsförlust.

Dessutom har forskning om datakomprimering visat att datakomprimeringsalgoritmer måste hantera den insamlade data på en bärbar enhet och för att uppnå detta föreslog utvecklare TAC eller Tiny Anomaly Compressor. TAC kunde överträffa SDT eller Swing Door Trending och DCT eller Discrete Cosine Transform-algoritmer. Dessutom överträffade TAC-algoritmen både SDT och DCT-algoritmer genom att uppnå en maximal komprimeringshastighet på över 98% och ha det bästa topp-värde-till-brus-förhållandet av de tre algoritmerna.

Hälsodiagnos

Covid-19-pandemin öppnade nya möjligheter för implementeringen av TinyML, eftersom det nu är en viktig praxis att kontinuerligt upptäcka andningsrelaterade symtom som hosta och förkylning. För att säkerställa oavbruten övervakning har utvecklare föreslagit en CNN-modell som kallas Tiny RespNet som fungerar på en multimodell-inställning och modellen distribueras över en Xilinx Artix-7 100t FPGA som tillåter enheten att bearbeta informationen parallellt, har hög effektivitet och låg effektåtgång. Dessutom tar TinyResp-modellen också patientens tal, ljudinspelningar och demografisk information som indata för att klassificera och hostrelaterade symtom på en patient klassificeras med hjälp av tre distinkta datamängder.

Dessutom har utvecklare också föreslagit en modell som kan köra djupinlärningsberäkningar på edge-enheter, en TinyML-modell som kallas TinyDL. TinyDL-modellen kan distribueras på edge-enheter som smartklockor och bärbara enheter för hälsodiagnos och är också kapabel att utföra prestandaanalys för att minska bandbredd, fördröjning och energiförbrukning. För att uppnå distributionen av TinyDL på handhållna enheter utformades och tränades en LSTM-modell specifikt för en bärbar enhet och den matades med insamlad data som indata. Modellen har en noggrannhetspoäng på cirka 75 till 80% och den kunde fungera med av-enhet-data också.

Slutligen har utvecklare också föreslagit en annan tillämpning för att övervaka äldre människors hälsa genom att uppskatta och analysera deras kroppsställningar. Modellen använder en agnostisk ram på enheten som tillåter modellen att aktivera validering och snabb anpassning för att utföra anpassningar. Modellen implementerade kroppsställningsalgoritmer kopplade med ansiktslandmärken för att upptäcka rumsliga kroppsställningar i realtid.

Edge-beräkning

En av de stora tillämpningarna av TinyML är inom edge-beräkningsområdet, eftersom det med ökningen av användningen av IoT-enheter för att ansluta enheter över hela världen är viktigt att ställa in edge-enheter, vilket kommer att hjälpa till att minska belastningen på molnarkitekturerna. Dessa edge-enheter kommer att ha individuella datacenter som kommer att tillåta dem att utföra högnivåberäkningar på enheten själv, snarare än att förlita sig på molnarkitekturen. Som ett resultat kommer det att hjälpa till att minska beroendet av molnet, minska fördröjningen, förbättra användarsäkerhet och -integritet och också minska bandbredden.

Edge-enheter som använder TinyML-algoritmer kommer att hjälpa till att lösa de nuvarande begränsningarna relaterade till effekt, beräkning och minneskrav och det diskuteras i bilden nedan.

Dessutom kan TinyML också förbättra användningen och tillämpningen av obemannade luftfartyg (UAV) genom att hantera de nuvarande begränsningarna som dessa maskiner står inför. Användningen av TinyML kan tillåta utvecklare att implementera en energieffektiv enhet med låg fördröjning och hög beräkningskraft som kan fungera som en kontroller för dessa UAV.

Hjärndatorgränssnitt eller BCI

TinyML har betydande tillämpningar inom hälso- och sjukvårdsindustrin och kan visa sig vara mycket fördelaktigt i olika områden, inklusive cancer- och tumörupptäckt, hälsoprognoser med hjälp av ECG- och EEG-signaler och emotionell intelligens. Användningen av TinyML kan tillåta adaptiv djup hjärnstimulering (aDBS) att anpassa sig till kliniska anpassningar. Användningen av TinyML kan också tillåta aDBS att identifiera sjukdomsrelaterade biomarkörer och deras symtom med hjälp av invasiva inspelningar av hjärnsignaler.

Dessutom ingår hälso- och sjukvårdsindustrin ofta i insamling av en stor mängd data om en patient och denna data måste sedan bearbetas för att nå specifika lösningar för patientens behandling i de tidiga stadierna av en sjukdom. Som ett resultat är det viktigt att bygga ett system som inte bara är mycket effektivt, utan också mycket säkert. När vi kombinerar IoT-tillämpningar med TinyML-modellen föds ett nytt område som kallas H-IoT eller Hälsans Internet of Things och de viktigaste tillämpningarna av H-IoT är diagnos, övervakning, logistik, spridningskontroll och assistanssystem. Om vi vill utveckla enheter som kan upptäcka och analysera en patients hälsa på distans är det viktigt att utveckla ett system som har global tillgänglighet och låg fördröjning.

Självkörande fordon

Slutligen kan TinyML ha omfattande tillämpningar inom den självkörande fordonsindustrin, eftersom dessa fordon kan användas på olika sätt, inklusive mänsklig spårning, militära ändamål och har industriella tillämpningar. Dessa fordon har ett primärt krav på att kunna identifiera objekt effektivt när objektet söks.

För närvarande är självkörande fordon och autonom körning ett ganska komplext uppdrag, särskilt när man utvecklar mini- eller små fordon. Nyliga framsteg har visat potentialen att förbättra tillämpningen av autonom körning för mini-fordon med hjälp av en CNN-arkitektur och distribuera modellen över GAP8 MCI.

Utmaningar

TinyML är ett relativt nytt koncept inom AI- och ML-industrin och trots framstegen är det fortfarande inte så effektivt som vi behöver det för massdistribution på edge- och IoT-enheter.

Den största utmaningen som TinyML-enheter står inför just nu är effektåtgången hos dessa enheter. Idealiskt sett förväntas inbäddade edge- och IoT-enheter ha en batterilivslängd som sträcker sig över 10 år. Till exempel, i idealiska förhållanden, en IoT-enhet som körs på en 2 Ah-batteri förväntas ha en batterilivslängd på över 10 år, givet att effektåtgången på enheten är cirka 12 μA. Men i den givna situationen, en IoT-arkitektur med en temperatursensor, en MCU-enhet och en WiFi-modul, står strömförbrukningen på cirka 176,4 mA och med denna effektåtgång kommer batteriet att vara i drift i cirka 11 timmar, snarare än de 10 år som krävs.

Resursbegränsningar

För att upprätthålla en algoritmisk konsekvens är det viktigt att upprätthålla effekttilgänglighet och givet den nuvarande situationen är den begränsade effekttilgängligheten för TinyML-enheter en kritisk utmaning. Dessutom är minnesbegränsningar också en betydande utmaning, eftersom distributionen av modeller ofta kräver en stor mängd minne för att fungera effektivt och korrekt.

Hårdvarubegränsningar

Hårdvarubegränsningar gör det svårt att distribuera TinyML-algoritmer på en stor skala på grund av heterogeniteten hos hårdvaruenheter. Det finns tusentals enheter, var och en med sina egna hårdvaruspecifikationer och krav och som ett resultat behöver en TinyML-algoritm för närvarande justeras för varje enskild enhet, vilket gör massdistribution till ett stort problem.

Datamängdsbegränsningar

En av de stora problemen med TinyML-modeller är att de inte stöder de befintliga datamängderna. Det är en utmaning för alla edge-enheter, eftersom de samlar in data med hjälp av externa sensorer och dessa enheter har ofta effekt- och energibegränsningar. Därför kan de befintliga datamängderna inte användas för att träna TinyML-modellerna effektivt.

Slutliga Tankar

Utvecklingen av ML-tekniker har orsakat en revolution och en förändring av perspektiv inom IoT-ekosystemet. Integrationen av ML-modeller i IoT-enheter kommer att tillåta dessa edge-enheter att fatta intelligenta beslut på egen hand utan någon yttre mänsklig inmatning. Men konventionellt sett har ML-modeller ofta hög effekt-, minnes- och beräkningskrav, vilket gör dem olämpliga för distribution på edge-enheter som ofta är resursbegränsade.

Som ett resultat ägnades en ny gren inom AI åt användningen av ML för IoT-enheter och den benämndes TinyML. TinyML är ett ML-ramverk som tillåter även resursbegränsade enheter att utnyttja kraften hos AI och ML för att säkerställa högre noggrannhet, intelligens och effektivitet.

I den här artikeln har vi talat om implementeringen av TinyML-modeller på resursbegränsade IoT-enheter och denna implementering kräver utbildning av modellerna, distribution av modellerna på hårdvaran och genomförande av kvantifieringstekniker. Men givet den nuvarande omfattningen har ML-modellerna som är redo att distribueras på IoT- och edge-enheter flera komplexiteter och begränsningar, inklusive hårdvaru- och ramverkskompatibilitetsproblem.