TinyML: Applikasjoner, Begrensninger og Bruk i IoT- og Kantenheter

I de siste årene har kunstig intelligens (AI) og maskinlæring (ML) opplevd en meteorisk økning i popularitet og anvendelser, ikke bare i industrien, men også i akademia. Imidlertid har dagens ML- og AI-modeller en stor begrensning: de krever en enorm mengde beregnings- og prosessorkraft for å oppnå ønskede resultater og nøyaktighet. Dette begrenser ofte deres bruk til høykapasitetsenheter med betydelig beregningskraft.

Men med fremgangen i innbygde systemteknologier og betydelig utvikling i Internet of Things (IoT)-industrien, er det ønskelig å inkorporere bruk av ML-teknikker og -konsepter i ressursbegrensede innbygde systemer for allomfattende intelligens. Ønsket om å bruke ML-konsepter i innbygde og IoT-systemer er den primære motivatoriske faktoren bak utviklingen av TinyML, en innbygd ML-teknikk som tillater ML-modeller og -applikasjoner på multiple ressursbegrensede, strømbegrensede og billige enheter.

Imidlertid har implementeringen av ML på ressursbegrensede enheter ikke vært enkelt, da implementering av ML-modeller på enheter med lav beregningskraft presenterer sine egne utfordringer når det gjelder optimalisering, prosesserkapasitet, pålitelighet, vedlikehold av modeller og mye mer.

I denne artikkelen vil vi dykke dyptere inn i TinyML-modellen og lære mer om dens bakgrunn, verktøyene som støtter TinyML og applikasjonene av TinyML ved hjelp av avanserte teknologier. Så la oss starte.

En Innføring i TinyML: Hvorfor Verden Trenger TinyML

Internet of Things (IoT)-enheter har som mål å utnytte kantecomputing, en beregningsparadigme som refererer til en rekke enheter og nettverk nær brukeren for å muliggjøre sømløs og sanntidsbehandling av data fra millioner av sensorer og enheter som er koblet sammen. En av de største fordelenene med IoT-enheter er at de krever lav beregnings- og prosessorkraft, da de kan deployes på nettverkskanten og derfor har en lav minneavtrykk.

Videre er IoT-enhetene avhengige av kantplattformer for å samle inn og overføre data, da disse kantenheter samler inn sensordata og overfører dem til en nærliggende lokasjon eller skyplattformer for prosessering. Kantecomputing-teknologien lagrer og utfører beregninger på dataene og tilbyr også den nødvendige infrastrukturen for å støtte distribuert beregning.

Implementeringen av kantecomputing i IoT-enheter gir

1. Effektiv sikkerhet, personvern og pålitelighet for sluttbrukerne.
2. Lavere forsinkelse.
3. Høyere tilgjengelighet og gjennomstrømningsrespons for applikasjoner og tjenester.

Videre, da kantenheter kan deploye en samarbeidsmetode mellom sensorer og skyen, kan dataprosesseringen utføres på nettverkskanten i stedet for på skyplattformen. Dette kan resultere i effektiv datamanagement, datapersistens, effektiv levering og innholdscaching. I tillegg, for å implementere IoT i applikasjoner som omhandler menneske-maskin-interaksjon og moderne helse, tilbyr kantecomputing en måte å forbedre nettverkstjenestene betydelig.

Nylig forskning på feltet kantecomputing har demonstrert potensialet for å implementere maskinlærings-teknikker i flere IoT-bruksscenarier. Imidlertid er det største problemet at tradisjonelle maskinlæringsmodeller ofte krever sterk beregnings- og prosessorkraft og høy minnekapasitet, noe som begrenser implementeringen av ML-modeller i IoT-enheter og -applikasjoner.

Videre, mangler kantecomputing-teknologien i dag i høy overføringskapasitet og effektiv strømsparing, noe som fører til heterogene systemer, som er hovedårsaken til behovet for harmonisk og helhetlig infrastruktur, spesielt for oppdatering, trening og deployering av ML-modeller. Arkitekturen designet for innbygde enheter stiller en annen utfordring, da disse arkitektene avhenger av hardware- og softwarekrav som varierer fra enhet til enhet. Det er hovedårsaken til at det er vanskelig å bygge en standard ML-arkitektur for IoT-nettverk.

Også, i dagens scenario, sendes data generert av forskjellige enheter til skyplattformer for prosessering på grunn av den beregningsintensive naturen av nettverksimplementeringer. Videre, er ML-modeller ofte avhengige av dyp læring, dyp neurale nettverk, applikasjonsspesifikke integrerte kretser (ASIC-er) og grafikkprosessorer (GPU-er) for å prosessere dataene, og de har ofte en høyere strøm- og minnekraft. Å deploye fullstendige ML-modeller på IoT-enheter er ikke en livskraftig løsning på grunn av den åpenbare mangelen på beregnings- og prosessorkraft og begrensede lagringsløsninger.

Etterspørselen etter å miniaturisere lavkraftige innbygde enheter sammen med å optimere ML-modeller for å gjøre dem mer strøm- og minneeffektive, har banet vei for TinyML, som har som mål å implementere ML-modeller og -praksiser på kant-IoT-enheter og -rammeverk. TinyML muliggjør signalbehandling på IoT-enheter og tilbyr innbygd intelligens, og eliminerer dermed behovet for å overføre data til skyplattformer for prosessering. Suksessfull implementering av TinyML på IoT-enheter kan til slutt resultere i økt personvern og effektivitet, samt redusere driftskostnadene. I tillegg, hva som gjør TinyML enda mer tiltrekkende, er at den i tilfelle av utilstrekkelig tilkobling, kan tilby lokale analyser.

TinyML: Innføring og Oversikt

TinyML er et maskinlæringsverktøy som har kapasiteten til å utføre enhetsanalyser for forskjellige sansemodi som lyd, syn og tale. ML-modeller bygget på TinyML-verktøyet har lav strøm-, minne- og beregningskrav, noe som gjør dem egnet for innbygde nettverk og enheter som opererer på batterikraft. I tillegg, gjør TinyMLs lave krav den til en ideell løsning for å deploye ML-modeller på IoT-rammeverket.

I dagens scenario, møter skybaserte ML-systemer noen vanskeligheter, inkludert sikkerhets- og personvernproblemer, høy strømforbruk, pålitelighets- og forsinkelsesproblemer, noe som er grunnene til at modeller på hardware-software-plattformer er forhåndsinstallert. Sensorer samler inn data som simulerer den fysiske verden og blir deretter prosessert ved hjelp av en CPU eller MPU (mikroprosessor). MPU møter behovene for ML-analysestøtte muliggjort av kantbevisste ML-nettverk og -arkitektur. Kant-ML-arkitektur kommuniserer med ML-skyen for dataoverføring og implementering av TinyML, noe som kan resultere i en betydelig fremgang i teknologien.

Det vil være trygt å si at TinyML er en kombinasjon av programvare, hardware og algoritmer som arbeider sammen for å levere ønsket ytelse. Analog eller minneberegning kan være nødvendig for å gi en bedre og mer effektiv læringsopplevelse for hardware og IoT-enheter som ikke støtter hardware-akseleratorer. Når det gjelder programvare, kan applikasjonene bygget med TinyML deployes og implementeres på plattformer som Linux eller innbygd Linux, og på skyaktiverende programvare. Til slutt, må applikasjonene og systemene bygget på TinyML-algoritmen ha støtte for nye algoritmer som trenger lav minnestørrelse for å unngå høy minneforbruk.

For å sammenfatte, må applikasjonene bygget med TinyML-verktøyet optimere ML-prinsipper og -metoder, samt designe programvaren kompaktt i nærvær av høykvalitetsdata. Denne dataen må deretter bli flashet gjennom binærfiler som genereres ved hjelp av modeller som er trent på maskiner med mye større kapasitet og beregningskraft.

Videre, må systemene og applikasjonene som kjører på TinyML-verktøyet gi høy nøyaktighet når de utføres under strengere begrensninger, da kompak programvare er nødvendig for lav strømforbruk som støtter TinyML-implikasjoner. I tillegg, kan TinyML-applikasjonene eller -modulene være avhengige av batterikraft for å støtte deres operasjoner på kant-innbygde systemer.

Med det sagt, har TinyML-applikasjonene to grunnleggende krav

1. Evnen til å skalerer milliarder av billige innbygde systemer.
2. Lagring av koden på enhetens RAM med kapasitet under noen KB.

Applikasjoner av TinyML ved hjelp av Avanserte Teknologier

En av de største grunnene til at TinyML er et varmt tema i AI- og ML-industrien, er på grunn av dens potensielle applikasjoner, inkludert visuelt og talebaserte applikasjoner, helse-diagnose, datapatterklassifisering og -komprimering, hjerneloggrense eller BCI, kantecomputing, fenomikk, selvstyrt kjøretøy og mer.

Talebaserte Applikasjoner

Talekommunikasjon

Vanligvis, talebaserte applikasjoner avhenger av konvensjonelle kommunikasjonsmetoder, hvor all data er viktig og overføres. Imidlertid, i de siste årene, har semantisk kommunikasjon oppstått som en alternativ til konvensjonell kommunikasjon, hvor kun meningen eller konteksten av dataene overføres. Semantisk kommunikasjon kan implementeres på talebaserte applikasjoner ved hjelp av TinyML-metodene.

Noen av de mest populære applikasjonene i talekommunikasjonsindustrien i dag er talegjenkjenning, taleigenkjenning, nettbasert læring, nettbasert undervisning og målrettede kommunikasjon. Disse applikasjonene har vanligvis en høyere strømforbruk og har også høye datakrav på verts enhet. For å overvinne disse kravene, er det introdusert en ny TinySpeech-bibliotek som tillater utviklere å bygge en lavt beregningsarkitektur som bruker dybe konvolusjonsnettverk for å bygge en lav lagringsfasilitet.

For å bruke TinyML til taleforbedring, må utviklerne først håndtere størrelsen på taleforbedringsmodellen, da den var underlagt hardvarebegrensninger og -begrensninger. For å håndtere problemet, ble strukturert beskjæring og heltallskvantisering for RNN eller rekurrerende neurale nettverk taleforbedringsmodell deployert. Resultatene viste at størrelsen på modellen ble redusert med nesten 12 ganger, mens operasjonene ble redusert med nesten 3 ganger. I tillegg, er det viktig at ressurser må brukes effektivt, spesielt når de deployes på ressursbegrensede applikasjoner som kjører stemmegjenkjenning.

Som resultat, for å partitionere prosessen, ble det foreslått en samdesignmetode for TinyML-basert tale- og stemmegjenkjenning. Utviklerne brukte vindusoperasjon til å partitionere programvare og hardware på en måte som førbehandler rå lyddata. Metoden virket, da resultatene indikerte en reduksjon i energiforbruk på hardwaren. Til slutt, er det også potensiale for å implementere optimalt partitionering mellom programvare og hardware samdesign for bedre ytelse i nærmeste fremtid.

Videre, har nylig forskning foreslått å bruke en telefonbasert transduser for talegjenkjenningssystemer, og forslaget har som mål å erstatte LSTM-prediktorer med Conv1D-lag for å redusere beregningsbehov på kantenheter. Når det ble implementert, returnerte forslaget positive resultater, da SVD eller singularverdi-dekomposisjon hadde komprimert modellen med hell, mens bruk av WFST eller vektet finitt tilstandsmaskin-basert avkoding resulterte i mer fleksibilitet i modellforbedring.

Mange fremtredende applikasjoner av talegjenkjenning, som virtuelle eller stemmeassistenter, live-teksting og stemmekommandoer, bruker ML-teknikker for å fungere. Populære stemmeassistenter i dag, som Siri og Google Assistant, sender data til skyplattformen hver gang de mottar noen data, og det skaper betydelige bekymringer relatert til personvern og datasikkerhet. TinyML er en livskraftig løsning for problemet, da den har som mål å utføre talegjenkjenning på enheter og eliminere behovet for å overføre data til skyplattformer. En av måtene å oppnå enhetsbasert talegjenkjenning på er å bruke Tiny Transducer, en talegjenkjenningmodell som bruker en DFSMN eller dyp feed-forward sekvensiell minneblokk-lag sammen med ett Conv1D-lag i stedet for LSTM-lag for å redusere beregningskrav og nettverksparametre.

Hørehjelpemidler

Høretap er et stort helseproblem verden over, og menneskets evne til å høre lyder generelt svekkes med alderen, og det er et stort problem i land som har en aldrende befolkning, inkludert Kina, Japan og Sør-Korea. Hørehjelpemidler fungerer i dag på prinsippet om å forsterke alle innkommende lyder fra omgivelsene, noe som gjør det vanskelig for personen å skille eller differensiere mellom ønsket lyd, spesielt i en støyende omgivelse.

TinyML kan være en livskraftig løsning for dette problemet, da bruk av en TinyLSTM-modell som bruker talegjenkjenning-algoritme for hørehjelpemidler kan hjelpe brukerne å skille mellom forskjellige lyder.

Visuelt Baserte Applikasjoner

TinyML har potensialet til å spille en avgjørende rolle i behandling av datamengder basert på datamaskinsyn, da for raskere utdata, må disse datamengdene behandles på kantplattformen selv. For å oppnå dette, møter TinyML-modellen de praktiske utfordringene som oppstår under trening av modellen ved hjelp av OpenMV H7-mikrokontrollerbrettet. Utviklerne foreslo også en arkitektur for å detektere amerikansk tegnspråk med hjelp av en ARM Cortex M7-mikrokontroller som kun fungerer med 496KB ram.

Implementeringen av TinyML for datamaskinsyn-applikasjoner på kantplattformer krever at utviklerne overvinner den store utfordringen med konvolusjonsneurale nettverk med høy generaliseringsfeil og høy trening- og testingnøyaktighet. Imidlertid, generaliserte implementeringen ikke effektivt til bilder i nye bruksscenarier og bakgrunner med støy. Når utviklerne brukte interpolering-forstørrelsesmetoden, returnerte modellen en nøyaktighetsscore på over 98% på testdata og om lag 75% i generalisering.

Videre, ble det observert at når utviklerne brukte interpolering-forstørrelsesmetoden, var det en reduksjon i modellens nøyaktighet under kvantisering, men samtidig var det en økning i modellens inferenseshastighet og klassifiseringsgeneralisering. Utviklerne foreslo også en metode for å ytterligere forbedre nøyaktigheten av generaliseringsmodell-trening på data hentet fra en rekke forskjellige kilder og testing av ytelsen for å utforske muligheten for å deployere den på kantplattformer som portable smartklokker.

Videre, har ytterligere studier på konvolusjonsneurale nettverk indikert at det er mulig å deployere og oppnå ønskede resultater med konvolusjonsneuralt nettverksarkitektur på enheter med begrensede ressurser. Nylig, har utviklere lykkes i å utvikle et rammeverk for å detektere medisinske ansiktsmasker på en ARM Cortex M7-mikrokontroller med begrensede ressurser ved hjelp av TensorFlow Lite med minimalt minneavtrykk. Modellstørrelsen etter kvantisering var om lag 138 KB, mens inferenseshastigheten på målrettet brett var om lag 30 FPS.

En annen applikasjon av TinyML for datamaskinsyn-applikasjoner er å implementere en gesterekjenning-enhet som kan festes til en kjepp for å hjelpe synshemmede mennesker navigere gjennom dagliglivet enkelt. For å designe det, brukte utviklerne gest-datasettet og brukte datasettet til å trene ProtoNN-modellen med en klassifiseringsalgoritme. Resultatene fra oppsettet var nøyaktige, designet var billig og det leverte tilfredsstillende resultater.

En annen betydelig applikasjon av TinyML er i selvstyrt kjøretøy- og autonom kjøretøyindustrien, på grunn av mangelen på ressurser og ombord beregningskraft. For å håndtere problemet, har utviklerne introdusert en lukket løkke-læringsmetode bygget på TinyCNN-modellen, som foreslo en online-prediktor-modell som fanger bildet i sanntid. Det største problemet utviklerne møtte under implementering av TinyML for autonom kjøring, var at beslutningsmodellen som var trent for å fungere på offline-data, kanskje ikke ville fungere like godt når det gjaldt å håndtere online-data. For å maksimalt utnytte applikasjonene av selvstyrt kjøretøy og autonom kjøretøy, bør modellen ideelt sett kunne tilpasse seg sanntidsdata.

Datapatterklassifisering og -komprimering

En av de største utfordringene med dagens TinyML-rammeverk er å muliggjøre det å tilpasse seg online-treningdata. For å håndtere problemet, har utviklerne foreslått en metode kjent som TinyOL eller TinyML Online Learning, som tillater trening med inkrementell online-læring på mikrokontrollerenheter, og dermed tillater modellen å oppdatere på IoT-kantenheter. Implementeringen ble oppnådd ved hjelp av C++-programmeringsspråket, og en ekstra lag ble lagt til i TinyOL-arkitekturen.

Videre, har utviklerne også utført auto-koding av Arduino Nano 33 BLE-sensorbrettet, og modellen som ble trent, var i stand til å klassifisere nye datapatter. Videre, inkluderte utviklingsarbeidet design av effektive og mer optimerte algoritmer for neurale nettverk for å støtte enhetstreningsmønster online.

Forskning i TinyOL og TinyML har indikert at antallet aktiveringslag har vært et stort problem for IoT-kantenheter med begrensede ressurser. For å håndtere problemet, har utviklerne introdusert en ny TinyTL eller Tiny Transfer Learning-modell for å gjøre bruk av minne over IoT-kantenheter mer effektiv, og unngå bruk av mellomlag for aktiveringsformål. I tillegg, har utviklerne også introdusert en helt ny bias-modul kjent som “lite-residual-modul” for å maksimalt utnytte tilpasningsmulighetene og dermed tillate funksjonsuttrekkere å oppdage restfunksjonskart.

Når sammenlignet med fullstendig nettverksfinjustering, var resultatene til fordel for TinyTL-arkitekturen, da resultatene viste at TinyTL reduserte minneoverhodet om lag 6,5 ganger med moderat nøyaktighetsTap. Når den siste laget ble finjustert, forbedret TinyML nøyaktigheten med 34% med moderat nøyaktighetsTap.

Videre, har forskning på datapatterkomprimering indikert at datapatterkomprimeringsalgoritmer må håndtere den samlede dataen på en bærbar enhet, og for å oppnå dette, har utviklerne foreslått TAC eller Tiny Anomaly Compressor. TAC var i stand til å overgå SDT eller Swing Door Trending, og DCT eller Discrete Cosine Transform-algoritmer. I tillegg, overgikk TAC-algoritmen både SDT- og DCT-algoritmer ved å oppnå en maksimal komprimeringsrate på over 98%, og hadde den beste topp-signaal-til-støy-forholdet av de tre algoritmene.

Helsediagnose

Covid-19-pandemien åpnet nye muligheter for implementering av TinyML, da det nå er en essensiell praksis å kontinuerlig detektere respirasjonssymptomer relatert til hoste og forkjølelse. For å sikre uavbrutt overvåking, har utviklerne foreslått en CNN-modell Tiny RespNet som opererer på en multi-modell-innstilling, og modellen er deployert over en Xilinx Artix-7 100t FPGA som tillater enheten å prosessere informasjonen parallelt, har en høy effektivitet og lav strømforbruk. I tillegg, tar TinyResp-modellen også imot tale fra pasienter, lydopptak og demografisk informasjon for å klassifisere og klassifisere hosterelaterte symptomer hos en pasient ved hjelp av tre distinkte datamengder.

Videre, har utviklerne også foreslått en modell som kan kjøre dyp læringsberegninger på kantenheter, en TinyML-modell kjent som TinyDL. TinyDL-modellen kan deployes på kantenheter som smartklokker og bærbare enheter for helsediagnose, og er også i stand til å utføre ytelsesanalyse for å redusere båndbredde, forsinkelse og energiforbruk. For å oppnå deployering av TinyDL på håndholdte enheter, ble en LSTM-modell designet og trent spesielt for en bærbar enhet, og den ble matet med samlet data som inndata. Modellen har en nøyaktighetsscore på om lag 75 til 80%, og den var i stand til å fungere med av-enhet-data også.

Til slutt, har utviklerne også foreslått en annen applikasjon for å overvåke eldre menneskers helse ved å estimere og analysere deres kroppsstilling. Modellen bruker en agnostisk ramme på enheten som tillater modellen å aktivere validering og rask tilpasning for å utføre tilpasninger. Modellen implementerte kroppsstilling-algoritmer sammen med ansiktstrekk for å detektere romlige kroppsstilling i sanntid.

Kantecomputing

En av de største applikasjonene av TinyML er i feltet kantecomputing, da det med økningen i bruken av IoT-enheter for å koble enheter over hele verden, er essensielt å sette opp kantenheter for å redusere belastningen over skyarkitekturer. Disse kantenheter vil ha individuelle datacenter som tillater dem å utføre høy-nivå beregning på enheten selv, i stedet for å avhenge av skyarkitekturen. Som resultat, vil det hjelpe til å redusere avhengigheten av skyen, redusere forsinkelse, forbedre brukerens sikkerhet og personvern, og også redusere båndbredde.

Kantenheter som bruker TinyML-algoritmene vil hjelpe til å løse de nåværende begrensningene relatert til strøm-, beregnings- og minnekraft, og det er diskutert i bildet nedenfor.

Videre, kan TinyML også forbedre bruken og applikasjonen av ubemannede luftfartøy (UAV-er) ved å håndtere de nåværende begrensningene som møtes av disse maskinene. Bruken av TinyML kan tillate utviklere å implementere en energi-effektiv enhet med lav forsinkelse og høy beregningskraft som kan fungere som en kontroller for disse UAV-ene.

Hjerneloggrense eller BCI

TinyML har betydelig applikasjoner i helseindustrien, og kan være svært nyttig i forskjellige områder, inkludert kreft- og svulstdiagnose, helsesprediksjoner ved hjelp av EKG- og EEG-signaler, og emosjonell intelligens. Bruken av TinyML kan tillate Adaptive Deep Brain Stimulation (aDBS) å tilpasse seg kliniske tilpasninger. Bruken av TinyML kan også tillate aDBS å identifisere sykdomsrelaterte biomarkører og deres symptomer ved hjelp av invasiv innspilling av hjernesignaler.

Videre, inkluderer helseindustrien ofte samlingen av en stor mengde data om en pasient, og denne dataen må deretter prosesseres for å nå spesifikke løsninger for behandling av en pasient i de tidlige stadiene av en sykdom. Som resultat, er det essensielt å bygge et system som ikke bare er svært effektivt, men også svært sikret. Når vi kombinerer IoT-applikasjon med TinyML-modellen, fødes et nytt felt som kalles H-IoT eller Healthcare Internet of Things, og de største applikasjonene av H-IoT er diagnostisering, overvåking, logistikk, spredningskontroll og assistive systemer. Hvis vi ønsker å utvikle enheter som kan detektere og analysere en pasients helse på avstand, er det essensielt å utvikle et system som har global tilgjengelighet og lav forsinkelse.

Autonome Kjøretøy

Til slutt, kan TinyML ha vidstrakte applikasjoner i autonom kjøretøyindustrien, da disse kjøretøyene kan brukes på forskjellige måter, inkludert menneske-sporing, militære formål og har industrielle applikasjoner. Disse kjøretøyene har en primær krav om å kunne identifisere objekter effektivt når objektet søkes.

I dag, er autonom kjøring og selvstyrt kjøring en ganske kompleks oppgave, spesielt når det gjelder å utvikle mini- eller små størrelse kjøretøy. Nylig har det vist seg at det er potensiale for å forbedre applikasjonen av autonom kjøring for mini-kjøretøy ved hjelp av en CNN-arkitektur og deployere modellen over GAP8 MCI-en.

Utfordringer

TinyML er et relativt nytt konsept i AI- og ML-industrien, og til tross for fremgangen, er det fortsatt ikke like effektivt som vi trenger det for masse-deployering på kant- og IoT-enheter.

Den største utfordringen som møtes av TinyML-enheter i dag, er strømforbruket til disse enhetene. Ideelt sett, bør innbygde kant- og IoT-enheter ha en batterilevetid som varer i over 10 år. For eksempel, i ideelle forhold, bør en IoT-enhet som kjører på en 2Ah-batteri ha en batterilevetid på over 10 år, gitt at strømforbruket til enheten er om lag 12 uA. Imidlertid, i dagens tilstand, er strømforbruket til en IoT-arkitektur med en temperatursensor, en MCU-enhet og en WiFi-modul på om lag 176,4 mA, og med dette strømforbruket, vil batteriet vare i bare om lag 11 timer, i stedet for de nødvendige 10 års batterilevetid.

Ressursbegrensninger

For å opprettholde en algoritmes konsistens, er det essensielt å opprettholde strømtilgjengelighet, og gitt dagens scenario, er den begrensede strømtilgjengeligheten til TinyML-enheter en kritisk utfordring. Videre, er minnebegrensninger også en betydelig utfordring, da deployering av modeller ofte krever en stor mengde minne for å fungere effektivt og nøyaktig.

Hardware-begrensninger

Hardware-begrensninger gjør det vanskelig å deploye TinyML-algoritmer på en stor skala, på grunn av heterogeniteten av hardware-enheter. Det finnes tusenvis av enheter, hver med sine egne hardware-specifikasjoner og -krav, og som resultat, må en TinyML-algoritme i dag justeres for hver enkelt enhet, noe som gjør masse-deployering til et stort problem.

Datamengde-begrensninger

En av de største problemene med TinyML-modeller, er at de ikke støtter de eksisterende datamengdene. Det er en utfordring for alle kantenheter, da de samler inn data ved hjelp av eksterne sensorer, og disse enhetene har ofte strøm- og energibegrensninger. Derfor, kan de eksisterende datamengdene ikke brukes til å trene TinyML-modellene effektivt.

Slutt tanker

Utviklingen av ML-teknikker har forårsaket en revolusjon og en endring i perspektiv i IoT-økosystemet. Integreringen av ML-modeller i IoT-enheter vil tillate disse kantenheter å ta intelligente beslutninger på egen hånd uten noen ekstern menneskelig inngripen. Imidlertid, konvensjonelt, har ML-modeller ofte høye strøm-, minne- og beregningskrav, noe som gjør dem uegnet for deployering på kantenheter som ofte er ressursbegrensede.

Som resultat, ble en ny gren i AI viet til bruk av ML for IoT-enheter, og det ble kalt TinyML. TinyML er en ML-rammeverk som tillater selv ressursbegrensede enheter å utnytte kraften av AI og ML for å sikre høyere nøyaktighet, intelligens og effektivitet.

I denne artikkelen, har vi diskutert implementeringen av TinyML-modeller på ressursbegrensede IoT-enheter, og denne implementeringen krever trening av modellene, deployering av modellene på hardwaren og utføring av kvantiseringsteknikker. Imidlertid, gitt dagens omfang, har ML-modellene som er klare til å deployes på IoT- og kantenheter flere kompleksiteter og begrensninger, inkludert hardware- og rammeverkskompatibilitetsproblemer.