TinyML: Toepassings, beperkings en die gebruik daarvan in IoT en Edge-toestelle

In die afgelope paar jaar het Kunsmatige Intelligensie (KI) en masjienleer (ML) het 'n meteoriese toename in gewildheid en toepassings gesien, nie net in die bedryf nie, maar ook in die akademie. Vandag se ML- en KI-modelle het egter een groot beperking: hulle benodig 'n geweldige hoeveelheid rekenaar- en verwerkingskrag om die gewenste resultate en akkuraatheid te behaal. Dit beperk dikwels hul gebruik tot hoë-vermoë toestelle met aansienlike rekenaarkrag.

Maar gegewe die vooruitgang wat gemaak is in ingebedde stelseltegnologie, en aansienlike ontwikkeling in die Internet of Things-industrie, is dit wenslik om die gebruik van ML-tegnieke en -konsepte in 'n hulpbronbeperkte ingebedde stelsel vir alomteenwoordige intelligensie in te sluit. Die begeerte om ML-konsepte in ingebedde en IoT-stelsels te gebruik, is die primêre motiverende faktor agter die ontwikkeling van TinyML, 'n ingebedde ML-tegniek wat ML-modelle en toepassings op veelvuldige hulpbronbeperkte, kragbeperkte en goedkoop toestelle toelaat. 

Die implementering van ML op hulpbronbeperkte toestelle was egter nie eenvoudig nie, want die implementering van ML-modelle op toestelle met lae rekenaarkrag bied sy eie uitdagings in terme van optimalisering, verwerkingskapasiteit, betroubaarheid, instandhouding van modelle, en nog baie meer. 

In hierdie artikel sal ons 'n dieper duik in die TinyML-model neem, en meer leer oor die agtergrond daarvan, die gereedskap wat TinyML ondersteun, en die toepassings van TinyML wat gevorderde tegnologieë gebruik. So kom ons begin. 

'n Inleiding tot TinyML: Waarom die wêreld TinyML nodig het

Internet of Things of IoT-toestelle het ten doel om edge computing te benut, 'n rekenaarparadigma wat verwys na 'n reeks toestelle en netwerke naby die gebruiker om naatlose en intydse verwerking van data van miljoene sensors en toestelle wat met mekaar verbind is, moontlik te maak. Een van die groot voordele van IoT-toestelle is dat hulle lae rekenaar- en verwerkingskrag benodig, aangesien dit aan die netwerkrand ontplooi kan word, en daarom het hulle 'n lae geheue-voetspoor. 

Verder maak die IoT-toestelle baie staat op randplatforms om die data in te samel en dan oor te dra, aangesien hierdie randtoestelle sensoriese data insamel, en dit dan óf na 'n nabygeleë ligging óf na wolkplatforms oordra vir verwerking. Die randrekenaartegnologie stoor en voer rekenaars op die data uit, en verskaf ook die nodige infrastruktuur om die verspreide rekenaars te ondersteun. 

Die implementering van edge computing in IoT-toestelle bied

1. Effektiewe sekuriteit, privaatheid en betroubaarheid vir die eindgebruikers. 
2. Laer vertraging. 
3. Hoër beskikbaarheid, en deurvloeireaksie op toepassings en dienste. 

Verder, omdat randtoestelle 'n samewerkende tegniek tussen die sensors en die wolk kan ontplooi, kan die dataverwerking by die netwerkrand uitgevoer word in plaas daarvan om by die wolkplatform uitgevoer te word. Dit kan lei tot effektiewe databestuur, data-volharding, effektiewe aflewering en inhoudkas. Boonop bied die implementering van IoT in toepassings wat handel oor H2M- of Mens-tot-masjien-interaksie en moderne gesondheidsorgrandrekenaars 'n manier om die netwerkdienste aansienlik te verbeter. 

Onlangse navorsing op die gebied van IoT-randrekenaarkunde het die potensiaal getoon om Masjienleer-tegnieke in verskeie IoT-gebruiksgevalle te implementeer. Die groot probleem is egter dat tradisionele masjienleermodelle dikwels sterk rekenaar- en verwerkingskrag vereis, en hoë geheuekapasiteit wat die implementering van ML-modelle in IoT-toestelle en toepassings beperk. 

Verder het randrekenaartegnologie vandag 'n gebrek aan hoë transmissiekapasiteit, en effektiewe kragbesparings wat lei tot heterogene stelsels wat die hoofrede is agter die vereiste vir harmonieuse en holistiese infrastruktuur hoofsaaklik vir die opdatering, opleiding en ontplooiing van ML-modelle. Die argitektuur wat vir ingebedde toestelle ontwerp is, stel nog 'n uitdaging, aangesien hierdie argitekture afhang van die hardeware- en sagtewarevereistes wat van toestel tot toestel verskil. Dit is die hoofrede waarom dit moeilik is om 'n standaard ML-argitektuur vir IoT-netwerke te bou. 

Ook, in die huidige scenario, word die data wat deur verskillende toestelle gegenereer word na wolkplatforms gestuur vir verwerking as gevolg van die berekeningsintensiewe aard van netwerkimplementerings. Verder is ML-modelle dikwels afhanklik van Deep Learning, Deep Neurale Networks, Application Specific Integrated Circuits (ASIC's) en grafiese verwerkingseenhede (GPU's) vir die verwerking van die data, en hulle het dikwels 'n hoër krag- en geheuevereiste. Die ontplooiing van volwaardige ML-modelle op IoT-toestelle is nie 'n lewensvatbare oplossing nie as gevolg van die duidelike gebrek aan rekenaar- en verwerkingskragte, en beperkte bergingsoplossings. 

Die vraag om laekrag-ingebedde toestelle te miniaturiseer, tesame met die optimalisering van ML-modelle om hulle meer krag- en geheuedoeltreffend te maak, het die weg gebaan vir TinyML wat daarop gemik is om ML-modelle en -praktyke op uiterste IoT-toestelle en -raamwerk te implementeer. TinyML maak seinverwerking op IoT-toestelle moontlik en verskaf ingebedde intelligensie, en elimineer dus die behoefte om data na wolkplatforms oor te dra vir verwerking. Suksesvolle implementering van TinyML op IoT-toestelle kan uiteindelik lei tot verhoogde privaatheid en doeltreffendheid terwyl die bedryfskoste verminder word. Wat TinyML boonop aantrekliker maak, is dat dit in die geval van onvoldoende konneksie analise op die perseel kan verskaf. 

TinyML: Inleiding en Oorsig

TinyML is 'n masjienleerinstrument wat die vermoë het om analise op die toestel uit te voer vir verskillende waarnemingsmodaliteite soos oudio, visie en spraak. Ml-modelle wat op die TinyML-instrument bou, het lae krag-, geheue- en rekenaarvereistes wat hulle geskik maak vir ingebedde netwerke en toestelle wat op batterykrag werk. Boonop maak TinyML se lae vereistes dit ideaal om ML-modelle op die IoT-raamwerk te ontplooi.

In die huidige scenario ondervind wolkgebaseerde ML-stelsels 'n paar probleme, insluitend sekuriteit- en privaatheidskwessies, hoë kragverbruik, betroubaarheid en vertragingsprobleme, en daarom is modelle op hardeware-sagteware-platforms vooraf geïnstalleer. Sensors versamel die data wat die fisiese wêreld simuleer, en word dan verwerk met behulp van 'n SVE of MPU (Mikroverwerkingseenheid). Die MPU voorsien in die behoeftes van ML analitiese ondersteuning wat deur randbewuste ML-netwerke en argitektuur moontlik gemaak word. Edge ML-argitektuur kommunikeer met die ML-wolk vir die oordrag van data, en die implementering van TinyML kan aansienlike bevordering van tegnologie tot gevolg hê. 

Dit sal veilig wees om te sê dat TinyML 'n samevoeging van sagteware, hardeware en algoritmes is wat in sinchronisasie met mekaar werk om die verlangde werkverrigting te lewer. Analoog- of geheue-berekening kan nodig wees om 'n beter en doeltreffende leerervaring te bied vir hardeware en IoT-toestelle wat nie hardewareversnellers ondersteun nie. Wat sagteware betref, kan die toepassings wat met TinyML gebou is, ontplooi en geïmplementeer word oor platforms soos Linux of ingebedde Linux, en oor wolk-geaktiveerde sagteware. Laastens, toepassings en stelsels wat op die TinyML-algoritme gebou is, moet die ondersteuning hê van nuwe algoritmes wat lae geheue-grootte modelle benodig om hoë geheueverbruik te vermy. 

Om dinge op te som, toepassings wat met die TinyML-instrument gebou is, moet ML-beginsels en -metodes optimaliseer, tesame met die ontwerp van die sagteware kompak, in die teenwoordigheid van hoë-gehalte data. Hierdie data moet dan deur binêre lêers geflits word wat gegenereer word met behulp van modelle wat opgelei is op masjiene met baie groter kapasiteit, en rekenaarkrag. 

Boonop moet stelsels en toepassings wat op die TinyML-nutsding loop, hoë akkuraatheid verskaf wanneer hulle onder strenger beperkings werk, want kompakte sagteware is nodig vir klein kragverbruik wat TinyML-implikasies ondersteun. Verder kan die TinyML-toepassings of -modules van batterykrag afhang om sy bedrywighede op rand-ingeboude stelsels te ondersteun. 

Met dit gesê, het TinyML-toepassings twee fundamentele vereistes

1. Vermoë om biljoene goedkoop ingebedde stelsels te skaal. 
2. Stoor die kode op die toestel se RAM met kapasiteit onder 'n paar KB's. 

Toepassings van TinyML met behulp van gevorderde tegnologieë

Een van die belangrikste redes waarom TinyML 'n warm onderwerp in die KI en ML-industrie is, is vanweë die potensiële toepassings daarvan, insluitend visie- en spraakgebaseerde toepassings, gesondheidsdiagnose, datapatroonkompressie en klassifikasie, breinbeheer-koppelvlak, randrekenaarkunde, fenomika, self -bestuur van motors, en meer. 

Spraakgebaseerde toepassings

Spraak kommunikasie

Tipies maak spraakgebaseerde toepassings staat op konvensionele kommunikasiemetodes waarin al die data belangrik is, en dit oorgedra word. In onlangse jare het semantiese kommunikasie egter na vore gekom as 'n alternatief vir konvensionele kommunikasie soos in semantiese kommunikasie, slegs die betekenis of konteks van die data word oorgedra. Semantiese kommunikasie kan oor spraakgebaseerde toepassings geïmplementeer word deur TinyML-metodologieë te gebruik. 

Van die gewildste toepassings in die spraakkommunikasiebedryf vandag is spraakopsporing, spraakherkenning, aanlynleer, aanlynonderrig en doelgerigte kommunikasie. Hierdie toepassings het gewoonlik 'n hoër kragverbruik, en hulle het ook hoë datavereistes op die gasheertoestel. Om hierdie vereistes te oorkom, is 'n nuwe TinySpeech-biblioteek bekendgestel wat ontwikkelaars in staat stel om 'n lae berekeningsargitektuur te bou wat diep konvolusionele netwerke gebruik om 'n lae bergingsfasiliteit te bou. 

Om TinyML vir spraakverbetering te gebruik, het ontwikkelaars eers die grootte van die spraakverbeteringsmodel aangespreek omdat dit onderhewig was aan hardewarebeperkings en -beperkings. Om die kwessie aan te pak, is gestruktureerde snoei en heelgetalkwantisering vir RNN of Herhalende Neurale Netwerke spraakverbeteringsmodel ontplooi. Die resultate het voorgestel dat die grootte van die model met byna 12x verminder moet word, terwyl die bewerkings met byna 3x verminder moet word. Daarbenewens is dit noodsaaklik dat hulpbronne doeltreffend aangewend moet word, veral wanneer dit op hulpbronbeperkte toepassings ontplooi word wat stemherkenningstoepassings uitvoer. 

As gevolg hiervan, om die proses te verdeel, is 'n mede-ontwerpmetode voorgestel vir TinyML-gebaseerde stem- en spraakherkenningstoepassings. Die ontwikkelaars het vensterbewerking gebruik om sagteware en hardeware te partisieer op 'n manier om die rou stemdata vooraf te verwerk. Die metode het gelyk of dit werk aangesien die resultate 'n afname in die energieverbruik op die hardeware aangedui het. Laastens is daar ook potensiaal om geoptimaliseerde partisionering tussen sagteware en hardeware mede-ontwerp te implementeer vir beter werkverrigting in die nabye toekoms. 

Verder het onlangse navorsing die gebruik van 'n foongebaseerde transducer vir spraakherkenningstelsels voorgestel, en die voorstel is daarop gemik om LSTM-voorspellers met Conv1D-laag te vervang om die berekeningsbehoeftes op randtoestelle te verminder. Toe dit geïmplementeer is, het die voorstel positiewe resultate opgelewer aangesien die SVD of Singular Value Decomposition die model suksesvol saamgepers het, terwyl die gebruik van WFST of Geweegde Eindige Toestand Transducers-gebaseerde dekodering meer buigsaamheid in modelverbeteringsvooroordeel tot gevolg gehad het. 

Baie prominente toepassings van spraakherkenning soos virtuele of stemassistente, regstreekse onderskrifte en stemopdragte gebruik ML-tegnieke om te werk. Gewilde stemassistente soos Siri en die Google Assistant ping die wolkplatform elke keer as hulle data ontvang, en dit skep groot bekommernisse wat verband hou met privaatheid en datasekuriteit. TinyML is 'n lewensvatbare oplossing vir die probleem, aangesien dit daarop gemik is om spraakherkenning op toestelle uit te voer en die behoefte om data na wolkplatforms te migreer uit te skakel. Een van die maniere om spraakherkenning op die toestel te verkry, is om Tiny Transducer te gebruik, 'n spraakherkenningsmodel wat 'n DFSMN- of Deep Feed-Forward Sequential Memory Block-laag gebruik, tesame met een Conv1D-laag in plaas van die LSTM-lae om die berekeningsvereistes te verlaag. , en netwerk parameters. 

Gehoorapparate

Gehoorverlies is 'n groot gesondheidsprobleem regoor die wêreld, en mense se vermoë om klanke te hoor verswak oor die algemeen namate hulle ouer word, en dit is 'n groot probleem in lande wat te doen het met verouderende bevolking, insluitend China, Japan en Suid-Korea. Gehoorapparaat toestelle werk tans op die eenvoudige beginsel om al die insetklanke van die omgewing te versterk wat dit moeilik maak vir die persoon om te onderskei of te onderskei tussen die gewenste klank veral in 'n raserige omgewing. 

TinyML kan die lewensvatbare oplossing vir hierdie probleem wees, aangesien die gebruik van 'n TinyLSTM-model wat spraakherkenningsalgoritme vir gehoortoesteltoestelle gebruik, die gebruikers kan help om tussen verskillende klanke te onderskei. 

Visie-gebaseerde toepassings

TinyML het die potensiaal om 'n deurslaggewende rol in verwerking te speel rekenaarvisie gebaseerde datastelle want vir vinniger uitsette moet hierdie datastelle op die randplatform self verwerk word. Om dit te bereik, ontmoet die TinyML-model die praktiese uitdagings wat in die gesig gestaar word tydens die opleiding van die model met behulp van die OpenMV H7 mikrobeheerderbord. Die ontwikkelaars het ook 'n argitektuur voorgestel om Amerikaanse Gebaretaal op te spoor met behulp van 'n ARM Cortex M7-mikrobeheerder wat slegs met 496KB raambuffer-RAM werk. 

Die implementering van TinyML vir rekenaarvisie-gebaseerde toepassing op randplatforms het vereis dat ontwikkelaars die groot uitdaging van CNN of Convolutional Neural Networks met 'n hoë veralgemeningsfout en hoë opleiding- en toetsakkuraatheid moes oorkom. Die implementering het egter nie effektief veralgemeen na beelde binne nuwe gebruiksgevalle sowel as agtergronde met geraas nie. Toe die ontwikkelaars die interpolasievergrotingsmetode gebruik het, het die model 'n akkuraatheidtelling van meer as 98% op toetsdata opgelewer, en ongeveer 75% in veralgemening. 

Verder is daar waargeneem dat wanneer die ontwikkelaars die interpolasievergrotingsmetode gebruik het, daar 'n daling in model se akkuraatheid tydens kwantisering was, maar terselfdertyd was daar ook 'n hupstoot in model se afleidingspoed, en klassifikasieveralgemening. Die ontwikkelaars het ook 'n metode voorgestel om die akkuraatheid van veralgemeningsmodel-opleiding op data wat uit 'n verskeidenheid verskillende bronne verkry is, verder te verbeter, en om die werkverrigting te toets om die moontlikheid te ondersoek om dit op randplatforms soos draagbare slimhorlosies te ontplooi. 

Verder bykomende studies oor CNN het aangedui dat dit moontlik is om gewenste resultate met CNN-argitektuur te ontplooi en te bereik op toestelle met beperkte hulpbronne. Onlangs kon ontwikkelaars 'n raamwerk ontwikkel vir die opsporing van mediese gesigmaskers op 'n ARM Cortex M7-mikrobeheerder met beperkte hulpbronne met behulp van TensorFlow lite met minimale geheue-voetspore. Die modelgrootte na-kwantisering was ongeveer 138 KB, terwyl die interferensiespoed op die teikenbord ongeveer 30 FPS was. 

Nog 'n toepassing van TinyML vir rekenaarvisie-gebaseerde toepassing is om 'n gebareherkenningstoestel te implementeer wat aan 'n kierie vasgeklem kan word om gesiggestremde mense te help om maklik deur hul daaglikse lewens te navigeer. Om dit te ontwerp, het die ontwikkelaars die gebare-datastel gebruik, en die datastel gebruik om die ProtoNN-model op te lei met 'n klassifikasie-algoritme. Die resultate wat met die opstelling verkry is, was akkuraat, die ontwerp was goedkoop en dit het bevredigende resultate gelewer. 

Nog 'n belangrike toepassing van TinyML is in die selfbestuur- en outonome voertuigbedryf as gevolg van die gebrek aan hulpbronne en rekenaarkrag aan boord. Om die probleem aan te pak, het ontwikkelaars 'n geslote lus-leermetode bekendgestel wat gebou is op die TinyCNN-model wat 'n aanlyn voorspellermodel voorgestel het wat die beeld tydens die looptyd vasvang. Die groot probleem waarmee ontwikkelaars te kampe gehad het met die implementering van TinyML vir outonome bestuur, was dat die besluitmodel wat opgelei is om op vanlyn data te werk, dalk nie ewe goed werk wanneer dit met aanlyn data hanteer word nie. Om die toepassings van outonome motors en selfbesturende motors ten volle te maksimeer, moet die model ideaal gesproke kan aanpas by die intydse data. 

Datapatroonklassifikasie en -kompressie

Een van die grootste uitdagings van die huidige TinyML-raamwerk is om dit te fasiliteer om by aanlyn opleidingsdata aan te pas. Om die probleem aan te pak, het ontwikkelaars 'n metode voorgestel bekend as TinyOL of TinyML Online Learning om opleiding met inkrementele aanlynleer op mikrobeheereenhede moontlik te maak, waardeur die model op IoT-randtoestelle kan bywerk. Die implementering is bereik met behulp van die C++-programmeertaal, en 'n bykomende laag is by die TinyOL-argitektuur gevoeg. 

Verder het ontwikkelaars ook die outo-enkodering van die Arduino Nano 33 BLE-sensorbord uitgevoer, en die model wat opgelei is, kon nuwe datapatrone klassifiseer. Verder het die ontwikkelingswerk die ontwerp van doeltreffende en meer geoptimaliseerde algoritmes vir die neurale netwerke ingesluit om toestelopleidingspatrone aanlyn te ondersteun. 

Navorsing in TinyOL en TinyML het aangedui dat die aantal aktiveringslae 'n groot probleem was vir IoT-randtoestelle wat hulpbronne het beperk. Om die probleem aan te pak, het ontwikkelaars die nuwe TinyTL- of Tiny Transfer Learning-model bekendgestel om die gebruik van geheue oor IoT-randtoestelle baie doeltreffender te maak, en om die gebruik van tussenlae vir aktiveringsdoeleindes te vermy. Boonop het ontwikkelaars ook 'n heeltemal nuwe vooroordeelmodule bekendgestel, bekend as "lite-residuele module” om die aanpassingsvermoëns te maksimeer, en natuurlik om kenmerkonttrekkers toe te laat om oorblywende kenmerkkaarte te ontdek. 

In vergelyking met volle netwerk fyninstelling, was die resultate ten gunste van die TinyTL-argitektuur, aangesien die resultate gewys het dat die TinyTL die geheue-bokoste ongeveer 6.5 keer verminder met matige akkuraatheidsverlies. Toe die laaste laag fyn ingestel is, het TinyML die akkuraatheid met 34% verbeter met matige akkuraatheidsverlies. 

Verder het navorsing oor datakompressie dit aangedui data kompressie algoritmes moet die versamelde data op 'n draagbare toestel bestuur, en om dieselfde te bereik, het die ontwikkelaars TAC of Tiny Anomaly Compressor voorgestel. Die TAC kon beter as SDT of Swing Door Trending, en DCT of Diskrete Cosinus Transform algoritmes presteer. Boonop het die TAC-algoritme beter gevaar as beide die SDT- en DCT-algoritmes deur 'n maksimum kompressiekoers van meer as 98% te bereik, en met die superieure piek sein-tot-geraas-verhouding uit die drie algoritmes. 

Gesondheidsdiagnose

Die Covid-19 wêreldwye pandemie het nuwe deure van geleenthede oopgemaak vir die implementering van TinyML, aangesien dit nou 'n noodsaaklike praktyk is om voortdurend respiratoriese simptome wat verband hou met hoes en koue op te spoor. Om ononderbroke monitering te verseker, het ontwikkelaars 'n CNN-model Tiny RespNet voorgestel wat op 'n multi-model-instelling werk, en die model word oor 'n Xilinx Artix-7 100t FPGA ontplooi wat die toestel toelaat om die inligting parallel te verwerk, het 'n hoë doeltreffendheid, en lae kragverbruik. Daarbenewens neem die TinyResp-model ook spraak van pasiënte, oudio-opnames en inligting van demografie as insette om te klassifiseer, en die hoesverwante simptome van 'n pasiënt word geklassifiseer deur gebruik te maak van drie onderskeie datastelle. 

Verder het ontwikkelaars ook 'n model voorgestel wat in staat is om diepleerberekeninge op randtoestelle uit te voer, 'n TinyML-model genaamd TinyDL. Die TinyDL-model kan op randtoestelle soos slimhorlosies en draagbare toestelle vir gesondheidsdiagnose ontplooi word, en is ook in staat om prestasie-analise uit te voer om bandwydte, latensie en energieverbruik te verminder. Om die ontplooiing van TinyDL op handtoestelle te bereik, is 'n LSTM-model spesifiek ontwerp en opgelei vir 'n draagbare toestel, en dit is gevoer met versamelde data as die inset. Die model het 'n akkuraatheidtelling van ongeveer 75 tot 80%, en dit kon ook met data van die toestel werk. Hierdie modelle wat op randtoestelle loop, het die potensiaal getoon om die huidige uitdagings wat die IoT-toestelle in die gesig staar, op te los. 

Laastens het ontwikkelaars ook 'n ander toepassing voorgestel om die gesondheid van bejaardes te monitor deur hul liggaamsposisies te skat en te ontleed. Die model gebruik die agnostiese raamwerk op die toestel wat die model toelaat om validering en vinnige bevordering moontlik te maak om aanpassings uit te voer. Die model het liggaamsposisie-opsporingsalgoritmes geïmplementeer tesame met gesiglandmerke om tydruimtelike liggaamshoudings intyds op te spoor. 

Edge Computing

Een van die belangrikste toepassings van TinyML is op die gebied van randrekenaars, aangesien met die toename in die gebruik van IoT-toestelle om toestelle regoor die wêreld te koppel, dit noodsaaklik is om randtoestelle op te stel, aangesien dit sal help om die las oor die wolkargitekture te verminder . Hierdie randtoestelle sal individuele datasentrums bevat wat hulle in staat sal stel om hoëvlakrekenaars op die toestel self uit te voer, eerder as om op die wolkargitektuur staat te maak. As gevolg hiervan sal dit help om die afhanklikheid van die wolk te verminder, latensie te verminder, gebruikerssekuriteit en privaatheid te verbeter, en ook bandwydte te verminder. 

Edge-toestelle wat die TinyML-algoritmes gebruik, sal help om die huidige beperkings wat verband hou met krag-, rekenaar- en geheuevereistes op te los, en dit word in die prent hieronder bespreek. 

Verder kan TinyML ook die gebruik en toepassing van onbemande lugvoertuie of UAV's verbeter deur die huidige beperkings wat hierdie masjiene in die gesig staar, aan te spreek. Die gebruik van TinyML kan ontwikkelaars in staat stel om 'n energiedoeltreffende toestel met 'n lae latensie en hoë rekenaarkrag te implementeer wat as 'n beheerder vir hierdie UAV's kan optree. 

Brein-rekenaar-koppelvlak of BCI

TinyML het beduidende toepassings in die gesondheidsorgbedryf, en dit kan baie voordelig wees op verskillende gebiede, insluitend kanker- en tumoropsporing, gesondheidsvoorspellings deur EKG- en EEG-seine en emosionele intelligensie te gebruik. Die gebruik van TinyML kan die Adaptive Deep Brain Stimulasie of aDBS toelaat om suksesvol aan te pas by kliniese aanpassings. Die gebruik van TinyMl kan ook aDBS toelaat om siekteverwante biomerke en hul simptome te identifiseer deur gebruik te maak van indringende opnames van die breinseine. 

Verder sluit die gesondheidsorgbedryf dikwels die versameling van 'n groot hoeveelheid data van 'n pasiënt in, en hierdie data moet dan verwerk word om spesifieke oplossings te bereik vir die behandeling van 'n pasiënt in die vroeë stadiums van 'n siekte. Gevolglik is dit noodsaaklik om 'n stelsel te bou wat nie net hoogs doeltreffend is nie, maar ook hoogs veilig is. Wanneer ons IoT-toepassing met die TinyML-model kombineer, word 'n nuwe veld gebore genaamd die H-IoT of Healthcare Internet of Things, en die belangrikste toepassings van die H-IoT is diagnose, monitering, logistiek, verspreidingsbeheer en bystandstelsels. As ons toestelle wil ontwikkel wat in staat is om 'n pasiënt se gesondheid op afstand op te spoor en te analiseer, is dit noodsaaklik om 'n stelsel te ontwikkel wat 'n globale toeganklikheid en 'n lae latensie het. 

Outonome voertuie

Laastens kan TinyML wydverspreide toepassings in die outonome voertuigbedryf hê, aangesien hierdie voertuie op verskillende maniere gebruik kan word, insluitend menslike opsporing, militêre doeleindes en industriële toepassings het. Hierdie voertuie het 'n primêre vereiste om voorwerpe doeltreffend te kan identifiseer wanneer die voorwerp deursoek word. 

Van nou af is outonome voertuie en outonome bestuur 'n redelik komplekse taak, veral wanneer mini- of kleingrootte voertuie ontwikkel word. Onlangse ontwikkelings het potensiaal getoon om die toepassing van outonome bestuur vir minivoertuie te verbeter deur 'n CNN-argitektuur te gebruik en die model oor die GAP8 MCI te ontplooi. 

Uitdagings

TinyML is 'n relatief nuwer konsep in die KI- en ML-industrie, en ten spyte van die vordering, is dit steeds nie so effektief as wat ons dit nodig het vir massa-ontplooiing vir rand- en IoT-toestelle nie. 

Die grootste uitdaging waarmee TinyML-toestelle tans te kampe het, is die kragverbruik van hierdie toestelle. Ideaal gesproke word verwag dat ingebedde rand- en IoT-toestelle 'n batterylewe sal hê wat oor 10 jaar strek. Byvoorbeeld, in ideale toestand is 'n IoT-toestel wat op 'n 2Ah-battery werk, veronderstel om 'n batterylewe van meer as 10 jaar te hê, aangesien die kragverbruik van die toestel ongeveer 12 is ua. In die gegewe toestand, 'n IoT-argitektuur met 'n temperatuursensor, 'n MCU-eenheid en 'n WiFi-module, staan ​​die huidige verbruik egter op ongeveer 176.4 mA, en met hierdie kragverbruik sal die battery net vir ongeveer 11 uur hou, in plaas daarvan van die vereiste 10 jaar se batterylewe. 

Hulpbronbeperkings

Om 'n algoritme se konsekwentheid te handhaaf, is dit noodsaaklik om kragbeskikbaarheid te handhaaf, en gegewe die huidige scenario is die beperkte kragbeskikbaarheid vir TinyML-toestelle 'n kritieke uitdaging. Verder is geheuebeperkings ook 'n beduidende uitdaging, aangesien die implementering van modelle dikwels 'n groot hoeveelheid geheue verg om effektief en akkuraat te werk. 

Hardeware Beperkings

Hardewarebeperkings maak die implementering van TinyML-algoritmes op 'n wye skaal moeilik as gevolg van die heterogeniteit van hardeware-toestelle. Daar is duisende toestelle, elk met hul eie hardeware-spesifikasies en vereistes, en gevolglik moet 'n TinyML-algoritme tans vir elke individuele toestel aangepas word, wat massa-ontplooiing 'n groot probleem maak. 

Datastelbeperkings

Een van die groot probleme met TinyML-modelle is dat hulle nie die bestaande datastelle ondersteun nie. Dit is 'n uitdaging vir alle randtoestelle aangesien hulle data met behulp van eksterne sensors insamel, en hierdie toestelle het dikwels krag- en energiebeperkings. Daarom kan die bestaande datastelle nie gebruik word om die TinyML-modelle effektief op te lei nie. 

Harde Gedagtes

Die ontwikkeling van ML-tegnieke het 'n omwenteling en 'n verskuiwing in perspektief in die IoT-ekosisteem veroorsaak. Die integrasie van ML-modelle in IoT-toestelle sal hierdie randtoestelle toelaat om intelligente besluite op hul eie te neem sonder enige eksterne menslike insette. Konvensioneel het ML-modelle egter dikwels hoë krag-, geheue- en rekenaarvereistes wat hulle laat verenig sodat dit op randtoestelle ontplooi word wat dikwels hulpbronbeperk is. 

As gevolg hiervan is 'n nuwe tak in KI toegewy aan die gebruik van ML vir IoT-toestelle, en dit is genoem as TinyML. Die TinyML is 'n ML-raamwerk wat selfs die hulpbronbeperkte toestelle toelaat om die krag van AI en ML te benut om hoër akkuraatheid, intelligensie en doeltreffendheid te verseker. 

In hierdie artikel het ons gepraat oor die implementering van TinyML-modelle op hulpbronbeperkte IoT-toestelle, en hierdie implementering vereis opleiding van die modelle, die implementering van die modelle op die hardeware en die uitvoering van kwantiseringstegnieke. Gegewe die huidige omvang, het die ML-modelle wat gereed is om op IoT en randtoestelle ontplooi te word, egter verskeie kompleksiteite en beperkings, insluitend hardeware en raamwerkversoenbaarheidskwessies.