TinyML: Aplikimet, kufizimet dhe përdorimi i tij në pajisjet IoT & Edge

Në vitet e fundit, Inteligjenca Artificiale (AI) dhe Mësim Machine (ML) kanë dëshmuar një rritje meteorike në popullaritet dhe aplikime, jo vetëm në industri, por edhe në akademi. Megjithatë, modelet e sotme ML dhe AI ​​kanë një kufizim të madh: ato kërkojnë një sasi të madhe të fuqisë llogaritëse dhe përpunuese për të arritur rezultatet dhe saktësinë e dëshiruar. Kjo shpesh e kufizon përdorimin e tyre në pajisje me kapacitet të lartë me fuqi të konsiderueshme llogaritëse.

Por duke pasur parasysh përparimet e bëra në teknologjinë e sistemit të integruar dhe zhvillimin thelbësor në industrinë e Internetit të Gjërave, është e dëshirueshme që përdorimi i teknikave dhe koncepteve të ML të përfshihet në një sistem të ngulitur me burime të kufizuara për inteligjencën e kudogjendur. Dëshira për të përdorur konceptet e ML në sistemet e integruara dhe IoT është faktori kryesor motivues pas zhvillimit të TinyML, një teknikë e integruar ML që lejon modelet dhe aplikacionet ML në pajisje të shumta me burime të kufizuara, me fuqi të kufizuar dhe pajisje të lira. 

Sidoqoftë, zbatimi i ML në pajisjet me burime të kufizuara nuk ka qenë i thjeshtë sepse zbatimi i modeleve ML në pajisjet me fuqi të ulët llogaritëse paraqet sfidat e veta për sa i përket optimizimit, kapacitetit përpunues, besueshmërisë, mirëmbajtjes së modeleve dhe shumë më tepër. 

Në këtë artikull, ne do të bëjmë një zhytje më të thellë në modelin TinyML dhe do të mësojmë më shumë për sfondin e tij, mjetet që mbështesin TinyML dhe aplikacionet e TinyML duke përdorur teknologji të avancuara. Pra, le të fillojmë. 

Një hyrje në TinyML: Pse bota ka nevojë për TinyML

Pajisjet e Internetit të Gjërave ose IoT synojnë të shfrytëzojnë llogaritjen e skajshme, një paradigmë kompjuterike që i referohet një sërë pajisjeve dhe rrjeteve pranë përdoruesit për të mundësuar përpunimin pa probleme dhe në kohë reale të të dhënave nga miliona sensorë dhe pajisje të ndërlidhura me njëra-tjetrën. Një nga avantazhet kryesore të pajisjeve IoT është se ato kërkojnë fuqi të ulët llogaritëse dhe përpunuese pasi ato mund të vendosen në skajin e rrjetit, dhe për këtë arsye ato kanë një gjurmë të ulët memorie. 

Për më tepër, pajisjet IoT mbështeten shumë në platformat e skajshme për të mbledhur dhe më pas transmetuar të dhënat pasi këto pajisje skajore mbledhin të dhëna ndijore dhe më pas i transmetojnë ato ose në një vendndodhje afër, ose në platformat cloud për përpunim. Teknologjia e llogaritjes së skajshme ruan dhe kryen llogaritjen e të dhënave, dhe gjithashtu siguron infrastrukturën e nevojshme për të mbështetur llogaritjen e shpërndarë. 

Zbatimi i llogaritjes skajore në pajisjet IoT ofron

1. Siguri, privatësi dhe besueshmëri efektive për përdoruesit fundorë. 
2. Vonesa më e ulët. 
3. Disponueshmëri më e lartë dhe përgjigje e xhiros ndaj aplikacioneve dhe shërbimeve. 

Për më tepër, për shkak se pajisjet e skajit mund të vendosin një teknikë bashkëpunuese midis sensorëve dhe cloud, përpunimi i të dhënave mund të kryhet në skajin e rrjetit në vend që të kryhet në platformën cloud. Kjo mund të rezultojë në menaxhim efektiv të të dhënave, qëndrueshmëri të të dhënave, shpërndarje efektive dhe ruajtje të përmbajtjes. Për më tepër, zbatimi i IoT në aplikacione që kanë të bëjnë me ndërveprimin H2M ose Human to Machine dhe informatikë moderne të kujdesit shëndetësor ofron një mënyrë për të përmirësuar ndjeshëm shërbimet e rrjetit. 

Hulumtimet e fundit në fushën e informatikës së skajshme të IoT kanë demonstruar potencialin për të zbatuar teknikat e Mësimit të Makinerisë në disa raste të përdorimit të IoT. Sidoqoftë, çështja kryesore është se modelet tradicionale të mësimit të makinerive shpesh kërkojnë fuqi të fortë llogaritëse dhe përpunuese, dhe kapacitet të lartë memorie që kufizon zbatimin e modeleve ML në pajisjet dhe aplikacionet IoT. 

Për më tepër, teknologjisë kompjuterike të skajshme sot i mungon kapaciteti i lartë i transmetimit dhe kursimet efektive të energjisë që çojnë në sisteme heterogjene që është arsyeja kryesore pas kërkesës për infrastrukturë harmonike dhe holistike kryesisht për përditësimin, trajnimin dhe vendosjen e modeleve ML. Arkitektura e krijuar për pajisjet e integruara paraqet një sfidë tjetër pasi këto arkitektura varen nga kërkesat e harduerit dhe softuerit që ndryshojnë nga pajisja në pajisje. Është arsyeja kryesore pse është e vështirë të ndërtohet një arkitekturë standarde ML për rrjetet IoT. 

Gjithashtu, në skenarin aktual, të dhënat e gjeneruara nga pajisje të ndryshme dërgohen në platformat cloud për përpunim për shkak të natyrës intensive llogaritëse të zbatimeve të rrjetit. Për më tepër, modelet ML shpesh varen nga mësimi i thellë, rrjetet nervore të thella, qarqet e integruara specifike të aplikacionit (ASIC) dhe njësitë e përpunimit grafik (GPU) për përpunimin e të dhënave, dhe ato shpesh kanë një kërkesë më të lartë për fuqi dhe memorie. Vendosja e modeleve të plota ML në pajisjet IoT nuk është një zgjidhje e zbatueshme për shkak të mungesës së dukshme të fuqive kompjuterike dhe përpunuese dhe zgjidhjeve të kufizuara të ruajtjes. 

Kërkesa për të miniaturizuar pajisjet e integruara me fuqi të ulët, së bashku me optimizimin e modeleve ML për t'i bërë ato më efikase në fuqi dhe memorie, i ka hapur rrugën TinyML që synon të zbatojë modelet dhe praktikat ML në pajisjet dhe kornizën e fundit të IoT. TinyML mundëson përpunimin e sinjalit në pajisjet IoT dhe ofron inteligjencë të integruar, duke eliminuar kështu nevojën për të transferuar të dhëna në platformat cloud për përpunim. Zbatimi i suksesshëm i TinyML në pajisjet IoT përfundimisht mund të rezultojë në rritjen e privatësisë dhe efikasitetit duke ulur kostot operative. Për më tepër, ajo që e bën TinyML më tërheqës është se në rast të lidhjes joadekuate, ai mund të ofrojë analitikë në premisë. 

TinyML: Hyrje dhe Përmbledhje

TinyML është një mjet i të mësuarit të makinerive që ka aftësinë për të kryer analiza në pajisje për modalitete të ndryshme të ndjeshmërisë si audio, vizion dhe të folur. Modelet Ml të ndërtuara në mjetin TinyML kanë kërkesa të ulëta për fuqi, memorie dhe kompjuterike, gjë që i bën ato të përshtatshme për rrjete të integruara dhe pajisje që funksionojnë me energji baterie. Për më tepër, kërkesat e ulëta të TinyML e bëjnë atë një përshtatje ideale për vendosjen e modeleve ML në kornizën IoT.

Në skenarin aktual, sistemet ML të bazuara në cloud përballen me disa vështirësi, duke përfshirë shqetësimet e sigurisë dhe privatësisë, konsumin e lartë të energjisë, besueshmërinë dhe problemet e vonesës, prandaj modelet në platformat harduerike-softuerike janë të para-instaluara. Sensorët mbledhin të dhënat që simulojnë botën fizike dhe më pas përpunohen duke përdorur një CPU ose MPU (njësi mikroprocesimi). MPU plotëson nevojat e mbështetjes analitike ML të mundësuar nga rrjetet dhe arkitektura e ML të vetëdijshme. Arkitektura Edge ML komunikon me renë ML për transferimin e të dhënave dhe zbatimi i TinyML mund të rezultojë në avancimin e ndjeshëm të teknologjisë. 

Do të ishte e sigurt të thuhet se TinyML është një bashkim i softuerit, harduerit dhe algoritmeve që punojnë në sinkron me njëri-tjetrin për të ofruar performancën e dëshiruar. Llogaritja analoge ose e memories mund të kërkohet për të ofruar një përvojë më të mirë dhe efektive të të mësuarit për pajisjet harduerike dhe IoT që nuk mbështesin përshpejtuesit harduerikë. Për sa i përket softuerit, aplikacionet e ndërtuara duke përdorur TinyML mund të vendosen dhe zbatohen në platforma si Linux ose Linux të integruar, dhe mbi softuer të aktivizuar në cloud. Së fundi, aplikacionet dhe sistemet e ndërtuara në algoritmin TinyML duhet të kenë mbështetjen e algoritmeve të reja që kanë nevojë për modele me madhësi të ulët memorie për të shmangur konsumin e lartë të memories. 

Për t'i përmbledhur gjërat, aplikacionet e ndërtuara duke përdorur mjetin TinyML duhet të optimizojnë parimet dhe metodat e ML së bashku me dizajnimin e softuerit në mënyrë kompakte, në prani të të dhënave me cilësi të lartë. Këto të dhëna më pas duhet të fshihen përmes skedarëve binare që krijohen duke përdorur modele që janë trajnuar në makina me kapacitet dhe fuqi llogaritëse shumë më të madhe. 

Për më tepër, sistemet dhe aplikacionet që funksionojnë në mjetin TinyML duhet të ofrojnë saktësi të lartë kur performojnë nën kufizime më të rrepta, sepse softueri kompakt nevojitet për konsum të vogël energjie që mbështet implikimet e TinyML. Për më tepër, aplikacionet ose modulet TinyML mund të varen nga fuqia e baterisë për të mbështetur funksionimin e saj në sistemet e ngulitura në skaj. 

Me këtë u tha, aplikacionet TinyML kanë dy kërkesa themelore

1. Aftësia për të shkallëzuar miliarda sisteme të ngulitura të lira. 
2. Ruajtja e kodit në RAM të pajisjes me kapacitet nën disa KB. 

Aplikimet e TinyML duke përdorur teknologji të avancuara

Një nga arsyet kryesore pse TinyML është një temë e nxehtë në industrinë e AI dhe ML është për shkak të aplikacioneve të tij të mundshme duke përfshirë aplikacionet e bazuara në vizion dhe të folur, diagnozën shëndetësore, kompresimin dhe klasifikimin e modeleve të të dhënave, ndërfaqen e kontrollit të trurit, llogaritjen e skajeve, fenomenin, vetë. - drejtimin e makinave, dhe më shumë. 

Aplikime të bazuara në të folur

Komunikimet e të folurit

Në mënyrë tipike, aplikacionet e bazuara në të folur mbështeten në metodat konvencionale të komunikimit në të cilat të gjitha të dhënat janë të rëndësishme dhe ato transmetohen. Megjithatë, vitet e fundit, komunikimi semantik është shfaqur si një alternativë ndaj komunikimit konvencional pasi në komunikimin semantik transmetohet vetëm kuptimi ose konteksti i të dhënave. Komunikimi semantik mund të zbatohet nëpër aplikacione të bazuara në të folur duke përdorur metodologjitë TinyML. 

Disa nga aplikacionet më të njohura në industrinë e komunikimit të të folurit sot janë zbulimi i të folurit, njohja e të folurit, mësimi në internet, mësimdhënia në internet dhe komunikimi i orientuar drejt qëllimit. Këto aplikacione zakonisht kanë një konsum më të lartë të energjisë dhe gjithashtu kanë kërkesa të larta për të dhëna në pajisjen pritës. Për të kapërcyer këto kërkesa, është prezantuar një bibliotekë e re TinySpeech që lejon zhvilluesit të ndërtojnë një arkitekturë të ulët llogaritëse që përdor rrjete të thella konvolucionale për të ndërtuar një strukturë të ulët ruajtjeje. 

Për të përdorur TinyML për përmirësimin e të folurit, zhvilluesit fillimisht trajtuan madhësinë e modelit të përmirësimit të të folurit sepse ai ishte subjekt i kufizimeve dhe kufizimeve të harduerit. Për të trajtuar problemin, u vendosën krasitja e strukturuar dhe kuantizimi i numrave të plotë për modelin e përmirësimit të të folurit RNN ose Rrjetet nervore të përsëritura. Rezultatet sugjeruan që madhësia e modelit të reduktohej me pothuajse 12 herë, ndërsa operacionet të reduktoheshin me pothuajse 3 herë. Për më tepër, është jetike që burimet duhet të përdoren në mënyrë efektive, veçanërisht kur vendosen në aplikacione me burime të kufizuara që ekzekutojnë aplikacione për njohjen e zërit. 

Si rezultat, për ndarjen e procesit, u propozua një metodë e bashkë-projektimit për aplikacionet e njohjes së zërit dhe të fjalës bazuar në TinyML. Zhvilluesit përdorën funksionimin e dritareve për ndarjen e softuerit dhe harduerit në një mënyrë për të përpunuar paraprakisht të dhënat e papërpunuara të zërit. Metoda dukej se funksiononte pasi rezultatet treguan një ulje të konsumit të energjisë në pajisje. Së fundi, ka gjithashtu potencial për të zbatuar ndarjen e optimizuar midis bashkë-projektimit të softuerit dhe harduerit për performancë më të mirë në të ardhmen e afërt. 

Për më tepër, kërkimet e fundit kanë propozuar përdorimin e një transduktori të bazuar në telefon për sistemet e njohjes së të folurit dhe propozimi synon të zëvendësojë parashikuesit LSTM me shtresën Conv1D për të zvogëluar nevojat e llogaritjes në pajisjet e skajshme. Kur u zbatua, propozimi ktheu rezultate pozitive pasi Zbërthimi i Vlerës SVD ose Singular e kishte kompresuar modelin me sukses, ndërsa përdorimi i dekodimit të bazuar në transduktorët e gjendjes së fundme WFST ose të ponderuar rezultoi në më shumë fleksibilitet në paragjykimin e përmirësimit të modelit. 

Shumë aplikacione të spikatura të njohjes së të folurit si asistentët virtualë ose zanorë, titrat e drejtpërdrejtë dhe komandat zanore përdorin teknika ML për të punuar. Asistentët zanorë të njohur aktualisht si Siri dhe Google Assistant bëjnë ping në platformën cloud sa herë që marrin disa të dhëna dhe kjo krijon shqetësime të rëndësishme në lidhje me privatësinë dhe sigurinë e të dhënave. TinyML është një zgjidhje e zbatueshme për këtë çështje pasi synon të kryejë njohjen e të folurit në pajisje dhe të eliminojë nevojën për të migruar të dhënat në platformat cloud. Një nga mënyrat për të arritur njohjen e të folurit në pajisje është përdorimi i Tiny Transducer, një model i njohjes së të folurit që përdor një shtresë DFSMN ose Deep Feed-Forward Sequential Memory Block të shoqëruar me një shtresë Conv1D në vend të shtresave LSTM për të ulur kërkesat e llogaritjes , dhe parametrat e rrjetit. 

Aids dëgjon

Humbja e dëgjimit është një shqetësim i madh shëndetësor në të gjithë globin, dhe aftësia e njerëzve për të dëgjuar tingujt në përgjithësi dobësohet me kalimin e moshës dhe është një problem madhor në vendet që kanë të bëjnë me popullsinë në plakje, duke përfshirë Kinën, Japoninë dhe Korenë e Jugut. Pajisjet e aparatit të dëgjimit aktualisht punojnë në parimin e thjeshtë të përforcimit të të gjithë tingujve të hyrjes nga rrethina, gjë që e bën të vështirë për personin të dallojë ose të bëjë dallimin midis tingullit të dëshiruar, veçanërisht në një mjedis të zhurmshëm. 

TinyML mund të jetë zgjidhja e mundshme për këtë çështje pasi përdorimi i një modeli TinyLSTM që përdor algoritmin e njohjes së të folurit për pajisjet e aparatit të dëgjimit mund t'i ndihmojë përdoruesit të dallojnë tingujt e ndryshëm. 

Aplikime të bazuara në vizion

TinyML ka potencialin të luajë një rol vendimtar në përpunim vizion kompjuteri grupe të dhënash të bazuara sepse për rezultate më të shpejta, këto grupe të dhënash duhet të përpunohen në vetë platformën e skajshme. Për ta arritur këtë, modeli TinyML ndeshet me sfidat praktike me të cilat përballet gjatë trajnimit të modelit duke përdorur tabelën e mikrokontrolluesit OpenMV H7. Zhvilluesit propozuan gjithashtu një arkitekturë për të zbuluar gjuhën amerikane të shenjave me ndihmën e një mikrokontrollues ARM Cortex M7 që funksionon vetëm me 496 KB RAM-bufer kornizë. 

Zbatimi i TinyML për aplikacionin e bazuar në vizion kompjuterik në platformat e skajshme kërkon që zhvilluesit të kapërcejnë sfidën kryesore të CNN ose Rrjeteve Neurale Convolutional me një gabim të lartë përgjithësimi dhe saktësi të lartë trajnimi dhe testimi. Megjithatë, zbatimi nuk u përgjithësua në mënyrë efektive për imazhet brenda rasteve të reja të përdorimit, si dhe sfondet me zhurmë. Kur zhvilluesit përdorën metodën e shtimit të interpolimit, modeli ktheu një rezultat saktësie prej mbi 98% në të dhënat e testit dhe rreth 75% në përgjithësi. 

Për më tepër, u vu re se kur zhvilluesit përdorën metodën e shtimit të interpolimit, pati një rënie në saktësinë e modelit gjatë kuantizimit, por në të njëjtën kohë, pati gjithashtu një rritje në shpejtësinë e përfundimit të modelit dhe përgjithësimin e klasifikimit. Zhvilluesit propozuan gjithashtu një metodë për të rritur më tej saktësinë e trajnimit të modelit të përgjithësimit mbi të dhënat e marra nga një shumëllojshmëri burimesh të ndryshme, dhe testimin e performancës për të eksploruar mundësinë e vendosjes së tij në platforma të skajshme si orët inteligjente portative. 

Për më tepër, studime shtesë mbi CNN tregoi se është e mundur të vendosen dhe të arrihen rezultate të dëshirueshme me arkitekturën e CNN në pajisjet me burime të kufizuara. Kohët e fundit, zhvilluesit ishin në gjendje të zhvillonin një kornizë për zbulimin e maskave mjekësore të fytyrës në një mikrokontrollues ARM Cortex M7 me burime të kufizuara duke përdorur TensorFlow lite me gjurmë minimale të memories. Madhësia e modelit pas kuantizimit ishte rreth 138 KB ndërsa shpejtësia e ndërhyrjes në tabelën e synuar ishte rreth 30 FPS. 

Një aplikim tjetër i TinyML për aplikacionin e bazuar në vizionin kompjuterik është zbatimi i një pajisjeje për njohjen e gjesteve që mund të mbërthehet në një kallam për të ndihmuar njerëzit me shikim të dëmtuar të lundrojnë lehtësisht në jetën e tyre të përditshme. Për ta dizajnuar atë, zhvilluesit përdorën grupin e të dhënave të gjesteve dhe përdorën grupin e të dhënave për të trajnuar modelin ProtoNN me një algoritëm klasifikimi. Rezultatet e marra nga konfigurimi ishin të sakta, dizajni ishte me kosto të ulët dhe dha rezultate të kënaqshme. 

Një tjetër aplikim i rëndësishëm i TinyML është në industrinë e automjeteve vetëdrejtuese dhe autonome për shkak të mungesës së burimeve dhe fuqisë llogaritëse në bord. Për të trajtuar këtë çështje, zhvilluesit prezantuan një metodë mësimi me ciklin e mbyllur të ndërtuar në modelin TinyCNN që propozoi një model parashikues në internet që kap imazhin në kohën e ekzekutimit. Çështja kryesore me të cilën u përballën zhvilluesit kur zbatuan TinyML për drejtimin autonom ishte se modeli i vendimit që ishte trajnuar për të punuar në të dhëna offline mund të mos funksionojë po aq mirë kur merret me të dhëna në internet. Për të maksimizuar plotësisht aplikimet e makinave autonome dhe makinave vetë-drejtuese, modeli në mënyrë ideale duhet të jetë në gjendje të përshtatet me të dhënat në kohë reale. 

Klasifikimi dhe kompresimi i modelit të të dhënave

Një nga sfidat më të mëdha të kornizës aktuale të TinyML është ta lehtësojë atë për t'u përshtatur me të dhënat e trajnimit në internet. Për të trajtuar problemin, zhvilluesit kanë propozuar një metodë të njohur si TinyOL ose TinyML Online Learning për të lejuar trajnime me mësim në rritje në internet në njësitë e mikrokontrolluesve duke lejuar kështu që modeli të përditësohet në pajisjet e skajshme IoT. Zbatimi u arrit duke përdorur gjuhën e programimit C++ dhe një shtresë shtesë iu shtua arkitekturës TinyOL. 

Për më tepër, zhvilluesit kryen gjithashtu kodimin automatik të tabelës së sensorit Arduino Nano 33 BLE dhe modeli i trajnuar ishte në gjendje të klasifikonte modelet e reja të të dhënave. Për më tepër, puna e zhvillimit përfshinte dizajnimin e algoritmeve efikase dhe më të optimizuara për rrjetet nervore për të mbështetur modelet e trajnimit të pajisjeve në internet. 

Hulumtimet në TinyOL dhe TinyML kanë treguar se numri i shtresave të aktivizimit ka qenë një çështje kryesore për pajisjet e skajshme të IoT që kanë burime të kufizuara. Për të trajtuar problemin, zhvilluesit prezantuan modelin e ri TinyTL ose Tiny Transfer Learning për ta bërë përdorimin e kujtesës mbi pajisjet e skajshme IoT shumë më efektive dhe për të shmangur përdorimin e shtresave të ndërmjetme për qëllime aktivizimi. Për më tepër, zhvilluesit prezantuan gjithashtu një modul të ri të paragjykimit të njohur si "modul lite-mbetës” për të maksimizuar aftësitë e përshtatjes, dhe natyrisht duke lejuar nxjerrësit e veçorive të zbulojnë hartat e veçorive të mbetura. 

Kur krahasohet me rregullimin e plotë të rrjetit, rezultatet ishin në favor të arkitekturës TinyTL pasi rezultatet treguan se TinyTL zvogëlonte ngarkesën e kujtesës rreth 6.5 herë me humbje të moderuar të saktësisë. Kur shtresa e fundit ishte akorduar mirë, TinyML e kishte përmirësuar saktësinë me 34% me humbje të moderuar të saktësisë. 

Për më tepër, hulumtimi mbi ngjeshjen e të dhënave ka treguar se algoritmet e kompresimit të të dhënave duhet të menaxhojë të dhënat e mbledhura në një pajisje portative, dhe për të arritur të njëjtën gjë, zhvilluesit propozuan TAC ose Tiny Anomaly Compressor. TAC ishte në gjendje të tejkalonte algoritmet SDT ose Swing Door Trending, dhe DCT ose Diskret Cosine Transform. Për më tepër, algoritmi TAC i tejkaloi të dyja algoritmet SDT dhe DCT duke arritur një shkallë kompresimi maksimale prej mbi 98%, dhe duke pasur raportin më të lartë të sinjalit ndaj zhurmës nga të tre algoritmet. 

Diagnoza shëndetësore

Pandemia globale Covid-19 hapi dyer të reja mundësish për zbatimin e TinyML pasi tani është një praktikë thelbësore për të zbuluar vazhdimisht simptomat e frymëmarrjes që lidhen me kollën dhe të ftohtin. Për të siguruar monitorim të pandërprerë, zhvilluesit kanë propozuar një model CNN Tiny RespNet që funksionon në një cilësim me shumë modele dhe modeli vendoset mbi një Xilinx Artix-7 100t FPGA që lejon pajisjen të përpunojë informacionin paralelisht, ka një efikasitet të lartë. dhe konsum të ulët të energjisë. Për më tepër, modeli TinyResp gjithashtu merr fjalimin e pacientëve, regjistrimet audio dhe informacionin e demografisë si të dhëna për të klasifikuar, dhe simptomat e lidhura me kollën e një pacienti klasifikohen duke përdorur tre grupe të dhënash të dalluara. 

Për më tepër, zhvilluesit kanë propozuar gjithashtu një model të aftë për të ekzekutuar llogaritjet e të mësuarit të thellë në pajisjet e skajshme, një model TinyML i quajtur TinyDL. Modeli TinyDL mund të vendoset në pajisjet e skajshme si orët inteligjente dhe pajisjet e veshjes për diagnostikimin e shëndetit, dhe është gjithashtu i aftë të kryejë analiza të performancës për të reduktuar gjerësinë e brezit, vonesën dhe konsumin e energjisë. Për të arritur vendosjen e TinyDL në pajisjet e dorës, një model LSTM u projektua dhe u trajnua posaçërisht për një pajisje të veshur, dhe ai u furnizua me të dhëna të mbledhura si hyrje. Modeli ka një rezultat saktësie prej rreth 75 deri në 80%, dhe ishte në gjendje të punonte edhe me të dhëna jashtë pajisjes. Këto modele që funksionojnë në pajisjet e skajshme treguan potencialin për të zgjidhur sfidat aktuale me të cilat përballen pajisjet IoT. 

Së fundi, zhvilluesit kanë propozuar gjithashtu një aplikacion tjetër për të monitoruar shëndetin e të moshuarve duke vlerësuar dhe analizuar pozat e trupit të tyre. Modeli përdor kornizën agnostike në pajisje që lejon modelin të mundësojë vërtetimin dhe nxitjen e shpejtë për të kryer përshtatjet. Modeli zbatoi algoritme për zbulimin e pozave të trupit të shoqëruar me pika referimi të fytyrës për të zbuluar pozat hapësinore-kohore të trupit në kohë reale. 

Edge Computing

Një nga aplikimet kryesore të TinyML është në fushën e llogaritjes së skajeve, pasi me rritjen e përdorimit të pajisjeve IoT për të lidhur pajisjet në të gjithë botën, është thelbësore për të vendosur pajisje të skajshme pasi do të ndihmojë në zvogëlimin e ngarkesës mbi arkitekturat cloud. . Këto pajisje të skajshme do të shfaqin qendra individuale të të dhënave që do t'i lejojnë ata të kryejnë llogaritje të nivelit të lartë në vetë pajisjen, në vend që të mbështeten në arkitekturën e cloud. Si rezultat, do të ndihmojë në zvogëlimin e varësisë nga cloud, zvogëlimin e vonesës, përmirësimin e sigurisë dhe privatësisë së përdoruesit dhe gjithashtu zvogëlimin e gjerësisë së brezit. 

Pajisjet Edge që përdorin algoritmet TinyML do të ndihmojnë në zgjidhjen e kufizimeve aktuale që lidhen me fuqinë, llogaritjen dhe kërkesat e kujtesës, dhe kjo është diskutuar në imazhin më poshtë. 

Për më tepër, TinyML gjithashtu mund të përmirësojë përdorimin dhe aplikimin e mjeteve ajrore pa pilot ose UAV-ve duke adresuar kufizimet aktuale me të cilat përballen këto makina. Përdorimi i TinyML mund t'i lejojë zhvilluesit të zbatojnë një pajisje me efikasitet energjie me vonesë të ulët dhe fuqi të lartë llogaritëse që mund të veprojë si një kontrollues për këto UAV. 

Ndërfaqja tru-kompjuter ose BCI

TinyML ka aplikime të rëndësishme në industrinë e kujdesit shëndetësor dhe mund të provojë të jetë shumë i dobishëm në fusha të ndryshme duke përfshirë zbulimin e kancerit dhe tumorit, parashikimet shëndetësore duke përdorur sinjalet EKG dhe EEG dhe inteligjencën emocionale. Përdorimi i TinyML mund të lejojë që Stimulimi Adaptive Deep Brain ose aDBS të përshtatet me sukses me përshtatjet klinike. Përdorimi i TinyMl mund të lejojë gjithashtu aDBS të identifikojë shenjat bio të lidhura me sëmundjen dhe simptomat e tyre duke përdorur regjistrime invazive të sinjaleve të trurit. 

Për më tepër, industria e kujdesit shëndetësor shpesh përfshin mbledhjen e një sasie të madhe të të dhënave të një pacienti, dhe këto të dhëna më pas duhet të përpunohen për të arritur zgjidhje specifike për trajtimin e një pacienti në fazat e hershme të një sëmundjeje. Si rezultat, është jetike të ndërtohet një sistem që është jo vetëm shumë efektiv, por edhe shumë i sigurt. Kur kombinojmë aplikacionin IoT me modelin TinyML, lind një fushë e re e quajtur si H-IoT ose Healthcare Internet of Things, dhe aplikimet kryesore të H-IoT janë diagnostikimi, monitorimi, logjistika, kontrolli i përhapjes dhe sistemet ndihmëse. Nëse duam të zhvillojmë pajisje që janë të afta të zbulojnë dhe analizojnë shëndetin e një pacienti nga distanca, është thelbësore të zhvillojmë një sistem që ka një akses global dhe një vonesë të ulët. 

Automjete autonome

Së fundi, TinyML mund të ketë aplikime të përhapura në industrinë e automjeteve autonome pasi këto automjete mund të përdoren në mënyra të ndryshme duke përfshirë gjurmimin e njerëzve, qëllime ushtarake dhe ka aplikime industriale. Këto automjete kanë një kërkesë parësore për të qenë në gjendje të identifikojnë objektet në mënyrë efikase kur objekti është duke u kontrolluar. 

Deri më tani, automjetet autonome dhe drejtimi autonome është një detyrë mjaft komplekse, veçanërisht kur zhvillohen automjete të vogla ose të vogla. Zhvillimet e fundit kanë treguar potencial për të përmirësuar aplikimin e drejtimit autonom për automjetet mini duke përdorur një arkitekturë CNN dhe duke e vendosur modelin mbi GAP8 MCI. 

Sfidat

TinyML është një koncept relativisht më i ri në industrinë e AI dhe ML, dhe pavarësisht progresit, ai ende nuk është aq efektiv sa na nevojitet për vendosjen masive për pajisjet edge dhe IoT. 

Sfida më e madhe me të cilën përballen aktualisht pajisjet TinyML është konsumi i energjisë së këtyre pajisjeve. Në mënyrë ideale, pajisjet e integruara me skaj dhe IoT pritet të kenë një jetëgjatësi baterie që zgjat mbi 10 vjet. Për shembull, në gjendje ideale, një pajisje IoT që funksionon me një bateri 2Ah supozohet të ketë një jetëgjatësi të baterisë mbi 10 vjet duke pasur parasysh se konsumi i energjisë i pajisjes është rreth 12 ua. Megjithatë, në gjendjen e dhënë, një arkitekturë IoT me një sensor të temperaturës, një njësi MCU dhe një modul WiFi, konsumi aktual qëndron në rreth 176.4 mA, dhe me këtë konsum të energjisë, bateria do të zgjasë vetëm për rreth 11 orë, në vend të kësaj. nga 10 vitet e nevojshme të jetëgjatësisë së baterisë. 

Kufizimet e burimeve

Për të ruajtur qëndrueshmërinë e një algoritmi, është jetike të ruhet disponueshmëria e energjisë dhe duke pasur parasysh skenarin aktual, disponueshmëria e kufizuar e energjisë për pajisjet TinyML është një sfidë kritike. Për më tepër, kufizimet e kujtesës janë gjithashtu një sfidë e rëndësishme pasi vendosja e modeleve shpesh kërkon një sasi të madhe memorie për të punuar në mënyrë efektive dhe të saktë. 

Kufizimet e harduerit

Kufizimet e harduerit e bëjnë të vështirë vendosjen e algoritmeve TinyML në një shkallë të gjerë për shkak të heterogjenitetit të pajisjeve harduerike. Ka mijëra pajisje, secila me specifikimet dhe kërkesat e veta të harduerit, dhe për rrjedhojë, një algoritëm TinyML aktualisht duhet të rregullohet për çdo pajisje individuale, gjë që e bën vendosjen masive një problem madhor. 

Kufizimet e grupit të të dhënave

Një nga problemet kryesore me modelet TinyML është se ato nuk mbështesin grupet ekzistuese të të dhënave. Është një sfidë për të gjitha pajisjet e skajshme pasi ato mbledhin të dhëna duke përdorur sensorë të jashtëm, dhe këto pajisje shpesh kanë kufizime në fuqi dhe energji. Prandaj, grupet ekzistuese të të dhënave nuk mund të përdoren për të trajnuar në mënyrë efektive modelet TinyML. 

Mendime përfundimtare

Zhvillimi i teknikave të ML ka shkaktuar një revolucion dhe një ndryshim në perspektivë në ekosistemin IoT. Integrimi i modeleve ML në pajisjet IoT do t'i lejojë këto pajisje të skajshme të marrin vendime inteligjente vetë, pa ndonjë kontribut të jashtëm njerëzor. Sidoqoftë, në mënyrë konvencionale, modelet ML shpesh kanë kërkesa të larta për fuqi, memorie dhe kompjuterike, gjë që i bën ata të bashkohen për t'u vendosur në pajisjet e skajshme që shpesh janë të kufizuara nga burimet. 

Si rezultat, një degë e re në AI iu kushtua përdorimit të ML për pajisjet IoT, dhe u quajt si TinyML. TinyML është një kornizë ML që lejon edhe pajisjet me burime të kufizuara të shfrytëzojnë fuqinë e AI dhe ML për të siguruar saktësi, inteligjencë dhe efikasitet më të lartë. 

Në këtë artikull, ne kemi folur për zbatimin e modeleve TinyML në pajisjet IoT me burime të kufizuara dhe ky zbatim kërkon trajnimin e modeleve, vendosjen e modeleve në harduer dhe kryerjen e teknikave të kuantizimit. Megjithatë, duke pasur parasysh shtrirjen aktuale, modelet ML të gatshme për t'u vendosur në IoT dhe pajisjet e skajshme kanë disa kompleksitete dhe kufizime, duke përfshirë çështjet e përputhshmërisë së harduerit dhe kornizës.