TinyML: Sovellukset, Rajoitukset ja Sen Käyttö IoT- ja Reunalaiteissa

Viime vuosina tekoäly (AI) ja koneoppiminen (ML) ovat kokeneet valtavan suosion ja sovellusten kasvun sekä teollisuudessa että akatemiassa. Nykyiset ML- ja AI-mallit ovat kuitenkin yhden suuren rajoituksen kanssa: ne vaativat valtavan määrän laskentaa ja prosessointia saavuttaakseen halutun tuloksen ja tarkin. Tämä rajoittaa usein niiden käyttöä laitteisiin, joilla on merkittävä laskentakapasiteetti.

Edistysten ansiosta upotettujen järjestelmien teknologiassa ja merkittävän kehityksen ansiosta Internet of Things -teollisuudessa on toivottavaa sisällyttää ML-tekniikoita ja -käsitteitä resurssirajoitettuihin upotettuihin järjestelmiin ja IoT-järjestelmiin. Halu käyttää ML-käsitteitä upotetuissa ja IoT-järjestelmissä on pääasiallinen motivaattori TinyML:n kehittämiselle, joka on upotettu ML-tekniikka, joka sallii ML-malleja ja -sovelluksia useilla resurssirajoitetuilla, tehokkuusrajoitetuilla ja halpoilla laitteilla.

TinyML:n toteutus resurssirajoitettuilla laitteilla ei kuitenkaan ole ollut yksinkertaista, sillä ML-mallien toteuttaminen laitteilla, joilla on matala laskentakapasiteetti, aiheuttaa omat haasteensa laskennan, prosessoinnin, luotettavuuden, ylläpidon ja monien muiden asioiden suhteen.

Tässä artikkelissa syvennymme TinyML-malliin ja opimme sen taustasta, TinyML:tä tukevista työkaluista ja TinyML:n sovelluksista edistyneiden teknologioiden avulla. Aloita.

TinyML:n Johdanto: Miksi Maailma Tarvitsee TinyML:ää

IoT-laitteet pyrkivät hyödyntämään reunan laskentaa, joka on laskentaparadigma, joka viittaa laitteisiin ja verkkoihin lähellä käyttäjää mahdollistaakseen vaivattoman ja reaaliaikaisen datan prosessoinnin miljoonista sensoreista ja laitteista, jotka ovat toisiinsa kytkettyjä. Yksi IoT-laitteiden suurimmista etuoista on, että ne vaativat vain vähän laskentaa ja prosessointia, koska ne voidaan käyttää reunan verkkopisteenä, ja niillä on siten matala muistijälki.

Lisäksi IoT-laitteet riippuvat voimakkaasti reunan alustoista datan keräämisessä ja lähettämisessä, koska reunan laitteet keräävät aistidataa ja lähettävät sen joko lähelle olevaan sijaintiin tai pilvipohjaisiin alustoille prosessointia varten. Reunan laskentatekniikka tallentaa ja suorittaa laskentaa tiedoilla ja tarjoaa myös tarvittavan infrastruktuurin jakautuneen laskennan tukemiseksi.

Reunan laskennan toteutus IoT-laitteissa tarjoaa

1. Vaikuttavan turvallisuuden, yksityisyyden ja luotettavuuden loppukäyttäjille.
2. Alempi viive.
3. Korkeampi saatavuus ja nopeampi vastaus sovelluksiin ja palveluihin.

Lisäksi, koska reunan laitteet voivat käyttää yhteistyötekniikkaa sensoreiden ja pilven välillä, datan prosessointi voidaan suorittaa reunan verkkopisteessä sen sijaan, että se suoritettaisiin pilvipohjaisella alustalla. Tämä voi johtaa tehokkaaseen datan hallintaan, datan kestoon, tehokkaaseen toimitukseen ja sisällön välimuistiin. Lisäksi reunan laskennan avulla voidaan parantaa verkkopalveluja merkittävästi sovelluksissa, jotka liittyvät ihmisen ja koneen väliseen vuorovaikutukseen ja moderniin terveydenhuoltoon.

Viimeaikaiset tutkimukset IoT-reunan laskennasta ovat osoittaneet, että on mahdollista toteuttaa koneoppimismenetelmiä useissa IoT-käytöissä. Kuitenkin suurin ongelma on, että perinteiset koneoppimismallit usein vaativat voimakasta laskentaa ja prosessointia sekä korkeaa muistikapasiteettia, mikä rajoittaa ML-mallien toteutusta IoT-laitteissa ja -sovelluksissa.

Lisäksi reunan laskentatekniikka kärsii tällä hetkellä puutteellisesta siirtokapasiteetista ja tehokkaasta virrankäytöstä, mikä johtaa heterogeenisiin järjestelmiin, jotka ovat pääasiallinen syy harmonisen ja holistisen infrastruktuurin tarpeesta erityisesti ML-mallien päivittämiseksi, kouluttamiseksi ja toteuttamiseksi. Upotettujen laitteiden arkkitehtuuri aiheuttaa myös haasteita, koska ne riippuvat laitteen mukaisista ohjelmisto- ja laitteistovaatimuksista, jotka vaihtelevat laitteittain. Se on suurin syy, miksi on vaikea luoda yleinen ML-arkkitehtuuri IoT-verkoille.

Lisäksi nykyisessä tilanteessa data, jota eri laitteet generoivat, lähetetään pilvipohjaisiin alustoille prosessointia varten, koska verkkojen toteutukset ovat laskennallisesti vaativia. Lisäksi ML-mallit ovat usein riippuvaisia syvän oppimisen, syvän neuroverkkojen, sovelluskohtaisen integroidun piirin (ASIC) ja grafiikkaprosessorien (GPU) prosessoinnista, ja ne vaativat usein korkeaa virrankäyttöä ja muistikapasiteettia. Täysimittaisen ML-mallin toteuttaminen IoT-laitteissa ei ole toteuttamiskelpoinen ratkaisu, koska laitteilla on ilmeinen puute laskenta- ja prosessointikapasiteetista sekä rajoitettu tallennusmahdollisuus.

Pienien, matalan virrankäytön upotettujen laitteiden miniaturisointi, yhdistettynä ML-mallien optimointiin, jotta ne olisivat tehokkaampia virrankäytössä ja muistissa, on luonut tien TinyML:lle, joka pyrkii toteuttamaan ML-malleja ja -käytäntöjä reunan IoT-laitteissa ja -kehyksissä. TinyML mahdollistaa signaalinkäsittelyn IoT-laitteissa ja tarjoaa upotetun älykkyyden, mikä poistaa tarpeen siirtää dataa pilvipohjaisiin alustoille prosessointia varten. Onnistunut TinyML:n toteutus IoT-laitteissa voi lopulta johtaa lisääntyneeseen yksityisyyteen ja tehokkuuteen sekä vähentää toimintakustannuksia. Lisäksi, mikä tekee TinyML:stä houkuttelevamman, se voi tarjota paikallisia analyytikkoja, jos yhteys on riittämätön.

TinyML: Johdanto ja Yleiskatsaus

TinyML on koneoppimistyökalu, joka pystyy suorittamaan laitteen analytiikkaa eri aistimoduuleille, kuten ääni-, näkö- ja puheelle. ML-mallit, jotka on rakennettu TinyML-työkalulla, ovat alhaisia virrankäytössä, muistissa ja laskennassa, mikä tekee niistä soveltuvia upotettuihin verkkoihin ja laitteisiin, jotka toimivat paristojen voimalla. Lisäksi TinyML:n matalat vaatimukset tekevät siitä ihanteellisen valinnan ML-mallien toteuttamiseksi IoT-kehyksessä.

Nykyisessä tilanteessa pilvipohjaiset ML-järjestelmät kohtaavat joitakin haasteita, kuten turvallisuus- ja yksityisyyden huolenaiheita, korkeaa virrankäyttöä, riippuvuutta ja viiveongelmia, miksi mallit on asennettu laitteiston ja ohjelmiston alustoille. Anturit keräävät dataa, joka simuloi fyysistä maailmaa, ja ne prosessoidaan CPU:lla tai MPU:lla (mikroprosessoriyksiköllä). MPU tarjoaa ML-analytiikalle tukevia reunatietoisia ML-verkkoja ja -arkkitehtuureja. Reunan ML-arkkitehtuuri kommunikoi ML-pilven kanssa datan siirtoa ja TinyML:n toteutus voi johtaa merkittäviin edistysaskeliin.

On turvallista sanoa, että TinyML on yhdistelmä ohjelmisto-, laitteisto- ja algoritmeja, jotka toimivat yhdessä saavuttaakseen halutun suorituskyvyn. Analoginen tai muistinvarainen laskenta saattaa olla tarpeen tarjotakseen paremman ja tehokkaamman oppimiskokemuksen laitteille ja IoT-laitteille, jotka eivät tue laitteiston kiihdyttimiä. Ohjelmistojen osalta sovellukset, jotka on rakennettu TinyML:llä, voidaan toteuttaa alustoilla, kuten Linux ja upotettu Linux, sekä pilvipohjaisilla ohjelmistoilla. Lopulta sovellukset ja järjestelmät, jotka on rakennettu TinyML-algoritmilla, vaativat uusien algoritmien tukeaan, jotka tarvitsevat pieniä muistikokoja välttääkseen korkean muistikäytön.

Yhteenvetona sovellukset, jotka on rakennettu TinyML-työkalulla, vaativat ML-periaatteiden ja -menetelmien optimointia yhdessä ohjelmiston suunnittelun kanssa, ja data on sitten siirrettävä binääritiedostoja, jotka on luotu malleilla, jotka on koulutettu laitteilla, joilla on suurempi kapasiteetti ja laskentakapasiteetti.

Lisäksi järjestelmät ja sovellukset, jotka toimivat TinyML-työkalulla, vaativat korkeaa tarkkuutta toimittaessaan tiukemmissa rajoituksissa, koska compact-ohjelmistoa tarvitaan pienen virrankäytön tueksi, joka tukee TinyML:n vaikutuksia. Lisäksi TinyML-sovellukset tai -moduulit voivat riippua paristojen virrasta tukemaan toimintaa reunan upotetuissa järjestelmissä.

Sanottuna, TinyML-sovelluksilla on kaksi perustavaa vaatimusta

1. Kyky skaalata miljardeja halpoja upotettuja järjestelmiä.
2. Tallentaa koodi laitteen RAM-muistiin, jonka kapasiteetti on alle muutamia kilotavuja.

TinyML:n Sovellukset Edistyneiden Teknologioiden Avulla

Yksi suurimmista syistä, miksi TinyML on kuuma aihe AI- ja ML-teollisuudessa, on sen sovellusten potentiaali, mukaan lukien näkö- ja puheperusteiset sovellukset, terveyden diagnosointi, datamallien tiivistäminen ja luokittelu, aivokone-rajapinta, reunan laskenta, fenomiikka, itseohjautuvat autot ja paljon muuta.

Puheperusteiset Sovellukset

Puheviestintä

Tyypillisesti puheperusteiset sovellukset riippuvat perinteisistä viestintätavoista, joissa kaikki data on tärkeää ja se lähetetään. Viime vuosina on kuitenkin kehittynyt semanttinen viestintä perinteisen viestinnän vaihtoehtona, jossa vain datan merkitys tai konteksti lähetetään. Semanttista viestintää voidaan toteuttaa puheperusteisissa sovelluksissa käyttämällä TinyML-menettelyjä.

Jotkut suosituimmista sovelluksista puheviestintäteollisuudessa tänään ovat puheen havaitseminen, puheentunnistus, verkkokoulutus, verkkopohjainen opetus ja tavoitteellinen viestintä. Nämä sovellukset vaativat yleensä korkeaa virrankäyttöä ja niillä on myös korkeat datavaatimukset isäntälaitteella. Ylittääkseen nämä vaatimukset on esitetty uusi TinySpeech-kirjasto, joka sallii kehittäjien luoda alhaisen laskennallisen arkkitehtuurin, joka käyttää syvää konvoluutioverkkoa rakentamaan alhaisen tallennustilaa.

Käyttääkseen TinyML:ää puheen parantamiseen, kehittäjät käsitelivät ensin puheen parantamismallin kokoa, koska se oli altis laitteiston rajoituksille ja rajoituksille. Ratkaisuna ongelmaan otettiin käyttöön rakenteellinen rajaus ja kokonaisluokitus RNN- tai toistuvan neuroverkon puheen parantamismalliin. Tulokset osoittivat, että mallin koko pieneni lähes 12-kertaisesti, kun taas operaatiot pienenivät lähes 3-kertaisesti. Lisäksi on tärkeää, että resursseja käytetään tehokkaasti, erityisesti kun ne toteutetaan resurssirajoitettuissa sovelluksissa, jotka suorittavat äänentunnistussovelluksia.

Tuloksena siitä, että prosessi jaettiin, esitettiin yhteissuunnittelumenetelmä TinyML-pohjaisille ääni- ja puheentunnistussovelluksille. Kehittäjät käyttivät ikkunointitoimintoa jakamaan ohjelmisto- ja laitteistoa tavalla, joka esikäsittelee raakaa äänidataa. Menetelmä näytti toimivan, koska tulokset osoittivat energiankulutuksen laskeneen laitteiston puolella. Lopulta on myös potentiaalia toteuttaa optimoituja jakoa ohjelmisto- ja laitteiston yhteissuunnittelussa paremman suorituskyvyn saavuttamiseksi lähitulevaisuudessa.

Lisäksi viimeaikaiset tutkimukset ovat ehdottaneet puhelimella toimivaa muuntajaa puheentunnistusjärjestelmiin, ja ehdotus pyrkii korvaamaan LSTM-ennustajat Conv1D-kerroksella vähentääksesi laskennan tarvetta reunan laitteilla. Kun ehdotus toteutettiin, se palautti positiivisia tuloksia, koska SVD (yksinkertainen arvojen hajoitus) oli onnistuneesti tiivistanut mallin, kun taas WFST (painotettu äärellinen tila) -pohjainen dekoodaus tarjosi enemmän joustavuutta mallin parantamisen suhteen.

Monet merkittävät puheentunnistuksen sovellukset, kuten virtuaaliset tai ääniohjaimet, live-tekstitys ja äänikomennot, käyttävät ML-tekniikoita toimintansa toteuttamiseksi. Suositut ääniohjaimet, kuten Siri ja Google Assistant, lähettävät pilvipohjaiselle alustalle dataa jokaisella vastaanotolla, mikä luo merkittäviä huolenaiheita yksityisyyden ja dataturvallisuuden suhteen. TinyML on toteuttamiskelpoinen ratkaisu tähän ongelmaan, koska se pyrkii toteuttamaan puheentunnistuksen laitteilla ja poistamaan tarpeen siirtää dataa pilvipohjaisiin alustoille. Yksi tapa saavuttaa laitteiston puoleinen puheentunnistus on käyttää Tiny Transducer -puheentunnistusmallia, joka käyttää DFSMN- (syvän feed-forward -sekvenssimuistiblokin) kerrosta yhdistettynä yhteen Conv1D-kerrokseen LSTM-kerrosten sijaan vähentääksesi laskennan vaatimukset ja verkko-parametrit.

Kuulolaitteet

Kuulovaurio on suuri terveydellinen ongelma ympäri maailman, ja ihmisen kyky kuulla heikkenee yleensä iän myötä, ja se on suuri ongelma maissa, joissa on vanheneva väestö, kuten Kiina, Japani ja Etelä-Korea. Kuulolaitteet toimivat tällä hetkellä periaatteella, jossa kaikki saapuvat äänet ympäristöstä vahvistetaan, mikä tekee siitä vaikean erottaa haluttu ääni erityisesti meluisassa ympäristössä.

TinyML saattaa olla toteuttamiskelpoinen ratkaisu tähän ongelmaan, koska käyttämällä TinyLSTM-mallia, joka käyttää puheentunnistusalgoritmia kuulolaitteissa, voidaan auttaa käyttäjiä erottamaan eri ääniä.

Näköperusteiset Sovellukset

TinyML:llä on potentiaalia prosessoida tietokoneen näön perusteisia tietoja nopeammin, koska nämä tiedot tarvitaan reunan alustalla itsessään. Saavuttaakseen tämän, TinyML-malli kohtaa käytännön haasteita kouluttaessaan mallia OpenMV H7 -mikroohjainkortilla. Kehittäjät esittivät myös arkkitehtuurin, joka havaitsee amerikkalaisen viittomakielen avulla ARM Cortex M7 -mikroprosessoria, joka toimii vain 496 kt:n kehyksen RAM:lla.

TinyML:n toteutus tietokoneen näön perusteisille sovelluksille reunan alustoilla vaati kehittäjiä voittamaan suuren haasteen, joka liittyy CNN:ien (konvoluutioverkkojen) korkeaan yleistymisvirheeseen ja korkeaan koulutus- ja testausvirheeseen. Kuitenkin toteutus ei yleistynyt tehokkaasti uusiin käyttötarkoituksiin ja taustaan, jossa on melua. Kun kehittäjät käyttivät interpolointiaugmentaatiomenetelmää, malli palautti virhetarkkuusarvon yli 98 %:n testidatassa ja noin 75 %:n yleistymisessä.

Lisäksi havaittiin, että kun kehittäjät käyttivät interpolointiaugmentaatiomenetelmää, mallin tarkkuus laski kvantisaation aikana, mutta samalla mallin inference-nopeus kasvoi, ja luokitteluyleistyminen parani. Kehittäjät esittivät myös menetelmän, jolla voidaan edelleen parantaa yleistymismallin koulutusta datan hankkimisesta eri lähteistä ja testaamalla suorituskykyä reunan alustoilla, kuten kannettavilla älykelloilla.

Lisäksi lisätutkimukset CNN:istä osoittivat, että on mahdollista toteuttaa CNN-arkkitehtuuri laitteilla, joilla on rajoitettu resursseja. Viimeaikaiset kehittäjät pystyivät kehittämään kehyksen kasvomaskin havaitsemiseksi ARM Cortex M7 -mikroprosessorilla, jolla on vähäinen muistijälki, käyttämällä TensorFlow Litea. Mallin koko kvantisaation jälkeen oli noin 138 kt, ja inference-nopeus kohdelaitteessa oli noin 30 fps.

TinyML:n toinen sovellus tietokoneen näön perusteisille sovelluksille on toteuttaa eleiden tunnistuslaite, joka voidaan kiinnittää kävelykeppiin auttamaan näkövammaisia henkilöitä navigoimaan päivittäisissä askareissaan helpommin. Suunniteltaessa laitetta kehittäjät käyttivät eleiden aineistoa ja kouluttivat ProtoNN-mallin luokittelualgoritmilla. Tulokset olivat tarkat, suunnittelu oli edullinen, ja se toimi tyydyttävästi.

TinyML:llä on myös merkittäviä sovelluksia itseohjautuvissa ajoneuvoissa ja autonomisissa ajoneuvoissa, koska resurssien puute ja laitteiston laskentakapasiteetti. Ratkaistaakseen ongelman kehittäjät esittivät suljetun silmukan oppimismenetelmän, joka perustuu TinyCNN-malliin, joka esittää online-ennustusmallin, joka havaitsee kuvan suoritusaikana. Suurin haaste, jonka kehittäjät kohtasivat TinyML:n toteuttamisessa autonomisessa ajossa, oli, että päätösmalli, joka oli koulutettu toimimaan offline-datalla, ei välttämättä toiminut yhtä hyvin, kun se kohtasi online-dataa. Jotta autonomisten autojen ja itseohjautuvien autojen sovellukset voidaan maksimoida, mallin on kyettävä sopeutumaan reaaliaikaisiin tietoihin.

Datamallien Luokittelu ja Tiivistäminen

Yksi suurimmista haasteista, joita nykyinen TinyML-kehyksessä kohtaa, on sen sopeutuminen online-koulutusdataan. Ratkaistaakseen ongelman kehittäjät ovat ehdottaneet menetelmää, jota kutsutaan TinyOL:ksi (TinyML:n online-oppiminen), joka sallii koulutuksen inkrementaalisen online-oppimisen mikroohjainyksiköillä, mikä mahdollistaa mallin päivittämisen IoT-reunan laitteilla. Toteutus saavutettiin C++-ohjelmointikielellä, ja lisäksi arkkitehtuuriin lisättiin lisäkerros.

Lisäksi kehittäjät suorittivat auto-koodeerin Arduino Nano 33 BLE -anturilaudan, ja koulutettu malli pystyi luokittelemaan uusia datamalleja. Lisäksi kehitystyö käsitti tehokkaampien ja optimoituja algoritmeja neuroverkoille, jotka tukevat laitteen koulutusmalleja online.

TinyOL- ja TinyML-tutkimukset ovat osoittaneet, että aktivaatiokerrosten määrä on ollut suuri ongelma IoT-reunan laitteilla, joilla on rajoitettu resursseja. Ratkaistaakseen ongelman kehittäjät esittivät uuden TinyTL- (Tiny Transfer Learning) -mallin, joka tekee muistin käytön IoT-reunan laitteilla tehokkaammaksi ja välttää aktivaatiokerrosten käytön. Lisäksi kehittäjät esittivät uuden “lite-residual”-moduulin, joka maksimoi sopeutumiskyvyn ja sallii piirre-ekstraktorien löytää jäännöspiirrekarttoja.

Vertaamalla täysimittaista verkkojen hienosäätöä, TinyTL-arkkitehtuuri vähensi muistin ylijäämän noin 6,5-kertaisesti kohtuullisen tarkin menetyksen kanssa. Kun viimeinen kerros hienosäädettiin, TinyML paransi tarkkuutta 34 %:lla kohtuullisen tarkin menetyksen kanssa.

Lisäksi datan tiivistämistutkimukset ovat osoittaneet, että datatiivistämisalgoritmit on hallittava kerättyä dataa kannettavilla laitteilla, ja saavuttaakseen tämän, kehittäjät esittivät TAC (Tiny Anomaly Compressor) -algoritmin. TAC ylitti SDT (Swing Door Trending) – ja DCT (Discrete Cosine Transform) -algoritmit. Lisäksi TAC-algoritmi ylitti molemmat SDT- ja DCT-algoritmit saavuttaen enimmäistehokkuuden yli 98 %:n ja paremman huippu-signaali-kohina-suhdeluvun näistä kolmesta algoritmista.

Terveyden Diagnoosi

Covid-19-pandemia avasi uusia mahdollisuuksia TinyML:n toteuttamiseen, koska on tärkeää jatkuvaan havaita hengitysoireita, kuten yskää ja kylmää. Jotta voidaan varmistaa keskeytymätön seuranta, kehittäjät ovat ehdottaneet CNN-mallia, joka toimii monimallisessa asetelmissa, ja malli on toteutettu Xilinx Artix-7 100T FPGA:lla, joka sallii laitteen prosessoida tietoja rinnakkain, on korkea tehokkuus ja matala virrankäyttö. Lisäksi TinyResp-malli ottaa myös potilaiden puheen, äänitallenteet ja demografiaa syötteinä luokittellessaan yskän liittyviä oireita kolmella erillisellä aineistolla.

Lisäksi kehittäjät ovat ehdottaneet mallia, joka pystyy suorittamaan syvän oppimisen laskennan reunan laitteilla, TinyML-mallia nimeltä TinyDL. TinyDL-malli voidaan toteuttaa reunan laitteilla, kuten älykelloilla ja muilla laitteilla, terveyden diagnosoinnissa ja se on myös kykenevä suorittamaan suorituskykyanalyysin vähentääkseen kaistanleveyden, viiveen ja energiankulutuksen. Saavuttaakseen TinyDL:n toteuttamisen kannettavilla laitteilla, LSTM-malli suunniteltiin ja koulutettiin erityisesti kannettavalle laitteelle, ja sille annettiin kerätty data syötteinä. Malli on tarkin arvosana noin 75-80 %, ja se pystyy toimimaan myös laitteen ulkopuolella olevilla tiedoilla. Nämä mallit, jotka toimivat reunan laitteilla, osoittivat potentiaalia ratkaista nykyiset haasteet, joita IoT-laitteet kohtaavat.

Lopulta kehittäjät ovat ehdottaneet myös sovelluksen, joka seuraa vanhusten terveyttä arvioimalla ja analysoimalla heidän kehonsa asentoja. Malli käyttää laitteen agnostista kehyksessä, joka sallii mallin validoida ja nopeasti sopeutua suorittamaan sopeutumisia. Malli toteutti kehon asentojen havaitsemisalgoritmeja yhdistettynä kasvojen merkintöihin havaitsemaan aikatauluisia kehon asentoja reaaliajassa.

Reunan Laskenta

Yksi suurimmista sovelluksista TinyML:llä on reunan laskennassa, koska IoT-laitteiden käytön lisääntyessä on tärkeää asettaa reunan laitteita, jotka sisältävät yksittäisiä tietokeskuksia, jotka sallivat korkean laskennan laitteessa itsessään, sen sijaan, että ne riippuvat pilvipohjaisista arkkitehtuureista. Tämä auttaa vähentämään kuormitusta pilvipohjaisissa arkkitehtuureissa, vähentämään viivettä, parantamaan käyttäjien turvallisuutta ja yksityisyyttä sekä vähentämään kaistanleveyttä.

Reunan laitteet, jotka käyttävät TinyML-algoritmeja, auttavat ratkaisemaan nykyisiä rajoituksia, jotka liittyvät virrankäyttöön, laskentaan ja muistiin, ja se on kuvattu alla olevassa kuvassa.

Lisäksi TinyML voi parantaa myös miehittämättömien ilmalaivojen (UAV) käyttöä ja sovelluksia osoittamalla, miten voidaan toteuttaa energiatehokas laite, jolla on matala viive ja korkea laskentakapasiteetti, joka toimii ohjaimena näille UAV-laitteille.

Aivokone-rajapinta

TinyML:llä on merkittäviä sovelluksia terveydenhuoltoalalla, ja se voi olla erittäin hyödyllinen eri aloilla, kuten syövän ja kasvaimen havaitsemisessa, terveyden ennustamisessa ECG- ja EEG-signaaleilla ja emotionaalisella älyllä. TinyML:n käyttäminen voi sallia sopeutuvan syvän aivostimulaation (aDBS) sopeutua kliinisiin sopeutumisiin. TinyML:n käyttäminen voi myös sallia aDBS:lle tunnistaa tautiin liittyviä bio-merkintöjä ja oireita invasiivisten aivosignaaleiden tallentamisen avulla.

Lisäksi terveydenhuoltoala usein käsittää suuren määrän potilaan dataa, ja tämä data on sitten prosessoitava saavuttaakseen tietyn ratkaisun potilaan hoidossa sairauden varhaisissa vaiheissa. Tämän vuoksi on tärkeää luoda järjestelmä, joka on sekä tehokas että turvallinen. Kun yhdistämme IoT-sovelluksen TinyML-malliin, syntyy uusi ala, jota kutsutaan terveydenhuollon Internet of Thingsiksi (H-IoT), ja H-IoT:n suurimmat sovellukset ovat diagnosointi, seuranta, logistiikka, leviäminen, valvonta ja avustavat järjestelmät. Jos haluamme kehittää laitteita, jotka pystyvät havaitsemaan ja analysoimaan potilaan terveyttä etäältä, on tärkeää kehittää järjestelmä, jolla on globaali saatavuus ja matala viive.

Itseohjautuvat Ajoneuvot

Lopulta TinyML voi olla laajasti sovellettavissa itseohjautuvissa ajoneuvoissa, koska nämä ajoneuvot voidaan käyttää eri tarkoituksiin, kuten ihmisten seuraamiseen, sotilaallisiin tarkoituksiin ja teollisiin sovelluksiin. Nämä ajoneuvot vaativat pääasiallisesti kykyä tunnistaa objekteja tehokkaasti, kun objekti etsitään.

Tällä hetkellä itseohjautuvat ajoneuvot ja itseohjautuva ajo on melko monimutkainen tehtävä, erityisesti kehittäessä mini- tai pientä kokoa olevia ajoneuvoja. Viimeaikaiset kehityssuunnat ovat osoittaneet potentiaalia parantaa itseohjautuvan ajo-sovelluksia pienten ajoneuvojen osalta käyttämällä CNN-arkkitehtuuria ja toteuttamalla mallin GAP8 MCI:llä.

Haasteet

TinyML on suhteellisen uusi käsite AI- ja ML-teollisuudessa, ja vaikka on tehty edistystä, se ei ole vieläkään yhtä tehokas, kuin tarvitaan massatiotutuksessa reunan ja IoT-laitteissa.

Suurin haaste, jonka TinyML-laitteet kohtaavat tällä hetkellä, on virrankäyttö. Ideaalisesti upotetut reunan ja IoT-laitteet odottavat paristojen kestävän yli 10 vuotta. Esimerkiksi ideaalitilanteessa IoT-laite, joka toimii 2 Ah:n paristolla, on tarkoitus kestää yli 10 vuotta, kun laitteen virrankäyttö on noin 12 μA. Kuitenkin nykyisessä tilanteessa IoT-arkkitehtuuri, jossa on lämpötila-anturi, MCU-yksikkö ja WiFi-moduuli, virrankulutus on noin 176,4 mA, ja tämä virrankäyttö johtaa siihen, että paristo kestää vain noin 11 tuntia, sen sijaan, että se kestäisi 10 vuotta.

Resurssirajoitukset

Algoritmin johdonmukaisuuden ylläpitämiseksi on tärkeää ylläpitää virran saatavuutta, ja nykyisessä tilanteessa rajoitettu virran saatavuus TinyML-laitteissa on kriittinen haaste. Lisäksi muistirajoitukset ovat myös merkittävä haaste, koska mallien toteuttaminen usein vaatii suuren määrän muistia toimia tehokkaasti ja tarkasti.

Laitteistohaasteet

Laitteistohaasteet tekevät TinyML-algoritmien laajamittaisen toteuttamisen vaikeaksi laitteiston heterogeenisyyden vuoksi. On tuhansia laitteita, joilla on omat laitteistovaatimukset, ja seurausena TinyML-algoritmin on täytettävä kullekin laitteelle erikseen, mikä tekee massatiotutuksen suureksi ongelmaksi.

Datamäärärajoitukset

Yksi suurimmista ongelmista TinyML-malleilla on, että ne eivät tue olemassa olevia datamääriä. Se on haaste kaikille reunan laitteille, jotka keräävät dataa ulkoisilla sensoreilla, ja näillä laitteilla on virran- ja energiarajoituksia. Tämän vuoksi olemassa olevat datamäärät eivät voida käyttää kouluttamaan TinyML-malleja tehokkaasti.

Loppusanat

ML-tekniikoiden kehitys on aiheuttanut vallankumouksen ja näkökulman muutoksen IoT-ekosysteemissä. ML-mallien integrointi IoT-laitteisiin sallii näiden reunan laitteiden tehdä älykkäitä päätöksiä ilman ulkoista ihmisen syöttämää tietoa. Kuitenkin perinteiset ML-mallit vaativat usein korkeaa virrankäyttöä, muistia ja laskentakapasiteettia, mikä tekee niistä soveltumattomia reunan laitteille, jotka ovat usein resurssirajoitettuja.

Seurausena uusi haara AI:ssa on omistettu ML:n käytölle IoT-laitteissa, ja sitä kutsutaan TinyML:ksi. TinyML on ML-kehyksessä, joka sallii jopa resurssirajoitettujen laitteiden hyödyntää tekoälyä ja ML:ää takaamaan korkeamman tarkin ja tehokkuuden.

Tässä artikkelissa olemme keskustelleet TinyML-mallien toteuttamisesta resurssirajoitettuilla IoT-laitteilla, ja tämä toteutus vaatii mallien kouluttamista, mallien toteuttamista laitteistossa ja kvantisaatiotekniikkojen suorittamista. Kuitenkin nykyisessä laajuudessa ML-mallit, jotka ovat valmiita toteutettaviksi IoT- ja reunan laitteilla, ovat monia monimutkaisuuksia ja rajoituksia, mukaan lukien laitteiston ja kehyksen yhteensopivuuden ongelmat.