taló TinyML: aplicacions, limitacions i el seu ús en dispositius IoT i Edge - Unite.AI
Connecteu-vos amb nosaltres

Intel·ligència Artificial

TinyML: aplicacions, limitacions i el seu ús en dispositius IoT i Edge

mm
actualitzat on

En els últims anys, la Intel·ligència Artificial (IA) i Aprenentatge automàtic (ML) han estat testimonis d'un augment meteòric en popularitat i aplicacions, no només a la indústria sinó també a l'acadèmia. Tanmateix, els models actuals de ML i AI tenen una limitació important: requereixen una quantitat immensa de potència de càlcul i processament per aconseguir els resultats i la precisió desitjats. Això sovint limita el seu ús a dispositius d'alta capacitat amb una potència de càlcul substancial.

Però tenint en compte els avenços realitzats en la tecnologia dels sistemes integrats i el desenvolupament substancial de la indústria de l'Internet de les coses, és desitjable incorporar l'ús de tècniques i conceptes de ML en un sistema incrustat amb recursos limitats per a una intel·ligència omnipresent. El desig d'utilitzar conceptes de ML en sistemes integrats i IoT és el principal factor motivador darrere del desenvolupament de TinyML, una tècnica de ML incrustada que permet models i aplicacions ML en diversos dispositius amb recursos limitats, amb potència limitada i barats. 

Tanmateix, la implementació de ML en dispositius amb recursos restringits no ha estat senzilla perquè la implementació de models ML en dispositius amb poca potència de càlcul presenta els seus propis reptes en termes d'optimització, capacitat de processament, fiabilitat, manteniment de models i molt més. 

En aquest article, aprofundirem en el model TinyML i aprendrem més sobre els seus antecedents, les eines que admeten TinyML i les aplicacions de TinyML mitjançant tecnologies avançades. Així que comencem. 

Una introducció a TinyML: per què el món necessita TinyML

Els dispositius d'Internet de les coses o IoT tenen com a objectiu aprofitar la informàtica de punta, un paradigma informàtic que es refereix a una sèrie de dispositius i xarxes properes a l'usuari per permetre un processament fluid i en temps real de dades de milions de sensors i dispositius interconnectats entre si. Un dels principals avantatges dels dispositius IoT és que requereixen una baixa potència de càlcul i processament, ja que es poden desplegar a la vora de la xarxa i, per tant, tenen una petita empremta de memòria. 

A més, els dispositius IoT depenen en gran mesura de les plataformes de punta per recollir i transmetre les dades ja que aquests dispositius de punta recullen dades sensorials i les transmeten a una ubicació propera o a plataformes en núvol per processar-les. La tecnologia d'informàtica de punta emmagatzema i realitza la computació sobre les dades, i també proporciona la infraestructura necessària per donar suport a la informàtica distribuïda. 

La implementació de la informàtica de punta en dispositius IoT ofereix

  1. Seguretat efectiva, privadesa i fiabilitat per als usuaris finals. 
  2. Menor retard. 
  3. Més disponibilitat i resposta de rendiment a aplicacions i serveis. 

A més, com que els dispositius de punta poden desplegar una tècnica de col·laboració entre els sensors i el núvol, el processament de dades es pot dur a terme a la vora de la xarxa en lloc de realitzar-se a la plataforma del núvol. Això pot resultar en una gestió eficaç de dades, persistència de dades, lliurament eficaç i memòria cau de contingut. A més, implementar IoT en aplicacions que tracten la interacció H2M o Human to Machine i la informàtica moderna per a la salut proporciona una manera de millorar significativament els serveis de xarxa. 

La investigació recent en el camp de la informàtica de punta IoT ha demostrat el potencial d'implementar tècniques d'aprenentatge automàtic en diversos casos d'ús d'IoT. Tanmateix, el problema principal és que els models tradicionals d'aprenentatge automàtic requereixen sovint una gran potència de càlcul i processament i una gran capacitat de memòria que limita la implementació de models ML en dispositius i aplicacions IoT. 

A més, la tecnologia informàtica d'avantguarda avui manca d'alta capacitat de transmissió i d'estalvi d'energia efectiu que condueixi a sistemes heterogenis, que és la raó principal de la necessitat d'una infraestructura harmònica i holística, principalment per actualitzar, entrenar i desplegar models de ML. L'arquitectura dissenyada per a dispositius incrustats suposa un altre repte, ja que aquestes arquitectures depenen dels requisits de maquinari i programari que varien d'un dispositiu a un altre. És la raó principal per la qual és difícil crear una arquitectura estàndard de ML per a xarxes IoT. 

A més, en l'escenari actual, les dades generades per diferents dispositius s'envien a plataformes en núvol per processar-les a causa de la naturalesa computacionalment intensiva de les implementacions de xarxa. A més, els models ML sovint depenen de l'aprenentatge profund, les xarxes neuronals profundes, els circuits integrats específics d'aplicacions (ASIC) i les unitats de processament gràfic (GPU) per processar les dades, i sovint tenen un requisit de memòria i potència més elevat. La implementació de models de ML complets en dispositius IoT no és una solució viable a causa de la manca evident de poders de càlcul i processament i les solucions d'emmagatzematge limitades. 

La demanda de miniaturitzar dispositius incrustats de baixa potència juntament amb l'optimització dels models de ML per fer-los més eficients en potència i memòria ha obrir el camí per a TinyML, que té com a objectiu implementar models i pràctiques ML en dispositius i marcs IoT de punta. TinyML permet el processament del senyal en dispositius IoT i proporciona intel·ligència integrada, eliminant així la necessitat de transferir dades a plataformes en núvol per processar-les. La implementació reeixida de TinyML en dispositius IoT pot donar lloc a una major privadesa i eficiència alhora que es redueixen els costos operatius. A més, el que fa que TinyML sigui més atractiu és que, en cas de connectivitat inadequada, pot proporcionar anàlisis locals. 

TinyML: Introducció i visió general

TinyML és una eina d'aprenentatge automàtic que té la capacitat de realitzar anàlisis al dispositiu per a diferents modalitats de detecció com l'àudio, la visió i la parla. Els models Ml basats en l'eina TinyML tenen uns requisits de baixa potència, memòria i informàtica que els fan adequats per a xarxes incrustades i dispositius que funcionen amb bateria. A més, els baixos requisits de TinyML el converteixen en un ajust ideal per desplegar models de ML al marc IoT.

En l'escenari actual, els sistemes de ML basats en núvol s'enfronten a algunes dificultats, com ara problemes de seguretat i privadesa, alt consum d'energia, fiabilitat i problemes de latència, motiu pel qual els models de plataformes de maquinari i programari estan preinstal·lats. Els sensors recullen les dades que simulen el món físic i després es processen mitjançant una CPU o MPU (unitat de microprocessament). L'MPU respon a les necessitats de suport analític de ML activat per xarxes i arquitectura ML conscients de la vora. L'arquitectura Edge ML es comunica amb el núvol ML per a la transferència de dades, i la implementació de TinyML pot provocar un avenç de la tecnologia de manera significativa. 

Seria segur dir que TinyML és una amalgama de programari, maquinari i algorismes que funcionen en sincronia entre ells per oferir el rendiment desitjat. És possible que calgui informàtica analògica o de memòria per oferir una experiència d'aprenentatge millor i eficaç per als dispositius de maquinari i IoT que no admeten acceleradors de maquinari. Pel que fa al programari, les aplicacions creades amb TinyML es poden desplegar i implementar sobre plataformes com Linux o Linux incrustat, i amb programari habilitat per al núvol. Finalment, les aplicacions i els sistemes basats en l'algorisme TinyML han de tenir el suport de nous algorismes que necessiten models de mida baixa de memòria per evitar un consum elevat de memòria. 

En resum, les aplicacions creades amb l'eina TinyML han d'optimitzar els principis i els mètodes de ML juntament amb el disseny compacte del programari, en presència de dades d'alta qualitat. Aleshores, aquestes dades s'han de transmetre mitjançant fitxers binaris que es generen amb models entrenats en màquines amb una capacitat molt més gran i una potència de càlcul. 

A més, els sistemes i les aplicacions que s'executen amb l'eina TinyML han de proporcionar una alta precisió quan es realitzen sota restriccions més estrictes perquè es necessita un programari compacte per a un consum d'energia reduït que admeti les implicacions de TinyML. A més, les aplicacions o mòduls TinyML poden dependre de l'energia de la bateria per suportar les seves operacions en sistemes integrats de punta. 

Dit això, les aplicacions TinyML tenen dos requisits fonamentals

  1. Capacitat d'escalar milers de milions de sistemes integrats barats. 
  2. Emmagatzemar el codi a la memòria RAM del dispositiu amb una capacitat inferior a uns quants KB. 

Aplicacions de TinyML utilitzant tecnologies avançades

Una de les principals raons per les quals TinyML és un tema candent a la indústria d'IA i ML és per les seves aplicacions potencials, com ara aplicacions basades en visió i parla, diagnòstic de salut, compressió i classificació de patrons de dades, interfície de control cerebral, informàtica de punta, fenòmica, autocontrol. -conduir cotxes, i molt més. 

Aplicacions basades en la parla

Comunicacions de parla

Normalment, les aplicacions basades en la veu es basen en mètodes de comunicació convencionals en què totes les dades són importants i es transmeten. Tanmateix, en els últims anys, la comunicació semàntica ha sorgit com una alternativa a la comunicació convencional ja que en la comunicació semàntica només es transmet el significat o context de les dades. La comunicació semàntica es pot implementar en aplicacions basades en la parla mitjançant metodologies TinyML. 

Algunes de les aplicacions més populars a la indústria de les comunicacions de parla avui són la detecció de la parla, el reconeixement de la parla, l'aprenentatge en línia, l'ensenyament en línia i la comunicació orientada a objectius. Aquestes aplicacions solen tenir un consum d'energia més elevat i també tenen requisits de dades elevats al dispositiu amfitrió. Per superar aquests requisits, s'ha introduït una nova biblioteca TinySpeech que permet als desenvolupadors construir una arquitectura computacional baixa que utilitzi xarxes convolucionals profundes per construir una instal·lació d'emmagatzematge baix. 

Per utilitzar TinyML per a la millora de la parla, els desenvolupadors van abordar primer la mida del model de millora de la parla perquè estava subjecte a limitacions i limitacions de maquinari. Per abordar el problema, es va implementar la poda estructurada i la quantificació de nombres enters per a RNN o el model de millora de la parla de xarxes neuronals recurrents. Els resultats van suggerir que la mida del model es reduiria gairebé 12 vegades, mentre que les operacions es reduïren gairebé 3x. A més, és vital que els recursos s'hagin d'utilitzar de manera eficaç, especialment quan es despleguen en aplicacions amb recursos limitats que executen aplicacions de reconeixement de veu. 

Com a resultat, per dividir el procés, es va proposar un mètode de co-disseny per a aplicacions de reconeixement de veu i veu basades en TinyML. Els desenvolupadors van utilitzar l'operació de finestres per particionar el programari i el maquinari d'una manera de processar prèviament les dades de veu en brut. El mètode semblava funcionar, ja que els resultats indicaven una disminució del consum d'energia del maquinari. Finalment, també hi ha potencial per implementar particions optimitzades entre el disseny conjunt de programari i maquinari per obtenir un millor rendiment en un futur proper. 

A més, investigacions recents han proposat l'ús d'un transductor basat en telèfon per a sistemes de reconeixement de veu, i la proposta té com a objectiu substituir els predictors LSTM per la capa Conv1D per reduir les necessitats de càlcul als dispositius de punta. Quan es va implementar, la proposta va retornar resultats positius, ja que l'SVD o la descomposició de valors singulars havien comprimit el model amb èxit, mentre que l'ús de la descodificació basada en WFST o en transductors d'estats finits ponderats va donar com a resultat més flexibilitat en el biaix de millora del model. 

Moltes aplicacions destacades de reconeixement de veu com ara assistents virtuals o de veu, subtítols en directe i ordres de veu utilitzen tècniques de ML per funcionar. Actualment, els assistents de veu populars com Siri i l'Assistent de Google fan ping a la plataforma al núvol cada vegada que reben algunes dades, i això genera preocupacions importants relacionades amb la privadesa i la seguretat de les dades. TinyML és una solució viable al problema, ja que té com a objectiu realitzar reconeixement de veu en dispositius i eliminar la necessitat de migrar dades a plataformes en núvol. Una de les maneres d'aconseguir el reconeixement de veu al dispositiu és utilitzar Tiny Transducer, un model de reconeixement de veu que utilitza una capa DFSMN o Deep Feed-Forward Sequential Memory Block juntament amb una capa Conv1D en comptes de les capes LSTM per reduir els requisits de càlcul. , i paràmetres de xarxa. 

Audiòfons

La pèrdua auditiva és una preocupació important per a la salut a tot el món, i la capacitat dels humans per escoltar sons generalment es debilita a mesura que envelleixen, i és un problema important als països que tracten amb l'envelliment de la població, com ara la Xina, el Japó i Corea del Sud. Els aparells auditius ara mateix funcionen amb el principi senzill d'amplificar tots els sons d'entrada de l'entorn que dificulta que la persona pugui distingir o diferenciar el so desitjat, especialment en un entorn sorollós. 

TinyML podria ser la solució viable per a aquest problema, ja que l'ús d'un model TinyLSTM que utilitza un algorisme de reconeixement de veu per a dispositius auditius pot ajudar els usuaris a distingir entre diferents sons. 

Aplicacions basades en la visió

TinyML té el potencial de jugar un paper crucial en el processament visió per computadora conjunts de dades basats perquè per obtenir sortides més ràpides, aquests conjunts de dades s'han de processar a la pròpia plataforma Edge. Per aconseguir-ho, el model TinyML es troba amb els reptes pràctics als quals s'enfronta mentre entrena el model mitjançant la placa de microcontrolador OpenMV H7. Els desenvolupadors també van proposar una arquitectura per detectar el llenguatge de signes nord-americà amb l'ajuda d'un microcontrolador ARM Cortex M7 que només funciona amb 496 KB de RAM de memòria intermèdia. 

La implementació de TinyML per a aplicacions basades en visió per computador en plataformes de punta va requerir que els desenvolupadors superessin el principal repte de la CNN o les xarxes neuronals convolucionals amb un alt error de generalització i una alta precisió de formació i prova. Tanmateix, la implementació no es va generalitzar eficaçment a imatges dins de nous casos d'ús, així com a fons amb soroll. Quan els desenvolupadors van utilitzar el mètode d'augment d'interpolació, el model va retornar una puntuació de precisió superior al 98% a les dades de prova i al voltant del 75% a la generalització. 

A més, es va observar que quan els desenvolupadors van utilitzar el mètode d'augment d'interpolació, hi va haver una caiguda en la precisió del model durant la quantificació, però al mateix temps, també es va augmentar la velocitat d'inferència del model i la generalització de la classificació. Els desenvolupadors també van proposar un mètode per augmentar encara més la precisió de l'entrenament del model de generalització de dades obtingudes de diverses fonts diferents i provar el rendiment per explorar la possibilitat de desplegar-lo en plataformes de punta com els rellotges intel·ligents portàtils. 

A més, estudis addicionals sobre CNN va indicar que és possible desplegar i aconseguir resultats desitjables amb l'arquitectura CNN en dispositius amb recursos limitats. Recentment, els desenvolupadors van poder desenvolupar un marc per a la detecció de màscares mèdiques en un microcontrolador ARM Cortex M7 amb recursos limitats utilitzant TensorFlow lite amb empremtes de memòria mínimes. La quantificació posterior a la mida del model era d'uns 138 KB, mentre que la velocitat d'interferència a la placa objectiu era d'uns 30 FPS. 

Una altra aplicació de TinyML per a l'aplicació basada en visió per computador és implementar un dispositiu de reconeixement de gestos que es pot subjectar a un bastó per ajudar les persones amb discapacitat visual a navegar fàcilment per la seva vida diària. Per dissenyar-lo, els desenvolupadors van utilitzar el conjunt de dades de gestos i van utilitzar el conjunt de dades per entrenar el model ProtoNN amb un algorisme de classificació. Els resultats obtinguts de la configuració van ser precisos, el disseny va ser de baix cost i va oferir resultats satisfactoris. 

Una altra aplicació significativa de TinyML és a la indústria de la conducció autònoma i dels vehicles autònoms a causa de la manca de recursos i la potència de càlcul a bord. Per abordar el problema, els desenvolupadors van introduir un mètode d'aprenentatge en bucle tancat basat en el model TinyCNN que va proposar un model de predicció en línia que captura la imatge en temps d'execució. El principal problema al qual es van enfrontar els desenvolupadors quan van implementar TinyML per a la conducció autònoma va ser que el model de decisió que es va entrenar per treballar amb dades fora de línia pot no funcionar igual de bé quan es tracta de dades en línia. Per maximitzar al màxim les aplicacions dels cotxes autònoms i els cotxes autònoms, idealment el model hauria de poder adaptar-se a les dades en temps real. 

Classificació i compressió de patró de dades

Un dels majors reptes de l'actual marc de TinyML és facilitar que s'adapti a les dades de formació en línia. Per abordar el problema, els desenvolupadors han proposat un mètode conegut com TinyOL o TinyML Online Learning per permetre l'entrenament amb aprenentatge en línia incremental en unitats de microcontroladors, permetent així que el model s'actualitzi en dispositius de punta IoT. La implementació es va aconseguir mitjançant el llenguatge de programació C++ i es va afegir una capa addicional a l'arquitectura TinyOL. 

A més, els desenvolupadors també van realitzar la codificació automàtica de la placa de sensors Arduino Nano 33 BLE i el model entrenat va poder classificar nous patrons de dades. A més, el treball de desenvolupament va incloure el disseny d'algorismes eficients i més optimitzats per a les xarxes neuronals per donar suport als patrons d'entrenament del dispositiu en línia. 

La investigació a TinyOL i TinyML ha indicat que el nombre de capes d'activació ha estat un problema important per als dispositius IoT Edge que tenen recursos limitats. Per fer front al problema, els desenvolupadors van introduir el nou model d'aprenentatge TinyTL o Tiny Transfer per fer que l'ús de la memòria sobre dispositius de punta IoT sigui molt més eficaç i evitar l'ús de capes intermèdies per a l'activació. A més, els desenvolupadors també van introduir un mòdul de biaix totalment nou conegut com "mòdul lite-residual” per maximitzar les capacitats d'adaptació i, per descomptat, permetre als extractors de característiques descobrir mapes de característiques residuals. 

En comparació amb l'afinació completa de la xarxa, els resultats estaven a favor de l'arquitectura TinyTL, ja que els resultats van mostrar que TinyTL reduïa la sobrecàrrega de memòria unes 6.5 vegades amb una pèrdua de precisió moderada. Quan es va ajustar l'última capa, TinyML havia millorat la precisió en un 34% amb una pèrdua moderada de precisió. 

A més, la investigació sobre compressió de dades ho ha indicat algorismes de compressió de dades ha de gestionar les dades recollides en un dispositiu portàtil i, per aconseguir-ho, els desenvolupadors van proposar TAC o Tiny Anomaly Compressor. El TAC va ser capaç de superar els algorismes SDT o Swing Door Trending i DCT o Discrete Cosine Transform. A més, l'algoritme TAC va superar els algorismes SDT i DCT aconseguint una taxa de compressió màxima superior al 98% i tenint la relació senyal/soroll màxima superior dels tres algorismes. 

Diagnòstic de salut

La pandèmia global de Covid-19 va obrir noves portes d'oportunitat per a la implementació de TinyML, ja que ara és una pràctica essencial per detectar contínuament els símptomes respiratoris relacionats amb la tos i el refredat. Per garantir un seguiment ininterromput, els desenvolupadors han proposat un model de CNN Tiny RespNet que funciona en una configuració multimodel, i el model es desplega sobre un FPGA Xilinx Artix-7 100t que permet que el dispositiu processi la informació de manera paral·lela, té una alta eficiència, i baix consum d'energia. A més, el model TinyResp també pren la parla dels pacients, les gravacions d'àudio i la informació de demografia com a entrada per classificar, i els símptomes relacionats amb la tos d'un pacient es classifiquen mitjançant tres conjunts de dades distingits. 

A més, els desenvolupadors també han proposat un model capaç d'executar càlculs d'aprenentatge profund en dispositius de punta, un model TinyML anomenat TinyDL. El model TinyDL es pot implementar en dispositius de punta com rellotges intel·ligents i wearables per al diagnòstic de salut, i també és capaç de dur a terme anàlisis de rendiment per reduir l'ample de banda, la latència i el consum d'energia. Per aconseguir el desplegament de TinyDL en dispositius portàtils, es va dissenyar i entrenar un model LSTM específicament per a un dispositiu portàtil i es va alimentar les dades recollides com a entrada. El model té una puntuació de precisió d'entre el 75 i el 80% i també va poder treballar amb dades fora del dispositiu. Aquests models que s'executen en dispositius de punta van mostrar el potencial per resoldre els reptes actuals als quals s'enfronten els dispositius IoT. 

Finalment, els desenvolupadors també han proposat una altra aplicació per controlar la salut de les persones grans estimant i analitzant les seves postures corporals. El model utilitza el marc agnòstic del dispositiu que permet que el model permeti la validació i el foment ràpid per realitzar adaptacions. El model va implementar algorismes de detecció de posicions corporals juntament amb fites facials per detectar posicions corporals espaciotemporals en temps real. 

Informàtica de vores

Una de les principals aplicacions de TinyML és en el camp de la informàtica perifèrica, ja que amb l'augment de l'ús de dispositius IoT per connectar dispositius a tot el món, és essencial configurar dispositius perifèrics, ja que ajudarà a reduir la càrrega a les arquitectures del núvol. . Aquests dispositius de punta comptaran amb centres de dades individuals que els permetran dur a terme una informàtica d'alt nivell al propi dispositiu, en lloc de confiar en l'arquitectura del núvol. Com a resultat, ajudarà a reduir la dependència del núvol, reduir la latència, millorar la seguretat i la privadesa dels usuaris i també reduir l'ample de banda. 

Els dispositius Edge que utilitzen els algorismes TinyML ajudaran a resoldre les limitacions actuals relacionades amb els requisits de potència, informàtica i memòria, i es discuteix a la imatge següent. 

A més, TinyML també pot millorar l'ús i l'aplicació de vehicles aeris no tripulats o UAV abordant les limitacions actuals a les quals s'enfronten aquestes màquines. L'ús de TinyML pot permetre als desenvolupadors implementar un dispositiu eficient energèticament amb una latència baixa i una gran potència de càlcul que pugui actuar com a controlador per a aquests UAV. 

Interfície cervell-ordinador o BCI

TinyML té aplicacions importants a la indústria sanitària i pot resultar molt beneficiós en diferents àrees, com ara la detecció de càncer i tumors, prediccions de salut mitjançant senyals ECG i EEG i intel·ligència emocional. L'ús de TinyML pot permetre que l'estimulació cerebral profunda adaptativa o aDBS s'adapti amb èxit a les adaptacions clíniques. L'ús de TinyMl també pot permetre que aDBS identifiqui marques biològiques relacionades amb la malaltia i els seus símptomes mitjançant enregistraments invasius dels senyals cerebrals. 

A més, la indústria sanitària sovint inclou la recollida d'una gran quantitat de dades d'un pacient, i aquestes dades s'han de processar per aconseguir solucions específiques per al tractament d'un pacient en les primeres etapes d'una malaltia. Com a resultat, és vital construir un sistema que no només sigui altament eficaç, sinó també molt segur. Quan combinem l'aplicació IoT amb el model TinyML, neix un nou camp anomenat H-IoT o Healthcare Internet of Things, i les principals aplicacions de l'H-IoT són el diagnòstic, la supervisió, la logística, el control de propagació i els sistemes d'assistència. Si volem desenvolupar dispositius capaços de detectar i analitzar la salut d'un pacient de forma remota, és fonamental desenvolupar un sistema que tingui una accessibilitat global i una baixa latència. 

Vehicles autònoms

Finalment, TinyML pot tenir aplicacions generalitzades a la indústria de vehicles autònoms, ja que aquests vehicles es poden utilitzar de diferents maneres, com ara el seguiment humà, finalitats militars i té aplicacions industrials. Aquests vehicles tenen el requisit principal de poder identificar objectes de manera eficient quan s'està buscant l'objecte. 

A partir d'ara, els vehicles autònoms i la conducció autònoma són una tasca força complexa, especialment quan es desenvolupen vehicles de mida petita o petita. Els desenvolupaments recents han demostrat potencial per millorar l'aplicació de la conducció autònoma per a minivehicles mitjançant l'ús d'una arquitectura CNN i el desplegament del model sobre el GAP8 MCI. 

Challenges

TinyML és un concepte relativament més nou a la indústria d'IA i ML i, malgrat el progrés, encara no és tan efectiu com el necessitem per al desplegament massiu de dispositius perifèrics i IoT. 

El repte més gran que s'enfronten actualment els dispositius TinyML és el consum d'energia d'aquests dispositius. Idealment, s'espera que els dispositius d'IoT i de vora incrustats tinguin una durada de la bateria que s'estén durant 10 anys. Per exemple, en condicions ideals, un dispositiu IoT que funciona amb una bateria de 2 Ah se suposa que té una durada de la bateria de més de 10 anys, ja que el consum d'energia del dispositiu és d'uns 12 ua. Tanmateix, en l'estat donat, una arquitectura IoT amb un sensor de temperatura, una unitat MCU i un mòdul WiFi, el consum actual és d'uns 176.4 mA i, amb aquest consum d'energia, la bateria només durarà unes 11 hores, en canvi. dels 10 anys de durada de la bateria requerits. 

Limitacions de recursos

Per mantenir la coherència d'un algorisme, és vital mantenir la disponibilitat d'energia i, donat l'escenari actual, la disponibilitat d'energia limitada per als dispositius TinyML és un repte crític. A més, les limitacions de memòria també són un repte important, ja que el desplegament de models sovint requereix una gran quantitat de memòria per funcionar de manera eficaç i precisa. 

Restriccions de maquinari

Les restriccions de maquinari dificulten el desplegament dels algorismes TinyML a gran escala a causa de l'heterogeneïtat dels dispositius de maquinari. Hi ha milers de dispositius, cadascun amb les seves pròpies especificacions i requisits de maquinari i, per tant, actualment cal ajustar un algorisme TinyML per a cada dispositiu individual, cosa que fa que el desplegament massiu sigui un problema important. 

Restriccions del conjunt de dades

Un dels principals problemes amb els models TinyML és que no admeten els conjunts de dades existents. És un repte per a tots els dispositius de punta, ja que recullen dades mitjançant sensors externs, i aquests dispositius sovint tenen limitacions de potència i energia. Per tant, els conjunts de dades existents no es poden utilitzar per entrenar els models TinyML de manera eficaç. 

Consideracions finals

El desenvolupament de tècniques de ML ha provocat una revolució i un canvi de perspectiva a l'ecosistema IoT. La integració de models ML en dispositius IoT permetrà que aquests dispositius de punta puguin prendre decisions intel·ligents per si mateixos sense cap intervenció humana externa. Tanmateix, convencionalment, els models ML solen tenir uns requisits de potència, memòria i informàtica elevats que els fan unificar per desplegar-se en dispositius de punta que sovint tenen recursos limitats. 

Com a resultat, una nova branca en IA es va dedicar a l'ús de ML per a dispositius IoT, i es va anomenar TinyML. TinyML és un marc de ML que permet que fins i tot els dispositius amb recursos limitats aprofitin la potència de l'IA i l'ML per garantir una major precisió, intel·ligència i eficiència. 

En aquest article, hem parlat de la implementació de models TinyML en dispositius IoT amb recursos limitats, i aquesta implementació requereix entrenar els models, desplegar els models al maquinari i realitzar tècniques de quantificació. No obstant això, donat l'abast actual, els models ML preparats per desplegar-se en dispositius IoT i perifèrics tenen diverses complexitats i restriccions, com ara problemes de compatibilitat de maquinari i marcs. 

"Enginyer de professió, escriptor de memòria". Kunal és un escriptor tècnic amb un profund amor i comprensió de la IA i el ML, dedicat a simplificar conceptes complexos en aquests camps mitjançant la seva documentació atractiva i informativa.