Rolul tinyML în activarea viziunii calculate la margine – Lideri de opinie

De: Davis Sawyer, Co-fondator și Director de Produs, Deeplite

Viziunea calculată are un potențial enorm de a îmbunătăți viața noastră de zi cu zi – și există multe aplicații și utilizări pentru aceasta. Câteva exemple includ:

• SONERII inteligente pentru securitatea casei ajută la prevenirea “hoților de prag” și a spargerilor. Conform cercetărilor efectuate de I.H.S. Markit (publicate în SecurityInfoWatch) se estima că numărul global de camere de supraveghere din întreaga lume va ajunge la un miliard în 2021. În Statele Unite ale Americii, numărul de camere se estima la 85 de milioane;
• În parcări, camerele cu inteligență artificială automatează urmărirea locurilor de parcare disponibile și ocupate pentru a informa consumatorii despre locurile deschise;
• Camerele de bord de pe camioane citesc acum semnele de limită de viteză și reduc dinamic viteza camionului pentru a îmbunătăți siguranța;
• Și dronelor cu camere conectate monitorizează zonele îndepărtate și greu accesibile și pot procesa imagini și lua decizii în timp real.

Toate aceste aplicații utilizează analize video inteligente, conduse de inteligență artificială și învățare automată, pentru a urmări videoclipuri, a utiliza inteligența pentru a lua decizii și a lua măsuri.

Viziunea calculată are nevoie de mai multe resurse la margine

Cu toate acestea, ca și multe aplicații conduse de inteligență artificială, viziunea calculată are nevoie de explozii de putere de calcul, memorie și energie pentru a efectua analize complexe și a lua decizii. Deși acest lucru este în regulă într-un centru de date cu multă putere de calcul, poate împiedica mutarea inteligenței artificiale la margine. În special, dispozitivele mici care sunt situate departe de centrele de date corporative și funcționează pe baterii mici au nevoie de o nouă generație de inteligență artificială care să fie mai mică, mai rapidă și “mai ușoară” decât abordările tradiționale. Și dispozitivele existente vor trebui să fie actualizate cu funcționalități noi de inteligență artificială și învățare automată pentru a rămâne viabile și competitive.

Noi progrese îmbunătățesc rețelele neuronale profunde

Astăzi, noile progrese în domeniul inteligenței artificiale fac ca rețelele neuronale profunde (DNN) să fie mai rapide, mai mici și mai eficiente din punct de vedere energetic – și ajută la mutarea inteligenței artificiale de la cloud și centrele de date la dispozitivele de margine și senzorii cu baterii. Când vine vorba de antrenarea modelului de inteligență artificială, amprenta uriașă de carbon a fost documentată și discutată (de exemplu, antrenarea unui singur model de limbaj de inteligență artificială emite atâta CO2 cât cinci mașini pe parcursul întregii vieți). Cu toate acestea, trebuie să înțelegem ce este impactul asupra mediului al inferenței modelului de inteligență artificială și cum să reducem această amprentă. Aici, optimizarea modelului poate avea beneficii uriașe prin reducerea costurilor economice și de mediu ale DNN-urilor.

TinyML permite inteligență artificială pe dispozitive mici

Una dintre aceste progrese este tinyML, o tendință puternică și nouă care permite dispozitivelor mici și cu baterii să utilizeze învățare automată avansată pentru a livra viziune calculată și alte sarcini de percepție. Facilitează inferența de învățare automată pe dispozitive mici, cu resurse limitate, de obicei la marginea cloud-ului, și ajută la activarea aplicațiilor de margine mai aproape de utilizator.

De exemplu, un GPU de server precum NVIDIA A100 are peste 40 GB de memorie disponibilă, ceea ce este potrivit pentru a rula inteligență artificială complexă, cum ar fi viziunea calculată și procesarea limbajului natural. Cu toate acestea, atunci când vorbim despre dispozitive de margine și tinyML, un microcontroler (MCU) obișnuit poate avea doar 256 KB de memorie pe cip, ceea ce este de peste 100.000 de ori mai puțin decât memoria de cloud! În plus, spre deosebire de centrele de date și cloud, hardware-ul dispozitivelor de margine nu poate fi actualizat ușor în teren. Acest lucru înseamnă că trebuie să “adaptăm” inteligența noastră artificială la hardware-ul disponibil, ceea ce poate dura luni sau ani de încercări și erori pentru dezvoltatori, dacă este posibil. Aici, tinyML, în special învățarea automată automată (cunoscută și sub numele de AutoML), poate juca un rol major în înlăturarea barierelor pentru adoptarea inteligenței artificiale în lumea reală.

Influența tinyML este în creștere. Cu peste 10.000 de membri, Fundația tinyML extinde ecosistemul pentru a sprijini dezvoltarea și implementarea soluțiilor de învățare automată cu putere foarte mică la margine. Fundația reunește o comunitate globală de hardware, software, inteligență artificială, oameni de știință, ingineri de sisteme, designeri, produse și oameni de afaceri.

O lume de oportunități

În total, există miliarde de dispozitive mici și conectate peste tot care pot beneficia de inteligență avansată. Provocarea constă în faptul că au resurse foarte limitate, așa că cum putem să adăugăm inteligență la ele? tinyML poate juca un rol cheie în aducerea inteligenței artificiale și a învățării automate la mai multe aplicații bazate pe viziune calculată, în lumea reală, la margine, pe dispozitive mici. Și acest lucru poate debloca o lume de beneficii pentru oameni și companii dintr-o gamă largă de produse, servicii și industrii, ajutându-ne să ne împingem în noi frontiere pentru inteligența artificială.