Il ruolo di tinyML nell’abilitazione della visione computerizzata ai margini – Leader di pensiero

Di: Davis Sawyer, Co-Fondatore e Chief Product Officer, Deeplite

La visione computerizzata ha un grande potenziale per migliorare la nostra vita quotidiana – e ci sono molte applicazioni e utilizzi per essa. Alcuni esempi includono:

• Campanelli intelligenti per la sicurezza domestica aiutano a prevenire i “pirati del portico” e gli scassi. Secondo una ricerca di I.H.S. Markit (pubblicata su SecurityInfoWatch) il numero di telecamere di sorveglianza globali era previsto raggiungere un miliardo nel 2021. Solo negli Stati Uniti, il numero di telecamere era previsto raggiungere 85 milioni;
• Nei parcheggi, le telecamere abilitate all’intelligenza artificiale automatizzano il tracciamento dei posti auto disponibili e occupati per informare i consumatori dove si trovano gli spazi aperti;
• Telecamere del cruscotto sui camion stanno leggendo i segnali di limite di velocità e riducendo dinamicamente la velocità del camion per migliorare la sicurezza;
• E droni con telecamere connesse stanno monitorando aree remote e difficili da raggiungere, e possono elaborare immagini e prendere decisioni in tempo reale.

Tutte queste applicazioni utilizzano analisi video intelligenti, guidate dall’intelligenza artificiale e dal machine learning (ML), per guardare i video, utilizzare l’intelligenza per prendere decisioni e quindi agire.

La visione computerizzata necessita di più risorse ai margini

Tuttavia, come molte applicazioni guidate dall’intelligenza artificiale, la visione computerizzata necessita di sbalzi di potenza di calcolo, memoria ed energia per eseguire la sua complessa analisi e prendere decisioni. Mentre ciò è accettabile in un data center con molta potenza di calcolo, può impedire lo spostamento dell’intelligenza artificiale ai margini. In particolare, i piccoli dispositivi che si trovano lontani dai data center aziendali e operano con batterie piccole necessitano di una nuova generazione di intelligenza artificiale che sia più piccola, più veloce e “più leggera” rispetto agli approcci tradizionali. E i dispositivi esistenti dovranno essere aggiornati con nuove funzionalità di intelligenza artificiale + ML (visione computerizzata) per rimanere vitali e competitivi.

Nuovi progressi migliorano le reti neurali profonde

Oggi, nuovi progressi nell’intelligenza artificiale stanno rendendo le reti neurali profonde (DNN) più veloci, più piccole e più efficienti in termini di energia – e stanno aiutando a spostare l’intelligenza artificiale dalle nuvole e dai data center ai dispositivi ai margini e ai sensori alimentati a batteria. Quando si tratta di addestramento dei modelli di intelligenza artificiale, l’impronta carboniosa sconvolgente è stata documentata e discussa (ad esempio, l’addestramento di un modello linguistico di intelligenza artificiale emette tanto CO2 quanto 5 auto durante tutta la loro vita). Tuttavia, dobbiamo capire quale sia l’impatto ambientale dell’inferenza del modello di intelligenza artificiale e come ridurre questo impatto. È qui che l’ottimizzazione del modello può avere enormi benefici riducendo il costo economico e ambientale delle DNN.

Il tinyML abilita l’intelligenza artificiale sui piccoli dispositivi

Uno di questi progressi è tinyML, una potente nuova tendenza per abilitare dispositivi più piccoli e alimentati a batteria a utilizzare intelligenza artificiale avanzata per consegnare visione computerizzata e altri compiti di percezione. Facilita l’inferenza di ML su dispositivi piccoli e con risorse limitate, solitamente ai margini della nuvola, e aiuta a consentire applicazioni ai margini più vicine all’utente.

Ad esempio, un server GPU come un NVIDIA A100 ha oltre 40 GB di memoria disponibile, che è adatto per eseguire intelligenza artificiale complessa come la visione computerizzata e l’elaborazione del linguaggio naturale. Tuttavia, quando parliamo di dispositivi ai margini e di tinyML, un microcontrollore (MCU) comune può avere solo 256 KB di memoria onboard, che è oltre 100.000 volte meno memoria rispetto alla nuvola! Inoltre, a differenza dei data center e della nuvola, il hardware dei dispositivi ai margini non può essere facilmente aggiornato sul campo. Ciò significa che dobbiamo “adattare” la nostra intelligenza artificiale all’hardware disponibile, il che può richiedere mesi o anni di prova ed errore per i sviluppatori per raggiungere, se mai. È qui che il tinyML, in particolare l’apprendimento automatico (anche chiamato AutoML), può svolgere un ruolo importante nel superare le barriere all’adozione dell’intelligenza artificiale nel mondo reale.

E l’influenza del tinyML sta crescendo. Con oltre 10.000 membri, la fondazione tinyML sta crescendo l’ecosistema per supportare lo sviluppo e la distribuzione di soluzioni di apprendimento automatico a bassissimo consumo ai margini. La fondazione unisce una comunità globale di hardware, software, intelligenza artificiale, scienziati dei dati, ingegneri di sistemi, designer, prodotti e imprenditori.

Un mondo di opportunità

In sintesi, ci sono miliardi di dispositivi piccoli e connessi ovunque che possono trarre beneficio da un’intelligenza avanzata. La sfida è che hanno risorse molto limitate, quindi come possiamo aggiungere intelligenza a essi? Il tinyML può svolgere un ruolo chiave nell’portare l’intelligenza artificiale e il machine learning a più applicazioni basate sulla visione computerizzata, nel mondo reale, ai margini, su dispositivi piccoli. E ciò può sbloccare un mondo di benefici per le persone e le aziende in una vasta gamma di prodotti, servizi e settori, aiutandoci a spingerci verso nuove frontiere per l’intelligenza artificiale.