Il ruolo di tinyML nell’abilitare la visione computerizzata ai margini – Leader di pensiero

Di: Davis Sawyer, Co-Fondatore e Chief Product Officer, Deeplite

La visione computerizzata ha un grande potenziale per migliorare la nostra vita quotidiana – e ci sono molte applicazioni e utilizzi per essa. Alcuni esempi includono:

• Campanelli intelligenti per la sicurezza domestica aiutano a prevenire i “pirati del portico” e gli scassi. Secondo una ricerca di I.H.S. Markit (pubblicata su SecurityInfoWatch) il numero di telecamere di sorveglianza globali era previsto raggiungere un miliardo nel 2021. Negli Stati Uniti da soli, il numero di telecamere era previsto raggiungere 85 milioni;
• Nei parcheggi, le telecamere abilitate all’intelligenza artificiale automatizzano il tracciamento dei posti di parcheggio disponibili e occupati per informare i consumatori dove sono disponibili spazi aperti;
• Le telecamere del cruscotto sui camion stanno leggendo i segnali di limite di velocità e riducendo dinamicamente la velocità del camion per migliorare la sicurezza;
• E i droni con telecamere connesse stanno monitorando aree remote e difficili da raggiungere, e possono elaborare immagini e prendere decisioni in tempo reale.

Tutte queste applicazioni utilizzano analisi video intelligenti, guidate dall’intelligenza artificiale e dal machine learning, per guardare il video, utilizzare l’intelligenza per prendere decisioni e quindi agire.

La visione computerizzata necessita di più risorse ai margini

Tuttavia, come molte applicazioni guidate dall’intelligenza artificiale, la visione computerizzata necessita di sbalzi di potenza di calcolo, memoria ed energia per eseguire la sua analisi complessa e prendere decisioni. Mentre ciò è accettabile in un data center con molta potenza di calcolo, può impedire il passaggio dell’intelligenza artificiale ai margini. In particolare, i dispositivi piccoli che si trovano lontani dai data center aziendali e operano con batterie piccole necessitano di una nuova generazione di intelligenza artificiale che sia più piccola, più veloce e “leggera” rispetto agli approcci tradizionali. E i dispositivi esistenti dovranno essere aggiornati con nuove funzionalità di intelligenza artificiale + machine learning (visione computerizzata) per rimanere validi e competitivi.

Le nuove avanzate aumentano le reti neurali profonde

Oggi, le nuove avanzate nell’intelligenza artificiale stanno rendendo le reti neurali profonde (DNN) più veloci, più piccole e più efficienti in termini di energia – e stanno aiutando a spostare l’intelligenza artificiale dal cloud e dai data center ai dispositivi ai margini e ai sensori alimentati a batteria. Quando si tratta di formazione di modelli di intelligenza artificiale, l’impronta carboniosa sconvolgente è stata documentata e discussa (ad esempio, la formazione di un modello di linguaggio di intelligenza artificiale emette tanto CO2 quanto 5 auto nel corso della loro vita). Tuttavia, dobbiamo capire quale è l’impatto ambientale dell’inferenza del modello di intelligenza artificiale e come ridurre questo impatto. È qui che l’ottimizzazione del modello può avere benefici enormi riducendo il costo economico e ambientale delle DNN.

Il tinyML consente l’intelligenza artificiale sui dispositivi piccoli

Una di queste avanzate è tinyML, una potente nuova tendenza per consentire ai dispositivi più piccoli e alimentati a batteria di utilizzare machine learning avanzato per consegnare visione computerizzata e altri compiti di percezione. Facilita l’inferenza del machine learning su dispositivi piccoli e con risorse limitate, tipicamente ai margini del cloud, e aiuta a consentire applicazioni ai margini più vicine all’utente.

Ad esempio, un server GPU come un NVIDIA A100 ha oltre 40 GB di memoria disponibile, che è adatto per eseguire intelligenza artificiale complessa come la visione computerizzata e l’elaborazione del linguaggio naturale. Tuttavia, quando parliamo di dispositivi ai margini e di tinyML, un microcontrollore (MCU) comune può avere solo 256 KB di memoria on-chip, che è oltre 100.000 volte meno memoria del cloud! Inoltre, a differenza dei data center e del cloud, l’hardware dei dispositivi ai margini non può essere facilmente aggiornato sul campo. Ciò significa che dobbiamo “adattare” la nostra intelligenza artificiale all’hardware disponibile, il che può richiedere mesi o anni di trial e error per i sviluppatori per raggiungere, se mai. È qui che il tinyML, in particolare il machine learning automatico (noto anche come AutoML), può svolgere un ruolo importante nel rompere le barriere all’adozione dell’intelligenza artificiale nel mondo reale.

E l’influenza del tinyML sta crescendo. Con oltre 10.000 membri, la Fondazione tinyML sta crescendo l’ecosistema per supportare lo sviluppo e la distribuzione di soluzioni di machine learning a bassissimo consumo di energia ai margini. La Fondazione unisce una comunità globale di hardware, software, machine learning, scienziati dei dati, ingegneri di sistemi, designer, prodotti e imprenditori.

Un mondo di opportunità

In sintesi, ci sono miliardi di dispositivi piccoli e connessi ovunque che possono trarre beneficio da un’intelligenza avanzata. La sfida è che hanno risorse molto limitate, quindi come possiamo aggiungere intelligenza a essi? Il tinyML può svolgere un ruolo chiave nell’portare l’intelligenza artificiale e il machine learning a più applicazioni basate sulla visione computerizzata, nel mondo reale, ai margini, su dispositivi piccoli. E ciò può sbloccare un mondo di benefici per le persone e le aziende in una gamma di prodotti, servizi e settori, aiutandoci a spingerci verso nuove frontiere per l’intelligenza artificiale.