Nuovo Sistema Può Portare l’Intelligenza Artificiale su Dispositivi Indossabili e Elettrodomestici

Un team di ricercatori al MIT sta lavorando per portare le reti neurali profonde ai microcontrollori. Questo progresso significa che l’intelligenza artificiale (AI) potrebbe essere implementata in piccoli chip di computer in dispositivi medici indossabili, elettrodomestici e negli altri 250 miliardi di oggetti che compongono l'”internet delle cose” (IoT). L’IoT è una rete di oggetti fisici dotati di sensori, software e altre tecnologie, che aiutano a connettere e scambiare dati con altri dispositivi e sistemi.

La ricerca sarà presentata alla Conferenza su Sistemi di Elaborazione dell’Informazione Neurale a dicembre. L’autore principale della ricerca è Ji Lin, uno studente di dottorato nel laboratorio di Song Han del Dipartimento di Ingegneria Elettrica e Informatica del MIT. I coautori includono Han e Yujun Lin del MIT, Wei-Ming Chen del MIT e dell’Università Nazionale di Taiwan, e John Cohn e Chuan Gan del MIT-IBM Watson Lab.

Sistema MCUNet

Il sistema si chiama MCUNet e progetta reti neurali compatte in grado di raggiungere estrema velocità e precisione su dispositivi IoT, anche con memoria e potenza di elaborazione limitate. Questo sistema può essere più efficiente in termini di energia e migliorare la sicurezza dei dati.

Il team ha sviluppato il sistema di “apprendimento profondo miniaturizzato” combinando due componenti – l’operazione delle reti neurali e i microcontrollori. La prima componente è TinyEngine, un motore di interfaccia che agisce come un sistema operativo dirigendo la gestione delle risorse. TinyEngine è ottimizzato per eseguire una struttura di rete neurale specifica selezionata da TinyNAS, che è l’altra componente. TinyNAS è un algoritmo di ricerca di architettura neurale.

Lin ha sviluppato TinyNAS a causa della difficoltà di applicare le tecniche di ricerca di architettura neurale esistenti ai piccoli microcontrollori. Queste tecniche trovano eventualmente la struttura di rete più accurata e efficiente in termini di costo dopo aver iniziato con molte possibilità basate su un modello predefinito.

“Funziona abbastanza bene per GPU o smartphone”, dice Lin. “Ma è stato difficile applicare direttamente queste tecniche ai piccoli microcontrollori, perché sono troppo piccoli”.

TinyNAS può creare reti di dimensioni personalizzate.

“Abbiamo molti microcontrollori che vengono con diverse capacità di potenza e diverse dimensioni di memoria”, dice Lin. “Quindi abbiamo sviluppato l’algoritmo [TinyNAS] per ottimizzare lo spazio di ricerca per diversi microcontrollori”.

Poiché TinyNAS può essere personalizzato, può generare le migliori reti neurali compatte per microcontrollori.

“Poi consegniamo il modello finale ed efficiente al microcontrollore”, continua Lin.

È richiesta un’interfaccia motore pulita e snella perché un microcontrollore esegua la rete neurale miniaturizzata. Molti motori di interfaccia hanno istruzioni per attività eseguite raramente, che potrebbero ostacolare un microcontrollore.

“Non ha memoria esterna, e non ha un disco”, dice Han. “Tutto ciò che è assemblato è solo un megabyte di flash, quindi dobbiamo gestire con cura una risorsa così piccola”.

TinyEngine genera il codice necessario per eseguire la rete neurale personalizzata sviluppata da TinyNAS. Il tempo di compilazione viene ridotto scartando il codice inutilizzato.

“Manteniamo solo ciò di cui abbiamo bisogno”, dice Han. “E poiché abbiamo progettato la rete neurale, sappiamo esattamente ciò di cui abbiamo bisogno. Questo è il vantaggio della progettazione di sistema e algoritmo”.

I test hanno dimostrato che il codice binario compilato di TinyEngine era 1,9 a 5 volte più piccolo dei motori di microcontrollore simili, compresi quelli di Google (GOOGL ) e ARM. L’utilizzo della memoria di picco è stato anche ridotto quasi della metà.

Capacità di MCUNet

I primi test per MCUNet sono stati condotti sulla classificazione delle immagini. Il database ImageNet è stato utilizzato per addestrare il sistema con immagini etichettate, e la sua capacità è stata quindi testata su immagini nuove.

Quando MCUNet è stato testato su un microcontrollore commerciale, ha classificato con successo il 70,7% delle immagini nuove. Questo è molto meglio del miglior risultato precedente di rete neurale e motore di interferenza, che era del 54% di accuratezza.

“Anche un miglioramento dell’1% è considerato significativo”, dice Lin. “Quindi questo è un grande passo avanti per le impostazioni dei microcontrollori”.

Secondo Kurt Keutzer, un informatico dell’Università della California a Berkeley, questo “estende il confine della progettazione delle reti neurali profonde ancora più nel dominio computazionale dei piccoli microcontrollori efficienti in termini di energia”. MCUNet potrebbe “portare capacità di visione computerizzata intelligente anche ai più semplici elettrodomestici da cucina, o abilitare sensori di movimento più intelligenti”.

MCUNet migliora anche la sicurezza dei dati.

“Un vantaggio chiave è la conservazione della privacy”, dice Han. “Non è necessario trasmettere i dati al cloud”.

Analizzando i dati localmente, c’è una minore possibilità che le informazioni personali vengano compromesse.

Inoltre, MCUNet potrebbe analizzare e fornire informazioni su dati come le letture della frequenza cardiaca, della pressione sanguigna e dei livelli di ossigeno, portare l’apprendimento profondo ai dispositivi IoT in veicoli e altri luoghi con accesso limitato a internet, e ridurre l’impronta carboniosa utilizzando solo una piccola frazione dell’energia richiesta per le grandi reti neurali.