Avanzamento nei microchip ci avvicina al calcolo Edge dell’IA

I ricercatori dell’Università di Princeton hanno sviluppato hardware e software progettati per aumentare ulteriormente la velocità e l’efficienza dei sistemi di intelligenza artificiale (IA) specializzati.

Naveen Verma è un professore di ingegneria elettrica e informatica a Princeton che guida il team di ricerca.

“Il software è una parte critica per abilitare nuovi hardware”, ha detto Verma. “Speriamo che i progettisti possano continuare a utilizzare lo stesso sistema software – e che funzioni dieci volte più veloce e efficiente.”

I sistemi sviluppati dai ricercatori riducono la domanda di potenza e la quantità di dati necessari per essere scambiati con server remoti. Ciò consente alle applicazioni di IA come il software di pilotaggio per droni di funzionare ai margini dell’infrastruttura di calcolo.

Verma è anche il direttore del Keller Center for Innovation in Engineering Education dell’Università.

“Per rendere l’IA accessibile ai processi in tempo reale e spesso personali che ci circondano, dobbiamo affrontare la latenza e la privacy spostando il calcolo stesso ai margini”, ha detto Verma. “E ciò richiede sia efficienza energetica che prestazioni.”

Nuovi progetti di chip

Il team di Princeton ha sviluppato un nuovo progetto di chip due anni fa, progettato per migliorare le prestazioni delle reti neurali. Il chip poteva eseguire operazioni da dieci a cento volte meglio di altri microchip sul mercato.

“Il principale svantaggio del chip è che utilizza un’architettura molto insolita e innovativa”, ha detto Verma nel 2018. “Ciò deve essere riconciliato con la grande quantità di infrastrutture e metodologie di progettazione che abbiamo e utilizziamo oggi.”

Il chip è stato costantemente raffinato nel corso dei due anni successivi e un sistema software è stato creato per consentire ai sistemi di IA di utilizzare la nuova tecnologia in modo efficiente. L’idea era che i nuovi chip potessero consentire ai sistemi di essere scalabili sia in hardware che nell’esecuzione del software.

“È programmabile su tutte queste reti”, ha detto Verma. “Le reti possono essere molto grandi e possono essere molto piccole.”

Il miglior scenario per il calcolo è che si verifichi direttamente sulla tecnologia stessa, piuttosto che in un computer di rete remoto. Tuttavia, ciò richiede grandi quantità di potenza e memoria, il che rende difficile progettare un tale sistema.

Per superare queste limitazioni, i ricercatori hanno progettato un chip che esegue calcoli e memorizza dati nella stessa area, nota come calcolo in memoria. Questa tecnica riduce l’energia e il tempo necessari per scambiare informazioni con la memoria dedicata.

Per evitare l’operazione analogica, che è necessaria per il calcolo in memoria e che è sensibile alla corruzione, il team ha fatto affidamento sui condensatori invece che sui transistor nel progetto del chip. I condensatori non sono soggetti allo stesso effetto delle variazioni di tensione e sono più precisi.

Nonostante le varie sfide che circondano i sistemi analogici, essi presentano molti vantaggi quando utilizzati per applicazioni come le reti neurali. I ricercatori stanno ora cercando di combinare i due tipi di sistemi, poiché i sistemi digitali sono centrali mentre le reti neurali che si basano su chip analogici possono eseguire operazioni specializzate veloci ed efficienti.