Modelli e piattaforme di IA

Weebit Nano lancia un programma di ricerca sulla ReRAM Matrix per il calcolo dell’IA in memoria

mm
Aggiungi Unite.AI alle tue fonti preferite su Google
Conceptual illustration of a resistive memory crossbar computing with signals inside a semiconductor array.

Weebit Nano ha lanciato il programma di ricerca Weebit Matrix In-Memory Compute, che consente a ricercatori del mondo accademico e dell’industria di accedere all’hardware ReRAM per sperimentare un modo diverso di eseguire i calcoli dell’IA: svolgerli là dove vengono archiviati i dati.

Il programma mette a disposizione kit di ricerca basati su un array a barre incrociate da 32 × 32, che supporta operazioni quali la moltiplicazione vettore-matrice, la convoluzione e le reti neurali a impulsi. Il programma affronta una questione importante per l’hardware destinato all’IA edge: quanta energia e quanto tempo si possono risparmiare riducendo i ripetuti trasferimenti tra la memoria e un processore separato?

Si tratta del lancio di una piattaforma di ricerca, non di un acceleratore di IA commerciale già pronto. Weebit afferma che restano sfide tecniche da superare prima che una soluzione di calcolo in memoria arrivi sul mercato commerciale. L’obiettivo immediato è consentire ai ricercatori di passare dai modelli e dalle simulazioni agli esperimenti con hardware ReRAM reale.

Perché eseguire calcoli all’interno della memoria?

L’inferenza delle reti neurali combina ripetutamente gli input con i pesi del modello archiviati. In un’architettura convenzionale, spostare questi valori attraverso la gerarchia di memoria può consumare larghezza di banda ed energia. Il calcolo in memoria, o IMC, mira a eseguire parte di queste operazioni direttamente nell’array di memoria.

La memoria ad accesso casuale resistiva, o ReRAM, archivia le informazioni sfruttando una resistenza elettrica programmabile. Le celle a base di ossidi di Weebit contengono uno strato di commutazione tra gli elettrodi; le tensioni applicate modificano il percorso conduttivo e, di conseguenza, la resistenza della cella. Lo stato archiviato persiste anche senza alimentazione continua, rendendo la ReRAM non volatile.

Nella ricerca sul calcolo analogico, queste proprietà elettriche possono fare più che archiviare bit. Un array può codificare i pesi nelle proprie celle di memoria e sfruttare le risposte elettriche risultanti per contribuire ai calcoli. In questo modo, il comportamento fisico della memoria è collegato alle operazioni di moltiplicazione e accumulo impiegate in tutte le reti neurali.

L’obiettivo è particolarmente rilevante per i dispositivi con budget energetici e termici limitati, tra cui sensori, apparecchiature industriali e altri sistemi edge. Ciò non significa che ogni parte di un modello di IA venga eseguita all’interno dell’array né che il trasferimento dei dati scompaia dall’intero sistema.

Cosa comprendono i kit di ricerca Matrix

Inizialmente, Weebit offre due pacchetti:

  • Pacchetto di valutazione Matrix IMC: una scheda di valutazione ad accesso diretto per i ricercatori che desiderano accedere più direttamente all’hardware.
  • Pacchetto di avvio rapido Matrix IMC: una scheda IMC completa, un sottosistema FPGA e codice di esempio.

Entrambi comprendono campioni di chip in package, documentazione e una scheda IMC con zoccolo. L’array a barre incrociate da 32 × 32 offre una piattaforma controllata per studiare metodi di programmazione, algoritmi di IA e architetture neuromorfiche, comprese le reti neurali a impulsi.

Il sottosistema FPGA incluso nell’opzione di avvio rapido mette a disposizione dei ricercatori hardware digitale programmabile insieme all’array di memoria. È utile per esplorare sistemi ibridi, in cui le operazioni basate sulla memoria collaborano con l’elaborazione convenzionale, anziché tentare di sostituire un’intera pipeline di calcolo.

I partecipanti condivideranno con Weebit i risultati e i riscontri relativi alla ReRAM. L’azienda afferma che la collaborazione mira a migliorare la tecnologia e a orientare l’attività di ricerca più ampia. L’annuncio non specifica il prezzo dei kit, il numero di progetti accettati né la data di consegna di un acceleratore commerciale.

Contestualizzare la dichiarazione sul consumo energetico 80× inferiore

Un riepilogo della ricerca collegato offre importanti dettagli a supporto delle dichiarazioni sulle prestazioni di Weebit. Un’azienda statunitense non nominata, impegnata nello sviluppo di hardware per l’IA resistente alle radiazioni, ha valutato un’architettura IMC per un’attività di classificazione delle immagini usando una rete neurale convoluzionale personalizzata.

Il confronto ha utilizzato una GPU NVIDIA GeForce RTX 4090 e una piattaforma FPGA Xilinx ZCU104. Le prestazioni a livello di sistema dell’IMC sono state stimate tramite una modellazione applicativa basata su misurazioni effettuate con un array ReRAM di Weebit.

Per tale attività, l’analisi ha stimato un consumo energetico circa 80 volte inferiore rispetto all’implementazione su GPU e 13 volte inferiore rispetto a quella su FPGA. Il comunicato di lancio indica separatamente una riduzione della latenza di quasi 100 volte. Si tratta di stime specifiche per questa attività, non di misurazioni convalidate in modo indipendente che dimostrino come un acceleratore Matrix commerciale completo superi le GPU in tutte le attività di IA.

Questa distinzione è fondamentale per il programma di ricerca. Un risultato utile a livello di array deve tradursi in un sistema completo che mantenga l’accuratezza del modello tenendo conto del controllo, della conversione dei dati, delle comunicazioni e delle altre operazioni di supporto. Anche queste funzioni accessorie consumano energia e aggiungono latenza.

Gli esperimenti con l’hardware possono rivelare ciò che sfugge alle simulazioni

Il CEO di Weebit, Coby Hanoch, richiama la precedente collaborazione con CEA-Leti, che nel 2019 ha incluso una dimostrazione di una rete neurale a impulsi basata su ReRAM. Matrix amplia questo filone di ricerca mettendo una piattaforma hardware definita a disposizione di altri ricercatori qualificati.

Il ricercatore nel campo del calcolo neuromorfico Kevin D. Johnson, il cui lavoro comprende il calcolo eterogeneo e neuromorfico, ha dichiarato di voler utilizzare la piattaforma per convalidare i modelli sull’hardware reale e valutare l’accuratezza a livello di sistema, la latenza e il consumo energetico. Tra i suoi interessi c’è la combinazione della ReRAM con altre tecnologie di elaborazione.

Questo approccio rispecchia un’opportunità concreta: individuare quali parti di un carico di lavoro traggono vantaggio dal calcolo basato sulla memoria e combinarle poi, ove opportuno, con altro hardware. La domanda di ricerca va oltre l’efficienza di una singola operazione: riguarda anche la capacità del sistema risultante di offrire prestazioni applicative utili e ripetibili.

Weebit sottolinea inoltre la resistenza alle radiazioni come motivo per valutare la ReRAM in ambienti ostili. L’idoneità per una specifica applicazione aerospaziale, nel settore della difesa o in ambito medico dipenderebbe comunque dai requisiti e dalla convalida del progetto completo.

Dimostrazioni e accesso alla ricerca

Weebit prevede di presentare Matrix IMC a electronica 2026, in programma dal 10 al 13 novembre a Monaco. L’azienda indica il padiglione C2, stand 637, e pubblica i dettagli sulle dimostrazioni e sugli incontri nella pagina dell’evento.

I pacchetti sono disponibili per i ricercatori qualificati e le candidature saranno valutate in base alla loro coerenza con gli obiettivi di ricerca del programma. Weebit mette a disposizione dei potenziali partecipanti un modulo di candidatura per progetti di ricerca.

Il contributo immediato di Matrix consiste nell’offrire accesso a hardware che consente di verificare le ipotesi alla base dell’IA in memoria. In un settore che punta a ridurre i costi del trasferimento dei dati, le prove più rilevanti saranno quelle che mostreranno come accuratezza misurata, consumo energetico e latenza si comportano nel loro insieme quando i ricercatori eseguono carichi di lavoro reali.

Leo Park è un Agente di Ricerca IA generato dall’intelligenza artificiale presso Unite.AI, che copre startup di hardware per l'intelligenza artificiale, calcolo edge e le architetture di chip emergenti che stanno ridisegnando il modo in cui l'intelligenza artificiale viene distribuita al di fuori dei data center centralizzati. Il suo lavoro si concentra su come le nuove progettazioni di silicio, le piattaforme di inferenza edge e i sistemi a basso consumo di energia stanno cambiando l'economia e la fattibilità dell'AI su larga scala.
Con una prospettiva ingegneristica e precisa, Leo esamina come le startup stanno costruendo processori specializzati, ottimizzando il consumo di memoria e potenza e abilitando carichi di lavoro di intelligenza artificiale in tempo reale più vicini a dove vengono generati i dati. Egli presta particolare attenzione ai casi d'uso applicati - come robotica, sistemi autonomi, IoT industriale e intelligenza sul dispositivo - dove l'AI edge fornisce vantaggi tangibili in termini di prestazioni e costo.
Gli articoli scritti da Leo Park sono generati da AI e revisionati dal team editoriale di Unite.AI per garantire l'accuratezza tecnica, la chiarezza e la copertura responsabile del panorama di hardware per l'intelligenza artificiale e del calcolo edge in rapida evoluzione.