MemryX annuncia MX3+ per ampliare l’inferenza IA edge a basso consumo

MemryX AI ha annunciato l’acceleratore di inferenza MX3+ il 10 novembre 2026, fissando obiettivi di progettazione che prevedono fino a 10 volte più potenza di calcolo IA di picco e quasi 10 volte più memoria on-chip rispetto a MX3, mantenendo al contempo lo stesso intervallo operativo a basso consumo.

L’azienda di semiconduttori fabless punta a destinare il dispositivo all’hardware edge, ai sistemi industriali e alle infrastrutture di inferenza ad alta densità che eseguono modelli più grandi o complessi. La pagina del prodotto MX3+ aggiunge che il progetto intende mantenere l’ingombro in silicio di MX3 e offrire una capacità di archiviazione dei pesi del modello 10 volte superiore, affrontando i vincoli relativi allo spazio sulle schede e ai costi di sistema, oltre a quelli legati ai consumi.

Tra i carichi di lavoro previsti figurano la visione ad alta risoluzione, i modelli basati su transformer, i modelli linguistici di piccole dimensioni, i modelli visione-linguaggio-azione, le architetture ibride e pipeline multimodello più sofisticate. Le applicazioni previste spaziano dall’automazione industriale alla robotica, dai trasporti intelligenti alle infrastrutture smart, dalla gestione video ai dispositivi sanitari, fino al commercio al dettaglio e all’elettronica di consumo.

Obiettivi di progettazione e MX3 attuale

Questi dati si riferiscono a un prodotto futuro. L’attuale MX3 è disponibile per ordini in volumi e MemryX lo accredita di una potenza di calcolo IA pari a 6,25 TFLOPS e di 10,5 MB di memoria on-chip per i pesi per chip, con un consumo energetico compreso tra 200 mW e 3 W.

Il confronto mette in evidenza il vincolo fondamentale per MX3+: aumentare notevolmente la potenza di calcolo e lo spazio di archiviazione dei modelli senza ampliare il budget energetico o quello relativo alle dimensioni fisiche che ha determinato la progettazione del predecessore. I dati annunciati restano obiettivi di progettazione finché MemryX non avrà prodotto e convalidato il nuovo hardware.

Scalabilità multi-chip come unico dispositivo logico

Le configurazioni previste passeranno da un singolo MX3+ a 16 chip che operano come un unico dispositivo logico. MemryX afferma che la configurazione a 16 chip è progettata per offrire oltre 1 POPS, ovvero un petaoperazione al secondo, di potenza di calcolo IA di picco e 2,16 GB di memoria on-chip distribuita.

Il flusso di dati distribuito consente agli acceleratori di lavorare insieme senza che il processore host debba gestire i singoli chip. MemryX Neural Compiler mappa automaticamente le reti neurali sugli acceleratori disponibili, permettendo agli sviluppatori di aumentare le prestazioni senza suddividere manualmente i modelli.

MX3+ abbina la memoria on-chip aggiuntiva a un’elaborazione pipelined in prossimità della memoria, che mantiene i dati dei modelli vicini al calcolo e riduce al minimo gli spostamenti di dati. Il progetto è destinato a modelli più grandi e input a risoluzione più elevata, mantenendo un’inferenza prevedibile e a bassa latenza con una dimensione del batch pari a uno.

La scheda tecnica di MX3 documenta lo stesso limite di scalabilità: scarico delle operazioni sull’host tramite PCIe o USB, supporto per processori x86, Arm e RISC-V e collegamento in cascata di un massimo di 16 chip tramite PCIe, attraverso un’unica interfaccia host. MX3+ mantiene questo approccio multi-chip e un flusso di sviluppo familiare man mano che modelli e sistemi diventano più complessi.

Il presidente e amministratore delegato Ross Jatou ha dichiarato che MemryX prevede che l’architettura condivisa offrirà un unico percorso dallo sviluppo alla produzione per sistemi embedded, industriali e ad alta densità e ridurrà significativamente il costo totale di proprietà per le implementazioni edge ad alta densità.

Accesso anticipato prima della produzione in volumi

MemryX accetta richieste di accesso anticipato da partner strategici selezionati e clienti aziendali, per convalidare congiuntamente hardware e software in fase di pre-produzione. L’azienda prevede di fornire campioni di ingegneria verso la fine del 2027 e di avviare la produzione in volumi a metà del 2028; ulteriori specifiche, configurazioni e informazioni sulla disponibilità saranno comunicate man mano che lo sviluppo procede.

MemryX afferma che le nuove funzionalità di MX3+ saranno integrate in MX4, la sua futura piattaforma per l’inferenza avanzata multimodale e dei modelli linguistici di grandi dimensioni.

La pagina ufficiale del prodotto MX4 aggiunge la visione avanzata e l’IA generativa ai carichi di lavoro previsti e indica il 2029 come data di disponibilità prevista.

La priorità immediata è la convalida, non la distribuzione. I sistemi ad accesso anticipato dovranno dimostrare che i miglioramenti in termini di potenza di calcolo e memoria possono coesistere con i vincoli di consumo e ingombro di MX3, mantenendo al contempo la scalabilità gestita dal compilatore e un’inferenza prevedibile a bassa latenza.