MemryX kondigt MX3+ aan voor krachtigere energiezuinige edge-AI-inferentie

MemryX AI kondigde op 10 november 2026 de MX3+-inferentieversneller aan, met ontwerpdoelen van maximaal 10 keer meer piekrekenkracht voor AI en bijna 10 keer meer on-chipgeheugen dan MX3, binnen hetzelfde energiezuinige vermogensbereik.

Het fabless halfgeleiderbedrijf richt het apparaat op edge-hardware, industriële systemen en inferentie-infrastructuur met een hoge dichtheid waarop grotere of complexere modellen draaien. Op de productpagina van MX3+ staat bovendien dat het ontwerp dezelfde siliciumvoetafdruk als MX3 moet behouden en 10 keer meer capaciteit voor modelgewichten moet bieden. Daarmee worden niet alleen beperkingen op het gebied van ruimte op de printplaat en systeemkosten aangepakt, maar ook die op het gebied van energieverbruik.

De geplande workloads omvatten vision met een hogere resolutie, modellen op basis van transformers, kleine taalmodellen, vision-language-actionmodellen, hybride architecturen en geavanceerdere pipelines met meerdere modellen. Beoogde toepassingsgebieden lopen uiteen van industriële automatisering, robotica, intelligent transport, slimme infrastructuur, videobeheer en medische apparaten tot detailhandel en consumentenelektronica.

Ontwerpdoelen en de huidige MX3

Deze cijfers hebben betrekking op een toekomstig product. De huidige MX3 is beschikbaar voor bestellingen in grote aantallen. MemryX geeft daarvoor 6,25 TFLOPS aan AI-rekenkracht en 10,5 MB on-chipgeheugen voor modelgewichten per chip op, bij een stroomverbruik van 200 mW tot 3 W.

De vergelijking maakt duidelijk wat de belangrijkste uitdaging voor MX3+ is: de rekenkracht en modelopslag aanzienlijk vergroten zonder het energie- of ruimtebudget uit te breiden waarop zijn voorganger is ontworpen. De aangekondigde cijfers blijven ontwerpdoelen totdat MemryX de nieuwe hardware heeft geproduceerd en gevalideerd.

Opschalen met meerdere chips als één logisch apparaat

De geplande configuraties lopen uiteen van één MX3+ tot 16 chips die samen als één logisch apparaat werken. Volgens MemryX is de configuratie met 16 chips ontworpen voor meer dan 1 POPS aan piekrekenkracht voor AI — oftewel één petaoperatie per seconde — en 2,16 GB gedistribueerd on-chipgeheugen.

Dankzij de gedistribueerde dataflow kunnen de versnellers samenwerken zonder dat de hostprocessor de afzonderlijke chips hoeft aan te sturen. De MemryX Neural Compiler verdeelt neurale netwerken automatisch over de beschikbare versnellers, zodat ontwikkelaars de prestaties kunnen opschalen zonder hun modellen handmatig op te delen.

MX3+ combineert het extra on-chipgeheugen met gepijplijnde verwerking dicht bij het geheugen, waardoor modelgegevens vlak bij de berekeningen blijven en gegevensverplaatsing tot een minimum wordt beperkt. Het ontwerp is gericht op grotere modellen en invoer met een hogere resolutie, met behoud van voorspelbare inferentie met lage latentie bij batchgrootte één.

Het bestaande MX3-specificatieblad beschrijft dezelfde bovengrens voor opschaling: gegevensoverdracht naar de host via PCIe of USB, ondersteuning voor x86-, Arm- en RISC-V-processors en PCIe-koppeling van maximaal 16 chips via één hostinterface. MX3+ behoudt deze aanpak met meerdere chips en een vertrouwde ontwikkelworkflow, terwijl modellen en systemen complexer worden.

President en CEO Ross Jatou zei dat MemryX verwacht dat de gedeelde architectuur één traject van ontwikkeling tot productie mogelijk maakt voor embedded, industriële en systemen met een hoge dichtheid, en de totale eigendomskosten voor edge-toepassingen met een hoge dichtheid aanzienlijk verlaagt.

Vroege toegang vóór serieproductie

MemryX neemt aanvragen voor vroege toegang aan van geselecteerde strategische partners en zakelijke klanten die samen de hardware en software van vóór de productie willen valideren. Het bedrijf mikt op engineering samples eind 2027 en serieproductie medio 2028. Verdere specificaties, configuraties en informatie over de beschikbaarheid volgen naarmate de ontwikkeling vordert.

Volgens MemryX zullen nieuwe mogelijkheden van MX3+ ook beschikbaar komen in MX4, het toekomstige platform voor geavanceerde inferentie met multimodale modellen en grote taalmodellen.

De officiële productpagina van MX4 noemt geavanceerde vision en generatieve AI als beoogde workloads en mikt op beschikbaarheid in 2029.

De eerstvolgende stap is validatie, niet implementatie. Met systemen voor vroege toegang moet worden aangetoond dat de winst in rekenkracht en geheugen samengaat met de beperkingen van MX3 op het gebied van energieverbruik en fysieke omvang, terwijl opschaling onder regie van de compiler en voorspelbare inferentie met lage latentie behouden blijven.