MemryX presenterar MX3+ för att utöka energieffektiv AI-inferens vid kanten

MemryX AI presenterade inferensacceleratorn MX3+ den 10 november 2026, med designmål på upp till 10 gånger högre maximal AI-beräkningskapacitet och nästan 10 gånger mer minne på chipet än MX3, samtidigt som effektförbrukningen hålls inom samma låga nivåer.

Det fablessbaserade halvledarföretaget riktar enheten mot edge-hårdvara, industriella system och infrastruktur för inferens med hög densitet, där större eller mer komplexa modeller körs. På produktsidan för MX3+ står det också att konstruktionen är avsedd att behålla MX3:s kiselyta och ge 10 gånger större kapacitet för modellvikter, vilket möter begränsningar i kortutrymme och systemkostnad såväl som effektförbrukning.

Planerade arbetsbelastningar omfattar synanalys med högre upplösning, transformerbaserade modeller, små språkmodeller, modeller för vision, språk och handling, hybridarkitekturer och mer avancerade pipelines med flera modeller. De avsedda användningsområdena omfattar industriell automation, robotteknik, intelligenta transportsystem, smart infrastruktur, videohantering, medicintekniska produkter, detaljhandel och konsumentelektronik.

Designmål och dagens MX3

Dessa siffror beskriver en framtida produkt. Den nuvarande MX3 finns tillgänglig för volymbeställningar, och MemryX anger att den har en AI-beräkningskapacitet på 6,25 TFLOPS och 10,5 MB minne för vikter på chipet per chip, med en effektförbrukning på mellan 200 mW och 3 W.

Jämförelsen visar den centrala begränsningen för MX3+: beräkningskapaciteten och modellagringen ska öka avsevärt utan att den effekt- eller utrymmesbudget som formade föregångaren utökas. De offentliggjorda siffrorna är fortfarande designmål tills MemryX tillverkar och validerar den nya hårdvaran.

Skalning med flera chip som en enda logisk enhet

Planerade konfigurationer ska skalas från ett MX3+-chip till 16 chip som arbetar tillsammans som en enhetlig logisk enhet. MemryX uppger att konfigurationen med 16 chip är utformad för att leverera mer än 1 POPS, det vill säga en petaoperation per sekund, i maximal AI-beräkningskapacitet och 2,16 GB distribuerat minne på chipet.

Med distribuerat dataflöde kan acceleratorerna arbeta tillsammans utan att värdprocessorn behöver hantera varje enskilt chip. MemryX Neural Compiler mappar automatiskt neurala nätverk över de tillgängliga acceleratorerna, så att utvecklare kan skala prestandan utan att manuellt dela upp modellerna.

MX3+ kombinerar det extra minnet på chipet med pipelinerad bearbetning nära minnet, vilket håller modelldata nära beräkningarna och minimerar dataförflyttningen. Konstruktionen är avsedd för större modeller och indata med högre upplösning, samtidigt som den ger förutsägbar inferens med låg latens vid batchstorlek ett.

Det befintliga databladet för MX3 beskriver samma skalningstak: avlastning till värden via PCIe eller USB, stöd för x86-, Arm- och RISC-V-processorer samt kaskadkoppling av upp till 16 chip via PCIe genom ett enda värdgränssnitt. MX3+ behåller detta tillvägagångssätt med flera chip och ett välbekant utvecklingsflöde när modeller och system blir mer komplexa.

Presidenten och vd:n Ross Jatou sade att MemryX förväntar sig att den gemensamma arkitekturen ska erbjuda en och samma väg från utveckling till produktion för inbyggda system, industriella system och system med hög densitet samt sänka den totala ägandekostnaden avsevärt för edge-installationer med hög densitet.

Tidig åtkomst före volymproduktion

MemryX tar emot förfrågningar om tidig åtkomst från utvalda strategiska partner och företagskunder, som tillsammans med företaget ska validera förproduktionshårdvara och programvara. Målet är att tillhandahålla tekniska provexemplar i slutet av 2027 och inleda volymproduktion i mitten av 2028. Ytterligare specifikationer, konfigurationer och information om tillgänglighet kommer i takt med att utvecklingen fortskrider.

MemryX uppger att de nya funktionerna i MX3+ kommer att föras vidare till MX4, företagets framtida plattform för avancerad multimodal inferens och inferens med stora språkmodeller.

På den officiella produktsidan för MX4 anges att avancerad synanalys och generativ AI ingår bland de avsedda arbetsbelastningarna och att produkten väntas bli tillgänglig 2029.

Det omedelbara arbetet handlar om validering, inte driftsättning. System med tidig åtkomst måste visa att förbättringarna i beräkningskapacitet och minne kan förenas med MX3:s begränsningar för effektförbrukning och utrymme, samtidigt som kompilatorstyrd skalning och förutsägbar inferens med låg latens bibehålls.