MemryX kunngjør MX3+ for å utvide energieffektiv AI-inferens i kanten

MemryX AI kunngjorde MX3+-inferensakseleratoren 10. november 2026 og satte som designmål opptil 10 ganger høyere toppkapasitet for AI-beregninger og nesten 10 ganger så mye minne på brikken som MX3, samtidig som den holder seg innenfor det samme lave effektområdet.

Halvlederselskapet, som ikke har egne fabrikker, retter enheten mot maskinvare for kanten, industrielle systemer og inferensinfrastruktur med høy tetthet som kjører større eller mer komplekse modeller. På produktsiden for MX3+ står det også at designet skal beholde MX3s silisiumfotavtrykk og gi plass til 10 ganger flere modellvekter, slik at det tar hensyn til begrensninger knyttet til kortplass og systemkostnader, i tillegg til strømforbruk.

Planlagte arbeidslaster omfatter syn med høyere oppløsning, transformatorbaserte modeller, små språkmodeller, syn-språk-handling-modeller, hybride arkitekturer og mer avanserte fler modell-pipelines. Planlagte bruksområder spenner over industriell automatisering, robotikk, intelligent transport, smart infrastruktur, videohåndtering, helseutstyr, detaljhandel og forbrukerelektronikk.

Designmål og dagens MX3

Disse tallene beskriver et framtidig produkt. Den nåværende MX3 kan bestilles i større volum, og MemryX oppgir at den har en AI-beregningskapasitet på 6.25 TFLOPS og 10.5 MB minne for modellvekter på brikken per brikke, med et strømforbruk på mellom 200 mW og 3 W.

Sammenligningen tydeliggjør den sentrale begrensningen for MX3+: beregningskapasiteten og modellagringen skal økes betydelig uten å utvide effekt- eller plassbudsjettet som dannet rammene for forgjengeren. De kunngjorte tallene er fortsatt designmål fram til MemryX har produsert og validert den nye maskinvaren.

Skalering med flere brikker som én logisk enhet

Planlagte konfigurasjoner skal kunne skaleres fra én MX3+ til 16 brikker som fungerer som én samlet logisk enhet. MemryX sier at 16-brikkerskonfigurasjonen er utformet for å levere mer enn 1 POPS, det vil si én petaoperasjon per sekund, i toppkapasitet for AI-beregninger og 2.16 GB distribuert minne på brikkene.

Distribuert dataflyt gjør det mulig for akseleratorene å samarbeide uten at vertsprosessoren må håndtere hver enkelt brikke. MemryX Neural Compiler tilordner automatisk nevrale nettverk til de tilgjengelige akseleratorene, slik at utviklere kan skalere ytelsen uten å måtte dele opp modellene manuelt.

MX3+ kombinerer det ekstra minnet på brikken med nærminnebasert, pipelinet prosessering som holder modelldata nær beregningene og minimerer dataflytting. Designet er rettet mot større modeller og inndata med høyere oppløsning, samtidig som det skal opprettholde forutsigbar inferens med lav forsinkelse ved batchstørrelse én.

Det eksisterende databladet for MX3 beskriver den samme øvre grensen for skalering: avlasting til vertssystemet via PCIe eller USB, støtte for x86-, Arm- og RISC-V-prosessorer og seriekobling av opptil 16 brikker via PCIe gjennom ett enkelt vertsgrensesnitt. MX3+ viderefører denne tilnærmingen med flere brikker og en velkjent utviklingsarbeidsflyt etter hvert som modellene og systemene blir mer komplekse.

President og administrerende direktør Ross Jatou sa at MemryX forventer at den felles arkitekturen skal gi én utviklings-til-produksjonsbane på tvers av innebygde systemer, industrisystemer og systemer med høy tetthet, og redusere de samlede eierkostnadene betydelig for kantløsninger med høy tetthet.

Tidlig tilgang før volumproduksjon

MemryX tar imot forespørsler om tidlig tilgang fra utvalgte strategiske partnere og bedriftskunder som ønsker å validere maskinvare og programvare før produksjon i samarbeid med selskapet. Målet er å levere ingeniørprøver sent i 2027 og starte volumproduksjon midt i 2028. Ytterligere spesifikasjoner, konfigurasjoner og informasjon om tilgjengelighet vil komme etter hvert som utviklingen går framover.

MemryX sier at nye funksjoner i MX3+ vil bli videreført til MX4, selskapets framtidige plattform for avansert multimodal inferens og inferens med store språkmodeller.

Den offisielle produktsiden for MX4 legger til avansert syn og generativ AI blant de planlagte arbeidslastene og oppgir at plattformen skal bli tilgjengelig i 2029.

Det umiddelbare arbeidet handler om validering, ikke utrulling. Systemer med tidlig tilgang må vise at gevinstene i beregningskapasitet og minne lar seg kombinere med MX3s begrensninger for strømforbruk og plass, samtidig som de bevarer kompilatorstyrt skalering og forutsigbar inferens med lav forsinkelse.