MemryX annoncerer MX3+ for at udvide edge-AI-inferens ved lavt strømforbrug

MemryX AI annoncerede MX3+-inferensacceleratoren den 10. november 2026 og fastsatte designmål om op til 10 gange større maksimal AI-beregningskapacitet og næsten 10 gange mere indbygget hukommelse end MX3, samtidig med at strømforbruget holdes inden for samme lave ramme.

Halvledervirksomheden, der ikke selv har fabrikker, sigter mod at bruge enheden i edge-hardware, industrielle systemer og inferensinfrastruktur med høj tæthed, hvor der køres større eller mere komplekse modeller. Produktsiden for MX3+ tilføjer, at designet skal bevare MX3’s siliciumareal og give plads til modelvægte med 10 gange større kapacitet. Det skal imødekomme begrænsninger i printkortplads og systemomkostninger såvel som strømforbrug.

De planlagte arbejdsbelastninger omfatter syn med højere opløsning, transformerbaserede modeller, små sprogmodeller, modeller for syn, sprog og handling, hybride arkitekturer og mere avancerede pipelines med flere modeller. De forventede anvendelsesområder spænder over industriel automatisering, robotteknologi, intelligent transport, smart infrastruktur, videostyring, sundhedsudstyr, detailhandel og forbrugerelektronik.

Designmål og den nuværende MX3

Disse tal beskriver et fremtidigt produkt. Den nuværende MX3 kan bestilles i større mængder, og MemryX angiver, at den har en AI-beregningskapacitet på 6,25 TFLOPS og 10,5 MB indbygget hukommelse til modelvægte pr. chip med et strømforbrug på mellem 200 mW og 3 W.

Sammenligningen tydeliggør den centrale begrænsning for MX3+: Beregningskapaciteten og lagerpladsen til modeller skal øges markant uden at udvide strømforbrugs- eller pladsrammen, som forgængeren blev designet inden for. De annoncerede tal er fortsat designmål, indtil MemryX producerer og validerer den nye hardware.

Skalering med flere chips som én logisk enhed

De planlagte konfigurationer skalerer fra én MX3+ til 16 chips, der fungerer som én samlet logisk enhed. MemryX oplyser, at konfigurationen med 16 chips er designet til at levere mere end 1 POPS, dvs. én petaoperation i sekundet, i maksimal AI-beregningskapacitet og 2,16 GB distribueret indbygget hukommelse.

Distribueret dataflow gør det muligt for acceleratorerne at arbejde sammen, uden at værtsprocessoren skal styre de enkelte chips. MemryX Neural Compiler fordeler automatisk neurale netværk på de tilgængelige acceleratorer, så udviklere kan skalere ydeevnen uden manuelt at skulle opdele deres modeller.

MX3+ kombinerer den ekstra indbyggede hukommelse med pipelinebaseret behandling tæt på hukommelsen, så modeldata holdes tæt på beregningerne, og databevægelser minimeres. Designet er rettet mod større modeller og input i højere opløsning, samtidig med at det skal sikre forudsigelig inferens med lav latenstid ved en batchstørrelse på én.

Det eksisterende datablad for MX3 beskriver den samme øvre grænse for skalering: aflastning til værten via PCIe eller USB, understøttelse af x86-, Arm- og RISC-V-processorer samt PCIe-kaskadekobling af op til 16 chips via ét enkelt værtsinterface. MX3+ viderefører denne tilgang med flere chips og en velkendt udviklingsproces, efterhånden som modeller og systemer bliver mere komplekse.

Præsident og CEO Ross Jatou sagde, at MemryX forventer, at den fælles arkitektur vil give én samlet vej fra udvikling til produktion på tværs af indlejrede, industrielle systemer og systemer med høj tæthed samt reducere de samlede ejeromkostninger markant for edge-installationer med høj tæthed.

Tidlig adgang inden serieproduktion

MemryX modtager anmodninger om tidlig adgang fra udvalgte strategiske partnere og erhvervskunder, som skal være med til at validere hardware og software før produktion. Virksomheden sigter mod at levere tekniske prøver sidst i 2027 og starte serieproduktionen midt i 2028. Yderligere specifikationer, konfigurationer og oplysninger om tilgængelighed vil blive offentliggjort, efterhånden som udviklingen skrider frem.

MemryX oplyser, at nye funktioner i MX3+ vil blive videreført til MX4, virksomhedens fremtidige platform til avanceret inferens med multimodale modeller og store sprogmodeller.

Den officielle produktside for MX4 føjer avanceret syn og generativ AI til de planlagte arbejdsbelastninger og angiver, at produktet forventes at blive tilgængeligt i 2029.

Det umiddelbare arbejde handler om validering, ikke udrulning. Systemer med tidlig adgang skal vise, at forbedringerne i beregningskapacitet og hukommelse kan forenes med MX3’s begrænsninger for strømforbrug og plads, samtidig med at kompilatorstyret skalering og forudsigelig inferens med lav latenstid bevares.