MemryX Mengumumkan MX3+ untuk Memperluas Inferensi AI Tepi Berdaya Rendah

MemryX AI mengumumkan akselerator inferensi MX3+ pada 10 November 2026, dengan target desain berupa daya komputasi AI puncak hingga 10 kali lebih besar dan memori on-chip hampir 10 kali lebih besar dibandingkan MX3, tetapi tetap berada dalam rentang operasi berdaya rendah yang sama.

Perusahaan semikonduktor nirpabrik ini menyasar perangkat tersebut untuk perangkat keras tepi, sistem industri, dan infrastruktur inferensi berdensitas tinggi yang menjalankan model lebih besar atau lebih kompleks. Halaman produk MX3+ menyebutkan bahwa desainnya ditujukan untuk mempertahankan jejak silikon MX3 dan menyediakan kapasitas bobot model 10 kali lebih besar, sehingga dapat mengatasi keterbatasan ruang papan dan biaya sistem, selain konsumsi daya.

Beban kerja yang direncanakan mencakup visi beresolusi lebih tinggi, model berbasis transformer, model bahasa kecil, model visi-bahasa-aksi, arsitektur hibrida, serta alur kerja beberapa model yang lebih canggih. Penerapan yang ditargetkan mencakup otomasi industri, robotika, transportasi cerdas, infrastruktur pintar, manajemen video, perangkat layanan kesehatan, ritel, dan elektronik konsumen.

Target Desain dan MX3 Saat Ini

Angka-angka tersebut menggambarkan produk masa depan. MX3 saat ini tersedia untuk pesanan dalam volume besar, dan MemryX mencantumkan kemampuan komputasi AI sebesar 6.25 TFLOPS serta memori bobot on-chip sebesar 10.5 MB per chip, dengan konsumsi daya berkisar antara 200 mW hingga 3 W.

Perbandingan ini menunjukkan batasan utama MX3+: meningkatkan kemampuan komputasi dan penyimpanan model secara signifikan tanpa menambah anggaran daya atau ukuran fisik yang menjadi batas bagi pendahulunya. Angka-angka yang diumumkan masih merupakan target desain sampai MemryX memproduksi dan memvalidasi perangkat keras baru tersebut.

Skala Multi-Chip sebagai Satu Perangkat Logis

Konfigurasi yang direncanakan akan dapat ditingkatkan dari satu MX3+ hingga 16 chip yang beroperasi sebagai satu perangkat logis terpadu. MemryX menyatakan bahwa konfigurasi 16 chip dirancang untuk menghasilkan daya komputasi AI puncak lebih dari 1 POPS, yang berarti satu petaoperasi per detik, serta memori on-chip terdistribusi sebesar 2.16 GB.

Aliran data terdistribusi memungkinkan akselerator bekerja bersama tanpa mengharuskan prosesor host mengelola setiap chip secara terpisah. MemryX Neural Compiler secara otomatis memetakan jaringan saraf ke seluruh akselerator yang tersedia, sehingga pengembang dapat meningkatkan kinerja tanpa harus membagi model mereka secara manual.

MX3+ memadukan memori on-chip tambahan dengan pemrosesan berpipelina yang dilakukan dekat dengan memori, sehingga data model tetap dekat dengan komputasi dan perpindahan data dapat diminimalkan. Desain ini ditujukan untuk model yang lebih besar dan masukan beresolusi lebih tinggi, sekaligus mempertahankan inferensi dengan latensi rendah yang konsisten pada ukuran batch satu.

Lembar spesifikasi MX3 yang ada menjelaskan batas skala yang sama: pemindahan beban ke host melalui PCIe atau USB, dukungan untuk prosesor x86, Arm, dan RISC-V, serta penghubungan berantai hingga 16 chip melalui PCIe dengan satu antarmuka host. MX3+ mempertahankan pendekatan multi-chip tersebut dan alur kerja pengembangan yang sudah dikenal seiring meningkatnya kompleksitas model dan sistem.

Presiden sekaligus CEO Ross Jatou mengatakan bahwa MemryX berharap arsitektur bersama ini dapat menyediakan satu jalur dari pengembangan hingga produksi untuk sistem tertanam, industri, dan berdensitas tinggi, serta secara signifikan menurunkan total biaya kepemilikan untuk penerapan tepi berdensitas tinggi.

Akses Awal Sebelum Produksi Massal

MemryX menerima permintaan akses awal dari mitra strategis terpilih dan pelanggan perusahaan untuk bersama-sama memvalidasi perangkat keras dan perangkat lunak praproduksi. Perusahaan menargetkan sampel rekayasa pada akhir 2027 dan produksi massal pada pertengahan 2028. Informasi lebih lanjut tentang spesifikasi, konfigurasi, dan ketersediaan akan diumumkan seiring berlanjutnya pengembangan.

MemryX menyatakan bahwa kemampuan baru pada MX3+ akan diteruskan ke MX4, platform masa depannya untuk inferensi multimodal canggih dan model bahasa besar.

Halaman produk MX4 resmi menambahkan visi canggih dan AI generatif ke dalam beban kerja yang ditargetkan, serta menargetkan ketersediaan pada 2029.

Fokus langsungnya adalah validasi, bukan penerapan. Sistem akses awal perlu membuktikan bahwa peningkatan kemampuan komputasi dan memori dapat berjalan berdampingan dengan batasan daya dan ukuran MX3, sembari mempertahankan penskalaan yang dipandu kompilator dan inferensi berlatensi rendah yang konsisten.