MemryX анонсує MX3+ для розширення можливостей периферійного інференсу ШІ за низького енергоспоживання

MemryX AI анонсувала прискорювач інференсу MX3+ 10 листопада 2026 року, визначивши цільові показники розробки: до 10 разів більшу пікову обчислювальну продуктивність ШІ та майже в 10 разів більший обсяг пам’яті на кристалі порівняно з MX3 — і все це в межах такого самого діапазону низького енергоспоживання.

Компанія-розробник напівпровідників, яка не має власного виробництва, орієнтує цей пристрій на периферійне обладнання, промислові системи та інфраструктуру інференсу високої щільності, призначену для роботи з більшими або складнішими моделями. На сторінці продукту MX3+ також зазначено, що конструкція має зберегти площу кристала MX3 і забезпечити в 10 разів більшу місткість для ваг моделей, усуваючи обмеження щодо площі плати й вартості системи, а також енергоспоживання.

Серед запланованих робочих навантажень — обробка зображень із вищою роздільною здатністю, моделі на основі трансформерів, малі мовні моделі, моделі «зір — мова — дія», гібридні архітектури та складніші конвеєри з кількома моделями. Заплановані сфери застосування охоплюють промислову автоматизацію, робототехніку, інтелектуальні транспортні системи, розумну інфраструктуру, керування відео, медичні пристрої, роздрібну торгівлю та побутову електроніку.

Цільові показники розробки та поточна модель MX3

Ці показники стосуються майбутнього продукту. Поточну модель MX3 уже можна замовити у великих обсягах; за даними MemryX, вона забезпечує обчислювальну продуктивність ШІ на рівні 6,25 TFLOPS і має 10,5 МБ пам’яті для ваг моделей на кристалі на кожен чип, а її енергоспоживання становить від 200 мВт до 3 Вт.

Порівняння окреслює головне обмеження для MX3+: значно збільшити обчислювальну потужність і обсяг сховища для моделей, не виходячи за межі енергетичного й фізичного бюджету, визначеного попередньою моделлю. Оголошені показники залишатимуться цільовими до того часу, поки MemryX не виготовить і не перевірить нове обладнання.

Масштабування на кілька чипів як єдиного логічного пристрою

Заплановані конфігурації масштабуватимуться від одного MX3+ до 16 чипів, що працюватимуть як єдиний логічний пристрій. За словами MemryX, конфігурація з 16 чипів має забезпечити пікову обчислювальну продуктивність ШІ понад 1 POPS, тобто одну петаоперацію за секунду, і 2,16 ГБ розподіленої пам’яті на кристалі.

Розподілений потік даних дає змогу прискорювачам працювати разом, не покладаючи на головний процесор керування окремими чипами. Нейронний компілятор MemryX автоматично розподіляє нейронні мережі між доступними прискорювачами, даючи розробникам змогу масштабувати продуктивність без ручного розподілу моделей.

У MX3+ збільшений обсяг пам’яті на кристалі поєднано з конвеєрною обробкою поблизу пам’яті, завдяки якій дані моделей залишаються близько до обчислювальних блоків, що мінімізує їх переміщення. Конструкцію розробляють для роботи з більшими моделями та вхідними даними вищої роздільної здатності, водночас забезпечуючи передбачуваний інференс із низькою затримкою за розміру пакета 1.

В оприлюдненій технічній документації MX3 зазначено ті самі граничні можливості масштабування: передавання обчислень на хост через PCIe або USB, підтримку процесорів x86, Arm і RISC-V, а також каскадне підключення через PCIe до 16 чипів через один інтерфейс хоста. MX3+ зберігає цей підхід до роботи з кількома чипами та звичний процес розробки, навіть коли моделі й системи стають складнішими.

Президент і генеральний директор Росс Джату зазначив, що MemryX очікує від спільної архітектури єдиного шляху від розробки до виробництва для вбудованих, промислових систем і систем високої щільності, а також значного зниження сукупної вартості володіння рішеннями для периферійних систем високої щільності.

Ранній доступ до початку серійного виробництва

MemryX приймає запити на ранній доступ від окремих стратегічних партнерів і корпоративних клієнтів, щоб спільно перевірити передсерійне обладнання та програмне забезпечення. Компанія планує надати інженерні зразки наприкінці 2027 року, а розпочати серійне виробництво — у середині 2028 року. Додаткові технічні характеристики, конфігурації та інформацію про доступність оприлюднюватимуть у міру просування розробки.

За словами MemryX, нові можливості MX3+ будуть реалізовані і в MX4 — майбутній платформі компанії для інференсу в передових мультимодальних моделях і великих мовних моделях.

На офіційній сторінці продукту MX4 також зазначено, що цільові робочі навантаження охоплюють передові системи комп’ютерного зору та генеративний ШІ, а поява платформи очікується у 2029 році.

Наразі йдеться про перевірку, а не про впровадження. Системи раннього доступу мають підтвердити, що приріст обчислювальної потужності й обсягу пам’яті сумісний з обмеженнями MX3 щодо енергоспоживання та фізичних розмірів, а також що зберігаються масштабування під керуванням компілятора й передбачуваний інференс із низькою затримкою.