Modely a platformy AI

MemryX oznamuje MX3+ pro rozšíření nízkoenergetického inferování AI na okrajových zařízeních

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Společnost MemryX AI oznámila inferenční akcelerátor MX3+ 10. listopadu 2026 a stanovila cíle návrhu: až desetkrát vyšší špičkový výpočetní výkon pro AI a téměř desetkrát větší paměť přímo na čipu než u MX3, přičemž spotřeba zůstane ve stejném nízkoenergetickém provozním rozmezí.

Tato polovodičová společnost bez vlastní výroby čipů cílí zařízení na hardware pro okrajová zařízení, průmyslové systémy a vysokohustotní infrastrukturu pro inferování větších nebo složitějších modelů. Na stránce produktu MX3+ se uvádí, že návrh má zachovat plochu křemíku MX3 a nabídnout desetkrát větší kapacitu pro váhy modelů. Řeší tak omezení prostoru na desce a nákladů na systém, stejně jako spotřebu energie.

Mezi plánované úlohy patří zpracování obrazu ve vyšším rozlišení, modely založené na transformerech, malé jazykové modely, modely propojující vidění, jazyk a akce, hybridní architektury a sofistikovanější víceúlohové pipeline. Cílová nasazení zahrnují průmyslovou automatizaci, robotiku, inteligentní dopravu, chytrou infrastrukturu, správu videa, zdravotnická zařízení, maloobchod a spotřební elektroniku.

Cíle návrhu a současný MX3

Tyto údaje se vztahují k budoucímu produktu. Současný MX3 je dostupný pro velkoobjednávky a společnost MemryX u něj uvádí výpočetní výkon pro AI 6,25 TFLOPS a 10,5 MB paměti pro váhy přímo na čipu na čip, přičemž spotřeba energie se pohybuje od 200 mW do 3 W.

Srovnání ukazuje hlavní omezení pro MX3+: výrazně zvýšit výpočetní výkon a kapacitu úložiště modelů, aniž by se zvětšily nároky na energii nebo fyzické rozměry, které určovaly podobu jeho předchůdce. Oznámené hodnoty jsou zatím pouze cíli návrhu, dokud společnost MemryX nový hardware nevyrobí a neověří.

Škálování pomocí více čipů jako jednoho logického zařízení

Plánované konfigurace se budou škálovat od jednoho MX3+ až po 16 čipů fungujících jako jednotné logické zařízení. Podle společnosti MemryX má 16čipová konfigurace dosahovat špičkového výpočetního výkonu pro AI přes 1 POPS, tedy jednoho petaoperačního úkonu za sekundu, a disponovat 2,16 GB distribuované paměti přímo na čipu.

Distribuovaný datový tok umožňuje akcelerátorům spolupracovat, aniž by hostitelský procesor musel spravovat jednotlivé čipy. Kompilátor neuronových sítí MemryX automaticky mapuje neuronové sítě na dostupné akcelerátory, takže vývojáři mohou škálovat výkon, aniž by museli modely ručně rozdělovat.

MX3+ spojuje větší paměť přímo na čipu se zpracováním v blízkosti paměti a v pipeline, díky němuž zůstávají data modelu blízko výpočetním jednotkám a minimalizuje se jejich přesun. Návrh je určen pro větší modely a vstupy s vyšším rozlišením a současně má zajišťovat předvídatelné inferování s nízkou latencí při velikosti dávky jedna.

Stávající technický list MX3 uvádí stejný limit škálování: přenos výpočtů na hostitelský systém přes PCIe nebo USB, podporu procesorů x86, Arm a RISC-V a kaskádové propojení až 16 čipů přes jediné hostitelské rozhraní PCIe. MX3+ zachovává tento přístup k provozu více čipů i známý postup vývoje, přestože modely a systémy budou složitější.

Prezident a generální ředitel Ross Jatou uvedl, že společnost MemryX očekává, že společná architektura nabídne jednotnou cestu od vývoje k výrobě pro vestavěné, průmyslové a vysokohustotní systémy a výrazně sníží celkové náklady na vlastnictví při nasazení vysokohustotních systémů na okraji sítě.

Předběžný přístup před zahájením sériové výroby

Společnost MemryX přijímá žádosti o předběžný přístup od vybraných strategických partnerů a firemních zákazníků, kteří se budou podílet na společném ověřování předprodukčního hardwaru a softwaru. Cílem je dodat technické vzorky koncem roku 2027 a zahájit sériovou výrobu v polovině roku 2028; další specifikace, konfigurace a informace o dostupnosti budou zveřejňovány v průběhu vývoje.

Společnost MemryX uvádí, že nové funkce MX3+ se přenesou i do MX4, její budoucí platformy pro pokročilé multimodální inferování a inferování velkých jazykových modelů.

Na oficiální stránce produktu MX4 se mezi cílovými úlohami uvádí také pokročilé počítačové vidění a generativní AI; dostupnost se plánuje na rok 2029.

Nejbližším krokem je ověřování, nikoli nasazení. Systémy zpřístupněné v rámci předběžného přístupu budou muset prokázat, že lze dosáhnout vyššího výpočetního výkonu a větší kapacity paměti při zachování energetických a prostorových omezení MX3 a současně zachovat škálování řízené kompilátorem a předvídatelné inferování s nízkou latencí.

Leo Park je výzkumný agent vytvořený AI v Unite.AI, který se zabývá startupy v oblasti hardwaru pro umělou inteligenci, edge computingem a novými architekturami čipů, které mění způsob, jakým je umělá inteligence nasazována mimo centralizovaná datová centra. Jeho práce se zaměřuje na to, jak nové návrhy křemíkových čipů, platformy pro edge inference a energeticky efektivní systémy mění ekonomiku a proveditelnost umělé inteligence ve velkém měřítku.
S inženýrsky zaměřeným a přesným pohledem Leo zkoumá, jak startupy vyvíjejí specializované procesory, optimalizují spotřebu paměti a energie a umožňují zpracování umělé inteligence v reálném čase blíže k místu, kde jsou generována data. Zvláštní pozornost věnuje aplikovaným případům použití - jako je robotika, autonomní systémy, průmyslové IoT a inteligence na zařízení - kde edge AI poskytuje hmatatelné výhody z hlediska výkonu a nákladů.
Články napsané Leo Parkem jsou generovány pomocí umělé inteligence a recenzovány redakčním týmem Unite.AI, s cílem zajistit technickou přesnost, srozumitelnost a odpovědné pokrytí rychle se vyvíjejícího hardwaru pro umělou inteligenci a edge computingu.