Weebit Nano spouští výzkumný program Matrix ReRAM pro výpočty AI přímo v paměti

Weebit Nano spustila výzkumný program Weebit Matrix pro výpočty přímo v paměti. Akademickým i průmyslovým výzkumníkům zpřístupňuje hardware ReRAM, aby mohli testovat jiný způsob provádění výpočtů AI: přímo tam, kde jsou data uložena.

Program nabízí výzkumné sady založené na křížové mřížce 32 × 32, která podporuje operace včetně násobení vektoru maticí, konvolucí a spikingových neuronových sítí. Zaměřuje se na důležitou hardwarovou otázku týkající se AI na okraji sítě: kolik energie a času lze ušetřit omezením opakovaných přenosů mezi pamětí a samostatným procesorem?

Jde o uvedení výzkumné platformy, nikoli o hotový komerční akcelerátor AI. Weebit uvádí, že než se řešení pro výpočty přímo v paměti dostane na komerční trh, je třeba vyřešit ještě technické problémy. Bezprostředním cílem je umožnit výzkumníkům přejít od modelů a simulací k experimentům se skutečným hardwarem ReRAM.

Proč počítat přímo v paměti?

Inference neuronových sítí opakovaně kombinuje vstupy s uloženými vahami modelu. V konvenční architektuře může přesouvání těchto hodnot mezi jednotlivými úrovněmi paměťové hierarchie spotřebovávat šířku pásma i energii. Výpočty přímo v paměti, označované zkratkou IMC, se snaží část této práce provádět přímo v paměťovém poli.

Rezistivní paměť s náhodným přístupem, zkráceně ReRAM, ukládá informace pomocí programovatelného elektrického odporu. Oxidové články Weebit obsahují mezi elektrodami spínací vrstvu; přivedené napětí mění vodivou cestu, a tím i odpor článku. Uložený stav přetrvává i bez nepřetržitého napájení, takže ReRAM je nevolatilní.

Při výzkumu analogových výpočtů mohou tyto elektrické vlastnosti sloužit k více než pouhému ukládání bitů. Pole může zakódovat váhy v paměťových článcích a využít vzniklé elektrické odezvy při výpočtech. Fyzikální vlastnosti paměti tak propojuje s operacemi násobení a akumulace, které se používají v neuronových sítích.

Tento přístup je obzvlášť relevantní pro zařízení s přísnými limity spotřeby energie a odvodu tepla, například senzory, průmyslová zařízení a další systémy na okraji sítě. Neznamená to, že každá část modelu AI běží přímo v poli ani že se v celém systému přestane přesouvat data.

Co obsahují výzkumné sady Matrix

Weebit zpočátku nabízí dvě sady:

• Sada Matrix IMC pro vyhodnocování: vyhodnocovací deska s přímým přístupem pro výzkumníky, kteří chtějí mít k hardwaru bližší přístup.
• Sada Matrix IMC pro rychlý start: kompletní deska IMC, subsystém FPGA a ukázkový kód.

Obě sady obsahují zapouzdřené vzorky čipů, dokumentaci a desku IMC se zásuvkou. Křížová mřížka 32 × 32 poskytuje kontrolované prostředí pro zkoumání programovacích metod, algoritmů AI a neuromorfních architektur včetně spikingových neuronových sítí.

Subsystém FPGA v sadě pro rychlý start poskytuje výzkumníkům vedle paměťového pole také programovatelný digitální hardware. To se hodí při zkoumání hybridních systémů, v nichž paměťové operace spolupracují s konvenčním zpracováním, místo aby se snažily nahradit celý výpočetní řetězec.

Účastníci budou s Weebit sdílet výsledky související s ReRAM a poskytovat zpětnou vazbu. Společnost uvádí, že cílem této spolupráce je zlepšit technologii a přispět k širšímu výzkumnému úsilí. Oznámení neuvádí cenu sad, počet přijatých projektů ani termín dodání komerčního akcelerátoru.

Jak chápat tvrzení o 80× nižší spotřebě energie

Související shrnutí výzkumu přináší důležité podrobnosti o tvrzeních Weebit týkajících se výkonu. Nejmenovaná americká společnost, která vyvíjí hardware AI odolný vůči radiaci, vyhodnocovala architekturu IMC pro úlohu klasifikace obrazu pomocí vlastní konvoluční neuronové sítě.

Srovnání využívalo GPU NVIDIA GeForce RTX 4090 a platformu FPGA Xilinx ZCU104. Výsledky systému IMC na úrovni celého systému byly odhadnuty pomocí modelování aplikace založeného na měřeních z pole ReRAM společnosti Weebit.

Pro danou úlohu analýza odhadla přibližně 80krát nižší spotřebu energie než u implementace na GPU a 13krát nižší spotřebu než u implementace na FPGA. Oznámení o uvedení samostatně hovoří o téměř stonásobném snížení latence. Jde o odhady pro konkrétní úlohu, nikoli o nezávisle ověřená měření, která by dokládala, že kompletní komerční akcelerátor Matrix překonává GPU napříč úlohami AI.

Toto rozlišení je pro výzkumný program zásadní. Přínosné výsledky na úrovni paměťového pole se musí promítnout do kompletního systému, který zachová přesnost modelu a zároveň zohlední řízení, převod dat, komunikaci i další podpůrné operace. I tyto doprovodné funkce spotřebovávají energii a zvyšují latenci.

Hardwarové experimenty mohou odhalit to, co simulacím uniká

Generální ředitel Weebit Coby Hanoch poukazuje na dřívější spolupráci s CEA-Leti, jejíž součástí byla v roce 2019 demonstrace spikingové neuronové sítě založené na ReRAM. Matrix na tento směr výzkumu navazuje tím, že zpřístupňuje vymezenou hardwarovou platformu dalším kvalifikovaným výzkumníkům.

Neuromorfní výzkumník Kevin D. Johnson, který se zabývá heterogenními a neuromorfními výpočty, uvedl, že chce platformu využít k ověřování modelů na skutečném hardwaru a k posouzení přesnosti na úrovni systému, latence a spotřeby energie. Zajímá se také o kombinování ReRAM s dalšími technologiemi zpracování.

Tento přístup odráží praktickou příležitost: určit, kterým částem pracovní zátěže prospívají výpočty přímo v paměti, a poté je podle potřeby kombinovat s dalším hardwarem. Výzkumná otázka je širší než jen to, zda je konkrétní operace efektivní; zahrnuje i to, zda výsledný systém poskytuje užitečný a opakovatelný výkon aplikací.

Weebit poukazuje také na odolnost vůči radiaci jako na důvod pro zkoumání ReRAM v náročných prostředích. Vhodnost pro konkrétní využití v letectví a kosmonautice, obranném průmyslu nebo zdravotnictví by i nadále závisela na požadavcích a ověření celého návrhu.

Ukázky a přístup k výzkumu

Weebit plánuje představit Matrix IMC na veletrhu electronica 2026, který se bude konat 10.–13. listopadu v Mnichově. Společnost uvádí halu C2 a stánek 637; podrobnosti o ukázkách a schůzkách jsou k dispozici na její stránce věnované akci.

Balíčky jsou dostupné kvalifikovaným výzkumníkům a žádosti budou posuzovány podle toho, nakolik odpovídají výzkumnému zaměření programu. Zájemci se mohou přihlásit prostřednictvím formuláře žádosti o výzkumný projekt, který poskytuje Weebit.

Bezprostředním přínosem Matrixu je přístup k hardwaru, na němž lze ověřovat předpoklady spojené s umělou inteligencí využívající výpočty přímo v paměti. V oboru, jehož cílem je snižovat náklady na přesun dat, bude cenným důkazem to, jak si při zpracování reálných úloh společně vedou naměřené hodnoty přesnosti, spotřeby energie a latence.