Weebit Nano lanserar forskningsprogrammet Matrix ReRAM för AI-beräkningar i minnet

Weebit Nano har lanserat forskningsprogrammet Weebit Matrix för beräkningar i minnet, som ger forskare inom akademin och industrin tillgång till ReRAM-hårdvara för att testa ett annat sätt att utföra AI-beräkningar: direkt där data lagras.

Programmet tillhandahåller forskningskit baserade på en korskopplingsmatris med 32 × 32 celler, med stöd för bland annat vektor-matrismultiplikation, faltning och spikande neurala nätverk. Det riktar in sig på en viktig hårdvarufråga för kant-AI: hur mycket energi och tid kan sparas genom att minska upprepade överföringar mellan minnet och en separat processor?

Det här är en lansering av en forskningsplattform, inte av en färdig kommersiell AI-accelerator. Weebit uppger att det återstår tekniska utmaningar innan en lösning för beräkningar i minnet når den kommersiella marknaden. Det omedelbara målet är att låta forskare gå från modeller och simuleringar till experiment med faktisk ReRAM-hårdvara.

Varför utföra beräkningar i minnet?

Inferens i neurala nätverk kombinerar upprepade gånger indata med lagrade modellvikter. I en konventionell arkitektur kan det kräva bandbredd och energi att flytta dessa värden genom minneshierarkin. Beräkningar i minnet, eller IMC, syftar till att utföra en del av arbetet direkt i själva minnesmatrisen.

Resistivt direktminne, eller ReRAM, lagrar information med hjälp av programmerbart elektriskt motstånd. Weebits oxidbaserade celler har ett omkopplingslager mellan elektroderna; pålagda spänningar förändrar den ledande banan och därmed cellens motstånd. Det lagrade tillståndet består utan kontinuerlig strömförsörjning, vilket gör ReRAM icke-flyktigt.

Inom forskning om analog beräkning kan dessa elektriska egenskaper användas till mer än att lagra bitar. En matris kan koda vikter i sina minnesceller och använda de elektriska svar som uppstår för att medverka i beräkningar. På så sätt kopplas minnets fysiska egenskaper till de multiplikations- och ackumuleringsoperationer som används i neurala nätverk.

Målet är särskilt relevant för enheter med strama energi- och värmebudgetar, däribland sensorer, industriutrustning och andra kantsystem. Det innebär inte att varje del av en AI-modell körs i matrisen eller att dataöverföringar försvinner ur det kompletta systemet.

Det här ingår i Matrix-forskningskiten

Weebit erbjuder inledningsvis två paket:

• Utvärderingspaketet Matrix IMC: ett utvärderingskort med direkt åtkomst för forskare som vill ha närmare tillgång till hårdvaran.
• Snabbstartspaketet Matrix IMC: ett komplett IMC-kort, ett FPGA-delsystem och exempelkod.

Båda paketen innehåller kapslade chipprover, dokumentation och ett IMC-kort med en sockel. Korskopplingsmatrisen med 32 × 32 celler ger en kontrollerad plattform för att undersöka programmeringsmetoder, AI-algoritmer och neuromorfa arkitekturer, inklusive spikande neurala nätverk.

FPGA-delsystemet i snabbstartspaketet ger forskare programmerbar digital hårdvara vid sidan av minnesmatrisen. Det är användbart för att utforska hybridsystem där minnesbaserade operationer samverkar med konventionell bearbetning, i stället för att försöka ersätta en hel beräkningskedja.

Deltagarna kommer att dela resultat och återkoppling med koppling till ReRAM med Weebit. Företaget uppger att samarbetet ska bidra till att förbättra tekniken och ge underlag till det bredare forskningsarbetet. I tillkännagivandet anges varken priser på kiten, antal projekt som kommer att antas eller något leveransdatum för en kommersiell accelerator.

Att sätta påståendet om 80× lägre energiförbrukning i sitt sammanhang

En länkad forskningssammanfattning ger viktiga detaljer bakom Weebits prestandapåståenden. Ett icke namngivet amerikanskt företag som utvecklar strålningstålig AI-hårdvara utvärderade en IMC-arkitektur för en bildklassificeringsuppgift med ett anpassat faltande neuralt nätverk.

Jämförelsen gjordes med ett NVIDIA GeForce RTX 4090-grafikkort och en Xilinx ZCU104 FPGA-plattform. Resultaten på systemnivå för IMC beräknades genom applikationsmodellering baserad på mätningar från en Weebit ReRAM-matris.

För den uppgiften beräknade analysen att energiförbrukningen skulle vara ungefär 80 gånger lägre än för GPU-lösningen och 13 gånger lägre än för FPGA-lösningen. I lanseringsmeddelandet anges separat en latensminskning på nästan 100 gånger. Det här är projektioner för en specifik arbetsbelastning, inte oberoende verifierade mätningar som visar att en komplett kommersiell Matrix-accelerator presterar bättre än grafikprocessorer i olika AI-uppgifter.

Den skillnaden är central för forskningsprogrammet. Ett användbart resultat på matrisnivå måste kunna omsättas i ett komplett system som bibehåller modellens noggrannhet och samtidigt tar hänsyn till styrning, datakonvertering, kommunikation och andra stödfunktioner. Även dessa kringfunktioner förbrukar energi och ökar latensen.

Hårdvaruexperiment kan visa sådant som simuleringar missar

Weebits vd Coby Hanoch hänvisar till företagets tidigare samarbete med CEA-Leti, däribland en demonstration av ett spikande neuralt nätverk baserat på ReRAM 2019. Matrix bygger vidare på den forskningsinriktningen genom att göra en definierad hårdvaruplattform tillgänglig för fler kvalificerade forskare.

Den neuromorfiska forskaren Kevin D. Johnson, vars arbete omfattar heterogen och neuromorfisk databehandling, sade att han vill använda plattformen för att validera modeller mot verklig hårdvara och bedöma noggrannhet, latens och effektförbrukning på systemnivå. Han är intresserad av att kombinera ReRAM med annan processteknik.

Det här tillvägagångssättet speglar den praktiska möjligheten: att identifiera vilka delar av en arbetsbelastning som gynnas av minnesbaserad beräkning och sedan kombinera dem med annan hårdvara där det är lämpligt. Forskningsfrågan handlar om mer än huruvida en enskild operation är effektiv; den omfattar också om det resulterande systemet ger användbar och reproducerbar prestanda i tillämpningar.

Weebit lyfter också fram strålningstålighet som ett skäl att undersöka ReRAM för krävande miljöer. Lämpligheten för en viss tillämpning inom flyg- och rymdfart, försvar eller medicin beror fortfarande på kraven och valideringen av den fullständiga konstruktionen.

Demonstrationer och tillgång till forskningsplattformen

Weebit planerar att demonstrera Matrix IMC på electronica 2026, som äger rum den 10–13 november i München. Företaget anger hall C2, monter 637, och har information om demonstrationer och möten på sin evenemangssida.

Paketen är tillgängliga för kvalificerade forskare, och ansökningarna kommer att bedömas utifrån hur väl de stämmer överens med programmets forskningsinriktning. Weebit tillhandahåller ett ansökningsformulär för forskningsprojekt för den som vill delta.

Matrix bidrar i första hand med tillgång till hårdvara som kan pröva antagandena bakom AI-beräkningar i minnet. För ett område som syftar till att minska kostnaden för dataförflyttning blir den värdefulla evidensen hur uppmätt noggrannhet, energiförbrukning och latens står sig tillsammans när forskare kör verkliga arbetsbelastningar.