Weebit Nano start onderzoeksprogramma met Matrix ReRAM voor AI-berekeningen in het geheugen

Weebit Nano heeft het Weebit Matrix In-Memory Compute Research Program gelanceerd. Daarmee krijgen onderzoekers uit de academische wereld en het bedrijfsleven toegang tot ReRAM-hardware om een andere manier van AI-berekeningen uitvoeren te testen: berekeningen uitvoeren op de plek waar de gegevens zijn opgeslagen.

Het programma biedt onderzoekskits op basis van een crossbar-array van 32 × 32, met ondersteuning voor onder meer vector-matrixvermenigvuldiging, convolutie en spiking-neurale netwerken. Het richt zich op een belangrijke hardwarevraag voor edge-AI: hoeveel energie en tijd kan worden bespaard door herhaald gegevensverkeer tussen het geheugen en een afzonderlijke processor te beperken?

Dit is de lancering van een onderzoeksplatform, geen voltooide commerciële AI-versneller. Volgens Weebit moeten er nog technische uitdagingen worden overwonnen voordat een oplossing voor rekenen in het geheugen de commerciële markt bereikt. Het directe doel is onderzoekers de mogelijkheid te geven om van modellen en simulaties over te stappen op experimenten met echte ReRAM-hardware.

Waarom berekeningen in het geheugen uitvoeren?

Bij inferentie met neurale netwerken worden invoergegevens herhaaldelijk gecombineerd met opgeslagen modelgewichten. In een conventionele architectuur kan het verplaatsen van die waarden door de geheugenhiërarchie bandbreedte en energie kosten. Rekenen in het geheugen, of IMC, is erop gericht een deel van dat werk in de geheugenarray zelf uit te voeren.

Resistief willekeurig toegankelijk geheugen, of ReRAM, slaat informatie op met behulp van programmeerbare elektrische weerstand. De oxidegebaseerde cellen van Weebit bevatten een schakelende laag tussen elektroden; aangelegde spanningen veranderen het geleidende pad en daarmee de weerstand van de cel. De opgeslagen toestand blijft behouden zonder voortdurende stroomtoevoer, waardoor ReRAM niet-vluchtig is.

Bij onderzoek naar analoog rekenen kunnen die elektrische eigenschappen meer doen dan alleen bits opslaan. Een array kan gewichten coderen in zijn geheugencellen en de daaruit voortvloeiende elektrische reacties gebruiken om berekeningen uit te voeren. Zo wordt het fysieke gedrag van het geheugen gekoppeld aan de vermenigvuldigings- en accumulatiebewerkingen die in neurale netwerken veelvuldig worden toegepast.

Dit doel is vooral relevant voor apparaten met strenge beperkingen op het gebied van stroomverbruik en warmteontwikkeling, waaronder sensoren, industriële apparatuur en andere edge-systemen. Dat betekent niet dat elk onderdeel van een AI-model in de array wordt uitgevoerd of dat gegevensverkeer in het hele systeem verdwijnt.

Wat de Matrix-onderzoekskits bevatten

Weebit biedt in eerste instantie twee pakketten aan:

• Matrix IMC-evaluatiepakket: een evaluatiebord met rechtstreekse toegang voor onderzoekers die de hardware van dichtbij willen onderzoeken.
• Matrix IMC-startpakket: een compleet IMC-bord, een FPGA-subsysteem en voorbeeldcode.

Beide pakketten bevatten verpakte chipmonsters, documentatie en een IMC-bord met een socket. De crossbar van 32 × 32 biedt een gecontroleerd platform om programmeermethoden, AI-algoritmen en neuromorfe architecturen te onderzoeken, waaronder spiking-neurale netwerken.

Het FPGA-subsysteem in het startpakket biedt onderzoekers naast de geheugenarray programmeerbare digitale hardware. Dat is nuttig voor het verkennen van hybride systemen, waarin geheugenbewerkingen samenwerken met conventionele verwerking, in plaats van te proberen een volledige rekentakenketen te vervangen.

Deelnemers delen resultaten en feedback met betrekking tot ReRAM met Weebit. Volgens het bedrijf is die samenwerking bedoeld om de technologie te verbeteren en het bredere onderzoek te ondersteunen. In de aankondiging worden de prijzen van de kits, het aantal geaccepteerde projecten en de leverdatum van een commerciële versneller niet bekendgemaakt.

De claim van 80× lager energieverbruik in perspectief

Een gekoppelde samenvatting van het onderzoek geeft belangrijke details achter de prestatieclaims van Weebit. Een niet bij naam genoemde Amerikaanse onderneming die werkt aan stralingsbestendige AI-hardware, heeft een IMC-architectuur geëvalueerd voor een beeldclassificatietaak met een aangepaste convolutionele neurale netwerkarchitectuur.

Bij de vergelijking werden een NVIDIA GeForce RTX 4090-GPU en een Xilinx ZCU104-FPGA-platform gebruikt. De resultaten op systeemniveau voor IMC zijn geprojecteerd met behulp van toepassingsmodellering op basis van metingen aan een ReRAM-array van Weebit.

Voor die taak voorspelde de analyse een ongeveer 80 keer lager energieverbruik dan bij de GPU-implementatie en een 13 keer lager energieverbruik dan bij de FPGA-implementatie. In het persbericht over de lancering wordt daarnaast een bijna 100 keer lagere latentie genoemd. Dit zijn projecties voor specifieke taken, geen onafhankelijk gevalideerde metingen waaruit blijkt dat een complete commerciële Matrix-versneller beter presteert dan GPU’s bij AI-taken.

Dat onderscheid staat centraal in het onderzoeksprogramma. Een bruikbaar resultaat op arrayniveau moet zich vertalen naar een compleet systeem dat de modelnauwkeurigheid behoudt en tegelijk rekening houdt met besturing, gegevensconversie, communicatie en andere ondersteunende bewerkingen. Ook die bijkomende functies verbruiken energie en verhogen de latentie.

Hardware-experimenten kunnen laten zien wat simulaties missen

Weebit-CEO Coby Hanoch wijst op eerdere samenwerkingen met CEA-Leti, waaronder een demonstratie van een op ReRAM gebaseerd spiking-neuraal netwerk in 2019. Matrix bouwt voort op die onderzoeksrichting door een afgebakend hardwareplatform beschikbaar te stellen aan meer gekwalificeerde onderzoekers.

Neuromorfisch onderzoeker Kevin D. Johnson, wiens werk onder meer heterogene en neuromorfische computing omvat, zei dat hij het platform wil gebruiken om modellen te toetsen aan echte hardware en de nauwkeurigheid, latentie en het stroomverbruik op systeemniveau te beoordelen. Hij is geïnteresseerd in het combineren van ReRAM met andere verwerkingstechnologieën.

Deze aanpak weerspiegelt de praktische kans: vaststellen welke onderdelen van een werklast baat hebben bij berekeningen in het geheugen en die vervolgens waar nodig combineren met andere hardware. De onderzoeksvraag is breder dan de efficiëntie van één afzonderlijke bewerking; het gaat er ook om of het resulterende systeem bruikbare en reproduceerbare prestaties voor toepassingen levert.

Weebit wijst ook op stralingstolerantie als reden om ReRAM voor ruwe omgevingen te onderzoeken. Of de technologie geschikt is voor een specifieke toepassing in de lucht- en ruimtevaart, defensie of geneeskunde, hangt nog steeds af van de vereisten en de validatie van het volledige ontwerp.

Demonstraties en toegang voor onderzoekers

Weebit is van plan Matrix IMC te demonstreren op electronica 2026, die van 10 tot en met 13 november in München plaatsvindt. Het bedrijf vermeldt hal C2, stand 637; op de evenementpagina vindt u informatie over de demonstratie en afspraken.

De pakketten zijn beschikbaar voor gekwalificeerde onderzoekers en aanvragen worden beoordeeld op hun aansluiting bij de onderzoeksdoelstellingen van het programma. Weebit stelt voor geïnteresseerde deelnemers een aanvraagformulier voor onderzoeksprojecten beschikbaar.

De directe bijdrage van Matrix is dat het toegang biedt tot hardware waarmee de aannames achter AI in het geheugen kunnen worden getest. In een vakgebied dat draait om het verlagen van de kosten voor gegevensverplaatsing, is het waardevol om te zien hoe nauwkeurigheid, energieverbruik en latentie zich samen houden wanneer onderzoekers echte werklasten uitvoeren.