Weebit Nano lancerer Matrix-ReRAM-forskningsprogram til AI-beregning i hukommelsen

Weebit Nano har lanceret forskningsprogrammet Weebit Matrix In-Memory Compute Research Program, som giver forskere fra universiteter og industrien adgang til ReRAM-hardware, så de kan afprøve en anden måde at udføre AI-beregninger på: at udføre dem dér, hvor dataene er lagret.

Programmet tilbyder forskningssæt baseret på et 32 × 32-krydsbjælkearray med understøttelse af blandt andet vektormatrixmultiplikation, foldning og spiking-neurale netværk. Det tager fat på et vigtigt hardwareproblem for AI ved kanten: Hvor meget energi og tid kan man spare ved at reducere gentagne overførsler mellem hukommelsen og en separat processor?

Der er tale om lanceringen af en forskningsplatform, ikke en færdig kommerciel AI-accelerator. Weebit oplyser, at der stadig er tekniske udfordringer, før en løsning til beregning i hukommelsen kan nå det kommercielle marked. Det umiddelbare mål er at gøre det muligt for forskere at gå fra modeller og simuleringer til forsøg med faktisk ReRAM-hardware.

Hvorfor udføre beregninger i hukommelsen?

Ved inferens med neurale netværk kombineres input gentagne gange med lagrede modelvægte. I en konventionel arkitektur kan flytning af disse værdier gennem hukommelseshierarkiet forbruge båndbredde og energi. Beregning i hukommelsen, eller IMC, har til formål at udføre en del af arbejdet direkte i selve hukommelsesarrayet.

Resistiv hukommelse med tilfældig adgang, eller ReRAM, lagrer information ved hjælp af programmerbar elektrisk modstand. Weebits oxidbaserede celler indeholder et koblingslag mellem elektroder; påførte spændinger ændrer den ledende bane og dermed cellens modstand. Den lagrede tilstand bevares uden konstant strømforsyning, hvilket gør ReRAM ikke-flygtig.

Inden for forskning i analog beregning kan disse elektriske egenskaber bruges til mere end blot at lagre bits. Et array kan indkode vægte i sine hukommelsesceller og bruge de elektriske reaktioner, der opstår, til at medvirke i beregninger. Dermed forbindes hukommelsens fysiske egenskaber med de multiplikations- og akkumulationsoperationer, der bruges i hele neurale netværk.

Målet er særligt relevant for enheder med stramme energi- og varmebudgetter, herunder sensorer, industrielt udstyr og andre systemer ved kanten. Det betyder ikke, at alle dele af en AI-model kører i arrayet, eller at dataoverførsler forsvinder fra det samlede system.

Hvad forskningssættene Matrix indeholder

Weebit tilbyder i første omgang to pakker:

• Matrix IMC-evalueringspakke: Et evalueringskort med direkte adgang for forskere, der ønsker tættere adgang til hardwaren.
• Matrix IMC-startpakke: Et komplet IMC-kort, et FPGA-undersystem og eksempelkode.

Begge pakker indeholder kapslede chipprøver, dokumentation og et IMC-kort med en sokkel. Krydsbjælkematricen på 32 × 32 giver en kontrolleret platform til undersøgelse af programmeringsmetoder, AI-algoritmer og neuromorfe arkitekturer, herunder spiking-neurale netværk.

FPGA-undersystemet i startpakken giver forskerne programmerbar digital hardware ved siden af hukommelsesarrayet. Det er nyttigt til at udforske hybridsystemer, hvor hukommelsesbaserede operationer arbejder sammen med konventionel databehandling i stedet for at forsøge at erstatte en hel databehandlingskæde.

Deltagerne deler resultater og feedback vedrørende ReRAM med Weebit. Virksomheden oplyser, at samarbejdet skal bidrage til at forbedre teknologien og kvalificere den bredere forskningsindsats. Meddelelsen oplyser ikke priser på forskningssættene, antal accepterede projekter eller en leveringsdato for en kommerciel accelerator.

80×-påstanden om strømforbrug i perspektiv

Et linket forskningsresumé giver vigtige detaljer om grundlaget for Weebits påstande om ydeevne. En unavngiven amerikansk virksomhed, der arbejder med strålingsbestandig AI-hardware, evaluerede en IMC-arkitektur til en billedklassificeringsopgave ved hjælp af et specialudviklet foldningsneuralt netværk.

Sammenligningen omfattede et NVIDIA GeForce RTX 4090-grafikkort og en Xilinx ZCU104 FPGA-platform. Resultaterne på systemniveau for IMC blev fremskrevet ved hjælp af applikationsmodellering baseret på målinger fra et Weebit-ReRAM-array.

For den pågældende arbejdsbelastning fremskrev analysen et strømforbrug, der var cirka 80 gange lavere end for GPU-implementeringen og 13 gange lavere end for FPGA-implementeringen. I lanceringsmeddelelsen beskrives der separat en latenstidsreduktion på næsten 100 gange. Det er fremskrivninger for en bestemt arbejdsbelastning, ikke uafhængigt validerede målinger, der viser, at en komplet kommerciel Matrix-accelerator overgår GPU’er på tværs af AI-opgaver.

Denne forskel er central for forskningsprogrammet. Et nyttigt resultat på arrayniveau skal kunne omsættes til et komplet system, der bevarer modellens nøjagtighed og samtidig tager højde for styring, datakonvertering, kommunikation og andre understøttende operationer. Disse omkringliggende funktioner forbruger også energi og øger latenstiden.

Hardwareforsøg kan afsløre det, simuleringer overser

Weebits administrerende direktør, Coby Hanoch, henviser til tidligere samarbejde med CEA-Leti, herunder en demonstration af et ReRAM-baseret spiking-neuralt netværk i 2019. Matrix viderefører denne forskningsretning ved at stille en defineret hardwareplatform til rådighed for flere kvalificerede forskere.

Den neuromorfe forsker Kevin D. Johnson, hvis arbejde omfatter heterogen og neuromorf databehandling, sagde, at han gerne vil bruge platformen til at validere modeller mod faktisk hardware og vurdere nøjagtighed, latenstid og strømforbrug på systemniveau. Hans interesse omfatter at kombinere ReRAM med andre databehandlingsteknologier.

Denne tilgang afspejler de praktiske muligheder: Man kan identificere, hvilke dele af en arbejdsbelastning der drager fordel af hukommelsesbaseret beregning, og derefter kombinere dem med anden hardware, hvor det er relevant. Forskningsspørgsmålet handler om mere end, hvorvidt en enkelt operation er effektiv; det omfatter også, om det resulterende system leverer nyttig og reproducerbar ydeevne i applikationer.

Weebit fremhæver også strålingsresistens som en grund til at undersøge ReRAM til brug i barske miljøer. Om teknologien egner sig til en bestemt anvendelse inden for rumfart, forsvar eller medicin, vil dog fortsat afhænge af kravene til og valideringen af det samlede design.

Demonstrationer og adgang til forskning

Weebit planlægger at demonstrere Matrix IMC på electronica 2026, der finder sted i München den 10.–13. november. Virksomheden oplyser, at den er at finde i hal C2, stand 637, og har offentliggjort oplysninger om demonstrationer og møder på sin eventside.

Pakkerne er tilgængelige for kvalificerede forskere, og ansøgninger vil blive vurderet ud fra, hvor godt de stemmer overens med programmets forskningsmæssige fokus. Weebit stiller et ansøgningsskema til forskningsprojekter til rådighed for potentielle deltagere.

Matrix bidrager først og fremmest ved at give adgang til hardware, der kan afprøve antagelserne bag AI-beregninger i hukommelsen. For et felt, der fokuserer på at reducere omkostningerne ved at flytte data, bliver den værdifulde dokumentation, hvor godt målt nøjagtighed, energiforbrug og latenstid hænger sammen, når forskere afprøver virkelige arbejdsbelastninger.