Weebit Nano lanserer Matrix ReRAM-forskningsprogram for KI-beregninger i minnet

Weebit Nano har lansert forskningsprogrammet Weebit Matrix In-Memory Compute, som gir forskere fra akademia og industrien tilgang til ReRAM-maskinvare for å teste en annen måte å utføre KI-beregninger på: å utføre dem der dataene lagres.

Programmet tilbyr forskningssett basert på en krysskoblingsmatrise på 32 × 32, med støtte for blant annet vektor-matrise-multiplikasjon, konvolusjon og spikende nevrale nettverk. Det retter seg mot et viktig maskinvareproblem for KI på kanten: Hvor mye energi og tid kan spares ved å redusere gjentatte overføringer mellom minnet og en separat prosessor?

Dette er en lansering av en forskningsplattform, ikke en ferdig kommersiell KI-akselerator. Weebit sier at det gjenstår tekniske utfordringer før en løsning for databehandling i minnet når det kommersielle markedet. Det umiddelbare målet er å la forskere gå fra modeller og simuleringer til eksperimenter med faktisk ReRAM-maskinvare.

Hvorfor utføre beregninger i minnet?

Inferens i nevrale nettverk innebærer gjentatte ganger å kombinere inndata med lagrede modellvekter. I en konvensjonell arkitektur kan flytting av disse verdiene gjennom minnehierarkiet kreve båndbredde og energi. Databehandling i minnet, eller IMC, tar sikte på å utføre noe av dette arbeidet direkte i selve minnearrayet.

Resistivt tilfeldig aksessminne, eller ReRAM, lagrer informasjon ved hjelp av programmerbar elektrisk motstand. Weebits oksidbaserte celler har et svitsjelag mellom elektroder; påført spenning endrer den ledende banen og dermed cellens motstand. Den lagrede tilstanden opprettholdes uten kontinuerlig strømforsyning, noe som gjør ReRAM ikke-flyktig.

I forskning på analog databehandling kan disse elektriske egenskapene brukes til mer enn å lagre biter. En array kan kode vekter i minnecellene og bruke de elektriske responsene som oppstår, til å delta i beregninger. Dermed knyttes minnets fysiske egenskaper til multiplikasjons- og akkumuleringsoperasjonene som brukes gjennomgående i nevrale nettverk.

Målet er særlig relevant for enheter med stramme energi- og varmebudsjetter, blant annet sensorer, industrielt utstyr og andre systemer på kanten. Det betyr ikke at alle deler av en KI-modell kjøres i arrayet, eller at dataflytting forsvinner fra det samlede systemet.

Dette inneholder Matrix-forskningssettene

Weebit tilbyr i første omgang to pakker:

• Matrix IMC-evalueringspakke: et evalueringskort med direkte tilgang for forskere som ønsker nærmere tilgang til maskinvaren.
• Matrix IMC-hurtigstartspakke: et komplett IMC-kort, et FPGA-delsystem og eksempel på kode.

Begge pakkene inneholder kapslede brikkeprøver, dokumentasjon og et IMC-kort med sokkel. Krysskoblingsmatrisen på 32 × 32 gir en kontrollert plattform for å undersøke programmeringsmetoder, KI-algoritmer og nevromorfe arkitekturer, inkludert spikende nevrale nettverk.

FPGA-delsystemet i hurtigstartspakken gir forskerne programmerbar digital maskinvare ved siden av minnearrayet. Det er nyttig når man skal utforske hybridsystemer, der minnebaserte operasjoner arbeider sammen med konvensjonell prosessering i stedet for å forsøke å erstatte en hel databehandlingskjede.

Deltakerne skal dele ReRAM-relaterte resultater og tilbakemeldinger med Weebit. Selskapet sier at samarbeidet skal bidra til å forbedre teknologien og gi innspill til den bredere forskningsinnsatsen. Kunngjøringen oppgir ikke prisen på forskningssettene, hvor mange prosjekter som vil bli tatt opp, eller når en kommersiell akselerator skal leveres.

Sett påstanden om 80× lavere strømforbruk i perspektiv

Et forskningssammendrag det lenkes til gir viktige detaljer bak Weebits resultatpåstander. Et ikke-navngitt amerikansk selskap som arbeider med strålingstolerant KI-maskinvare, evaluerte en IMC-arkitektur for en bildegjenkjenningsoppgave ved hjelp av et spesialutviklet konvolusjonelt nevralt nettverk.

Sammenligningen brukte et NVIDIA GeForce RTX 4090-grafikkort og en Xilinx ZCU104 FPGA-plattform. Resultatene på systemnivå for IMC ble anslått ved hjelp av applikasjonsmodellering basert på målinger fra et Weebit ReRAM-array.

For denne arbeidsoppgaven anslo analysen et strømforbruk som var omtrent 80 ganger lavere enn for GPU-implementeringen og 13 ganger lavere enn for FPGA-implementeringen. I lanseringsmeldingen beskrives det separat en reduksjon i latenstid på nesten 100 ganger. Dette er anslag for en bestemt arbeidsoppgave, ikke uavhengig validerte målinger som viser at en komplett kommersiell Matrix-akselerator yter bedre enn GPU-er på tvers av KI-oppgaver.

Dette skillet står sentralt i forskningsprogrammet. Et nyttig resultat på arraynivå må kunne overføres til et komplett system som bevarer modellens nøyaktighet, samtidig som det tar høyde for styring, datakonvertering, kommunikasjon og andre støtteoperasjoner. Disse tilleggsfunksjonene bruker også energi og øker latenstiden.

Maskinvareeksperimenter kan avdekke det simuleringer overser

Weebits administrerende direktør, Coby Hanoch, viser til tidligere samarbeid med CEA-Leti, blant annet en demonstrasjon av et ReRAM-basert spikende nevralt nettverk i 2019. Matrix viderefører denne forskningsretningen ved å gjøre en definert maskinvareplattform tilgjengelig for flere kvalifiserte forskere.

Den nevromorfiske forskeren Kevin D. Johnson, som arbeider med heterogen databehandling og nevromorfisk databehandling, sa at han ønsker å bruke plattformen til å validere modeller mot faktisk maskinvare og vurdere nøyaktighet på systemnivå, latenstid og strømforbruk. Han er interessert i å kombinere ReRAM med andre prosesseringsteknologier.

Denne tilnærmingen gjenspeiler den praktiske muligheten: å identifisere hvilke deler av en arbeidsmengde som har nytte av minnebasert databehandling, og deretter kombinere dem med annen maskinvare der det er hensiktsmessig. Forskningsspørsmålet handler om mer enn hvorvidt en enkelt operasjon er effektiv; det omfatter også om systemet som helhet gir nyttig og repeterbar ytelse i applikasjoner.

Weebit trekker også fram strålingstoleranse som en grunn til å undersøke ReRAM for bruk i krevende miljøer. Om teknologien egner seg for en bestemt bruk innen romfart, forsvar eller medisin, vil likevel avhenge av kravene og valideringen av den fullstendige utformingen.

Demonstrasjoner og tilgang for forskere

Weebit planlegger å demonstrere Matrix IMC på electronica 2026, som arrangeres 10.–13. november i München. Selskapet oppgir hall C2, stand 637, og har informasjon om demonstrasjoner og møter på arrangementssiden sin.

Pakkene er tilgjengelige for kvalifiserte forskere, og søknadene vil bli vurdert opp mot programmets forskningsfokus. Weebit tilbyr et søknadsskjema for forskningsprosjekter for potensielle deltakere.

Matrix bidrar først og fremst ved å gi tilgang til maskinvare som kan teste antakelsene bak KI i minnet. For et fagfelt som handler om å redusere kostnadene ved å flytte data, vil de verdifulle holdepunktene være hvor godt målt nøyaktighet, energiforbruk og latenstid holder seg samlet når forskere kjører reelle arbeidsmengder.