Weebit Nano käynnistää Matrix ReRAM -tutkimusohjelman muistissa tapahtuvalle tekoälylaskennalle

Weebit Nano on käynnistänyt Weebit Matrix -tutkimusohjelman muistissa tapahtuvaa laskentaa varten. Ohjelma tarjoaa akateemisille ja teollisuuden tutkijoille pääsyn ReRAM-laitteistoon, jolla he voivat testata erilaista tapaa suorittaa tekoälylaskentaa: laskenta tehdään siellä, missä dataa säilytetään.

Ohjelma tarjoaa tutkimuspaketteja, jotka perustuvat 32 × 32 -ristikkäismatriisiin ja tukevat muun muassa vektori-matriisikertolaskua, konvoluutiota ja piikittäviä neuroverkkoja. Ohjelma tarttuu reunatekoälyn kannalta tärkeään laitteistokysymykseen: kuinka paljon energiaa ja aikaa voidaan säästää vähentämällä toistuvaa tiedonsiirtoa muistin ja erillisen suorittimen välillä?

Kyseessä on tutkimusalustan lanseeraus, ei valmis kaupallinen tekoälykiihdytin. Weebitin mukaan teknisiä haasteita on vielä ratkaistava, ennen kuin muistissa tapahtuvaan laskentaan perustuva ratkaisu pääsee kaupallisille markkinoille. Tavoitteena on nyt auttaa tutkijoita siirtymään malleista ja simulaatioista kokeisiin todellisella ReRAM-laitteistolla.

Miksi laskenta kannattaa tehdä muistissa?

Neuroverkkojen päättelyssä syötteitä yhdistetään toistuvasti mallin tallennettuihin painoihin. Perinteisessä arkkitehtuurissa näiden arvojen siirtäminen muistihierarkiassa voi kuluttaa kaistanleveyttä ja energiaa. Muistissa tapahtuvassa laskennassa (IMC) osa tästä työstä pyritään tekemään suoraan muistimatriisissa.

Resistiivinen hajasaantimuisti eli ReRAM tallentaa tietoa ohjelmoitavan sähkövastuksen avulla. Weebitin oksidipohjaisissa soluissa on elektrodien välissä kytkentäkerros; niihin kohdistetut jännitteet muuttavat johtavaa reittiä ja siten solun resistanssia. Tallennettu tila säilyy ilman jatkuvaa virransyöttöä, joten ReRAM on haihtumatonta muistia.

Analogisen laskennan tutkimuksessa näiden sähköisten ominaisuuksien avulla voidaan tehdä muutakin kuin tallentaa bittejä. Muistimatriisi voi koodata painot muistisoluihinsa ja hyödyntää niiden sähköisiä vasteita laskennassa. Näin muistin fysikaalinen toiminta kytkeytyy neuroverkoissa laajalti käytettyihin kertymäoperaatioihin, joissa lasketaan tulojen summia.

Tämä tavoite on erityisen tärkeä laitteissa, joiden teho- ja lämpöbudjetti on tiukka, kuten antureissa, teollisuuslaitteissa ja muissa reunalaitteissa. Se ei kuitenkaan tarkoita, että kaikki tekoälymallin osat suoritettaisiin muistimatriisissa tai että tiedonsiirto poistuisi kokonaan koko järjestelmästä.

Mitä Matrix-tutkimuspaketit sisältävät?

Weebit tarjoaa aluksi kahta pakettia:

• Matrix IMC -arviointipaketti: suoraan laitteistoon kytkeytyvä arviointikortti tutkijoille, jotka haluavat käyttää laitteistoa läheltä.
• Matrix IMC -aloituspaketti: täydellinen IMC-kortti, FPGA-alijärjestelmä ja esimerkkikoodia.

Molempiin sisältyy koteloituja sirunäytteitä, dokumentaatio ja kanta sisältävä IMC-kortti. 32 × 32 -ristikkäismatriisi tarjoaa hallitun alustan ohjelmointimenetelmien, tekoälyalgoritmien ja neuromorfisten arkkitehtuurien, myös piikittävien neuroverkkojen, tutkimiseen.

Aloituspaketin FPGA-alijärjestelmä tarjoaa tutkijoille ohjelmoitavaa digitaalista laitteistoa muistimatriisin rinnalle. Se auttaa tutkimaan hybridijärjestelmiä, joissa muistipohjainen laskenta toimii yhdessä perinteisen prosessoinnin kanssa sen sijaan, että koko laskentaputki pyrittäisiin korvaamaan.

Osallistujat jakavat ReRAMiin liittyviä tuloksia ja palautetta Weebitille. Yhtiön mukaan yhteistyön tarkoituksena on kehittää teknologiaa ja edistää laajempaa tutkimustyötä. Tiedotteessa ei kerrota tutkimuspakettien hintoja, hyväksyttävien hankkeiden määrää eikä kaupallisen kiihdyttimen toimituspäivää.

80×:n tehonkulutusväitteen taustaa

Tutkimuksen yhteenveto antaa tärkeää lisätietoa Weebitin suorituskykyväitteiden taustoista. Nimeämätön yhdysvaltalaisyhtiö, joka kehittää säteilynkestävää tekoälylaitteistoa, arvioi IMC-arkkitehtuuria kuvien luokittelutehtävässä, jossa käytettiin mukautettua konvoluutioneuroverkkoa.

Vertailussa käytettiin NVIDIA GeForce RTX 4090 -näytönohjainta ja Xilinx ZCU104 -FPGA-alustaa. IMC-järjestelmän tason tulokset ennustettiin sovellusmallinnuksella, joka perustui Weebitin ReRAM-matriisista tehtyihin mittauksiin.

Kyseisessä tehtävässä analyysin perusteella tehonkulutuksen ennustettiin olevan noin 80 kertaa pienempi kuin näytönohjaimella toteutetussa ratkaisussa ja 13 kertaa pienempi kuin FPGA-toteutuksessa. Lanseeraustiedotteessa mainitaan erikseen, että viive pieneni lähes 100-kertaisesti. Nämä ovat tiettyyn tehtävään liittyviä ennusteita, eivät riippumattomasti varmennettuja mittauksia siitä, että kokonainen kaupallinen Matrix-kiihdytin päihittäisi näytönohjaimet erilaisissa tekoälytehtävissä.

Tämä ero on tutkimusohjelman kannalta keskeinen. Muistimatriisin tasolla saavutetun hyödyllisen tuloksen on siirryttävä kokonaiseksi järjestelmäksi, joka säilyttää mallin tarkkuuden ja ottaa samalla huomioon ohjauksen, tiedon muunnokset, viestinnän ja muut tukitoiminnot. Myös nämä järjestelmän muut toiminnot kuluttavat energiaa ja lisäävät viivettä.

Laitteistokokeet voivat paljastaa sen, mikä jää simulaatioilta huomaamatta

Weebitin toimitusjohtaja Coby Hanoch viittaa aiempaan yhteistyöhön CEA-Letin kanssa, johon kuului ReRAM-pohjainen piikittävän neuroverkon esittely vuonna 2019. Matrix jatkaa tätä tutkimussuuntaa tarjoamalla määritellyn laitteistoalustan useampien pätevien tutkijoiden käyttöön.

Neuromorfisen laskennan tutkija Kevin D. Johnson, jonka tutkimustyöhön kuuluu heterogeeninen ja neuromorfinen laskenta, kertoi haluavansa käyttää alustaa mallien validointiin todellisella laitteistolla sekä järjestelmätason tarkkuuden, viiveen ja virrankulutuksen arviointiin. Hänen kiinnostuksenkohteisiinsa kuuluu ReRAMin yhdistäminen muihin prosessointiteknologioihin.

Tämä lähestymistapa kuvastaa käytännön mahdollisuutta: tunnistaa, mitkä työkuorman osat hyötyvät muistipohjaisesta laskennasta, ja yhdistää ne sitten tarvittaessa muuhun laitteistoon. Tutkimuskysymys on laajempi kuin se, onko yksittäinen toiminto tehokas: siihen kuuluu myös se, tarjoaako tuloksena oleva järjestelmä hyödyllistä ja toistettavaa suorituskykyä sovelluksissa.

Weebit nostaa esiin myös säteilynsiedon syynä tutkia ReRAMin käyttöä vaativissa ympäristöissä. Soveltuvuus tiettyyn ilmailu- ja avaruusalan, puolustuksen tai lääketieteen käyttökohteeseen riippuisi silti kyseisen kohteen vaatimuksista ja koko suunnitteluratkaisun validoinnista.

Esittelyt ja tutkimukseen osallistuminen

Weebit aikoo esitellä Matrix IMC:n electronica 2026 -tapahtumassa, joka järjestetään Münchenissä 10.–13. marraskuuta. Yhtiö kertoo olevansa hallissa C2, osastolla 637. Tapahtumasivulta löytyvät esittely- ja tapaamistiedot.

Paketit ovat pätevien tutkijoiden saatavilla, ja hakemukset arvioidaan sen perusteella, miten hyvin ne vastaavat ohjelman tutkimuspainotuksia. Weebit tarjoaa mahdollisille osallistujille tutkimushankkeen hakulomakkeen.

Matrixin välitön anti on pääsy laitteistoon, jolla voidaan testata muistin sisäistä tekoälylaskentaa koskevia oletuksia. Alalla, jolla pyritään vähentämään datan siirtämisen kustannuksia, arvokasta näyttöä saadaan siitä, miten mitattu tarkkuus, energiankulutus ja viive toimivat yhdessä, kun tutkijat suorittavat todellisia työkuormia.