Weebit Nano lansează un program de cercetare Matrix ReRAM pentru calculul IA în memorie

Weebit Nano a lansat Programul de cercetare Weebit Matrix pentru calculul în memorie, oferind cercetătorilor din mediul academic și din industrie acces la hardware ReRAM pentru a testa o altă modalitate de a efectua calcule de IA: realizarea lor acolo unde sunt stocate datele.

Programul oferă kituri de cercetare construite în jurul unei matrice încrucișate de 32 × 32, care permite operații precum înmulțirea vector-matrice, convoluția și rețelele neuronale cu impulsuri. Programul abordează o întrebare importantă despre hardware-ul pentru IA la marginea rețelei: câtă energie și cât timp se pot economisi prin reducerea transferurilor repetate între memorie și un procesor separat?

Este vorba despre lansarea unei platforme de cercetare, nu despre un accelerator comercial de IA gata de utilizare. Weebit spune că mai există provocări tehnice de depășit înainte ca o soluție de calcul în memorie să ajungă pe piața comercială. Obiectivul imediat este să le permită cercetătorilor să treacă de la modele și simulări la experimente pe hardware ReRAM real.

De ce să calculăm în memorie?

Inferența rețelelor neuronale presupune combinarea repetată a intrărilor cu ponderile stocate ale modelului. Într-o arhitectură convențională, transferul acestor valori prin ierarhia de memorie poate consuma lățime de bandă și energie. Calculul în memorie, sau IMC, urmărește să efectueze o parte din aceste operații chiar în matricea de memorie.

Memoria cu acces aleatoriu rezistiv, sau ReRAM, stochează informații folosind rezistența electrică programabilă. Celulele Weebit pe bază de oxid au un strat de comutare între electrozi; tensiunile aplicate modifică traseul conductor și, prin urmare, rezistența celulei. Starea stocată se păstrează fără alimentare continuă, ceea ce face ca ReRAM să fie o memorie nevolatilă.

În cercetarea privind calculul analogic, aceste proprietăți electrice pot face mai mult decât să stocheze biți. O matrice poate codifica ponderile în celulele sale de memorie și poate folosi răspunsurile electrice rezultate pentru a participa la calcule. Astfel, comportamentul fizic al memoriei este pus în legătură cu operațiile de înmulțire și acumulare folosite în întreaga rețea neuronală.

Acest obiectiv este deosebit de relevant pentru dispozitivele cu bugete stricte de energie și de gestionare termică, inclusiv senzori, echipamente industriale și alte sisteme de la marginea rețelei. El nu înseamnă că fiecare componentă a unui model de IA rulează în matrice sau că transferul de date dispare din întregul sistem.

Ce includ kiturile de cercetare Matrix

Inițial, Weebit oferă două pachete:

• Pachetul de evaluare Matrix IMC: o placă de evaluare cu acces direct, destinată cercetătorilor care doresc să interacționeze mai direct cu hardware-ul.
• Pachetul Matrix IMC de inițiere rapidă: o placă IMC completă, un subsistem FPGA și cod exemplificativ.

Ambele includ cipuri de test ambalate, documentație și o placă IMC cu soclu. Matricea încrucișată de 32 × 32 oferă o platformă controlată pentru cercetarea metodelor de programare, a algoritmilor de IA și a arhitecturilor neuromorfice, inclusiv a rețelelor neuronale cu impulsuri.

Subsistemul FPGA din pachetul de inițiere rapidă le oferă cercetătorilor hardware digital programabil, pe lângă matricea de memorie. Acest lucru este util pentru explorarea sistemelor hibride, în care operațiile bazate pe memorie funcționează împreună cu procesarea convențională, în loc să încerce să înlocuiască întregul flux de calcul.

Participanții vor împărtăși cu Weebit rezultatele cercetărilor legate de ReRAM și feedbackul lor. Compania spune că această colaborare urmărește să îmbunătățească tehnologia și să contribuie la efortul de cercetare mai amplu. Anunțul nu precizează prețul kiturilor, numărul proiectelor acceptate sau data livrării unui accelerator comercial.

Contextul afirmației privind reducerea de 80 de ori a consumului de energie

Un rezumat al cercetării disponibil printr-un link oferă detalii importante despre afirmațiile Weebit privind performanța. O companie americană neidentificată, care lucrează la hardware de IA tolerant la radiații, a evaluat o arhitectură IMC pentru o sarcină de clasificare a imaginilor, folosind o rețea neuronală convoluțională personalizată.

Comparația a folosit o placă grafică NVIDIA GeForce RTX 4090 și o platformă FPGA Xilinx ZCU104. Rezultatele IMC la nivel de sistem au fost proiectate prin modelarea aplicației, pe baza măsurătorilor efectuate cu o matrice ReRAM Weebit.

Pentru acea sarcină, analiza a estimat un consum de energie de aproximativ 80 de ori mai mic decât în implementarea pe GPU și de 13 ori mai mic decât în implementarea pe FPGA. Comunicatul de lansare menționează separat o reducere a latenței de aproape 100 de ori. Acestea sunt proiecții specifice sarcinii, nu măsurători validate independent care să arate că un accelerator Matrix comercial complet depășește performanța GPU-urilor în diverse sarcini de IA.

Această distincție este esențială pentru programul de cercetare. Un rezultat util la nivelul matricei trebuie să se transpună într-un sistem complet care păstrează acuratețea modelului, ținând totodată cont de control, conversia datelor, comunicații și alte operații auxiliare. Și aceste funcții conexe consumă energie și adaugă latență.

Experimentele cu hardware pot scoate la iveală ceea ce simulările nu surprind

Directorul general al Weebit, Coby Hanoch, amintește colaborarea anterioară cu CEA-Leti, inclusiv o demonstrație din 2019 a unei rețele neuronale cu impulsuri bazate pe ReRAM. Matrix continuă această direcție de cercetare, punând la dispoziția unui număr mai mare de cercetători calificați o platformă hardware bine definită.

Cercetătorul în calcul neuromorfic Kevin D. Johnson, ale cărui activități includ calculul eterogen și cel neuromorfic, a declarat că dorește să folosească platforma pentru a valida modelele pe hardware real și pentru a evalua acuratețea la nivel de sistem, latența și consumul de energie. Printre interesele sale se numără combinarea ReRAM cu alte tehnologii de procesare.

Această abordare reflectă oportunitatea practică: identificarea părților unei sarcini de lucru care beneficiază de calculul bazat pe memorie, apoi combinarea acestora cu alte tipuri de hardware, acolo unde este cazul. Întrebarea de cercetare depășește eficiența unei anumite operațiuni și include și măsura în care sistemul rezultat oferă performanțe utile și reproductibile în aplicații.

Weebit menționează și toleranța la radiații ca motiv pentru a studia ReRAM în medii dure. Totuși, adecvarea pentru o anumită utilizare în domeniul aerospațial, al apărării sau în cel medical ar depinde în continuare de cerințele și de validarea proiectului în ansamblu.

Demonstrații și acces la cercetare

Weebit intenționează să prezinte Matrix IMC la electronica 2026, care va avea loc în perioada 10–13 noiembrie, la München. Compania indică hala C2, standul 637, iar pe pagina evenimentului oferă detalii despre demonstrații și întâlniri.

Pachetele sunt disponibile cercetătorilor eligibili, iar cererile vor fi evaluate în funcție de compatibilitatea lor cu domeniul de cercetare al programului. Weebit pune la dispoziția potențialilor participanți un formular de înscriere a proiectului de cercetare.

Contribuția imediată a Matrix constă în oferirea accesului la hardware cu ajutorul căruia pot fi testate ipotezele care stau la baza inteligenței artificiale în memorie. Într-un domeniu axat pe reducerea costurilor transferului de date, dovezile valoroase vor arăta cât de bine se mențin împreună acuratețea măsurată, consumul de energie și latența atunci când cercetătorii rulează sarcini de lucru reale.