Weebit Nano uruchamia program badawczy Matrix ReRAM dotyczący obliczeń AI w pamięci

Weebit Nano uruchomiła program badawczy Weebit Matrix In-Memory Compute Research Program, zapewniając naukowcom ze środowiska akademickiego i przemysłu dostęp do sprzętu ReRAM, by mogli testować inny sposób wykonywania obliczeń AI: przeprowadzanie ich tam, gdzie przechowywane są dane.

Program obejmuje zestawy badawcze oparte na macierzy krzyżowej 32 × 32, obsługujące takie operacje jak mnożenie macierzy przez wektor, splot i przetwarzanie w impulsowych sieciach neuronowych. Ma pomóc odpowiedzieć na istotne pytanie dotyczące sprzętu dla AI na urządzeniach brzegowych: ile energii i czasu można zaoszczędzić, ograniczając powtarzające się przesyłanie danych między pamięcią a oddzielnym procesorem?

To uruchomienie platformy badawczej, a nie wprowadzenie na rynek gotowego komercyjnego akceleratora AI. Weebit informuje, że zanim rozwiązanie do obliczeń w pamięci trafi na rynek komercyjny, trzeba jeszcze pokonać wyzwania techniczne. Bezpośrednim celem jest umożliwienie naukowcom przejścia od modeli i symulacji do eksperymentów na rzeczywistym sprzęcie ReRAM.

Dlaczego wykonywać obliczenia w pamięci?

Wnioskowanie w sieciach neuronowych wielokrotnie łączy dane wejściowe z zapisanymi wagami modelu. W konwencjonalnej architekturze przesyłanie tych wartości przez hierarchię pamięci może zużywać przepustowość i energię. Obliczenia w pamięci, czyli IMC, mają na celu wykonywanie części tych operacji bezpośrednio w samej macierzy pamięci.

Pamięć rezystywna o dostępie swobodnym, czyli ReRAM, przechowuje informacje, wykorzystując programowalną rezystancję elektryczną. Oparte na tlenkach komórki Weebit zawierają warstwę przełączającą między elektrodami; przyłożone napięcie zmienia ścieżkę przewodzenia, a tym samym rezystancję komórki. Zapisany stan utrzymuje się bez stałego zasilania, dzięki czemu ReRAM jest pamięcią nieulotną.

W badaniach nad obliczeniami analogowymi te właściwości elektryczne mogą służyć nie tylko do przechowywania bitów. Macierz może kodować wagi w komórkach pamięci i wykorzystywać uzyskane odpowiedzi elektryczne do wykonywania obliczeń. Łączy to fizyczne działanie pamięci z operacjami mnożenia i akumulacji stosowanymi w całych sieciach neuronowych.

Cel ten jest szczególnie istotny w przypadku urządzeń o ściśle ograniczonym budżecie energetycznym i cieplnym, takich jak czujniki, sprzęt przemysłowy i inne systemy brzegowe. Nie oznacza to, że każda część modelu AI działa w macierzy ani że przesyłanie danych znika z całego systemu.

Co zawierają zestawy badawcze Matrix

Początkowo Weebit oferuje dwa pakiety:

• Pakiet ewaluacyjny Matrix IMC: płytka ewaluacyjna z bezpośrednim dostępem do sprzętu, przeznaczona dla naukowców, którzy chcą dokładniej poznać jego działanie.
• Pakiet szybkiego startu Matrix IMC: kompletna płytka IMC, podsystem FPGA i przykładowy kod.

Oba pakiety zawierają zapakowane próbki układów scalonych, dokumentację oraz płytkę IMC z gniazdem. Macierz krzyżowa 32 × 32 zapewnia kontrolowane środowisko do badania metod programowania, algorytmów AI i architektur neuromorficznych, w tym impulsowych sieci neuronowych.

Podsystem FPGA w pakiecie szybkiego startu zapewnia naukowcom programowalny sprzęt cyfrowy współpracujący z macierzą pamięci. Ułatwia to badanie systemów hybrydowych, w których operacje oparte na pamięci współdziałają z konwencjonalnym przetwarzaniem, zamiast zastępować cały potok obliczeniowy.

Uczestnicy będą dzielić się z Weebit wynikami badań i opiniami dotyczącymi ReRAM. Firma informuje, że współpraca ma pomóc udoskonalić tę technologię i wesprzeć szersze prace badawcze. W komunikacie nie podano cen zestawów, liczby przyjętych projektów ani terminu dostawy komercyjnego akceleratora.

Jak rozumieć deklarację o 80-krotnie niższym poborze mocy

Powiązane podsumowanie badań zawiera ważne szczegóły dotyczące deklarowanej przez Weebit wydajności. Nienazwana amerykańska firma pracująca nad odpornym na promieniowanie sprzętem AI oceniła architekturę IMC w zadaniu klasyfikacji obrazów, wykorzystując niestandardową splotową sieć neuronową.

W porównaniu wykorzystano kartę graficzną NVIDIA GeForce RTX 4090 oraz platformę FPGA Xilinx ZCU104. Wyniki systemowe IMC oszacowano za pomocą modelowania aplikacji opartego na pomiarach z macierzy ReRAM firmy Weebit.

W przypadku tego zadania analiza wykazała prognozowane zużycie energii około 80 razy niższe niż w implementacji wykorzystującej GPU oraz 13 razy niższe niż w implementacji na FPGA. W komunikacie o uruchomieniu programu osobno opisano niemal stukrotne skrócenie opóźnienia. Są to prognozy dotyczące konkretnego zadania, a nie niezależnie zweryfikowane pomiary potwierdzające, że kompletny komercyjny akcelerator Matrix przewyższa GPU w różnych zadaniach AI.

To rozróżnienie ma kluczowe znaczenie dla programu badawczego. Korzystny wynik na poziomie macierzy musi przełożyć się na kompletny system, który zachowuje dokładność modelu, a jednocześnie uwzględnia sterowanie, konwersję danych, komunikację i inne operacje pomocnicze. Te funkcje również zużywają energię i zwiększają opóźnienie.

Eksperymenty sprzętowe mogą ujawnić to, czego nie pokazują symulacje

Dyrektor generalny Weebit, Coby Hanoch, wskazuje na wcześniejszą współpracę z CEA-Leti, w tym demonstrację impulsowej sieci neuronowej opartej na ReRAM z 2019 roku. Matrix rozwija ten kierunek badań, udostępniając określoną platformę sprzętową kolejnym zakwalifikowanym naukowcom.

Badacz neuromorficzny Kevin D. Johnson, którego prace obejmują obliczenia heterogeniczne i neuromorficzne, powiedział, że chce wykorzystać tę platformę do weryfikacji modeli na rzeczywistym sprzęcie oraz oceny dokładności na poziomie systemu, opóźnień i poboru mocy. Interesuje się łączeniem ReRAM z innymi technologiami przetwarzania.

Takie podejście odzwierciedla praktyczną możliwość: ustalić, które części obciążenia obliczeniowego zyskują na obliczeniach w pamięci, a następnie, w odpowiednich przypadkach, połączyć je z innym sprzętem. Pytanie badawcze wykracza poza to, czy pojedyncza operacja jest wydajna; obejmuje również to, czy uzyskany system zapewnia użyteczną i powtarzalną wydajność aplikacji.

Weebit wskazuje również na odporność na promieniowanie jako jeden z powodów, dla których warto badać ReRAM pod kątem zastosowań w trudnych warunkach. Przydatność tej technologii w konkretnym zastosowaniu lotniczym i kosmicznym, obronnym lub medycznym nadal zależałaby od wymagań oraz walidacji całego projektu.

Pokazy i dostęp dla badaczy

Weebit planuje zaprezentować Matrix IMC podczas targów electronica 2026, które odbędą się w Monachium w dniach 10–13 listopada. Firma podaje, że będzie obecna w hali C2, na stoisku 637; szczegóły pokazów i spotkań można znaleźć na stronie wydarzenia.

Pakiety są dostępne dla zakwalifikowanych badaczy, a zgłoszenia będą oceniane pod kątem zgodności z tematyką badawczą programu. Weebit udostępnia formularz zgłoszeniowy projektu badawczego dla osób zainteresowanych udziałem.

Bezpośredni wkład Matrix polega na zapewnieniu dostępu do sprzętu, który pozwala sprawdzić założenia stojące za obliczeniami AI w pamięci. W dziedzinie, której celem jest ograniczenie kosztów przesyłania danych, cennych dowodów dostarczy pomiar tego, jak dokładność, zużycie energii i opóźnienia wypadają łącznie podczas przetwarzania rzeczywistych obciążeń przez badaczy.