MemryX zapowiada MX3+, aby rozszerzyć energooszczędne wnioskowanie AI na brzegu sieci

MemryX AI ogłosiła akcelerator wnioskowania MX3+ 10 listopada 2026 r., wyznaczając cele projektowe zakładające nawet 10-krotnie większą szczytową moc obliczeniową AI i niemal 10-krotnie więcej pamięci w układzie niż w MX3, przy zachowaniu tego samego niskiego poboru mocy.

Ta bezfabryczna firma półprzewodnikowa kieruje urządzenie do sprzętu brzegowego, systemów przemysłowych i infrastruktury wnioskowania o dużej gęstości, obsługujących większe lub bardziej złożone modele. Na stronie produktu MX3+ podano ponadto, że konstrukcja ma zachować powierzchnię krzemowego układu MX3 i zapewnić 10-krotnie większą pojemność na wagi modeli, uwzględniając ograniczenia dotyczące miejsca na płytce i kosztów systemu, a także poboru mocy.

Planowane zastosowania obejmują przetwarzanie obrazu o wyższej rozdzielczości, modele oparte na transformatorach, małe modele językowe, modele łączące wizję, język i działanie, architektury hybrydowe oraz bardziej zaawansowane potoki obejmujące wiele modeli. Planowane wdrożenia obejmują automatykę przemysłową, robotykę, inteligentny transport, inteligentną infrastrukturę, zarządzanie materiałami wideo, urządzenia medyczne, handel detaliczny i elektronikę użytkową.

Cele projektowe i obecny MX3

Podane wartości dotyczą produktu, który dopiero powstanie. Obecny MX3 jest dostępny do zamówień seryjnych, a MemryX podaje, że oferuje on moc obliczeniową AI na poziomie 6,25 TFLOPS i 10,5 MB pamięci wag w układzie na każdy chip, przy poborze mocy od 200 mW do 3 W.

To porównanie wskazuje główne ograniczenie dotyczące MX3+: znacznie zwiększyć moc obliczeniową i pojemność na modele bez przekraczania limitów poboru mocy i rozmiarów, które wyznaczyły konstrukcję poprzednika. Podane wartości pozostają celami projektowymi do czasu, aż MemryX wyprodukuje i zweryfikuje nowy sprzęt.

Skalowanie wielu układów jako jednego urządzenia logicznego

Planowane konfiguracje będą obejmować od jednego do 16 układów MX3+ działających jako jedno, zunifikowane urządzenie logiczne. Według MemryX konfiguracja 16-chipowa ma zapewniać szczytową moc obliczeniową AI przekraczającą 1 POPS, czyli jeden petaoperację na sekundę, oraz 2,16 GB rozproszonej pamięci w układach.

Rozproszony przepływ danych pozwala akceleratorom współpracować bez konieczności zarządzania poszczególnymi układami przez procesor hosta. Kompilator neuronowy MemryX automatycznie przypisuje sieci neuronowe do dostępnych akceleratorów, umożliwiając programistom zwiększanie wydajności bez ręcznego dzielenia modeli na części.

MX3+ łączy dodatkową pamięć w układzie z przetwarzaniem potokowym blisko pamięci, dzięki któremu dane modeli pozostają blisko obliczeń, co ogranicza ich przesyłanie. Konstrukcja ma obsługiwać większe modele i dane wejściowe o wyższej rozdzielczości, a jednocześnie zapewniać przewidywalne wnioskowanie o niskich opóźnieniach przy rozmiarze partii równym jeden.

Dostępna karta katalogowa MX3 opisuje ten sam limit skalowania: odciążanie hosta przez PCIe lub USB, obsługę procesorów x86, Arm i RISC-V oraz łączenie kaskadowe maksymalnie 16 układów przez PCIe za pośrednictwem jednego interfejsu hosta. MX3+ zachowuje to podejście do obsługi wielu układów i znany proces tworzenia oprogramowania, gdy modele i systemy stają się bardziej złożone.

Prezes i dyrektor generalny Ross Jatou powiedział, że MemryX oczekuje, iż wspólna architektura zapewni jedną ścieżkę od etapu tworzenia do produkcji dla systemów wbudowanych, przemysłowych i o dużej gęstości oraz znacząco obniży całkowity koszt posiadania w przypadku wdrożeń brzegowych o dużej gęstości.

Wczesny dostęp przed rozpoczęciem produkcji seryjnej

MemryX przyjmuje od wybranych partnerów strategicznych i klientów korporacyjnych zgłoszenia do programu wczesnego dostępu, aby wspólnie weryfikować sprzęt i oprogramowanie przed rozpoczęciem produkcji. Firma planuje udostępnić próbki inżynieryjne pod koniec 2027 r. i rozpocząć produkcję seryjną w połowie 2028 r. W miarę postępów prac będą podawane kolejne informacje o specyfikacjach, konfiguracjach i dostępności.

MemryX informuje, że nowe możliwości MX3+ znajdą zastosowanie w MX4, przyszłej platformie przeznaczonej do zaawansowanego wnioskowania multimodalnego i wnioskowania z użyciem dużych modeli językowych.

Na oficjalnej stronie produktu MX4 wymieniono zaawansowane systemy wizyjne i generatywną AI wśród docelowych zastosowań oraz wskazano, że produkt ma być dostępny w 2029 r.

Najpilniejszym zadaniem jest teraz weryfikacja, a nie wdrożenie. Systemy udostępnione w ramach wczesnego dostępu będą musiały wykazać, że wzrost mocy obliczeniowej i pojemności pamięci można osiągnąć przy zachowaniu ograniczeń MX3 dotyczących poboru mocy i rozmiarów, a zarazem utrzymać skalowanie kontrolowane przez kompilator i przewidywalne wnioskowanie o niskich opóźnieniach.