Supermicro będzie produkować i sprzedawać systemy do wnioskowania AI oparte na SambaNova

SambaNova i Supermicro poinformowały 3 listopada 2026 r., że Supermicro będzie produkować, sprzedawać i serwisować systemy do wnioskowania AI, w których zadania są rozdzielone między procesory graficzne NVIDIA i jednostki SN50 Reconfigurable Dataflow Units firmy SambaNova. Początkowy plan zakłada wykorzystanie 10 000 układów SN50.

Systemy zostaną włączone do oferty Data Center Building Block Solutions firmy Supermicro. Supermicro będzie je integrować, testować, dostarczać i serwisować, w tym zapewniać obsługę na miejscu, a inżynierowie SambaNova uruchomią i dostroją modele na SN50 oraz pomogą we wdrażaniu rozwiązań u klientów. Współpraca łączy zatem kanał produkcji i serwisowania serwerów z pracami nad modelami, niezbędnymi do wdrożenia heterogenicznych akceleratorów.

Dlaczego wnioskowanie jest rozdzielane między GPU i RDU

Architektura dzieli wnioskowanie na dwie fazy. W fazie prefill procesory graficzne NVIDIA przetwarzają otrzymany prompt — jest to zadanie wymagające dużej mocy obliczeniowej. Jednostki RDU SN50 obsługują fazę dekodowania, w której odpowiedź jest generowana token po tokenie, a głównym ograniczeniem jest przepustowość pamięci. SambaNova twierdzi, że przypisanie każdej fazy do odpowiedniego sprzętu pozwala uzyskać szybsze i wydajniejsze wnioskowanie niż przy użyciu tylko jednego z tych rodzajów sprzętu.

Towarzyszący komunikat SambaNova wskazuje agentową sztuczną inteligencję jako główny obszar zastosowań: agenci mogą wykonywać tysiące zapytań do dużych modeli językowych, a każde z nich może trwać kilka minut; ponadto obciążenia agentowe spędzają większość czasu w fazie dekodowania. W efekcie generowanie tokenów staje się krytycznym etapem poprzedzającym kolejne działanie agenta. Firmy traktują więc dekodowanie jako odrębne wyzwanie infrastrukturalne: dodatkowe jednostki RDU mają przyspieszyć generowanie odpowiedzi, podczas gdy procesory graficzne nadal będą przetwarzać prompty.

Budowa układu SN50

SN50 to RDU piątej generacji firmy SambaNova. W oficjalnej karcie katalogowej podano, że układ jest produkowany w procesie technologicznym TSMC o szerokości 5 nanometrów, ma 432 MB wbudowanej pamięci SRAM i 64 GB pamięci HBM2E, a DDR5 stanowi trzeci poziom pamięci. Układ wykorzystuje architekturę Reconfigurable Dataflow Architecture firmy SambaNova i został zaprojektowany z myślą o ograniczonej przepustowością pamięci fazie dekodowania, a nie o ogólnych zadaniach akceleratorów.

Dokumentacja produktu SambaNova przypisuje tej konstrukcji szybsze wnioskowanie, większą przepustowość i wyższą efektywność energetyczną. Operacje są łączone w ciągły przepływ danych, co ogranicza wielokrotne przesyłanie danych między pamięciami oraz narzut związany z ponownym uruchamianiem zadań na każdym etapie. Poszczególne poziomy pamięci pełnią też różne funkcje: SRAM przechowuje często wykorzystywane dane lokalne blisko jednostek obliczeniowych, HBM2E — aktualnie używane wagi modelu i często wykorzystywaną pamięć podręczną KV, a DDR5 — pamięci podręczne promptów, większe pule modeli i rzadziej używaną pamięć podręczną KV.

Według SambaNova SN50 można skalować do 256 jednostek RDU rozmieszczonych w wielu szafach rackowych. Układ zaprojektowano z myślą o interaktywnych agentach, asystentach programowania i innych wieloetapowych zadaniach związanych z wnioskowaniem, w tym aplikacjach przełączających się między wieloma modelami. Projekt obejmujący wiele szaf odpowiada planowi współpracy zakładającemu wdrażanie na poziomie szaf: Supermicro będzie integrować RDU i GPU w systemach, które następnie sprawdzi i będzie serwisować.

Wdrożenie przez kanał sprzedaży i ograniczenia centrów danych

Klienci będą mogli kupować jednostki RDU SN50 wraz z procesorami graficznymi za pośrednictwem Supermicro, korzystając z tego samego kanału co w przypadku pozostałej infrastruktury AI. Wdrożenie rozpocznie się od dostawców usług chmurowych NeoClouds i chmur suwerennych, a następnie obejmie przedsiębiorstwa uruchamiające AI we własnych centrach danych. To etapowe podejście zakłada, że najpierw rozwiązanie trafi do operatorów chmurowych, a później ta sama połączona architektura GPU-RDU zostanie wdrożona w centrach danych przedsiębiorstw.

Kluczowe znaczenie dla wdrożenia mają zasilanie i chłodzenie. Firmy twierdzą, że SN50 może obsługiwać duże modele z wysoką szybkością i przepustowością bez ekstremalnie dużego zagęszczenia mocy w szafach rackowych, co ułatwia wdrażanie systemów w istniejących centrach danych. Taki profil zapotrzebowania na energię przemawia za modernizacją istniejących obiektów: jednostki RDU mają zwiększać ich możliwości, nie wymagając budowy nowych obiektów, a jedynie wykorzystując te, które operatorzy już eksploatują.

Firmy twierdzą również, że dodanie jednostek RDU do obsługi dekodowania może zwiększyć możliwości wnioskowania bez konieczności czekania na nowe obiekty, których budowę ograniczają kwestie zasilania i chłodzenia, a zarazem wydłużyć okres użytkowania zainstalowanych procesorów graficznych. Propozycja wiąże więc zwiększenie możliwości z obiektami i procesorami graficznymi, które operatorzy już mają.

SambaNova i Supermicro spodziewają się, że dzięki współpracy w 2027 r. będzie można zapewnić znacznie większe możliwości wnioskowania o wysokiej wydajności, niż byłoby to możliwe w innym przypadku. Znaczenie planu wynika z połączenia sprzętu przeznaczonego do dekodowania z kanałem wdrożeniowym Supermicro. Dla operatorów zmagających się z ograniczeniami zasilania i chłodzenia otwartą kwestią pozostaje, czy planowane instalacje RDU pozwolą zwiększyć możliwości wnioskowania w istniejących obiektach do zakładanej przez firmy skali.