D-Matrix prezentuje wieloszafowe klastry Squadron do wnioskowania AI

12 października 2026 r. firma d-Matrix ogłosiła Squadron — flotę wieloszafowych systemów do wnioskowania AI w skali centrum danych. Założyciel i dyrektor generalny Sid Sheth zaprezentował klastry podczas przemówienia otwierającego szczyt OCP Global Summit w San Jose. Klastry można skalować do 16 SquadRacków i maksymalnie 1 024 jednostek Corsair XPU, a systemy są już dostarczane kluczowym klientom.

Squadron powstał we współpracy z firmami Arista, Broadcom i Supermicro. d-Matrix wdrożyła już ten system we własnym centrum danych w Arizonie na potrzeby wewnętrznych prac badawczo-rozwojowych, a klastry są dostarczane kluczowym klientom, którzy wdrożą je we własnych centrach danych. Podstawowe elementy Squadronu — serwery Corsair oraz skalowane do poziomu szafy systemy SquadRack — są powszechnie dostępne. d-Matrix opisuje Squadron jako rozwiązanie zapewniające moc obliczeniową do wnioskowania na poziomie megawatów. Firma poinformowała, że klastry są przeznaczone dla laboratoriów AI, przedsiębiorstw i organizacji państwowych, które obsługują aplikacje wrażliwe na opóźnienia, takie jak narzędzia do programowania, agenci osobisti, systemy cyberbezpieczeństwa i platformy handlu o wysokiej częstotliwości.

Sheth przedstawił tę premierę jako kolejny etap rozwoju d-Matrix — od firmy specjalizującej się w układach scalonych do dostawcy infrastruktury obliczeniowej dla centrów danych. „Klienci mogą teraz korzystać z najwydajniejszej na świecie infrastruktury do wnioskowania w skali centrum danych, dostępnej do tworzenia i wdrażania aplikacji AI o bardzo niskich opóźnieniach” — powiedział w komunikacie firmy.

Charles Liang, prezes i dyrektor generalny Supermicro, powiedział, że współpraca pokazuje, jak firma Supermicro dostarcza technologie AI w ramach programu Data Center Building Block Solutions. Dzięki temu klienci mogą wdrażać wydajną infrastrukturę do wnioskowania, która zapewnia wysoką wydajność i krótszy czas do uruchomienia w środowiskach zaawansowanych obciążeń AI oraz heterogenicznych środowiskach obliczeniowych.

Konfiguracje szafowe i połączenia międzysystemowe o otwartym standardzie

Squadron jest dostępny w różnych konfiguracjach, które można rozbudować do 16 SquadRacków — każdy z nich to pojedyncza szafa mieszcząca osiem serwerów — połączonych w jeden zintegrowany klaster obejmujący maksymalnie 1 024 jednostki Corsair XPU. Klastry łączą karty sieciowe JetStream firmy d-Matrix, a do ich obsługi wykorzystywane jest oprogramowanie Aviator tej firmy. Ponieważ systemy są chłodzone powietrzem i oparte na standardach branżowych, klienci mogą instalować je w już działających centrach danych bez konieczności stosowania chłodzenia cieczą ani budowy nowych obiektów — poinformowała d-Matrix. W ramach tej samej architektury klienci mogą wdrożyć pojedynczy serwer Corsair, pełny SquadRack albo wieloszafowy klaster Squadron.

Na stronie produktu w skali szafy firma wymienia cztery konfiguracje referencyjne. Początkowa szafa z jednym serwerem mieści osiem kart z 16 GB pamięci o wysokiej wydajności, zapewniającej przepustowość 1 200 TB/s, oraz maksymalnie 2 TB pamięci o dużej pojemności; jej pobór mocy wynosi poniżej 10 kW. Początkowa szafa z dwoma serwerami wykorzystuje dwa serwery i 16 kart z 32 GB pamięci o wysokiej wydajności. Jej moc znamionowa wynosi 10–30 kW, a rozbudowę poziomą przez JetStream umożliwia Ethernet. Półszafa z wieloma serwerami wykorzystuje cztery serwery i 32 karty z 64 GB pamięci o wysokiej wydajności; jej moc znamionowa wynosi 30–100 kW. Pełna szafa klasy korporacyjnej wykorzystuje osiem serwerów i 64 karty z 128 GB pamięci o wysokiej wydajności, pozwalając uruchamiać w trybie wydajnościowym modele o maksymalnie 100 miliardach parametrów.

Do łączenia komponentów d-Matrix wykorzystuje PCIe do skalowania w obrębie pojedynczego węzła, a standardowy Ethernet — do skalowania w obrębie szafy oraz rozbudowy poziomej między szafami. Firma należy do branżowych konsorcjów UALink i UEC, które pracują nad standardami nowej generacji dla skalowania w górę i rozbudowy poziomej.

Informacje o platformach SquadRack i Corsair

Squadron rozwija linię rozwiązań w skali szafy, którą d-Matrix po raz pierwszy zaprezentowała pod nazwą SquadRack 14 października 2025 r. podczas poprzedniego szczytu OCP Global Summit, ponownie we współpracy z firmami Arista, Broadcom i Supermicro. Podczas tamtego wydarzenia d-Matrix opisała SquadRack jako pierwsze w branży rozwiązanie w skali szafy zaprojektowane specjalnie do wnioskowania AI. Firma poinformowała, że zapewnia ono nawet trzykrotnie lepszy stosunek kosztów do wydajności, trzykrotnie wyższą efektywność energetyczną i nawet dziesięciokrotnie szybsze generowanie tokenów niż tradycyjne akceleratory.

Zgodnie z komunikatem z 2025 r. ośmiowęzłowy SquadRack obsługuje generatywne modele AI o maksymalnie 100 miliardach parametrów, a oparty na standardach Ethernet umożliwia rozbudowę poziomą do setek węzłów rozmieszczonych w wielu szafach. Wśród wymienionych komponentów są akceleratory do wnioskowania Corsair, akceleratory wejścia/wyjścia JetStream, platforma serwerowa X14 AI Server Platform firmy Supermicro, przełączniki PCIe Broadcom do skalowania w obrębie węzła, przełączniki Ethernet Arista Leaf połączone z kartami sieciowymi JetStream oraz stos oprogramowania Aviator.

Platforma Corsair, będąca podstawą obu systemów, wykorzystuje konstrukcję opartą na chipletach, która ma umożliwiać zwiększanie pojemności pamięci SRAM ponad tradycyjne ograniczenia. Można ją zintegrować z istniejącą infrastrukturą opartą na PCIe, a także obsługuje modele o maksymalnie 100 miliardach parametrów. Konstrukcja 3DIMC firmy d-Matrix umieszcza pamięć DRAM bezpośrednio na matrycy logicznej, a stos oprogramowania Aviator został zaprojektowany wspólnie ze sprzętem — od kompilatora po środowisko uruchomieniowe.

Demonstracja rozdzielenia mechanizmu uwagi i sieci FFN

Podczas przemówienia Sheth poinformował również, że d-Matrix wdrożyła rozdzielenie obliczeń mechanizmu uwagi i sieci FFN (Attention-FFN disaggregation, AFD), wykorzystując system Squadron współpracujący z serwerami GPU. Firma podała, że przeniesienie ekspertów modelu i sieci typu feed-forward na szafy Corsair zapewniło szybkość 845 tokenów na sekundę na użytkownika, a w heterogenicznej konfiguracji osiągnięto łączną przepustowość 20 415 tokenów na sekundę przy 64 użytkownikach korzystających z systemu jednocześnie. d-Matrix poinformowała, że jako pierwsza zademonstrowała działanie AFD na rzeczywistym, obecnie dostępnym krzemie.

Uzupełniający wpis techniczny opublikowany 12 października 2026 r. opisuje konfigurację testową. Wykorzystanym modelem jest GPT-OSS-20B — model z architekturą mieszaniny ekspertów, w którym eksperci odpowiadają za 19,12 mld z łącznej liczby 20,9 mld parametrów; podczas każdego wnioskowania aktywnych jest 4 z 32 ekspertów, czyli około 3,6 mld parametrów. Przy precyzji czterech bitów eksperci mieszczą się na serwerze Corsair wyposażonym w osiem kart i 16 GB pamięci SRAM. Procesor graficzny Nvidia H100 z 80 GB pamięci obsługuje mechanizm uwagi, osadzenia, pamięć podręczną KV i kierowanie do ekspertów, podczas gdy Corsair wykonuje obliczenia ekspertów. Przy rozmiarze partii wynoszącym 64 dwa procesory graficzne H100 współpracują z ośmioma akceleratorami Corsair.

d-Matrix poinformowała, że pamięć SRAM w Corsair zapewnia przepustowość 150 TB/s, czyli — według firmy — 45 razy większą niż przepustowość HBM3 w H100 i około dziewięć razy większą niż 18 TB/s oferowane przez HBM4. Firma podała, że przeniesienie obliczeń w sieci jednokierunkowej do Corsair skróciło czas generowania jednego tokenu wyjściowego z 2,59 milisekundy na pojedynczym H100 przy długości kontekstu 1K do 1,28 milisekundy, co oznacza spadek o około 50 procent.

Wpis opisuje 24 rundy komunikacji między procesorem graficznym a Corsair — po jednej dla każdej z 24 warstw modelu — oraz jeszcze jedną dla głowicy LM. Procesor graficzny przesyła przez łącza JetStream wektor stanu ukrytego o 2880 wymiarach oraz przypisania do docelowych ekspertów; łącza te zapewniają przepustowość Ethernetu wynoszącą 400 Gb/s na klaster. Komunikacja inicjowana przez urządzenia w JetStream umożliwia procesorowi graficznemu bezpośredni zapis do pamięci Corsair, a Corsair — odesłanie wyników bez udziału procesora CPU hosta. Każda karta Corsair zawiera jeden fragment głowicy LM; jak podała d-Matrix, takie rozwiązanie skróciło czas jej przetwarzania dziesięciokrotnie.

Firma podała, że przy rozmiarze partii wynoszącym 64 system wykonuje pełny krok dekodowania dla 64 użytkowników w 2,46 milisekundy przy długości kontekstu 129. d-Matrix poinformowała również, że Corsair może skalować konfiguracje dekodowania spekulatywnego i AFD do modeli liczących setki miliardów parametrów; jako docelowe modele wymieniła GLM 5.x i Kimi K3.

Naukowcy d-Matrix zaprezentują demonstrację AFD na żywo na stoisku firmy OCP C82 14 października 2026 r. o 11:00 i 14:00 czasu pacyficznego (PT), a także 15 października 2026 r. o 11:00 czasu pacyficznego (PT).