D-Matrix esittelee Squadronin usean telineen tekoälyn päättelyklusterit

d-Matrix julkisti Squadronin, datakeskusmittakaavan tekoälyn päättelyyn tarkoitetun usean telineen järjestelmäkokonaisuuden, 12. lokakuuta 2026. Yhtiön perustaja ja toimitusjohtaja Sid Sheth esitteli klusterit OCP Global Summitin avajaispäivän pääpuheenvuorossaan San Josessa. Klusterit skaalautuvat 16 SquadRack-telineeseen ja enintään 1 024 Corsair-XPU-yksikköön, ja järjestelmiä toimitetaan jo ensisijaisille asiakkaille.

Squadron kehitettiin yhteistyössä Aristan, Broadcomin ja Supermicron kanssa. d-Matrix on jo ottanut järjestelmän käyttöön Arizonan datakeskuksessaan sisäisessä tutkimus- ja kehitystyössä, ja klustereita toimitetaan ensisijaisille asiakkaille heidän omiin datakeskuksiinsa asennettaviksi. Squadronin perusosat, yhtiön Corsair-palvelimet ja SquadRack-telinetason järjestelmät, ovat yleisesti saatavilla. d-Matrixin mukaan Squadron tarjoaa megawattien verran päättelylaskentatehoa, ja klusterit on suunnattu tekoälylaboratorioille, yrityksille ja suvereeneille organisaatioille, jotka käyttävät viiveherkkiä sovelluksia esimerkiksi koodaukseen, henkilökohtaisiin agentteihin, kyberturvallisuuteen ja suurtaajuuskaupankäyntiin.

Sheth kuvaili julkistusta d-Matrixin kehitysaskeleeksi erikoistuneesta siruyrityksestä datakeskusten laskentainfrastruktuurin tarjoajaksi. ”Asiakkailla on nyt käytettävissään maailman energiatehokkain datakeskusmittakaavan päättelyinfrastruktuuri erittäin pienen viiveen tekoälysovellusten rakentamiseen ja nopeaan kasvattamiseen”, hän sanoi yhtiön tiedotteessa.

Supermicron toimitusjohtaja Charles Liang sanoi yhteistyön osoittavan, että Supermicro pystyy toimittamaan tekoälyteknologioita Data Center Building Block Solutions -ohjelmansa kautta. Ohjelman ansiosta asiakkaat voivat ottaa käyttöön tehokkaan ja suorituskykyisen päättelyinfrastruktuurin nopeammin edistyneitä tekoälykuormia ja heterogeenisiä laskentaympäristöjä varten.

Telinekokoonpanot ja avoimiin standardeihin perustuvat yhteydet

Squadron on saatavilla useina kokoonpanoina, jotka skaalautuvat enintään 16 SquadRack-telineeseen. Kukin niistä on yksi kahdeksan palvelimen teline, ja telineet voidaan yhdistää yhdeksi integroiduksi klusteriksi, jossa on enintään 1 024 Corsair-XPU-yksikköä. Klusterit yhdistetään toisiinsa d-Matrixin JetStream-verkkokorteilla, ja niiden mukana toimitetaan yhtiön Aviator-ohjelmisto. Koska järjestelmät ovat ilmajäähdytteisiä ja perustuvat alan standardeihin, asiakkaat voivat d-Matrixin mukaan asentaa ne jo käytössä oleviin datakeskuksiinsa ilman nestejäähdytystä tai uusia rakennushankkeita. Asiakkaat voivat ottaa samalla arkkitehtuurilla käyttöön yhden Corsair-palvelimen, kokonaisen SquadRack-telineen tai usean telineen Squadron-klusterin.

Yhtiön telinetason tuotesivulla esitellään neljä viitekokoonpanoa. Yhden palvelimen aloitustelineessä on kahdeksan korttia ja 16 Gt suorituskykymuistia, jonka nopeus on 1 200 TB/s, enintään 2 Tt kapasiteettimuistia ja alle 10 kW:n tehonkulutus. Kahden palvelimen aloitustelineessä on kaksi palvelinta ja 16 korttia, joissa on yhteensä 32 Gt suorituskykymuistia. Sen nimellisteho on 10–30 kW, ja sitä voidaan laajentaa Ethernet-yhteyksillä JetStreamin kautta. Puolen telineen monipalvelinkokoonpanossa on neljä palvelinta ja 32 korttia, joissa on yhteensä 64 Gt suorituskykymuistia. Sen nimellisteho on 30–100 kW. Yrityskäyttöön valmis täysi teline sisältää kahdeksan palvelinta ja 64 korttia, joissa on yhteensä 128 Gt suorituskykymuistia. Suorituskykytilassa sillä voidaan ajaa malleja, joissa on enintään 100 miljardia parametria.

Yhteyksissä d-Matrix käyttää PCIe-väylää yhden solmun sisäiseen skaalaukseen ja alan standardien mukaista Ethernetiä telineen sisäiseen skaalaukseen sekä telineiden väliseen laajentamiseen. Yhtiö kuuluu UALink- ja UEC-alan konsortioihin, jotka kehittävät seuraavan sukupolven sisäisen ja ulkoisen skaalauksen standardeja.

SquadRackin ja Corsair-alustan tausta

Squadron laajentaa d-Matrixin telinetason tuoteperhettä, jonka yhtiö esitteli ensimmäisen kerran nimellä SquadRack 14. lokakuuta 2025 edellisessä OCP Global Summitissa jälleen yhdessä Aristan, Broadcomin ja Supermicron kanssa. Tuolloin d-Matrix kuvaili SquadRackia alan ensimmäiseksi nimenomaan tekoälyn päättelyyn suunnitelluksi telinetason ratkaisuksi ja kertoi sen tarjoavan jopa kolminkertaisen kustannus-suorituskyvyn, kolminkertaisen energiatehokkuuden ja jopa kymmenen kertaa nopeamman tokenien generoinnin perinteisiin kiihdyttimiin verrattuna.

Vuoden 2025 tiedotteen mukaan kahdeksan solmun SquadRack pystyy ajamaan generatiivisia tekoälymalleja, joissa on enintään 100 miljardia parametria. Standardien mukaisilla Ethernet-yhteyksillä järjestelmää voidaan laajentaa satoihin solmuihin usean telineen alueella. Lueteltuihin komponentteihin kuuluvat Corsair-päättelykiihdyttimet, JetStream-IO-kiihdyttimet, Supermicron X14 AI Server Platform, Broadcomin PCIe-kytkimet yhden solmun sisäiseen skaalaukseen, JetStream-verkkokortteihin yhdistetyt Aristan lehtikytkimet sekä Aviator-ohjelmistopino.

Molempien järjestelmien ytimessä oleva Corsair-alusta perustuu sirulevyarkkitehtuuriin, jonka tarkoituksena on kasvattaa SRAM-muistia perinteisten rajojen yli. Se voidaan integroida olemassa olevaan PCIe-pohjaiseen infrastruktuuriin, ja se tukee malleja, joissa on enintään 100 miljardia parametria. d-Matrixin 3DIMC-rakenteessa DRAM-muisti pinotaan suoraan logiikkasirun päälle, ja Aviator-ohjelmistopino on suunniteltu laitteiston kanssa yhdessä kääntäjästä suoritusympäristöön asti.

Huomio- ja eteenpäinsyöttöverkon eriyttämisen esittely

Sheth kertoi pääpuheenvuorossaan myös, että d-Matrix on toteuttanut huomio- ja eteenpäinsyöttöverkon eriyttämisen eli AFD:n käyttämällä Squadron-järjestelmää yhdessä GPU-palvelinten kanssa. Yhtiön mukaan mallin asiantuntijaverkkojen ja eteenpäinsyöttöverkon suorittamisen siirtäminen Corsair-telineille tuotti 845 tokenia sekunnissa käyttäjää kohti. Heterogeeninen kokoonpano saavutti yhteensä 20 415 tokenin sekuntikohtaisen läpimenon 64 samanaikaisella käyttäjällä. d-Matrixin mukaan se on ensimmäinen, joka on osoittanut AFD:n toimivan tällä hetkellä saatavilla olevalla piisirulla.

Testikokoonpanoa käsittelevä tekninen lisäkirjoitus, joka julkaistiin 12. lokakuuta 2026, kuvaa testin asetelmaa. Työkuormana on GPT-OSS-20B, asiantuntijamalliin perustuva malli, jossa asiantuntijoiden osuus on 19,12 miljardia mallin kaikkiaan 20,9 miljardista parametrista. Kussakin päättelyajossa käytössä on 32 asiantuntijasta neljä eli noin 3,6 miljardia parametria. Neljän bitin tarkkuudella nämä asiantuntijat mahtuvat kahdeksan kortin Corsair-palvelimelle, jossa on 16 GB SRAM-muistia. 80 GB:n Nvidia H100 -grafiikkasuoritin huolehtii huomiomekanismista, upotuksista, KV-välimuistista ja asiantuntijoiden reitityksestä, kun taas Corsair suorittaa asiantuntijalaskennan. Eräkoon ollessa 64 kaksi H100-grafiikkasuoritinta käyttää kahdeksaa Corsair-kiihdytintä.

d-Matrixin mukaan Corsairin SRAM-muistin kaistanleveys on 150 TB/s. Yhtiö kuvaa sitä 45 kertaa H100:n HBM3-muistin kaistanleveyttä suuremmaksi ja noin yhdeksän kertaa HBM4:n tarjoamaa 18 TB/s:n kaistanleveyttä suuremmaksi. Yhtiö kertoi, että syöttöverkkoon liittyvän laskennan siirtäminen Corsairille lyhensi aikaa tulostokenia kohti: yhden H100:n ja 1K:n kontekstipituuden tapauksessa aika laski 2,59 millisekunnista 1,28 millisekuntiin, eli noin 50 prosenttia.

Kirjoituksessa kuvataan 24 edestakaista siirtoa grafiikkasuorittimen ja Corsairin välillä mallin 24 kerrosta varten sekä yksi lisäsiirto LM-päätä varten. Grafiikkasuoritin lähettää JetStream-yhteyksien kautta 2 880-ulotteisen piilotilan vektorin ja asiantuntijoiden kohdennetut osoitukset. Yhteydet tarjoavat klusteria kohti 400 Gb/s:n Ethernet-kaistanleveyden. JetStreamin laitealoitteisen tiedonsiirron ansiosta grafiikkasuoritin voi kirjoittaa suoraan Corsairin muistiin ja Corsair lähettää tulokset takaisin ilman isäntäkoneen suorittimen osallistumista. Jokaisella Corsair-kortilla on yksi LM-pään osio; d-Matrixin mukaan tällä järjestelyllä LM-pään käsittelyaika lyheni kymmenesosaan.

Yhtiön mukaan järjestelmä suorittaa eräkoon ollessa 64 kaikkien 64 käyttäjän dekoodausvaiheen 2,46 millisekunnissa, kun kontekstipituus on 129. d-Matrix kertoi myös, että Corsairin spekulatiivisen dekoodauksen ja AFD:n kokoonpanoja voidaan skaalata satoja miljardeja parametreja sisältäviin malleihin. Kohteiksi yhtiö mainitsi GLM 5.x:n ja Kimi K3:n.

d-Matrixin tutkijat esittelevät AFD-demonstraation suorana yhtiön OCP-osastolla C82 14. lokakuuta 2026 klo 11 ja 14 PT sekä 15. lokakuuta 2026 klo 11 PT.