Supermicro rakentaa ja myy SambaNovan tekoälyn päättelyjärjestelmiä

SambaNova ja Supermicro ilmoittivat 3. marraskuuta 2026, että Supermicro rakentaa, myy ja tukee tekoälyn päättelyjärjestelmiä, joissa työ jaetaan NVIDIA-grafiikkasuorittimien ja SambaNovan SN50-uudelleenkonfiguroitavien dataflow-yksiköiden kesken. Yhteistyön alkuvaiheen suunnitelmana on käyttää 10 000 SN50-piiriä.

Järjestelmät liitetään Supermicron Data Center Building Block Solutions -tuotevalikoimaan. Supermicro vastaa niiden integroinnista, testauksesta, toimituksesta ja tuesta, mukaan lukien paikan päällä tarjottava palvelu. SambaNovan insinöörit puolestaan saavat mallit toimimaan SN50:llä ja virittävät ne sen mukaisiksi sekä avustavat asiakaskäyttöönotossa. Järjestely yhdistää siis palvelinten valmistus- ja palvelukanavan mallien suunnittelutyöhön, jota heterogeenisen kiihdytinkokoonpanon käyttöönotto edellyttää.

Miksi päättely jaetaan grafiikkasuorittimien ja RDU-yksiköiden kesken

Arkkitehtuuri jakaa päättelyn kahteen vaiheeseen. Prefill-vaiheessa NVIDIA-grafiikkasuorittimet käsittelevät saapuvan kehotteen, mikä on laskentatehoa vaativa tehtävä. SN50-RDU-yksiköt hoitavat dekoodauksen, jossa vastaus tuotetaan yksi token kerrallaan ja joka on muistiriippuvainen vaihe. SambaNovan mukaan kummankin vaiheen osoittaminen siihen sopivalle laitteistolle tekee päättelystä nopeampaa ja tehokkaampaa kuin kummankaan laitteistotyypin käyttö yksinään.

SambaNovan oheisessa tiedotteessa agenttipohjainen tekoäly nostetaan keskeiseksi käyttötapaukseksi: agentit voivat tehdä suurille kielimalleille tuhansia kutsuja, joista kukin voi kestää minuutteja, ja agenttipohjaiset työkuormat kuluttavat suurimman osan ajastaan dekoodaukseen. Tällöin tokenien tuottaminen on agentin seuraavan toiminnon kannalta kriittisellä polulla. Siksi yritykset käsittelevät dekoodausta erillisenä infrastruktuuriongelmana: lisätyillä RDU-yksiköillä pyritään nopeuttamaan vastausten tuottamista samalla, kun grafiikkasuorittimet jatkavat kehotteiden käsittelyä.

SN50:n rakenne

SN50 on SambaNovan viidennen sukupolven RDU. Sen virallisessa teknisessä esitteessä kerrotaan, että se valmistetaan TSMC:n 5 nanometrin prosessilla ja siinä on 432 Mt sirun sisäistä SRAM-muistia sekä 64 Gt HBM2E-muistia. DDR5 muodostaa kolmannen muistikerroksen. Piiri käyttää SambaNovan Reconfigurable Dataflow Architecture -arkkitehtuuria, ja se on suunniteltu muistiriippuvaiseen dekoodausvaiheeseen eikä yleisiin kiihdytintyökuormiin.

SambaNovan tuotedokumentaation mukaan rakenne nopeuttaa päättelyä, parantaa läpimenokykyä ja tehostaa energiankäyttöä. Toiminnot ketjutetaan jatkuvaksi tietovirraksi, mikä vähentää toistuvia muistisiirtoja ja työn uudelleenkäynnistämisestä kussakin vaiheessa aiheutuvaa kuormitusta. Muistikerroksilla on myös omat tehtävänsä: SRAM säilyttää usein käytetyn paikallisen datan lähellä laskentaa, HBM2E sisältää aktiivisessa käytössä olevat mallipainot ja usein käytetyn KV-välimuistin, ja DDR5:een tallennetaan kehotevälimuisteja, suurempia mallikokoelmia ja harvoin käytettyä KV-välimuistia.

SambaNovan mukaan SN50 voidaan skaalata useaan palvelintelineeseen sijoitetun, enintään 256 RDU-yksikön kokonaisuudeksi. Se on suunniteltu vuorovaikutteisille agenteille, koodausavustajille ja muille monivaiheisille päättelytyökuormille, myös sovelluksille, jotka vaihtavat useiden mallien välillä. Usean telineen rakenne vastaa yhteistyön telinetason suunnitelmaa: Supermicro integroi RDU-yksiköt ja grafiikkasuorittimet järjestelmiin, jotka se validoi ja joita se tukee.

Jakelukanavan käyttöönotto ja datakeskusten rajoitteet

Asiakkaat voivat hankkia SN50-RDU-yksiköitä grafiikkasuorittimien rinnalle Supermicron kautta samasta jakelukanavasta kuin muunkin tekoälyinfrastruktuurinsa. Käyttöönotto alkaa NeoClouds- ja suvereenipilvipalveluista, minkä jälkeen se laajenee yrityksiin, jotka käyttävät tekoälyä omissa datakeskuksissaan. Vaiheittainen eteneminen alkaa pilvipalveluntarjoajista ja tuo myöhemmin saman yhdistetyn GPU-RDU-arkkitehtuurin yritysten omiin tiloihin.

Sähkönsyöttö ja jäähdytys ovat käyttöönoton kannalta keskeisiä tekijöitä. Yritysten mukaan SN50 pystyy palvelemaan suuria malleja suurella nopeudella ja läpimenokyvyllä ilman erittäin suurta palvelintelineen tehotiheyttä, mikä helpottaa järjestelmien käyttöönottoa nykyisissä datakeskuksissa. Tällainen tehonkulutusprofiili tukee yhteistyön jälkiasennusratkaisua: RDU-yksiköillä on tarkoitus lisätä kapasiteettia tiloissa, joita operaattorit jo käyttävät.

Yritysten mukaan dekoodausta varten lisätyt RDU-yksiköt voivat kasvattaa päättelykapasiteettia ilman, että joudutaan odottamaan sähkönsyötön ja jäähdytyksen rajoittamaa uudisrakentamista, ja samalla ne pidentävät käytössä olevien grafiikkasuorittimien käyttöikää. Ehdotuksessa lisäkapasiteetti kytkeytyy siis tiloihin ja grafiikkasuorittimiin, jotka operaattoreilla on jo käytössään.

SambaNova ja Supermicro odottavat yhteistyön mahdollistavan vuonna 2027 huomattavasti suuremman tehokkaan päättelykapasiteetin kuin muuten olisi mahdollista. Suunnitelman merkitys perustuu dekoodaukseen erikoistuneen laitteiston ja Supermicron käyttöönottokanavan yhdistämiseen. Sähkönsyöttöä ja jäähdytystä koskevien rajoitteiden kanssa työskenteleville operaattoreille avoimeksi kysymykseksi jää, pystytäänkö suunnitelluilla RDU-asennuksilla lisäämään nykyisten tilojen päättelykapasiteettia hyödyllisesti siinä mittakaavassa, jota yritykset ennakoivat.