AI-mallit ja alustat

CoreWeave yhdistää satoja Rubin‑GPU:ta yhdeksi monirakenteiseksi klusteriksi

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

CoreWeave 16. syyskuuta 2026 julisti monirakenteisen NVIDIA Vera Rubin NVL72:n käyttöönotosta CoreWeave Cloudissa, sijoittaen satoja NVIDIA Rubin -GPU:ta yhdeksi laajennettavaksi klusteriksi agenttisen tekoälyn käyttöön. Yritys esitteli myös kaksi uutta ominaisuutta CoreWeave AI Object Storage -palvelussa: alueiden välinen kirjoituskiihdytys ja uusi Archive‑tasoinen tallennus.

Chen Goldberg, CoreWeaven tuote- ja tekniikkajohtaja, totesi, että CoreWeave oli ensimmäinen AI‑pilvipalveluntarjoaja, joka vahvisti ja otti käyttöön Vera Rubin NVL72:n sekä osoitti, että hyllytasoinen arkkitehtuuri voi toimia luotettavana, korkean suorituskyvyn pilvipalveluna. “Monirakenteisen Vera Rubin -arkkitehtuurin avulla yhdistämme satoja Rubin‑GPU:ta yhdeksi laajennettavaksi klusteriksi,” Goldberg sanoi ja lisäsi, että asiakkaille, jotka rakentavat agenttista tekoälyä, tämä tarkoittaa suurempaa mittakaavaa, nopeampaa iterointia ja korkeampaa tuottavuutta, kun mallit ja agentit oppivat ja kehittyvät jatkuvasti.

Monirakenteinen arkkitehtuuri ja käyttöönotto

Yksi Vera Rubin NVL72 -hylly yhdistää 72 Rubin‑GPU:ta 36 Vera‑CPU:hun, NVIDIA NVLink 6:een, ConnectX-9 SuperNIC:ihin ja BlueField-4 DPU:ihin. Monirakenteisella Vera Rubin NVL72:lla CoreWeave yhdistää satojen kiihdyttimien hyllyt NVIDIA Spectrum‑X Ethernet -verkon avulla yhdeksi laajennettavaksi klusteriksi. CoreWeave kertoi, että järjestelmä tarjoaa kapasiteetin suurempien mallien kouluttamiseen, vaativampien inferenssityökuormien palvelemiseen ja vahvistusoppimisen skaalaamiseen.

Yrityksen mukaan koulutus- ja inferenssityötehtävien suorittaminen satojen Rubin‑GPU:iden yli on merkittävää monivaiheisille agenttisille työkuormille, jotka ovat herkkiä tietojen hakulatenseille, koska viiveet voivat kumuloitua toistuvien mallikutsujen ja työkalujen käytön aikana.

CoreWeave kertoi, että se ottaa useita hyllyjä käyttöön yhtenä järjestelmänä automatisoidun hyllyn elinkaaren hallinnan, järjestelmätason validoinnin ja verkon skaalaamisen avulla. CoreWeave Mission Control automatisoi hyllyn asennuksen Rack LifeCycle Controllerin kautta, ja asennustehtäviin sisältyy laitteiston tunnistus, laiteohjelmistopäivitykset, validointi, virransyöttö ja jäähdytys; Racky hoitaa hyllytason hallinnan, kun taas Valvey toteuttaa jäähdytystoimenpiteet. Ennen kuin hylly siirtyy tuotantoon, CoreWeave yhdistää NVIDIA:n kenttadiagnostiikan täyden hyllyn työkuormatestausten kanssa ja vertaa jokaisen tuloksen, ja vain ne hyllyt, jotka täyttävät järjestelmän vaatimukset, siirtyvät tuotantoon.

Verkkopuolella jokainen Rubin‑GPU sisältää kaksi ConnectX-9 SuperNIC:iä, tarjoten 1,6 Tb/s laajennettavaa yhteyttä per GPU monitasoisilla, monirail‑poluilla. CoreWeave kertoi, että suunnittelu tukee noin 128 000 GPU:ta per raita ei‑estävällä kankaalla, ja että modulaarinen topologia mahdollistaa hyllyjen lisäämisen ilman kankaan uudelleensuunnittelua jokaisessa laajennuksessa.

AI‑objektitallennus eri alueilla

CoreWeave AI Object Storage tuo dataa lähemmäs työkuormia LOTA:n (Local Object Transport Accelerator) avulla, joka toteuttaa hallitun välimuistin jokaisella CoreWeave Kubernetes Service -solmulla. CoreWeave kertoi, että LOTA tarjoaa lukuja paikallisilla NVMe-nopeuksilla, vähentää latenssia 8‑kerran verrattuna perinteisestä tallennusklusterista, ja tarjoaa jopa 7 GB/s läpimenoa per GPU skaalautuen lineaarisesti klustereiden kasvaessa.

Uusi alueiden välinen kirjoituskiihdytys mahdollistaa tarkistuspisteiden paikallisen kirjoittamisen alueella, paikallisella latenssilla, samalla kun data migraatioituu taustalla toiseen etäalueeseen. Koska sovellus näkee yhden säiliön, koodimuutoksia ei tarvita, ja käyttöoikeus- ja säilytyssäännöt toimivat samalla tavalla riippumatta siitä, mistä alueesta kirjoitus on peräisin. CoreWeave kertoi, että ominaisuus minimoi koulutuksen tauon ja poistaa tarpeen kopioida tai siirtää dataa manuaalisesti alueiden välillä.

Toinen lisäys, Archive, on edullisempi tallennustaso, jossa ei ole maksua datan hakemisesta, aikaisesta poistamisesta tai lukemisesta tasolta. CoreWeave kuvasi sen rakennettuna dataa varten, jonka tiimit muuten poistaisivat, kuten tarkistuspisteen lähes onnistuneesta suorituksesta, datasetin, jota tarvitaan tuloksen toistamiseen, tai malliversion, josta joku saattaa kysyä kuuden kuukauden kuluttua.

“Datatasetimme kattavat useita alueita, emmekä voi sallia, että koulutusaikataulumme määräytyy alueiden välisten hakuviiveiden mukaan,” sanoi Cécile Robert-Michon, Coheren sisäisen infrastruktuurin johtaja. “CoreWeave AI Object Storage tarjoaa meille yhtenäisen dataset-jalanjäljen eri alueilla, lukuja välimuistattuna paikallisesti, joten mikään ei odota verkossa.”

NVIDIA Vera Rubin NVL72 -tekniset tiedot

NVIDIA:n Vera Rubin NVL72 -tuotesivu kuvaa järjestelmää hyllytasoisena agenttisena AI‑supertietokoneena, joka on rakennettu kolmannen sukupolven MGX NVL72 -hyllysuunnittelun pohjalta ja on nyt täydessä tuotannossa. NVIDIA:n julkaisemissa teknisissä tiedoissa on 20,7 TB HBM4‑GPU-muistia, jonka kaistanleveys on 1 400 TB/s, 216 TB/s NVLink‑kaistanleveyttä kuudennen sukupolven NVLinkin yli, ja 3 600 PFLOPS harvaista NVFP4‑inferenssilaskennasta per hylly. Hyllyn 36 Vera‑CPU:ta tarjoavat 3 168 räätälöityä Olympus‑ydintä ja jopa 54 TB LPDDR5X‑muistia.

NVIDIA toteaa, että Vera Rubin NVL72 kouluttaa mixture‑of‑experts -malleja neljänneksen GPU‑määrällä verrattuna sen GB200 NVL72:een, ja tarjoaa inferenssin kymmenen prosentin kustannuksella per miljoona tokeni erittäin interaktiiviselle, syvälle päättelyyn perustuvalle agenttiselle AI:lle, jopa kymmenen kertaa enemmän tokenia megawattia kohden. Sivun alaviitteet huomauttavat, että inferenssiluvut voivat muuttua ja että koulutusvertailu on ennakoitu suorituskyky.

Ilmoituksessa CoreWeave viittasi myös suorituskykytietoihinsa, mainiten ennätykselliset MLPerf‑vertailutulokset inferenssissä ja koulutuksessa sekä sen aseman ainoana AI‑pilvipalveluna, joka on saavuttanut ylimmän Platinum‑sijoituksen sekä SemiAnalysis ClusterMAX 1.0:ssa että 2.0:ssa. Yritys myös mainitsi #1‑sijoitukset inferenssinopeudessa ja hinta‑suorituskyvyssä Moonshot AI:n Kimi K2.6‑ ja Kimi K2.7 Code -malleille itsenäisessä inferenssivertailussa, jonka Artificial Analysis on toteuttanut.

Theo Nash on tekoälygeneroitu asiantuntija Unite.AI:ssa, joka kattaa tekoälyinfrastruktuurin, laskennan ja modernin tekoälyä voimistavat laitteistojärjestelmät. Hänen työnsä keskittyy suurten tekoälykuormien taustalla oleviin teknisiin perusteisiin, mukaan lukien datakeskukset, kiihdyttimet, verkkotiet ja ohjelmistopinot, jotka sitoutuvat niihin.
Analyytisesta ja insinöörijohtoisesta näkökulmasta Theo tarkastelee, miten GPU:n, mukautetun piirin, muistiarkkitehtuurien ja hajautettujen järjestelmien edistysaskeleet mahdollistavat uusia tekoälymallien sukupolvia. Hän kiinnittää erityistä huomiota suorituskyky-yhteyksiin, energiatehokkuuteen, skaalautuvuuteen ja käytännön rajoituksiin, jotka muokkaavat tekoälyinfrastruktuurin todellista käyttöönottoa.
Artikkelit, joita Theo Nash on kirjoittanut, on tekoälygeneroitu ja Unite.AI:n toimittajatiimi on tarkastanut ne varmistaakseen teknisen tarkkuuden, selkeyden ja vastuullisen kattavuuden nopeasti kehittyvässä tekoälylaskennan maisemassa.