Thinking Machines Lab solmii 65 miljoonan dollarin vuotuisen sopimuksen Crusoe Cloud Inference -palvelusta

Crusoe ja Thinking Machines Lab julkistivat 65 miljoonan dollarin vuotuisen sopimuksen 23. syyskuuta 2026, voidakseen tehostaa inferenssiä laboratorion avoimille malleille Crusoe Cloudissa, ja tuotantotyöt käsitellään erillisessä asiakkaalle varatussa NVIDIA HGX B200 -järjestelmäasennuksessa Crusoe Managed Inference -palvelun kautta.

Ilmoitus, jonka julkaisupaikaksi on merkitty San Francisco, toteaa, että Thinking Machines Lab tarjoaa laajan valikoiman tuotantotyökuormia, mukaan lukien sen Inkling-mallit, GLM 5.2 ja 5.3 sekä omat hienosäädetyt varianttinsa, erillisessä asiakkaalle varatussa Tailored Deployment -asennuksessa NVIDIA HGX B200 -järjestelmillä, jotka on yhdistetty NVIDIA Quantum-2 InfiniBand -verkkoon. Crusoe kuvaili asennuksen suunnitelluksi suuren läpimenon ja kustannustehokkaan skaalautuvan palvelun mahdollistajaksi.

Crusoe ajaa ja tukee klusteria suoraan Tailored Deployment -ratkaisuna, jonka tiedotteessa kuvataan erilliseksi asiakkaalle varatuksi, benchmarkatuksi ja SLA-takuulla varustetuksi päätepisteeksi, jonka tarkoituksena on tarjota Thinking Machines Labille hinta‑suorituskykysuhdetta ja kapasiteettivaraa skaalautumiseen ilman oman inferenssiohjelmistopinon hallintaa. Tiedotteessa Crusoe kuvaa itseään alan ensimmäiseksi vertikaalisesti integroiduksi AI‑infrastruktuuripalveluntarjoajaksi.

Hallinnoidut inferenssivaihtoehdot ja MemoryAlloy‑moottori

Crusoe Managed Inference -tuotesivulla yritys esittelee Tailored Deployments -ratkaisut korkeimpana optimointitasonaan: asiakas tuo mallin ja määrittelee vaatimukset, kun Crusoe hoitaa loput, tarjoten erillisen asiakkaalle varatun, benchmarkatun päätepisteen, joka on suunnattu omistusoikeudellisille malleille, räätälöidylle inferenssien optimoinnille ja SLA-takuulla varustetulle suorituskyvylle.

Sivu kuvaa myös Serverless Inference -palvelun, avoimen lähdekoodin mallien käyttöön perustuvan kulutuksen täysin hallinnoidun API:n kautta Crusoe Intelligence Foundryssa, sekä Self-Serve Deployments -ratkaisut, jotka ovat nyt yleisesti saatavilla; ne suorittavat malleja Foundryssa inferenssin optimoimalla läpimenoa tai reagointikykyä, mukaan lukien yrityksen Serverless Fine-Tuning -ominaisuudella räätälöidyt mallit. Foundry esitetään kehittäjäalustana mallien löytämiseen, API-avainten luomiseen, suorituskykymittareiden seurantaan ja hallittujen päätepisteiden käyttöönottoon.

Crusoe kertoo, että sen inferenssi­moottori toimii MemoryAlloyn avulla, klusterille suunniteltuna muistin yhdysverkkona, joka säilyy solmujen välillä ja mahdollistaa älykkään reitityksen ylimääräisen esitäytön laskennan poistamiseksi. Yritys raportoi jopa 9,9‑kertaisesta nopeudesta ensimmäisen tokenin saamisessa ja 5‑kertaisesta korkeammasta läpimenosta spekulatiivista dekoodausta ja dynaamista ryhmittelyä käyttäen; luvut on benchmarkattu vLLM:n kanssa, joka palvelee Llama-3.3-70B -mallia neljän solmun asennuksessa.

Inkling- ja GLM-mallit

Sopimuksessa nimetyt työkuormat sisältävät laboratorion oman Inkling-perheen. Thinking Machines Lab julkaisi Inklingin 15. heinäkuuta 2026, kuvaillen sitä avoimien mallipainojen Mixture-of-Experts-transformerina, jossa on 975 miljardia kokonaisparametria ja 41 miljardia aktiivista parametria, ja joka tukee enintään 1 miljoonaa tokenia kattavaa konteksti-ikkunaa. Laboratorion mukaan Inkling esikoulutettiin 45 biljoonan tokenin datalla, joka sisälsi tekstiä, kuvia, ääntä ja videota, ja hanke oli laboratorion ensimmäinen suuri koulutuskierros, joka toteutettiin NVIDIA GB300 NVL72 -järjestelmissä.

Inklingin rinnalla laboratorio esitteli Inkling-Smallin, kevyemmän 276 miljardia parametria sisältävän Mixture-of-Experts -mallin, jossa on 12 miljardia aktiivista parametria ja joka tarjoaa erilaisen suorituskyky‑ ja viive‑tasapainon. Inklingin täydet mallipainot on julkaistu Hugging Face-palvelussa, sekä alkuperäisenä tarkistuspisteenä että NVFP4‑tarkistuspisteenä tehokasta inferenssiä varten NVIDIA Blackwell -järjestelmissä, ja malli on saatavilla hienosäätöön Tinkerissä, laboratorion mallien räätälöintialustassa, jossa on 64 K ja 256 K kontekstipituusvaihtoehdot.

Sopimus asettaa myös GLM 5.2:n ja 5.3:n laboratorion tuotantotyökuormiin palvelussa. Crusoe Managed Inference -mallihubi listaa Z.ai:n GLM 5.3:n, jossa on 753 miljardia parametria ja 1 000 000 tokenin konteksti, sekä GLM 5.3 Flashin, jossa on 320 miljardia parametria; molemmat ovat saatavilla Serverless Inference -palvelussa.

Johtajien lausunnot ja suunniteltu laajentuminen

„Crusoe Managed Inference siirsi meidät arvioinnista tuotantoon nopeasti ja täytti ne standardit, joita vaadimme omilta järjestelmiltämme, tarjoten meille skaalautuvuutta ja taloudellista tehokkuutta, jotta voimme investoida uudelleen tutkimukseen, joka on toimintamme ytimessä“, sanoi Myle Ott, ML-infrastruktuurijohtaja Thinking Machines Labissa.

Erwan Menard, Crusoe Cloudin tuotehallinnan SVP, totesi, että Thinking Machines Labilla on kehittynyt insinööritiimi, joka odottaa kumppaneiden täyttävän sen korkean tason kasvun myötä. Hän sanoi, että Crusoe rakensi Managed Inference -palvelun tarjoamaan kustannustehokasta, luotettavaa infrastruktuuria, inferenssiä ja mallien elinkaaren työkaluja palveluna, jotta yritykset voivat ajaa valitsemiaan malleja tuotannossa mittakaavassa.

Yritykset ilmoittivat myös suunnittelevansa laajentumista eräinferenssiin suurten synteettisten datamassojen tuottamiseksi, mikä tiedotteessa esitetään inferenssin muuttamisena tutkimuksen pyöriväksi voimaksi. Crusoe kertoi, että Thinking Machines Lab liittyy asiakaslistaan, joka on nostanut Crusoe Managed Inferencen sopimuksiin perustuvan vuotuisen toistuvan liikevaihdon (ARR) yli 100 miljoonaan dollariin alle vuodessa palvelun lanseerauksesta.