Lambda valmistelee avoimen lähdekoodin Run:ai-ajastinta Kubernetes-palveluun

Lambda kertoi 13. lokakuuta 2026 tekevänsä yhteistyötä NVIDIAn kanssa, jotta avoimen lähdekoodin Run:ai-GPU-ajastimesta tulisi ensiluokkainen hallinnoitu vaihtoehto Lambda Kubernetes Service (LKS) -palvelussa. Se on osa suunnitteilla olevaa ajastinkirjastoa, joka toimitetaan hallinnoituina komponentteina.

Suunnitelmasta kerrottiin Lambda-blogissa 13. lokakuuta 2026 julkaistussa kirjoituksessa. ”Suhtaudumme myönteisesti NVIDIAn päätökseen julkaista Run:ai avoimena lähdekoodina, ja työskentelemme sen eteen, että siitä tulee ensiluokkainen vaihtoehto Lambda Kubernetes Service (LKS) -palvelussa”, yhtiö totesi. Lambda kertoi tukeneensa Run:aita infrastruktuurissaan vuodesta 2022 lähtien ja kuvaili tavoitteekseen helpottaa Run:ain ominaisuuksien käyttöönottoa ja käyttöä LKS-palvelun kautta, jotta tiimit saisivat enemmän hallintaa GPU-kapasiteetin kohdentamiseen ja jakamiseen.

NVIDIA julkaisi ajastimen avoimena lähdekoodina vuonna 2025

NVIDIA ilmoitti julkaisevansa KAI Schedulerin, alun perin Run:ai-alustalla kehitetyn Kubernetes-natiivin GPU-ajastusratkaisun, Apache 2.0 -lisenssillä 1. huhtikuuta 2025 NVIDIAn ilmoituksen mukaan. NVIDIA kertoi, että ajastin paketoidaan ja toimitetaan edelleen osana NVIDIA Run:ai -alustaa.

NVIDIAn mukaan ajastin laskee oikeudenmukaisen osuuden arvot jatkuvasti uudelleen ja mukauttaa kiintiöitä ja rajoja reaaliajassa. Se yhdistää ryhmäajastuksen, GPU-resurssien jakamisen ja hierarkkiset jonot, ja sen sisäänrakennettu podgrouper liittää työkuormat automaattisesti Kubeflow’n, Rayn, Argon ja Training Operatorin kaltaisiin viitekehyksiin. NVIDIA kuvailee ajastuskiertoa, jossa Kubernetes-klusterin tilannekuva otetaan, kullekin jonolle lasketaan oikeudenmukainen osuus ansaitun kiintiön ja kiintiön ylityksen vaiheissa, minkä jälkeen nykyiset resurssivaraukset saatetaan laskettua tilannetta vastaaviksi kohdentamalla, yhdistämällä, ottamalla resursseja takaisin ja keskeyttämällä työkuormia.

GPU-resurssien jakaminen ja kiintiöihin perustuva ajastus Run:aissa

Lambda kuvaili AI-kehityksen GPU:ille asettamia vaihtelevia vaatimuksia: virheenkorjaus voi tarvita vain osan yhdestä GPU:sta, arviointitehtävät voivat jakautua lukuisiksi toisistaan riippumattomiksi töiksi, ja hajautettu koulutus voi vaatia kerralla suuren määrän tiiviisti toisiinsa kytkettyjä GPU:ita. Vaatimukset muuttuvat työn edetessä alkuvaiheen ideoista kokeiluihin ja tuotantoon. Kun pienille töille varataan kokonaisia GPU:ita, tutkijat joutuvat odottamaan käyttämättömän varatun kapasiteetin äärellä, ja tiimit voivat huomata kokeilujensa jäävän toisen ryhmän varaamien mutta toimettomien GPU:iden taakse.

Lambdan kuvauksen mukaan Run:ai on Kubernetesin GPU-ajastin, joka tarjoaa kaksi ominaisuutta Kubernetesin oletusajastimen lisäksi: GPU-resurssien jakamisen, jonka ansiosta yhdellä GPU:lla voi ajaa useampaa kuin yhtä työkuormaa, sekä kiintiöihin perustuvan ajastuksen, joka takaa kullekin tiimille tietyn resurssiosuuden ja sallii tiimien lainata toisiltaan käyttämätöntä kapasiteettia.

NVIDIAn GPU-osuuksia käsittelevässä dokumentaatiossa kerrotaan, että osituksessa GPU:n muisti jaetaan pienempiin osiin, joita useat työkuormat voivat käyttää. Kunkin työkuorman pyytämää muistimäärää valvotaan, jotta se ei voi ylittää pyyntöään eikä käyttää toisen työkuorman muistia. Jokainen podi saa oman erillisen virtuaalisen muistin osoiteavaruuden; dokumentaatiossa tätä järjestelyä kutsutaan ”loogiseksi GPU:ksi”.

Dokumentaation mukaan osituksessa GPU:n laskentatehoa jaetaan oletusarvoisesti NVIDIAn aikajakovuorottelulla. Usean GPU:n osituksessa samaa osuusmäärää käytetään usealla GPU:lla yhden solmun sisällä: esimerkiksi 8 GPU:ta käyttävälle mallille, joka tarvitsee 40 GB muistia kutakin GPU:ta kohti, voidaan varata 8 × 40 GB kunkin GPU:n koko muistin sijaan. Näin kullekin GPU:lle jää 40 GB muiden kyseisen solmun työkuormien käyttöön. Dokumentaatiossa huomautetaan, ettei GPU-ositusta ja Multi-Instance GPU (MIG) -tilaa voi käyttää samalla solmulla.

NVIDIAn ajastuksen käsitteitä käsittelevässä dokumentaatiossa kerrotaan, että jokainen uusi podi liitetään podiryhmään ja että ryhmäajastuksessa useasta podista koostuva työkuorma joko ajastetaan kokonaisuudessaan tai jää kokonaan odottamaan. Kullekin projektille ja osastolle luodaan oma ajoitusjono kussakin solmujoukossa. Ansaitut kiintiöt rajoittavat sitä, mitä työkuormia voidaan ajaa ilman keskeytysmahdollisuutta, kun taas kiintiön ylittäviä resursseja voivat käyttää vain keskeytettävissä olevat työkuormat. Ajastin laskee kullekin projektille ja osastolle oikeudenmukaisen osuuden arvon kussakin solmujoukossa. Jos jokin jono jää osuuttaan pienemmäksi ja toinen ylittää oman osuutensa, ajastin siirtää resursseja jonojen välillä tasapainon palauttamiseksi. Tässä yhteydessä voidaan keskeyttää kiintiön ylittäviä, keskeytettävissä olevia työkuormia. Ajastin voi myös ottaa resursseja takaisin projektien ja osastojen välillä, ja ylläpitäjät voivat määrittää kullekin solmujoukolle joko resurssien tiiviin pakkaamisen tai hajauttamisen strategian.

Solmujen automaattinen korjaus LKS-palvelussa

Lambda huomautti, että sekä resurssien jakaminen että työkuormien keskeyttäminen edellyttävät, että taustalla oleva GPU toimii kunnolla, eikä näin voida olettaa suuressa mittakaavassa: kiihdyttimet aiheuttavat XID-virheitä, NVLink- ja PCIe-yhteydet heikkenevät, muistirivit uudelleenkartoitetaan ja InfiniBand-porttien nopeus putoaa odotettua alemmas. Ajastin ei pysty erottamaan kunnossa olevaa GPU:ta vikaantuvasta, joten se jatkaa töiden lähettämistä solmuun, joka hylkää ne.

Lambda kertoi, että automaattinen korjaus on jo käytössä LKS-palvelussa. Yhtiön mukaan se valvoo jokaista solmua tällaisten vikojen varalta ja ilmoittaa niistä tavallisena Kubernetes-solmun tilaehtona. Kun ehto täyttyy, solmu estetään uusilta töiltä, käynnissä olevat työt siirretään pois solmusta ja vika joko korjataan automaattisesti tai siirretään laitteistokorjaukseen. Solmu palautetaan käyttöön vasta, kun se on tarkistettu uudelleen.

Lambdan hallitun Kubernetes-palvelun dokumentaatiossa palvelu kuvataan Kubernetes-ympäristöksi, joka tukee GPU:ita ja InfiniBandia (RDMA) ja tarjoaa kaikille 1-Click Clusterin solmuille yhteisen pysyvän tallennustilan. NVIDIA GPU Operator ja NVIDIA Network Operator on asennettu valmiiksi, ja palvelu tarkistaa jatkuvasti, että GPU:t, verkkoyhteydet ja tallennustila toimivat oikein. Lisäksi automaattinen solmujen korjaus tunnistaa laitteisto-ongelmia ja palauttaa solmut toimintakuntoon.

Hallittujen ajoittimien kirjaston tiekartta

Lambda kuvasi GPU-kuormituksen ajoituksen kerrokseksi, jonka se jättää tarkoituksella avoimeksi. Yhtiön mukaan LKS:n seuraava kehityssuunta on sen tekoälyohjelmistokirjasto: Kubernetesissa toimivia ajoittimia, kuten Slurm ja Run:ai, toimitetaan hallittuina komponentteina, jotka Lambda validoi omalla laitteistollaan ja pitää ajan tasalla. Näin asiakkaiden ei tarvitse koota niitä itse Helm-kaavioista. Run:ai on kirjaston keskeinen kohde, ja Lambda kertoi tekevänsä yhteistyötä NVIDIAn kanssa tämän toteuttamiseksi.

Lambdan mukaan avoimen lähdekoodin julkaisu mahdollistaa tämän lähestymistavan: yhtiö voi paketoida Run:ain, testata sitä ja ylläpitää sitä suoraan LKS:ssä sen sijaan, että antaisi asiakkaille joukon integrointiohjeita. Lambda kertoi tavoittelevansa käyttövalmista integraatiota, jossa se vastaa paketoinnista, validoinnista ja jatkuvasta ylläpidosta.

Omaa avointa tutkimusta tuottava Lambda kertoi arvostavansa mahdollisuutta tarkastella, mukauttaa ja kehittää käyttämiään työkaluja. Yhtiö kuvasi NVIDIAn päätöksen laajentavan tämän vapauden myös orkestrointiin.