AI-mallit ja alustat
vCluster tuo itsepalvelupilvet tekoälyn dedikoidulle laitteistolle
vCluster Platform v5.0 tarjoaa tekoälypilvipalvelujen asiakkaille itsepalvelukäyttöön dedikoituja palvelimia sekä palveluntarjoajan hyväksymiä Kubernetes-, Slurm- ja päättely-ympäristöjä.
Keskeiset kohdatvCluster Platform v5.0 antaa asiakkaiden provisionoida bare-metal-GPU-palvelimia ilman…
Näytä lisää
- vCluster Platform v5.0 antaa asiakkaiden provisionoida bare-metal-GPU-palvelimia ilman, että palveluntarjoajan henkilökunta käsittelee jokaista pyyntöä.
- Palveluntarjoajat hallitsevat, mihin konetyyppeihin ja malleihin kullakin vuokralaisella on pääsy, kun taas asiakkaat palvelevat itseään kiintiöiden puitteissa.
- Rajoitettu saatavuus tarkoittaa, että operaattoreiden on edelleen varmistettava yhteensopivuus ja mitattava, vähenevätkö tukitaakat todella.
vCluster Labs on julkaissut vCluster Platform v5.0:n rajoitetusti saataville. Se tarjoaa tekoälypilvipalvelujen tarjoajille tavan tarjota itsepalveluympäristöjä dedikoiduilla fyysisillä palvelimilla. Asiakkaat voivat ottaa käyttöön heille varattuun kapasiteettiin kuuluvia koneita, valita käyttöjärjestelmälevykuvan ja käynnistää Kubernetes-, Slurm- tai päättelyklustereita ilman, että heidän tarvitsee pyytää palveluntarjoajaa hoitamaan jokaista pyyntöä.
Marraskuun 19. päivän julkaisu vastaa käytännön ongelmaan, jonka fyysisten palvelinten kapasiteetin tarjoamiseen jo sitoutuneet operaattorit kohtaavat. Asiakas voi vuokrata joukon GPU-palvelimia mutta olla silti riippuvainen palveluntarjoajan käyttötiimistä, joka valmistelee koneet uusia projekteja varten. Uusi alusta siirtää osan näistä päätöksistä asiakkaalle, mutta laitteiston omistus ja kapasiteetin jakaminen jäävät palveluntarjoajalle.
Fyysisten koneiden yhteinen varanto
Julkaisu lisää fyysiset palvelimet vMetalin ylläpitämään varantoon. vMetal on alustan taustalla toimiva provisiointikomponentti. Operaattori jakaa kapasiteettia asiakkaille tai jättää sitä saataville tarpeen mukaan ja päättää sitten, mitä konetyyppejä, levykuvia ja klusterimalleja kukin asiakas voi käyttää. Alusta lisää yksittäisten projektien yläpuolelle selkeän asiakasrajan, jota kutsutaan tenantiksi. Kiintiöt rajoittavat, kuinka paljon kapasiteettia asiakas voi ottaa käyttöön, eivätkä asiakkaat näe varannosta kapasiteettia, jota niille ei ole myönnetty.
Asiakkaan alustatiimille tämä tarkoittaa, että useat sisäiset ryhmät voivat käyttää samaa sopimusta ilman, että kullekin täytyy hankkia palveluntarjoajalta uusi kapasiteettivaranto. Tutkimusryhmä voi ottaa käyttöön ajastetun Slurm-ympäristön samalla, kun sovellustiimi käyttää Kubernetesia päättelyratkaisun käyttöönottoon. Palveluntarjoaja päättää, mitä kokoonpanoja se tukee, ja asiakas voi valita niiden joukosta. Asiakkaan hallintamahdollisuudet riippuvat siis siitä, mitä sen kapasiteettivaranto sisältää ja mitä malleja palveluntarjoaja tarjoaa.
Yhtiön mukaan palveluntarjoajat voivat käyttää sen hallintakonsolia tai rakentaa saman taustalla olevan rajapinnan päälle oman brändinsä mukaisen portaalin. Ero on tärkeä operaattoreille, jotka myyvät infrastruktuuria omalla brändillään: käyttöliittymä voi olla erilainen ilman, että kullekin palvelutyypille tarvitsee rakentaa omaa varanto- ja provisiointijärjestelmää.
Dedikoitu laitteisto ja pilvimäinen käyttöönotto
Fyysisillä palvelimilla pääsee käyttämään laitteistoa suoraan sen sijaan, että käytössä olisi instansseja, jotka jakavat isäntäkoneen muiden asiakkaiden kanssa. Tämä voi houkutella ostajia, jotka haluavat ennalta tunnetun laitteistokokoonpanon, dedikoidun kiihdytinkapasiteetin tai hallinnan ohjelmistoympäristöön. Pelkkä fyysisen palvelimen varaaminen ei kuitenkaan vielä tarjoa käyttövalmista pilvipalvelua. Jonkun on edelleen asennettava käyttöjärjestelmä, määritettävä käyttöoikeudet ja valmisteltava klusteri.
vCluster yhdistää toimintamallissaan dedikoidut koneet ja asiakaskohtaisen verkkoympäristön itsepalveluna tapahtuvaan provisiointiin. Palveluntarjoaja voi käyttää samaa varantoa sekä yksinkertaisiin palvelinvuokrauksiin että laajemmin hallinnoituihin tuotteisiin. Liiketoimintaperusteena on, että kun palveluntarjoajan henkilöstön hoitamia vaiheita on vähemmän, asiakkaiden käyttöönotto voi helpottua. Hallinnoitua klusteria suosivat ostajat voivat puolestaan hankkia eritasoisen palvelun. Julkaisu ei kerro, kuinka paljon kumpikaan osapuoli säästäisi, ja taloudellinen kannattavuus riippuu siitä, miten tehokkaasti laitteistoa käytetään ja millaista tukea asiakkaat tarvitsevat.
Myös se on tärkeää, miten operaattorit käsittelevät projektien välillä käyttämättä jäävää laitteistoa. Varattu kapasiteetti tekee tilanteesta ostajille ennakoitavamman, mutta koneet voivat jäädä muiden asiakkaiden ulottumattomiin silloinkin, kun ne ovat käyttämättöminä. Tarpeen mukaan käytettävä kapasiteettipooli voi lisätä joustavuutta, mutta vain jos palveluntarjoaja pystyy vastaamaan kysyntään luotettavasti. Alustan avulla palveluntarjoajat voivat tarjota molempia malleja, mutta se ei poista tarvetta sopia varausehdoista tai varautua kapasiteettipulaan.
Mitä rajoitettu saatavuus tarkoittaa operaattoreille
Versio 5.0 ei ole yleisesti saatavilla. Toimittajan dokumentaatiossa suositellaan nykyisten käyttöönottojen jatkamista nykyisillä pitkäaikaisen tuen julkaisuilla, Platform v4.12:lla ja vCluster v0.37:llä. Uutta versiota harkitsevien operaattorien on edelleen arvioitava sen yhteensopivuus provisiointi- ja verkkotyökalujensa kanssa sekä varmistettava, että asiakkaat voivat siirtyä koneille varatusta kapasiteetista käyttövalmiiseen klusteriin ilman, että tuen tarve muodostuu uudeksi pullonkaulaksi.
Välitön testi on käytännön toimivuus: kuinka nopeasti palveluntarjoaja pystyy toimittamaan toimivan infrastruktuurin laitteiston varaamisen jälkeen ja kuinka usein asiakkaat tarvitsevat sen jälkeen apua. Jos nämä mittarit paranevat ilman, että dedikoidun kapasiteetin hallinta vaikeutuu, itsepalvelu voi muodostua merkittäväksi erottavaksi tekijäksi samankaltaista laitteistoa myyvien tekoälypilvipalvelujen tarjoajien välillä.












