AI-modeller og plattformer
vCluster legger til selvbetjente private skyer for dedikert AI-maskinvare
vCluster Platform v5.0 gir AI-skykunder selvbetjent tilgang til dedikerte servere og leverandørgodkjente Kubernetes-, Slurm- og inferensmiljøer.
Viktige punktervCluster Platform v5.0 lar kunder provisjonere bare-metal GPU-servere uten at…
Vis mer
- vCluster Platform v5.0 lar kunder provisjonere bare-metal GPU-servere uten at leverandørens personale håndterer hver forespørsel.
- Leverandører kontrollerer hvilke maskintyper og maler hver leietaker kan få tilgang til, mens kundene selvbetjener innenfor kvoter.
- Begrenset tilgjengelighet betyr at operatører fortsatt må verifisere kompatibilitet og måle om støttebyrden faktisk reduseres.
vCluster Labs har lansert vCluster Platform v5.0 med begrenset tilgjengelighet. Plattformen gir AI-skytilbydere en måte å tilby selvbetjente miljøer på dedikerte fysiske servere. Kundene kan klargjøre maskiner fra kapasiteten de har fått tildelt, velge et operativsystembilde og starte Kubernetes-, Slurm- eller inferensklynger uten å be leverandøren håndtere hver enkelt forespørsel.
Lanseringen 19. november tar tak i et praktisk problem for operatører som allerede har forpliktet seg til å levere kapasitet på fysiske servere. En kunde kan leie en gruppe GPU-servere, men likevel være avhengig av at leverandørens driftsteam klargjør maskinene for nye prosjekter. Den nye plattformen overlater noen av disse beslutningene til kunden, mens leverandøren beholder eierskapet til maskinvaren og ansvaret for kapasitetsfordelingen.
Ett lager for fysiske maskiner
Lanseringen legger fysiske servere inn i et lager som vedlikeholdes av vMetal, klargjøringskomponenten under plattformen. En operatør tildeler kapasitet til kunder eller gjør den tilgjengelig ved behov, og bestemmer deretter hvilke maskintyper, avbildninger og klyngemaler hver kunde kan bruke. Plattformen innfører en tydelig kundegrense, kalt en tenant, over de enkelte prosjektene. Kvoter begrenser hvor mye kapasitet en kunde kan gjøre krav på, og kundene kan ikke se lagerbeholdning de ikke har fått tilgang til.
For et kundeteam som drifter en plattform, betyr dette at flere interne grupper kan benytte seg av den samme avtalen uten at hver gruppe trenger en ny tildeling fra leverandøren. En forskningsgruppe kan sette opp et Slurm-miljø for planlagte jobber, mens et applikasjonsteam bruker Kubernetes til å distribuere en inferenstjeneste. Leverandøren bestemmer hvilke konfigurasjoner som støttes, og kunden kan velge mellom dem. Hvor stor kontroll kunden har, avhenger derfor av hva tildelingen omfatter, og hvilke maler leverandøren gjør tilgjengelige.
Selskapet sier at leverandører kan bruke konsollet deres eller bygge en portal med egen profilering oppå det samme underliggende API-et. Dette skillet er viktig for operatører som selger infrastruktur under eget merkenavn: Grensesnittet kan være forskjellig uten at de trenger et eget lager- og klargjøringssystem for hver tjenestetype.
Dedikert maskinvare med klargjøring som i skyen
Med bare metal får man tilgang til fysiske servere i stedet for instanser som deler en vertsmaskin med uvedkommende kunder. Dette kan være attraktivt for kjøpere som ønsker en kjent maskinvarekonfigurasjon, dedikert akseleratorkapasitet eller kontroll over programvaremiljøet. Men en reservasjon av fysisk maskinvare gir ikke i seg selv en brukbar skytjeneste. Noen må fortsatt installere operativsystemet, konfigurere tilgangen og klargjøre klyngen.
vClusters tilnærming kombinerer dedikerte maskiner og nettverk per kunde med selvbetjent klargjøring. En leverandør kan bruke det samme lageret til både enkel serverutleie og mer administrerte produkter. Forretningsideen er at færre trinn håndtert av leverandørens ansatte kan gjøre det enklere å ta imot hver kunde, mens kjøpere som foretrekker en administrert klynge, kan kjøpe et annet tjenestenivå. Lanseringen fastslår ikke hvor mye noen av partene vil spare; lønnsomheten vil avhenge av hvor mye maskinvaren brukes, og hvilken støtte kundene trenger.
Det har også betydning hvordan operatørene håndterer maskinvare som står ubrukt mellom prosjekter. Reservert kapasitet gir kjøperne forutsigbarhet, men maskinene kan forbli utilgjengelige for andre kunder selv når de står ubrukt. En kapasitetspool som er tilgjengelig ved behov, kan gi større fleksibilitet, men bare dersom leverandøren på en pålitelig måte kan dekke etterspørselen. Plattformen lar leverandører tilby begge modellene, men fjerner ikke behovet for å fastsette reservasjonsvilkår eller planlegge for knapphet.
Hva begrenset tilgjengelighet betyr for operatører
Versjon 5.0 er ikke allment tilgjengelig. Leverandørens dokumentasjon anbefaler å beholde de eksisterende langtidsstøtteversjonene, Platform v4.12 og vCluster v0.37, for nåværende utrullinger. Operatører som vurderer den nye versjonen, må fortsatt undersøke om den er kompatibel med klargjørings- og nettverksverktøyene deres, og kontrollere at kundene kan gå fra en maskintildeling til en brukbar klynge uten at det oppstår nye flaskehalser for brukerstøtten.
Den umiddelbare prøven er operasjonell: Hvor raskt en leverandør kan levere fungerende infrastruktur etter å ha tildelt maskinvare, og hvor ofte kundene trenger hjelp etterpå. Hvis disse målene forbedres uten at det blir vanskeligere å administrere dedikert kapasitet, kan selvbetjening bli et tydelig konkurransefortrinn for AI-skytilbydere som selger tilsvarende maskinvare.












