AI-modellen en platforms
vCluster voegt zelfbedieningsprivéclouds toe voor speciale AI-hardware
vCluster Platform v5.0 biedt AI-cloudklanten zelfbedieningstoegang tot dedicated servers en door de provider goedgekeurde Kubernetes-, Slurm- en inferentieomgevingen.
Belangrijkste puntenvCluster Platform v5.0 stelt klanten in staat bare-metal GPU-servers te provisioneren…
Meer weergeven
- vCluster Platform v5.0 stelt klanten in staat bare-metal GPU-servers te provisioneren zonder dat providerpersoneel elke aanvraag behandelt.
- Providers bepalen tot welke machinetypen en templates elke tenant toegang heeft, terwijl klanten binnen quota zelfstandig kunnen werken.
- Beperkte beschikbaarheid betekent dat operators nog steeds compatibiliteit moeten verifiëren en moeten meten of de ondersteuningslast daadwerkelijk afneemt.
vCluster Labs heeft vCluster Platform v5.0 in beperkte beschikbaarheid uitgebracht. Daarmee kunnen AI-cloudproviders zelfbedieningsomgevingen aanbieden op dedicated fysieke servers. Klanten kunnen machines uit hun toegewezen capaciteit in gebruik nemen, een besturingssysteemimage selecteren en Kubernetes-, Slurm- of inferentieclusters starten zonder de provider voor elk verzoek in te schakelen.
De release van 19 november pakt een praktisch probleem aan voor operators die zich al hebben vastgelegd op het leveren van bare-metalcapaciteit. Een klant kan een reeks GPU-servers huren, maar toch afhankelijk blijven van het operationele team van de provider om machines klaar te maken voor nieuwe projecten. Het nieuwe platform legt een deel van die beslissingen bij de klant, terwijl het eigendom van de hardware en de toewijzing van capaciteit bij de provider blijven.
Eén inventaris voor fysieke machines
De release voegt fysieke servers toe aan een inventaris die wordt beheerd door vMetal, de provisioningcomponent onder het platform. Een operator wijst capaciteit toe aan klanten of stelt die op aanvraag beschikbaar en bepaalt vervolgens welke machinetypen, images en cluster-sjablonen elke klant kan gebruiken. Het platform voegt boven afzonderlijke projecten een expliciete klantgrens toe, een zogeheten tenant. Quota beperken hoeveel capaciteit een klant kan opeisen, en klanten kunnen geen inventaris zien waartoe ze geen toegang hebben gekregen.
Voor het platformteam van een klant betekent dit dat meerdere interne groepen gebruik kunnen maken van hetzelfde contract, zonder dat elke groep een nieuwe toewijzing van de provider nodig heeft. Een onderzoeksgroep kan een Slurm-omgeving met taakplanning opzetten, terwijl een applicatieteam Kubernetes gebruikt voor een inferentietoepassing. De provider bepaalt welke configuraties worden ondersteund; de klant kan daaruit kiezen. Hoeveel controle een klant heeft, hangt dus af van wat in de toegewezen capaciteit is opgenomen en welke sjablonen de provider beschikbaar stelt.
Het bedrijf zegt dat providers de eigen console kunnen gebruiken of op basis van dezelfde onderliggende API een portaal in hun eigen huisstijl kunnen bouwen. Dat onderscheid is van belang voor operators die infrastructuur onder hun eigen merk verkopen: de interface kan verschillen zonder dat voor elk type dienst een apart inventaris- en provisioningsysteem nodig is.
Dedicated hardware met provisioning zoals in de cloud
Bare metal biedt toegang tot fysieke servers, in plaats van instanties die een host delen met andere klanten. Dat kan aantrekkelijk zijn voor kopers die een bekende hardwareconfiguratie, dedicated accelerat capaciteit of controle over de softwareomgeving willen. Een fysieke reservering alleen levert echter nog geen bruikbare clouddienst op. Iemand moet nog steeds het besturingssysteem installeren, de toegang configureren en het cluster gereedmaken.
De aanpak van vCluster combineert dedicated machines en netwerken per klant met zelfbedieningsprovisioning. Een provider kan dezelfde inventaris gebruiken voor zowel eenvoudige serververhuur als meer beheerde producten. De zakelijke gedachte is dat minder stappen die door medewerkers van de provider moeten worden uitgevoerd, het onboarden van elke klant kunnen vereenvoudigen. Kopers die liever een beheerd cluster afnemen, kunnen kiezen voor een ander serviceniveau. De release maakt niet duidelijk hoeveel beide partijen zouden besparen; de bedrijfseconomische voordelen hangen af van hoe intensief de hardware wordt gebruikt en welke ondersteuning klanten nodig hebben.
Ook is van belang hoe operators omgaan met hardware die tussen projecten door ongebruikt blijft. Gereserveerde capaciteit biedt kopers voorspelbaarheid, maar die machines kunnen voor andere klanten onbeschikbaar blijven, zelfs wanneer ze niet worden gebruikt. Een pool die op aanvraag beschikbaar is, kan de flexibiliteit vergroten, maar alleen als de provider betrouwbaar aan de vraag kan voldoen. Het platform stelt providers in staat beide modellen aan te bieden; de noodzaak om reserveringsvoorwaarden vast te stellen en tekorten te voorzien, verdwijnt daarmee niet.
Wat beperkte beschikbaarheid betekent voor operators
Versie 5.0 is niet algemeen beschikbaar. De documentatie van de leverancier adviseert om voor huidige implementaties de bestaande releases met langdurige ondersteuning te blijven gebruiken: Platform v4.12 en vCluster v0.37. Operators die de nieuwe versie overwegen, moeten nog steeds nagaan of deze compatibel is met hun provisioning- en netwerktools. Ook moeten ze controleren of klanten van een machinetoewijzing naar een bruikbaar cluster kunnen overstappen zonder dat er nieuwe knelpunten in de ondersteuning ontstaan.
De eerste toets is operationeel: hoe snel een provider werkende infrastructuur kan leveren nadat hardware is toegewezen, en hoe vaak klanten daarna hulp nodig hebben. Als die cijfers verbeteren zonder dat dedicated capaciteit moeilijker te beheren wordt, kan zelfbediening een wezenlijk onderscheid vormen tussen AI-cloudproviders die vergelijkbare hardware verkopen.












