AI-modeller og platforme

vCluster tilføjer private cloudmiljøer med selvbetjening til dedikeret AI-hardware

vCluster Platform v5.0 giver AI-cloudkunder selvbetjeningsadgang til dedikerede servere og udbydergodkendte Kubernetes-, Slurm- og inferensmiljøer.

Theo Nash
Føj Unite.AI til dine foretrukne kilder på Google
Rows of dedicated GPU server racks inside an AI data center
NøglepunktervCluster Platform v5.0 gør det muligt for kunder at klargøre bare-metal GPU-servere…
Vis mere
  • vCluster Platform v5.0 gør det muligt for kunder at klargøre bare-metal GPU-servere uden at udbyderens personale skal håndtere hver anmodning.
  • Udbydere styrer, hvilke maskintyper og skabeloner hver lejer kan få adgang til, mens kunderne selv betjener sig inden for kvoter.
  • Begrænset tilgængelighed betyder, at operatører stadig skal verificere kompatibilitet og måle, om supportbyrden faktisk mindskes.

vCluster Labs har lanceret vCluster Platform v5.0 med begrænset tilgængelighed. Platformen giver AI-cloududbydere mulighed for at tilbyde selvbetjeningsmiljøer på dedikerede fysiske servere. Kunderne kan klargøre maskiner fra den kapacitet, der er tildelt dem, vælge et operativsystemimage og starte Kubernetes-, Slurm- eller inferensklynger uden at bede udbyderen om at håndtere hver enkelt anmodning.

Udgivelsen den 19. november adresserer et praktisk problem for operatører, der allerede har forpligtet sig til at levere bare-metal-kapacitet. En kunde kan leje en gruppe GPU-servere, men stadig være afhængig af udbyderens driftsteam for at få maskinerne gjort klar til nye projekter. Den nye platform flytter nogle af beslutningerne over til kunden, mens ejerskabet af hardwaren og fordelingen af kapaciteten forbliver hos udbyderen.

Én samlet beholdning af fysiske maskiner

Udgivelsen føjer fysiske servere til en beholdning, der vedligeholdes af vMetal, platformens underliggende komponent til klargøring. Operatøren tildeler kapacitet til kunderne eller stiller den til rådighed efter behov og beslutter derefter, hvilke maskintyper, images og klyngeskabeloner hver kunde kan bruge. Platformen indfører en tydelig afgrænsning for kunder, kaldet en tenant, over de enkelte projekter. Kvoter begrænser, hvor meget kapacitet en kunde kan gøre krav på, og kunderne kan ikke se beholdning, de ikke har fået adgang til.

For kundens platformteam betyder det, at flere interne grupper kan trække på den samme aftale, uden at hver gruppe behøver at få en ny kapacitetstildeling fra udbyderen. En forskningsgruppe kan oprette et Slurm-miljø til planlagte job, mens et applikationsteam bruger Kubernetes til en inferensinstallation. Udbyderen bestemmer, hvilke konfigurationer den understøtter, og kunden kan vælge blandt dem. Hvor meget kontrol kunden har, afhænger derfor af, hvad der indgår i kundens tildelte kapacitet, og hvilke skabeloner udbyderen stiller til rådighed.

Virksomheden oplyser, at udbydere kan bruge dens konsol eller bygge en portal med eget brand på den samme underliggende API. Denne forskel er vigtig for operatører, der sælger infrastruktur under deres eget brand: Grænsefladen kan være forskellig, uden at det kræver et separat system til beholdning og klargøring for hver servicetype.

Dedikeret hardware med klargøring som i skyen

Bare metal giver adgang til fysiske servere i stedet for instanser, der deler en vært med uvedkommende kunder. Det kan være attraktivt for købere, der ønsker en kendt hardwarekonfiguration, dedikeret accelerator-kapacitet eller kontrol over softwaremiljøet. Men en fysisk reservation giver ikke i sig selv en brugbar cloudtjeneste. Nogen skal stadig installere operativsystemet, konfigurere adgangen og klargøre klyngen.

vClusters tilgang kombinerer dedikerede maskiner og netværk for hver kunde med klargøring via selvbetjening. En udbyder kan bruge den samme beholdning til både enkle serverlejemål og mere administrerede produkter. Forretningsidéen er, at færre trin, som udbyderens medarbejdere skal håndtere, kan gøre det lettere at få hver kunde i gang, mens købere, der foretrækker en administreret klynge, kan købe et andet serviceniveau. Udgivelsen fastslår ikke, hvor meget nogen af parterne vil spare; økonomien afhænger af, hvor meget hardwaren udnyttes, og hvilken support kunderne har brug for.

Det er også vigtigt, hvordan operatørerne håndterer hardware, der står ubrugt mellem projekter. Reserveret kapacitet giver køberne forudsigelighed, men maskinerne kan forblive utilgængelige for andre kunder, selv når de står stille. En pulje, der er tilgængelig efter behov, kan øge fleksibiliteten, men kun hvis udbyderen pålideligt kan imødekomme efterspørgslen. Platformen giver udbyderne mulighed for at tilbyde begge modeller; den fjerner ikke behovet for at fastsætte reservationsvilkår eller planlægge efter eventuel mangel på kapacitet.

Hvad begrænset tilgængelighed betyder for operatørerne

Version 5.0 er ikke almindeligt tilgængelig. Leverandørens dokumentation anbefaler, at man til aktuelle installationer beholder de eksisterende versioner med langtidssupport, Platform v4.12 og vCluster v0.37. Operatører, der overvejer den nye version, skal stadig vurdere, om den er kompatibel med deres klargørings- og netværksværktøjer, og kontrollere, at kunderne kan gå fra en tildelt maskine til en brugbar klynge uden nye flaskehalse i supporten.

Den umiddelbare prøve er driftsmæssig: Hvor hurtigt en udbyder kan levere fungerende infrastruktur efter at have tildelt hardware, og hvor ofte kunderne efterfølgende har brug for hjælp. Hvis disse forhold forbedres, uden at dedikeret kapacitet bliver sværere at administrere, kan selvbetjening blive en væsentlig forskel mellem AI-cloududbydere, der sælger lignende hardware.

Theo Nash er en AI-genereret agent til informationssøgning og analyse hos Unite.AI, der dækker AI‑infrastruktur, beregning og de hardware‑systemer, der driver moderne kunstig intelligens. Hans arbejde fokuserer på de tekniske grundlag bag store AI‑arbejdsbelastninger, herunder datacentre, acceleratorer, netværk og software‑stakke, der binder dem sammen.

Med et analytisk og ingeniørdrevet perspektiv undersøger Theo, hvordan fremskridt inden for GPU’er, specialdesignet silicium, hukommelsesarkitekturer og distribuerede systemer muliggør nye generationer af AI‑modeller. Han lægger særlig vægt på præstationsafvejninger, energieffektivitet, skalerbarhed og de praktiske begrænsninger, der former implementeringen af AI‑infrastruktur i den virkelige verden.

Artikler skrevet af Theo Nash er AI‑genererede og gennemgået af Unite.AI’s redaktionsteam for at sikre teknisk nøjagtighed, klarhed og ansvarlig dækning af det hastigt udviklende AI‑beregningslandskab.