AI-modeller och plattformar
vCluster lägger till självbetjäningsmoln för dedikerad AI-hårdvara
vCluster Platform v5.0 ger AI-molnkunder självbetjäningstillgång till dedikerade servrar och leverantörsgodkända Kubernetes-, Slurm- och inferensmiljöer.
Viktiga punktervCluster Platform v5.0 låter kunder tillhandahålla bare-metal GPU-servrar utan att…
Visa mer
- vCluster Platform v5.0 låter kunder tillhandahålla bare-metal GPU-servrar utan att leverantörens personal hanterar varje förfrågan.
- Leverantörer styr vilka maskintyper och mallar varje tenant kan komma åt medan kunder självbetjänar inom kvoter.
- Begränsad tillgänglighet innebär att operatörer fortfarande måste verifiera kompatibilitet och mäta om supportbördan faktiskt minskar.
vCluster Labs har lanserat vCluster Platform v5.0 med begränsad tillgänglighet. Plattformen ger AI-molnleverantörer möjlighet att erbjuda självbetjäningsmiljöer på dedikerade fysiska servrar. Kunder kan ta maskiner i drift från sin tilldelade kapacitet, välja en operativsystemavbildning och starta Kubernetes-, Slurm- eller inferenskluster utan att be leverantören hantera varje enskild begäran.
Lanseringen den 19 november löser ett praktiskt problem för operatörer som redan har åtagit sig att tillhandahålla bare-metal-kapacitet. En kund kan hyra ett antal GPU-servrar men ändå vara beroende av leverantörens driftteam för att göra maskinerna klara för nya projekt. Den nya plattformen överlåter en del av besluten till kunden, medan leverantören behåller ägandet av hårdvaran och ansvaret för kapacitetstilldelningen.
Ett gemensamt lager för fysiska maskiner
Lanseringen inför fysiska servrar i ett lager som hanteras av vMetal, plattformens komponent för driftsättning. Operatören tilldelar kapacitet till kunder eller gör den tillgänglig på begäran och bestämmer sedan vilka maskintyper, avbildningar och klustermallar varje kund får använda. Plattformen inför en tydlig kundgräns ovanför enskilda projekt, en så kallad tenant. Kvoter begränsar hur mycket kapacitet en kund kan ta i anspråk, och kunderna kan inte se lagerresurser som de inte har fått tillgång till.
För kundens plattformsteam innebär det att flera interna grupper kan använda samma avtal utan att var och en behöver få en ny tilldelning från leverantören. En forskargrupp kan sätta upp en schemalagd Slurm-miljö samtidigt som ett applikationsteam använder Kubernetes för att driftsätta inferens. Leverantören bestämmer vilka konfigurationer som stöds, och kunden kan välja bland dem. Hur stor kontroll kunden har beror därför på vad som ingår i den tilldelade kapaciteten och vilka mallar leverantören gör tillgängliga.
Företaget uppger att leverantörer kan använda dess konsol eller bygga en portal med eget varumärke ovanpå samma underliggande API. Den skillnaden är viktig för operatörer som säljer infrastruktur under eget varumärke: gränssnittet kan variera utan att de behöver separata lager- och driftsättningssystem för varje typ av tjänst.
Dedikerad hårdvara med molnbaserad driftsättning
Bare metal ger tillgång till fysiska servrar i stället för instanser som delar värd med andra kunder. Det kan vara attraktivt för köpare som vill ha en känd hårdvarukonfiguration, dedikerad accelerator kapacitet eller kontroll över programvarumiljön. Men en fysisk reservation innebär inte i sig att man får en användbar molntjänst. Någon måste fortfarande installera operativsystemet, konfigurera åtkomsten och förbereda klustret.
vClusters lösning kombinerar dedikerade maskiner och nätverk per kund med självbetjäningsdriftsättning. En leverantör kan använda samma lager för både enkla serveruthyrningstjänster och mer hanterade produkter. Affärsidén är att färre moment som hanteras av leverantörens personal kan göra det enklare att ansluta varje kund, samtidigt som köpare som föredrar ett hanterat kluster kan köpa en annan servicenivå. Lanseringen visar inte hur mycket någon av parterna skulle spara; lönsamheten beror på hur mycket hårdvaran används och vilket stöd kunderna behöver.
Det spelar också roll hur operatörerna hanterar hårdvara som står oanvänd mellan projekt. Reserverad kapacitet ger köparna förutsägbarhet, men maskinerna kan förbli otillgängliga för andra kunder även när de står oanvända. En pool med kapacitet på begäran kan öka flexibiliteten, men bara om leverantören på ett tillförlitligt sätt kan möta efterfrågan. Plattformen låter leverantörer erbjuda båda modellerna, men undanröjer inte behovet av att fastställa reservationsvillkor eller planera för brist.
Vad begränsad tillgänglighet innebär för operatörer
Version 5.0 är inte allmänt tillgänglig. Leverantörens dokumentation rekommenderar att befintliga långtidssupportversioner, Platform v4.12 och vCluster v0.37, behålls för aktuella driftsättningar. Operatörer som överväger den nya versionen måste fortfarande utvärdera kompatibiliteten med sina verktyg för driftsättning och nätverk samt kontrollera att kunder kan gå från en maskintilldelning till ett fungerande kluster utan att nya flaskhalsar uppstår i supporten.
Det omedelbara testet gäller driften: hur snabbt en leverantör kan leverera fungerande infrastruktur efter att ha tilldelat hårdvara och hur ofta kunderna behöver hjälp därefter. Om dessa mått förbättras utan att den dedikerade kapaciteten blir svårare att hantera kan självbetjäning bli en betydande skillnad mellan AI-molnleverantörer som säljer liknande hårdvara.












