KI-Modelle und Plattformen
vCluster ergänzt Private Clouds mit Selbstbedienung für dedizierte KI-Hardware
vCluster Platform v5.0 ermöglicht KI-Cloud-Kunden den Self-Service-Zugriff auf dedizierte Server sowie vom Anbieter freigegebene Kubernetes-, Slurm- und Inferenzumgebungen.
Wichtige PunktevCluster Platform v5.0 ermöglicht es Kunden, Bare-Metal-GPU-Server bereitzustellen…
Mehr anzeigen
- vCluster Platform v5.0 ermöglicht es Kunden, Bare-Metal-GPU-Server bereitzustellen, ohne dass Mitarbeiter des Anbieters jede Anfrage bearbeiten.
- Anbieter kontrollieren, auf welche Maschinentypen und Vorlagen jeder Tenant zugreifen kann, während Kunden innerhalb von Kontingenten Self-Service nutzen.
- Die eingeschränkte Verfügbarkeit bedeutet, dass Betreiber weiterhin die Kompatibilität prüfen und messen müssen, ob die Supportlast tatsächlich sinkt.
vCluster Labs hat vCluster Platform v5.0 mit eingeschränkter Verfügbarkeit eingeführt. Damit erhalten KI-Cloud-Anbieter die Möglichkeit, Self-Service-Umgebungen auf dedizierten physischen Servern anzubieten. Kunden können Maschinen aus ihrer zugewiesenen Kapazität bereitstellen, ein Betriebssystem-Image auswählen und Kubernetes-, Slurm- oder Inferenz-Cluster starten, ohne den Anbieter mit jeder einzelnen Anfrage beauftragen zu müssen.
Die Veröffentlichung vom 19. November geht ein praktisches Problem für Betreiber an, die sich bereits verpflichtet haben, Bare-Metal-Kapazität bereitzustellen. Ein Kunde kann einen Block von GPU-Servern mieten und dennoch darauf angewiesen sein, dass das Betriebsteam des Anbieters die Maschinen für neue Projekte vorbereitet. Die neue Plattform überträgt einige dieser Entscheidungen an den Kunden, während Hardwarebesitz und Kapazitätszuteilung beim Anbieter bleiben.
Ein Bestand für physische Maschinen
Mit der Veröffentlichung werden physische Server in einen Bestand aufgenommen, den vMetal verwaltet, die Bereitstellungskomponente unterhalb der Plattform. Ein Betreiber weist Kunden Kapazität zu oder hält sie auf Abruf verfügbar und legt anschließend fest, welche Maschinentypen, Images und Cluster-Vorlagen jedem Kunden zur Verfügung stehen. Die Plattform ergänzt eine klar definierte Kundengrenze, den sogenannten Mandanten, über den einzelnen Projekten. Kontingente begrenzen, wie viel Kapazität ein Kunde beanspruchen kann. Kunden können keine Bestände einsehen, für die sie keine Zugriffsberechtigung erhalten haben.
Für ein Plattformteam auf Kundenseite bedeutet das, dass mehrere interne Gruppen auf denselben Vertrag zugreifen können, ohne dass jede von ihnen eine neue Zuteilung beim Anbieter benötigt. Eine Forschungsgruppe könnte eine geplante Slurm-Umgebung einrichten, während ein Anwendungsteam Kubernetes für eine Inferenzbereitstellung nutzt. Der Anbieter entscheidet, welche Konfigurationen er unterstützt; der Kunde kann aus diesen auswählen. Wie viel Kontrolle ein Kunde hat, hängt daher davon ab, was in seiner Zuteilung enthalten ist und welche Vorlagen der Anbieter bereitstellt.
Das Unternehmen erklärt, dass Anbieter entweder seine Konsole nutzen oder auf derselben zugrunde liegenden API ein Portal mit eigener Marke aufbauen können. Dieser Unterschied ist für Betreiber wichtig, die Infrastruktur unter ihrer eigenen Marke verkaufen: Die Benutzeroberfläche kann variieren, ohne dass für jede Dienstleistungsart ein eigenes Bestands- und Bereitstellungssystem erforderlich ist.
Dedizierte Hardware mit Cloud-typischer Bereitstellung
Bare Metal bietet Zugang zu physischen Servern statt zu Instanzen, die sich einen Host mit anderen Kunden teilen. Das kann attraktiv sein, wenn Käufer eine bekannte Hardwarekonfiguration, dedizierte Beschleunigerkapazität oder Kontrolle über die Softwareumgebung wünschen. Eine Reservierung physischer Ressourcen allein ergibt jedoch noch keinen nutzbaren Cloud-Dienst. Das Betriebssystem muss weiterhin eingerichtet, der Zugriff konfiguriert und der Cluster vorbereitet werden.
Der Ansatz von vCluster verbindet dedizierte Maschinen und kundenspezifische Netzwerke mit einer Bereitstellung zur Selbstbedienung. Ein Anbieter kann denselben Bestand sowohl für einfache Serververmietungen als auch für stärker verwaltete Produkte nutzen. Der geschäftliche Nutzen liegt darin, dass weniger Arbeitsschritte durch das Personal des Anbieters erledigt werden müssen und sich dadurch jeder Kunde leichter einrichten lässt. Käufer, die einen verwalteten Cluster bevorzugen, können zugleich eine andere Servicestufe erwerben. Aus der Veröffentlichung geht nicht hervor, wie viel eine der beiden Seiten dadurch einsparen könnte. Die Wirtschaftlichkeit hängt davon ab, wie intensiv die Hardware genutzt wird und welche Unterstützung die Kunden benötigen.
Wichtig ist auch, wie Betreiber mit Hardware umgehen, die zwischen Projekten ungenutzt bleibt. Reservierte Kapazität bietet Käufern Planungssicherheit, doch diese Maschinen können anderen Kunden weiterhin nicht zur Verfügung stehen, selbst wenn sie ungenutzt sind. Ein Pool mit Kapazität auf Abruf kann die Flexibilität erhöhen, allerdings nur, wenn der Anbieter die Nachfrage zuverlässig bedienen kann. Die Plattform ermöglicht es Anbietern, beide Modelle anzubieten; sie macht es jedoch nicht überflüssig, Reservierungsbedingungen festzulegen oder Engpässe einzuplanen.
Was die eingeschränkte Verfügbarkeit für Betreiber bedeutet
Version 5.0 ist nicht allgemein verfügbar. In der Dokumentation des Anbieters wird empfohlen, für bestehende Bereitstellungen weiterhin die aktuellen Versionen mit Langzeit-Support zu verwenden: Platform v4.12 und vCluster v0.37. Betreiber, die die neue Version in Betracht ziehen, müssen weiterhin die Kompatibilität mit ihren Bereitstellungs- und Netzwerktools prüfen und sicherstellen, dass Kunden von einer Maschinenzuteilung zu einem einsatzbereiten Cluster wechseln können, ohne dass neue Engpässe beim Support entstehen.
Entscheidend ist zunächst der Betrieb: Wie schnell kann ein Anbieter nach der Zuteilung von Hardware eine funktionierende Infrastruktur bereitstellen, und wie oft benötigen Kunden danach Unterstützung? Verbessern sich diese Werte, ohne dass die Verwaltung dedizierter Kapazitäten schwieriger wird, könnte der Self-Service zu einem wichtigen Unterscheidungsmerkmal für KI-Cloud-Anbieter werden, die ähnliche Hardware verkaufen.












