ScaleOps erhält 130 Millionen US-Dollar in Serie-C-Finanzierung, um autonome Infrastruktur in den Kern von KI-Operationen zu bringen

ScaleOps hat 130 Millionen US-Dollar in Serie-C-Finanzierung erhalten, bei einer Bewertung von über 800 Millionen US-Dollar, da die Nachfrage nach Systemen, die komplexe Cloud- und KI-Workloads ohne ständige menschliche Intervention verwalten können, zunimmt.

Die Runde wurde von Insight Partners geleitet, mit weiterer Unterstützung von Lightspeed Venture Partners, NFX, Glilot Capital Partners und Picture Capital. Das Unternehmen hat nun insgesamt mehr als 210 Millionen US-Dollar aufgenommen.

Von Kubernetes-Optimierung zu autonomen Infrastrukturen

ScaleOps ist 2022 mit dem Fokus auf die Automatisierung einer der größten Herausforderungen in modernen Infrastrukturen aufgetaucht: Ressourcenzuweisung in Kubernetes-Umgebungen. Anstatt auf statische Konfigurationen zu vertrauen, passt die Plattform Compute-Ressourcen wie CPU und Speicher kontinuierlich an das tatsächliche Workload-Verhalten an.

Im Kern arbeitet das System als geschlossener Optimierungs-Engine. Es beobachtet die Workload-Nachfrage, bewertet Leistungssignale und führt Änderungen automatisch aus. Dazu gehören die dynamische Größenanpassung von Workloads, die Anpassung von Replikazahlen und die Optimierung von Knotenverwendung über Cluster hinweg.

Im Laufe der Zeit hat sich dies von der traditionellen Cloud-Optimierung auf GPU-basierte Umgebungen ausgedehnt, die an KI-Systeme gekoppelt sind. Die Plattform wendet ähnliche Prinzipien auf die GPU-Zuweisung an, wo ineffiziente Nutzung schnell zu einem großen Flaschenhals werden kann.

Warum diese Schicht kritisch wird

Moderne KI-Systeme bringen eine Unvorhersehbarkeit mit sich, die herkömmliche Infrastruktur-Tools nicht bewältigen können. Workloads steigen unvorhersehbar an, Modelle konkurrieren um begrenzte GPU-Kapazitäten und Leistungsanforderungen ändern sich in Echtzeit.

Historisch gesehen haben Teams dies durch manuelle Anpassung oder regelbasierte Automatisierung gemanagt. Diese Ansätze funktionieren jedoch nicht im großen Maßstab. Kubernetes selbst, obwohl für die Orchestrierung konzipiert, verlässt sich immer noch stark auf statische Konfigurationen, die Ingenieure ständig anpassen müssen, um Unter- oder Überbereitstellung zu vermeiden.

Dies führt zu einer strukturellen Ineffizienz. Ingenieur-Teams verbringen viel Zeit damit, Leistungsprobleme zu beheben, Ressourcenzuweisung anzupassen und SLO-Verletzungen zu lösen, anstatt neue Systeme zu bauen.

Der Ansatz von ScaleOps ersetzt dieses reaktive Modell durch kontinuierliche, kontextbewusste Automatisierung. Anstatt Schwellenwerte im Voraus zu definieren, passt das System sich in Echtzeit an das beobachtete Verhalten über den gesamten Cluster an.

Richtung Selbst-Optimierende Systeme

Was diese Kategorie bemerkenswert macht, ist nicht nur die Kosteneinsparung, sondern auch der Wandel in der Art und Weise, wie Infrastrukturen funktionieren.

In traditionellen Umgebungen wird die Infrastruktur konfiguriert. In neueren Systemen wird erwartet, dass sie sich anpasst.

ScaleOps spiegelt diesen Übergang wider, indem es die Infrastruktur als etwas behandelt, das sich kontinuierlich neu ausbalancieren kann. Die Plattform wendet Richtlinien an, überwacht Ergebnisse und passt Zuweisungen an, ohne dass Ingenieure eingreifen müssen. In Produktionsumgebungen kann dies eine fast vollständige Automatisierung von Ressourcenentscheidungen umfassen.

Dieses Modell hat bereits einen messbaren Einfluss in realen Bereitstellungen gezeigt. In einem Fall ermöglichte die automatisierte Rechtsgrößenanpassung es Workloads, sich dynamisch an Verkehrsschwankungen anzupassen, während Leistungsziele aufrechterhalten und Abfall über Cluster hinweg reduziert wurden.

Ausdehnung über die Kosteneinsparung hinaus

Frühe Cloud-Optimierungstools konzentrierten sich hauptsächlich auf die Reduzierung von Ausgaben. ScaleOps betont immer noch die Kosteneffizienz, mit Behauptungen über erhebliche Einsparungen, die durch die Beseitigung von Überbereitstellung und Leerlaufressourcen erreicht werden.

Die breitere Ausrichtung verlagert sich jedoch auf Leistungszuverlässigkeit und Systemwiderstandsfähigkeit.

Da KI-Systeme enger in Produktionsumgebungen integriert werden, haben Infrastruktur-Entscheidungen einen direkten Einfluss auf die Modellleistung, Latenz und Verfügbarkeit. Falsche Zuweisung ist nicht länger nur ein Kostenthema, sondern wird zu einer funktionalen Einschränkung.

Dies ist insbesondere für GPU-Workloads relevant, bei denen die Nachfrage oft die Verfügbarkeit übersteigt. Eine effiziente Zuweisung auf der Infrastruktursebene kann bestimmen, ob Modelle effizient ausgeführt werden oder untätig auf Ressourcen warten.

Ein neues Steuerungsebene für KI-Infrastruktur

Die langfristige Implikation ist das Auftauchen einer neuen Steuerungsebene für Rechenressourcen.

Anstatt dass Ingenieure die Infrastruktur manuell konfigurieren oder auf fragmentierte Tools vertrauen, fungieren Plattformen wie ScaleOps als autonome Steuerungsebene, die kontinuierlich Angebot und Nachfrage ausgleicht.

Dies wird immer wichtiger, da Organisationen mehrere KI-Systeme gleichzeitig bereitstellen, jedes mit unterschiedlichen Leistungsanforderungen und Nutzungsmustern.

In diesem Zusammenhang beginnt die Infrastrukturverwaltung eher einer Verkehrsregelung zu ähneln als einer statischen Bereitstellung. Ressourcen werden kontinuierlich umgeleitet, neu ausbalanciert und optimiert, anstatt einmal zugewiesen und unverändert gelassen zu werden.

Mit dieser neuesten Finanzierung wird ScaleOps voraussichtlich seine Plattform über Compute- und GPU-Ressourcen hinaus auf weitere Bereiche der Infrastrukturverwaltung ausdehnen, einschließlich zusätzlicher Schichten von Cloud- und KI-Orchestrierung.

Der Trend deutet auf eine Verschiebung hin, bei der Infrastruktur-Entscheidungen nicht länger direkt von Ingenieuren getroffen werden. Stattdessen werden sie von Systemen gesteuert, die die Workload-Intention interpretieren und Ressourcen automatisch anpassen.

Da KI-Workloads weiter skaliert werden, kann sich diese Verschiebung von einer Optimierung zu einer Anforderung entwickeln.