ScaleOps tar in 130 miljoner dollar i serie C för autonom infrastruktur i AI-driften

ScaleOps har samlat in 130 miljoner dollar i serie C-finansiering till en värdering som överstiger 800 miljoner dollar, allteftersom efterfrågan ökar på system som kan hantera alltmer komplexa moln- och AI-arbetsbelastningar utan konstant mänsklig inblandning.

Rundan leddes av Insight Partners, med fortsatt stöd från Lightspeed Venture Partners, NFX, Glilot Capital Partners och Picture Capital. Företaget har nu samlat in mer än 210 miljoner dollar totalt.

Från Kubernetes-optimering till autonom infrastruktur

ScaleOps dök upp 2022 med fokus på att automatisera en av de mest bestående utmaningarna i modern infrastruktur: resurstilldelning i Kubernetes-miljöer. Istället för att förlita sig på statiska konfigurationer, justerar plattformen kontinuerligt beräkningsresurser som CPU och minne baserat på arbetsbelastningens beteende i realtid.

I sin kärna fungerar systemet som en optimeringsmotor med en sluten återkopplingsslinga. Det observerar arbetsbelastningens efterfrågan, utvärderar prestandasignaler och utför ändringar automatiskt. Detta inkluderar dynamisk anpassning av arbetsbelastningarnas resurser, justering av replikantal och optimering av nodanvändning över kluster.

Över tiden har detta expanderat bortom traditionell molnoptimering till GPU-tunga miljöer kopplade till AI-system. Plattformen tillämpar nu liknande principer för GPU-tilldelning, där ineffektiv användning snabbt kan bli en stor flaskhals.

Varför detta lager blir allt viktigare

Moderna AI-system introducerar en nivå av variabilitet som traditionella infrastrukturverktyg inte var utformade för att hantera. Arbetsbelastningar toppar oförutsägbart, modeller tävlar om begränsad GPU-kapacitet och prestandakraven skiftar i realtid.

Historiskt har team hanterat detta genom manuell finjustering eller regelbaserad automatisering. Men dessa tillvägagångssätt har svårt att fungera i stor skala. Kubernetes i sig, trots att det är utformat för orkestrering, förlitar sig fortfarande tungt på statiska konfigurationer som ingenjörer måste konstant justera för att undvika under- eller övertilldelning av resurser.

Detta skapar en strukturell ineffektivitet. Ingenjörsteam tillbringar betydande tid med att reagera på prestandaproblem, justera resurstilldelning och lösa SLO-överträdelser istället för att bygga nya system.

ScaleOps tillvägagångssätt ersätter denna reaktiva modell med kontinuerlig, kontextmedveten automatisering. Istället för att definiera trösklar i förväg, anpassar sig systemet i realtid baserat på observerat beteende över hela klustret.

Mot självoptimerande system

Det som gör denna kategori notabel är inte bara kostnadsoptimering, utan skiftet i hur infrastrukturen beter sig.

I traditionella miljöer konfigureras infrastrukturen. I nyare system förväntas den anpassa sig.

ScaleOps återspeglar denna övergång genom att behandla infrastrukturen som något som kontinuerligt kan återställa resursbalansen. Plattformen tillämpar principer, övervakar resultat och justerar tilldelningar utan att kräva att ingenjörer ingriper. I produktionsmiljöer kan detta utsträckas till nästan full automatisering av resursbeslut.

Denna modell har redan visat mätbar påverkan i verkliga driftsmiljöer. I ett fall möjliggjorde automatisk anpassning av resurstilldelningen att arbetsbelastningar anpassade sig dynamiskt till trafikfluktuationer samtidigt som de upprätthöll prestandamål och minskade slöseri över kluster.

Utveckling bortom kostnadsoptimering

Tidiga molnoptimeringsverktyg fokuserade främst på att minska utgifterna. ScaleOps betonar fortfarande kostnadseffektivitet, med påståenden om betydande besparingar genom att eliminera övertilldelning och inaktiva resurser.

Men den bredare riktningen skiftar mot tillförlitlig prestanda och systemens motståndskraft.

När AI-system blir alltmer integrerade i produktionsmiljöer, påverkar infrastrukturbeslut direkt modellprestanda, latens och tillgänglighet. Felaktig tilldelning är inte längre bara en kostnadsfråga, utan blir en funktionsbegränsning.

Detta är särskilt relevant för GPU-arbetsbelastningar, där efterfrågan ofta överstiger tillgången. Effektiv tilldelning på infrastrukturnivå kan avgöra om modeller körs effektivt eller sitter inaktiva och väntar på resurser.

Ett nytt kontrollskikt för AI-infrastruktur

Den långsiktiga implikationen är uppkomsten av ett nytt kontrollskikt för beräkningsresurser.

Istället för att ingenjörer manuellt konfigurerar infrastrukturen eller förlitar sig på fragmenterad verktygsutrustning, fungerar plattformar som ScaleOps som ett autonomt kontrollskikt som kontinuerligt anpassar tillgången till efterfrågan.

Detta blir alltmer viktigt när organisationer driftsätter flera AI-system samtidigt, var och en med olika prestandakrav och användningsmönster.

I det sammanhanget börjar infrastrukturhantering likna trafikstyrning mer än statisk provisionering. Resurser dirigeras om, återbalanseras och optimeras kontinuerligt snarare än tilldelas en gång och lämnas oförändrade.

Med denna senaste finansiering förväntas ScaleOps expandera sin plattform bortom beräkning och GPU:er till bredare områden av infrastrukturhantering, inklusive ytterligare lager av moln- och AI-orkestrering.

Trenden tyder på en rörelse mot miljöer där infrastrukturbeslut inte längre hanteras direkt av ingenjörer. Istället styrs de av system som tolkar arbetsbelastningens avsikt och justerar resurser automatiskt.

När AI-arbetsbelastningar fortsätter att skala, kan denna förändring bli mindre av en optimering och mer av ett krav.