ScaleOps rejser 130 millioner dollars i serie C til autonom infrastruktur i AI-driften

ScaleOps har rejst 130 millioner dollars i serie C-finansiering til en vurdering, der overstiger 800 millioner dollars, da efterspørgslen efter systemer, der kan håndtere stadig mere komplekse cloud- og AI-arbejdsbyrder uden konstant menneskelig indgriben, accelererer.

Runden blev ledet af Insight Partners, med fortsat støtte fra Lightspeed Venture Partners, NFX, Glilot Capital Partners og Picture Capital. Selskabet har nu rejst mere end 210 millioner dollars i alt.

Fra Kubernetes-optimering til autonom infrastruktur

ScaleOps opstod i 2022 med fokus på at automatisere en af de mest vedvarende udfordringer i moderne infrastruktur: ressourceallokering i Kubernetes-miljøer. I stedet for at afhænge af statiske konfigurationer, justerer platformen kontinuerligt compute-resourcer som CPU og hukommelse baseret på arbejdsbyrdens adfærd i realtid.

I sin kerne fungerer systemet som en optimeringsmotor med en lukket feedbacksløjfe. Det observerer arbejdsbyrdens efterspørgsel, vurderer performancesignaler og udfører ændringer automatisk. Dette inkluderer dynamisk tilpasning af arbejdsbyrdernes ressourcer, justering af replikaantal og optimering af nodebrug på tværs af kluster.

Over tid er dette udvidet ud over traditionel cloud-optimering til GPU-intensive miljøer tilknyttet AI-systemer. Platformen anvender nu lignende principper til GPU-allokering, hvor ineffektiv brug hurtigt kan blive en stor flaskehals.

Hvorfor dette lag bliver kritisk

Moderne AI-systemer introducerer et niveau af variabilitet, som traditionelle infrastrukturværktøjer ikke er designet til at håndtere. Arbejdsbyrder stiger uforudsigeligt til spidsbelastninger, modeller konkurrerer om begrænsede GPU-kapaciteter, og performanceskrav skifter i realtid.

Historisk har holdene håndteret dette gennem manuel finjustering eller regelbaseret automatisering. Men disse tilgange har svært ved at fungere i stor skala. Kubernetes selv, selv om det er designet til orkestrering, afhænger stadig kraftigt af statiske konfigurationer, som ingeniører må konstant justere for at undgå under- eller overtildeling af ressourcer.

Dette skaber en strukturel ineffektivitet. Ingeniørholdene bruger betydelig tid på at reagere på performancesproblemer, justere ressourceallokering og løse SLO-overtrædelser i stedet for at bygge nye systemer.

ScaleOps’ tilgang erstatter denne reaktive model med kontinuerlig, kontekstbevidst automatisering. I stedet for at definere grænseværdier i forvejen, tilpasser systemet sig i realtid baseret på observeret adfærd på tværs af hele klusteret.

Bevæger sig mod selvoptimerende systemer

Det, der gør denne kategori bemærkelsesværdig, er ikke kun omkostningsoptimering, men skiftet i, hvordan infrastrukturen opfører sig.

I traditionelle miljøer konfigureres infrastrukturen. I nyere systemer forventes det, at den tilpasser sig.

ScaleOps afspejler denne overgang ved at behandle infrastrukturen som noget, der kontinuerligt kan genoprette balancen i ressourcerne. Platformen anvender politikker, overvåger resultater og justerer allokeringer uden, at ingeniører behøver at gribe ind. I produktionsmiljøer kan dette udstrække sig til næsten fuld automatisering af ressourcebeslutninger.

Denne model har allerede vist målbare resultater i virkelige installationer. I ét tilfælde tillod automatisk tilpasning af den tildelte kapacitet arbejdsbyrderne at tilpasse sig dynamisk til trafikfluktuationer, mens de opretholdt performancesmål og reducerede spild på tværs af kluster.

Udvider sig ud over omkostningsoptimering

Tidlige cloud-optimeringsværktøjer fokuserede primært på at reducere udgifter. ScaleOps understreger stadig omkostningseffektivitet, med påstande om betydelige besparelser drevet af eliminering af overtildeling og inaktive ressourcer.

Men den bredere retning skifter mod pålidelig ydeevne og systemernes modstandsdygtighed.

Da AI-systemer bliver mere tæt integreret i produktionsmiljøer, har infrastrukturbeslutninger en direkte indvirkning på modelpræstation, latency og tilgængelighed. Misallokering er ikke længere kun et omkostningsproblem, men bliver en funktionsbegrænsning.

Dette er særligt relevant for GPU-arbejdsbyrder, hvor efterspørgsel ofte overstiger udbuddet. Effektiv allokering på infrastrukturniveau kan bestemme, om modellerne kører effektivt eller sidder inaktive og venter på ressourcer.

Et nyt kontrollag for AI-infrastruktur

Den længerevarende implikation er opkomsten af et nyt kontrollag for beregningsressourcer.

I stedet for, at ingeniører manuelt konfigurerer infrastrukturen eller afhænger af fragmenteret værktøj, fungerer platforme som ScaleOps som et autonomt kontrollag, der kontinuerligt afstemmer udbuddet med efterspørgslen.

Dette bliver stadig mere vigtigt, da organisationer sætter flere AI-systemer i drift samtidigt, hver med forskellige performanceskrav og brugsmønstre.

I denne kontekst begynder infrastrukturhåndtering at ligne trafikstyring mere end statisk konfiguration. Ressourcerne dirigeres, omfordeles og optimeres kontinuerligt i stedet for at blive tildelt én gang og efterladt uforandrede.

Med denne seneste finansiering forventes ScaleOps at udvide sin platform ud over beregning og GPU’er til bredere områder af infrastrukturhåndtering, herunder yderligere lag af cloud- og AI-orkestrering.

Trajektoren antyder en bevægelse mod miljøer, hvor infrastrukturbeslutninger ikke længere håndteres direkte af ingeniører. I stedet styres de af systemer, der fortolker arbejdsbyrdens intention og justerer ressourcer automatisk.

Da AI-arbejdsbyrder fortsætter med at vokse, kan dette skift blive mindre en optimering og mere et krav.