ScaleOps hæver 130 millioner dollars i serie C for at fremme autonom infrastruktur i kernen af AI-operationer

ScaleOps har hævet 130 millioner dollars i serie C-finansiering til en vurdering, der overstiger 800 millioner dollars, da efterspørgslen efter systemer, der kan håndtere stadig mere komplekse cloud- og AI-arbejdsbyrder uden konstant menneskelig indgriben, accelererer.

Runden blev ledet af Insight Partners, med fortsat støtte fra Lightspeed Venture Partners, NFX, Glilot Capital Partners og Picture Capital. Selskabet har nu hævet mere end 210 millioner dollars i alt.

Fra Kubernetes-optimisering til autonom infrastruktur

ScaleOps opstod i 2022 med fokus på at automatisere en af de mest vedvarende udfordringer i moderne infrastruktur: ressourceallokering i Kubernetes-miljøer. I stedet for at afhænge af statiske konfigurationer, justerer platformen kontinuerligt compute-resourcer som CPU og hukommelse baseret på arbejdsbyrdens reelle adfærd.

I sin kerne fungerer systemet som en lukket optimeringsmotor. Det observerer arbejdsbyrdens efterspørgsel, vurderer performancesignaler og udfører ændringer automatisk. Dette inkluderer dynamisk omstørrelse af arbejdsbyrder, justering af replikaantal og optimering af nodebrug på tværs af kluster.

Over tid er dette udvidet til at omfatte traditionel cloud-optimering i GPU-tunge miljøer tilknyttet AI-systemer. Platformen anvender nu lignende principper til GPU-allokering, hvor ineffektiv brug hurtigt kan blive en stor flaskehals.

Hvorfor dette lag bliver kritisk

Moderne AI-systemer introducerer en niveau af variabilitet, som traditionelle infrastrukturværktøjer ikke er designet til at håndtere. Arbejdsbyrder skyder ukontrollerbart, modeller konkurrerer om begrænsede GPU-kapaciteter, og performanceskrav skifter i realtid.

Historisk har holdene håndteret dette gennem manuel finjustering eller regelbaseret automatisering. Men disse tilgange kæmper på størrelsesmæssigt. Kubernetes selv, selv om det er designet til orkestrering, afhænger stadig kraftigt af statiske konfigurationer, som ingeniører må konstant justere for at undgå under- eller overudstyrning.

Dette skaber en strukturel ineffektivitet. Ingeniørholdene bruger betydelig tid på at reagere på performancesproblemer, justere ressourceallokering og løse SLO-overtrædelser i stedet for at bygge nye systemer.

ScaleOps’ tilgang erstatter denne reaktive model med kontinuerlig, kontekstbevidst automatisering. I stedet for at definere grænseværdier i forvejen, tilpasser systemet sig i realtid baseret på observeret adfærd på tværs af hele klusteret.

Bevæger sig mod selvoptimerende systemer

Det, der gør denne kategori bemærkelsesværdig, er ikke kun omkostningsoptimering, men skiftet i, hvordan infrastrukturen opfører sig.

I traditionelle miljøer konfigureres infrastrukturen. I nyere systemer forventes det, at den tilpasser sig.

ScaleOps afspejler denne overgang ved at behandle infrastrukturen som noget, der kan kontinuerligt genoprette sig selv. Platformen anvender politikker, overvåger resultater og justerer allokeringer uden, at ingeniører behøver at gribe ind. I produktionsmiljøer kan dette udstrække sig til næsten fuld automatisering af resourcedecisioner.

Dette model har allerede vist målbart impact i virkelige installationer. I ét tilfælde tillod automatiseret retning af arbejdsbyrder at tilpasse sig dynamisk til trafikfluktuationer, mens de opretholdt performancesmål og reducerede spild på tværs af kluster.

Udvider sig ud over omkostningsoptimering

Tidlige cloud-optimeringsværktøjer fokuserede primært på at reducere udgifter. ScaleOps understreger stadig omkostningseffektivitet, med påstande om betydelige besparelser drevet af eliminering af overudstyrning og inaktive ressourcer.

Men den bredere retning skifter mod performancesikkerhed og systemresilience.

Da AI-systemer bliver mere tæt integreret i produktionsmiljøer, har infrastrukturdecisioner en direkte indvirkning på modelpræstation, latency og tilgængelighed. Misallokering er ikke længere kun et omkostningsproblem, men bliver en funktionsbegrænsning.

Dette er særligt relevant for GPU-arbejdsbyrder, hvor efterspørgsel ofte overstiger udbuddet. Effektiv allokering på infrastrukturniveau kan bestemme, om modellerne kører effektivt eller sidder inaktive og venter på ressourcer.

Et nyt kontrolplan for AI-infrastruktur

Den længerevarende implikation er opkomsten af et nyt kontrolplan for beregningsressourcer.

I stedet for, at ingeniører manuelt konfigurerer infrastrukturen eller afhænger af fragmenteret værktøj, fungerer platforme som ScaleOps som et autonomt kontrolplan, der kontinuerligt harmonerer tilbud med efterspørgsel.

Dette bliver stadig mere vigtigt, da organisationer deployer multiple AI-systemer samtidigt, hver med forskellige performanceskrav og brugs mønstre.

I denne kontekst begynder infrastrukturhåndtering at ligne trafikstyring mere end statisk konfiguration. Ressourcerne dirigeres, genoprettes og optimeres kontinuerligt i stedet for at blive tildelt én gang og efterladt uforandrede.

Med denne seneste finansiering forventes ScaleOps at udvide sin platform ud over beregning og GPU’er til bredere områder af infrastrukturhåndtering, herunder yderligere lag af cloud- og AI-orkestrering.

Trajektoren antyder en bevægelse mod miljøer, hvor infrastrukturdecisioner ikke længere håndteres direkte af ingeniører. I stedet styres de af systemer, der fortolker arbejdsbyrdens intention og justerer ressourcer automatisk.

Da AI-arbejdsbyrder fortsætter med at skale, kan dette skift blive mindre en optimering og mere en krav.