ScaleOps henter 130 millioner dollar i serie C til autonom infrastruktur i AI-driften

ScaleOps har hentet inn 130 millioner dollar i serie C-finansiering til en verdi som overstiger 800 millioner dollar, ettersom etterspørselen øker for systemer som kan håndtere stadig mer komplekse sky- og AI-arbeidsbyrder uten konstant menneskelig inngripen.

Runden ble ledet av Insight Partners, med fortsatt støtte fra Lightspeed Venture Partners, NFX, Glilot Capital Partners og Picture Capital. Selskapet har nå hentet inn over 210 millioner dollar totalt.

Fra Kubernetes-optimalisering til autonom infrastruktur

ScaleOps oppstod i 2022 med fokus på å automatisere en av de mest vedvarende utfordringene i moderne infrastruktur: ressursallokering i Kubernetes-miljøer. I stedet for å stole på statiske konfigurasjoner, justerer plattformen kontinuerlig beregningsressurser som CPU og minne basert på arbeidsbyrdenes atferd i sanntid.

I kjernen opererer systemet som en optimaliseringsmotor med en lukket tilbakekoblingssløyfe. Det observerer arbeidsbyrdenes ressursbehov, vurderer ytelsessignaler og utfører endringer automatisk. Dette inkluderer dynamisk tilpasning av arbeidsbyrdenes ressursrammer, justering av replikantall og optimalisering av nodbruken på tvers av cluster.

Over tid har dette utvidet seg fra tradisjonell skyoptimering til GPU-intensive miljøer knyttet til AI-systemer. Plattformen anvender nå lignende prinsipper for GPU-tilordning, der ineffektiv bruk raskt kan bli en stor flaskehals.

Hvorfor dette laget blir kritisk

Moderne AI-systemer introduserer en variabilitet som tradisjonelle infrastrukturverktøy ikke var designet for å håndtere. Arbeidsbyrder øker uforutsigbart til toppbelastninger, modeller konkurrerer om begrenset GPU-kapasitet, og ytelseskrav endrer seg i sanntid.

Historisk har teamene håndtert dette gjennom manuell finjustering eller regelbasert automatisering. Men disse tilnærmingene fungerer dårlig i stor skala. Kubernetes selv, selv om det er designet for orkestrering, stoler fortsatt tungt på statiske konfigurasjoner som ingeniører må kontinuerlig justere for å unngå under- eller over-tilordning.

Dette skaper en strukturell ineffektivitet. Ingeniørteamene tilbringer betydelig tid på å reagere på ytelsesproblemer, finjustere ressursallokering og løse SLO-brudd i stedet for å bygge nye systemer.

ScaleOps’ tilnærming erstatter denne reaktive modellen med kontinuerlig, kontekstbevisst automatisering. I stedet for å definere terskler på forhånd, tilpasser systemet seg i sanntid basert på observert atferd på tvers av hele clusteret.

Beveger seg mot selvoptimerende systemer

Det som gjør denne kategorien bemerkelsesverdig er ikke bare kostoptimering, men skiftet i hvordan infrastrukturen oppfører seg.

I tradisjonelle miljøer konfigureres infrastrukturen. I nyere systemer forventes det at den skal tilpasse seg.

ScaleOps reflekterer denne overgangen ved å behandle infrastrukturen som noe som kontinuerlig kan gjenopprette balansen i ressursene. Plattformen anvender politikker, overvåker resultater og justerer tildelinger uten å kreve at ingeniører griper inn. I produksjonsmiljøer kan dette utvides til nesten full automatisering av ressursbeslutninger.

Denne modellen har allerede vist målbare effekter i virkelige utrullinger. I ett tilfelle tillot automatisk tilpasning av ressursrammene at arbeidsbyrder tilpasset seg dynamisk til trafikkfluktuasjoner samtidig som de opprettholdt ytelsesmål og reduserte sløsing på tvers av cluster.

Utvikling utover kostnadsoptimalisering

Tidlige skyoptimeringsverktøy fokuserte primært på å redusere utgifter. ScaleOps understreker fortsatt kostnadseffektivitet, med påstander om betydelige besparelser drevet av å eliminere over-tilordning og inaktive ressurser.

Men den brede retningen skifter mot pålitelig ytelse og systemresiliens.

Som AI-systemer blir mer tett integrert i produksjonsmiljøer, har infrastrukturbeslutninger en direkte innvirkning på modell-ytelse, latens og tilgjengelighet. Misallokering er ikke lenger bare et kostproblem, men blir en funksjonell begrensning.

Dette er spesielt relevant for GPU-arbeidsbyrder, der etterspørselen ofte overstiger tilbud. Effektiv tildeling på infrastrukturnivå kan bestemme om modellene kjører effektivt eller sitter inaktive og venter på ressurser.

Et nytt kontrollag for AI-infrastruktur

Den lengrevarige implikasjonen er oppkomsten av et nytt kontrollnivå for beregningsressurser.

I stedet for at ingeniører manuelt konfigurerer infrastrukturen eller stoler på fragmentert verktøy, fungerer plattformer som ScaleOps som et autonomt kontrollag som kontinuerlig tilpasser tilbudet til etterspørselen.

Dette blir stadig viktigere når organisasjoner ruller ut flere AI-systemer samtidig, hver med forskjellige ytelseskrav og bruksmønster.

I denne sammenhengen begynner infrastrukturhåndtering å ligne trafikkontroll mer enn statisk tilordning. Ressurser blir rutet, omfordelt og optimalisert kontinuerlig i stedet for å bli tildelt en gang og forlatt uendret.

Med denne siste finansieringen forventes det at ScaleOps vil utvide sin plattform utover beregning og GPU-er til bredere områder av infrastrukturhåndtering, inkludert ytterligere lag av sky- og AI-orkestrering.

Trajektoren antyder en bevegelse mot miljøer der infrastrukturbeslutninger ikke lenger håndteres direkte av ingeniører. I stedet styres de av systemer som tolker arbeidsbyrdenes hensikt og justerer ressurser automatisk.

Etter hvert som AI-arbeidsbyrder fortsetter å vokse, kan dette skiftet bli mindre en optimering og mer et krav.