ScaleOps Získává 130 Milionů USD V Řadě C, Abyste Poháněli Autonomní Infrastrukturu Do Jádra AI Operací

ScaleOps získala 130 milionů dolarů ve financování série C při valuaci přesahující 800 milionů dolarů, protože poptávka zrychluje pro systémy, které mohou spravovat stále složitější cloudové a AI úkoly bez stálého lidského zásahu.

Kolo bylo vedené Insight Partners, s pokračujícím podporováním ze strany Lightspeed Venture Partners, NFX, Glilot Capital Partners a Picture Capital. Společnost nyní získala více než 210 milionů dolarů celkem.

Od Optimalizace Kubernetes Po Autonomní Infrastrukturu

ScaleOps se objevila v roce 2022 se zaměřením na automatizaci jednoho z nejtrvalejších problémů v moderní infrastruktuře: přidělování zdrojů v prostředích Kubernetes. Místo toho, aby se spoléhala na statické konfigurace, platforma nepřetržitě upravuje výpočetní zdroje, jako je CPU a paměť, na základě chování úkolu v reálném čase.

V jádru systému funguje jako uzavřený optimalizační motor. Pozoruje poptávku úkolu, vyhodnocuje signály výkonu a provádí změny automaticky. To zahrnuje dynamické změny velikosti úkolu, úpravu počtu replik a optimalizaci využití uzlů napříč clusterem.

V průběhu času se to rozšířilo za hranice tradiční cloudové optimalizace do prostředí s vysokou hustotou GPU spojených s AI systémy. Platforma nyní aplikuje podobné principy na přidělování GPU, kde neefektivní využití může rychle stát se významnou překážkou.

Proč Se Tato Vrstva Stává Kritickou

Moderní AI systémy zavádějí úroveň variability, se kterou tradiční nástroje infrastruktury nebyly navrženy. Úkoly se neočekávaně zvyšují, modely soutěží o omezenou kapacitu GPU a požadavky na výkon se mění v reálném čase.

Historicky týmy spravovaly toto prostřednictvím manuálního ladění nebo automatizace založené na pravidlech. Ale tyto přístupy bojují v měřítku. Kubernetes samo o sobě, ačkoli je navržen pro orchestraci, stále silně závisí na statických konfiguracích, které inženýři musí neustále upravovat, aby se vyhnuli pod- nebo nad-allocaci.

To vytváří strukturální neefektivitu. Inženýrské týmy tráví značné množství času reagováním na problémy s výkonem, laděním přidělování zdrojů a řešením porušení SLO, místo toho, aby stavěly nové systémy.

Přístup ScaleOps nahrazuje tento reaktivní model kontinuální, kontextově-aware automatizací. Místo toho, aby definovat prahové hodnoty předem, systém se přizpůsobuje v reálném čase na základě pozorovaného chování napříč celým clusterem.

Pohyb Směrem K Samo-Optimalizujícím Systémům

Co dělá tuto kategorii pozoruhodnou, není jen optimalizace nákladů, ale posun v tom, jak se infrastruktura chová.

V tradičních prostředích je infrastruktura nakonfigurována. V novějších systémech se od ní očekává, že se přizpůsobí.

ScaleOps odráží tuto transformaci tím, že zachází s infrastrukturou jako s něčím, co může nepřetržitě rebalancovat samo sebe. Platforma aplikuje zásady, monitoruje výsledky a upravuje alokace bez nutnosti zásahu inženýrů. V produkčních prostředích může toto vést až k téměř úplné automatizaci rozhodnutí o zdrojích.

Tento model již ukázal měřitelný dopad v reálných nasazeních. V jednom případě umožnila automatizovaná optimalizace velikosti úkolu dynamicky přizpůsobit se změnám provozu, zatímco udržovala cíle výkonu a snižovala plýtvání napříč clusterem.

Rozšiřování Za hranice Optimalizace Nákladů

Rané nástroje pro cloudovou optimalizaci se zaměřovaly primárně na snižování nákladů. ScaleOps stále zdůrazňuje efektivitu nákladů, s tvrzeními o významných úsporách plynoucích z eliminace nad-allocace a nečinných zdrojů.

Ale širší směr se posouvá směrem k spolehlivosti výkonu a odolnosti systému.

Jakmile se AI systémy stávají stále více integrovanými do produkčních prostředí, rozhodnutí o infrastruktuře přímo ovlivňují výkon modelu, latenci a dostupnost. Nesprávné přidělování již není pouze otázkou nákladů, stává se funkční limitací.

To je zvláště relevantní pro úkoly s vysokou hustotou GPU, kde poptávka často překračuje nabídku. Efektivní přidělování na úrovni infrastruktury může určit, zda modely běží efektivně nebo čekají nečinně na zdroje.

Nová Řídicí Rovina Pro AI Infrastrukturu

Dlouhodobým implikací je vznik nové řídicí vrstvy pro výpočetní zdroje.

Místo toho, aby inženýři manuálně konfigurovali infrastrukturu nebo spoléhali na fragmentované nástroje, platformy jako ScaleOps fungují jako autonomní řídicí rovina, která nepřetržitě sladí nabídku s poptávkou.

To se stává stále důležitějším, protože organizace nasazují několik AI systémů současně, každý s odlišnými požadavky na výkon a vzorci využití.

V tomto kontextu se správa infrastruktury podobá spíše řízení dopravy než statickému přidělování. Zdroje jsou směrovány, rebalancovány a optimalizovány nepřetržitě, spíše než přiděleny jednou a ponechány beze změny.

S tímto nejnovějším financováním se ScaleOps očekává, že rozšíří svou platformu za hranice výpočtů a GPU do širších oblastí správy infrastruktury, včetně dalších vrstev cloudové a AI orchestrace.

Trajectory naznačuje posun směrem k prostředím, kde rozhodnutí o infrastruktuře již nejsou přímo spravována inženýry. Místo toho jsou řízeny systémy, které interpretují záměr úkolu a automaticky upravují zdroje.

Jakmile se AI úkoly dále škálovají, tento posun se může stát méně optimalizací a více požadavkem.