ScaleOps strânge 130 de milioane de dolari în seria C pentru a împinge infrastructura autonomă în centrul operațiunilor AI

ScaleOps a strâns 130 de milioane de dolari în finanțare de serie C, la o valoare de peste 800 de milioane de dolari, pe măsură ce cererea pentru sisteme care pot gestiona încărcări de lucru complexe de cloud și AI fără intervenție umană constantă accelerează.

Runda a fost condusă de Insight Partners, cu sprijin continuu din partea Lightspeed Venture Partners, NFX, Glilot Capital Partners și Picture Capital. Compania a strâns acum peste 210 milioane de dolari în total.

De la optimizarea Kubernetes la infrastructură autonomă

ScaleOps a apărut în 2022 cu un focus pe automatizarea uneia dintre cele mai persistente provocări din infrastructura modernă: alocarea de resurse în mediile Kubernetes. În loc de a se baza pe configurații statice, platforma ajustează continuu resursele de calcul, cum ar fi CPU și memorie, pe baza comportamentului încărcăturii de lucru în timp real.

La nivelul său central, sistemul funcționează ca un motor de optimizare închis. El observă cererea de încărcătură de lucru, evaluează semnalele de performanță și execută modificări automat. Acest lucru include redimensionarea dinamică a încărcăturilor de lucru, ajustarea numărului de replici și optimizarea utilizării nodurilor în cluster.

În timp, aceasta s-a extins dincolo de optimizarea cloudului tradițională în medii cu GPU grele legate de sistemele AI. Platforma aplică acum principii similare pentru alocarea GPU, unde utilizarea ineficientă poate deveni rapid o problemă majoră.

De ce acest strat devine critic

Sistemele moderne de inteligență artificială introduc un nivel de variabilitate pe care instrumentele de infrastructură tradiționale nu au fost proiectate să le gestioneze. Încărcăturile de lucru sar imprevizibil, modelele concurează pentru capacitatea limitată de GPU, iar cerințele de performanță se schimbă în timp real.

În mod istoric, echipele au gestionat acest lucru prin reglare manuală sau automatizare bazată pe reguli. Dar aceste abordări se luptă la scară. Kubernetes însuși, deși proiectat pentru orchestrare, se bazează încă foarte mult pe configurații statice pe care inginerii trebuie să le ajusteze constant pentru a evita sub- sau supraalocarea.

Acest lucru creează o ineficiență structurală. Echipele de ingineri petrec o cantitate semnificativă de timp reacționând la probleme de performanță, reglând alocarea de resurse și rezolvând încălcări ale SLO, mai degrabă decât construind sisteme noi.

Abordarea ScaleOps înlocuiește acest model reactiv cu o automatizare continuă și conștientă de context. În loc de a defini praguri în avans, sistemul se adaptează în timp real pe baza comportamentului observat în întregul cluster.

Mutarea către sisteme de auto-optimizare

Ceea ce face această categorie notabilă nu este doar optimizarea costurilor, ci și schimbarea în modul în care se comportă infrastructura.

În medii tradiționale, infrastructura este configurată. În sistemele mai noi, se așteaptă ca aceasta să se adapteze.

ScaleOps reflectă această tranziție prin tratarea infrastructurii ca ceva care poate reechilibra continuu. Platforma aplică politici, monitorizează rezultatele și ajustează alocările fără a necesita intervenția inginerilor. În medii de producție, acest model poate extinde până la o automatizare aproape completă a deciziilor de resurse.

Acest model a arătat deja un impact măsurabil în implementări din lumea reală. Într-un caz, redimensionarea automată a permis încărcăturilor de lucru să se adapteze dinamic la fluctuațiile de trafic, menținând obiectivele de performanță și reducând risipa în cluster.

Extinderea dincolo de optimizarea costurilor

Instrumentele de optimizare a cloudului timpuriu s-au concentrat în primul rând pe reducerea cheltuielilor. ScaleOps încă subliniază eficiența costurilor, cu afirmații de economii semnificative datorate eliminării supraalocării și a resurselor inactive.

Însă direcția mai largă se îndreaptă către fiabilitatea performanței și reziliența sistemului.

Pe măsură ce sistemele AI devin mai strâns integrate în medii de producție, deciziile de infrastructură afectează direct performanța modelului, latența și disponibilitatea. Alocarea greșită nu mai este doar o problemă de cost, ci și o limitare funcțională.

Acest lucru este deosebit de relevant pentru încărcăturile de lucru cu GPU, unde cererea depășește adesea oferta. Alocarea eficientă la nivelul infrastructurii poate determina dacă modelele rulează eficient sau stau inactiv, așteptând resurse.

Un nou plan de control pentru infrastructura AI

Implicația pe termen lung este apariția unui nou strat de control pentru resursele de calcul.

În loc de a se baza pe ingineri care configurează manual infrastructura sau pe instrumente fragmentate, platforme precum ScaleOps acționează ca un plan de control autonom care aliniază continuu oferta cu cererea.

Acest lucru devine din ce în ce mai important pe măsură ce organizațiile implementează simultan multiple sisteme AI, fiecare cu cerințe de performanță și modele de utilizare diferite.

În acest context, gestionarea infrastructurii începe să semene mai mult cu controlul traficului decât cu provisionarea statică. Resursele sunt dirijate, reechilibrate și optimizate continuu, mai degrabă decât alocate o singură dată și lăsate neschimbate.

Cu această finanțare recentă, ScaleOps se așteaptă să-și extindă platforma dincolo de calcul și GPU în domenii mai largi de gestionare a infrastructurii, incluzând straturi suplimentare de orchestrare a cloudului și a AI.

Traectoria sugerează o mișcare către medii în care deciziile de infrastructură nu mai sunt gestionate direct de ingineri. În schimb, acestea sunt guvernate de sisteme care interpretează intenția încărcăturii de lucru și ajustează resursele automat.

Pe măsură ce încărcăturile de lucru AI continuă să crească, această schimbare poate deveni mai puțin o optimizare și mai mult o cerință.