ScaleOps Mengumpulkan $130M Seri C untuk Mendorong Infrastruktur Otonom ke Inti Operasi AI

ScaleOps telah mengumpulkan $130 juta dalam pendanaan Seri C dengan valuasi yang melebihi $800 juta, karena permintaan untuk sistem yang dapat mengelola beban kerja cloud dan AI yang semakin kompleks tanpa intervensi manusia yang konstan meningkat.

Putaran ini dipimpin oleh Insight Partners, dengan dukungan berkelanjutan dari Lightspeed Venture Partners, NFX, Glilot Capital Partners, dan Picture Capital. Perusahaan ini sekarang telah mengumpulkan lebih dari $210 juta dalam total.

Dari Optimasi Kubernetes ke Infrastruktur Otonom

ScaleOps muncul pada tahun 2022 dengan fokus pada mengotomatisasi salah satu tantangan yang paling persisten dalam infrastruktur modern: alokasi sumber daya di lingkungan Kubernetes. Alih-alih mengandalkan konfigurasi statis, platform ini terus-menerus menyesuaikan sumber daya komputasi seperti CPU dan memori berdasarkan perilaku beban kerja waktu nyata.

Di intinya, sistem ini beroperasi sebagai mesin optimasi tertutup. Ini mengamati permintaan beban kerja, mengevaluasi sinyal kinerja, dan melaksanakan perubahan secara otomatis. Ini termasuk mengubah ukuran beban kerja secara dinamis, menyesuaikan jumlah replika, dan mengoptimalkan penggunaan node di seluruh klaster.

Seiring waktu, ini telah berkembang melampaui optimasi cloud tradisional ke lingkungan yang berat pada GPU yang terkait dengan sistem AI. Platform ini sekarang menerapkan prinsip yang sama untuk alokasi GPU, di mana penggunaan yang tidak efisien dapat dengan cepat menjadi bottleneck utama.

Mengapa Lapisan Ini Menjadi Kritis

Sistem AI modern memperkenalkan tingkat variabilitas yang tidak dirancang untuk ditangani oleh alat infrastruktur tradisional. Beban kerja melonjak secara tidak terduga, model bersaing untuk kapasitas GPU yang terbatas, dan persyaratan kinerja berubah dalam waktu nyata.

Secara historis, tim telah mengelola ini melalui penyetelan manual atau otomatisasi berbasis aturan. Namun, pendekatan ini berjuang pada skala. Kubernetes itu sendiri, meskipun dirancang untuk orkestrasi, masih sangat bergantung pada konfigurasi statis yang harus diatur secara konstan oleh insinyur untuk menghindari under- atau over-provisioning.

Ini menciptakan ketidakefisienan struktural. Tim insinyur menghabiskan waktu yang signifikan untuk bereaksi terhadap masalah kinerja, menyetel alokasi sumber daya, dan menyelesaikan pelanggaran SLO daripada membangun sistem baru.

Pendekatan ScaleOps menggantikan model reaktif ini dengan otomatisasi yang berkelanjutan dan sadar konteks. Alih-alih menentukan ambang batas sebelumnya, sistem ini beradaptasi dalam waktu nyata berdasarkan perilaku yang diamati di seluruh klaster.

Bergerak Menuju Sistem yang Mengoptimalkan Diri

Apa yang membuat kategori ini menonjol bukan hanya optimasi biaya, tetapi pergeseran dalam cara infrastruktur berperilaku.

Di lingkungan tradisional, infrastruktur dikonfigurasi. Di sistem yang lebih baru, diharapkan untuk beradaptasi.

ScaleOps mencerminkan transisi ini dengan mengobati infrastruktur sebagai sesuatu yang dapat terus-menerus melakukan rebalancing diri. Platform ini menerapkan kebijakan, memantau hasil, dan menyesuaikan alokasi tanpa memerlukan intervensi insinyur. Di lingkungan produksi, ini dapat memperluas hampir sepenuhnya otomatisasi keputusan sumber daya.

Model ini telah menunjukkan dampak yang dapat diukur dalam penerapan dunia nyata. Dalam satu kasus, penyesuaian ukuran otomatis memungkinkan beban kerja untuk menyesuaikan secara dinamis dengan fluktuasi lalu lintas sambil mempertahankan target kinerja dan mengurangi pemborosan di seluruh klaster.

Melampaui Optimasi Biaya

Alat optimasi cloud awal terutama berfokus pada mengurangi pengeluaran. ScaleOps masih menekankan efisiensi biaya, dengan klaim penghematan yang signifikan didorong oleh menghilangkan over-provisioning dan sumber daya yang tidak aktif.

Namun, arah yang lebih luas adalah menuju keandalan kinerja dan ketahanan sistem.

Ketika sistem AI menjadi lebih terintegrasi dengan lingkungan produksi, keputusan infrastruktur secara langsung memengaruhi kinerja model, latensi, dan ketersediaan. Alokasi yang salah tidak lagi hanya menjadi masalah biaya, tetapi menjadi keterbatasan fungsional.

Ini terutama relevan untuk beban kerja GPU, di mana permintaan sering melebihi pasokan. Alokasi yang efisien di lapisan infrastruktur dapat menentukan apakah model berjalan dengan efisien atau menganggur menunggu sumber daya.

Sebuah Pesawat Pengendali Baru untuk Infrastruktur AI

Implikasi jangka panjang adalah munculnya lapisan pengendali baru untuk sumber daya komputasi.

Alih-alih insinyur mengonfigurasi infrastruktur secara manual atau mengandalkan tooling yang terfragmentasi, platform seperti ScaleOps bertindak sebagai pesawat pengendali otonom yang terus-menerus menyelaraskan pasokan dengan permintaan.

Ini menjadi semakin penting ketika organisasi menggelar beberapa sistem AI secara bersamaan, masing-masing dengan persyaratan kinerja dan pola penggunaan yang berbeda.

Dalam konteks itu, manajemen infrastruktur mulai menyerupai kontrol lalu lintas lebih dari penyediaan statis. Sumber daya diarahkan, direbalancing, dan dioptimalkan secara terus-menerus daripada ditugaskan sekali dan dibiarkan tidak berubah.

Dengan pendanaan terbaru ini, ScaleOps diharapkan untuk memperluas platformnya melampaui komputasi dan GPU ke area yang lebih luas dari manajemen infrastruktur, termasuk lapisan tambahan orkestrasi cloud dan AI.

Trajectory ini menunjukkan pergeseran menuju lingkungan di mana keputusan infrastruktur tidak lagi ditangani secara langsung oleh insinyur. Sebaliknya, mereka diperintah oleh sistem yang menafsirkan niat beban kerja dan menyesuaikan sumber daya secara otomatis.

Ketika beban kerja AI terus berkembang, pergeseran ini mungkin menjadi kurang dari optimasi dan lebih dari suatu kebutuhan.