ScaleOps meraih 130 juta dolar dalam Seri C untuk membawa infrastruktur otonom ke inti operasi AI

ScaleOps telah mengumpulkan $130 juta dalam pendanaan Seri C dengan valuasi yang melebihi $800 juta, karena permintaan untuk sistem yang dapat mengelola beban kerja cloud dan AI yang semakin kompleks tanpa intervensi manusia terus-menerus semakin meningkat.

Putaran ini dipimpin oleh Insight Partners, dengan dukungan berkelanjutan dari Lightspeed Venture Partners, NFX, Glilot Capital Partners, dan Picture Capital. Perusahaan ini sekarang telah mengumpulkan lebih dari $210 juta secara keseluruhan.

Dari Optimasi Kubernetes ke Infrastruktur Otonom

ScaleOps muncul pada tahun 2022 dengan fokus pada mengotomatisasi salah satu tantangan yang paling persisten dalam infrastruktur modern: alokasi sumber daya di lingkungan Kubernetes. Alih-alih mengandalkan konfigurasi statis, platform ini terus-menerus menyesuaikan sumber daya komputasi seperti CPU dan memori berdasarkan perilaku beban kerja waktu nyata.

Di intinya, sistem ini beroperasi sebagai mesin optimasi dengan siklus umpan balik tertutup. Ini mengamati permintaan beban kerja, mengevaluasi sinyal kinerja, dan melaksanakan perubahan secara otomatis. Ini termasuk mengubah ukuran beban kerja secara dinamis, menyesuaikan jumlah replika, dan mengoptimalkan penggunaan node di seluruh klaster.

Seiring waktu, ini telah berkembang melampaui optimasi cloud tradisional ke lingkungan yang banyak menggunakan GPU yang terkait dengan sistem AI. Platform ini sekarang menerapkan prinsip yang sama untuk alokasi GPU, di mana penggunaan yang tidak efisien dapat dengan cepat menjadi bottleneck utama.

Mengapa Lapisan Ini Menjadi Kritis

Sistem AI modern memperkenalkan tingkat variabilitas yang tidak dirancang untuk ditangani oleh alat infrastruktur tradisional. Beban kerja melonjak secara tidak terduga, model bersaing untuk kapasitas GPU yang terbatas, dan persyaratan kinerja berubah dalam waktu nyata.

Secara historis, tim telah mengelola ini melalui penyetelan manual atau otomatisasi berbasis aturan. Namun, pendekatan ini kesulitan ketika diterapkan dalam skala besar. Kubernetes itu sendiri, meskipun dirancang untuk orkestrasi, masih sangat bergantung pada konfigurasi statis yang harus diatur secara konstan oleh insinyur untuk menghindari kekurangan atau kelebihan penyediaan sumber daya.

Ini menciptakan ketidakefisienan struktural. Tim insinyur menghabiskan waktu yang signifikan untuk bereaksi terhadap masalah kinerja, menyetel alokasi sumber daya, dan menyelesaikan pelanggaran SLO daripada membangun sistem baru.

Pendekatan ScaleOps menggantikan model reaktif ini dengan otomatisasi yang berkelanjutan dan sadar konteks. Alih-alih menentukan ambang batas sebelumnya, sistem ini beradaptasi dalam waktu nyata berdasarkan perilaku yang diamati di seluruh klaster.

Bergerak Menuju Sistem yang Mengoptimalkan Diri

Apa yang membuat kategori ini menonjol bukan hanya optimasi biaya, tetapi pergeseran dalam cara infrastruktur berperilaku.

Di lingkungan tradisional, infrastruktur dikonfigurasi. Di sistem yang lebih baru, diharapkan untuk beradaptasi.

ScaleOps mencerminkan transisi ini dengan memperlakukan infrastruktur sebagai sesuatu yang dapat terus-menerus menyeimbangkan kembali sumber dayanya sendiri. Platform ini menerapkan kebijakan, memantau hasil, dan menyesuaikan alokasi tanpa memerlukan intervensi insinyur. Di lingkungan produksi, hal ini dapat berkembang hingga hampir seluruh keputusan sumber daya diotomatisasi.

Model ini telah menunjukkan dampak yang dapat diukur dalam penerapan dunia nyata. Dalam satu kasus, penyesuaian kapasitas secara otomatis memungkinkan beban kerja beradaptasi secara dinamis dengan fluktuasi lalu lintas sambil mempertahankan target kinerja dan mengurangi pemborosan di seluruh klaster.

Melampaui Optimasi Biaya

Alat optimasi cloud awal terutama berfokus pada mengurangi pengeluaran. ScaleOps masih menekankan efisiensi biaya, dengan klaim penghematan yang signifikan didorong oleh menghilangkan over-provisioning dan sumber daya yang tidak aktif.

Namun, arah yang lebih luas adalah menuju keandalan kinerja dan ketahanan sistem.

Ketika sistem AI menjadi lebih terintegrasi dengan lingkungan produksi, keputusan infrastruktur secara langsung memengaruhi kinerja model, latensi, dan ketersediaan. Alokasi yang salah tidak lagi hanya menjadi masalah biaya, tetapi menjadi keterbatasan fungsional.

Ini terutama relevan untuk beban kerja GPU, di mana permintaan sering melebihi pasokan. Alokasi yang efisien di lapisan infrastruktur dapat menentukan apakah model berjalan dengan efisien atau menganggur menunggu sumber daya.

Lapisan Kendali Baru untuk Infrastruktur AI

Implikasi jangka panjang adalah munculnya lapisan pengendali baru untuk sumber daya komputasi.

Alih-alih insinyur mengonfigurasi infrastruktur secara manual atau mengandalkan tooling yang terfragmentasi, platform seperti ScaleOps bertindak sebagai lapisan kendali otonom yang terus-menerus menyelaraskan pasokan dengan permintaan.

Ini menjadi semakin penting ketika organisasi menggelar beberapa sistem AI secara bersamaan, masing-masing dengan persyaratan kinerja dan pola penggunaan yang berbeda.

Dalam konteks itu, manajemen infrastruktur mulai menyerupai kontrol lalu lintas lebih dari penyediaan statis. Sumber daya diarahkan, diseimbangkan kembali, dan dioptimalkan secara terus-menerus daripada ditugaskan sekali dan dibiarkan tidak berubah.

Dengan pendanaan terbaru ini, ScaleOps diharapkan untuk memperluas platformnya melampaui komputasi dan GPU ke area yang lebih luas dari manajemen infrastruktur, termasuk lapisan tambahan orkestrasi cloud dan AI.

Arah perkembangan ini menunjukkan pergeseran menuju lingkungan di mana keputusan infrastruktur tidak lagi ditangani secara langsung oleh insinyur. Sebaliknya, keputusan tersebut diatur oleh sistem yang menafsirkan niat beban kerja dan menyesuaikan sumber daya secara otomatis.

Ketika beban kerja AI terus berkembang, pergeseran ini mungkin tidak lagi sekadar menjadi optimasi, melainkan suatu kebutuhan.