ScaleOps, otonom altyapıyı AI operasyonlarının merkezine taşımak için C Serisinde 130 milyon dolar topladı

ScaleOps 130 milyon dolarlık Seri C yatırımını 800 milyon doların üzerinde bir değerleme ile aldı. Bu, giderek karmaşıklaşan bulut ve AI iş yüklerini sürekli insan müdahalesi olmadan yönetebilecek sistemler için artan talebin bir sonucu.

Tur, Insight Partners tarafından yönetildi ve Lightspeed Venture Partners, NFX, Glilot Capital Partners ve Picture Capital tarafından devam eden destek aldı. Şirket şimdi toplamda 210 milyon doların üzerinde yatırım aldı.

Kubernetes Optimizasyonundan Otonom Altyapıya

ScaleOps, 2022 yılında modern altyapının en büyük zorluklarından biri olan Kubernetes ortamlarındaki kaynak tahsisi otomasyonu üzerine odaklanarak ortaya çıktı. Statik yapılandırmalara güvenmek yerine, platform gerçek zamanlı iş yükü davranışına bağlı olarak sürekli olarak CPU ve bellek gibi hesap kaynaklarını ayarlıyor.

Sistem, temelde kapalı geri besleme döngüsüne sahip bir optimizasyon motoru olarak çalışıyor. İş yükü talebini gözlemliyor, performans sinyallerini değerlendiriyor ve değişiklikleri otomatik olarak gerçekleştiriyor. Bu, iş yüklerini dinamik olarak yeniden boyutlandırma, kopya sayılarını ayarlama ve küme genelinde düğüm kullanımını optimize etmeyi içerir.

Zaman içinde, bu geleneksel bulut optimizasyonunun ötesine geçerek AI sistemlerine bağlı GPU yoğun ortamlara genişledi. Platform, benzer ilkeleri GPU tahsisi için uyguluyor, burada verimsiz kullanım hızlı bir şekilde önemli bir engel haline gelebilir.

Neden Bu Katman Kritik Hale Geliyor

Modern AI sistemleri, geleneksel altyapı araçlarının ele almak üzere tasarlanmadığı düzeyde bir değişkenlik getiriyor. İş yükleri öngörülemez bir şekilde zirve yapıyor, modeller sınırlı GPU kapasitesi için yarışıyor ve performans gereksinimleri gerçek zamanlı olarak değişiyor.

Tarihsel olarak, ekipler bunu manuel ayarlayarak veya kurallara dayalı otomasyon kullanarak yönetti. Ancak bu yaklaşımlar büyük ölçekte zorlanıyor. Kubernetes kendisi, orkestrasyon için tasarlanmış olsa da, mühendislerin sürekli olarak ayarlamak zorunda olduğu statik yapılandırmalara hâlâ büyük ölçüde dayanıyor; kaynakların yetersiz veya aşırı tahsis edilmesini önlemek için bu yapılandırmaların sürekli ayarlanması gerekiyor.

Bu, yapısal bir verimsizlik yaratıyor. Mühendislik ekipleri, yeni sistemler oluşturmak yerine, performans sorunlarına tepki veriyor, kaynak tahsisini ayarlıyor ve SLO ihlallerini çözüyor.

ScaleOps’un yaklaşımı, bu reaktif modelin yerine sürekli ve bağlama duyarlı otomasyon getiriyor. Önceden eşiği tanımlamak yerine, sistem tüm küme boyunca gözlemlenen davranışa dayanarak gerçek zamanlı olarak uyum sağlıyor.

Kendini Optimize Eden Sistemlere Doğru

Bu kategorinin dikkat çekici olan yanı, sadece maliyet optimizasyonu değil, altyapının davranışındaki değişimdir.

Geleneksel ortamlarda, altyapı yapılandırılır. Yeni sistemlerde, altyapının uyum sağlaması beklenir.

ScaleOps, altyapıyı sürekli olarak kendini yeniden dengeleyebilecek bir şey olarak ele alıyor. Platform, politikaları uyguluyor, sonuçları izliyor ve mühendislerin müdahale etmesine gerek kalmadan tahsisleri ayarlıyor. Üretim ortamlarında, bu neredeyse kaynak kararlarının tam otomasyonuna kadar uzanabilir.

Bu model, gerçek ortamlardaki kurulumlarda şimdiden ölçülebilir etki gösterdi. Bir örnekte, otomatik kaynak boyutlandırması iş yüklerinin trafik dalgalanmalarına dinamik olarak uyum sağlamasına olanak tanırken performans hedefleri korundu ve kümeler genelinde israf azaltıldı.

Maliyet Optimizasyonunun Ötesine Geçmek

Erken bulut optimizasyon araçları, öncelikle harcamaları azaltmaya odaklanmıştı. ScaleOps hala maliyet verimliliğini vurguluyor ve aşırı tahsis ve boş kaynakların ortadan kaldırılmasıyla önemli tasarruflar iddia ediyor.

Ancak daha geniş bir perspektif, performans güvenilirliği ve sistem dayanıklılığına doğru kayıyor.

AI sistemleri üretim ortamlarına daha sıkı bir şekilde entegre edildiğinde, altyapı kararları doğrudan model performansı, gecikme ve erişilebilirliğini etkileyebilir. Yanlış tahsis, artık sadece bir maliyet sorunu değil, aynı zamanda bir işlevsel sınırlamadır.

Bu, özellikle GPU iş yükleri için geçerlidir, burada talep genellikle arzın önüne geçer. Altyapı katmanında verimli tahsis, modellerin verimli bir şekilde çalışıp çalışamayacağını veya kaynakları beklerken boşta kalıp kalamayacağını belirleyebilir.

AI Altyapısı için Yeni bir Kontrol Düzlemi

Uzun vadeli sonuç, hesaplama kaynakları için yeni bir kontrol katmanının ortaya çıkmasıdır.

Mühendislerin altyapıyı manuel olarak yapılandırması veya parçalı araçlara güvenmek yerine, ScaleOps gibi platformlar, sürekli olarak arz ile talebi uyumlu hale getiren otonom bir kontrol düzlemi olarak çalışır.

Bu, özellikle birden fazla AI sistemi aynı anda dağıtıldığında ve her birinin farklı performans gereksinimleri ve kullanım modelleri olduğunda önemlidir.

Bu bağlamda, altyapı yönetimi, statik tahsis yerine kaynakların sürekli olarak yönlendirildiği, yeniden dengelendiği ve optimize edildiği trafik kontrolü gibi bir şey haline gelir.

Son finansmanla birlikte ScaleOps platformunun hesaplama ve GPU’ların ötesine, bulut ve AI orkestrasyonunun ek katmanlarını da içeren daha geniş altyapı yönetimi alanlarına açılması bekleniyor.

Bu gelişim çizgisi, mühendislerin altyapı kararlarını doğrudan ele almadığı, bunun yerine sistemlerin iş yükü amacını yorumlayıp kaynakları otomatik olarak ayarladığı ortamlara doğru bir hareketi işaret ediyor.

AI iş yükleri ölçeklendirildikçe, bu değişim, bir optimizasyon olmaktan çok bir gereksinim haline gelebilir.