Yapay zeka modelleri ve platformları

vCluster, Özel Yapay Zekâ Donanımı için Self Servis Özel Bulutlar Sunuyor

vCluster Platform v5.0, yapay zekâ bulut müşterilerine özel sunuculara ve sağlayıcı tarafından onaylanmış Kubernetes, Slurm ve çıkarım ortamlarına self servis erişim olanağı sunuyor.

Theo Nash
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Rows of dedicated GPU server racks inside an AI data center
Öne çıkan noktalarvCluster Platform v5.0, müşterilerin her talep için sağlayıcı personelinin işlem…
Daha fazla göster
  • vCluster Platform v5.0, müşterilerin her talep için sağlayıcı personelinin işlem yapmasına gerek kalmadan çıplak metal GPU sunucuları sağlamasına olanak tanır.
  • Sağlayıcılar her kiracının hangi makine türlerine ve şablonlara erişebileceğini kontrol ederken müşteriler kotalar dahilinde self-servis yapar.
  • Sınırlı kullanılabilirlik, operatörlerin yine de uyumluluğu doğrulaması ve destek yükünün gerçekten azalıp azalmadığını ölçmesi gerektiği anlamına gelir.

vCluster Labs, sınırlı kullanıma sunulan vCluster Platform v5.0 ile yapay zekâ bulut sağlayıcılarına özel fiziksel sunucularda self servis ortamlar sunma olanağı sağladı. Müşteriler, kendilerine ayrılan kapasitedeki makineleri kullanıma alabiliyor, bir işletim sistemi imajı seçebiliyor ve her talebi sağlayıcının karşılamasını beklemeden Kubernetes, Slurm veya çıkarım kümeleri başlatabiliyor.

19 Kasım’da yayımlanan sürüm, fiziksel sunucu kapasitesi sağlamayı taahhüt etmiş operatörlerin karşılaştığı pratik bir soruna çözüm getiriyor. Bir müşteri GPU sunucularından oluşan bir grubu kiralayabilir, ancak yeni projeler için makinelerin hazırlanması konusunda yine de sağlayıcının operasyon ekibine bağımlı olabilir. Yeni platform, donanımın mülkiyetini ve kapasite tahsisini sağlayıcıda bırakırken bu kararların bir bölümünü müşteriye devrediyor.

Fiziksel Makineler için Tek Envanter

Bu sürüm, fiziksel sunucuları platformun altında çalışan kaynak sağlama bileşeni vMetal tarafından tutulan envantere ekliyor. Operatör, kapasiteyi müşterilere tahsis edebiliyor veya talep üzerine kullanılabilir durumda bırakabiliyor; ardından her müşterinin hangi makine türlerini, imajları ve küme şablonlarını kullanabileceğine karar veriyor. Platform, tek tek projelerin üzerine kiracı adı verilen açık bir müşteri sınırı ekliyor. Kotalar, müşterinin kullanabileceği kapasiteyi sınırlıyor; müşteriler kendilerine tahsis edilmemiş envanteri göremiyor.

Müşteri tarafındaki platform ekibi için bu, birkaç iç grubun her biri sağlayıcıdan yeni bir tahsis almak zorunda kalmadan aynı sözleşme kapsamındaki kaynakları kullanabilmesi anlamına geliyor. Bir araştırma grubu zamanlanmış bir Slurm ortamı kurarken bir uygulama ekibi çıkarım dağıtımı için Kubernetes kullanabilir. Hangi yapılandırmaları destekleyeceğine sağlayıcı karar veriyor; müşteri de bunlar arasından seçim yapabiliyor. Dolayısıyla müşterinin sahip olduğu kontrolün kapsamı, tahsisine nelerin dâhil olduğuna ve sağlayıcının hangi şablonları kullanıma sunduğuna bağlı.

Şirket, sağlayıcıların kendi konsolunu kullanabileceğini veya aynı temel API üzerinde markalı bir portal oluşturabileceğini belirtiyor. Bu ayrım, altyapıyı kendi markası altında satan operatörler için önemli: her hizmet türüne özel ayrı bir envanter ve kaynak sağlama sistemi kurmaya gerek kalmadan arayüz farklılaştırılabiliyor.

Bulut Tarzı Kaynak Sağlamayla Özel Donanım

Fiziksel sunucular, ana makineyi ilgisiz müşterilerle paylaşan örnekler yerine doğrudan bu sunuculara erişim sağlar. Bilinen bir donanım yapılandırması, özel hızlandırıcı kapasitesi veya yazılım ortamı üzerinde kontrol isteyen alıcılar için bu seçenek cazip olabilir. Ancak fiziksel bir sunucuyu rezerve etmek tek başına kullanılabilir bir bulut hizmeti sunmaz. Birinin yine de işletim sistemini kurması, erişimi yapılandırması ve kümeyi hazırlaması gerekir.

vCluster’ın yaklaşımı, özel makineleri ve müşteri başına ağ yapılandırmasını self servis kaynak sağlamayla bir araya getiriyor. Sağlayıcı, aynı envanteri hem basit sunucu kiralamaları hem de daha kapsamlı yönetilen ürünler için kullanabilir. İş modelinin temelindeki varsayım, sağlayıcı personelinin üstlendiği adımların azalmasının her müşterinin sisteme dâhil edilmesini kolaylaştırabileceği; yönetilen küme isteyen alıcıların ise farklı bir hizmet düzeyi satın alabileceği. Bu sürüm, taraflardan herhangi birinin ne kadar tasarruf edeceğini ortaya koymuyor; ekonomik sonuçlar donanımın ne ölçüde kullanıldığına ve müşterilerin ne tür bir desteğe ihtiyaç duyduğuna bağlı olacak.

Operatörlerin projeler arasında atıl kalan donanımları nasıl yönettiği de önemli. Ayrılmış kapasite alıcılara öngörülebilirlik sağlıyor, ancak makineler atıl olsa bile diğer müşterilerin kullanımına kapalı kalabiliyor. Talep üzerine kullanılabilen bir havuz esnekliği artırabilir; ancak bunun için sağlayıcının talebi güvenilir biçimde karşılayabilmesi gerekir. Platform, sağlayıcıların her iki modeli de sunmasına olanak tanıyor; ancak rezervasyon koşullarını belirleme veya olası kıtlıklara yönelik planlama gereğini ortadan kaldırmıyor.

Sınırlı Kullanıma Sunulmasının Operatörler Açısından Anlamı

5.0 sürümü genel kullanıma sunulmuş değil. Satıcının belgeleri, mevcut dağıtımlarda uzun süreli destek sunan Platform v4.12 ve vCluster v0.37 sürümlerinin kullanılmaya devam edilmesini öneriyor. Yeni sürümü değerlendiren operatörlerin, sürümün kaynak sağlama ve ağ araçlarıyla uyumluluğunu incelemesi ve müşterilerin yeni destek darboğazları oluşmadan makine tahsisinden kullanılabilir bir kümeye geçebildiğini doğrulaması gerekiyor.

İlk sınav operasyonel olacak: sağlayıcının donanımı tahsis ettikten sonra çalışır durumdaki altyapıyı ne kadar hızlı sunabildiği ve müşterilerin sonrasında ne sıklıkta yardıma ihtiyaç duyduğu. Özel kapasiteyi yönetmeyi zorlaştırmadan bu ölçütler iyileşirse self servis, benzer donanımlar satan yapay zekâ bulut sağlayıcılarını birbirinden ayıran önemli bir özellik hâline gelebilir.

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.