Model dan platform AI
vCluster Menambahkan Cloud Privat Layanan Mandiri untuk Perangkat Keras AI Khusus
vCluster Platform v5.0 memberi pelanggan cloud AI akses layanan mandiri ke server khusus serta lingkungan Kubernetes, Slurm, dan inferensi yang disetujui penyedia.
Poin utamavCluster Platform v5.0 memungkinkan pelanggan menyediakan server GPU bare-metal tanpa…
Lihat selengkapnya
- vCluster Platform v5.0 memungkinkan pelanggan menyediakan server GPU bare-metal tanpa staf penyedia menangani setiap permintaan.
- Penyedia mengontrol jenis mesin dan templat mana yang dapat diakses setiap tenant sementara pelanggan melayani sendiri dalam kuota.
- Ketersediaan terbatas berarti operator masih harus memverifikasi kompatibilitas dan mengukur apakah beban dukungan benar-benar berkurang.
vCluster Labs memperkenalkan vCluster Platform v5.0 dengan ketersediaan terbatas, sehingga penyedia cloud AI dapat menawarkan lingkungan layanan mandiri di server fisik khusus. Pelanggan dapat menyediakan mesin dari kapasitas yang dialokasikan kepada mereka, memilih citra sistem operasi, lalu meluncurkan klaster Kubernetes, Slurm, atau inferensi tanpa meminta penyedia menangani setiap permintaan.
Rilis pada 19 November ini menjawab persoalan praktis bagi operator yang sudah berkomitmen menyediakan kapasitas server bare metal. Pelanggan mungkin menyewa sejumlah server GPU, tetapi tetap bergantung pada tim operasional penyedia untuk menyiapkan mesin bagi proyek baru. Platform baru ini menyerahkan sebagian keputusan tersebut kepada pelanggan, sementara kepemilikan perangkat keras dan alokasi kapasitas tetap berada di tangan penyedia.
Satu Inventaris untuk Mesin Fisik
Rilis ini memasukkan server fisik ke dalam inventaris yang dikelola vMetal, komponen penyediaan di bawah platform tersebut. Operator mengalokasikan kapasitas kepada pelanggan atau membiarkannya tersedia sesuai permintaan, lalu menentukan jenis mesin, citra, dan templat klaster yang dapat digunakan setiap pelanggan. Platform ini menambahkan batas pelanggan yang jelas, yang disebut tenant, di atas proyek-proyek individual. Kuota membatasi kapasitas yang dapat diminta pelanggan, dan pelanggan tidak dapat melihat inventaris yang belum diberikan kepada mereka.
Bagi tim platform pelanggan, artinya beberapa kelompok internal dapat menggunakan kapasitas dari kontrak yang sama tanpa masing-masing harus meminta alokasi baru kepada penyedia. Kelompok riset dapat menyiapkan lingkungan Slurm terjadwal, sementara tim aplikasi menggunakan Kubernetes untuk penerapan inferensi. Penyedia menentukan konfigurasi yang didukungnya, dan pelanggan dapat memilih di antara konfigurasi tersebut. Karena itu, tingkat kendali pelanggan bergantung pada apa saja yang termasuk dalam alokasinya dan templat mana yang disediakan oleh penyedia.
Perusahaan tersebut menyatakan bahwa penyedia dapat menggunakan konsolnya atau membuat portal bermerek sendiri dengan API dasar yang sama. Perbedaan ini penting bagi operator yang menjual infrastruktur dengan merek mereka sendiri: antarmukanya dapat berbeda tanpa perlu membuat sistem inventaris dan penyediaan terpisah untuk setiap jenis layanan.
Perangkat Keras Khusus dengan Penyediaan Bergaya Cloud
Bare metal menyediakan akses ke server fisik, bukan instans yang berbagi host dengan pelanggan lain yang tidak terkait. Hal ini dapat menarik bagi pembeli yang menginginkan konfigurasi perangkat keras tertentu, kapasitas akselerator khusus, atau kendali atas lingkungan perangkat lunak. Namun, reservasi fisik saja tidak otomatis menyediakan layanan cloud yang siap digunakan. Sistem operasi tetap harus disiapkan, akses dikonfigurasi, dan klaster dipersiapkan.
Pendekatan vCluster memadukan mesin khusus dan jaringan untuk setiap pelanggan dengan penyediaan layanan mandiri. Penyedia dapat menggunakan inventaris yang sama untuk penyewaan server sederhana maupun produk dengan pengelolaan yang lebih menyeluruh. Dasar bisnisnya adalah bahwa pengurangan langkah yang perlu ditangani staf penyedia dapat mempermudah proses penerimaan setiap pelanggan, sementara pembeli yang menginginkan klaster terkelola dapat membeli tingkat layanan yang berbeda. Rilis ini tidak menetapkan besarnya penghematan bagi kedua pihak; nilai ekonominya akan bergantung pada tingkat pemanfaatan perangkat keras dan dukungan yang dibutuhkan pelanggan.
Cara operator menangani perangkat keras yang menganggur di antara proyek juga penting. Kapasitas yang direservasi memberi kepastian kepada pembeli, tetapi mesin tersebut dapat tetap tidak tersedia bagi pelanggan lain meskipun sedang menganggur. Kumpulan sumber daya sesuai permintaan dapat meningkatkan fleksibilitas, tetapi hanya jika penyedia mampu memenuhi permintaan secara andal. Platform ini memungkinkan penyedia menawarkan kedua model tersebut; platform ini tidak menghilangkan kebutuhan untuk menetapkan ketentuan reservasi atau merencanakan kemungkinan kekurangan kapasitas.
Arti Ketersediaan Terbatas bagi Operator
Versi 5.0 belum tersedia secara umum. Dokumentasi vendor menyarankan agar rilis dukungan jangka panjang yang sudah ada, Platform v4.12 dan vCluster v0.37, tetap digunakan untuk penerapan saat ini. Operator yang mempertimbangkan versi baru masih harus menilai kompatibilitasnya dengan alat penyediaan dan jaringan mereka, serta memastikan pelanggan dapat beralih dari alokasi mesin ke klaster yang siap digunakan tanpa menimbulkan hambatan baru dalam dukungan.
Uji langsungnya bersifat operasional: seberapa cepat penyedia dapat menghadirkan infrastruktur yang berfungsi setelah mengalokasikan perangkat keras, dan seberapa sering pelanggan membutuhkan bantuan setelahnya. Jika indikator tersebut membaik tanpa membuat kapasitas khusus lebih sulit dikelola, layanan mandiri dapat menjadi pembeda yang berarti di antara penyedia cloud AI yang menjual perangkat keras serupa.












