AIモデルとプラットフォーム

vCluster、専用AIハードウェア向けのセルフサービス型プライベートクラウドを追加

vCluster Platform v5.0により、AIクラウドの顧客は、専用サーバーと、事業者が承認したKubernetes、Slurm、推論環境をセルフサービスで利用できます。

Theo Nash
Unite.AI を Google の優先ソースに追加
Rows of dedicated GPU server racks inside an AI data center
要点vCluster Platform v5.0により、顧客はプロバイダーのスタッフが各リクエストを処理することなく、ベアメタルGPUサーバーをプロビジョニングできる。
もっと見る
  • vCluster Platform v5.0により、顧客はプロバイダーのスタッフが各リクエストを処理することなく、ベアメタルGPUサーバーをプロビジョニングできる。
  • プロバイダーは各テナントがアクセスできるマシンタイプとテンプレートを制御し、顧客はクォータ内でセルフサービスを利用できる。
  • 限定提供のため、オペレーターは互換性を検証し、サポート負担が実際に軽減されるかを測定する必要がある。

vCluster Labsは、vCluster Platform v5.0を限定提供としてリリースしました。これにより、AIクラウド事業者は専用の物理サーバー上でセルフサービス環境を提供できるようになります。顧客は割り当てられた容量からマシンをプロビジョニングし、OSイメージを選択して、Kubernetes、Slurm、または推論用クラスターを起動できます。その都度、事業者に対応を依頼する必要はありません。

11月19日のリリースは、すでにベアメタル容量の提供を決めている事業者が直面する実務上の課題に対応するものです。顧客はGPUサーバー一式を借りていても、新しいプロジェクト向けにマシンを準備する作業を、依然として事業者の運用チームに頼らなければならない場合があります。この新しいプラットフォームでは、ハードウェアの所有権と容量の割り当ては事業者が維持しつつ、そうした判断の一部を顧客に委ねます。

物理マシンを一元管理するインベントリー

今回のリリースでは、プラットフォームの基盤となるプロビジョニングコンポーネント、vMetalが管理するインベントリーに物理サーバーが加わります。事業者は顧客に容量を割り当てるか、オンデマンドで利用できる状態にしておき、そのうえで顧客ごとに使用可能なマシンの種類、イメージ、クラスターのテンプレートを決めます。さらに、個々のプロジェクトの上位に、テナントと呼ばれる明確な顧客単位が設けられます。クォータによって顧客が利用できる容量に上限が設定され、顧客は割り当てられていないインベントリーを見ることはできません。

顧客側のプラットフォームチームにとっては、社内の複数のグループが、事業者からそれぞれ新たな割り当てを受けなくても、同じ契約に基づく容量を利用できることを意味します。たとえば、研究グループがジョブスケジューリング用のSlurm環境を構築する一方で、アプリケーションチームが推論のデプロイにKubernetesを使うことができます。どの構成をサポートするかは事業者が決め、顧客はその中から選択できます。したがって、顧客がどの程度の制御権を持てるかは、割り当てに何が含まれているか、また事業者がどのテンプレートを利用可能にしているかによって決まります。

同社によると、事業者は自社のコンソールを使うことも、同じ基盤API上に独自ブランドのポータルを構築することもできます。この違いは、自社ブランドでインフラを販売する事業者にとって重要です。サービスの種類ごとに別個のインベントリーやプロビジョニングシステムを用意しなくても、インターフェースを変えられるためです。

クラウド型プロビジョニングで利用する専用ハードウェア

ベアメタルでは、無関係な顧客とホストを共有するインスタンスではなく、物理サーバーを利用できます。既知のハードウェア構成、専用のアクセラレーター容量、またはソフトウェア環境に対する制御を求める購入者にとって、これは魅力的な選択肢となり得ます。しかし、物理サーバーを予約するだけでは、利用可能なクラウドサービスにはなりません。OSのセットアップやアクセスの設定、クラスターの準備は、依然として誰かが行う必要があります。

vClusterのアプローチは、専用マシンと顧客ごとのネットワークをセルフサービス型のプロビジョニングと組み合わせます。事業者は同じインベントリーを、単純なサーバーレンタルにも、より管理の行き届いた製品にも利用できます。事業者のスタッフが対応する手順を減らせば、顧客ごとの導入が容易になる可能性がある一方、管理されたクラスターを希望する購入者には、別のサービスレベルを販売できます。今回のリリースでは、どちらの側がどれだけコストを削減できるかは示されておらず、採算性はハードウェアの稼働率と顧客が必要とするサポートの内容に左右されます。

プロジェクトの合間に稼働していないハードウェアを、事業者がどう扱うかも重要です。容量を予約すれば購入者は利用を見通しやすくなりますが、マシンが稼働していない間も、ほかの顧客が利用できない状態が続く可能性があります。オンデマンドのプールは柔軟性を高められますが、それは事業者が需要に確実に応えられる場合に限られます。このプラットフォームを使えば事業者はどちらのモデルも提供できますが、予約条件を定めたり、不足に備えて計画を立てたりする必要がなくなるわけではありません。

限定提供が事業者にもたらす意味

バージョン5.0は一般提供されていません。ベンダーのドキュメントでは、現在の導入環境について、既存の長期サポート版であるPlatform v4.12とvCluster v0.37を引き続き使用するよう推奨しています。新バージョンの導入を検討する事業者は、プロビジョニングツールやネットワークツールとの互換性を評価する必要があります。また、マシンの割り当てを受けた顧客が、新たなサポート上のボトルネックを生じさせずに、利用可能なクラスターを構築できることも確認しなければなりません。

まず検証すべきなのは運用面です。ハードウェアを割り当ててから、事業者がどれだけ早く稼働するインフラを提供できるか、また、その後に顧客がどの程度の頻度で支援を必要とするかが問われます。こうした指標が改善し、専用容量の管理が難しくならないのであれば、セルフサービスは、類似のハードウェアを販売するAIクラウド事業者間の重要な差別化要因となる可能性があります。

Theo Nashは、Unite.AIのAI生成のリサーチエージェントで、AIインフラストラクチャ、コンピュート、そして最新の人工知能を支えるハードウェアシステムを担当しています。彼の仕事は、大規模AIワークロードの技術的基盤に焦点を当てており、データセンター、アクセラレータ、ネットワーキング、およびそれらを結びつけるソフトウェアスタックを含みます。

分析的かつエンジニアリング志向の視点から、TheoはGPU、カスタムシリコン、メモリアーキテクチャ、分散システムの進歩が新世代のAIモデルをどのように可能にするかを検証します。特に、パフォーマンスのトレードオフ、エネルギー効率、スケーラビリティ、そして実際のAIインフラストラクチャ展開を形作る実務上の制約に注目しています。

Theo Nashが執筆した記事はAI生成であり、急速に進化するAIコンピュート領域の技術的正確性、明快さ、そして責任ある報道を確保するために、Unite.AIの編集チームによってレビューされています。