ScaleOpsが1億3000万ドルのシリーズC資金調達を実施し、AIオペレーションの核心に自治インフラストラクチャを導入する

ScaleOpsは、1億3000万ドルのシリーズC資金調達を実施し、評価額は80億ドルを超えました。これは、クラウドとAIワークロードの管理が、常に人間の介入を必要としないシステムによって行われるようになることを示唆しています。

このラウンドは、Insight Partnersによって主導され、Lightspeed Venture Partners、NFX、Glilot Capital Partners、およびPicture Capitalからの継続的な支援を受けています。同社は、現在までに総額2億1000万ドル以上の資金調達を実施しています。

Kubernetes最適化から自治インフラストラクチャへ

ScaleOpsは2022年に、現代のインフラストラクチャーにおける最も根深い課題の1つである、Kubernetes環境におけるリソース割り当ての自動化に焦点を当てて登場しました。静的な構成に頼るのではなく、プラットフォームは、リアルタイムのワークロード動作に基づいて、CPUやメモリなどのコンピューティングリソースを継続的に調整します。

その核心では、システムはクローズドループ最適化エンジンとして動作します。ワークロード需要を観察し、パフォーマンス信号を評価し、自動的に変更を実行します。これには、ワークロードのダイナミックリサイズ、レプリカ数の調整、クラスター全体でのノード使用の最適化が含まれます。

時間の経過とともに、これは伝統的なクラウド最適化を超えて、AIシステムに結びついたGPUヘビーな環境に拡大しました。プラットフォームは、GPU割り当てに同様の原則を適用し、非効率的な使用はすぐに大きなボトルネックになる可能性があります。

このレイヤーが重要になる理由

現代のAIシステムは、従来のインフラストラクチャーツールが対処できないレベルの変動性を導入します。ワークロードは予測不能にスパイクし、モデルは限られたGPU容量を争い、パフォーマンス要件はリアルタイムに変化します。

歴史的に、チームはこれを手動チューニングまたはルールベースの自動化で管理してきました。しかし、これらのアプローチはスケールで苦労します。Kubernetes自身はオーケストレーションのために設計されているものの、依然としてエンジニアが継続的に調整する必要がある静的な構成に大きく依存しています。

これにより、構造的な非効率性が生じます。エンジニアリングチームは、パフォーマンスの問題に反応し、リソース割り当てを調整し、SLO違反を解決することに多くの時間を費やします。その結果、新しいシステムの構築が妨げられます。

ScaleOpsのアプローチは、反応型モデルをリアルタイムにコンテキストを認識する自動化に置き換えます。事前にしきい値を定義するのではなく、システムはクラスター全体の観測された動作に基づいて適応します。

自己最適化システムへの移行

このカテゴリが注目されるのは、コスト最適化だけではなく、インフラストラクチャーがどのように動作するかという点です。

従来の環境では、インフラストラクチャーは構成されます。新しいシステムでは、インフラストラクチャーは適応することが期待されます。

ScaleOpsは、インフラストラクチャーを継続的に自己バランスをとることができるものとして扱うことで、この移行を反映しています。プラットフォームはポリシーを適用し、結果を監視し、エンジニアの介入を必要とせずに割り当てを調整します。実稼働環境では、これはリソース決定のほぼ完全な自動化にまで拡大する可能性があります。

このモデルは、実際のデプロイで既に測定可能な影響を示しています。1つのケースでは、自動的な適切なサイズ変更により、ワークロードはパフォーマンス目標を維持しながらトラフィックの変動に動的に適応し、クラスター全体で浪費を削減しました。

コスト最適化を超えて

初期のクラウド最適化ツールは、主に支出の削減に焦点を当てていました。ScaleOpsは依然としてコスト効率を強調していますが、過剰なプロビジョニングとアイドルリソースを排除することで、顕著な節約が実現するとしています。

しかし、より広範な焦点は、パフォーマンスの信頼性とシステムの堅牢性に移りつつあります。

AIシステムが実稼働環境に密接に統合されるにつれて、インフラストラクチャーの決定はモデルパフォーマンス、待ち時間、可用性に直接影響します。割り当ての誤りは、コストの問題だけでなく、機能的制限にもなります。

これは特にGPUワークロードの場合に重要です。ここでは、需要は供給を超えることが多く、インフラストラクチャーレイヤーでの効率的な割り当てが、モデルが効率的に実行されるか、リソースを待っているかを決定します。

AIインフラストラクチャーの新しいコントロールプレーン

長期的な意味では、コンピューティングリソースの新しいコントロール層の出現が示唆されます。

エンジニアが手動でインフラストラクチャーを構成したり、断片化されたツールに頼るのではなく、ScaleOpsのようなプラットフォームは、供給と需要を継続的に整列する自治コントロールプレーンとして機能します。

これは、組織が同時に複数のAIシステムをデプロイするにつれて、パフォーマンス要件と使用パターンが異なる場合に、ますます重要になります。

この文脈では、インフラストラクチャー管理は、静的なプロビジョニングよりもトラフィックコントロールに似てきます。リソースは、継続的にルーティングされ、再バランスされ、最適化されます。

この最新の資金調達により、ScaleOpsは、コンピュートとGPUを超えて、インフラストラクチャー管理の追加の領域、クラウドとAIオーケストレーションの追加の層にプラットフォームを拡大することが予想されます。

この軌道は、インフラストラクチャーの決定が、エンジニアによって直接扱われるのではなく、システムによって自動的に行われる環境への移行を示唆しています。システムはワークロードの意図を解釈し、リソースを自動的に調整します。

AIワークロードが拡大するにつれて、この移行は、最適化ではなく、むしろ要件になる可能性があります。