デビッド・ドリガーズ、CirrascaleのCTO – インタビュー・シリーズ

デビッド・ドリガーズは、Cirrascale Cloud Servicesの最高技術責任者です。Cirrascale Cloud Servicesは、ディープラーニングインフラストラクチャソリューションの先駆的なプロバイダーです。誠実さ、機敏さ、顧客中心の価値観に導かれ、Cirrascaleは革新的なクラウドベースのインフラストラクチャーとしてのサービス（IaaS）ソリューションを提供しています。AIエコシステムのリーダーであるRed HatやWekaIOと提携し、Cirrascaleは高度なツールへのシームレスなアクセスを保証し、顧客がディープラーニングの進歩を推進しながらコストを予測可能に保つことができます。

Cirrascaleは、NVIDIA (NVDA ) 、AMD、Cerebras (CBRS ) 、Qualcommなどの主要な半導体企業と提携している唯一のGPUaaSプロバイダーです。このユニークな立場は、パフォーマンスとスケーラビリティの点で顧客にどのような利点をもたらしますか？

業界はトレーニングモデルからインファレンスの展開に移行していますが、すべてに適した解決策はありません。モデルサイズや待ち時間要件によっては、異なるアクセラレータが異なる価値を提供することがあります。回答時間、トークンあたりのコストの利点、またはワットあたりのパフォーマンスはすべてコストとユーザーエクスペリエンスに影響します。インファレンスは本番環境なので、これらの機能や能力は重要です。

CirrascaleのAIイノベーションクラウドは、他のGPUaaSプロバイダーと比較して、AIおよびディープラーニングワークフローをサポートする点でどのように異なりますか？

CirrascaleのAIイノベーションクラウドを使用すると、ユーザーはセキュアで支援された環境で、新しいテクノロジーを試すことができます。これは、クラウドテクノロジーの決定やオンプレミス購入の支援にも役立ちます。

Cirrascaleのプラットフォームは、スタートアップや企業がAIアクセラレーションのさまざまなニーズに対応するためにシームレスな統合をどのように保証していますか？

Cirrascaleは、クラウドに対してソリューションアプローチを取ります。つまり、スタートアップや企業にとって、Dev-OpsとInfra-Opsの両方を含むターンキーソリューションを提供します。私たちは、オファリングを「ベアメタル」と呼びます。つまり、共有も仮想化もされていないことを意味します。Cirrascaleは、サービスをクライアントに引き渡す前に、サーバー、ネットワーク、ストレージ、セキュリティ、ユーザーアクセス要件のすべてを完全に構成します。クライアントは、構成を自分で行う必要なく、すぐにサービスを使用し始めることができます。

企業全体でのAIの採用は、データの品質、インフラストラクチャーの制約、コストの高さなどの障壁に直面しています。Cirrascaleは、これらの課題に対してビジネスにどのように対応していますか？

Cirrascaleは、データ品質に関するサービスは提供していませんが、データ関連の問題を支援できる会社と提携しています。インフラストラクチャーとコストについては、Cirrascaleはクライアントの特定のニーズに合わせたソリューションを提供できます。そうすることで、クライアントの要件に応じた全体的なパフォーマンスと関連コストを実現できます。

Googleの量子コンピューティング（Willow）やAIモデル（Gemini 2.0）に関する進歩は、企業のAIの将来の地図をどのように変えますか？

量子コンピューティングはまだ、プログラマーやオフザシェルフのプログラムが不足しているため、ほとんどのユーザーにとっては本番環境にはまだ遠いです。Gemini 2.0やGPT4、Claudeなどの大規模な提供は、確かに企業顧客から一定の支持を得るでしょう。しかし、企業市場の大部分はまだ、データを第三者に信頼する準備ができていないし、特にそのデータをモデルをトレーニングするために使用する第三者に信頼する準備はできていません。

AIソリューションのスケーリングでは、パワー、価格、パフォーマンスのバランスを取ることが重要です。企業がこのバランスを取るためにあなたのトップレコメンデーションは何ですか？

テスト、テスト、テスト。企業がさまざまなプラットフォームでモデルをテストすることは非常に重要です。本番環境は開発環境と異なります。コストは本番環境では重要です。トレーニングは一度きりですが、インファレンスは永続的です。パフォーマンス要件を満たすために、より低コストで実行できる場合、その節約は利益に直結します。多くの場合、大規模なモデルの展開は、実用的には高すぎて使用できません。エンドユーザーは、テストを支援できる会社を探すべきです。多くの場合、MLエンジニアはモデルを展開するのを支援できますが、データサイエンティストはモデルを作成することに重点を置いています。

Cirrascaleは、LLMや画像生成モデルなどのジェネレーティブAIアプリケーションの需要の増加に対応するためにソリューションをどのように適応させていますか？

Cirrascaleは、幅広いAIアクセラレータを提供しています。LLMやジェネレーティブAIモデルはサイズやスコープ（マルチモーダルシナリオなど）が異なり、バッチとリアルタイムの両方で使用されるため、実際には「馬に合う鞍」というシナリオです。

Cirrascaleは、AIワークフローでの待ち時間やデータ転送のボトルネックを企業がどのように克服するのを支援していますか？

Cirrascaleには複数のリージョンにデータセンターがあり、ネットワーク接続を利益源と見なしていません。つまり、ユーザーは必要な接続を「適切なサイズ」にできるだけでなく、待ち時間が重要な機能である場合は複数のロケーションを使用できます。また、実際のワークロードをプロファイリングすることで、Cirrascaleは待ち時間、パフォーマンス、コストのバランスをとることで、パフォーマンス要件を満たした上で最適な価値を提供することができます。

あなたが最も興奮しているAIハードウェアやインフラストラクチャーの新しいトレンドは何ですか? Cirrascaleはそれらのトレンドに対してどのように準備していますか?

私たちが最も興奮しているのは、インファレンス用に特化した新しいプロセッサです。トレーニングには適していますが、インファレンス用に最適化されていない汎用的なGPUベースのプロセッサとは異なります。インファレンス用のユースケースには、トレーニングとは異なるコンピューティング要件があります。

素晴らしいインタビュー、詳しく知りたい読者はCirrascale Cloud Servicesを訪れてください。