インタビュー

HPEのプライベートクラウドAI担当バイスプレジデント、Sadeepa Wijesekara氏に聞く

Antoine Tardif
Unite.AI を Google の優先ソースに追加
Sadeepa Wijesekara, Vice President of Private Cloud AI at HPE
要点AI経済学は、パイロットが本番環境へ拡大し、財務部門が議論に加わって初めてビジネス分野となる。
もっと見る
  • AI経済学は、パイロットが本番環境へ拡大し、財務部門が議論に加わって初めてビジネス分野となる。
  • トークン当たりのコストは消費量を測るが、ビジネス成果当たりのコストはその投資が実際に意味を持つかどうかを明らかにする。
  • 推論価格が下落し続けているにもかかわらず、エージェント型ワークフローはトークン消費量を劇的に増大させ得る。

Sadeepa Wijesekara氏は、Hewlett Packard Enterprise(HPE)でプライベートクラウドAI担当バイスプレジデントを務め、プライベートクラウド環境向けのエンタープライズAIソフトウェアとプラットフォームの開発を率いています。組織がAIを安全かつ大規模に導入できるよう支援するとともに、インフラに関する意思決定を事業ニーズに結び付けることに注力しています。また、ワークロード管理やモデル選定、自律性が高まるシステムの信頼性を維持するコストなど、実運用AIの経済性にエンジニアリングの視点から取り組んでいます。

Hewlett Packard Enterprise(HPE)は、AI、クラウド、ネットワーキング、コンピュート、ストレージにわたるエンタープライズテクノロジーを提供しています。同社のPrivate Cloud AIポートフォリオは、ハイブリッドクラウドや外部サービスと併用しながら、自社で管理するインフラ上にAIワークロードを導入する組織を支援します。このインタビューでは、AIへの支出を事業成果に照らして評価すべき理由、エージェント型ワークフローがAIの利用量に及ぼす変化、そしてモデル、オーケストレーション、インフラに関する意思決定を左右する財務面・運用面の要因について、Wijesekara氏に話を聞きます。

HPEでは、7万人を超える従業員にAIの利用を広げてきました。この経験から、AIの経済性がIT部門の課題にとどまらず、より広い事業上の取り組みとなるのはどのような段階だと分かりましたか?

企業がパイロット段階から本番運用へ移ると、AIの経済性はより広い事業上の課題になります。パイロットでは、AIがタスクを実行できるかどうかは確認できますが、利用者が少ないため、非効率性が見えにくくなることがあります。利用者が10人から1万人に増えれば、AIが生み出す価値を把握すると同時に、コスト、レイテンシ、信頼性について考えなければなりません。その段階では、財務部門や、AIが支援する業務プロセスを担う責任者も議論に加わる必要があります。IT部門はアプリケーションが消費するリソースを測定できますが、その成果が投資に見合うかどうかを判断するのは事業部門のリーダーです。

生成AIを評価する際、トークン当たりのコストなどの指標を重視する組織は依然として少なくありません。なぜ事業成果当たりのコストのほうが有意義な指標だと考えますか。また、企業は実際にどのように算出すべきでしょうか?

トークン当たりのコストから分かるのはAIをどれだけ利用したかであり、その利用が有用な成果につながったかどうかは分かりません。企業はまず事業成果を定義し、それを生み出すために必要な総コストを算出すべきです。コストにはモデルだけでなく、ソフトウェア、ストレージ、データ移動、ガバナンス、人件費も含まれます。特定の業務プロセスで生み出された価値とこれらのコストを比較すれば、その投資が経済的に妥当かどうかをより適切に判断できます。

AIが個人向けコパイロットから、長い一連のタスクを実行できるエージェント型システムやマルチエージェントシステムへと進化するなか、推論の基礎コストが下がり続けたとしても、利用量はどれほど大幅に増える可能性がありますか?

1人のユーザーからのリクエストが、バックグラウンドでより多くの処理を引き起こすことがあるため、利用量は急速に増加する可能性があります。エージェントは、結果を出すまでに複数の手順を進めながら、情報を取得したりツールを呼び出したりします。HPEが示した代表的な比較例では、基本的なチャットボットとのやり取りで使われたトークンは約400だったのに対し、エージェント型RAGのリクエストでは約21,500でした。トークン価格が下がっても、AIがより複雑な業務を担うようになれば、総利用量は大幅に増える可能性があります。

AIのユースケースが、生産性指標を高めたり印象的なデモを生み出したりするだけでなく、実際に経済的価値を生んでいるかどうかを、企業はどのように評価すべきでしょうか?

ユースケースを拡大する前に、明確なKPIを定めた事業計画と結び付けるべきです。企業は、対象となる業務プロセスにどれだけのコストがかかっているか、AIの導入によってそのコストがどう変わるかを把握する必要があります。また、作業上の改善と事業成果の改善を区別することも重要です。節約した時間が、より多くの顧客の問題解決、エラーの削減、あるいはこれまで手つかずだった業務の完了につながれば、その時間の価値はより明確になります。評価では、成果の質に加え、追加の確認や手戻りに必要な作業も考慮すべきです。デモの成功は機能を実証するものですが、導入拡大の判断を裏付けるのは、業務プロセスにおける測定可能な改善です。分析の結果、AIが適切な解決策ではないと分かる場合もあります。

コストを抑える方法として、モデルルーティングやAIオーケストレーションがますます注目されています。タスクに応じて、小規模モデル、最先端モデル、特化型モデル、従来型ソフトウェアを動的に選び分けることで、企業はどれほどの価値を引き出せるでしょうか?

モデルをタスクに合わせることには、大きな価値があります。企業がAIの導入を最優先に進めていた当初、性質の大きく異なるワークロードを、同じ高コストのフロンティアモデルに処理させている例を見てきました。ユーザーが少ないうちは何とか対応できても、導入が広がるにつれてコストは急速に増加します。複雑な推論にはフロンティアモデルが適している場合がある一方、定型的なタスクなら、より小規模なモデルで十分かもしれません。特定の分野には専用モデルがより適している場合があり、予測しやすくルールに基づくタスクは、従来型のソフトウェアのほうが効率的に処理できることもあります。オーケストレーションを活用すれば、ワークフロー内でこうした選択肢を組み合わせ、必要に応じてより高性能なモデルを使えます。オープンウェイトモデルの性能向上に伴い、外部モデルの利用料を支払う代わりに、特定のワークロードを自社のインフラで実行する機会も増えています。エンタープライズ規模では、こうした振り分けの判断によって、事業に必要な品質を維持しながらコストを大きく抑えられる可能性があります。

AIワークロードを実行する経済性は、APIやパブリッククラウドを通じてコンピューティングリソースを借りる段階から、基盤となるインフラのより多くを所有または管理する段階へ、どの時点で変化するのでしょうか。その判断にあたり、企業はどのような変数を考慮すべきでしょうか。

私は、これを賃貸と購入の違いとして考えています。企業が試行錯誤をしている段階や、需要の変動が大きい場合には、借りる方法が適しています。利用規模が拡大し、需要の予測がしやすくなると、インフラをより多く所有または管理することが経済的に合理的になり始めます。インフラを所有していれば、利用が少ない時期に追加のAI実験を行う機会も生まれ、すでに行った投資をより有効に活用できます。企業は、ワークロードの特性に加え、電力、管理、システムを最新の状態に保つためのコストも考慮する必要があります。多くの大企業にとっては、ワークロードに応じてプライベートインフラと外部サービスの両方を活用することが、適切なアプローチとなるでしょう。

企業がより多くのワークロードを本番環境に移すなか、HPEはプライベートAIインフラを拡充してきました。AIを全面的にパブリッククラウドサービスで利用する場合と比べて、プライベートAIが最も大きな経済的優位性を発揮するのはどのような場面でしょうか。

企業が自社で保有する処理能力を効果的に活用できる、継続的なワークロードでは、プライベートAIが大きな経済的優位性をもたらす可能性があります。HPEが特定のワークロード条件に基づいて行った分析では、HPE Private Cloud AIのコストはノード時間あたり約45ドルと推定され、同等のクラウド構成を借りる場合の約102ドルと比べて低くなりました。こうした結果はワークロードによって異なるため、環境ごとに再計算する必要があります。プライベートAIは、企業に別の財務モデルをもたらし、インフラを組織に価値を生み出す資産にすることもできます。

AIエージェントのコストは推論だけにとどまらず、データの取得、ツールの呼び出し、監視、セキュリティ、ガバナンスにも及びます。エージェント型AIを大規模に導入する際、組織が予算の見積もりで過小評価しがちなコストには、どのようなものがありますか。

企業が過小評価しがちなのは、エージェントの信頼性、安全性、有用性を長期にわたって維持するために必要な作業だと思います。推論以外にも、データの取得と準備、外部ツールへのアクセス、システム間での情報の受け渡しにコストがかかります。ツールの呼び出しを繰り返したり、処理に失敗したりすれば、タスクを完了できないまま費用が増えることもあります。また、結果の評価、エージェントの動作の監視、アクセス権限の管理、セキュリティとガバナンスの統制の維持にかかる費用も予算に含める必要があります。例外の確認や誤りの修正に人が費やす時間など、人による監督も計算に入れるべきです。タスクを正常に完了するためのコストを把握するには、ワークフロー全体を可視化する必要があります。

個々のビジネスケースに照らしてAIの利用状況を追跡する重要性を強調されてきました。効果的な社内測定フレームワークとはどのようなものでしょうか。また、AIアプリケーションが継続的なコンピューティングコストと運用コストに見合う価値を今も提供しているかどうかを、組織はどのくらいの頻度で再評価すべきでしょうか。

フレームワークでは、利用状況をビジネスケースに直接結び付ける必要があります。企業は、どのアプリケーションがリソースを消費し、どのような成果を生み出すことが期待されているのかを把握する必要があります。HPEでは、各ユースケースのKPIと基礎となる単位コストを追跡し、期待した成果が得られているかを測定しています。また、個々の部門や業務プロセスのレベルでも同様に把握できるようにしたいと考えています。そうすればCFOは、AIを導入した場合と比べて、現在そのプロセスにどれだけのコストがかかっているかを理解できます。利用状況やアプリケーションの経済性は時間とともに変化し得るため、これは継続的に行うべきプロセスです。モデル、価格、ワークフローに大きな変更があった場合にも、コストとアプリケーションの価値の両方に影響する可能性があるため、再評価する必要があります。

今後3〜5年を見据え、AIがほとんどの業務プロセスに組み込まれるにつれて、エンタープライズAIの経済性はどのように変化すると予想されますか。AIの利用管理は、最終的にクラウドFinOpsのような手法に近づくのでしょうか。それとも、組織にはまったく新しい運用モデルが必要になるのでしょうか。

AIの経済性は、コストの可視化、配分、説明責任といったFinOpsの考え方を土台としながら、AIが行う業務の質や価値を測るものへと広がっていくと思います。エージェントがビジネスプロセスのより多くの工程を担うようになるにつれ、企業は、そのプロセスを成功裏に完了するためのコストを把握する必要があります。そこには、再試行や人による介入にかかるコストに加え、結果が求められる基準を満たしているかどうかも含まれます。これは、IT、財務、事業運営の各部門が共同で担う責任になると考えています。組織や業界をまたいでこうした比較を行うための、一貫した方法の確立はまだ始まったばかりです。今後、企業がAIをどれほど効率的に活用しているかを把握し、その状況を損益計算書(P&L)に反映できるような標準指標が整備されることを期待しています。

素晴らしいインタビューをありがとうございました。プライベートクラウドAI、エンタープライズインフラストラクチャ、AIワークロードの拡大について詳しく知りたい読者は、HPEをご覧ください。

アントワーヌは、先見の明を持つリーダーであり、Unite.AIの創業パートナーです。AIとロボティクスの未来を形作り、その発展を促すことに揺るぎない情熱を注いでいます。複数の企業を立ち上げてきた起業家として、AIは電気と同じほど社会を大きく変えると考えており、革新的な技術や汎用人工知能(AGI)の可能性について熱く語ることがよくあります。

未来を展望するフューチャリストとして、こうした革新が世界をどのように形作るかを探究しています。また、未来を再定義し、業界全体を変革する最先端技術への投資に焦点を当てたプラットフォーム、Securities.ioの創設者でもあります。