AIコストを削減するには、クラウド支出から始める

AIの「中間の混沌」のようなものが、最大の混沌に陥ったかもしれない。

世界的なハードウェア不足が大量の需要と衝突し、AIコストが急上昇した。AIサービス企業は、価格を上げ、請求モデルを変更するほかなかった。予算は崩壊し、イノベーションは止まった。多くの企業がAIを活用し始めた矢先のことである。

結果は単なる価格上昇だけではない。企業にとって、存続の危機である。企業はロードマップを変更し、AIの影響を受けた。チームはAIの能力に合わせてワークフローを再構成した。AIの導入は企業の主な競争優位性となった。AIが導入され、企業は大きな変化を遂げた。しかしその後、AIの活用を制限するように求められている。

企業のUberは、AIの使用を制限してコストを削減しようとしている。しかしこれは、企業がコストを削減できる唯一の方法ではない。

企業が最初に注目すべきは、クラウドの請求書である。

これは直感に反するように思えるかもしれない。より多くのコンピューティングパワーは、より多くのAIの影響力をもたらすという式が常に成り立つわけではない。企業はAIサービスに予算を浪費している一方で、過大なインフラストラクチャーに依存している。AIコストの増加は、企業が無視できなくなった深刻な問題を浮き彫りにしている。

クラウド支出の蓄積

ITインフラストラクチャーの支出は、企業の第二の最大の費用であることが多い。平均して、年間収益の10%を占める。AIの需要の増加により、最近の数年間でこの数字は上昇した。しかし、多くの企業はすでに過大なITフレームワークに追加している。

CTOやその他の技術的決定責任者は、信頼できるものに惹かれる。しかしこれは、クラウドの請求書を上昇させる原因となっている。既存のものに頼ることで、高価な一体型契約にロックインし、価値を生み出さないソリューションを支払うことになる。

時間の経過とともに、使用されていないまたは非アクティブなサービス、最適化されていないハードウェア、空のストレージに対して支払いをすることになる。AIの革新に投資できるお金が必要になる。AIがさらに高価になるにつれて、すべてのドルが必要になる。

AI効率化のためのインフラストラクチャーの適正化

クラウドの支出を制御するには、短期的および長期的なアプローチが必要である。今日解決可能な問題に取り組むことで、企業は将来の大きな再構成に備えるための余裕を得ることができる。

新しいインフラストラクチャーへの移行には時間がかかる。企業はすぐに解決策が必要である。チームはAIを使用し続ける必要がある。以下は、企業がすぐに実行できる3つのステップである。

1 – CPUとメモリの使用状況を分析する

パフォーマンスが「過剰」であるということはある。ITチームはクラウドサービス使用状況の徹底的な診断を実行し、パフォーマンス要件を超えるインスタンスをダウングレードする必要がある。クラウド使用状況の深い分析により、チームは使用されていない機能やインフラストラクチャーを発見することができる。現在の契約が許可する場合は、これらのサービスを廃止したり、契約期間中の支払いを減らしたりすることができる。そうでない場合は、使用されていない機能の特定は、クラウドアプローチの再構成のパラメータを決定するための貴重なフレームワークを提供する。

企業はインフラストラクチャー戦略を変更するにつれて、メモリ使用状況を節約するクラウドサービスを選択したい。たとえば、メモリ最適化インフラストラクチャーとvCPUは、ハイパースケーラーによって提供されるArmベースの最適化とは異なり、エンタープライズグレードのサポートに対してより安価なサポートを提供する。ITチームの監視負担を軽減し、同時に全体的なクラウド支出を削減する。

2 – 厳格な支出制限を設定する

支出制限と使用制限は、AI価格上昇へのテクノロジー業界の免疫反応である。ただし、制限を設定することだけが重要ではない。制限がどのように定義され、どのように伝達され、どのように施行されるかが重要である。

まず、支出制限は使用特定であるべきである。リーダーは、これらの制限をプロジェクト計画とリソース配分のガイドとして使用できる。予算、タイムライン、個別のプロジェクトチームを効率性に焦点を当てて構成できる。

制限の伝達については、全従業員が制限の理由を理解することが重要である。デジタルは無限であると考えられているが、現在のAIブームの段階では、物理学の法則に直面している。請求変更と不足が従業員の日常のワークフローに影響を与える場合、支出制限はAIツールへの依存を維持するための持続可能な方法として位置付けられるべきである。

3 – タグ付けプロトコルを施行する

タグ付けプロトコルは、クラウドの使用状況を把握し、過剰使用を特定するための強力なツールである。ロバストなタグ付けコードを使用することで、ITリーダーはクラウドサービス使用状況をよりよく理解し、リソースの削減が必要な箇所を特定できる。

既存のクラウド契約が期限切れになると、企業はコンピューティングエコシステムを再構成する機会がある。長年のハイパースケーラーパートナーを完全に放棄する必要はない。契約をダウンサイズし、スタック内の他の場所でより効率的なインフラストラクチャーと調和させることができる。代替クラウド、エッジソリューションがGPUベースのインフラストラクチャーの負担を軽減し、オープンソースソフトウェアソリューションは、コストを削減するだけでなく、AIイニシアチブのパフォーマンスに対する価格の最大化を実現するため、柔軟でマルチベンダーの戦略を構成する。

効率性への転換

AIコストの管理は、文化的な問題でもある。AIを活用したワークフォースは、効率性に注目している。エージェントを構築し、コミュニケーションを自動化し、AIに雑用をさせて、創造性とイノベーションを拡大させている。しかし、これらのツールの無責任な使用は、逆の効果をもたらす。

「トークンマックス化」などのトレンドは、効率性に反する。チームが本当に「より少ないでより多く」を実現したい場合、AIとのやり取りはその原則を反映させるべきである。

これには、文化と技術の両方の転換が必要である。推論負荷を削減するために、より優れたプロンプトの使用を奨励する。インフラストラクチャーを採用して、推論を自動的に節約する。小さいAIモデルを採用し、精密なユースケースを特定する。オープンソースモデルとソフトウェアを採用して、トレーニングワークロードを削減する。開発者に問題を効率的に解決させる力を与え、非技術的なAIユーザーを教育する。企業が従業員にAIの使用を奨励したい場合、責任を持って行う必要がある。

価格上昇にもかかわらず、AIの変革を停止することはしていない。AIを大規模に活用することは、予測どおり、高価な取り組みとなる。慎重な計画と戦略的な資本配分が必要である。現在の状況は、ピンチポイントにあり、ITリーダーが今取る行動が、誰が通過するか、誰が後ろに残るかを決定する。

コンピューティングの危機を解決するために、業界が動き出している間、企業は現在の状況で何ができるかを見つける必要がある。企業は、クラウドソリューションの過剰支出に取り組み、分散クラウド全体で推論を節約し、実際のROIを促進するインフラストラクチャーに投資することで、天文学的なAIコストから自身を守ることができる。