ソートリーダー

AI投資の保護:クーリング戦略が重要な理由

mm
Unite.AI を Google の優先ソースに追加

データセンター運営者は、古いクーリング技術に数百万ドルを賭けています。データセンターのクーリングに関する議論は、単に変化しているのではなく、AIの経済学によって完全に再定義されています。賭けは今までで最も高くなっています。

AIの急速な進歩は、予想に反してデータセンターの経済学を変化させました。1つのAIサーバーラックが約300万ドル、つまり高級住宅と同等の価値を持つ場合、リスク計算は根本的に変わります。アンドリーセン・ホロウィッツの共同創設者ベン・ホロウィッツは最近、データセンターがこれらの巨大なハードウェア投資を財務する際に、インフラストラクチャ戦略を慎重に管理しないと、「すぐに上手くいかない」可能性があることを警告しました。

この新しい現実は、クーリングアプローチを根本的に再考することを要求しています。従来の指標であるPUEや運用コストはまだ重要ですが、数百万ドル規模のハードウェア投資を保護することには二次的なものです。データセンター運営者が問うべき真正の質問は、どのようにしてAIインフラストラクチャ投資を最もよく保護できるかです。

従来のクーリングの隠れたリスク

業界の歴史的なシングルフェーズ、水ベースのクーリングソリューションへの依存は、AI時代に受け入れられないリスクをもたらします。数年間にわたってデータセンターに役立ってきたこの技術ですが、AIワークロードの熱負荷に直面して実用的な限界を超えています。理由は単純な物理学です。シングルフェーズシステムは、今日の熱負荷を管理するためにより高い流量を必要とし、漏れや致命的な故障のリスクを増大させます。

これは仮想的なリスクではありません。単一の水漏れは、瞬時に数百万ドル相当のAIハードウェアを破壊する可能性があります。このハードウェアは、今日の供給制約市場では、交換に数ヶ月かかることがよくあります。単一の致命的な故障のコストは、データセンターのクーリングインフラストラクチャの年間予算を超える可能性があります。にもかかわらず、多くの運営者は依然としてこれらのシステムに依存しており、実際にはAI投資を古い技術に賭けています。

Data Center World 2024で、NVIDIAのデータセンター機械工学マネージャーであるMohammad Tradat博士は、「シングルフェーズクーリングはいつまで生き残るのか。すぐに段階的に廃止されるだろう… そして二相、冷媒ベースのクーリングの必要性が生じる」と問いかけました。これは、物理学と財務の現実によって裏付けられた業界の合意を反映するものであり、単に増加する意見ではありません。

投資保護への新しいアプローチ

二相クーリング技術は、水ではなく絶縁冷媒を使用するため、根本的にこのリスクの式を変えます。二相クーリングシステムを実装するコストは、通常1ラックあたり約20万ドルですが、500万ドルのAIハードウェア投資を保護するための保険と見なすことができます。これを視覚化するために、500万ドルの資産を保護するための保険として約4%のプレミアムと見なすことができます。これは、他の多数百万ドル規模のビジネス投資の保険料よりもはるかに低いものです。AIトレーニングの混乱や予期せぬダウンタイム中にアイドル状態になるインフラストラクチャの潜在的なコストを考慮に入れると、ビジネス上の判断はさらに明確になります。

データセンター運営者と財務の利害関係者にとって、二相クーリングへの投資の決定は、リスク管理と投資保護の観点から評価されるべきです。関連する指標には、運用コストやエネルギー効率だけでなく、保護されるハードウェアの総価値、潜在的な故障シナリオのコスト、次世代ハードウェアの将来性、調整されたクーリング投資のリターンが含まれるべきです。

AIがデータセンターのインフラストラクチャの密度と価値を高めるにつれて、業界はクーリング戦略へのアプローチを進化させる必要があります。質問は、二相クーリングへの移行するかどうかではなく、いつ、そしてどのようにして既存の運用と投資にリスクを最小限に抑えながら移行するかです。

賢い運営者はすでにこの移行を開始していますが、他者は高額なレッスンを学ぶリスクにさらされています。1つのラックが多くのデータセンターの年間運用予算を上回るコストを持つ時代に、古いクーリング技術に賭けることは、単にリスクではありません。潜在的に壊滅的なものです。行動する時は今です。リスクが現実になる前にです。

ジョシュ・クラマンは、Accelsiusのエグゼクティブ・チェアマン兼創設CEOです。Accelsiusは、AIデータセンター向けの二相直接チップ液冷技術の世界的リーダーです。クラマンは、2022年にAccelsiusを共同創設し、セクターで最も重要な課題の1つである、AIインフラストラクチャがコミュニティに課す巨大なエネルギーと水の需要に対処しようとしました。彼のリーダーシップの下で、会社は、NeuCoolを開発しました。これは、次世代のAIチップの熱負荷に特化した、クローズド・ループ、水なしの冷却プラットフォームです。伝統的な空気冷却と比較して、最大50%のエネルギー節約を実現し、施設の地元の水供給への依存を排除します。

クラマンは、30年以上のグローバルテクノロジー・リーダーシップを役職に持ち込みます。彼は以前、Dell Technologiesのアメリカ大陸のパブリックおよび大規模企業部門のバイス・プレジデントを務め、北米と南米の数十億ドル規模のビジネス部門を担当し、Dell UKのゼネラルマネージャーを務めました。これは、5大陸にわたる彼のキャリアの一部で、AT&TとNCRでもシニア役職を務めたことになります。彼は後に、ReachLocalのプレジデント、3Dプリンティングの先駆者であるStratasysのチーフ・ビジネス・オフィサー、デジタルヘルス企業のRimidiのCEOを務めました。

クラマンは、イリノイ大学アーバナ・シャンペーン校で歴史と政府の分野で優等な成績でBAを取得し、サウスカロライナ大学のダーラ・ムーア・スクール・オブ・ビジネスでMBAを取得しました。彼は、技術、エネルギー、公共政策の交差点について頻繁に執筆し、話し、北米とヨーロッパのフォーラムでデータセンターの持続可能性について話しました。彼は、業界の長期的なライセンスは、技術的なパフォーマンスと同じくらいコミュニティの信頼に依存していることを信じています。