Googleが公開したAIのエネルギー使用量の実数値は、想像と違う

皆さん、AIの大量のエネルギー使用量について話しています。皆さんも見たことがあるでしょう：「ChatGPTは小さな国と同じくらいの電気を使用する」または「各AIクエリは水1本分を使用する」などの見出しです。

Google 実際のデータを公開しました。その数字は、まったく別の話を語っています。

あなたのAIクエリの実際のエネルギー使用量

Googleが見つけたこと：中央値の Gemini テキストプロンプトは、0.24ワット時（watt-hours）のエネルギーを使用します。那は9秒間テレビを見ているよりも少ない電気です。水の消費量は？5滴です。5杯ではありません。5滴です。

一般的な認識と現実の間には、大きなギャップがあります。以前の推定では、AIプロンプトはクエリごとに10〜50ミリリットルの水を消費するというものでした。いくつかの研究では、Googleが実際のシステムで測定しているよりも30倍高いエネルギー消費を示唆していました。

なぜそんな大きな違いがあるのか？それは、誰もが大規模な実際のシステムを測定していなかったからです。学術的な研究では、使用されていないハードウェアで分離されたテストを実行しています。車の燃費を車庫でアイドリングさせているのを測定しているようなものです。

44倍の改善

Googleは、1年間でAIの炭素排出量を44倍に削減しました。44パーセントではありません。44倍です。

これは、実験室での理論的な改善ではありません。これは、数十億のクエリを提供しているシステムで今起こっていることです。彼らは、ソフトウェアの最適化（33倍の改善）とより清潔なエネルギー源（1.4倍の改善）を組み合わせてこれを達成しました。

ほとんどの研究では、計算を行うAIチップのみを調べています。那は、レストランのエネルギー使用量を、オーブンだけを数えることと同じです。冷蔵庫、照明、空調システムは無視しています。

Googleのデータは、全体像を示しています。はい、AIアクセラレータはエネルギーの58％を使用します。しかし、通常のプロセッサとメモリ（24％）、信頼性のためのバックアップ容量（10％）、冷却システム（8％）も必要です。これらのいずれかを測定から省略すると、数字は基本的に無意味になります。

Googleが、ほとんどの人が使用している狭い方法論を適用した場合（完全に使用されているマシンのAIチップのみを測定）、エネルギー数値は0.10ワット時まで低下しました。実際の生産システムでは、冗長性、冷却、サポートインフラストラクチャが必要なので、2.4倍のエネルギーを使用します。

これがAIの将来に実際に意味すること

AIのエネルギー消費に関する物語は、現実の検証が必要です。はい、AIはエネルギーを使用します。しかし、適切に最適化されたシステムは、厳しいシナリオよりもはるかに効率的です。

ここではコンテキストが重要です。那0.24ワット時のクエリごとに？アメリカ人は、1日平均30キロワット時（kilowatt-hours）の電気を使用します。1日の典型的な家庭のエネルギー使用量に相当するには、125,000のAIクエリを実行する必要があります。

水の消費量の話は、さらに劇的なものです。那5滴の水ごとに？あなたは、手を洗う最初の1秒で、より多くの水を使用します。

最適化スタック

Googleは、単一のブレークスルーを経由してこれらの数字を達成していません。彼らは、システムの各層に最適化を積み重ねています。

彼らは、より大きなモデルで検証する必要がある場合にのみ、より大きなモデルで検証する必要がある場合にのみ、より小さな「ドラフト」モデルを実行して回答をスケッチしています。彼らは、効率のために何千ものクエリをまとめています。彼らは、最初の世代の30倍の効率性を持つ、AIワークロード用に特別に設計されたカスタムチップを使用しています。

彼らのデータセンターは、理論的な最小限の9％のオーバーヘッドで実行されています。基本的に、物理的に可能な限り効率的です。さらに、電気使用量が増加するにつれても、排出量を削減するために、徐々にクリーンエネルギーによって推進されています。

まとめ

これは、企業が実際に全スタックを最適化し、適切に測定する場合にのみ機能します。AIインフラストラクチャを後回しにし、汚い電力グリッドで非効率的なシステムを実行する会社は、誰もが心配している問題を生み出しています。効率的なAIシステムと非効率的なAIシステムの間のギャップは、絶対に巨大です。現在、業界のほとんどはまだ非効率的なバージョンを実行しています。