Matt Hawkins, CEO, CUDO Compute Matt Hawkins CEO, CUDO Compute

AIレースは物理的な世界に移行しようとしている

過去数年間、人工知能の話はほとんどソフトウェアの言語で語られてきた。モデルは1分ごとにさらに能力が高まり、高速化し、特化している。基礎モデル、研究ラボ、業界を再構築することを約束するスタートアップへの投資は数十億ドルにのぼる。政府は国家AI戦略を発表し、国中のすべての取締役会でAIの統合ロードマップが議論されている。会話は広範囲にわたっており、前向きで、重要な点では不完全だった。AIは魔法ではない。クラウドの中に存在するわけではない。トレーニングされたすべてのモデル、回答されたすべてのクエリ、生成されたすべての画像は物理的なインフラストラクチャーに依存している。大量の電力を消費するデータセンター、24時間稼働する冷却システム、データを大陸間で運ぶ光ファイバーケーブル、すべてを機能する電力グリッドに接続する変電所。推論の高いエネルギー費用米国の200人以上の高級AI意思決定者を調査し、業界内で多くの人が認めていることをデータで裏付けた。組織の約29%は、エネルギー費用がすでにAIの拡大を制限していることを報告している。約28%の組織は、電力価格の上昇により、AIのトレーニング活動を遅らせたり停止したりしている。グリッド接続の遅れ、冷却の制限、接続の不足、計画のボトルネックはすべて、増加する障害として挙げられている。インフラストラクチャ層は、長い間誰かの問題として扱われてきたが、すべての人の問題になっている。これは、後知恵ではあるが、驚くことではない。現代のAIが動作するスケールは、本当にすごい。大量のフロンティアモデルをトレーニングするには、1年間で数百の家庭が使用する電気の量と同等の電気を消費する。1つのGPT-4トレーニングランでは約50GWhの電気を消費する– これは、約40,000の米国家庭が1年間で消費する電気の量に相当する。数百万のユーザーが毎日使用するインフェレンスを実行するには、10年前では考えられなかったサイズと密度のデータセンターが必要である。需要は、AIアプリケーションの普及、エージェントシステムの拡大、AIのコアビジネス運用への統合の増加によって加速されている。データセンターの電気消費量は、約15%の年間増加率で増加している– これは、他のすべてのセクターを合わせた総電力消費量の約4倍の増加率である。物理的な世界は、指数関数的に増加することを求められているが、設計段階でこれほど急速に増加することを想定していなかった。戦略は物理的な世界にシフトする現在の時点で特に明らかなのは、制約が実際にどこに現れているかである。土地は、コアの問題ではないことがわかった。調査した企業の約14%のみが、土地の入手可能性を第一の課題としている。より難しい問題は、土地を見つけた後に起こるすべてのことである。グリッド容量のないサイトは無駄である。計画の承認がないと、足止めを食らう。回復力のある接続性がないと、AIの構築は機能しない。ボトルネックは空間ではなく、物理的な空間を運用可能なコンピューティング環境に変える、複雑で遅いプロセスである。この区別は重要である。なぜなら、金銭だけでは解決できないからである。これは、国家のAI競争力についてどう考えるべきかを再定義する。会話は、研究タレント、投資額、最も能力の高いモデルをトレーニングする競争に長年焦点を当てていた。しかし、インフラストラクチャ戦略は、同等に決定的な変数として浮上している。許可が速い地域、エネルギー政策が産業的需要とより一致している地域、そして大規模なインフラストラクチャへの民間投資がより成熟している地域では、AIをより迅速に拡大できる。米国には、ここで頻繁に軽視される構造的な利点がある。グリッド計画、ゾーニング改革、公益事業の調整が含まれるが、魅力的ではない。しかし、ますます重要性を増している。地政学は、さらに複雑さを加えている。調査対象の企業の約33%は、地政学的懸念により、AIのワークロードを他の地域または国に移転することを積極的に検討していると述べた。実用的制約である電力と計画の他に、組織は主権、サプライチェーンの回復力、コンピューティングを展開する環境の政治的安定性も考慮している。結果は、AIインフラストラクチャ投資が流れる地域の再構成である。再生可能エネルギーが豊富で、グリッド容量が利用可能で、規制の道筋が速い地域に向かっている。伝統的なテクノロジーマップ上でこれらの地域がどこにあるかは関係ない。AI革命の第一段階は、ソフトウェアで何が可能かによって定義された。次の段階は、物理的な世界で何が達成可能かによって定義されることになる。力に頼る、地味で辛い作業によって、電力インフラストラクチャを構築し、エネルギー供給を確保し、大規模な産業的展開の官僚的な複雑さを乗り越えることによってである。ここで、米国は、モデル能力のどれだけの増加でも容易に克服できない優位性を持っている。AIの未来は、グリッドが持つかどうかに依存する。ヘッドラインよりもはるかに面白くない。ただし、はるかに重要である。