次のAI電力ボトルネックは都市内部にある
過去数年にわたり、そして現在も続くように、AIインフラ市場は膨大な時間と資金（2030年までに $7 trillion のデータセンター投資、マッキンゼーの推計）を費やし、電力が確保できる場所に大規模データセンターを建設する方法を学んできた。「どこでも」というのが重要なキーワードで、かつては場所はあまり重要ではなかった。トレーニングクラスターは単に十分な電力へのアクセスさえあればよい。しかし、AIの利用がチャットインターフェースを超えて機械、音声システム、動画、そして物理世界と相互作用するアプリケーションへと拡大する現在、場所の重要性が高まりつつある。こうした運用には、計算力をそれらの相互作用が行われる都市部に近い場所に置く必要があり、レイテンシを低く保つことが求められる。チャットボットのようなツールは0.5秒程度の遅延を許容できるが、遠隔監視された配送ロボットやライブ音声アシスタント、あるいは自動化されたフルフィルメントシステムといった自動サービスアプリケーションはミリ秒単位で反応する必要がある可能性がある。これはAI企業にとっての新たな課題である。大規模な都市圏の内外で、信頼できる小規模な電力供給をどのように見つけるか？ そして、場所が見つかった後でも、遠隔データセンターが直面している反発にどう対処するかが問題だ。都市部におけるAI需要が高まっている都市圏では、チャットボットの個人的利用やロボットへの過度な執着を超えるAIへの需要が高まっている。IMF のワーキングペーパーによると、データセンターとAIによる電力消費は2023年にすでに世界で400〜500 TWh に達しており、AI主導の消費は2030年までに1,500 TWh に達する可能性があるという。書類処理や動画のアーカイブといった単純作業をより効率化するために必要な自動化は、大規模に大量の電力を必要とする。都市はこの分野の最前線にあり、OECD が78か国の250都市を調査した結果が示すように、56% はすでに AI を積極的に使用しており、さらに 35% がパイロットまたは導入計画を進めている。簡単なユースケースとして、都市の監視カメラを考えてみよう。IHS Markit は推定したところ、数年前に世界の監視カメラ数は10億台を超えると予測されていた。これらは主に記録目的で使用されているが、現在ではネットワーク上の物体追跡や自然言語で大規模な動画アーカイブを検索するなど、より計算負荷の高い作業にも利用されている。現在の AI 処理能力では、すべてのカメラでこのようなプロセスを実行することはできない。都市外の遠隔データセンターに送って処理すべきか？ データ規制や大量トラフィックの移動コストを考えると、実用的ではない。最近の Gallup 調査によると、民間および公共部門の従業員の30% が AI を使用していることが分かり、数は上昇傾向にある。これらのセクター—銀行、病院、公共機関など—は同様の課題に直面している。彼らは自らの管轄内に...
