Noah Sturcken, Founder and CEO of Ferric

野獣を制する: 統合電圧レギュレータがAIの電力危機を解決する方法

人工知能は貪欲である。大量の言語モデルをトレーニングすることから、クラウドでのリアルタイム推論を動かすまで、人工知能の計算要求は急激に増加している。この無尽の食欲は、進歩を妨げる二次的な危機を生み出している: 電気の力への非持続可能な飢え。計算の現代のカテドラルであるデータセンターは、世界の電気の大量を消費することになる予定で、人工知能のワークロードが主な原動力となっている。 国際エネルギー機関（IEA）によると、データセンターは2022年に約2%の世界の電気を消費したと推定されており、この数字は劇的に増加する予定である。この電力問題は、巨額の電気代と環境への影響だけではなく、根本的なエンジニアリングのボトルネックである。人工知能を動かすプロセッサー、つまりGPU、TPU、カスタムASICは、熱の壁に当たっている。シリコンにきれいに効率的に電力を供給することができない限り、チップにさらに多くのトランジスターを詰め込むことはできない。課題は電力を生成することではなく、最後の数ミリメートルでシリコンに効果的に電力を供給することにある。しかし、今、小さな技術である統合電圧レギュレータ（IVR）が、高性能コンピューティングの未来を根本的に変えている。電力供給の「最後のインチ」問題IVRの革新を理解するには、まず、高性能チップを動かす従来の方法を理解する必要がある。現代のプロセッサには、1秒あたり数十億回スイッチングする数十億のトランジスターがある。これらの操作には、正確で安定した低電圧DC電源が必要である。しかし、壁から供給される電力は、高電圧ACである。壁ソケットからシリコンまでの旅には、複雑な変換と規制の連鎖である電力供給ネットワーク（PDN）が含まれる。通常、このプロセスには複数のステージが含まれる。電力はサーバーのマザーボードで変換され、ステップダウンされ、最後の重要な変換は、電圧レギュレータ（VR）と呼ばれるコンポーネントによって処理される。これらのVRは、通常、バルクディスクリートコンポーネントであるコントローラー、電力ステージ、そして大きなワイヤーワウンドインダクタのコレクションであり、プロセッサソケットの周囲にマザーボード上に配置される。この従来のアプローチには、人工知能の時代に重大な欠陥がある： エネルギーの浪費: 電力は、これらのオンチップ以外のVRからマザーボードを横切って、チップのパッケージを通って移動する必要がある。このパスの各ミリメートルは抵抗を導入し、重大な電力損失（I2R損失）を引き起こす。この失われた電力は熱として放出され、さらに多くの電力が必要な冷却システムによって除去される必要がある。 遅い応答時間: プロセッサがアイドル状態からフルロード状態（人工知能のワークロードで呼ばれるトランジエントロード）に突然切り替わったとき、巨大な電流の急激な増加が必要になる。オンチップ以外のVRは、応答が遅く、暫定的な電圧低下、または「ドロップ」を引き起こす可能性がある。補償するために、エンジニアは、システム全体をより高い基準電圧で動作させる必要があり、さらに多くの電力が浪費される。 スペース制約: これらのバルクディスクリートコンポーネントは、より多くのメモリチャネル、高速インターコネクト、またはその他のパフォーマンスを向上させる機能に使用できる貴重なスペースをマザーボード上で消費する。プロセッサの周囲の「ビーチフロントプロパティ」は、電子機器の中で最も貴重なものである。 オンチップ電力と薄膜磁気最近の薄膜磁気技術の進歩により、高性能インダクタが、半導体製造技術を使用してチップまたはパッケージ基板に直接製造されることができる。これらの微小な、高効率インダクタにより、全体の電圧レギュレータが、電力を供給する回路から数マイクロメートル離れた場所に配置されることができる。この配置の変更により、以下の利点がもたらされる： 電力損失の削減: 電力供給パスをインチからマイクロメートルに短縮することで、伝送中のエネルギー損失が大幅に低減され、システムの全体的な効率が向上する。 粒状電力管理: 複数の独立した、超低電圧電力ドメインが、各コアまたは機能ブロックに必要な電力を、必要なときに供給し、必要ないときには瞬時にシャットダウンできる。 ほぼ瞬時の応答: オンチップIVRは、ナノ秒でトランジエントロードに応答し、電圧ドロップをほぼ排除し、パフォーマンスを犠牲にすることなく、より低い、より効率的な動作電圧を可能にする。 設計の簡素化と小型化: 電圧レギュレータをマザーボードから除去することで、ボードスペースが解放され、設計が簡素化され、高密度、高性能アーキテクチャがサポートされる。 AIハードウェアの未来の再構築IVRの利点は、AIハードウェア設計者が直面している最大の課題に直接対処する。次世代のGPUとAIアクセラレータを開発している企業にとって、統合電力管理は、「望ましい」ものではなく、「必須」技術である。高度な半導体パッケージ技術であるチプレツと3Dスタッキングは、従来のムーアの法則のスケーリングが減速している現在、将来の道として見なされている。これらの技術には、複数の小さな専用ダイを1つの強力なパッケージに組み立てることが含まれる。 TSMCのCoWoS技術によると、このアプローチには、洗練された電力供給戦略が必要である。IVR、Ferric製のものを含む、はこのパラダイムに完璧に適している、複雑でヘテロジニアスなシステムを管理するために必要な、粒状で効率的な電力を提供する。課題と結論広範な採用への道は、障害なくない。新しい材料とプロセスを、非常に保守的で複雑な半導体製造エコシステムに統合することは、巨大な課題である。しかし、解決策の必要性は明らかである。AIの現在の電力消費のトラジェクトリーは、持続不可能である。単にトランジスタを小さくすることは、もう十分ではない。ソフトウェアから電力供給まで、全体的なシステムの再構築が必要である。Ferricのような企業の仕事は、このパズルの重要な部分を表している。電力の獣をその源で制することで、彼らは、単により効率的なコンポーネントを作成するのではなく、次世代のAIと高性能コンピューティングの道を切り開いている。あなたは、電力供給が最適化された後のAIハードウェア設計の次の大きなボトルネックは何であると思いますか。エネルギー効率の向上は、大規模なAI展開の経済学にどのように影響しますか。