Niv-AI、AIインフラの隠れた電力ボトルネックに対処するために1,200万ドルを調達

新しいスタートアップが、注目度は低いものの、業界の最も重大な課題となっている制約に焦点を当てて、急速に成長するAIインフラスペースに参入しました。その制約とは、電力です。

Niv-AIは、Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward、およびAuroraからの1,200万ドルの資金調達とともに、ステルスモードから出てきました。テルアビブに拠点を置くこの会社は、エネルギーシステムとハイパフォーマンスコンピューティングの交差点に位置し、現代のデータセンター内で「瞬時の電力容量」危機と呼ばれるものを標的にしています。

問題：AIの電力需要の増大

AIワークロードが拡大するにつれて、特に電力密度の高いGPUの採用により、データセンターはソフトウェア最適化のみでは解決できない物理的な制限に直面しています。コンピュート容量は増加し続けていますが、ミリ秒レベルの安定した電力を供給する能力は後れをとめています。

伝統的な監視システムは、現代のAIワークロードの急速でスパイクとなる電力消費パターンに対応するように設計されていません。機器の損傷やグリッドの不安定化を避けるために、運用者は使用を制限することで過剰反応することがよくあります。その結果、既存のインフラストラクチャの最大30%の契約電力容量が、実質的にアイドル状態になります。

この非効率性は、Glotのような財務上の影響を及ぼします。データセンター運用者は、十分に使用できない容量に対して支払いを行っています。一方、AI企業は展開を遅らせ、コストを増加させる制約に直面しています。

電力とコンピュートの間の新しいレイヤー

Niv-AIのアプローチでは、エネルギー供給と計算ワークロードの間に新しい制御レイヤーを導入します。プラットフォームの核心にあるのは、会社が「電気的指紋」と呼ぶもので、AIワークロードがリアルタイムで電力をどのように消費するかを高解像度で表示します。

専用のセンサーを使用して、従来のメーターでは見逃される詳細な電力信号をキャプチャします。これらの信号は、短期的な需要の変動を予測するように設計されたAIモデルによって処理されます。スパイクが発生した後ではなく、プラットフォームは予測的にワークロードのタイミングを調整し、電力使用量をスムーズにするために計算操作を微妙にずらします。

実践では、これはデータセンター内の電気のためのトラフィック管理システムのように機能し、運用者がインフラストラクチャをその真の限界に近づけることができますが、不安定性を引き起こすことはありません。

ハードウェアの修正を超えて

現在、電力制約に対処するためのほとんどの試みは、バッテリー、コンデンサ、またはワークロードの保守的な絞り込みなどの物理的な解決策に依存しています。これらのアプローチはある程度効果的ですが、コスト、複雑さ、またはパフォーマンスの低下をもたらします。

Niv-AIは、ソフトウェア駆動のオーケストレーションレイヤーが、追加のハードウェアを必要とせずに同等またはそれ以上の利益を解放できるという賭けをしています。粒度の高いレベルでの可視性と制御を改善することで、会社は運用者が既存のインフラストラクチャからより多くの価値を抽出できるようにすることを目的としています。

このシフトは、ソフトウェア定義のアプローチが物理的な制約を管理するために使用される、データセンターの最適化におけるより広範な傾向を反映しています。

AIインフラストラクチャへのより広範な影響

このカテゴリのテクノロジーが効果的であることが証明されれば、次の10年間でデータセンターが設計および運用される方法を再定義する可能性があります。電力制限を固定の制約ではなく、動的に管理できる変数として扱うことができるようになるからです。

これには、効率性を超えた影響があります。コストのかかるグリッドのアップグレードや新しい施設の建設、特にエネルギーの入手可能性が既にボトルネックとなっている地域での需要を遅らせたり減らしたりする可能性があります。また、AIワークロードのスケジューリング、価格設定、優先順位付けに影響を及ぼす可能性があり、コンピュートオーケストレーションとエネルギー管理を組み合わせた新しい最適化の次元を導入します。

システムレベルでは、電力とコンピュートの制御の収束は、歴史的にシロ化されていたレイヤー間でインフラストラクチャがますます調整される未来を示唆しています。AIが拡大し続けるにつれて、これらのレイヤーを調和させる能力は、モデルアーキテクチャやチップデザインの進歩と同等に重要になる可能性があります。