Niv-AI Mengumpulkan $12M untuk Mengatasi Bottleneck Daya Tersembunyi di Infrastruktur AI

Sebuah startup baru memasuki ruang infrastruktur AI yang semakin ramai dengan fokus pada keterbatasan yang jarang membuat headline tetapi cepat menjadi salah satu tantangan terbesar industri: daya.

Niv-AI muncul dari stealth dengan $12 juta dalam pendanaan dari Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward, dan Aurora. Perusahaan yang berbasis di Tel Aviv ini memposisikan diri di persimpangan sistem energi dan komputasi kinerja tinggi, menargetkan apa yang mereka sebut sebagai “krisis kapasitas daya instan” di dalam pusat data modern.

Masalahnya: Appetit AI yang Berkembang untuk Daya

Ketika beban kerja AI meningkat, terutama dengan adopsi GPU yang semakin padat daya, pusat data menghadapi keterbatasan fisik yang tidak dapat diatasi oleh optimasi perangkat lunak saja. Sementara kapasitas komputasi terus tumbuh, kemampuan untuk mengirim daya yang stabil pada level milidetik tertinggal.

Sistem pemantauan tradisional tidak dirancang untuk pola konsumsi daya yang cepat dan berubah-ubah dari beban kerja AI modern. Untuk menghindari kerusakan peralatan atau ketidakstabilan grid, operator sering mengompensasi dengan membatasi penggunaan. Hasilnya adalah underutilisasi infrastruktur yang signifikan, dengan hingga 30% dari kapasitas daya yang dikontrak secara efektif menganggur.

Ketidakefisienan ini memiliki implikasi keuangan. Operator pusat data membayar untuk kapasitas yang tidak dapat mereka gunakan sepenuhnya, sementara perusahaan AI menghadapi keterbatasan yang memperlambat penerapan dan meningkatkan biaya.

Lapisan Baru Antara Daya dan Komputasi

Pendekatan Niv-AI memperkenalkan lapisan kontrol baru yang berada di antara pengiriman energi dan beban kerja komputasi. Di inti platformnya adalah apa yang disebut perusahaan sebagai “sidik jari listrik” — pandangan resolusi tinggi tentang bagaimana beban kerja AI mengonsumsi daya secara real-time.

Menggunakan sensor khusus, sistem ini menangkap sinyal daya rinci yang meter tradisional lewatkan. Sinyal-sinyal ini kemudian diproses oleh model AI yang dirancang untuk memprediksi fluktuasi jangka pendek dalam permintaan. Alih-alih bereaksi setelah spike terjadi, platform proaktif menyesuaikan waktu beban kerja, menggeser operasi komputasi untuk meratakan penggunaan daya.

Dalam praktiknya, ini berfungsi seperti sistem manajemen lalu lintas untuk listrik di dalam pusat data, memungkinkan operator untuk mendorong infrastruktur lebih dekat ke batas nyata tanpa memicu ketidakstabilan.

Melampaui Perbaikan Perangkat Keras

Sebagian besar upaya saat ini untuk mengatasi keterbatasan daya bergantung pada solusi fisik seperti baterai, kapasitor, atau pengurangan beban kerja yang konservatif. Meskipun efektif sampai batas tertentu, pendekatan ini menambah biaya, kompleksitas, atau mengurangi kinerja.

Niv-AI bertaruh bahwa lapisan orkestrasi perangkat lunak dapat membuka kemenangan serupa atau lebih besar tanpa memerlukan perangkat keras tambahan. Dengan meningkatkan visibilitas dan kontrol pada tingkat granular, perusahaan bertujuan untuk memungkinkan operator mengekstrak nilai lebih dari infrastruktur yang ada.

Perubahan ini mencerminkan tren yang lebih luas dalam optimasi pusat data, di mana pendekatan perangkat lunak yang didefinisikan digunakan untuk mengelola keterbatasan fisik.

Implikasi yang Lebih Luas untuk Infrastruktur AI

Jika kategori teknologi ini terbukti efektif, itu bisa mengubah cara pusat data dirancang dan dioperasikan selama dekade berikutnya. Alih-alih memperlakukan batas daya sebagai keterbatasan tetap, operator mungkin mulai memandangnya sebagai variabel dinamis yang dapat dikelola secara real-time.

Ini memiliki implikasi di luar efisiensi. Ini bisa menunda atau mengurangi kebutuhan akan peningkatan grid yang mahal dan pembangunan fasilitas baru, terutama di daerah-daerah di mana ketersediaan energi sudah menjadi bottleneck. Ini juga dapat mempengaruhi cara beban kerja AI dijadwalkan, diberi harga, dan diprioritaskan, memperkenalkan dimensi optimasi baru yang menggabungkan orkestrasi komputasi dengan manajemen energi.

Di tingkat sistem, konvergensi antara kontrol daya dan komputasi menunjukkan masa depan di mana infrastruktur semakin terkoordinasi di seluruh lapisan yang sebelumnya terisolasi. Ketika AI terus berkembang, kemampuan untuk menyelaraskan lapisan-lapisan ini bisa menjadi sama pentingnya dengan kemajuan dalam arsitektur model atau desain chip.