Melampaui GPU: Mengoptimalkan Pabrik AI sebagai Sebuah Sistem

Pabrik AI bukan sekadar pusat data yang lebih besar. Pabrik ini dirancang khusus untuk menghasilkan token cerdas, bukan untuk melayani halaman web dan email. Ketika penyedia hyperscaler atau neocloud menginvestasikan miliaran dolar dan waktu bertahun-tahun untuk membangun pabrik AI, GPU yang menangani sebagian besar beban komputasi tentu menjadi prioritas. Namun, mengoptimalkan GPU saja tidak berarti mengoptimalkan pabrik di sekelilingnya. Sistem daya dan termal harus mendukung komputasi tersebut, dan keputusan yang diambil dalam satu sistem dapat berdampak signifikan pada sistem lainnya. AI dirancang untuk mengoptimalkan sistem yang kompleks, tetapi pabrik-pabrik yang membangunnya sering kali dioptimalkan satu komponen demi satu komponen. Teknologi kembar virtual memungkinkan para insinyur membangun dan menyempurnakan seluruh sistem bahkan sebelum konstruksi dimulai.

Mengapa Desain Konservatif Menjadi Pilihan Paling Aman

Karena dampak kegagalan sistem atau hambatan kinerja dapat sangat besar, fasilitas-fasilitas awal dibangun dengan margin keselamatan dan perangkat keras yang berlebihan. Tanpa peta jalan untuk generasi pusat data yang baru ini, membangun dengan hati-hati mungkin tampak sebagai pendekatan paling aman. Margin ini membantu melindungi fasilitas dari masalah seperti lonjakan suhu di dekat chip, yang dapat membuat operator hanya memiliki waktu satu menit untuk merespons sebelum perangkat keras rusak. Di beberapa fasilitas awal, hingga 10 persen daya yang tersedia tidak terpakai sebagai cadangan.

Pabrik AI rentan terhadap suhu, cuaca, kerusakan peralatan, kapasitas yang tidak memadai, kekurangan dalam desain, dan masalah pemeliharaan. Dengan risiko sebesar ini, pada skala gigawatt, setiap hari keterlambatan penyediaan kapasitas dapat berarti hilangnya pendapatan dari pembuatan token sebesar sekitar $100 juta. Sikap hati-hati terasa perlu ketika dampak masalah-masalah tersebut tidak dapat diprediksi.

Tantangannya semakin besar ketika risiko-risiko ini mencakup beberapa sistem yang saling terpisah. Pabrik AI bergantung pada tiga sistem yang terhubung erat: komputasi, daya, dan pengelolaan termal. GPU membutuhkan rangkaian pasokan daya yang rumit, serta sistem termal yang sama-sama menuntut, untuk membuang panas yang dihasilkannya. Ketika komputasi, daya, dan pengelolaan termal diperlakukan sebagai tahapan terpisah yang masing-masing dioptimalkan dalam bidangnya sendiri, tim dapat luput melihat dampak keputusan dalam satu sistem terhadap sistem lainnya. Hal ini menimbulkan titik buta dan ketidakseimbangan, terutama ketika daya dan pendinginan dianggap sebagai kebutuhan infrastruktur yang baru ditangani setelah keputusan terkait komputasi dibuat.

Daya dan pendinginan tidak dapat dipisahkan dari komputasi. Keduanya merupakan bagian dari sistem yang menentukan seberapa efektif komputasi dapat beroperasi. Karena itu, pergeseran yang diperlukan adalah dari mengoptimalkan sistem secara terpisah ke mengoptimalkan seluruh pabrik.

Alasan untuk Optimasi Bersama

Untuk mengatasi masalah ini, pendekatannya perlu beralih dari mengoptimalkan setiap sistem secara terpisah ke mengoptimalkan seluruh pabrik secara bersama-sama. Konstruksi fisik mengharuskan keputusan dibuat secara berurutan: satu sistem dirancang, lalu sistem lain dibangun di sekelilingnya, kemudian sistem lain ditambahkan untuk mendukungnya. Karena setiap keputusan mempersempit pilihan yang tersedia bagi sistem berikutnya, mengoptimalkan seluruh pabrik menjadi sulit. Optimasi bersama mengharuskan proses tersebut dipindahkan ke lingkungan virtual, tempat seluruh sistem dapat dimodelkan, diubah, dan dievaluasi sebelum apa pun ditetapkan secara fisik, sehingga tercipta cetak biru yang dinamis.

Memodelkan Pabrik Sebelum Terwujud

Di sinilah teknologi kembar virtual tingkat sistem menjadi sangat penting.

Kembar virtual menggunakan pemodelan sistem formal untuk merepresentasikan infrastruktur komputasi, daya, dan termal secara terpadu, serta dapat memodelkan pabrik AI sebelum wujud fisiknya ada. Berbeda dengan kembar digital tradisional yang berfokus pada aset fisik yang sudah ada, kembar virtual dapat memodelkan suatu sistem sebelum wujud fisiknya ada. Teknologi ini memungkinkan para insinyur menguji berbagai konfigurasi dan memahami bagaimana perubahan pada satu bagian sistem memengaruhi bagian lainnya sebelum pilihan tersebut diwujudkan secara fisik.

Sebagai contoh, meningkatkan kepadatan GPU bukan sekadar menambahkan lebih banyak kapasitas komputasi. Langkah ini dapat meningkatkan beban listrik, mengubah kebutuhan pembuangan panas, memengaruhi penempatan peralatan, dan menimbulkan pertimbangan baru saat komisioning. Dengan memodelkan berbagai hubungan tersebut secara terpadu, para insinyur dapat mengevaluasi komprominya sebelum konstruksi dimulai, alih-alih baru menemukannya seiring berjalannya proyek.

Teknologi kembar virtual memungkinkan para insinyur membuat kesalahan mahal secara virtual sebelum kesalahan itu menjadi mahal di dunia fisik. Teknologi ini menyediakan cara untuk mengidentifikasi potensi masalah dan peluang di lingkungan virtual, sehingga tim dapat menyelesaikan masalah sebelum masalah itu muncul di dunia fisik. Pengujian konfigurasi sebelum komisioning fisik juga memungkinkan margin desain yang tidak perlu, daya yang terbengkalai, dan pemborosan akibat margin keselamatan ditemukan dan dihilangkan pada tahap desain. Dalam skala besar, pengurangan sekecil apa pun dapat menghasilkan penghematan belanja modal jutaan dolar dan mempercepat akses ke pendapatan.

 Membuat Model Bersifat Prediktif

Model ini juga dapat menggunakan simulasi berbasis fisika untuk memprediksi perilaku sistem. Jika dasar fisika atau kimia yang mendasarinya dipahami dengan baik, perangkat simulasi dapat memprediksi perilaku sistem. Jika data operasional yang melimpah menawarkan pendekatan yang lebih baik, model AI dan pembelajaran mesin dapat melengkapi simulasi tersebut.

Hasilnya adalah lingkungan untuk mengeksplorasi perilaku sistem yang saling terhubung dan mengoordinasikan keputusan lintas bidang rekayasa. Model ini juga dapat terus berkembang seiring tersedianya data operasional, sehingga pembelajaran dari satu fasilitas atau siklus operasi dapat menjadi masukan bagi desain dan keputusan di masa mendatang.

Cetak Biru untuk Pabrik AI

Industri sudah mulai membangun fondasi untuk pendekatan ini. Cetak biru DSX NVIDIA merumuskan desain acuan untuk pabrik AI berskala gigawatt. NVIDIA telah memulai dengan merumuskan bagian komputasi dari cetak biru tersebut menggunakan pemodelan sistem dan pendekatan simulasi kembaran virtual, serta mengundang mitra ekosistem dari bidang ketenagalistrikan, pendinginan, dan konstruksi—termasuk perusahaan seperti Eaton, Vertiv, dan Jacobs—untuk menyumbangkan bagian desain masing-masing. Interoperabilitas desain acuan dimungkinkan oleh SysML yang mendukung definisi tingkat sistem, sementara OpenUSD menyediakan fondasi untuk data yang berpusat pada 3D.

Tujuannya bukan agar setiap perusahaan mengoptimalkan komponennya sendiri lalu berharap semua bagian itu dapat berpadu. Keahlian di bidang komputasi, ketenagalistrikan, pendinginan, dan fasilitas perlu disatukan agar setiap teknologi terbaik di kelasnya dapat berkontribusi terhadap kinerja keseluruhan sistem.

Setiap industri dapat melakukan optimalisasi di bidangnya sendiri, tetapi untuk menghasilkan produk akhir yang tangguh, sistem-sistem tersebut perlu dioptimalkan secara terpadu. Seiring semakin matangnya pendekatan ini, infrastruktur AI juga dapat beralih dari proyek percontohan terisolasi yang hanya dilakukan sekali menuju sistem berskala perusahaan yang mampu mengelola lingkungan operasional yang sangat kompleks.

Mengoptimalkan Pabrik, Bukan Hanya GPU

GPU akan tetap menjadi pusat kinerja pabrik AI. Namun, membeli GPU terbaik saja tidak serta-merta mengoptimalkan pabrik yang mengandalkannya. Generasi infrastruktur AI berikutnya akan bergantung pada rekayasa sistem komputasi, ketenagalistrikan, dan termal sebagai satu sistem terintegrasi, pemodelan hubungan di antara sistem-sistem tersebut sebelum komitmen fisik besar dibuat, serta pemanfaatan berkelanjutan atas hal-hal yang dipelajari sistem untuk menyempurnakan langkah selanjutnya. Kita tidak dapat memprediksi masa depan atau mencegah setiap kesalahan, tetapi teknologi kembaran virtual dapat membantu tim merencanakan ketidakpastian dan mengoptimalkan pabrik AI sebagai sebuah sistem.