10 Pertanyaan yang Harus Diajukan untuk Memastikan Penerapan Pendinginan Pusat Data AI yang Efektif

Dengan meningkatnya penggunaan AI dan komputasi kinerja tinggi, pusat data berkembang dengan kecepatan yang luar biasa. Faktanya, kapasitas pusat data yang sedang dibangun pada akhir tahun 2024 lebih dari dua kali lipat dibandingkan dengan akhir tahun 2023 (6.350 MW yang sedang dibangun vs. ~3.078 MW). Pada saat yang sama, perangkat keras yang digunakan dan beban kerja yang ditangani di pusat data ini semakin intensif. Dalam kondisi yang berubah dengan cepat ini, baik risiko maupun tantangan semakin meningkat.

Dan dengan rata-rata pusat data menghabiskan hingga 40% dari seluruh anggaran energi untuk pendinginan, manajemen termal dengan cepat menjadi salah satu tantangan terbesar untuk industri ini. Di sisi positif, operator pusat data memiliki lebih banyak pilihan daripada sebelumnya untuk mendinginkan fasilitas mereka dengan andal, efisien, dan hemat biaya.

Tentu saja, ketika ada pilihan, ada keputusan yang harus dibuat. Jadi, ketika mempertimbangkan penerapan pusat data Anda sendiri, berikut adalah 10 pertanyaan yang harus Anda jawab untuk mendapatkan operasi Anda berjalan dengan cepat, serta memastikan efisiensi, keandalan, dan keberlanjutan untuk jangka panjang.

Pertanyaan 1: Seberapa cepat saya dapat mengaktifkan sistem pendinginan ini tanpa mengorbankan keandalan?

Dalam perlombaan AI, diferensiator sejati untuk kesuksesan industri tidak lagi siapa yang mengumpulkan GPU terbanyak — tetapi siapa yang mengaktifkannya dengan cepat. Waktu hingga daya (yaitu, waktu dari memulai penerapan hingga menjadi operasional) telah menjadi medan pertempuran baru, menentukan seberapa cepat perusahaan dapat mengubah investasi AI menjadi dampak bisnis. Pemimpin tidak hanya akan menjadi mereka yang memiliki sumber daya komputasi besar, tetapi mereka yang membuka kunci mereka terlebih dahulu, mempercepat inovasi, pendapatan, dan keunggulan kompetitif.

Tapi, memburu-buru penerapan pendinginan dapat berakhir dengan kegagalan, menyebabkan ketidakefisienan, downtime, atau retrofit yang mahal. Operator harus bertanya apakah sistem yang mereka pilih dapat diterapkan dengan cepat dan bertahan dalam ujian waktu. Strategi yang menyeimbangkan kecepatan implementasi dengan ketangguhan menyediakan kesiapan pasar yang segera dan ketahanan jangka panjang.

Pertanyaan 2: Metode pendinginan mana yang paling sesuai dengan kebutuhan proyek saya?

Tidak ada solusi satu ukuran untuk setiap penerapan pusat data. Pendinginan udara telah lama menjadi standar, tetapi sekarang telah mencapai batas fisiknya dalam menangani perangkat keras canggih dan rak dengan kepadatan tinggi yang khas dari pusat data AI. Pendinginan cair menawarkan efisiensi yang tidak tertandingi pada skala dan kinerja yang future-proof untuk beban kerja yang semakin menantang. Pendekatan hibrida dapat menjembatani kesenjangan, tetapi untuk jangka panjang, pusat data AI akan bergantung pada solusi pendinginan cair untuk mengelola beban kerja AI yang semakin intensif. Memilih metode pendinginan cair yang tepat, bagaimanapun, tergantung pada jenis beban kerja, kepadatan, lokasi, dan faktor lainnya.

Ada dua metode pendinginan cair utama yang digunakan secara komersial saat ini: direct-to-chip (DTC) dan pendinginan immersi. Meskipun DTC saat ini lebih umum, pendinginan immersi diharapkan mendapatkan traksi seiring dengan meningkatnya kepadatan daya chip. Sistem DTC mengarahkan pendingin langsung ke komponen yang menghasilkan panas seperti CPU dan GPU melalui pelat dingin, menawarkan peningkatan efisiensi yang cepat dengan perubahan infrastruktur minimal. Sistem satu fase lebih sederhana dan ramah retrofit, sedangkan sistem dua fase menggunakan refrigeran untuk mencapai kinerja transfer panas yang lebih tinggi dengan daya pompa yang lebih rendah tetapi kompleksitas sistem yang lebih besar. Pendinginan immersi, di sisi lain, menenggelamkan seluruh server dalam cairan dielektrik—baik yang bersirkulasi (satu fase) atau mendidih dan mengembun dalam tangki tertutup (dua fase).

Mana solusi yang tepat untuk lingkungan Anda tergantung pada sifat perangkat keras, beban kerja, anggaran, dan lain-lain. Tapi, menyadari pilihan Anda adalah vital untuk viabilitas jangka panjang pusat data AI Anda.

Pertanyaan 3: Apakah sistem pendinginan saya akan mendukung beban kerja saat ini dan kepadatan AI di masa depan?

Yang membawa kita ke pertanyaan besar berikutnya: apakah sistem saya akan bertahan dalam ujian waktu? Permintaan pusat data meningkat melampaui norma sejarah. Klaster pelatihan AI, misalnya, dapat memerlukan 10-20 kali kepadatan daya dari rak perusahaan tradisional. Pertanyaan yang harus diajukan operator adalah apakah desain pendinginan mereka dapat menampung kepadatan masa depan tanpa penggantian total.

Meningkatnya AI, HPC (komputasi kinerja tinggi), dan arsitektur rak yang semakin padat sudah mendorong pendinginan udara ke batasnya. Dalam Survei Sistem Pendinginan Uptime Institute 2024, sebagian besar operator mengatakan pendinginan udara menjadi tidak praktis dan/atau terlalu mahal pada titik apa pun di atas ~20 kW per rak. Namun, laporan industri saat ini menunjukkan bahwa rak AI sudah umumnya mendorong 100 kW per rak. Dan angka-angka ini sudah meningkat. Nvidia baru-baru ini mengumumkan rencana untuk GPU Rubin Ultra dengan rak Kyber, yang akan melampaui 600kW per rak pada tahun 2027.

Mengetahui bahwa pendinginan udara akan segera menjadi usang dalam penerapan pusat data AI, operator dapat melihat ke pendekatan hibrida atau bertahap di mana penerapan pendinginan cair hijau tidak memungkinkan. Sekali lagi, mengingat waktu dan biaya yang besar yang diinvestasikan dalam proyek-proyek ini, viabilitas jangka panjang adalah yang paling penting. Jadi, ketika memilih solusi pendinginan, pastikan mereka siap untuk jangka panjang.

Pertanyaan 4: Apa implikasi biaya total selama siklus hidup penuh?

Sementara biaya awal dapat mengejutkan dalam ruang pusat data, biaya modal (CAPEX) hanya sebagian dari cerita. Operator harus menghitung biaya kepemilikan total (TCO), termasuk biaya operasional (OPEX) yang terkait dengan konsumsi daya, perawatan, dan retrofit, ketika mempertimbangkan solusi pendinginan mereka. Sistem yang tampak lebih mahal awalnya mungkin menawarkan penghematan jangka panjang melalui efisiensi energi, pengurangan downtime, dan peningkatan umur panjang. Strategi pendinginan yang tepat jarang yang paling murah awalnya — itu yang mengoptimalkan biaya selama siklus hidup fasilitas 10-15 tahun.

Ingat, ini bukanlah penerapan jangka pendek. Lebih banyak hidup yang Anda dapatkan dari penerapan tersebut, semakin banyak nilai yang Anda dapatkan. Melihat ke luar CAPEX dan memikirkan biaya dan penghematan jangka panjang Anda adalah sangat penting untuk memastikan Anda mendapatkan yang terbaik dari proyek pusat data Anda.

Pertanyaan 5: Bagaimana strategi pendinginan ini akan mempengaruhi profil keberlanjutan saya?

Seperti yang disebutkan sebelumnya, pendinginan dapat menyumbang 40% atau lebih dari konsumsi energi total pusat data. Ketika peraturan dan persyaratan pelaporan ESG berkembang, operator harus bertanya: bagaimana sistem ini mempengaruhi jejak karbon, penggunaan energi, dan komitmen keberlanjutan lainnya? Solusi yang mengurangi konsumsi energi atau limbah sumber daya atau selaras dengan standar global seperti kerangka Green Grid semakin tidak hanya diinginkan tetapi diperlukan untuk kepercayaan investor dan kepatuhan regulasi.

Sementara itu, sektor publik semakin menginginkan pengurangan konsumsi energi. Monitoring Analytics, watchdog pasar independen untuk grid mid-Atlantik, menghasilkan penelitian pada Juni ini yang menunjukkan bahwa 70% dari kenaikan biaya listrik tahun lalu adalah hasil dari permintaan pusat data. Tidak mengherankan, konsumen mengangkat alarm, dan negara-negara bagian mempertimbangkan beberapa langkah serius untuk mengatasi kekhawatiran ini, termasuk kemungkinan pemadaman paksa selama periode permintaan tinggi. Dengan berinvestasi dalam solusi pendinginan yang lebih hemat energi dan berkelanjutan, organisasi dapat memposisikan diri untuk mengatasi baik persepsi publik maupun tantangan regulasi yang akan datang.

Pertanyaan 6: Berapa banyak air yang akan dikonsumsi oleh pendekatan pendinginan ini — dan apakah itu berkelanjutan di wilayah saya?

Pusat data besar dapat mengonsumsi hingga 5 juta galon air per hari. Tidak mengherankan, maka, bahwa kelangkaan air menjadi isu yang mendefinisikan pusat data, terutama di wilayah seperti Barat Daya Amerika, dan bagian Eropa di mana hak dan masalah kelangkaan air menyebabkan peningkatan pengawasan terhadap pusat data. Untuk melakukannya dengan benar, operator harus menghitung konsumsi air proyeksi dari sistem pendinginan mereka dan menilai apakah itu selaras dengan kenyataan lokal dan regional (dalam hal ketersediaan dan persyaratan regulasi).

Jangan tertipu oleh namanya — pendinginan cair sebenarnya mengonsumsi jauh lebih sedikit air daripada sistem pendinginan udara tradisional. Menurut sebuah studi yang diterbitkan oleh Nature, pendinginan cair mengurangi konsumsi air “biru” pusat data oleh 31-52% vs. pendinginan udara tradisional selama siklus hidupnya. Solusi pendinginan yang meminimalkan atau menghilangkan konsumsi air dapat membantu memastikan fasilitas terhadap risiko lingkungan dan regulasi.

Pertanyaan 7: Apa risiko atau keterbatasan yang terkait dengan pendinginan cair, dan bagaimana mereka dapat diminimalkan?

Meskipun menawarkan keuntungan luar biasa sekitar efisiensi, keberlanjutan, dan ROI seumur hidup, banyak mitos yang bertahan tentang pendinginan cair, terutama sekitar keandalan, biaya, dan integrasi. Pada kenyataannya, kemajuan teknologi, bahan, dan desain telah membuat pendinginan cair aman, andal, dan semakin terjangkau. Kunci untuk operator adalah mengevaluasi sistem ini melawan data kinerja dunia nyata, bukan persepsi ketinggalan zaman, dan merancang dengan praktik terbaik yang terbukti.

Ketika melihat pendinginan cair, sangat penting untuk menyadari mana solusi yang terbaik untuk fasilitas Anda. Dengan berbagai pendekatan (misalnya, direct-to-chip [DTC], immersi) dan sejumlah vendor yang menawarkan berbagai solusi, satu harus selalu melakukan due diligence ketika mempertimbangkan penerapan pendinginan cair.

Pertanyaan 8: Bagaimana desain pendinginan saya akan mempengaruhi utilisasi ruang dan kepadatan rak?

Ruang adalah sama berharganya dengan daya dalam fasilitas pusat data modern. Rak dengan kepadatan tinggi yang didukung oleh pendinginan cair yang efisien dapat secara dramatis mengurangi kebutuhan ruang lantai dan jejak fasilitas. Ini, pada gilirannya, memungkinkan operator untukeither menskalakan beban kerja dalam jejak yang ada atau meminimalkan biaya lahan dan konstruksi untuk bangunan baru. Dapat melakukan lebih banyak dengan ruang yang lebih sedikit tidak hanya mengurangi biaya, tetapi juga membuka pintu untuk berbagai situs yang layak untuk konstruksi. Dengan jejak yang lebih kecil, pengembang dapat membangun lebih bebas dan bahkan membawa komputasi lebih dekat dengan pengguna akhir. Mengajukan pertanyaan ini dari awal memastikan desain pendinginan selaras dengan kepadatan dan tujuan utilisasi ruang.

Pertanyaan 9: Apa strategi ketahanan jangka panjang saya jika beban kerja melonjak atau peraturan mengencangkan?

Pusat data tidak statis. Lonjakan permintaan yang tidak terduga, aplikasi AI baru, dan mandat efisiensi/keberlanjutan yang mengencangkan dapat dengan cepat menempatkan tekanan pada infrastruktur. Operator harus bertanya apakah strategi pendinginan mereka cukup adaptif untuk memenuhi perubahan yang sering tidak terduga ini. Sistem pendinginan yang efektif harus siap untuk menskalakan kapasitas, memenuhi persyaratan kepatuhan baru, dan mengintegrasikan dengan teknologi masa depan.

Sistem yang menawarkan modularitas dan vendor dengan rantai pasokan yang kuat akan membantu melindungi pusat data Anda dari perubahan permintaan, memungkinkan Anda untuk menskalakan lebih mudah dan meningkatkan serta mengintegrasikan dengan lebih mudah jika dan ketika diperlukan.

Pertanyaan 10: Apakah saya memperlakukan pendinginan sebagai pengaktif strategis — atau hanya sebagai pemikiran belakang?

Pertanyaan terakhir ini, yang mencakup semuanya, adalah yang paling penting. Ketika mempertimbangkan sistem pendinginan Anda, ambil saat untuk mempertimbangkan kembali peran pendinginan dalam operasi pusat data Anda secara keseluruhan. Terlalu sering, pendinginan diperlakukan sebagai infrastruktur latar belakang ketika, dalam kenyataannya, itu adalah pengaktif strategis kinerja, waktu aktif, dan keberlanjutan. Perusahaan yang berinvestasi dalam strategi pendinginan yang terpikir dengan matang memperoleh tidak hanya efisiensi operasional tetapi juga keunggulan kompetitif dalam keandalan, kepatuhan, dan biaya jangka panjang.

Dan ketika AI terus menempatkan tuntutan baru yang lebih intensif pada pusat data, sangat penting untuk memandang jauh ke depan pendinginan. Jangan hanya memikirkan apa yang terbaik, tercepat, atau termurah untuk penerapan Anda hari ini. Pikirkan bagaimana solusi pendinginan Anda memposisikan Anda 5, 10, atau bahkan 15 tahun ke depan. Jika sistem pendinginan Anda baru saja memenuhi persyaratan hari ini, Anda dapat yakin itu tidak akan memadai beberapa tahun ke depan. Ingat, pendinginan adalah kunci untuk kesuksesan fasilitas Anda secara keseluruhan sepanjang siklus hidupnya.

Pendinginan Sekarang Pusat untuk Kesuksesan Pusat Data Jangka Panjang — Pilih dengan Bijak

Pendinginan tidak lagi menjadi perhatian di belakang — itu adalah pusat dari kesuksesan pusat data di dekat dan jangka panjang. Dengan mengajukan pertanyaan-pertanyaan ini dari awal, operator dapat mengurangi waktu penerapan, meminimalkan risiko, dan memastikan fasilitas dibangun untuk ketahanan dalam dunia yang didorong oleh AI yang ditandai dengan perubahan dan fluktuasi.

Masa depan industri akan ditentukan tidak hanya oleh seberapa cepat operator menerapkan kapasitas, tetapi oleh seberapa cerdas mereka merancang untuk keberlanjutan jangka panjang dan keandalan. Mereka yang memperlakukan pendinginan sebagai pengaktif strategis akan berada dalam posisi terbaik untuk memimpin di tahun-tahun mendatang.