10 Pertanyaan yang Harus Ditanyakan untuk Memastikan Penerapan Pendinginan Pusat Data AI yang Efektif

Dengan meningkatnya penggunaan AI dan komputasi kinerja tinggi, pusat data berkembang dengan kecepatan yang luar biasa. Faktanya, jumlah kapasitas pusat data yang sedang dibangun pada akhir tahun 2024 lebih dari dua kali lipat dibandingkan dengan akhir tahun 2023 (6.350 MW yang sedang dibangun vs. ~3.078 MW). Pada saat yang sama, perangkat keras yang digunakan dan beban kerja yang ditangani di pusat data ini semakin intensif. Dalam kondisi yang berubah dengan cepat ini, baik tantangan maupun risiko meningkat.

Dan dengan rata-rata pusat data menghabiskan hingga 40% dari total anggaran energi untuk pendinginan, manajemen termal dengan cepat menjadi salah satu tantangan terbesar untuk industri ini. Di sisi lain, operator pusat data memiliki lebih banyak pilihan daripada sebelumnya untuk mendinginkan fasilitas mereka dengan andal, efisien, dan hemat biaya.

Tentu saja, ketika ada pilihan, ada juga keputusan yang harus dibuat. Jadi, ketika mempertimbangkan penerapan pusat data Anda sendiri, berikut adalah 10 pertanyaan yang harus Anda jawab untuk mendapatkan operasi Anda berjalan dengan cepat, serta memastikan efisiensi, keandalan, dan keberlanjutan untuk jangka panjang.

Pertanyaan 1: Bagaimana cepatnya saya dapat menerapkan sistem pendinginan ini tanpa mengorbankan keandalan?

Dalam perlombaan AI, pembeda yang sebenarnya untuk kesuksesan industri bukanlah siapa yang mengumpulkan GPU terbanyak — tetapi siapa yang dapat menerapkan mereka dengan cepat. Waktu-ke-kekuatan (yaitu, waktu dari memulai penerapan hingga menjadi operasional) telah menjadi medan pertempuran baru, menentukan seberapa cepat perusahaan dapat mengubah investasi AI menjadi dampak bisnis. Pemimpin tidak hanya akan menjadi mereka yang memiliki sumber daya komputasi yang masif, tetapi mereka yang dapat membuka kunci mereka pertama, mempercepat inovasi, pendapatan, dan keunggulan kompetitif.

Namun, menerapkan pendinginan dengan terburu-buru dapat berakhir dengan tidak efisien, gangguan, atau biaya retrofit yang mahal. Operator harus bertanya apakah sistem yang mereka pilih dapat diterapkan dengan cepat dan dapat bertahan dalam jangka panjang. Strategi yang seimbang antara kecepatan penerapan dan kekuatan memberikan kesiapan pasar yang segera dan ketahanan jangka panjang.

Pertanyaan 2: Metode pendinginan mana yang paling sesuai dengan kebutuhan proyek saya?

Tidak ada solusi yang dapat memenuhi semua kebutuhan penerapan pusat data. Pendinginan udara telah lama menjadi standar, tetapi telah mencapai batas fisik dalam menangani perangkat keras canggih dan rak dengan kepadatan tinggi yang khas dari pusat data AI. Pendinginan cair menawarkan efisiensi yang tidak tertandingi pada skala dan kinerja yang future-proof untuk beban kerja yang semakin menantang. Pendekatan hibrida dapat menjembatani kesenjangan, tetapi untuk jangka panjang, pusat data AI akan bergantung pada solusi pendinginan cair untuk mengelola beban kerja AI yang semakin intensif. Memilih metode pendinginan cair yang tepat, bagaimanapun, tergantung pada jenis beban kerja, kepadatan, lokasi, dan faktor lainnya.

Ada dua metode pendinginan cair utama yang digunakan secara komersial saat ini: direct-to-chip (DTC) dan pendinginan immersi. Meskipun DTC saat ini lebih umum, pendinginan immersi diharapkan mendapatkan traksi karena kepadatan daya chip meningkat. Sistem DTC mengarahkan pendingin langsung ke komponen yang menghasilkan panas seperti CPU dan GPU melalui pelat dingin, menawarkan peningkatan efisiensi yang cepat dengan perubahan infrastruktur minimal. Sistem satu fase lebih sederhana dan ramah retrofit, sedangkan sistem dua fase menggunakan refrigeran untuk mencapai kinerja transfer panas yang lebih tinggi dengan daya pompa yang lebih rendah tetapi kompleksitas sistem yang lebih besar. Pendinginan immersi, di sisi lain, menenggelamkan seluruh server dalam cairan dielektrik—baik yang bersirkulasi (satu fase) atau yang direbus dan dikondensasi dalam tangki tertutup (dua fase).

Mana solusi yang tepat untuk lingkungan Anda tergantung pada sifat perangkat keras, beban kerja, anggaran, dan lain-lain. Tetapi, menyadari pilihan Anda adalah vital untuk viabilitas jangka panjang pusat data AI Anda.

Pertanyaan 3: Apakah sistem pendinginan saya akan mendukung beban kerja saat ini dan kepadatan AI yang didorong di masa depan?

Yang membawa kita ke pertanyaan besar berikutnya: apakah sistem saya akan bertahan dalam jangka panjang? Permintaan pusat data meningkat melampaui norma sejarah. Klaster pelatihan AI, misalnya, dapat memerlukan 10-20 kali kepadatan daya rak enterprise tradisional. Pertanyaan yang harus ditanyakan operator adalah apakah desain pendinginan mereka dapat menampung kepadatan di masa depan tanpa penggantian total.

Munculnya AI, HPC (komputasi kinerja tinggi), dan arsitektur rak yang semakin padat telah mendorong pendinginan udara ke batasnya. Dalam Survei Sistem Pendinginan Uptime Institute 2024, sebagian besar operator mengatakan pendinginan udara menjadi tidak praktis dan/atau terlalu mahal pada titik di atas ~20 kW per rak. Namun, laporan industri saat ini menunjukkan bahwa rak AI sudah umumnya mendorong 100 kW per rak. Dan angka-angka ini sudah meningkat. Nvidia baru-baru ini mengumumkan rencana untuk GPU Rubin Ultra dengan rak Kyber, yang akan melampaui 600kW per rak pada tahun 2027.

Mengetahui bahwa pendinginan udara menuju keusangan dalam penerapan pusat data AI, operator dapat melihat pendekatan hibrida atau bertahap di mana penerapan pendinginan cair hijau penuh tidak memungkinkan. Sekali lagi, mengingat waktu dan biaya yang besar yang diinvestasikan dalam proyek-proyek ini, viabilitas jangka panjang adalah yang paling penting. Jadi, ketika memilih solusi pendinginan, pastikan mereka siap untuk jangka panjang.

Pertanyaan 4: Apa implikasi biaya total selama siklus hidup penuh?

Sementara biaya awal dapat mengejutkan dalam ruang pusat data, biaya modal (CAPEX) hanya sebagian dari cerita. Operator harus menghitung biaya kepemilikan total (TCO), termasuk biaya operasional (OPEX) yang terkait dengan konsumsi daya, perawatan, dan retrofit, ketika mempertimbangkan solusi pendinginan mereka. Sistem yang tampaknya lebih mahal di awal mungkin menawarkan penghematan jangka panjang melalui efisiensi energi, gangguan yang berkurang, dan umur panjang yang lebih lama. Strategi pendinginan yang tepat jarang yang paling murah di awal — itu adalah yang mengoptimalkan biaya selama siklus hidup fasilitas 10-15 tahun.

Ingat, ini bukanlah penerapan jangka pendek. Lebih banyak hidup yang Anda dapatkan dari penerapan tersebut, lebih banyak nilai yang Anda dapatkan. Memikirkan biaya dan penghematan jangka panjang adalah penting untuk memastikan Anda mendapatkan hasil maksimal dari proyek pusat data Anda.

Pertanyaan 5: Bagaimana strategi pendinginan ini akan mempengaruhi profil keberlanjutan saya?

Seperti yang disebutkan sebelumnya, pendinginan dapat menyumbang 40% atau lebih dari konsumsi energi total pusat data. Ketika peraturan dan persyaratan pelaporan ESG berkembang, operator harus bertanya: bagaimana sistem ini mempengaruhi jejak karbon saya, penggunaan energi, dan komitmen keberlanjutan lainnya? Solusi yang mengurangi limbah energi atau sumber daya atau selaras dengan standar global seperti kerangka Green Grid semakin tidak hanya diinginkan tetapi diperlukan untuk kepercayaan investor dan kepatuhan regulasi.

Sementara itu, sektor publik semakin menuntut pengurangan konsumsi energi. Monitoring Analytics, watchdog pasar independen untuk grid mid-Atlantic, menghasilkan penelitian pada bulan Juni yang menunjukkan bahwa 70% dari kenaikan biaya listrik tahun lalu adalah hasil dari permintaan pusat data. Tidak mengherankan, konsumen mengangkat alarm, dan negara-negara mempertimbangkan beberapa langkah serius untuk mengatasi kekhawatiran ini, termasuk kemungkinan pemadaman paksa selama periode permintaan tinggi. Dengan berinvestasi dalam solusi pendinginan yang lebih efisien dan berkelanjutan, organisasi dapat memposisikan diri untuk mengatasi tantangan persepsi publik dan regulasi yang akan datang.

Pertanyaan 6: Berapa banyak air yang akan dikonsumsi oleh pendekatan pendinginan ini — dan apakah itu berkelanjutan di wilayah saya?

Pusat data besar dapat mengonsumsi hingga 5 juta galon air per hari. Tidak mengherankan, maka, bahwa kelangkaan air menjadi isu yang membedakan untuk pusat data, terutama di wilayah seperti Barat Daya Amerika, dan bagian Eropa di mana hak dan kelangkaan air menyebabkan peningkatan pengawasan terhadap pusat data. Untuk melakukannya dengan benar, operator harus menghitung penggunaan air yang diproyeksikan dari sistem pendinginan mereka dan menilai apakah itu selaras dengan kenyataan lokal dan regional (dalam hal ketersediaan dan persyaratan regulasi).

Jangan tertipu oleh namanya — pendinginan cair sebenarnya mengonsumsi jauh lebih sedikit air daripada sistem pendinginan udara tradisional. Menurut studi yang diterbitkan oleh Nature, pendinginan cair mengurangi konsumsi “air biru” pusat data sebesar 31-52% vs. pendinginan udara tradisional selama siklus hidupnya. Solusi pendinginan yang meminimalkan atau menghilangkan konsumsi air dapat membantu memastikan fasilitas terhadap risiko lingkungan dan regulasi.

Pertanyaan 7: Apa risiko atau keterbatasan yang terkait dengan pendinginan cair, dan bagaimana mereka dapat diminimalkan?

Meskipun menawarkan keuntungan luar biasa sekitar efisiensi, keberlanjutan, dan ROI seumur hidup, banyak mitos yang bertahan tentang pendinginan cair, terutama sekitar keandalan, biaya, dan integrasi. Pada kenyataannya, kemajuan teknologi, bahan, dan desain telah membuat pendinginan cair aman, andal, dan semakin terjangkau. Kunci untuk operator adalah mengevaluasi sistem ini melawan data kinerja dunia nyata, bukan persepsi yang ketinggalan zaman, dan merancang dengan praktik terbaik yang terbukti.

Ketika melihat pendinginan cair, juga penting untuk menyadari solusi mana yang terbaik untuk fasilitas Anda. Dengan berbagai pendekatan (misalnya, direct-to-chip [DTC], immersi) dan sejumlah vendor yang menawarkan berbagai solusi, satu harus selalu melakukan due diligence ketika mempertimbangkan penerapan pendinginan cair.

Pertanyaan 8: Bagaimana desain pendinginan saya akan mempengaruhi utilitas ruang dan kepadatan rak?

Ruangan sama berharganya dengan daya di fasilitas pusat data modern. Rak dengan kepadatan tinggi yang didukung oleh pendinginan cair yang efisien dapat secara dramatis mengurangi kebutuhan ruang lantai dan jejak fasilitas. Ini, pada gilirannya, memungkinkan operator untuk mengukur beban kerja di jejak yang ada atau meminimalkan biaya lahan dan konstruksi untuk bangunan baru. Dapat melakukan lebih banyak dengan ruang yang lebih sedikit tidak hanya mengurangi biaya, tetapi juga membuka pintu untuk berbagai situs yang layak untuk konstruksi. Dengan jejak yang lebih kecil, pengembang dapat membangun lebih bebas dan bahkan membawa komputasi lebih dekat dengan pengguna akhir. Bertanya pertanyaan ini dari awal memastikan desain pendinginan selaras dengan tujuan kepadatan dan utilitas ruang.

Pertanyaan 9: Apa strategi ketahanan jangka panjang saya jika beban kerja melonjak atau peraturan mengencangkan?

Pusat data tidak statis. Lonjakan permintaan yang tidak terduga, aplikasi AI baru, dan peraturan efisiensi/keberlanjutan yang semakin ketat dapat dengan cepat menekan infrastruktur. Operator harus bertanya apakah strategi pendinginan mereka cukup adaptif untuk memenuhi perubahan yang sering tidak terduga ini. Sistem pendinginan yang efektif harus siap untuk penskalaan kapasitas, memenuhi persyaratan kepatuhan baru, dan mengintegrasikan dengan teknologi masa depan.

Sistem yang menawarkan modularitas dan vendor dengan rantai pasokan yang kuat akan membantu melindungi pusat data Anda dari perubahan permintaan, memungkinkan Anda untuk menskalakan lebih mudah dan meningkatkan serta mengintegrasikan lebih mudah jika dan ketika diperlukan.

Pertanyaan 10: Apakah saya memperlakukan pendinginan sebagai pengungkit strategis — atau hanya sebagai pemikiran belakangan?

Pertanyaan terakhir ini, yang mencakup semuanya, mungkin adalah yang paling penting. Ketika mempertimbangkan sistem pendinginan Anda, ambil saat untuk merevisi peran pendinginan dalam operasi pusat data Anda secara keseluruhan. Terlalu sering, pendinginan dianggap sebagai infrastruktur latar belakang ketika, dalam kenyataannya, pendinginan adalah pengungkit strategis kinerja, waktu aktif, dan keberlanjutan. Perusahaan yang berinvestasi dalam strategi pendinginan yang bijak mendapatkan tidak hanya efisiensi operasional tetapi juga keunggulan kompetitif dalam keandalan, kepatuhan, dan biaya jangka panjang.

Dan ketika AI terus menempatkan tuntutan baru dan lebih intensif pada pusat data, sangat penting untuk mengambil pandangan jangka panjang tentang pendinginan. Jangan hanya memikirkan apa yang terbaik, tercepat, atau termurah untuk penerapan Anda hari ini. Pikirkan tentang bagaimana solusi pendinginan Anda memposisikan Anda 5, 10, atau bahkan 15 tahun ke depan. Jika sistem pendinginan Anda baru saja memenuhi persyaratan hari ini, Anda dapat yakin itu tidak akan memotongnya beberapa tahun ke depan. Ingat, pendinginan adalah pusat kesuksesan fasilitas Anda sepanjang siklus hidupnya.

Pendinginan Sekarang Pusat Kesuksesan Pusat Data Jangka Panjang — Pilih dengan Bijak

Pendinginan tidak lagi menjadi perhatian belakang — itu adalah pusat kesuksesan pusat data di dekat dan jangka panjang. Dengan bertanya 10 pertanyaan ini dari awal, operator dapat mengurangi waktu penerapan, meminimalkan risiko, dan memastikan fasilitas dibangun untuk ketahanan di dunia yang didorong AI yang ditandai dengan perubahan dan fluktuasi.

Masa depan industri akan ditentukan tidak hanya oleh seberapa cepat operator menerapkan kapasitas, tetapi oleh seberapa cerdas mereka merancang untuk keberlanjutan dan keandalan jangka panjang. Mereka yang memperlakukan pendinginan sebagai pengungkit strategis akan berada dalam posisi terbaik untuk memimpin di tahun-tahun mendatang.