Pemimpin pemikiran

Melindungi Investasi AI Anda: Mengapa Strategi Pendinginan Lebih Penting dari Sebelumnya

mm
Tambahkan Unite.AI ke sumber pilihan Anda di Google

Operator pusat data sedang mengambil risiko jutaan dolar dengan menggunakan teknologi pendinginan yang sudah ketinggalan zaman. Pembicaraan tentang pendinginan pusat data tidak hanya berubah – tetapi sedang didefinisikan ulang oleh ekonomi AI. Taruhan tidak pernah sebesar ini.

Perkembangan AI yang cepat telah mengubah ekonomi pusat data dengan cara yang tidak terduga. Ketika satu rak server AI dapat mencapai sekitar $3 juta – sebanyak harga rumah mewah – perhitungan risiko secara fundamental berubah. Seperti yang baru-baru ini ditekankan oleh co-founder Andreessen Horowitz, Ben Horowitz, pusat data yang membiayai investasi perangkat keras besar ini “dapat menjadi tidak stabil sangat cepat” jika mereka tidak mengelola strategi infrastruktur mereka dengan hati-hati.

Kenyataan baru ini menuntut perubahan fundamental dalam pendekatan pendinginan. Sementara metrik tradisional seperti PUE dan biaya operasional masih penting, mereka sekunder terhadap perlindungan investasi perangkat keras jutaan dolar ini. Pertanyaan yang sebenarnya harus diajukan oleh operator pusat data adalah: Bagaimana kita dapat melindungi investasi infrastruktur AI kita?

Risiko Tersembunyi dari Pendinginan Tradisional

Ketergantungan historis industri pada solusi pendinginan berbasis air, satu fase, membawa risiko yang semakin tidak dapat diterima di era AI. Sementara teknologi ini telah melayani pusat data dengan baik selama bertahun-tahun, beban termal dari pekerjaan AI telah mendorong teknologi ini melampaui batas praktisnya. Alasannya sederhana: sistem satu fase memerlukan laju aliran yang lebih tinggi untuk mengelola beban termal hari ini, meningkatkan risiko kebocoran dan kegagalan kritis.

Ini bukanlah risiko hipotetis. Kebocoran air tunggal dapat menghancurkan jutaan dolar perangkat keras AI – perangkat keras yang sering memiliki waktu penggantian yang lama di pasar yang terbatas saat ini. Biaya kegagalan kritis tunggal dapat melebihi anggaran infrastruktur pendinginan pusat data untuk satu tahun penuh. Namun, banyak operator masih mengandalkan sistem ini, secara efektif mengambil risiko investasi AI mereka pada teknologi yang sudah ketinggalan zaman.

Pada Data Center World 2024, Dr. Mohammad Tradat, Manajer Teknik Mesin Pusat Data NVIDIA, bertanya, “Berapa lama pendinginan satu fase akan hidup? Ini akan segera digantikan… dan kemudian kebutuhan akan pendinginan dua fase, berbasis refrigeran.” Ini bukan hanya pendapat yang tumbuh – tetapi menjadi konsensus industri yang didukung oleh fisika dan kenyataan keuangan.

Pendekatan Baru untuk Perlindungan Investasi

Teknologi pendinginan dua fase, yang menggunakan refrigeran dielektrik bukan air, secara fundamental mengubah persamaan risiko ini. Biaya implementasi sistem pendinginan dua fase – biasanya sekitar $200.000 per rak – harus dilihat sebagai asuransi untuk melindungi investasi perangkat keras AI sebesar $5 juta. Untuk memperspektifkan ini, itu adalah premi 4% untuk melindungi aset Anda – jauh lebih rendah dari tarif asuransi untuk investasi bisnis jutaan dolar lainnya. Kasus bisnis menjadi lebih jelas ketika Anda mempertimbangkan biaya potensial gangguan pelatihan AI dan infrastruktur yang tidak terpakai selama waktu henti yang tidak terencana.

Bagi operator pusat data dan pemangku kepentingan keuangan, keputusan untuk berinvestasi pada pendinginan dua fase harus dievaluasi melalui lensa manajemen risiko dan perlindungan investasi. Metrik yang relevan harus mencakup tidak hanya biaya operasional atau efisiensi energi tetapi juga nilai total perangkat keras yang dilindungi, biaya skenario kegagalan potensial, nilai pemeriksaan untuk perangkat keras generasi berikutnya, dan pengembalian investasi pendinginan yang disesuaikan dengan risiko.

Seiring AI terus meningkatkan kepadatan dan nilai infrastruktur pusat data, industri harus berkembang dalam pendekatannya terhadap strategi pendinginan. Pertanyaannya bukanlah apakah untuk beralih ke pendinginan dua fase, tetapi kapan dan bagaimana untuk melakukan transisi sambil meminimalkan risiko terhadap operasi dan investasi yang ada.

Operator yang cerdas sudah membuat perubahan ini, sementara yang lain berisiko mempelajari pelajaran yang mahal. Di era di mana satu rak dapat biaya lebih dari banyak anggaran operasional tahunan pusat data, mengambil risiko pada teknologi pendinginan yang sudah ketinggalan zaman tidak hanya berisiko – tetapi potensial bencana. Waktunya untuk bertindak sekarang – sebelum risiko itu menjadi kenyataan.

Josh Claman adalah Ketua Eksekutif dan CEO Pendiri Accelsius, pemimpin global dalam teknologi pendinginan cair dua fase langsung ke chip untuk pusat data AI. Ia mendirikan Accelsius pada 2022 untuk mengatasi salah satu tantangan sektor yang paling mendesak: tuntutan energi dan air yang besar yang diberikan pada komunitas oleh infrastruktur AI. Di bawah kepemimpinannya, perusahaan tersebut mengembangkan NeuCool, platform pendinginan tertutup tanpa air yang dirancang untuk tuntutan termal chip AI generasi berikutnya—menyampaikan hingga 50% penghematan energi dibandingkan dengan pendinginan udara tradisional sambil menghilangkan ketergantungan fasilitas pada pasokan air lokal.

Claman membawa lebih dari 30 tahun kepemimpinan teknologi global ke peran tersebut. Ia sebelumnya menjabat sebagai Wakil Presiden Publik dan Perusahaan Besar untuk Amerika di Dell Technologies, mengawasi unit bisnis multi-milyar dolar di seluruh Amerika Utara dan Selatan, dan sebagai General Manager Dell UK—sebagai bagian dari karir yang meliputi lima benua dan termasuk peran senior di AT&T dan NCR. Ia kemudian menjabat sebagai Presiden ReachLocal, Chief Business Officer di perintis pencetakan 3D Stratasys, dan Chief Executive Officer perusahaan kesehatan digital Rimidi.

Claman meraih gelar BA dengan Pujian Tinggi dalam Sejarah dan Pemerintahan dari University of Illinois Urbana-Champaign dan MBA dari Darla Moore School of Business di University of South Carolina. Ia menulis dan berbicara secara teratur tentang persimpangan teknologi, energi, dan kebijakan publik, dan telah membahas keberlanjutan pusat data di forum di seluruh Amerika Utara dan Eropa. Ia percaya bahwa izin jangka panjang industri untuk beroperasi bergantung pada kepercayaan komunitas serta kinerja teknis.