Appetit AI yang Meningkat: Apakah Pusat Data Siap untuk Mengimbanginya?

Ketika kecerdasan buatan (AI) melaju ke depan, permintaan energinya membebani pusat data hingga titik patah. Teknologi AI generatif (genAI) seperti genAI tidak hanya mengubah industri, tetapi juga konsumsi energi yang memengaruhi hampir setiap komponen server, dari CPU dan memori hingga akselerator dan jaringan.

Aplikasi genAI, termasuk Microsoft Copilot dan OpenAI ChatGPT, membutuhkan lebih banyak energi daripada sebelumnya. Pada tahun 2027, pelatihan dan pemeliharaan sistem AI ini saja dapat mengonsumsi cukup listrik untuk memasok sebuah negara kecil selama setahun. Dan tren ini tidak melambat: selama dekade terakhir, permintaan daya untuk komponen seperti CPU, memori, dan jaringan diperkirakan tumbuh 160% pada tahun 2030, menurut laporan Goldman Sachs.

Penggunaan model bahasa besar juga mengonsumsi energi. Misalnya, query ChatGPT mengonsumsi sekitar sepuluh kali lebih banyak daripada pencarian Google tradisional. Dengan permintaan daya AI yang sangat besar, dapatkah kemajuan industri ini dikelola secara berkelanjutan, atau akan mereka berkontribusi lebih lanjut pada konsumsi energi global? Penelitian McKinsey menunjukkan bahwa sekitar 70% dari permintaan yang meningkat di pasar pusat data ditujukan untuk fasilitas yang dilengkapi untuk menangani beban kerja AI yang maju.

“Pusat data tradisional sering beroperasi dengan peralatan yang sudah tua dan boros energi, serta kapasitas yang tetap yang sulit beradaptasi dengan beban kerja yang fluktuatif, menyebabkan pemborosan energi yang signifikan,” kata Mark Rydon, Chief Strategy Officer dan co-pendiri platform komputasi awan terdistribusi Aethir. “Operasi terpusat sering menciptakan ketidakseimbangan antara ketersediaan sumber daya dan kebutuhan konsumsi, yang membawa industri ke titik kritis di mana kemajuan dapat membahayakan tujuan lingkungan ketika permintaan AI meningkat.”

Pemimpin industri sekarang menghadapi tantangan ini secara langsung, dengan berinvestasi pada desain yang lebih hijau dan arsitektur yang lebih efisien untuk pusat data. Upaya ini mencakup pengadopsian sumber energi terbarukan hingga pembuatan sistem pendingin yang lebih efisien untuk mengimbangi panas yang dihasilkan oleh beban kerja genAI.

Revolutionizing Data Centers for a Greener Future

Lenovo baru-baru ini memperkenalkan ThinkSystem N1380 Neptune, sebuah lompatan besar dalam teknologi pendingin cair untuk pusat data. Perusahaan ini menyatakan bahwa inovasi ini sudah memungkinkan organisasi untuk menerapkan komputasi berdaya tinggi untuk beban kerja genAI dengan konsumsi energi yang jauh lebih rendah – hingga 40% lebih sedikit daya di pusat data.

“Kami mengidentifikasi kebutuhan signifikan dari konsumen kami saat ini: pusat data mengonsumsi lebih banyak daya ketika menangani beban kerja AI karena arsitektur pendingin yang sudah tua dan kerangka struktural tradisional,” kata Robert Daigle, Global Director of AI at Lenovo. “Untuk memahami ini lebih baik, kami berkolaborasi dengan pelanggan komputasi kinerja tinggi (HPC) untuk menganalisis konsumsi daya mereka, yang membawa kita ke kesimpulan bahwa kita dapat mengurangi penggunaan energi sebesar 40%.” Ia menambahkan bahwa perusahaan tersebut mempertimbangkan faktor-faktor seperti daya kipas dan konsumsi daya unit pendingin, membandingkannya dengan sistem standar yang tersedia melalui layanan penilaian pusat data Lenovo, untuk mengembangkan arsitektur pusat data baru dalam kemitraan dengan Nvidia.

Perusahaan konsultasi teknologi informasi UK, AVEVA, mengatakan bahwa mereka menggunakan analitik prediktif untuk mengidentifikasi masalah dengan kompresor pusat data, motor, peralatan HVAC, handler udara, dan lain-lain.

“Kami menemukan bahwa itu adalah pra-pelatihan genAI yang mengonsumsi daya besar,” kata Jim Chappell, AVEVA’s Head of AI & Advanced Analytics. “Melalui sistem AI-prediktif kami, kami bertujuan untuk menemukan masalah jauh sebelum sistem SCADA atau kontrol, memungkinkan operator pusat data untuk memperbaiki masalah peralatan sebelum mereka menjadi masalah besar. Selain itu, kami memiliki Asisten AI Vision yang terintegrasi secara asli dengan sistem kontrol kami untuk membantu menemukan jenis anomali lainnya, termasuk hotspot suhu ketika digunakan dengan kamera pemindaian panas.”

Sementara itu, komputasi terdesentralisasi untuk pelatihan dan pengembangan AI melalui GPU di atas awan muncul sebagai alternatif. Rydon dari Aethir menjelaskan bahwa dengan mendistribusikan tugas komputasi secara lebih luas dan lebih adaptif, penggunaan energi dapat dioptimalkan dengan mengimbangkan permintaan sumber daya dengan ketersediaan, sehingga menghasilkan pengurangan limbah yang signifikan dari awal.

“Bukannya bergantung pada pusat data besar dan terpusat, infrastruktur ‘Edge’ kami mendistribusikan tugas komputasi ke node yang lebih dekat dengan sumber data, yang secara drastis mengurangi beban energi untuk transfer data dan mengurangi latensi,” kata Rydon. “Jaringan Edge Aethir meminimalkan kebutuhan akan pendingin berdaya tinggi yang konstan, karena beban kerja didistribusikan di berbagai lingkungan daripada terkonsentrasi di satu lokasi, membantu menghindari sistem pendingin yang boros energi yang khas dari pusat data terpusat.”

Demikian pula, perusahaan seperti Amazon dan Google bereksperimen dengan sumber energi terbarukan untuk mengelola kebutuhan daya yang meningkat di pusat data mereka. Microsoft, misalnya, berinvestasi besar-besaran dalam sumber energi terbarukan dan teknologi yang meningkatkan efisiensi untuk mengurangi konsumsi energi pusat data. Google juga telah mengambil langkah-langkah untuk beralih ke energi bebas karbon dan menjelajahi sistem pendingin yang meminimalkan penggunaan daya di pusat data. “Energi nuklir kemungkinan merupakan jalur tercepat menuju pusat data bebas karbon. Penyedia pusat data besar seperti Microsoft, Amazon, dan Google sekarang berinvestasi besar-besaran dalam jenis pembangkit listrik ini untuk masa depan. Dengan reaktor modular kecil (SMR), fleksibilitas dan waktu produksi membuat ini menjadi pilihan yang lebih layak untuk mencapai Nol Karbon,” tambah AVEVA’s Chappell.

Can AI and Data Center Sustainability Coexist?

Ugur Tigli, CTO di platform infrastruktur AI MinIO, mengatakan bahwa meskipun kita berharap masa depan di mana AI dapat berkembang tanpa peningkatan konsumsi energi yang besar, itu tidak realistis dalam jangka pendek. “Dampak jangka panjang lebih sulit diprediksi,” katanya, “tetapi kita akan melihat pergeseran dalam tenaga kerja, dan AI akan membantu meningkatkan konsumsi energi di seluruh papan.” Tigli percaya bahwa ketika efisiensi energi menjadi prioritas pasar, kita akan melihat pertumbuhan komputasi bersamaan dengan penurunan konsumsi energi di sektor lain, terutama karena mereka menjadi lebih efisien.

Ia juga menunjukkan bahwa ada minat yang meningkat di kalangan konsumen untuk solusi AI yang lebih hijau. “Bayangkan aplikasi AI yang berkinerja 90% tetapi hanya menggunakan setengah daya – itu adalah jenis inovasi yang dapat benar-benar mengambil alih,” katanya. Jelas bahwa masa depan AI tidak hanya tentang inovasi, tetapi juga tentang keberlanjutan pusat data. Apakah melalui pengembangan perangkat keras yang lebih efisien atau cara yang lebih cerdas untuk menggunakan sumber daya, bagaimana kita mengelola konsumsi energi AI akan sangat memengaruhi desain dan operasi pusat data.

Rydon menekankan pentingnya inisiatif industri yang fokus pada desain pusat data yang berkelanjutan, beban kerja AI yang efisien, dan berbagi sumber daya terbuka. “Ini adalah langkah-langkah penting menuju operasi yang lebih hijau,” katanya. “Bisnis yang menggunakan AI harus bermitra dengan perusahaan teknologi untuk menciptakan solusi yang mengurangi dampak lingkungan. Dengan bekerja sama, kita dapat mengarahkan AI menuju masa depan yang lebih berkelanjutan.”