Google Baru Saja Mengeluarkan Angka Riil Penggunaan Energi AI—Dan Ini Tidak Seperti yang Anda Bayangkan

Setiap orang berbicara tentang jejak energi AI yang besar. Anda telah melihat judul-judul berita: “ChatGPT menggunakan listrik sebanyak negara kecil” atau “Setiap kueri AI menghabiskan sebotol air.”

Google baru saja menerbitkan data aktual dari sistem produksi mereka, dan angka-angka tersebut menceritakan cerita yang sama sekali berbeda.

Biaya Energi Riil dari Kueri AI Anda

Berikut adalah apa yang ditemukan Google: Kueri teks Gemini median menggunakan 0,24 watt-jam energi. Ini kurang dari listrik yang digunakan untuk menonton TV selama sembilan detik. Konsumsi air? Lima tetes. Bukan lima gelas. Lima tetes.

Gap antara persepsi publik dan kenyataan sangat besar. Perkiraan sebelumnya mengklaim kueri AI menghabiskan antara 10 hingga 50 mililiter air per kueri. Beberapa studi menunjukkan konsumsi energi 30 kali lebih tinggi dari yang diukur Google di produksi.

Mengapa perbedaan besar? Karena tidak ada yang mengukur sistem riil secara besar-besaran sampai sekarang. Studi akademis menjalankan tes terisolasi pada perangkat keras yang tidak terpakai. Mereka pada dasarnya mengukur efisiensi bahan bakar mobil saat idle di halaman.

Peningkatan 44 Kali

Google mengurangi emisi karbon AI mereka sebanyak 44 kali dalam satu tahun. Bukan 44 persen—44 kali.

Ini bukanlah perbaikan teoretis di laboratorium. Ini terjadi sekarang pada sistem yang melayani miliaran kueri. Mereka mencapai ini melalui kombinasi optimasi perangkat lunak (33 kali perbaikan) dan sumber energi yang lebih bersih (1,4 kali perbaikan).

Sebagian besar studi hanya melihat chip AI yang melakukan komputasi. Ini seperti mengukur penggunaan energi restoran dengan hanya menghitung oven, mengabaikan kulkas, lampu, dan sistem HVAC.

Data Google menunjukkan gambaran lengkap: Ya, akselerator AI menggunakan 58% energi. Tetapi Anda juga memerlukan prosesor reguler dan memori (24%), kapasitas cadangan untuk keandalan (10%), dan sistem pendingin (8%). Lewati salah satu dari ini dalam pengukuran Anda, dan angka-angka Anda pada dasarnya tidak berarti.

Ketika Google menerapkan metode sempit yang digunakan semua orang—hanya mengukur chip AI pada mesin yang terpakai penuh—angka energi mereka turun menjadi 0,10 watt-jam. Sistem produksi riil menggunakan 2,4 kali lebih banyak energi karena sistem riil memerlukan redundansi, pendinginan, dan infrastruktur pendukung.

Apa yang Ini Berarti untuk Masa Depan AI

Narasi seputar konsumsi energi AI memerlukan pemeriksaan kenyataan. Ya, AI menggunakan energi. Tetapi sistem yang dioptimalkan dengan baik jauh lebih efisien daripada skenario bencana yang disarankan.

Konteks penting di sini. Itu 0,24 watt-jam per kueri? Amerika menggunakan sekitar 30 kilowatt-jam listrik per hari rata-rata. Anda perlu menjalankan 125.000 kueri AI untuk mencocokkan satu hari penggunaan energi rumah tangga.

Konsumsi air cerita bahkan lebih dramatis. Lima tetes air per kueri? Anda menggunakan lebih banyak air dalam satu detik mencuci tangan.

Tumpukan Optimasi

Google tidak mencapai angka-angka ini melalui terobosan tunggal. Mereka menumpuk optimasi di seluruh lapisan sistem.

Mereka menjalankan model “draft” yang lebih kecil yang menggarisbawahi respons, lalu memverifikasi dengan model yang lebih besar hanya khi diperlukan. Mereka menggabungkan ribuan kueri bersama-sama untuk efisiensi. Mereka menggunakan chip khusus yang dirancang khusus untuk beban kerja AI yang 30 kali lebih efisien daripada generasi pertama mereka.

Pusat data mereka berjalan pada hanya 9% overhead di atas minimum teoretis—hampir seefisien mungkin secara fisik. Dan mereka semakin ditenagai oleh energi bersih, memotong emisi bahkan ketika penggunaan listrik meningkat.

Ringkasan

Ini hanya berfungsi ketika perusahaan benar-benar mengoptimalkan tumpukan penuh mereka dan mengukur dengan benar. Perusahaan yang menganggap infrastruktur AI sebagai hal yang remeh, menjalankan sistem yang tidak efisien pada grid listrik kotor? Mereka adalah orang-orang yang menciptakan masalah yang semua orang khawatirkan.

Gap antara sistem AI yang efisien dan tidak efisien sangat besar. Dan sekarang, sebagian besar industri masih menjalankan versi yang tidak efisien.