Google, AI Enerji Tüketimine İlişkin Gerçek Sayıları Açıkladı – ve Beklediğinizden Farklılar

Herkes AI’ın devasa enerji ayak izinden bahsediyor. “ChatGPT küçük bir ülkenin kullandığı elektrik kadar enerji tüketiyor” veya “Her AI sorgusu bir şişe suyu içiyor” gibi başlıkları görmüşsünüzdür.

Google gerçek üretim sistemlerinden alınan verileri yayınladı ve sayılar tamamen farklı bir hikaye anlatıyor.

Aİ Sorgunuzun Gerçek Enerji Maliyeti

Google’nun bulduğu şey şudur: Median Gemini metin sorgusu 0.24 watt-saat enerji kullanıyor. Bu, dokuz saniye televizyon izlemekten daha az elektrik tüketmek demektir. Su tüketimi? Beş damla. Beş bardak değil, beş damla.

Algı ve gerçeklik arasındaki uçurum muazzam. Önceki tahminler, AI sorgularının 10 ila 50 mililitre su tüketimine yol açabileceğini iddia ediyordu. Bazı çalışmalar, Google’un üretim sistemlerinde ölçtüğünden 30 kat daha yüksek enerji tüketimine işaret ediyordu.

Bu büyük fark neden ortaya çıkıyor? Çünkü kimse gerçek sistemleri ölçeklendirmeden önce ölçmedi. Akademik çalışmalar, underutilized donanım üzerinde izole testler yürütür. Aslında, bir arabanın yakıt verimliliğini sürüşe başlamadan önce ölçüyorlar.

44 Katı İyileştirme

Google, bir yılda AI karbon emisyonlarını 44 kat azalttı. Yüzde 44 değil, 44 kat.

Bu, laboratuvar ortamında teorik bir iyileşme değil. Milyarlarca sorguyu işleyen sistemlerde şu anda gerçekleşiyor. Bunu, yazılım optimizasyonu (33 kat iyileşme) ve daha temiz enerji kaynakları (1.4 kat iyileşme) yoluyla başardılar.

Çoğu çalışma yalnızca hesaplama yapan AI çiplerine bakar. Bu, bir restoranın enerji kullanımını yalnızca fırınları sayarak ölçmek gibi bir şeydir, buzdolabı, ışık ve iklimlendirme sistemini göz ardı ederek.

Google’un verileri tam resmi gösteriyor: Evet, AI hızlandırıcıları %58’lik enerji kullanımına sahiptir. Ancak düzenli işlemciler ve bellek (%24), yedek kapasite (%10) ve soğutma sistemleri (%8) de gerekir. Bunlardan herhangi birini ölçümünüzden çıkardığınız anda sayılar anlamsız hale gelir.

Google, herkesin kullandığı dar yöntemi uyguladığında – yalnızca tam olarak kullanılan makinelerdeki AI çiplerini ölçtüğünde – enerji rakamı 0.10 watt-saate düştü. Gerçek üretim sistemi, yedeklik, soğutma ve altyapı gerektirdiği için 2.4 kat daha fazla enerji kullanıyor.

AI’nın Geleceği İçin Ne Anlama Geliyor

AI enerji tüketimi etrafındaki anlatıya gerçeklik kazandırma zamanı geldi. Evet, AI enerji kullanıyor. Ancak doğru şekilde optimize edilmiş sistemler, felaket senaryolarından çok daha verimlidir.

Burada bağlam önemlidir. O 0.24 watt-saatlik sorgu başına enerji tüketimi? Amerikalılar günde ortalama 30 kilowatt-saat elektrik kullanıyor. Bir günün tipik ev enerji kullanımına eşdeğer olmak için 125.000 AI sorgusu çalıştırmanız gerekir.

Su tüketimi hikayesi daha da dramatik. O beş damla su sorgu başına? Ellerinizi yıkarken ilk saniyede daha fazla su kullanıyorsunuz.

Optimizasyon Yığını

Google, bu rakamları tek bir atılımla elde etmiyor. Sistemdeki her katmanda optimize etmeyi sağlıyorlar.

Küçük “taslak” modelleri çalıştırarak cevapları özetliyor, daha sonra yalnızca gerektiğinde daha büyük modellerle doğruluyorlar. Binlerce sorguyu bir araya getirerek verimliliği artırıyorlar. AI iş yükleri için özel olarak tasarlanmış, ilk nesillerine göre 30 kat daha verimli çipler kullanıyorlar.

Veri merkezleri, teorik minimumun üzerinde yalnızca %9’luk bir fazla ile çalışıyor – neredeyse fiziksel olarak mümkün olan en verimli seviyede. Ve artan oranda temiz enerji ile çalışıyorlar, böylece enerji tüketimi artsa bile emisyonları azaltıyorlar.

Sonuç

Bu, ancak şirketler tam yığınlarını optimize ettiğinde ve doğru şekilde ölçtüğünde işe yarıyor. AI altyapısını düşünmeyen, kirli enerji ağlarında verimsiz sistemler çalışan şirketler, herkesin endişe ettiği sorunları yaratıyorlar.

Verimli ve verimsiz AI sistemleri arasındaki fark mutlak anlamda muazzam. Ve şu anda endüstrinin çoğu hala verimsiz versiyonu çalıştırıyor.