Google, Yapay Zeka Enerji Kullanımına İlişkin Gerçek Rakamları Açıkladı ve Bunlar Düşündüğünüz Gibi Değil

Herkes yapay zekanın muazzam enerji ayak izinden bahsediyor. Manşetleri görmüşsünüzdür: "ChatGPT küçük bir ülke kadar elektrik tüketiyor" veya "Her yapay zeka sorgusu bir şişe su içiyor."

Google yeni yayınlanan gerçek veriler üretim sistemlerinden kaynaklanıyor ve rakamlar tamamen farklı bir hikaye anlatıyor.

Yapay Zeka Sorgunuzun Gerçek Enerji Maliyeti

Google'ın bulduğu şu: Medyan İkizler burcu Metin mesajı 0.24 watt-saat enerji tüketiyor. Bu, dokuz saniye televizyon izlemekten daha az elektrik demek. Su tüketimi mi? Beş damla. Beş bardak değil. Beş damla.

Kamuoyunun algısı ile gerçeklik arasındaki uçurum çok büyük. Önceki tahminler, yapay zekalı komut istemlerinin sorgu başına 10 ila 50 mililitre su tükettiğini iddia ediyordu. Bazı araştırmalar, enerji tüketiminin Google'ın üretimde ölçtüğünden 30 kat daha fazla olduğunu öne sürüyordu.

Peki bu büyük farkın sebebi ne? Çünkü şimdiye kadar kimse gerçek sistemleri büyük ölçekte ölçmemişti. Akademik çalışmalar, az kullanılan donanımlar üzerinde izole testler yürütüyor. Temel olarak, bir arabanın garaj yolunda rölantide çalışırken yakıt verimliliğini ölçüyorlar.

44x İyileştirme

Google, yapay zeka kaynaklı karbon emisyonlarını bir yılda 44 kat azalttı. Yüzde 44 değil, tam 44 kat.

Bu, laboratuvar ortamında teorik bir iyileştirme değil. Şu anda milyarlarca sorguya yanıt veren sistemlerde gerçekleşiyor. Bunu, yazılım optimizasyonu (33 kat iyileştirme) ve daha temiz enerji kaynakları (1.4 kat iyileştirme) kombinasyonuyla başardılar.

Çoğu çalışma, hesaplamayı yalnızca yapay zeka çiplerinin yapmasına bakıyor. Bu, bir restoranın enerji tüketimini yalnızca fırınları sayarak ölçmek, buzdolaplarını, ışıkları ve HVAC sistemini göz ardı etmek gibi bir şey.

Google'ın verileri resmin tamamını gösteriyor: Evet, yapay zeka hızlandırıcıları enerjinin %58'ini tüketiyor. Ancak aynı zamanda normal işlemcilere ve belleğe (%24), güvenilirlik için yedek kapasiteye (%10) ve soğutma sistemlerine (%8) de ihtiyacınız var. Ölçümünüzde bunlardan herhangi birini atlarsanız, rakamlarınız neredeyse anlamsız hale gelir.

Google, herkesin kullandığı dar metodolojiyi (sadece tam kapasite çalışan makinelerdeki yapay zeka çiplerini ölçmek) uyguladığında, enerji değerleri 0.10 watt-saate düştü. Gerçek üretim sistemi 2.4 kat daha fazla enerji tüketiyor çünkü gerçek sistemlerin yedekliliğe, soğutmaya ve destekleyici altyapıya ihtiyacı var.

Bunun Yapay Zeka'nın Geleceği İçin Gerçek Anlamı Nedir?

Yapay zekanın enerji tüketimi hakkındaki söylemin gerçeklikle yüzleşmesi gerekiyor. Evet, yapay zeka enerji kullanır. Ancak doğru şekilde optimize edilmiş sistemler, kıyamet senaryolarının önerdiğinden çok daha verimlidir.

Burada bağlam önemli. Sorgu başına 0.24 watt-saat mi? Amerikalılar günde ortalama 30 kilovat-saat elektrik tüketiyor. Tipik bir hane halkının günlük enerji tüketimini karşılamak için 125,000 yapay zeka sorgusu çalıştırmanız gerekir.

Su tüketim hikayesi daha da dramatik. Her sorguda beş damla su mu? Ellerinizi yıkamaya başladığınız ilk saniye daha fazla su tüketiyorsunuz.

Optimizasyon Yığını

Google bu sayılara tek bir atılımla ulaşmıyor. sistemin her katmanında optimizasyonların istiflenmesi.

Yanıtları taslak olarak hazırlayan ve yalnızca gerektiğinde daha büyük modellerle doğrulama yapan daha küçük "taslak" modeller çalıştırıyorlar. Verimlilik için binlerce sorguyu bir araya topluyorlar. İlk nesillerinden 30 kat daha verimli, yapay zeka iş yükleri için özel olarak tasarlanmış özel yongalar kullanıyorlar.

Veri merkezleri, teorik minimumun yalnızca %9 üzerinde bir ek yük ile çalışıyor; yani fiziksel olarak mümkün olan en verimli seviyede. Ayrıca, elektrik kullanımı arttığında bile emisyonları azaltarak, giderek daha fazla temiz enerjiyle çalışıyorlar.

Bottom Line

Bu, yalnızca şirketler tüm veri yığınlarını gerçekten optimize edip doğru ölçüm yaptığında işe yarar. Yapay zeka altyapısını sonradan akla gelen bir şey olarak gören ve kirli elektrik şebekelerinde verimsiz sistemler çalıştıran şirketler mi? Herkesin endişelendiği sorunları yaratanlar onlar.

Verimli ve verimsiz yapay zeka sistemleri arasındaki uçurum gerçekten çok büyük. Ve şu anda, sektörün çoğu hâlâ verimsiz versiyonunu kullanıyor.