Düşünce Liderleri

Canavarı Ehlileştirmek: Entegre Gerilim Düzenleyicileri Nasıl Yapay Zekanın Enerji Krizini Çözüyor

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Yapay zeka açtır. Büyük dil modellerini eğitmekten bulut ortamında gerçek zamanlı çıkarıma kadar, yapay zekanın hesaplamasal talepleri roket gibi artıyor. Bu doymak bilmeyen açlık, ilerlemeyi durdurabilecek ikincil bir krize neden oluyor: sürdürülemez bir elektrik açlığı. Hesaplama katedralleri olan veri merkezleri, dünya elektriğinin önemli bir kısmını tüketmek üzere. Yapay zeka iş yükleri, bu tüketimin ana sürücüsü. Uluslararası Enerji Ajansı (IEA) verilerine göre, veri merkezleri 2022 yılında küresel elektriğin yaklaşık %2’sini tüketmiştir ve bu rakam dramatik bir şekilde artacak.

Bu güç problemi sadece büyük elektrik faturaları ve çevresel etki ile ilgili değil; temel bir mühendislik tıkanıklığı. Yapay zeka için çalışan işlemciler – GPU’lar, TPU’lar ve özel ASIC’ler – termal bir duvara çarpmaktadır. Transistörleri daha da küçültmek ve daha fazla işlemci eklemek, temiz ve verimli bir şekilde güç sağlamadan ve çipin aşırı ısınmadan mümkün değildir. Sorun, sadece enerji üretmekle ilgili değil, son birkaç milimetrede etkili bir şekilde iletmekle ilgilidir. Ancak şimdi, entegre bir voltaj düzenleyici (IVR) olarak bilinen küçük bir teknoloji parçası, yüksek performanslı hesaplamaların geleceğini temel olarak yeniden şekillendirmektedir.

Güç Teslimatında “Son İnç” Problemi

IVR’in yeniliğini anlamak için, geleneksel bir yüksek performanslı çipi güçlendirme yöntemini anlamak gerekir. Modern bir işlemci, saniyede milyarlarca kez açılıp kapanan milyarlarca transistöre sahiptir. Bu işlemler, kesin,稳il ve düşük gerilimli bir DC güç kaynağına ihtiyaç duyar. Ancak duvardan gelen güç, yüksek gerilimli AC’tir. Duvar prizinden silikona giden yol, Power Delivery Network (PDN) olarak bilinen karmaşık bir dönüştürme ve düzenleme zincirini içerir.

Bu geleneksel yaklaşım, yapay zeka çağındaki birkaç kritik kusura sahiptir:

  1. İsraf Edilen Enerji: Güç, bu dış VR’lerden anakart üzerinden ve çip paketleme yoluyla seyahat etmek zorundadır. Bu yolun her milimetrekaresi direnci artırır, bu da önemli bir güç kaybına (I2R kaybı) neden olur. Bu kaybedilen güç ısı olarak dağıtılır ve daha sonra daha fazla güç isteyen soğutma sistemleri tarafından entferilir.
  2. Yavaş Yanıt Süresi: Bir işlemci aniden boşta olan durumdan tam yük durumuna geçiş yaparsa (yapay zeka iş yüklerinde sık görülen bir senaryo olan geçici yük), anlık bir akım patlamasına ihtiyaç duyar. Dış VR’ler bu değişikliklere cevap vermek için çok yavaş olabilir, bu da geçici bir voltaj düşüşü veya “droop” oluşmasına neden olur. Mühendisler, sistemlerin daha yüksek bir temel voltajda çalışmasını sağlamak için tasarlamak zorundadır, bu da daha fazla güç israfı anlamına gelir.
  3. Alan Kısıtlamaları: Bu büyük, dış bileşenler, anakartta değerli bir alan kaplar, bu alan daha fazla bellek kanalı, daha hızlı arabirimler veya diğer performans artırıcı özellikler için kullanılabilir. İşlemci etrafındaki bu “plaj” alanı, elektronikte en değerli alanlardan biridir.

Çip Üzerinde Güç ve İnce Film Manyetikleri

İnce film manyetik teknolojisindeki recent gelişmeler, yüksek performanslı bobinlerin, yarı iletken üretim teknikleri kullanılarak çip veya paket substratına doğrudan üretilebilmesini sağlar. Bu mikroskobik, yüksek verimlilikte bobinler, tüm voltaj düzenleyicisinin, güç sağladığı devrelerden mikronlar uzakta oturmasına olanak tanır.

Bu konum değişikliği birkaç avantaj sağlar:

  • Azalan Güç Kaybı: Güç teslimat yolunu inçlerden mikronlara kısaltmak, iletim sırasında kaybedilen enerjiyi önemli ölçüde azaltır ve genel sistem verimliliğini artırır.
  • Küçük Ölçekli Güç Yönetimi: Birden fazla bağımsız, ultra düşük gerilimli güç alanları, her çekirdek veya işlevsel bloğa tam olarak neye ihtiyaç duyulduğunu, ne zaman ihtiyaç duyulduğunu ve ihtiyaç duyulmadığında anında kapatılabilmesini sağlar.
  • Yaklaşık Anlık Yanıt: Paket üzerindeki IVR’ler, geçici yüklerine nanosaniyeler içinde yanıt verir, böylece voltaj düşüşünü neredeyse ortadan kaldırır ve performansı feda etmeden daha düşük, daha verimli işletim gerilimlerine olanak tanır.
  • Basitleştirilmiş Tasarım ve Küçük Footprint: Voltaj düzenleyicilerini anakarttan çıkarmak, tasarımını basitleştirir, daha yoğun, daha yüksek performanslı mimarileri destekler ve anakartta daha fazla alan açar.

Yapay Zeka Donanımının Geleceğini Yeniden Mimari

IVR’lerin faydaları, yapay zeka donanımı tasarımcılarının karşılaştığı en büyük zorlukları doğrudan ele alır. Bir sonraki nesil GPU’ler ve yapay zeka hızlandırıcıları geliştiren şirketler için entegre güç yönetimi, “gerekirse” bir teknoloji değil, bir.enable teknolojidir.

Geleneksel Moore Yasası ölçekleme yavaşladığından, gelişmiş yarı iletken paketleme teknikleri gibi chiplet ve 3D yığma teknikleri, geleceğin yolu olarak görülüyor. Bu teknikler, birden fazla küçük, uzmanlaşmış dies’in bir poder, güçlü pakete birleştirilmesini içerir. Endüstri liderleri gibi TSMC’nin CoWoS teknolojisini açıkladığı gibi, bu yaklaşım, karmaşık, heterojen sistemleri yönetmek için sofistike bir güç teslimat stratejisi gerektirir. IVR’ler, Ferric tarafından yapılanlar da dahil, bu paradigma için mükemmel bir şekilde uygundur ve bu kompleks sistemleri yönetmek için gereken granüler, verimli gücü sağlar.

Zorluklar ve Sonuç

Yaygın benimsenme yolu, engeller olmadan değildir. Yeni malzemeleri ve süreçleri, çok muhafazakar ve karmaşık bir yarı iletken üretim ekosistemine entegre etmek, bir dizi zorluk içerir.

Ancak, bir çözüm ihtiyacı inkar edilemez. Yapay zekadaki mevcut enerji tüketimi eğilimi sürdürülemez. Sadece transistörleri küçültmek yeterli değil; tüm sistemi, yazılımdan güç teslimatına kadar yeniden mimarlamak gerekiyor. Ferric gibi şirketlerin çalışmaları, bu puzzle’ın kritik bir parçasını temsil ediyor. Güç canavarını kaynakta ehlileştirerek, sadece daha verimli bir bileşen yaratmakla kalmıyorlar, aynı zamanda bir sonraki nesil yapay zeka ve yüksek performanslı hesaplamalar için yolu açıyorlar.

Yapay zeka donanım tasarımındaki bir sonraki büyük tıkanıklık nedir? Enerji verimliliğindeki ilerlemeler, büyük ölçekli yapay zeka dağıtımının ekonomisini nasıl değiştirecek?

Noah Sturcken, Ferric'in kurucu CEO'su ve entegre gerilim düzenleyiciler üzerine 40'tan fazla patenti ve 15 yayını bulunan bir uzmandır. Noah, Ferric'i iş geliştirme, pazarlama ve yeni teknoloji geliştirme odaklı olarak yönetiyor. Noah, daha önce AMD Araştırma ve Geliştirme Laboratuvarında çalışmış ve Entegre Gerilim Düzenleyici (IVR) teknolojisini geliştirmiştir. Noah, Columbia Üniversitesi'nden Elektrik Mühendisliği alanında doktor ve yüksek lisans derecesine ve Cornell Üniversitesi'nden summa cum laude ile lisans derecesine sahiptir.