Hans Hasselby-Andersen, Lotus Microsystems CEO’su – Röportaj Dizisi

Hans Hasselby-Andersen, yarı iletken sektöründe kurucu, yönetici, yönetim kurulu üyesi ve yatırımcı olarak 20 yılı aşkın deneyime sahip Lotus Microsystems CEO’sudur. Merus Audio’yu kurmuş ve 2018’de Infineon tarafından satın alınmasına kadar şirkete liderlik etmiştir. Ayrıca Texas Instruments, Infineon, Toccata Technology ve Nokia’da üst düzey görevler üstlenmiştir. Çalışmaları, enerji verimli yarı iletken teknolojilerini pazara sunmaya odaklanmıştır.

Lotus Microsystems, ileri elektronik ürünler için entegre güç dönüştürücüleri ve güç dağıtım çözümleri geliştiren, Kopenhag merkezli, üretim tesisi olmayan bir yarı iletken şirketidir. Şirketin silikon tabanlı Power Interposer Technology’si, yapay zekâ ve yüksek performanslı bilgi işlem için geliştirdiği vStrata dikey güç dağıtım platformu da dâhil olmak üzere, güç dönüşümünü termal yönetimle bir araya getirir. Hasselby-Andersen bu röportajda sunucu düzeyindeki enerji kayıplarını, geleneksel güç mimarilerinin sınırlarını ve güç dağıtımı, soğutma ve yarı iletken paketlemenin neden giderek daha fazla birlikte tasarlanması gerektiğini ele alıyor.

Kariyeriniz Nokia’da kablosuz sistemler, Texas Instruments’ta yarı iletken geliştirme, Merus Audio’nun kuruluşu ve şirketin Infineon tarafından satın alınmasına kadar geçen süreç ve şimdi de Lotus Microsystems’in yönetimi gibi farklı alanları kapsıyor. Bu deneyim, günümüzün yapay zekâ altyapısında ortaya çıkan güç ve ısıl yönetim sorunlarına bakışınızı nasıl şekillendirdi?

Yarı iletken sektörüne neredeyse tesadüfen girdim. Birlikte çalıştığım bir girişim Texas Instruments tarafından satın alındı; bu da çiplerin nasıl tasarlandığını, üretildiğini ve pazara sunulduğunu öğrenmemi sağladı. Kendim çip tasarımcısı değildim ama sektör hakkında çok şey öğrendim.

Daha sonra Merus Audio’yu kurduğumda, kablosuz hoparlörlerde güç kayıplarını azaltma ve pil ömrünü uzatma ihtiyacından kaynaklanan belirgin bir pazar boşluğunu fark etmem harekete geçirici unsur oldu. Ardından bu ihtiyaca çözüm bulmak için doğru kişileri ve teknolojiyi bir araya getirmeye odaklandım.

Merus’un Infineon tarafından satın alınmasının ardından bir süre yarı iletken sektörü dışında çalıştım, ancak sonunda olmak istediğim alanın burası olduğunu anladım. Beni Lotus Microsystems’e çeken, kurucu ekibin gelişmiş güç dağıtım teknolojisinin üç temel unsuruna odaklanmasıydı: enerji verimliliği, fiziksel boyut ve ısıl performans. Uygulama alanı ne olursa olsun, güç dağıtımında bu sorunlar hiçbir zaman tümüyle ortadan kalkmıyor; ancak yapay zekâ bunları özellikle acil hâle getirdi.

İşlemci teknolojisinde olağanüstü bir ilerleme görüyoruz, ancak bu işlem gücünün beraberinde getirdiği çok somut fiziksel kısıtlamalar var. Deneyimlerim, daha az görünür sorunları çözmenin de herkesin ilgisini çeken teknolojileri geliştirmek kadar değerli olabileceğini gösterdi.

Yapay zekâ altyapısına ilişkin tartışmalar genellikle GPU performansına, ağ altyapısına ve soğutmaya yoğun biçimde odaklanıyor. Yapay zekâ sistemlerinin ölçeklenmeye devam etmesinin önündeki en önemli kısıtlardan birinin güç dağıtımının kendisi hâline geldiğine neden inanıyorsunuz?

Bir GPU’nun ne kadar işlem gücü sunabileceği hakkında çok konuşuyoruz, ancak ona yeterli elektriği verimli biçimde nasıl ulaştıracağımızı çok daha az konuşuyoruz. Modern yapay zekâ hızlandırıcıları çok düşük gerilimlerde binlerce amper akım gerektiriyor ve güç ihtiyaçları iş yüküne bağlı olarak neredeyse anında değişebiliyor. Geleneksel güç dağıtım sistemleri bu yoğunluk düzeyi için tasarlanmadı. Dünyanın en gelişmiş işlemcisine sahip olabilirsiniz, ancak ihtiyaç duyulduğunda kararlı güç sağlayamazsanız işlemcinin tüm potansiyelinden yararlanamazsınız. Bu nedenle güç dağıtımı, yapay zekâyı ölçeklendirme sorununun giderek daha önemli bir parçası hâline geliyor.

Veri merkezi işletmecileri enerji verimliliğinden söz ederken, odağın büyük bölümü soğutma sistemlerine ve tesis düzeyindeki ölçütlere yöneliyor. İşlemciye ulaşmadan önce sunucunun içinde ne kadar güç kayboluyor ve bu konuya neden görece az ilgi gösterildi?

Her sunucu için geçerli tek bir oran yok, ancak kayıplar önemli boyutlara ulaşabiliyor. Yüksek akımlı bazı mimarilerde, işlemciye güç iletiminin son aşamalarında gücün yaklaşık %7–10’unun kaybolabileceğini tahmin ettik. Bu enerji, yararlı bir hesaplama işi yapmıyor; ısıya dönüşüyor ve ardından bu ısının uzaklaştırılması gerekiyor. Binlerce işlemciyi günün her saati çalıştırdığınızda, görece küçük verimsizlikler bile çok maliyetli hâle geliyor.

Bu konunun gözden kaçmasının nedenlerinden biri, veri merkezi verimliliğini geleneksel olarak ölçme biçimimiz. Güç Kullanım Etkinliği (PUE) sektör standardı hâline geldi ve soğutma ile güç dağıtımı dâhil olmak üzere tesisin ek yükünü anlamak açısından yararlı. Ancak elektriğin sunucunun kendi içinde ne kadar verimli dönüştürülüp dağıtıldığını göstermez.

Soğutma verimliliğinin önemli olmadığını söylemiyorum; kesinlikle önemli. Ancak gereksiz ısının bir bölümünün nereden kaynaklandığına yeterince dikkat etmeden, bu ısıyı uzaklaştırmak için çok büyük miktarlarda para harcamak biraz ters geliyor. Öncelikle bu kayıpları önlemeye çalışmalıyız.

GPU’lar ve diğer yapay zekâ hızlandırıcıları giderek daha fazla güç tüketirken, geleneksel kart düzeyindeki güç dağıtım mimarilerinin hangi sınırlamaları ortaya çıkıyor?

Gücün bir GPU’ya gerçekte nasıl ulaştığına baktığınızda sorun daha net anlaşılıyor. Geleneksel bir tasarımda güç dönüştürücüler işlemcinin yanına yerleştirilir ve elektrik, işlemciye ulaşmak için devre kartı boyunca yatay olarak ilerler. Bu mesafe önemsiz görünebilir; ancak binlerce amper taşındığında direncin küçük miktarları bile önem kazanır. Direnç kaynaklı kayıplar akımın karesiyle artar; yani aynı direnç üzerinden geçen akımı iki katına çıkarmak, bu kayıpları dört katına çıkarabilir.

Bir diğer zorluk da gerilimi sabit tutarken güç talebindeki hızlı değişikliklere yanıt vermektir. Mühendisler kapasitörler ve başka bileşenler ekleyerek bunu telafi edebilir; ancak bu yaklaşımlar değerli alan kaplar. Bir noktadan sonra mevcut tasarıma eklemeler yapmayı sürdürmek yerine mimariyi yeniden düşünmek daha mantıklı hale gelir.

Sektör, sürdürülemez ısıl veya verimlilik sorunlarına yol açmadan hesaplama yoğunluğunu artırmayı sürdürmek istiyorsa, sunucu rafından işlemciye güç iletme biçiminde ne gibi değişiklikler yapılması gerekiyor?

Raf düzeyinde, daha yüksek gerilimli güç dağıtımına geçiş de dahil olmak üzere, hâlihazırda pek çok yenilik yapılıyor. Bu önemli; çünkü daha yüksek gerilim, elektriğin daha düşük akımla iletilmesini ve böylece daha uzun mesafelerdeki kayıpların azalmasını sağlar. Ancak bu elektriğin, işlemcilerin ihtiyaç duyduğu çok düşük gerilim seviyelerine dönüştürülmesi yine de gerekir ve en zorlu sorunlardan bazıları da bu aşamada ortaya çıkar.

En umut verici gelişmelerden biri, güç dönüşümünü işlemcinin yanına değil doğrudan altına yerleştiren dikey güç iletimidir. Elektrik yolunun kısaltılması kayıpları azaltmaya ve yanıt sürelerini iyileştirmeye yardımcı olur. Ancak bu yaklaşım, ısı üreten bileşenleri birbirine çok daha fazla yaklaştırdığı için kendine özgü bir zorluğu da beraberinde getirir. Bu mimarileri büyük ölçekte hayata geçirmek için güç iletimini, ısıl yönetimi ve paketlemeyi birbirinden ayrı mühendislik çalışmaları olarak ele almayı bırakmamız gerekiyor. Bunların en başından itibaren birlikte tasarlanması şart.

Lotus Microsystems kısa süre önce vStrata dikey güç iletim platformunu tanıttı. Dikey güç iletimi hangi sorunu çözmeyi amaçlıyor ve bu yaklaşım, günümüzde yapay zekâ sunucularında kullanılan geleneksel güç mimarilerinden nasıl ayrılıyor?

Dikey güç iletiminin temel fikri oldukça basit. Devasa miktarda akımı devre kartı boyunca yatay olarak taşımak yerine, güç kaynağını doğrudan işlemcinin altına yerleştiriyorsunuz. Bu, elektrik yolunu önemli ölçüde kısaltarak kayıpları azaltıyor ve güç gereksinimleri değiştiğinde sistemin daha hızlı yanıt vermesine yardımcı oluyor.

Ancak gücü işlemciye yaklaştırmakla sorunun tamamını çözmek arasında önemli bir fark var. Isıyı, zaten ciddi bir ısıl yük altında çalışan bileşenlerin hemen yanında, daha küçük bir alanda yoğunlaştırmış oluyorsunuz. Bunu ele almazsanız, ilk sorunu çözerken yeni bir darboğaz yaratma riskiyle karşı karşıya kalırsınız.

vStrata ile ele almaya çalıştığımız konu buydu. Özel silikon Power Interposer Technology ürünümüz, ısıl yönetimi aynı mimariye entegre ederken gücü dikey olarak iletmemizi sağlıyor. İlk modülümüz LSC0580, optimize edilmiş yapılandırmalarda %96’ya varan yük noktasında verimlilik ve sıcaklıkta 25°C’ye varan düşüş sağlayacak şekilde tasarlandı. Amaç yalnızca daha fazla akım taşımak değil; veri merkezlerinin aynı fiziksel alandan daha fazla faydalı hesaplama gücü elde etmesine yardımcı olurken bunu desteklemek için gereken güç ve soğutma yükünü azaltmak.

Yapay zekâ sektörü, gelecekteki performans kazanımlarının daha iyi çiplerden veya daha gelişmiş yarı iletken üretim süreçlerinden geleceğini varsayıyor. Güç mimarisindeki iyileştirmeler, yapay zekâ performansı açısından eninde sonunda işlemcilerin kendisindeki ilerlemeler kadar önemli olabilir mi?

Kesinlikle. Bir işlemcinin teorik performansı, ancak çevresindeki sistem bu düzeyde çalışmasına olanak tanıyorsa işe yarar. Güç iletimi talebi karşılayamazsa veya aşırı ısı sistemi performansı kısmaya zorlarsa, parasını ödediğiniz kapasitenin tamamından yararlanamazsınız. İlginç olan şu ki, daha iyi bir güç mimarisi işlemcinin kendisini değiştirmeden de mevcut donanımdan daha sürdürülebilir performans elde edilmesini sağlayabilir. Bunu daha iyi çiplerle daha iyi altyapı arasında bir tercih olarak görmüyorum. Her ikisine de ihtiyacımız var ve aralarındaki ilişkinin giderek daha önemli hale geleceğini düşünüyorum.

Yapay zekâ veri merkezleri dünya genelindeki elektrik şebekeleri üzerinde şimdiden ciddi bir baskı oluşturuyor. Sunucu düzeyinde güç dönüşümü ve iletimindeki iyileştirmeler, büyük ölçekli yapay zekâ altyapısının toplam enerji ayak izini ne ölçüde azaltabilir?

Potansiyel önemli; ancak etkinin tesisin mimarisine ve ölçeğine bağlı olması nedeniyle tek bir rakam vermek zor. Dönüşümün bir aşamasında sağlanan bir yüzde puanlık iyileşme, veri merkezinin toplam elektrik tüketiminde de aynı oranda düşüş sağlayacağı anlamına gelmez.

Ancak sürekli çalışan binlerce işlemcide mütevazı verimlilik artışlarını bile bir araya getirdiğinizde neler olacağını düşünün. Bu, boşa harcanan enerjide, işletme maliyetlerinde ve sermaye harcamalarında, ayrıca soğutma sistemlerinin yönetmesi gereken ısı miktarında kayda değer düşüşler sağlayabilir. Bu, özellikle şebeke kapasitesinin yeni veri merkezlerinin nerede ve ne hızla kurulabileceğini zaten sınırladığı bir dönemde büyük önem taşıyor.

Başka bir deyişle, en çevreci enerji hiç kullanmadığınız enerjidir. Yapay zekânın yaygınlaşmasını desteklemek için daha fazla enerji sağlamaya büyük önem veriliyor; bu anlaşılır bir yaklaşım. Ancak hâlihazırda mevcut olan elektriği daha verimli kullanmaya da aynı ölçüde önem vermeliyiz.

Yapay zekâ donanımları daha yüksek güçlü GPU’lara, özel amaçlı hızlandırıcılara ve giderek daha yoğun bilgi işlem sistemlerine yönelirken, önümüzdeki birkaç yıl içinde güç mühendislerinin hangi teknik darboğazlarla karşılaşmasını bekliyorsunuz?

Akım gereksinimleri artmaya devam edecek ve bunun yarattığı zorlukları şimdiden görüyoruz. Bazı yapay zekâ işlemcileri birkaç bin amper gerektiriyor; gelecekteki tasarımlarda bu değer 6,000, hatta 8,000 ampere ulaşabilir. Bu akımı verimli biçimde sağlamak başlı başına yeterince zor; iş yükleri hızla değişirken gerilimi kararlı tutmak ise bir başka karmaşıklık katmanı ekliyor.

Sektör ayrıca ilerlemenin temel ölçütü olarak akım yoğunluğuna odaklanma eğiliminde. Daha küçük bir güç dönüştürücüden daha fazla akım sağlamak etkileyici olsa da aynı miktarda ısıyı daha küçük bir alanda üretiyorsanız, genel sistemi mutlaka iyileştirmiş olmazsınız. Hatta ısıl sorunu daha da kötüleştirmiş olabilirsiniz. Verimlilik, ısıl performans, dinamik tepki ve güvenilirlik arasında denge kurabilen mühendislerin en büyük ilerlemeleri kaydedeceğini düşünüyorum.

Yapay zekâ altyapısının gelecek neslini düşündüğümüzde, yapay zekâ bilgi işlem kapasitesinde bir başka büyük artışı desteklemek için güç dağıtımı, soğutma, yarı iletken paketleme ve sistem mimarisinde ne gibi değişiklikler gerekecek?

Güç dağıtımı ile işlemcinin kendisi arasında çok daha sıkı bir bütünleşme göreceğimizi düşünüyorum. Dikey güç dağıtımı önemli bir adım, ancak bu gelişimin burada duracağını sanmıyorum. Devre kartlarına gömülebilecek daha ince güç modülleri üzerinde şimdiden çalışıyoruz; ileride ise güç dağıtımı işlevlerinin daha büyük bir bölümünün doğrudan xPU paketlerine entegre edildiği mimariler görebiliriz. Her adım, gücü tüketildiği noktaya biraz daha yaklaştırıyor.

Soğutmanın da bu değişimlerle birlikte gelişmesi gerekecek. Sıvı soğutma, yüksek yoğunluklu bilgi işlem için giderek daha önemli hâle geliyor; ancak ısıyı uzaklaştırma yöntemlerimizi iyileştirmek denklemin yalnızca bir parçası. Gereksiz yere ürettiğimiz ısı miktarını da azaltmalı ve ısıyı kaynağa yakın bir noktada yönetmenin daha iyi yollarını bulmalıyız.

Belki de en büyük değişiklik bu sistemlerin geliştirilme biçiminde yaşanacak. Geleneksel olarak donanım yığınının farklı bileşenleri çoğu zaman birbirinden bağımsız biçimde optimize edildi. Yöneldiğimiz güç düzeylerinde bu yaklaşım giderek zorlaşıyor. Yonga üreticilerinin, güç elektroniği uzmanlarının, paketleme mühendislerinin ve sistem tasarımcılarının çok daha yakın çalışması gerekecek. Yıllar boyunca tek tek işlemcilerin sınırlarını zorladık; ancak yapay zekâ altyapısının bir sonraki aşamasında, tüm sistemin bu işlemcilerin yapabileceklerini destekleyebilmesini sağlamak belirleyici olacak.

Harika röportaj için teşekkür ederiz. Yapay zekâ altyapısında dikey güç dağıtımı ve ısıl yönetim hakkında daha fazla bilgi edinmek isteyen okurlar Lotus Microsystems sitesini ziyaret edebilir.