GPU’nun Ötesinde: Yapay Zekâ Fabrikasını Bir Sistem Olarak Optimize Etmek

Yapay zekâ fabrikası, daha büyük bir veri merkezi değildir. Web sayfaları ve e-posta sunmak için değil, özellikle akıllı token’lar üretmek için tasarlanmıştır. Bir hiper ölçekli bulut sağlayıcısı ya da neocloud, bir yapay zekâ fabrikası kurmak için milyarlarca dolar ve yıllar harcadığında, hesaplama yükünün büyük bölümünü üstlenen GPU’lar doğal olarak öncelik kazanır. Ancak yalnızca GPU’yu optimize etmek, çevresindeki fabrikayı optimize etmeye yetmez. Güç ve termal sistemler bu hesaplama kapasitesini desteklemeli; bir sistemde alınan kararların diğerleri üzerinde önemli sonuçları olabilir. Yapay zekâ, karmaşık sistemleri en iyi hâle getirmeyi amaçlar; ancak onu üreten fabrikalar çoğu zaman bileşenleri tek tek optimize edilerek tasarlanmıştır. Sanal ikiz teknolojisi, mühendislerin inşaat başlamadan önce tüm sistemi oluşturup iyileştirmesine olanak tanır.

Muhafazakâr Tasarım Neden En Güvenli Seçenek Hâline Geldi?

Sistem arızası veya performans darboğazının olası sonuçları bu kadar ağır olduğundan, ilk tesisler aşırı güvenlik payları ve donanımla inşa edildi. Bu yeni nesil veri merkezleri için bir yol haritası olmadığından, temkinli davranarak inşa etmek en güvenli yaklaşım gibi görünebilirdi. Bu paylar, çiplerin yakınındaki ani sıcaklık artışları gibi sorunlara karşı koruma sağlıyordu; bu tür artışlarda donanım arızalanmadan önce operatörlerin müdahale etmek için yalnızca bir dakikası kalabiliyor. İlk tesislerin bazılarında, kullanılabilir gücün yüzde 10’u kullanılmayan bir güvenlik payı olarak atıl kalıyordu.

Yapay zekâ fabrikaları sıcaklık, hava koşulları, ekipman arızaları, yetersiz kapasite, tasarım kusurları ve bakım sorunları gibi risklere açıktır. Risklerin bu kadar yüksek olduğu gigavat ölçeğinde, kapasitenin devreye alınmasındaki her bir günlük gecikme, token üretiminden elde edilecek gelirde yaklaşık 100 milyon dolarlık kayıp anlamına gelebilir. Bu sorunların sonuçlarını öngörmenin mümkün olmadığı dönemde temkinli davranmak gerekli görünüyordu.

Bu riskler birbirinden bağımsız birden fazla sistemi kapsadığında zorluk daha da büyür. Bir yapay zekâ fabrikası, birbiriyle sıkı biçimde bağlantılı üç sisteme dayanır: hesaplama, güç ve termal yönetim. GPU’ya güç sağlamak için kapsamlı bir güç zinciri, ürettiği ısıyı uzaklaştırmak için de aynı derecede yüksek performanslı bir termal sistem gerekir. Hesaplama, güç ve termal yönetim ayrı aşamalar olarak ele alınıp her biri kendi alanında optimize edildiğinde ekipler, bir sistemdeki kararın diğerlerini nasıl etkilediğini gözden kaçırabilir. Bu durum, özellikle güç ve soğutma, hesaplama kararları alındıktan sonra ele alınacak altyapı gereksinimleri olarak görüldüğünde, kör noktalar ve dengesizlikler yaratır.

Güç ve soğutma, hesaplamadan ayrı düşünülemez. Hesaplama kapasitesinin ne kadar verimli çalışacağını belirleyen sistemin parçalarıdır. Dolayısıyla değişim, tek tek sistemleri optimize etmekten tüm fabrikayı optimize etmeye yöneliktir.

Birlikte Optimizasyonun Gerekçesi

Bu sorunu çözmek, her sistemi bağımsız olarak optimize etmekten fabrikanın tümünü birlikte optimize etmeye geçmeyi gerektirir. Fiziksel inşaat, kararları belirli bir sıraya zorlar: önce bir sistem tasarlanır, ardından çevresine başka bir sistem kurulur ve onu desteklemek için bir diğeri eklenir. Her karar, sonraki sistemler için kullanılabilecek seçenekleri daralttığından, bu yaklaşım fabrikanın tümünü optimize etmeyi zorlaştırır. Birlikte optimizasyon için bu sürecin, tüm sistemin modellenebildiği, değiştirilebildiği ve herhangi bir unsur fiziksel olarak kesinleştirilmeden önce değerlendirilebildiği sanal bir ortama taşınması gerekir. Böylece dinamik bir taslak oluşturulur.

Fabrika Henüz Ortada Yok İken Modelleme

Sistem düzeyindeki sanal ikiz teknolojisinin kritik önem kazandığı nokta burasıdır.

Sanal ikiz, hesaplama, güç ve termal altyapıyı birlikte temsil etmek için biçimsel sistem modellemesinden yararlanır ve yapay zekâ fabrikasını fiziksel olarak var olmadan önce modelleyebilir. Mevcut bir fiziksel varlığa odaklanan geleneksel dijital ikizden farklı olarak sanal ikiz, bir sistemi fiziksel olarak var olmadan önce modelleyebilir. Mühendislerin farklı yapılandırmaları denemesine ve bu seçimler fiziksel taahhütlere dönüşmeden önce sistemin bir bölümündeki değişikliklerin diğer bölümleri nasıl etkilediğini anlamasına olanak tanır.

Örneğin GPU yoğunluğunu artırmak, yalnızca daha fazla hesaplama kapasitesi eklemek anlamına gelmez. Bu, elektrik yükünü artırabilir, ısıyı uzaklaştırma gereksinimlerini değiştirebilir, ekipman yerleşimini etkileyebilir ve devreye alma sürecinde yeni hususlar doğurabilir. Bu ilişkileri birlikte modellemek, mühendislerin ödünleşimleri inşaat başlamadan önce değerlendirmesini sağlar; böylece proje ilerledikçe ortaya çıkmalarını beklemek gerekmez.

Sanal ikiz teknolojisi, mühendislerin pahalı bir hatayı fiziksel dünyada pahalıya mal olmadan önce sanal ortamda yapmasına olanak tanır. Olası sorunları ve fırsatları sanal ortamda belirlemeyi sağlayarak ekiplerin, sorunlar fiziksel dünyada ortaya çıkmadan önce çözüm üretmesine yardımcı olur. Yapılandırmaların fiziksel devreye alma öncesinde test edilmesi, gereksiz tasarım paylarının, atıl gücün ve güvenlik paylarından kaynaklanan israfın tasarım aşamasında tespit edilip ortadan kaldırılmasını da sağlar. Büyük ölçekte, küçük iyileştirmeler bile milyonlarca dolarlık sermaye tasarrufu ve gelirin daha erken elde edilmesi anlamına gelebilir.

 Modeli Öngörücü Hâle Getirmek

Model, sistem davranışını öngörmek için fizik temelli simülasyondan da yararlanabilir. Temelindeki fizik veya kimya yeterince iyi anlaşıldığında simülasyon araçları sistem davranışını öngörebilir. Bol miktarda işletim verisinin daha iyi bir yaklaşım sunduğu durumlarda ise yapay zekâ ve makine öğrenmesi modelleri bu simülasyonları destekleyebilir.

Sonuç, birbirine bağlı sistemin nasıl davrandığını keşfetmeye ve mühendisliğin farklı alanlarında kararları eşgüdümlemeye olanak tanıyan bir ortamdır. Operasyonel veriler elde edildikçe model de geliştirilebilir; böylece bir tesisten veya işletim döngüsünden edinilen dersler gelecekteki tasarımlara ve kararlara yön verebilir.

Yapay Zekâ Fabrikası için Bir Taslak

Sektör, bu yaklaşımın temelini şimdiden oluşturmaya başladı. NVIDIA’nın DSX taslağı, gigawatt ölçeğindeki yapay zekâ fabrikaları için bir referans tasarımı standartlaştırıyor. NVIDIA, bu taslağın bilgi işlem bölümünü sistem modellemesi ve sanal ikiz simülasyonu yaklaşımıyla tanımlayarak işe başladı. Ayrıca, Eaton, Vertiv ve Jacobs gibi şirketlerin de aralarında bulunduğu; enerji, soğutma ve inşaat alanlarında faaliyet gösteren ekosistem ortaklarını tasarımın kendi bölümlerine katkıda bulunmaya davet ediyor. Referans tasarımların birlikte çalışabilirliği, sistem düzeyinde tanımlamayı destekleyen SysML aracılığıyla sağlanırken OpenUSD, 3B odaklı veriler için bir temel sunuyor.

Amaç, her şirketin kendi bileşenini optimize edip bu parçaların sonradan birbiriyle uyumlu olmasını beklemesi değil. Sınıfının en iyisi her teknolojinin tüm sistemin performansına katkıda bulunabilmesi için bilgi işlem, enerji, soğutma ve tesis yönetimi uzmanlıklarının bir araya getirilmesi gerekiyor.

Her sektör kendi alanında optimizasyon yapabilir; ancak güçlü bir nihai ürün ortaya çıkarmak için bu sistemlerin birlikte optimize edilmesi gerekir. Bu yaklaşım olgunlaştıkça, yapay zekâ altyapısının yalıtılmış, tek seferlik pilot projelerin ötesine geçerek son derece karmaşık operasyonel ortamları yönetebilen kurumsal ölçekli sistemlere dönüşmesini de sağlar.

Yalnızca GPU’yu Değil, Fabrikanın Tümünü Optimize Etmek

GPU, yapay zekâ fabrikalarının performansında merkezi bir rol oynamaya devam edecek. Ancak en iyi GPU’ları satın almak, tek başına çevresindeki fabrikayı optimize etmeye yetmez. Yeni nesil yapay zekâ altyapısı; bilgi işlem, enerji ve ısıl sistemlerin tek bir bütünleşik sistem olarak tasarlanmasına, bu ilişkilerin büyük ölçekli fiziksel taahhütlerde bulunulmadan önce modellenmesine ve sistemin öğrendiklerinden sürekli yararlanılarak sonraki adımların iyileştirilmesine bağlı olacak. Geleceği öngöremeyiz veya her hatayı önleyemeyiz; ancak sanal ikiz teknolojisi, ekiplerin belirsizliklere hazırlıklı olmasına ve yapay zekâ fabrikalarını bir sistem olarak optimize etmesine yardımcı olabilir.