Ortaklıklar

Nexalus ve RENDA, Veri Merkezi Modernizasyonlarına Yönelik Sıvı Soğutmalı Nova8 Yapay Zekâ Sunucusunu Piyasaya Sürdü

Nexalus ve RENDA, mevcut veri merkezlerinde kullanılmak üzere tasarlanmış, kendi içinde bütünleşik sıvı soğutmalı bir yapay zekâ sunucusu olan Nova8’i tanıtıyor. Sunucuya ilişkin performans iddialarının iş yükü düzeyinde test edilmesi gerekiyor.

Theo Nash
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Official overhead product photograph of the RENDA Nova8 server showing its integrated cooling system
Öne çıkan noktalarNova8, sıvı soğutmayı bina düzeyinde borulama olmadan standart raflara yerleştirerek…
Daha fazla göster
  • Nova8, sıvı soğutmayı bina düzeyinde borulama olmadan standart raflara yerleştirerek uygulamada pratiklik sağlamayı hedefliyor.
  • Nexalus, benzer hava soğutmalı sistemlere kıyasla yapay zeka işlem hacminde %20'ye kadar artış iddia ediyor ancak bu rakamlar doğrulanmış değil.
  • Alıcılar yalnızca kıyaslama özelliklerine güvenmek yerine işlem hacmini kendi iş yüklerine göre doğrulamalıdır.

Nexalus ve RENDA, raflarının çevresindeki soğutma altyapısını baştan kurmadan daha fazla işlem gücü elde etmek isteyen kuruluşlara yönelik, sıvı soğutmalı RENDA Nova8 sunucusunu tanıttı. 17 Kasım’da duyurulan sistem, yapay zekâ dağıtımında giderek daha pratik hâle gelen bir soruya odaklanıyor: Mevcut bir tesis ne kadar faydalı performansı destekleyebilir?

Şirketler, Nova8’i mevcut hava soğutmalı veri merkezlerinde kullanılmak üzere tasarlanmış, kendi içinde bütünleşik bir sistem olarak tanımlıyor. ICR tarafından dağıtılan bir basın bülteninde Nexalus, sistemin benzer hava soğutmalı sistemlere kıyasla yapay zekâ işlem hacmini %20’ye kadar artırabildiğini ve enerji verimliliğini %22’ye kadar iyileştirebildiğini belirtiyor. Bu rakamlar şirketlerin iddialarıdır; bağımsız olarak doğrulanmış sonuçlar değildir ve her iş yükünde bu iyileştirmelerin garanti edildiği şeklinde yorumlanmamalıdır.

Yapay Zekâ Altyapısını Mevcut Tesislere Uyarlama Yaklaşımı

Lansman duyurusuna göre Nova8, standart 19 inçlik bir rafa sığan 4U kasaya sekiz NVIDIA RTX PRO 6000 Blackwell GPU’yu entegre ediyor. Her GPU, 600 watt’lık tam güç düzeyinde çalışacak şekilde tasarlanmış. Soğutma sistemi, operatörlerin binaya sıvı soğutma boruları eklemesini gerektirmiyor.

Tasarımda GPU’lar ve CPU için Nexalus’un jet çarpışmalı soğutma teknolojisi kullanılıyor. Sistem, yalnızca kanallar boyunca akan soğutucuya dayanmak yerine, bir yonganın en sıcak bölümlerinin üzerindeki bir plakaya jetler yönlendiriyor. İş ortakları, işlem ve termal bileşenleri birlikte geliştirdiklerini; soğutmayı bir aksesuar olarak değil, sunucu mimarisinin bir parçası olarak ele aldıklarını söylüyor.

Altyapı satın alan kuruluşlar için bu ayrım önem taşıyor; çünkü hızlandırıcıları satın almakla bunları verimli biçimde çalıştırabilmek, birbirinden ayrı kararlar. Fiziksel olarak mevcut bir rafa sığan bir sunucunun yine de tesisin elektrik, ısı yönetimi, ağ ve servis gereksinimlerini karşılaması gerekiyor. Kendi içinde bütünleşik bir soğutma devresi bu değerlendirmenin bir bölümünü kolaylaştırabilir, ancak tesis koşullarının incelenmesi gereğini ortadan kaldırmaz.

Performans İddiaları Neyi Gösteriyor, Neyi Göstermiyor?

Lansman duyurusunda, Llama 3.3 ile yapılan kurum içi testlerde saniyede 55.000 token hızına ulaşıldığı ve watt başına 8,6 token verimlilik elde edildiği bildiriliyor. Duyuruda ayrıca 10 pompa ve 16 fandan oluşan yedekli soğutma donanımından söz ediliyor. Bu teknik özellikler, potansiyel müşterilere araştırmaları için somut sorular sunuyor; ancak kendi uygulamalarında test yapmanın yerini tutmuyor.

Tek başına bir işlem hacmi rakamı, üretim ortamındaki bir uygulamanın nasıl bir deneyim sunacağını ortaya koymaz. Alıcılar; hangi model yapılandırmasının, hassasiyet düzeyinin, girdi uzunluğunun, çıktı uzunluğunun, eşzamanlılık düzeyinin ve model servis yazılımının kullanıldığını sormalıdır. Ayrıca bildirilen güç ölçümünün sunucunun tamamını mı, bileşenlerin bir bölümünü mü, yoksa daha geniş bir altyapı sınırını mı kapsadığını belirlemelidir. Farklı ölçüm kapsamlarını karşılaştırmak, görünüşte basit bir verimlilik yüzdesini yanıltıcı hâle getirebilir.

En yararlı değerlendirme, işlem hacmini gecikme hedefleriyle birlikte ele alır. Etkileşimli isteklere yanıt veren bir kuruluş, öngörülebilir yanıt süresine, gece boyunca büyük gruplar hâlinde işlem yapan bir kuruluştan farklı bir değer atfedebilir. Her ikisi de aynı donanımı kullanırken maliyet ve kapasite konusunda farklı sonuçlara varabilir. Bu, bir değerlendirme çerçevesidir; Nova8’in bu gerekliliklerden herhangi birini karşılayamadığının ya da karşıladığının kanıtı değildir.

Sistemi Gerçek İş Yüklerinde Test Etmek

Şirketler, Test Drive programı aracılığıyla gerekli nitelikleri taşıyan potansiyel müşterilere uzaktan erişim; UNICOM Engineering üzerinden de dünya çapında satış sonrası destek sunuyor. Böylece ilgilenen kuruluşlar, yalnızca duyurulan teknik özelliklere dayanarak varsayımlarda bulunmak yerine ürünü inceleyebiliyor.

Anlamlı bir deneme için operatör, temsili bir iş yükünü yeniden oluşturabilir, yazılım ayarlarını sabit tutabilir ve sonuçları mevcut dağıtımıyla karşılaştırabilir. Güç tüketimini, gecikmeyi, işlem hacmini ve kesintisiz çalışmayı birlikte kaydetmek, yararlı bir altyapı iyileştirmesini hedeflenen uygulamaya yansımayan bir kıyaslama avantajından ayırt etmeye yardımcı olur.

Bakım kolaylığı da dikkate alınmalıdır. Sıvı soğutmalı bir sistemi değerlendiren operatörler; bileşenlerin nasıl değiştirildiğini, arızaların nasıl tespit edildiğini, kendi ekiplerinin hangi bakım işlerini yapabileceğini ve destek düzenlemelerinin çalışma süresi gereksinimlerine nasıl uyduğunu anlamalıdır. Bir ürün yeni bir tesis tasarımı yerine mevcut tesise uyarlama seçeneği olarak konumlandırıldığında bu ayrıntılar özellikle önem kazanır.

Dolayısıyla Nova8’in vaadi, bir rafa daha fazla GPU yerleştirmenin ötesine geçiyor. Ürün, sıvı soğutmalı yapay zekâ işlem gücünü kuruluşların hâlihazırda işlettiği altyapılarda kullanılabilir kılmayı amaçlıyor. Bu yaklaşımın duyurulan avantajı sağlayıp sağlamayacağı, müşterilerin iş yüklerine ve tesis bazında yapılacak doğrulamaya bağlı olacak. Ancak lansman, satın alma kararının merkezine mevcut tesislere uyarlanabilirliği yerleştiriyor.

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.