Lumai, Optical AI Sunucusunu Tanıttı: İleri Era İnceleme Gücünü Sağlayacak

Lumai, AI altyapısında önemli bir adım olarak tanımladığı bir şeyi duyurdu: gerçek zamanlı milyar parametreli büyük dil modellerini çalıştırabilen bir optik hesaplama sistemi. Yeni sistem, Iris Nova olarak adlandırılıyor ve geleneksel silikon tabanlı işlemlerden ziyade ışığa dayalı temelde farklı bir yaklaşımı işaret ediyor.

Bu duyuru, AI endüstrisinin hızla model eğitimi aşamasından büyük ölçekli dağıtıma geçiş yaptığı bir zamanda geliyor ve mevcut hesaplama altyapısı üzerinde withoutönceden görülmemiş bir baskı oluşturuyor.

Silikon Kısıtlarının Ötesine Geçmek

Yıllarca, AI ilerlemesi büyük ölçüde silikon çiplerindeki ilerlemelere, özellikle GPU‘lara bağlıydı. Ancak bu model artık zorlanmaya başlıyor. Güç tüketimi keskin bir şekilde artıyor ve performans kazançları, maliyet ve enerji gereksinimlerini önemli ölçüde artırmadan elde edilmeye çalışılıyor.

Lumai’nin yaklaşımı, elektronları fotonlarla değiştiriyor. İşlemleri elektrik sinyalleri aracılığıyla yerine getirmek yerine, sistemi veri işlemede ışığı kullanıyor. Bu, milyonlarca işlemi aynı anda üç boyutlu uzayda gerçekleştirebilen büyük paralellik sağlar, bu da düz silikon yüzeylerindeki işlemlerden daha verimlidir.

Şirkete göre, bu mimari, geleneksel sistemlere kıyasla enerji tüketimini %90’a kadar azaltırken önemli ölçüde daha yüksek bir verimlilik sunabilir .

Veri Merkezlerinde Artan Baskı

Bu lansman, endüstrinin daha geniş zorluklarını yansıtıyor. AI iş yükleri, özellikle inceleme gibi gerçek dünya uygulamalarında eğitimli modelleri çalıştırmak için hızla genişliyor.

Veri merkezleri, güç kullanılabilirliği nedeniyle giderek daha fazla kısıtlanıyor. On yılın sonunda veri merkezi enerji talebinin çiftlenmesi bekleniyor, bu da operatörlerin geleneksel olmayan çözümler gibi özel enerji üretimi ve alternatif enerji kaynaklarını keşfetmelerine neden oluyor.

Aynı zamanda, geleneksel donanımın ölçeklendirilmesi less hiệu quả hale geliyor. Her yeni silikon nesli, genellikle daha fazla enerji ve soğutma gerektiren artan iyileşmeler sunuyor.

Lumai, optik hesaplama sistemini bu sınırlamaları tamamen atlatmak için değil, onları dần dần iyileştirmek için konumlandırıyor.

Iris Nova Nasıl Çalışır

Iris Nova sistemi, optik ve dijital bileşenleri birleştiren hibrit bir mimari kullanıyor. Optik motor, AI modellerini güçlendirerek temel matematiksel işlemleri gerçekleştirirken, geleneksel dijital sistemler yazılım ve kontrol işlevlerini yönetiyor.

Bu tasarım, sistemin mevcut veri merkezi ortamlarına altyapıda kapsamlı bir değişiklik olmadan entegre olmasını sağlar.

Sistem, özellikle büyük miktarda girdi verisini işleyerek yanıtlar oluşturmadan önce modellerin “ön doldurma” aşamasında optimize edilmiştir. Bu aşamanın hızlandırılması, genel verimliliği ve hiệu quảyı iyileştirmeyi amaçlar.

Lumai, Iris Nova’nın Llama 8B ve 70B gibi modelleri gerçek zamanlı olarak çalıştırabileceğini, böylece deneysel kullanım durumları yerine üretim ölçekli iş yüklerini işleyebileceğini belirtiyor .

İnceleme Era’ya Doğru Kayma

Lansman, AI önceliklerinde daha geniş bir değişimi yansıtıyor. Büyük modelleri eğitmek, haber başlıklarını domine etti, ancak AI’nın gerçek dünya etkisi artık modellerin ne kadar verimli bir şekilde dağıtılabileceği ve ölçeklendirilebileceği ile tanımlanıyor.

Bu değişim, eğitim aşamasında menos görünür olan tıkanıklıkları ortaya çıkarıyor. İnceleme iş yükleri sürekli, gecikme duyarlı ve enerji yoğundur, bu nedenle verimlilik kritik bir faktör haline geliyor.

Lumai’nin sistemi, bu aşama için özel olarak tasarlandı ve ham hesaplama gücü yerine watt başına verimlilik üzerine odaklanıyor.

Erken Erişim ve Endüstri İmpilikasyonları

Iris Nova sunucusu şimdi hyperscaler’lar, şirketler ve araştırma kurumları tarafından değerlendirilmek üzere kullanılabilir. Iris ailesindeki diğer sistemler, Aura ve Tetra, performansı ve dağıtım seçeneklerini genişletecek şekilde takip edecek.

Eğer optik hesaplama vaatlerini büyük ölçekte gerçekleştirebilirse, AI altyapısının ekonomisini yeniden şekillendirebilir. Düşük enerji tüketimi ve daha yüksek verimlilik, yalnızca operasyonel maliyetleri azaltmakla kalmayacak, aynı zamanda AI’nin çevresel etkileri hakkındaki artan endişeleri de ele alacak.

Lumai’nin duyurusu, AI hesaplama geleceğinin yalnızca silikondan oluşmayabileceği yönünde net bir yönü vurguluyor.

on ve daha yüksek verimlilik, yalnızca operasyonel maliyetleri azaltmakla kalmayacak, aynı zamanda AI’nin çevresel etkileri hakkındaki artan endişeleri de ele alacak. Lumai’nin duyurusu, AI hesaplama geleceğinin yalnızca silikondan oluşmayabileceği yönünde net bir yönü vurguluyor.