Yapay zeka modelleri ve platformları

Lumai, yeni çıkarım çağını destekleyen optik AI sunucusunu tanıttı

Antoine Tardif
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarOptik hesaplama, silikon çiplerin giderek artan sınırlarından kurtulmak için…
Daha fazla göster
  • Optik hesaplama, silikon çiplerin giderek artan sınırlarından kurtulmak için elektronların yerine fotonları kullanır.
  • Lumai, çıkarımı hedefliyor çünkü dağıtım artık veri merkezlerini model eğitiminden daha fazla zorluyor.
  • Iris Nova, optik ve dijital bileşenleri bir araya getiriyor; böylece mevcut tesisler yeniden inşa etmeden bunu benimseyebiliyor.

Lumai, AI altyapısında önemli bir adım olarak tanımladığı bir sistemi duyurdu: gerçek zamanlı milyar parametreli büyük dil modellerini çalıştırabilen bir optik hesaplama sistemi. Yeni sistem, Iris Nova olarak adlandırılıyor ve geleneksel silikon tabanlı işlemlerden ziyade ışığa dayalı temelde farklı bir yaklaşımı işaret ediyor.

Bu duyuru, AI endüstrisinin hızla model eğitimi aşamasından büyük ölçekli dağıtıma geçiş yaptığı bir zamanda geliyor ve mevcut hesaplama altyapısı üzerinde benzeri görülmemiş bir baskı oluşturuyor.

Silikon Kısıtlarının Ötesine Geçmek

Yıllarca, AI ilerlemesi büyük ölçüde silikon çiplerindeki ilerlemelere, özellikle GPU‘lara bağlıydı. Ancak bu model artık zorlanmaya başlıyor. Güç tüketimi keskin bir şekilde artıyor ve performans kazançları, maliyet ve enerji gereksinimlerini önemli ölçüde artırmadan elde edilmesi giderek zorlaşıyor.

Lumai’nin yaklaşımı, elektronları fotonlarla değiştiriyor. İşlemleri elektrik sinyalleri aracılığıyla yerine getirmek yerine, sistemi veri işlemede ışığı kullanıyor. Bu, milyonlarca işlemi aynı anda üç boyutlu uzayda gerçekleştirebilen büyük paralellik sağlar, bu da düz silikon yüzeylerindeki işlemlerden daha verimlidir.

Şirkete göre, bu mimari, geleneksel sistemlere kıyasla enerji tüketimini %90’a kadar azaltırken önemli ölçüde daha yüksek bir işlem hacmi sunabilir.

Veri Merkezlerinde Artan Baskı

Bu lansman, endüstrinin daha geniş zorluklarını yansıtıyor. AI iş yükleri, özellikle çıkarım gibi gerçek dünya uygulamalarında eğitimli modelleri çalıştırmak için hızla genişliyor.

Veri merkezleri, güç kullanılabilirliği nedeniyle giderek daha fazla kısıtlanıyor. On yılın sonunda veri merkezi enerji talebinin iki katına çıkması bekleniyor, bu da operatörlerin geleneksel olmayan çözümler gibi özel enerji üretimi ve alternatif enerji kaynaklarını keşfetmelerine neden oluyor.

Aynı zamanda, geleneksel donanımın ölçeklendirilmesi daha verimsiz hale geliyor. Her yeni silikon nesli, çoğu zaman orantısız ölçüde daha fazla enerji ve soğutma gerektiren artan iyileşmeler sunuyor.

Lumai, optik hesaplama sistemini bu sınırlamaları kademeli olarak iyileştirmek yerine tamamen aşmak için konumlandırıyor.

Iris Nova Nasıl Çalışır

Iris Nova sistemi, optik ve dijital bileşenleri birleştiren hibrit bir mimari kullanıyor. Optik motor, AI modellerini güçlendirerek temel matematiksel işlemleri gerçekleştirirken, geleneksel dijital sistemler yazılım ve kontrol işlevlerini yönetiyor.

Bu tasarım, sistemin mevcut veri merkezi ortamlarına altyapıda kapsamlı bir değişiklik olmadan entegre olmasını sağlar.

Sistem, özellikle büyük miktarda girdi verisini işleyerek yanıtlar oluşturmadan önce modellerin “ön doldurma” aşamasında optimize edilmiştir. Bu aşamanın hızlandırılması, toplam işlem hacmini ve verimliliği iyileştirmeyi amaçlar.

Lumai, Iris Nova’nın Llama 8B ve 70B gibi modelleri gerçek zamanlı olarak çalıştırabildiğini bildiriyor. Bu da sistemin yalnızca deneysel kullanımları değil, üretim ölçekli iş yüklerini de işleyebileceğine işaret ediyor.

Çıkarım Çağına Geçiş

Lansman, AI önceliklerinde daha geniş bir değişimi yansıtıyor. Büyük modelleri eğitmek, haber başlıklarını domine etti, ancak AI’nın gerçek dünya etkisi artık modellerin ne kadar verimli bir şekilde dağıtılabileceği ve ölçeklendirilebileceği ile tanımlanıyor.

Bu değişim, eğitim aşamasında daha az görünür olan tıkanıklıkları ortaya çıkarıyor. Çıkarım iş yükleri sürekli, gecikme duyarlı ve enerji yoğundur, bu nedenle verimlilik kritik bir faktör haline geliyor.

Lumai’nin sistemi, bu aşama için özel olarak tasarlandı ve ham hesaplama gücü yerine watt başına işlem hacmi üzerine odaklanıyor.

Erken erişim ve sektör üzerindeki etkiler

Iris Nova sunucusu şimdi hyperscaler’lar, şirketler ve araştırma kurumları tarafından değerlendirilmek üzere kullanılabilir. Iris ailesindeki Aura ve Tetra gibi ek sistemlerin daha sonra gelerek performans ve dağıtım seçeneklerini genişletmesi bekleniyor.

Eğer optik hesaplama vaatlerini büyük ölçekte gerçekleştirebilirse, AI altyapısının ekonomisini yeniden şekillendirebilir. Düşük enerji tüketimi ve daha yüksek verimlilik, yalnızca operasyonel maliyetleri azaltmakla kalmayabilir, aynı zamanda AI’nin çevresel etkileri hakkındaki artan endişeleri de ele alabilir.

Teknolojinin ne kadar hızlı benimseneceği henüz belli olmasa da Lumai’nin duyurusu, AI hesaplama geleceğinin yalnızca silikondan oluşmayabileceği yönünde net bir yönü vurguluyor.

Antoine, Unite.AI'nin vizyoner lideri ve kurucu ortağıdır. Yapay zekâ ve robotiğin geleceğini şekillendirmeye ve ilerletmeye yönelik sarsılmaz bir tutku taşır. Birden fazla şirket kurmuş bir girişimci olarak yapay zekânın toplumu elektrik kadar köklü biçimde dönüştüreceğine inanır ve çığır açan teknolojiler ile yapay genel zekânın (AGI) potansiyelinden sık sık heyecanla söz eder.

Bir fütürist olarak bu yeniliklerin dünyamızı nasıl şekillendireceğini araştırmaya kendini adamıştır. Ayrıca geleceği yeniden tanımlayan ve tüm sektörleri dönüştüren ileri teknolojilere yatırım yapmaya odaklanan Securities.io platformunun kurucusudur.