Dr. Xianxin Guo, Lumai’nin CEO ve Kurucu Ortağı – Röportaj Serisi

Dr. Xianxin Guo, Lumai’nin CEO ve kurucu ortağı, optik hesaplama ve yapay zeka donanımı alanında uzmanlaşmış bir fizikçi ve derin teknoloji girişimcisidir. Hong Kong Bilim ve Teknoloji Üniversitesi’nden kuantum fiziği ve doğrusal olmayan optik alanında doktorasını tamamlamıştır. Daha önce Calgary Üniversitesi’nde araştırma görevlisi ve Oxford Üniversitesi’nde 1851 Araştırma Bursu sahibi olarak görev yapmış ve fotonik ve yapay zeka hızlandırma alanındaki ilerlemelere katkıda bulunmuştur. Lumai’de Araştırma Müdürü’nden CEO’ya yükselen Dr. Guo, şirketin temel teknolojisinin ilk mucidi olup, fizik, makine öğrenimi ve gelişmiş hesaplama sistemleri arasındaki kesişmede on yıldan fazla deneyim sahiptir.

Lumai, Oxford Üniversitesi’nden çıkan bir şirket olup, 3D optik hesaplama tabanlı bir sonraki nesil yapay zeka işlemcileri geliştirmektedir. Bu teknoloji, modern yapay zeka modellerinin temelini oluşturan matris işlemlerini hızlandırmak için tasarlanmıştır. Böylece, geleneksel silikon tabanlı GPU’lere kıyasla önemli ölçüde daha hızlı işleme hızları sunarken enerji tüketimini azaltır. Lumai, optik hesaplama teknolojisini mevcut veri merkezi ortamlarına entegre ederek, daha ölçeklenebilir ve maliyet etkin yapay zeka dağıtımı sağlamayı hedeflemektedir. Bu sayede, büyük ölçekli yapay zeka sistemlerinde karşılaşılan hesaplama gücü ve enerji tüketimi sınırlamalarını ele almaktadır.

Kariyerinize kuantum fiziği ve doğrusal olmayan optik alanında başladınız, daha sonra Oxford Üniversitesi’nde 1851 Araştırma Bursu sahibi oldunuz ve Lumai’yi araştırma çalışmalarınızdan kurduk. Optik hesaplamanın akademik teori olmaktan çıkıp ticari olarak uygulanabilir bir şirket haline gelmesi için dönüm noktası neydi?

Oxford Üniversitesi’nde olduğum sırada, serbest uzaydaki ışığın özelliklerinin makine öğrenimi temelini oluşturan matris işlemlerini çözmek için nasıl kullanılabileceğini araştırıyorduk. Aynı zamanda, yapay zeka için geleneksel donanımın sınırları daha önemli hale geliyordu. Bu zorlukların çözümünü sağladığımız araştırma ve daha verimli hesaplama ihtiyacının birleşmesi, fikirlerimizle gerçek dünya sorunlarını çözebileceğimiz konusunda bize güven verdi.

O ilk araştırmadan bu yana büyük ilerleme kaydettik – Lumai’de şimdi milyarlarca parametreli LLM’leri gerçek zamanlı olarak çalıştırabilen dünyanın ilk optik hesaplama sistemini inşa ettik.

Lumai, günümüzde yapay zeka alanında karşılaşılan en büyük engellerden biri olan enerji ve ölçeklenebilirlik sınırlamalarını ele almak için çalışıyor. Geleneksel mimarilerin size optik hesaplama kullanarak farklı bir yaklaşım benimsemeye iten específik sınırlamalar nelerdi?

Bizi iten şey, silikon çözümlerinin sınırlı ilerlemesiydi. Silikon ile, sadece küçük ölçekli kazanımlar görülüyor, ancak bunlar orantısız şekilde artan güç ve karmaşıklıkla geliyor. Silikon ölçekleme sınırlaması esas olarak fiziksel – frekanslar artmıyor ve termal sınırlamalar nedeniyle değiştirilebilecek transistör sayısı sınırlı. Kaçak akımlar devam ediyor. Silikonun yalnızca yılda %25’lik performans artışı sağladığı tahmin ediliyor.

Bu noktada, bu işlemleri daha doğal bir şekilde ele alabilecek farklı bir fiziksel ortam olup olmadığını sorgulamak mantıklıdır, plutôt silikonu daha da zorlamak yerine.

Araştırma alanınız optik hesaplama ve makine öğrenimi üzerinedir. Işık yerine elektronları kullanmak, donanım düzeyinde hesaplama şeklini nasıl temel olarak değiştirir?

Elektronlarla hesaplama esasen sıralı ve kayıp içerir – transistörleri açıp kapatabiliyor, yük taşıyabiliyor ve ısı üretebiliyorsunuz. Her işlem bir termal maliyeti vardır ve bu maliyet birikir.

Fotonlar çok farklı davranır. Işık, aynı direnç kayıpları olmadan seyahat eder ve kritik olarak, ışığın özelliklerini kullanarak, enormous sayıda matris işlemi, ışın demetlerinin bir fiziksel ortam aracılığıyla nasıl etkileşime girdiğini yapılandırarak paralel olarak gerçekleştirilebilir. Hesaplama, ışığın自己 propagationunda gerçekleşir, değil de milyarlarca kapıların açılıp kapanmasında.

Lumai’nin teknolojisinde 3D optik işleme ve büyük ölçekli paralellik kullanılıyor. Bu mimari, GPU’lere kıyasla böyle dramatik bir şekilde hız ve verimlilik artışını nasıl sağlar?

Hedef, yoğun matris çarpımını mümkün olduğunca verimli ve hızlı bir şekilde tek bir döngüde gerçekleştirmektir. Lumai’nin yaklaşımı, ışığı üç boyutlu bir hacimde kullanarak, milyonlarca işlemi aynı anda gerçekleştirir.

2D yapılar gibi, işlemler yüzlerce çekirdek boyunca işlenmektedir ve sürekli veri hareketi gerekmektedir. Bu içkin paralellik – ışığın domaine girdiğinde işlemlerin güç tüketmeden gerçekleştirilebileceği gerçeği ile birleştiğinde – hem hız artışını hem de enerji tüketimindeki dramatik azalmayı sağlar.

Çok sayıda yapay zeka altyapısı şirketi hala eğitim odaklıyken, Lumai çıkarsama odaklı çalışıyor. Neden çıkarsama的问题ının bu yapay zeka aşamasının tanımlayıcı zorluğu olduğuna inanıyorsunuz?

Çıksama, yapay zeka’nın gerçekten bir şeyler yaptığı yer – her cevaplanan soru, her tamamlanan ajan görevi, her oluşturulan belge. Şimdi çıkarsama dönemine girdik ve talep, eğitim odaklı donanımın asla absorbe edilmemesi gereken bir oranda büyüyor.

Ekonomi de farklı – çıkarsama sürekli olarak milyonlarca kullanıcı boyunca çalışır. Token başına maliyet, enerji duvarının en çok vurduğu yerdir.

Çıksama özellikle optik hesaplama için uygun hale getiren şey, ön doldurma aşamasının ağır hesaplama gerektirmesidir. Bu aşama, optik motorumuza neredeyse mükemmel bir şekilde karşılık gelir ve ilk olarak buna odaklandık.

Optik hesaplamanın uzun süredir devam eden bir zorluğu, istikrar ve ölçeklenebilirlikti. Lumai’nin bu engelleri aşmasını sağlayan ana teknik ilerlemeler nelerdi?

Zorluk, optik hesaplamanın hesaplamayı gerçekleştirebileceğini göstermek değildi – araştırmacılar bu olasılığı yıllarca önce göstermişti. Zorluk, bunu laboratuvar dışında ölçeklenebilir bir şekilde çalıştırabilmekti.

İki şey mattered en çok. İlk olarak, günümüzde veri merkezlerinde iletişim ve ağ için kullanılan aynı bileşenleri kullanıyoruz. Hiçbir egzotik malzeme, hiçbir spekülatif tedarik zinciri yok. İkincisi, optik tensör motoruyla birlikte dijital işleme ve yazılım için sistem kontrolü ve yazılım için hibrit bir tasarım kullanarak bilinçli bir mimari seçim yaptık.

Sisteminiz optik ve dijital bileşenlerin bir kombinasyonunu kullanıyor. Optik hesaplamanın pratik olması için gerçek dünya veri merkezi dağıtımı açısından bu denge ne kadar önemli?

Temel. Optik hesaplama, her şeyi ışığa dönüştürmek anlamına gelmez. Dijital sistemler, kontrol, sıralama ve yazılım ekosistemimizle arayüze girme konusunda son derece iyiler. Optik motorumuz, çıkarsama hesabının hakim olduğu temel matematiksel işlemlerde mükemmel çalışıyor. Hibrit mimari, her bileşenin en iyi yaptığı şeyi yapmasını sağlıyor.

Dağıtım açısından, bu çok önemli. Lumai Iris, mevcut veri merkezi altyapısına entegre olur, standart arayüzyi kullanır ve gerçek modelleri, Llama 8B ve 70B gibi, bugün çalıştırır.

Lumai Iris ailesinin duyurusu, özellikle Iris Nova sunucusu, milyarlarca parametreli modellerde gerçek zamanlı çıkarsama yapılmasını sağlaması, yapay zeka altyapısının geleceği için ne anlama geliyor?

Bu, optik hesabın araştırma aşamasından gerçekliğe geçtiğini gösterir. Milyarlarca parametreli modelleri gerçek zamanlı olarak çalıştırabilmek, endüstrinin ihtiyaç duyduğu kanıttı. Lumai Iris Sunucu ailesi, üç sunucudan oluşuyor: Nova, Aura ve Tetra. Lumai Iris Nova, ailenin ilk sunucusu, şimdi değerlendirme için kullanılabilir ve gerçek çıkarsama iş yüklerine karşı çalıştırılmak isteyen ortaklarla zaten görüşüyoruz.

Genel olarak, bu, yapay zeka altyapısının ilerleme yolunun değişmek üzere olduğunu gösterir. Varsayım, çıkarsamayı ölçeklendirmenin daha fazla GPU satın almak, daha fazla güç çekmek, daha büyük veri merkezleri inşa etmek anlamına geldiği yönündeydi. Lumai Iris Nova, dramatik olarak daha fazla performans ve tamamen farklı bir maliyet yapısı sunan başka bir yol olduğunu gösterir. Lumai Iris sunucu ailesi geliştikçe, hyperscale’ler ve şirketlerin hesaplama altyapısı satın alma şekli konusunda önemli sonuçlar doğacaktır.

Basın açıklaması, geleneksel sistemlere kıyasla %90’a varan daha düşük enerji tüketimini vurguluyor. Bu atılım, küresel veri merkezlerinin karşılaştığı artan enerji kısıtlamaları bağlamında ne kadar önemli?

Enerji kısıtlaması, yapay zeka çağındaki altyapıların tanımlayıcı zorluğu – güç kapasitesi zaten dağıtım planlarını sınırlayan bir faktör ve “güç duvarına” ulaştık.

Bu arka plana karşı, %90’lık enerji tüketimindeki azalma, yapay zeka’nın büyük ölçekli uygulanmasının temel ekonomisini ve uygulanabilirliğini değiştirir. Tek bir Lumai sistemi, onlarca güç-hungry GPU’yu yerini alabilir, bu da belirli bir güç sınırı içinde ulaşılabilir olan şeyde önemli bir değişikliği temsil eder.

Ek olarak, bir maliyet boyutu vardır: veri merkezi inşaat maliyetleri, güç kapasitesini yansıtır, bu nedenle daha düşük güç gerektiren bir veri merkezi inşa etmek daha ucuzdur. Enerji tüketimini doğrudan azaltmak, token başına maliyeti azaltır – bu, yapay zeka’nın endüstrinin inşa etmeye çalıştığı ölçekte ekonomik olarak uygulanabilir olmasını sağlar.

İleriye bakıldığında, endüstri post-silikon dönemi hakkında konuşmaya başlarken, optik hesaplamanın bir sonraki on yıl içinde nasıl evrileceğini ve bu geçişte Lumai’nin rolünün ne olacağını öngörüyorsunuz?

Post-silikon dönemi zaten başlıyor ve bu, çıkarsama dönemine ve token başına daha düşük maliyetli performans talebine paralel olarak gerçekleşiyor. Silikon elbette rolünü oynayacak, ancak her hesaplamadaki ilerlemenin silikon nod’larının geliştirilmesinden geldiği varsayımı, yapay zeka’nın gerektirdiği hızda artık inandırıcı değil. Optik hesabın, yüksek paralel ve yüksek hızlı işlemlerin gerekli olduğu yığınların belirli kısımlarında kullanıldığını görüyoruz.

Lumai için yol haritası, optik hesabın yoğunluğunu, verimliliğini ve yeteneklerini devam ettirmek ve bunları veri merkezlerine dağıtmaktır. Vizyon, enerji maliyetinin düştüğü ve bir megawatt ölçekli veri merkezinin bugün bir gigawatt ölçekli tesisin aynı token hacmini üretebileceği bir dünyadır.

Gelecek değil, bu uzak bir spekülasyon değil. İlk sistemi inşa ettik, optik hesabın ölçeklenebilir olduğunu kanıtladık. Bundan sonra her şey mühendislik.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Lumai‘yi ziyaret edebilir.