Phillip Burr, Lumai Ürün Müdürü – Röportaj Serisi

Phillip Burr, Lumai’nin Ürün Müdürüdür ve global ürün yönetiminde, pazara sürme ve liderlik rollerinde 25 yılı aşkın deneyime sahiptir. Ayrıca, önde gelen yarı iletken ve teknoloji şirketlerinde ürün ve hizmetleri oluşturma ve ölçeklendirme konusunda kanıtlanmış bir geçmişe sahiptir.

Lumai, bir İngiltere merkezli derin teknoloji şirketidir ve yapay zeka iş yüklerini hızlandırmak için 3D optik hesaplama işlemcileri geliştirir. Işık demetleri kullanarak üç boyutlu matris-vektör çarpımı gerçekleştiren teknoloji, geleneksel silikon tabanlı hızlandırıcılara kıyasla 50 kat daha yüksek performans ve %90 daha düşük enerji tüketimi sunar. Bu, özellikle büyük dil modelleri dahil olmak üzere yapay zeka çıkarımı görevleri için çok uygundur ve aynı zamanda enerji maliyetlerini ve çevresel etkiyi önemli ölçüde azaltır.

Lumai’nin kurulmasına ne ilham verdi ve bu fikir nasıl Oxford Üniversitesi’ndeki araştırmadan ticari bir girişime dönüştü?

İlk kıvılcım, Lumai’nin kurucularından biri olan Dr. Xianxin Guo’nun Oxford Üniversitesi’nde 1851 Araştırma Bursu aldığı zaman ortaya çıktı. Röportajcılar, optik hesaplamanın potansiyelini anladılar ve Xianxin’e, araştırması başarılı olursa patent almak ve şirket kurmak isteyip istemediğini sordular. Bu, Xianxin’in yaratıcı zihnini harekete geçirdi ve o, Lumai’nin diğer kurucularından biri olan Dr. James Spall ile birlikte, ışığı kullanarak yapay zeka performansını dramatik olarak artırabileceğini ve enerjiyi azaltabileceğini kanıtladığında, sahne hazırlandı. Onlar, mevcut silikon tabanlı yapay zeka donanımının (ve hala öyle olan) performansını artırırken güç ve maliyeti önemli ölçüde artırdığını biliyorlardı, bu nedenle optik hesaplama kullanarak müşterilerin isteyeceği bir ürün oluşturabilirler. Bu fikri bazı risk sermayedarlarına taşıdılar ve onlar da Lumai’yi kurmak için desteklediler. Lumai yakın zamanda ikinci finansman turunu tamamladı ve 10 milyon doların üzerinde bir yatırım aldı ve ayrıca optik hesaplamanın yapay zeka performansını artırma talebini karşılayabileceğine inanan yeni yatırımcılar da dahil oldu.

Arm, indie Semiconductor (INDI ) ve diğer şirketlerdeki etkileyici kariyerinizden sonra, Lumai’ye bu aşamada neden katıldınız?

Kısa cevap, takım ve teknolojidir. Lumai, optik, makine öğrenimi ve veri merkezi uzmanlarından oluşan etkileyici bir takıma sahiptir ve bu takım, Meta, Intel (INTC ), Altera, Maxeler, Seagate ve IBM (ve kendi deneyimim olan Arm, indie, Mentor Graphics ve Motorola) gibi şirketlerden gelen deneyimlere sahiptir. Ben, yapay zeka çıkarımının maliyetini azaltma konusundaki zorluğun üstesinden gelmek için odaklanan bu kadar yetenekli insanların harika şeyler yapabileceğine inanıyorum.

Yapay zeka geleceğinin yeni, yenilikçi atılımlar gerektirdiğine inanıyorum. 50 kat daha yüksek yapay zeka performansı sunma ve bugün kullanılan çözümlere kıyasla yapay zeka çıkarım maliyetini 1/10’a indirme vaadi, kaçırılmayacak bir fırsattı.

Kurucu ekibiniz, araştırma başarısından ürün hazır bir şirkete geçerken hangi erken teknik veya iş zorluklarıyla karşılaştı?

Araştırma başarısı, optiğin hızlı ve verimli matris-vektör çarpımı için kullanılabileceğini kanıtladı. Teknik başarıya rağmen, en büyük zorluk, insanların Lumai’nin diğer optik hesaplama şirketlerinin başarısızlıklarından farklı olduğunu anlamasını sağlamaktı. Zamanımızı, Lumai’nin yaklaşımının çok farklı olduğunu ve tek bir 2D yonga yerine 3D optiği kullanarak ölçek ve verimliliği elde ettiğini açıklamakla geçirdik. Laboratuvar araştırmalarından yüksek hacimli ürün geliştirmeye ve veri merkezlerine birçok adım vardır. Başarı anahtarının, yüksek hacimli ürün geliştirme ve veri merkezi deneyimi olan mühendisleri getirmek olduğunu erken fark ettik. Diğer bir alan, yazılımdır – standart yapay zeka çerçevelerinin ve modellerinin Lumai’nin işlemcisinden yararlanabilmesi ve yapay zeka yazılım mühendisleri için bu işlemi mümkün olduğunca sorunsuz hale getirebilmemiz çok önemlidir.

Lumai’nin teknolojisini basit terimlerle açıklar mısınız?

Yapay zeka sistemleri, matris-vektör çarpımı gibi birçok matematiksel hesaplama yapmalıdır. Bu hesaplamalar, yapay zeka cevaplarının çalışmasını sağlayan motorlardır. Lumai’de, bu hesaplamaları elektrik yerine ışık kullanarak gerçekleştiriyoruz. İşte nasıl çalıştığı:

1. Bilgiyi ışık demetlerine kodlarız
2. Bu ışık demetleri üç boyutlu uzayda seyahat eder
3. Işık, lenslerle ve özel malzemelerle etkileşime girer
4. Bu etkileşimler, matematiksel işlemi tamamlar

Üç boyutlu uzayı kullanarak, her ışık demetiyle daha fazla bilgi işleyebiliriz. Bu, yaklaşımımızın çok verimli olmasını sağlar – yapay zeka sistemlerini çalıştırmak için gereken enerji, zaman ve maliyeti azaltır.

Optik hesaplamanın geleneksel silikon tabanlı GPU’lar ve entegre fotoniklere kıyasla ana avantajları nelerdir?

Silikon teknolojisindeki ilerleme hızı önemli ölçüde yavaşladı, bu nedenle her bir silikon-only yapay zeka işlemcisindeki (örneğin bir GPU) performans artışı, güçte önemli bir artışa neden olur. Silikon-only çözümler, inanılmaz miktarda güç tüketir ve geri dönülmez bir yola girer, bu da onları son derece karmaşık ve pahalı hale getirir. Optiğin avantajı, optik alanına girildiğinde neredeyse hiç güç tüketilmemesidir. Enerji, optik alanına girmek için kullanılır, ancak örneğin Lumai’nin işlemcisinde, her ışık demeti için her döngüde 1.000’den fazla hesaplama işlemi gerçekleştirebiliriz, bu da çok verimli olmasını sağlar. Bu ölçeklenebilirlik, entegre fotoniklerle elde edilemez, çünkü hem fiziksel boyut kısıtlamaları hem de sinyal gürültüsü nedeniyle, Lumai’nin bugün gerçekleştirebildiğinin sadece 1/8’ini gerçekleştirebilir.

Lumai’nin işlemcisi nasıl neredeyse sıfır gecikme ile çıkarım gerçekleştirir ve bu, modern yapay zeka iş yükleri için neden çok önemli bir faktördür?

Aslında, Lumai işlemcisinin sıfır gecikme sunmadığını söyleyemeyiz, ancak çok büyük (1024 x 1024) bir matris-vektör işlemi tek bir döngüde gerçekleştirir. Silikon-only çözümler, bir matrisi daha küçük matrislere ayırır, bunları adım adım işler ve sonra sonuçları birleştirir. Bu, zaman alır ve daha fazla bellek ve enerji kullanımına neden olur. Yapay zeka işleminin zamanını, enerjisini ve maliyetini azaltmak, hem daha fazla işletmenin yapay zekadan yararlanabilmesi hem de yapay zekayı en sürdürülebilir şekilde etkin bir şekilde kullanabilmesi için çok önemlidir.

PCIe uyumlu form faktörünüzü mevcut veri merkezi altyapısına nasıl entegre ediyorsunuz?

Lumai işlemcisi, standart bir CPU ile birlikte PCIe form faktörü kartlarını ve standart 4U rafta kullanır. Veri merkezi raft ekipman tedarikçileriyle birlikte çalışıyoruz, böylece Lumai işlemcisi kendi ekipmanlarıyla entegre olur. Standart ağ arayüzleri, standart yazılımlar vb. kullanıyoruz, böylece dışarıdan bakıldığında, Lumai işlemcisi herhangi bir diğer veri merkezi işlemcisinden farklı görünmeyecektir.
Veri merkezi enerji tüketimi artan bir küresel endişe kaynağı. Lumai, yapay zeka hesaplama için sürdürülebilir bir çözüm olarak kendini nasıl konumlandırıyor?

Veri merkezi enerji tüketimi alarm verici bir oranda artıyor. Lawrence Berkeley Ulusal Laboratuvarı’nın bir raporuna göre, ABD’deki veri merkezi enerji tüketimi 2028 yılına kadar üç katına çıkacak ve ülkenin enerji tüketiminin %12’sini tüketecek. Bazı veri merkezi operatörleri, gereken enerjiyi sağlamak için nükleer enerji düşünüyor. Endüstri, yapay zeka için farklı yaklaşımlar aramalıdır ve biz, optiğin enerji krizine çözüm olabileceğine inanıyoruz.

Lumai’nin mimarisi, mevcut silikon ve fotonik yaklaşımların ölçeklenebilirlik engellerini nasıl aşar?

İlk Lumai işlemcisinin performansı, ulaşılabilir olanın sadece başlangıcıdır. Performansı, optik saat hızlarını ve vektör genişliklerini artırarak, tüketilen enerjiyi artırmadan büyük adımlarla artırabileceğimizi bekliyoruz. Hiçbir başka çözüm bunu başaramaz. Standart dijital silikon-only yaklaşımlar, her performans artışı için daha fazla güç ve maliyet tüketmeye devam edecek. Silikon fotonik, gerekli vektör genişliğini elde edemez ve bu nedenle, veri merkezi hesaplama için entegre fotoniklere bakan şirketler, artık veri merkezi içindeki diğer kısımlara, örneğin optik arabirim veya optik anahtarlama gibi alanlara odaklanmaya başladı.

Yapay zeka geleceğinde ve genel olarak hesaplama alanında optik hesaplamanın rolünü nasıl görüyorsunuz?

Optik, veri merkezlerinde gelecekte büyük bir rol oynayacak – optik arabirim, optik ağ, optik anahtarlama ve elbette optik yapay zeka hesaplama. Yapay zeka, veri merkezlerinde optiğe geçişin ana sürücüsü. Optik arabirim, büyük yapay zeka modelleri için yapay zeka işlemcileri arasındaki daha hızlı bağlantılar sağlayacak. Optik anahtarlama, daha verimli ağ oluşturmayı sağlayacak ve optik hesaplama, daha hızlı, daha enerji verimli ve daha düşük maliyetli yapay zeka hesaplama sağlayacak. Toplu olarak, bunlar, hesaplama tarafında silikon ölçeklenmesinin yavaşlaması ve arabirim tarafında bakırın hız sınırlamaları gibi zorlukların üstesinden gelerek, daha gelişmiş yapay zeka ermögeyi sağlayacak.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Lumai‘yi ziyaret edebilir.