Dr. Xianxin Guo, CEO a spoluzakladatel Lumai – Interview Series

Dr. Xianxin Guo, CEO a spoluzakladatel Lumai, je fyzik a deep-tech podnikatel specializující se na optické počítače a AI hardware, s titulem PhD v kvantové fyzice a nelineární optice z Hong Kong University of Science and Technology. Předtím zastával výzkumné role, včetně postdoktorandské pozice na University of Calgary a 1851 Research Fellowship na University of Oxford, kde přispěl k pokrokům v oblasti fotoniky a urychlení AI. Postupně se vypracoval z pozice Head of Research na CEO, je hlavním vynálezcem za základní technologií společnosti a má více než deset let zkušeností na rozhraní fyziky, strojového učení a pokročilých počítačových systémů.

Lumai je spinout z University of Oxford, který vyvíjí nové AI procesory založené na 3D optickém počítači, využívající světlo místo elektřiny pro provádění klíčových AI výpočtů. Jeho technologie je navržena pro urychlení maticových operací, které jsou základem moderních AI modelů, poskytujících významně rychlejší zpracování a snižující spotřebu energie ve srovnání s tradičními GPU založenými na křemíku. Integrací optického počítače do stávajících datových center, Lumai cílí na umožnění více škálovatelného a nákladově efektivního nasazení AI, řešící rostoucí omezení kolem výpočetního výkonu a spotřeby energie ve velkých AI systémech.

Začali jste svou kariéru v kvantové fyzice a nelineární optice, později jste se stal 1851 Research Fellow na University of Oxford, než jste spoluzaložil Lumai ze své výzkumné činnosti. Jaký byl zásadní moment, kdy jste si uvědomil, že optické počítače mohou přejít z akademické teorie do komerčně životaschopné společnosti?

Během mého působení na University of Oxford jsme zkoumali, jak vlastnosti světla ve volném prostoru mohou být použity pro řešení typů maticových operací, které jsou základem strojového učení. Přibližně ve stejnou dobu se stávaly omezení konvenčního hardware pro AI stále důležitějšími. Konvergence těchto výzev, které jsme vyřešili ve své výzkumné činnosti, a potřeba více efektivní výpočetní techniky, nám dala důvěru, že můžeme vzít naše nápady a řešit reálné problémy.

We have come a long way from that initial research – at Lumai we have now built the world’s first optical computing system capable of running billion-parameter LLMs in real time.

Lumai řeší jednu z největších úzkých míst v AI dnes, energetické a škálovatelnostní omezení křemíkového počítače. Jaké specifické omezení tradičních architektur vás vedlo k zásadně odlišnému přístupu využívajícímu světlo?

Co nás vedlo, byla omezená trajektorie křemíkových řešení. S křemíkem vidíte inkrementální zisky, ale ty přinášejí nepřiměřené zvýšení spotřeby energie a složitosti. Omezení škálovatelnosti křemíku je primárně způsobeno fyzikou – frekvence nejsou zvyšovány a počet tranzistorů, které lze přepnout, je omezen tepelnými ztrátami. Únikové proudy pokračují být problémem. Je odhadnuto, že křemík přispívá pouze k 25% meziročnímu zvýšení výkonu.

Na tomto místě má smysl se zeptat, zda by jiný fyzikální prostředek mohl zvládnout tyto operace přirozeněji, než pokračovat v tlačení elektronů.

Vaše práce se zaměřuje na optické počítače a strojové učení. Jak využívání fotonů místo elektronů zásadně mění způsob, jakým dochází k výpočtům na hardwarové úrovni?

S elektronovými výpočty je výpočet inherenčně sekvenční a ztrátový – přepínáte tranzistory, pohybujete nábojem, generujete teplo. Každá operace má tepelnou cenu, a tato cena se akumuluje.

Fotony se chovají velmi odlišně. Světlo cestuje bez stejné odporové ztráty, a kriticky, použitím vlastností světla, enormní počet maticových operací může být proveden paralelně jednoduše strukturou, jak se paprsky světla interagují skrze fyzický prostředek. Výpočet probíhá v samotném šíření světla, ne v přepínání miliard bran.

Technologie Lumai využívá 3D optické zpracování a masivní prostorovou paralelnost. Můžete vysvětlit, jak tato architektura umožňuje tak dramatické zlepšení propustnosti a efektivity ve srovnání s GPU?

Cílem je provést hustou maticovou násobení co nejefektivněji a nejrychleji v jednom cyklu. Přístup Lumai dělá přesně to, využívající světlo ve třech rozměrech, provádějící miliony operací současně.

Jenomže nelze dosáhnout takové úrovně paralelnosti ve 2D strukturách, kde operace jsou zpracovávány napříč stovkami jader vyžadujících konstantní pohyb dat. Je to tato inherenční paralelnost – kombinovaná se skutečností, že jednou jste v doméně světla, operace mohou být provedeny bez spalování energie – co pohání jak zlepšení propustnosti, tak dramatické snížení spotřeby energie na token.

Mnohé AI infrastrukturní společnosti se stále soustředí na trénování, zatímco Lumai cílí na inference. Proč si myslíte, že inference je definující výzvou této další fáze AI?

Inference je místem, kde AI skutečně něco dělá – každá odpověď na dotaz, každá agentura dokončená, každý dokument vygenerován. Nyní jsme vstoupili do éry inference, a poptávka roste rychlostí, kterou hardwarová zařízení zaměřená na trénování nebyla nikdy navržena absorbovat.

Ekonomika je také jiná: inference běží nepřetržitě, napříč miliony uživatelů. Náklad na token se stává definujícím metrikou, a to je místo, kde energetická bariéra zasahuje nejsilněji.

Co dělá inference zvláště vhodnou pro optické počítače, je, že předplněná fáze je silně vázaná na výpočet. V této předplněné fázi inference je plný kontext zpracován před vygenerováním odpovědi. To téměř dokonale mapuje na náš optický motor a je to místo, kde jsme se zaměřili jako první.

Jedna z dlouhodobých výzev v optickém počítači byla stabilita a škálovatelnost. Jaké byly klíčové technické průlomy, které umožnily Lumai překonat tyto bariéry?

Výzvou nebylo prokázat, že optika může provést výpočet – výzkumníci ukázali, že v zásadě po léta. Výzvou bylo udělat to fungovat v měřítku, mimo laboratoř.

Dvě věci měly největší význam. První, využíváme stejné typy komponent, které jsou již nasazeny v datových centrech dnes pro komunikaci a síťování. Žádné exotické materiály, žádná spekulativní dodavatelská síť. Druhé, udělali jsme úmyslnou architektonickou volbu použít hybridní design, kombinující optický tensorový motor s digitálním zpracováním pro systémový kontrol a software.

Vaše systém používá hybridní přístup kombinující optické a digitální komponenty. Jak důležitá je tato rovnováha při činění optického počítače praktickým pro reálné nasazení v datových centrech?

Je to zásadní. Optické počítače neznamenají nahradit všechno světlem. Digitální systémy jsou mimořádně dobré v kontrole, sekvencování a rozhraní se softwarem, který průmysl vybudoval za desetiletí. Naše optická jednotka vyniká v jádru matematických operací, které dominují inference výpočtu. Hybridní architektura umožňuje každé komponentě dělat to, co dělá nejlépe.

Ze strany nasazení to má enormní význam. Lumai Iris se integruje do stávající infrastruktury datových center, využívá standardní rozhraní a běží skutečné modely, včetně Llama 8B a 70B dnes.

S oznámením Lumai Iris, zvláště serveru Iris Nova, co znamená dosažení reálného inference na modelech s miliardami parametrů pro budoucnost AI infrastruktury?

Znamená to, že optické počítače překročily z výzkumu do reality. Běh na modelech s miliardami parametrů v reálném čase je důkaz, který průmysl potřeboval. Rodina serverů Lumai Iris se skládá ze tří serverů: Nova, Aura a Tetra. Lumai Iris Nova, první server v rodině, je k dispozici pro vyhodnocení nyní, a již jsme zapojeni s partnery, kteří chtějí jej použít proti reálným úlohám inference.

Širší, signalizuje to, že trajektorie AI infrastruktury se chystá změnit. Předpokladem bylo, že škálování inference znamená nákup více GPU, vyšší spotřebu energie, stavbu větších datových center. Lumai Iris Nova ukazuje, že existuje jiná cesta – ta, která poskytuje dramaticky více výkonu na kilowatt a фундаментально odlišnou cenu strukturu na token. Jak se rodina serverů Lumai Iris rozvíjí, důsledky pro to, jak hyperscalery a podniky myslí o výpočetním zásobování, budou významné.

Tisková zpráva zdůrazňuje až o 90 % nižší spotřebu energie ve srovnání s tradičními systémy. Jak významný je tento průlom v kontextu rostoucích energetických omezení, kterým čelí globální datová centra?

Energetická bariéra je definující infrastrukturní výzvou éry AI – kapacita energie je již omezujícím faktorem pro plány nasazení a jsme narazili na takzvanou energetickou zeď.

Proti tomuto pozadí je 90% snížení spotřeby energie zásadním průlomem, který mění fundamentální ekonomiku a proveditelnost AI v měřítku. Jeden systém Lumai může nahradit desítky energeticky náročných GPU, což se překládá do významného posunu toho, co je dosažitelné v rámci daného energetického obalu.

Je zde také nákladový rozměr: náklady na stavbu datového centra odrážejí kapacitu energie, takže datové centrum s nižší spotřebou energie stojí méně na stavbu. Snížení spotřeby energie přímo snižuje náklad na token – což je nakonec to, co činí AI ekonomicky životaschopnou v měřítku, na které průmysl směřuje.

Pohledem do budoucnosti, když průmysl začíná mluvit o post-silikonové éře, jak vidíte vývoj optického počítače v průběhu příštích deseti let, a jakou roli bude Lumai hrát při formování této transformace?

Post-silikonová éra již začíná, a to ve stejnou dobu jako přechod do éry inference a pokračující poptávka po lepším výkonu za nižší cenu na token. Křemík bude samozřejmě pokračovat ve hře, ale předpoklad, že každá generace výpočetního zlepšení pochází z pokroku křemíkových uzlů, již není důvěryhodný v tempu, které AI vyžaduje. Vidíme optické počítače jako použité v klíčových částech zásobníku, kde je vyžadováno vysoce paralelní, vysoce propustné zpracování.

Pro Lumai je roadmap o pokračujícím tlaku na hustotu, efektivitu a schopnosti optického počítače a rozvinutí toho do datových center. Vize je svět, kde energetická cena inteligence klesá a kde megawatt-škála datového centra může vygenerovat stejný objem tokenů jako gigawatt-škála zařízení dnes.

That future is not distant speculation. We have built the first system that proves optical compute works at scale. Everything from here is engineering.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Lumai.