Dr. Xianxin Guo, VD och medgrundare av Lumai – Intervjuserie

Dr. Xianxin Guo, VD och medgrundare av Lumai, är en fysiker och deep-tech-entreprenör som specialiserat sig på optisk datorhårdvara och artificiell intelligens, med en doktorsexamen i kvantfysik och icke-linjär optik från Hong Kong University of Science and Technology. Han har tidigare haft forskningsroller, inklusive en postdoktorand vid University of Calgary och en 1851 Research Fellowship vid University of Oxford, där han bidrog till framsteg inom fotonik och AI-acceleration. Genom att stiga genom Lumai från chef för forskning till VD är han den primära uppfinnaren bakom företagets kärnteknologi och har mer än ett decenniums erfarenhet av att arbeta i skärningspunkten mellan fysik, maskinlärning och avancerade datorsystem.

Lumai är ett spin-off från University of Oxford som utvecklar nästa generations AI-processorer baserade på 3D-optisk datorhårdvara, som använder ljus istället för elektricitet för att utföra viktiga AI-beräkningar. Deras teknologi är utformad för att accelerera matrisoperationer som ligger till grund för moderna AI-modeller, vilket ger betydligt snabbare bearbetningshastigheter samtidigt som energiförbrukningen minskas jämfört med traditionella kiselbaserade GPU:er. Genom att integrera optisk beräkning i befintliga datacentermiljöer syftar Lumai till att möjliggöra mer skalbar och kostnadseffektiv AI-distribution, vilket hanterar de växande begränsningarna kring beräkningskraft och energiförbrukning i storskaliga AI-system.

Du började din karriär inom kvantfysik och icke-linjär optik, och blev senare en 1851 Research Fellow vid University of Oxford innan du medgrundade Lumai från din forskning. Vad var den avgörande ögonblicket när du insåg att optisk datorhårdvara kunde gå från akademisk teori till ett kommersiellt livskraftigt företag?

Under min tid vid University of Oxford undersökte vi hur egenskaperna hos ljus i fri rymd kunde användas för att lösa de typer av matrisoperationer som ligger till grund för maskinlärning. Samtidigt blev begränsningarna för konventionell hårdvara för AI allt viktigare. Konvergensen av dessa utmaningar som vi hade löst i vår forskning och behovet av mer effektiv beräkning gav oss förtroendet att vi kunde ta våra idéer och lösa verkliga problem.

Vi har kommit långt från den initiala forskningen – på Lumai har vi nu byggt världens första optiska datorsystem som kan köra miljardparameters LLM:er i realtid.

Lumai hanterar en av de största flaskhalsarna inom AI idag, energi- och skalbarhetsbegränsningarna för kiselbaserad datorhårdvara. Vilka specifika begränsningar i traditionella arkitekturer ledde er till en fundamentalt annorlunda tillvägagångssätt med hjälp av ljus?

Det som drev oss var den begränsade utvecklingsbanan för kiselbaserade lösningar. Med kisel ser man endast marginella förbättringar, men de kommer med oproportionerligt stora ökningar av effektförbrukning och komplexitet. Begränsningarna för kiselbaserad skalbarhet beror främst på fysiken – frekvenserna ökar inte, och antalet transistorer som kan switchas är begränsat av termiska faktorer. Läckströmmar fortsätter att vara ett problem. Det beräknas att kisel endast bidrar till 25% årlig prestandaförbättring.

På den punkten är det meningsfullt att fråga om en annan fysisk medium kanske kan hantera dessa operationer på ett mer naturligt sätt, snarare än att fortsätta trycka på elektroner.

Ditt arbete fokuserar på optisk datorhårdvara och maskinlärning. Hur förändrar användningen av fotoner istället för elektroner på ett grundläggande sätt hur beräkningar sker på hårdvarunivå?

Med elektroner är beräkningar inneboende sekventiella och förlustrika – du switchar transistorer, flyttar laddning, genererar värme. Varje operation har en termisk kostnad, och den kostnaden ackumuleras.

Fotoner beter sig mycket annorlunda. Ljus reser utan samma resistiva förluster, och kritiskt, genom att använda egenskaperna hos ljus, kan enorma antal matrisoperationer utföras parallellt genom att strukturera hur ljusstrålar interagerar genom ett fysiskt medium. Beräkningen sker i själva ljusets utbredning, inte i switchandet av miljarder grindar.

Lumais teknologi utnyttjar 3D-optisk bearbetning och massiv rumslig parallelism. Kan du förklara hur denna arkitektur möjliggör så dramatiska förbättringar av dataflöde och effektivitet jämfört med GPU:er?

Målet är att utföra tät matrismultiplikation så effektivt och snabbt som möjligt i en enda cykel. Lumais tillvägagångssätt gör exakt detta genom att använda ljus i en tredimensionell volym, och utföra miljontals operationer samtidigt.

Man kan inte uppnå den här nivån av parallelism i 2D-strukturer, där operationer bearbetas över hundratals kärnor som kräver konstant dataförflyttning. Det är denna inneboende parallelism – kombinerad med det faktum att när man väl är i ljusdomänen, kan operationer utföras utan att förbruka energi – som driver både förbättringen av dataflöde och den dramatiska minskningen av energiförbrukning per token.

Många AI-infrastrukturföretag fokuserar fortfarande på utbildning, men Lumai fokuserar på inferens. Varför tror du att inferens är den avgörande utmaningen för denna nästa fas av AI?

Inferens är där AI faktiskt gör något användbart – varje fråga som besvaras, varje agentuppgift som slutförs, varje dokument som genereras. Vi har nu gått in i inferenseras, och efterfrågan ökar i en takt som utbildningsinriktad hårdvara aldrig var avsedd att absorbera.

Ekonomiskt sett är det också annorlunda: inferens körs kontinuerligt, över miljontals användare. Kostnad per token blir den avgörande metriken, och det är där energiväggen slår hårdast.

Vad som gör inferens särskilt lämplig för optisk beräkning är att förberedelsestadiet är starkt beräkningsbundet. I detta förberedelsestadium för avskild inferens bearbetas hela sammanhanget innan en respons genereras. Detta kartläggs nästan perfekt på vår optiska motor, och det är där vi har fokuserat först.

En av de långvariga utmaningarna inom optisk datorhårdvara har varit stabilitet och skalbarhet. Vilka var de viktigaste tekniska genombrotten som tillät Lumai att övervinna dessa hinder?

Utmaningen var aldrig att demonstrera att optik kunde utföra beräkningar – forskare hade visat att i princip under många år. Utmaningen var att göra det fungera i stor skala, utanför laboratoriet.

Två saker var viktigast. Först använder vi samma typer av komponenter som redan används i datacenter idag för kommunikation och nätverk. Inga exotiska material, inga spekulativa leverantörskedjor. För det andra gjorde vi ett medvetet arkitektiskt val att använda en hybridkonstruktion, som kombinerar den optiska tensor-motorn med digital bearbetning för systemkontroll och programvara.

Ert system använder en hybridmetod som kombinerar optiska och digitala komponenter. Hur viktigt är denna balans för att göra optisk datorhårdvara praktisk för verklig datacenterdistribution?

Det är grundläggande. Optisk datorhårdvara betyder inte att ersätta allt med ljus. Digitala system är extraordinärt bra på kontroll, sekvensering och gränssnitt mot den programvaruekosystem som branschen har byggt upp under årtionden. Vår optiska motor excellerar vid de centrala matematiska operationerna som dominerar inferensberäkning. Den hybrida arkitekturen låter varje komponent göra det den gör bäst.

Från ett distributionsperspektiv är detta enormt viktigt. Lumai Iris integreras i befintliga datacenterinfrastrukturer, använder standardgränssnitt och kör riktiga modeller, inklusive Llama 8B och 70B idag.

Med tillkännagivandet av Lumai Iris-familjen, särskilt Iris Nova-servern, vad signalerar det att uppnå realtidsinferens på miljardparametersmodeller för framtiden för AI-infrastruktur?

Det signalerar att optisk beräkning har gått från forskning till verklighet. Att köra miljardparametersmodeller i realtid är bevispunkten som branschen behövde. Lumai Iris Server-familjen består av tre servrar: Nova, Aura och Tetra. Lumai Iris Nova, den första servern i familjen, är tillgänglig för utvärdering nu, och vi är redan engagerade med partners som vill prova den mot riktiga inferensarbetsbelastningar.

Mer generellt signalerar det att banan för AI-infrastruktur är på väg att förändras. Antagandet har varit att skalning av inferens innebär att köpa fler GPU:er, dra mer effekt, bygga större datacenter. Lumai Iris Nova visar att det finns en annan väg – en som levererar dramatiskt bättre prestanda per kilowatt och en fundamentalt annorlunda kostnadsstruktur per token. När Lumai Iris-serverfamiljen utvecklas kommer implikationerna för hur hyperscalers och företag tänker på beräkningsanskaffning att vara betydande.

Pressmeddelandet betonar upp till 90% lägre energiförbrukning jämfört med traditionella system. Hur signifikant är detta genombrott i sammanhanget med de växande energibegränsningarna som globala datacenter står inför?

Energiavgränsningen är den definierande infrastrukturutmaningen för AI-eran – effektkapacitet är redan en begränsande faktor för distributionsplaner och vi har nått den så kallade effektväggen.

Mot denna bakgrund förändrar en 90% minskning av energiförbrukningen den grundläggande ekonomin och genomförbarheten för AI i stor skala. Ett enda Lumai-system kan ersätta tiotals energikrävande GPU:er, vilket översätts till en betydande förändring av vad som är möjligt inom en given effektomfång.

Det finns också en kostnadsdimension: datacenterbyggnadskostnader återspeglar effektkapacitet, så ett lågeffektsdatacenter kostar mindre att bygga. Minskad energiförbrukning minskar direkt kostnaden per token – vilket är vad som gör AI ekonomiskt livskraftig i den skala som branschen bygger mot.

Om man ser framåt, när branschen börjar tala om en post-silikon-era, hur ser du att optisk datorhårdvara utvecklas under de kommande tio åren, och vilken roll kommer Lumai att spela i denna övergång?

Post-silikon-eran har redan börjat, och det sker samtidigt som övergången till inferenseras och den fortsatta efterfrågan på mer prestanda till lägre kostnad per token. Silikon kommer förstås att fortsätta spela en roll, men antagandet att varje generation av beräkningsförbättring kommer från att förbättra kiselnoderna är inte längre trovärdigt i den takt som AI kräver. Vi ser optisk beräkning användas i viktiga delar av stacken där högt parallell, höggenomströmningsbearbetning behövs.

För Lumai handlar vägen framåt om att fortsätta trycka på densiteten, effektiviteten och kapaciteten för optisk beräkning och rulla ut det till datacenter. Visionen är en värld där energikostnaden för intelligens sjunker och där en megawattskalig datacenter kan generera samma tokenvolym som en gigawattskalig anläggning gör idag.

Den framtiden är inte avlägsen spekulation. Vi har byggt det första systemet som bevisar att optisk beräkning fungerar i stor skala. Allt från här är ingenjörskap.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Lumai.