Dr. Xianxin Guo, administrerende direktør og medstifter af Lumai – Intervju-serie

Dr. Xianxin Guo, administrerende direktør og medstifter af Lumai, er en fysiker og deep-tech-iværksætter, der specialiserer sig i optisk computing og AI-hardware, med en ph.d. i kvantefysik og ikke-lineær optik fra Hong Kong University of Science and Technology. Han har tidligere haft forskningsroller, herunder en postdoc-stilling ved University of Calgary og en 1851 Research Fellowship ved University of Oxford, hvor han bidrog til fremskridt i fotonik og AI-acceleration. Han er avanceret fra Lumai fra forskningschef til administrerende direktør, og han er den primære opfinder bag virksomhedens kerne-teknologi og bringer mere end et årti af erfaring på tværs af fysik, maskinlæring og avancerede computersystemer.

Lumai er en spin-out fra Oxford University, der udvikler næste generations AI-processorer baseret på 3D optisk computing, hvor lyset bruges i stedet for elektricitet til at udføre nøgle-AI-beregninger. Deres teknologi er designet til at accelerere matrix-operationer, der understøtter moderne AI-modeller, og leverer betydeligt hurtigere proceshastigheder samtidig med, at energiforbruget reduceres i forhold til traditionelle silicium-baserede GPU’er. Ved at integrere optisk beregning i eksisterende datacenter-miljøer sigter Lumai mod at enable mere skalerbar og omkostningseffektiv AI-udrulning, og løser dermed de voksende begrænsninger omkring beregningskraft og energiforbrug i store AI-systemer.

De startede deres karriere inden for kvantefysik og ikke-lineær optik, og blev senere 1851 Research Fellow ved University of Oxford, før de co-fandt Lumai fra deres forskning. Hvad var det afgørende øjeblik, hvor de indså, at optisk computing kunne gå fra akademisk teori til en kommercielt viable virksomhed?

Under hans tid ved University of Oxford undersøgte de, hvordan lysets egenskaber i fri rum kunne bruges til at løse de slags matrix-operationer, der understøtter maskinlæring. Samtidig blev begrænsningerne for konventionel hardware til AI mere vigtige. Konvergencen af disse udfordringer, som de havde løst i deres forskning, og behovet for mere effektiv beregning gav dem tillid til, at de kunne tage deres idéer og løse virkelige problemer.

De er kommet langt fra den oprindelige forskning – hos Lumai har de nu bygget verdens første optiske beregnings-system, der kan køre billion-parameter LLM’er i realtid.

Lumai tager fat på en af de største flaskehalse i AI i dag, nemlig energi- og skaleringsbegrænsningerne for silicium-baseret computing. Hvad var de specifikke begrænsninger i traditionelle arkitekturer, der fik dem til at gå i en fundamentalt anderledes retning med lyset?

Det, der fik dem til at gå i en anden retning, var den begrænsede udvikling af silicium-løsninger. Med silicium ser man kun marginale forbedringer, men de kommer med urentable stigninger i forbrug og kompleksitet. Begrænsningerne for silicium-skalaering skyldes primært fysikken – frekvenserne stiger ikke, og antallet af transistorer, der kan skiftes, er begrænset af termiske problemer. Lækstrømme fortsætter med at være et problem. Det estimeres, at silicium kun bidrager med en 25% årlig stigning i ydelse.

Det er på det tidspunkt, det giver mening at spørge, om en anden fysisk medium måske kan håndtere disse operationer mere naturligt, i stedet for at fortsætte med at presse elektroner hårdere.

Hans arbejde fokuserer på optisk computing og maskinlæring. Hvordan ændrer brugen af fotoner i stedet for elektroner fundamentalt, hvordan beregning sker på hardware-niveau?

Med elektroner er beregningerne inherent sekventielle og tabsgivende – man skifter transistorer, flytter ladning, genererer varme. Hver operation har en termisk omkostning, og den omkostning akkumulerer.

Fotoner opfører sig meget anderledes. Lyset rejser uden de samme resistive tab, og kritisk set kan enorme antal matrix-operationer udføres parallelt ved at strukturere, hvordan lysstråler interagerer gennem et fysisk medium. Beregningen sker i sig selv i lysets propagation, ikke i skiftningen af milliarder af porte.

Lumais teknologi udnytter 3D optisk procesering og massiv spatial parallelisme. Kan han forklare, hvordan denne arkitektur ermögiller så dramatiske forbedringer i gennemløb og effektivitet i forhold til GPU’er?

Målet er at udføre tæt matrix-multiplication så effektivt og hurtigt som muligt i en enkelt cyklus. Lumais tilgang gør netop det ved at bruge lyset i en tredimensionel volumen, hvor millioner af operationer udføres samtidig.

Man kan simpelthen ikke opnå det niveau af parallelisme i 2D-strukturer, hvor operationer behandles på tværs af hundredvis af kerner, der kræver konstant data-bevægelse. Det er denne indre parallelisme – kombineret med, at når man er i lysets domæne, kan operationer udføres uden at forbruge energi – der driver både gennemløbsforbedringen og den dramatiske reduktion i energi per token.

Mange AI-infrastruktur-virksomheder fokuserer stadig på træning, mens Lumai sigter mod inference. Hvorfor tror han, at inference er den afgørende udfordring i denne næste fase af AI?

Inference er, hvor AI faktisk gør noget nyttigt – hver forespørgsel besvaret, hver agent-opgave udført, hver dokument genereret. De er nu indtrådt i inference-æraen, og efterspørgslen vokser med en hastighed, som trænings-fokuseret hardware aldrig var designet til at absorbere.

Økonomien er også anderledes: inference kører kontinuerligt på tværs af millioner af brugere. Omkostning per token bliver den afgørende målestok, og det er, hvor energimuren rammer hardest.

Hvad der gør inference særligt velegnet til optisk beregning, er, at forfyldningsfasen er stærkt beregningsbunden. I denne forfyldningsfase af decentraliseret inference behandles den fulde kontekst, før der genereres en respons. Dette matcher næsten perfekt på deres optiske motor, og det er, hvor de har fokuseret først.

En af de langvarige udfordringer i optisk computing har været stabilitet og skalerbarhed. Hvad var de afgørende tekniske gennembrud, der tillod Lumai at overvinde disse barrierer?

Udfordringen var aldrig at demonstrere, at optik kunne udføre beregning – forskere havde vist, at det i princippet havde været muligt i årevis. Udfordringen var at gøre det arbejde på skala, uden for laboratoriet.

To ting var vigtigst. Først bruger de samme komponenter, der allerede er udrullet i datacentre i dag til kommunikation og netværk. Ingen eksotiske materialer, ingen spekulative forsyningskæde. Anden, de valgte en hybrid-design, der kombinerer den optiske tensor-motor med digital procesering til systemkontrol og software.

Hans system bruger en hybrid-tilgang, der kombinerer optiske og digitale komponenter. Hvor vigtig er denne balance i at gøre optisk computing praktisk for virkelige datacenter-udrulning?

Det er fundamentalt. Optisk computing betyder ikke, at man erstatter alt med lyset. Digitale systemer er ekstraordinært gode til kontrol, sekvensering og grænseflade til den software-økosystem, industrien har bygget op over årtier. Deres optiske motor excellerer i de kerne-matematiske operationer, der dominerer inference-beregning. Den hybrid-arkitektur lader hver komponent gøre, hvad den gør bedst.

Set fra en udrulningsstandpunkt er det enormt vigtigt. Lumai Iris integrerer i eksisterende datacenter-infrastruktur, bruger standard-grænseflader og kører virkelige modeller, herunder Llama 8B og 70B i dag.

Med annonceringen af Lumai Iris-familien, især Iris Nova-serveren, hvad signalerer det, at man opnår realtid-inference på billion-parameter-modeller for fremtiden for AI-infrastruktur?

Det signalerer, at optisk computing er gået fra forskning til virkelighed. At køre billion-parameter-modeller i realtid er det bevis, industrien havde brug for. Lumai Iris Server-familien består af tre servere: Nova, Aura og Tetra. Lumai Iris Nova, den første server i familien, er tilgængelig for evaluering nu, og de er allerede i gang med at engagere sig med partnere, der vil bruge det mod virkelige inference-workloads.

I bredere forstand signalerer det, at trajektorien for AI-infrastruktur er på vej til at ændre sig. Antagelsen har været, at skalering af inference betyder at købe mere GPU’er, forbruge mere energi, bygge større datacentre. Lumai Iris Nova viser, at der er en anden vej – en, der leverer dramatisk mere ydelse per kilowatt og en fundamentalt anderledes omkostningsstruktur per token. Da Lumai Iris-server-familien udvikles, vil implikationerne for, hvordan hyperscalere og virksomheder tænker om compute-anskaffelse, være betydelige.

Pressemeddelelsen fremhæver op til 90% lavere energiforbrug i forhold til traditionelle systemer. Hvor vigtig er dette gennembrud i sammenhæng med de voksende energibegrænsninger, der møder globale datacentre?

Energibegrænsningen er den afgørende infrastruktur-udfordring i AI-æraen – strømkapacitet er allerede en begrænsende faktor for udrulningsplaner, og de er nået til den såkaldte strømvæg.

Mod denne baggrund ændrer en 90% reduktion i energiforbrug den fundamentale økonomi og gennemførlighed af AI på skala. Et enkelt Lumai-system kan erstatte titusinder af strømslugende GPU’er, hvilket oversætter sig til en betydelig ændring i, hvad der kan opnås inden for en given strøm-område.

Der er også en omkostningsdimension: datacenter-byggeomkostninger afspejler strømkapacitet, så et lavstrøms-datacenter koster mindre at bygge. Reducerer energiforbrug reducerer direkte omkostning per token – hvilket ultimativt er, hvad der gør AI økonomisk bæredygtig på den skala, industrien bygger imod.

Set fremad, da industrien begynder at tale om en post-silicium-æra, hvordan ser han, at optisk computing udvikler sig over de næste ti år, og hvilken rol vil Lumai spille i denne overgang?

Post-silicium-æraen er allerede begyndt, og det sker samtidig med skiftet til inference-æraen og den fortsatte efterspørgsel efter mere ydelse til lavere omkostning per token. Silicium vil naturligvis fortsætte med at spille en rolle, men antagelsen om, at hver generation af beregningsforbedring kommer fra avancerede silicium-noder, er ikke længere troværdig i den takt, AI kræver. De ser optisk computing blive brugt i nøgle-dele af stakken, hvor høj-parallell, høj-gennemløb-beregning er nødvendig.

For Lumai er vejrkortet at fortsætte med at presse tætheden, effektiviteten og kapaciteten af optisk computing og rulle det ud til datacentre. Visionen er en verden, hvor energi-omkostningen for intelligens falder, og hvor et megawatt-størrelse datacenter kan generere det samme token-volumen som et gigawatt-størrelse facilitet gør i dag.

Den fremtid er ikke fjern spekulation. De har bygget det første system, der viser, at optisk computing fungerer på skala. Alt herfra er ingeniørarbejde.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Lumai.