Dr. Xianxin Guo, CEO og medgrunnlegger av Lumai – Intervju-serie

Dr. Xianxin Guo, CEO og medgrunnlegger av Lumai, er en fysiker og deep-tech-entrepreneur som spesialiserer seg på optisk datamaskin og AI-hardware, med en doktorgrad i kvantefysikk og ikke-lineær optikk fra Hong Kong University of Science and Technology. Han hadde tidligere forskningsroller, inkludert en postdoktor-stilling ved University of Calgary og en 1851 Research Fellowship ved University of Oxford, der han bidro til fremgang i fotonikk og AI-akselerasjon. Ved å stige gjennom Lumai fra forskningssjef til CEO, er han den primære oppfinneren bak selskapets kjerne-teknologi og bringer over et tiår med erfaring på交点et mellom fysikk, maskinlæring og avanserte datamaskin-systemer.

Lumai er en Oxford University-spinout som utvikler neste-generasjons AI-prosessorer basert på 3D optisk datamaskin, som bruker lys i stedet for elektrisitet for å utføre nøkkel AI-berginger. Deres teknologi er designet for å akselerere matris-berginger som ligger til grunn for moderne AI-modeller, og leverer betydelig raskere prosesseringshastigheter samtidig som energiforbruket reduseres sammenlignet med tradisjonelle silisium-baserte GPU-er. Ved å integrere optisk beregning i eksisterende data-senter-miljø, har Lumai som mål å muliggjøre mer skalerbar og kost-efektiv AI-utbredelse, og å løse de økende begrensningene rundt beregningskraft og energiforbruk i store AI-systemer.

Du startet din karriere i kvantefysikk og ikke-lineær optikk, og ble senere 1851 Research Fellow ved University of Oxford før du grunnla Lumai fra din forskning. Hva var det avgjørende øyeblikket da du innsett at optisk datamaskin kunne gå fra akademisk teori til et kommersielt viable selskap?

Under min tid ved University of Oxford, utforsket vi hvordan egenskapene til lys i fri rom kunne brukes til å løse de typene matris-berginger som ligger til grunn for maskinlæring. Rundt samme tid, ble begrensningene til konvensjonell hardware for AI mer viktige. Konvergensen av disse utfordringene som vi hadde løst i vår forskning og behovet for mer effektiv beregning, ga oss tillit til at vi kunne ta våre ideer og løse virkelige verdensproblemer.

Vi har kommet langt fra det innledende forskningsarbeidet – hos Lumai har vi nå bygget verdens første optisk datamaskin-system som kan kjøre billion-parameter LLM-er i sanntid.

Lumai løser en av de største flaskleneckene i AI i dag, energi- og skalerbarhetsbegrensningene til silisium-basert datamaskin. Hva var de spesifikke begrensningene i tradisjonelle arkitekturer som drev deg mot en fundamentalt annen tilnærming med lys?

Det som drev oss, var den begrensede utviklingen til silisium-løsninger. Med silisium, ser du bare inkrementelle forbedringer, men de kommer med ubetydelige økninger i kraft og kompleksitet. Begrensningene til silisium-skaling er primært ned til fysikken – frekvenser øker ikke, og antall transistorer som kan skiftes, er begrenset av termiske strømmer. Lekasjestrømmer fortsetter å være et problem. Det er estimert at silisium bare bidrar til 25% årlig økning i ytelse.

Da gjør det mening å spørre om en annen fysisk medium kan håndtere disse operasjonene mer naturlig, i stedet for å fortsette å trykke elektroner harder.

Ditt arbeid fokuserer på optisk datamaskin og maskinlæring. Hvordan endrer bruken av fotoner i stedet for elektroner fundamentalt måten beregning skjer på maskinvarenivå?

Med elektroner, er beregning innebygget sekvensiell og tapende – du skifter transistorer, flytter ladning, genererer varme. Hver operasjon har en termisk kostnad, og den kostnaden akkumulerer.

Fotoner oppfører seg veldig annerledes. Lys reiser uten de samme resistive tapene, og kritisk, ved å bruke egenskapene til lys, kan enorme tall med matris-berginger utføres parallelt ved å strukturere hvordan lysstråler interagerer gjennom et fysisk medium. Beregningen skjer i utbredelsen av lys selv, ikke i skiftingen av milliarder av porter.

Lumai’s teknologi utnytter 3D optisk prosessering og massiv rom-parallelisme. Kan du forklare hvordan denne arkitekturen muliggjør så dramatiske forbedringer i gjennomstrømming og effektivitet sammenlignet med GPU-er?

Målet er å utføre tett matris-multiplikasjon så effektivt og raskt som mulig i en enkelt syklus. Lumai’s tilnærming gjør nettopp dette ved å bruke lys i en tredimensjonal volum, og utføre millioner av operasjoner samtidig.

Det er umulig å oppnå det nivået av parallelisme i 2D-strukturer, hvor operasjoner prosesseres over hundre kerner som krever konstant data-bevegelse. Det er denne innebygde parallelismen – kombinert med det faktum at når du er i lys-domenet, kan operasjoner utføres uten å brenne kraft – som driver både gjennomstrømningsforbedringen og den dramatiske reduksjonen i energi per token.

Mange AI-infrastruktur-selskaper fokuserer fortsatt på trening, mens Lumai målretter inferens. Hvorfor tror du at inferens er den avgjørende utfordringen i denne neste fasen av AI?

Inferens er der AI faktisk gjør noe nyttig – hver forespørsel besvart, hver agent-oppgave fullført, hver dokument generert. Vi har nå gått inn i inferens-æraen, og etterspørselen vokser med en rate som trening-fokusert hardware aldri var designet til å absorbere.

Økonomien er også annerledes: inferens kjører kontinuerlig, over millioner av brukere. Kost per token blir den avgjørende metrikken, og det er der energiveggen slår hardest.

Hva gjør inferens spesielt godt egnet for optisk datamaskin, er at forhåndsutfyllings-stadiet er tungt beregnings-bundet. I dette forhåndsutfyllings-stadiet av desaggregert inferens, prosesseres hele konteksten før generering av en respons. Dette kartlegger nesten perfekt over på vår optiske motor, og det er der vi har fokusert først.

En av de langvarige utfordringene i optisk datamaskin har vært stabilitet og skalerbarhet. Hva var de avgjørende tekniske gjennombruddene som tillot Lumai å overvinne disse barrierene?

Utfordringen var aldri å demonstrere at optikk kunne utføre beregning – forskere hadde vist det i prinsippet i årevis. Utfordringen var å gjøre det fungere i skala, utenfor laboratoriet.

To ting betydde mest. Først, bruker vi samme komponenter som allerede er deployert i data-sentre i dag for kommunikasjon og nettverk. Ingen eksotiske materialer, ingen spekulative leverandørkjede. For det andre, tok vi en bevisst arkitektonisk valg å bruke en hybrid-design, som kombinerer den optiske tensor-motoren med digital prosessering for system-kontroll og programvare.

Ditt system bruker en hybrid-tilnærming som kombinerer optiske og digitale komponenter. Hvor viktig er denne balansen i å gjøre optisk datamaskin praktisk for virkelige data-senter-utbredelser?

Det er fundamentalt. Optisk datamaskin betyr ikke å erstatte alt med lys. Digitale systemer er ekstraordinært gode på kontroll, sekvensering og grensesnitt mot programvare-økosystemet industrien har bygget opp over årevis. Vår optiske motor excellerer på de kjerne-matematisk-operasjonene som dominerer inferens-beregning. Den hybride arkitekturen lar hver komponent gjøre det den gjør best.

Fra en utbredelsessynsvinkel, betyr dette enormt. Lumai Iris integrerer i eksisterende data-senter-infrastruktur, bruker standard-grensesnitt og kjører virkelige modeller, inkludert Llama 8B og 70B i dag.

Med annonsen av Lumai Iris-familien, spesielt Iris Nova-serveren, hva signaliserer det at man oppnår sanntids-inferens på billion-parameter-modeller for fremtiden til AI-infrastruktur?

Det signaliserer at optisk datamaskin har krysset fra forskning til virkelighet. Å kjøre billion-parameter-modeller i sanntid er det bevispunkt industrien trengte. Lumai Iris Server-familien består av tre servere: Nova, Aura og Tetra. Lumai Iris Nova, den første serveren i familien, er tilgjengelig for evaluering nå, og vi er allerede engasjert med partnere som ønsker å sette det i arbeid mot virkelige inferens-arbeidsbyrder.

Mer generelt, signaliserer det at trajektorien til AI-infrastruktur er på vei til å endre seg. Antagelsen har vært at skalering av inferens betyr å kjøpe flere GPU-er, trekke mer kraft, bygge større data-sentre. Lumai Iris Nova viser at det finnes en annen vei – en som leverer dramatisk mer ytelse per kilowatt og en fundamentalt annerledes kost-struktur per token. Etterhvert som Lumai Iris-server-familien utvikles, vil implikasjonene for hvordan hyperskalere og bedrifter tenker om beregnings-kjøp bli betydelige.

Pressemeddelelsen fremhever opp til 90% lavere energiforbruk sammenlignet med tradisjonelle systemer. Hvor betydelig er dette gjennombruddet i sammenheng med de økende energibegrensningene som globale data-sentre møter?

Energibegrensningen er den avgjørende infrastruktur-utfordringen i AI-æraen – kraft-kapasitet er allerede en begrensning på utbredelsesplaner, og vi har nådd den såkalte kraft-veggen.

Mot denne bakgrunnen, er en 90% reduksjon i energiforbruk en avgjørende endring i de fundamentale økonomiene og gjennomførbarheten av AI i skala. Et enkelt Lumai-system kan erstatte titalls kraft-krævende GPU-er, som oversettes til en betydelig endring i hva som er oppnåelig innenfor en gitt kraft-område.

Det er også en kost-dimensjon: data-senter-byggekostnader reflekterer kraft-kapasitet, så en lavere-kraft-data-senter koster mindre å bygge. Redusert energiforbruk reduserer direkte kost per token – som er det som gjør AI økonomisk livskraftig i skalaen industrien bygger mot.

Ser du fremover, mens industrien begynner å snakke om en post-silisium-æra, hvordan ser du på at optisk datamaskin utvikler seg over de neste ti årene, og hvilken rolle vil Lumai spille i å forme denne overgangen?

Post-silisium-æraen har allerede begynt, og det skjer samtidig som skiftet til inferens-æraen og den fortsatt etterspørselen etter mer ytelse til lavere kost per token. Silisium vil selvsagt fortsatt spille en rolle, men antagelsen at hver generasjon av beregnings-forbedring kommer fra fremgang i silisium-noder, er ikke lenger troverdig på den rate AI krever. Vi ser på optisk datamaskin som brukes i nøkkel-delene av stakken hvor høyt parallell, høy-gjennomstrømmings-beregning er nødvendig.

For Lumai, er veikartet å fortsette å trykke tettheten, effektiviteten og evnen til optisk datamaskin, og å rulle dette ut til data-sentre. Visjonen er en verden hvor energikosten til intelligens faller, og hvor en megawatt-skala data-senter kan generere den samme token-volumet som en gigawatt-skala fasilitet gjør i dag. Den fremtiden er ikke en fjern spekulasjon. Vi har bygget det første systemet som beviser at optisk datamaskin fungerer i skala. Alt fra her er ingeniør-arbeid. Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke Lumai.