Tohtori Xianxin Guo, Lumain toimitusjohtaja ja perustaja – Haastattelusarja

Tohtori Xianxin Guo, Lumain toimitusjohtaja ja perustaja, on fyysikko ja syvän teknologian yrittäjä, joka on erikoistunut optiseen laskentaan ja tekoälykoneisiin, ja hänellä on väitöskirja kvanttifysiikasta ja epälineaarisesta optiikasta Hong Kongin tiede- ja teknologiayliopistosta. Hän on aiemmin työskennellyt tutkimustehtävissä, mukaan lukien postdoc-tutkijana Calgaryn yliopistossa ja 1851-tutkimusstipendin saajana Oxfordin yliopistossa, jossa hän on osallistunut edistykseen fotoniteknologiassa ja tekoälykiihdytyksessä. Lumain tutkimusjohtajasta toimitusjohtajaksi edennyt hän on yhtiön keskusteknologian pääkeksijä ja tuo yli kymmenen vuoden kokemuksen fysiikan, koneoppimisen ja edistyneiden laskentajärjestelmien risteymästä.

Lumai on Oxfordin yliopiston spin-off, joka kehittää seuraavan sukupolven tekoälyprosessorit 3D-optisen laskennan avulla, käyttäen valoa sähkön sijasta tekoälyn avainlaskelmiin. Sen teknologia on suunniteltu kiihdyttämään matriisilaskelmia, jotka muodostavat modernit tekoälymallit, tarjoamalla merkittävästi nopeamman laskennan ja vähentämällä energiankulutusta verrattuna perinteisiin piipohjaisiin GPU:hin. Integroimalla optisen laskennan olemassa oleviin tietokeskusympäristöihin Lumai pyrkii mahdollistamaan skaalautuvamman ja kustannustehokkaamman tekoälyn käytön, ratkaisemalla kasvavat rajoitukset laskentatehossa ja energiankäytössä suurissa tekoälyjärjestelmissä.

Mistä lähtien aloitit urasi kvanttifysiikassa ja epälineaarisessa optiikassa, ja myöhemmin Oxfordin yliopistossa 1851-tutkimusstipendin saajana ennen kuin perustit Lumain? Mikä oli ratkaiseva hetki, jolloin ymmärsit, että optinen laskenta voisi siirtyä akateemisesta teoriasta kaupallisesti toteuttamiskelpoiseksi yritykseksi?

Aikanaani Oxfordin yliopistossa tutkimme, miten valon ominaisuuksia vapaassa tilassa voitiin käyttää ratkaisemaan tekoälyyn liittyviä matriisilaskelmia. Samoihin aikoihin perinteisen tekoälylaitekniikan rajoitukset tulivat tärkeämmiksi. Näiden haasteiden yhteenlasku, jonka me olimme ratkaisseet tutkimuksessamme, ja tarve tehokkaammasta laskennasta antoivat meille luottamusta, että voimme ottaa ideamme ja ratkaista todellisia maailman ongelmia.

Olemme edenneet pitkälle siitä alkuvaiheesta – Lumai on nyt rakentanut maailman ensimmäisen optisen laskentajärjestelmän, joka pystyy suorittamaan miljardien parametrin LLM-malleja reaaliajassa.

Lumai ratkaisee yhtä suurinta pullonkaulaa tekoälyssä tänään, energian ja skaalautuvuuden rajoitukset piipohjaisessa laskennassa. Mitkä tarkat rajoitukset perinteisissä arkkitehtuureissa pakottivat sinut tarkastelemaan perustavanlaatuista lähestymistapaa valon avulla?

Se, mikä meitä ajoi, oli piirakirjoitusten rajoitettu kehitys. Piirien kanssa näkee vain askelittaisia parannuksia, mutta ne tulevat epäsuhtaisesti lisääntyvien tehokkuuden ja monimutkaisuuden kanssa. Piin skaalautuvuuden rajoitus johtuu pääasiassa fysiikasta – taajuuksia ei voida lisätä, ja kytkinten määrää, jota voidaan vaihtaa, rajoittaa termiset virrat. Vuotovirtaa on edelleen ongelmallista. On arvioitu, että pii vain osallistuu 25 prosentin vuosittaiseen suorituskyvyn parantamiseen.

Siihen vaiheeseen tulee kysymys, onko järkeä kysyä, voitaisiinko jokin toinen fyysinen väline käsitellä näitä toimintoja luonnollisemmin, sen sijaan, että jatketaan elektronien pakottamista kovemmin.

Työsi keskittyy optiseen laskentaan ja koneoppimiseen. Miten valon käyttäminen sijaan elektronien antaa perustavanlaatuista muutosta laskennan tapaan laitteistotasolla?

Elektronien kanssa laskenta on luonteeltaan peräkkäinen ja häviöllinen – kytkimiä vaihdetaan, varauksia siirretään, lämpöä syntyy. Jokainen toiminto on termisen kustannuksen alla, ja se kustannus kertyy.

Valot käyttäytyvät eri tavoin. Valo liikkuu ilman samanlaisia resistiivisiä häviöitä, ja kriittisesti, valon ominaisuuksien avulla voidaan suorittaa valtavat määrät matriisilaskelmia rinnakkain vain järjestämällä, miten valon säteet vuorovaikuttavat fyysisen välineen kautta. Laskenta tapahtuu itse valon etenemisessä, eikä kytkimien miljoonien porttien vaihtamisessa.

Lumain teknologia hyödyntää 3D-optista prosessointia ja massiivista spatiaalista rinnakkaisuutta. Voitko selittää, miten tämä arkkitehtuuri mahdollistaa dramaattiset parannukset laskennan nopeudessa ja tehokkuudessa verrattuna GPU:hin?

Tavoitteena on suorittaa tiheä matriisikertolasku mahdollisimman tehokkaasti ja nopeasti yhdessä syklissä. Lumain lähestymistapa tekee täsmälleen sen, käyttämällä valoa kolmiulotteisessa tilassa ja suorittamalla miljoonia toimintoja samanaikaisesti.

Et voi saavuttaa samaa tasoa rinnakkaisuutta kahdessa ulottuvuudessa, jossa toiminnot prosessoidaan sadoissa ytimissä edellyttäen jatkuvaa tietoliikennettä. Tämä sisäänrakennettu rinnakkaisuus – yhdistettynä siihen, että kun olet valon alueella, toiminnot voidaan suorittaa ilman tehokkuuden polttamista – ajaa sekä laskennan nopeuden parantamista että dramaattista vähennystä energiankulutuksessa tokenin kohti.

Monet tekoälyinfrastruktuuriyritykset keskittyvät edelleen koulutukseen, mutta Lumai on kohdistamassa inferenceä. Miksi uskot, että inference on määrittävä haaste seuraavassa vaiheessa tekoälyssä?

Inference on siellä, missä tekoäly tekee jotain hyödyllistä – jokainen vastattu kysymys, jokainen tehty agenttitehtävä, jokainen luotu asiakirja. Olemme nyt siirtymässä inference-aikaan, ja kysyntä kasvaa nopeammin kuin mitä koulutukseen keskittyvä laitteisto oli suunniteltu absorboimaan.

Taloudelliset seikat ovat myös erilaiset: inference suoritetaan jatkuvasti miljoonien käyttäjien ympärillä. Tokenin kustannus on määrittävä mittari, ja siinä kohtaa energiamuuri iskee kovimmin.

Mikä tekee inferencesta erityisen soveltuvan optiselle laskennalle, on se, että esitöitävä vaihe on voimakkaasti laskennan sidottu. Tässä hajautetun inferenceen esitöitävän vaiheessa koko konteksti prosessoidaan ennen vastauksen luomista. Tämä vastaa lähes täydellisesti meidän optista moottoriamme, ja se on se, mihin olemme ensin keskittyneet.

Yksi pitkäaikainen haaste optisessa laskennassa on ollut stabiilisuus ja skaalautuvuus. Mitkä olivat avainTekniset läpimurrot, jotka mahdollistivat Lumain ylittää nämä esteet?

Haaste ei ollut koskaan osoittaa, että optiikka voisi suorittaa laskentaa – tutkijat olivat osoittaneet sen periaatteessa vuosia sitten. Haaste oli saada se toimimaan skaalassa, laboratorion ulkopuolella.

Kaksi asiaa oli tärkeintä. Ensinnäkin, käytämme samanlaisia komponentteja, joita käytetään tietokeskuksissa tänään tietoliikenteessä ja verkostoitumisessa. Ei eksoottisia materiaaleja, ei spekulatiivista toimitusketjua. Toiseksi, teimme tietoisen arkkitehtonisen valinnan käyttää hybridisuunnittelua, yhdistämällä optisen tensorimoottorin digitaaliseen prosessointiin järjestelmän ohjaukseen ja ohjelmistoihin.

Järjestelmäsi käyttää hybridilähestymistapaa, jossa yhdistyy optinen ja digitaalinen osa. Kuinka tärkeä on tämä tasapaino tehdessä optista laskentaa käytännölliseksi todellisen maailman tietokeskus käyttöön?

Se on perustavanlaatuista. Optinen laskenta ei tarkoita, että kaikki korvataan valolla. Digitaaliset järjestelmät ovat erittäin hyviä ohjauksessa, sekvenssissä ja ohjelmistoympäristön kanssa, jonka teollisuus on rakentanut vuosikymmenien ajan. Meidän optinen moottorimme erottuu siinä, mitä se tekee parhaiten, eli laskennan ytimissä, joissa tekoälymallit hallitsevat.

Tämä on perustavanlaatuista käyttöönottamisen kannalta. Lumai Iris integroituu olemassa oleviin tietokeskusinfrastruktuureihin, käyttää standardiliittymiä ja suorittaa todellisia malleja, kuten Llama 8B ja 70B tänään.

Lumai Iris -perheen ilmoituksen, erityisesti Iris Nova -palvelimen, myötä, mitä se merkitsee saavuttaa reaaliaikaisen inferencen miljardien parametrin malleilla tulevaisuudelle tekoälyinfrastruktuurille?

Se merkitsee, että optinen laskenta on ylittänyt tutkimuksen ja on nyt todellisuutta. Suorittaminen miljardien parametrin malleilla reaaliajassa on osoitus, jonka teollisuus tarvitsi. Lumai Iris -palvelinperhe koostuu kolmesta palvelimesta: Nova, Aura ja Tetra. Lumai Iris Nova, ensimmäinen palvelin perheessä, on saatavilla arviointia varten nyt, ja olemme jo mukana kumppaneiden kanssa, jotka haluavat käyttää sitä todellisia inference-kuormituksia vastaan.

Laajemmin, se merkitsee, että tekoälyinfrastruktuurin kehityskaari on muuttumassa. Oletus on ollut, että inferenceen skaalautuminen tarkoittaa enemmän GPU:ita, enemmän tehoa, suurempia tietokeskuksia. Lumai Iris Nova osoittaa, että on toinen polku – yksi, joka tarjoaa dramaattisesti enemmän suorituskykyä kilowatin kohti ja perustavanlaatuista erilaista kustannusrakennetta tokenin kohti. Kun Lumai Iris -palvelinperhe kehittyy, seuraamuksia hyperskaleerien ja yritysten suunnittelussa laskentahankintoja kohtaan tulee olemaan merkittäviä.

Lehdistötiedote korostaa jopa 90 prosentin vähennystä energiankulutuksessa verrattuna perinteisiin järjestelmiin. Kuinka merkittävä tämä läpimurto on kasvavien energiarajoitusten kontekstissa, joita globaalit tietokeskukset kohtaavat?

Energiaongelma on tekoälyaikakauden määrittävä infrastruktuuriongelma – tehokapasiteetti on jo rajoittava tekijä käyttöönotto-suunnitelmissa, ja olemme osittaneet niin sanotun tehokaton.

Tässä valossa 90 prosentin vähennys energiankulutuksessa muuttaa perustavanlaatuista taloudellista ja toteutettavuutta tekoälyssä skaalassa. Yksi Lumai-järjestelmä voi korvata kymmeniä tehokkaasti energiankuluttavia GPU:ita, mikä kääntyy merkittävään siirtymään siinä, mitä on saavutettavissa annetun tehokaton sisällä.

On myös kustannusulottuvuus: tietokeskuksen rakennuskustannukset heijastavat tehokapasiteettia, joten matalatehoinen tietokeskus on halvempi rakentaa. Energiankulutuksen vähentäminen vähentää suoraan tokenin kustannusta – mikä lopulta tekee tekoälystä taloudellisesti toteutettavissa skaalassa, jota teollisuus on rakentamassa.

Katsoessaan eteenpäin, kun teollisuus alkaa puhua post-silikonista aikakaudesta, miten näet optisen laskennan kehittyvän seuraavan kymmenen vuoden aikana, ja mikä rooli Lumaiilla on tässä siirtymässä?

Post-silikonin aikakausi on jo alkanut, ja se tapahtuu samaan aikaan kuin siirtymä inference-aikaan ja jatkuva vaatimus suuremmasta suorituskyvystä alhaisemalla tokenin kustannuksella. Piin tulee edelleen olla rooli, mutta oletus, että jokainen laskentaparannus tulee piin solmujen edistymisestä, ei ole enää uskottavaa tekoälyn vaatimalla nopeudella.

Näemme optisen laskennan käytettävän avainosissa pinossa, joissa tarvitaan voimakasta rinnakkaisuutta ja suurta laskentakapasiteettia.

Lumain tiellä on jatkossa edelleen tiivistää optisen laskennan tiheyttä, tehokkuutta ja kykyä ja laajentaa sitä tietokeskuksiin. Visio on maailma, jossa älymäisen laskennan energiakustannukset laskevat ja jossa megawatin mittakaavan tietokeskus voi tuottaa saman tokenin määrän kuin gigawatin mittakaavan laite nykyään.

Tulevaisuus ei ole kaukainen spekulaatio. Olemme rakentaneet ensimmäisen järjestelmän, joka osoittaa, että optinen laskenta toimii skaalassa. Kaikki tästä eteenpäin on insinööritöitä. Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Lumai-sivustolla.