AI-mallit ja alustat
Lumai esittelee optisen tekoälypalvelimen päättelyn uuden aikakauden tarpeisiin

Keskeiset kohdatOptinen laskenta korvaa elektronit fotoneilla välttääkseen piisirujen kasvavat rajat.
Näytä lisää
- Optinen laskenta korvaa elektronit fotoneilla välttääkseen piisirujen kasvavat rajat.
- Lumai keskittyy päättelyyn, koska käyttöönotto rasittaa nyt datakeskuksia enemmän kuin mallien koulutus.
- Iris Nova yhdistää optisia ja digitaalisia komponentteja, jotta olemassa olevat laitokset voivat ottaa sen käyttöön ilman uudelleenrakentamista.
Lumai on ilmoittanut siitä, mitä se kuvaa merkittäväksi edistysaskeleeksi tekoälyinfrastruktuurissa: valoa hyödyntävän laskentajärjestelmän, joka pystyy suorittamaan miljardien parametrien suurten kielimallien laskennan reaaliajassa. Uusi järjestelmä, joka on nimeltään Iris Nova, merkitsee siirtymää perinteisestä piipohjaisesta prosessoinnista perustavanlaatuisesti erilaiseen, valoon perustuvaan lähestymistapaan.
Ilmoitus tehdään aikana, jolloin tekoälyteollisuus siirtyy nopeasti mallien kouluttamisesta laajamittaiseen käyttöön, mikä aiheuttaa ennenkokemattoman paineen olemassa oleville laskentainfrastruktuureille.
Piipohjaisen laskennan rajoitusten ylittäminen
Tekoälyn edistysaskelit ovat vuosien ajan perustuneet voimakkaasti piisirujen kehitykseen, erityisesti GPU:iin. Mutta tämä malli alkaa näyttää merkkejä kuormittumisesta. Virrankulutus on kasvamassa nopeasti, ja suorituskyvyn parantaminen on muuttunut haasteelliseksi ilman merkittävää kustannusten ja energian tarpeiden lisäämistä.
Lumain lähestymistapa korvaa elektronit fotoneilla. Sen sijaan, että järjestelmä suorittaisi laskentaa sähköisen signaalin avulla, järjestelmä käyttää valoa tietojen prosessointiin. Tämä mahdollistaa massiivisen rinnakkaisuuden, jossa miljoonat operaatiot voivat tapahtua samanaikaisesti kolmiulotteisessa tilassa eikä pelkästään litteiden piipintojen tasossa.
Yhtiön mukaan tämä arkkitehtuuri voi tarjota merkittävästi suuremman läpimenon ja samalla vähentää energiankulutusta jopa 90 % perinteisiin järjestelmiin verrattuna.
Datakeskuksiin kohdistuva kasvava paine
Ilmoituksen ajankohta heijastaa laajempia teollisuuden haasteita. Tekoälytyökuormat laajenevat nopeasti, erityisesti päättelyssä, joka liittyy koulutettujen mallien suorittamiseen todellisissa sovelluksissa.
Datakeskukset ovat yhä enenevissä määrin rajoitettuja virran saatavuuden suhteen. Maailmanlaajuinen datakeskusten energian kysynnän odotetaan kaksinkertaistuvan vuosikymmenen loppuun mennessä, mikä pakottaa operaattoreita tutkimaan epäperinteisiä ratkaisuja, kuten omistettua sähköntuotantoa ja vaihtoehtoisia energianlähteitä.
Samaan aikaan perinteisen laitteiston skaalaaminen on muuttunut vähemmän tehokkaaksi. Jokainen uusi piisirujen sukupolvi tarjoaa pieniä parannuksia, mutta usein vaatii epäsuhteellisesti enemmän energiaa ja jäähdytystä.
Lumai esittää optisen laskennan keinona ohittaa nämä rajoitukset kokonaan eikä pelkästään parantaa niitä asteittain.
Iris Novan toimintaperiaate
Iris Nova -järjestelmä käyttää hybridirakennetta, joka yhdistää optisia ja digitaalisia komponentteja. Valomoottori hoitaa perimmäiset matemaattiset operaatiot, joihin tekoälymallien toiminta perustuu, kun taas perinteiset digitaaliset järjestelmät hallinnoivat ohjelmisto- ja ohjausfunktioita.
Tämä suunnittelu mahdollistaa järjestelmän integroinnin olemassa oleviin datakeskusympäristöihin ilman koko infrastruktuurin uudelleenrakentamistarvetta.
Yksi alue, jossa järjestelmä on erityisesti optimoitu, on “prefill”- eli esitäyttövaihe päättelyssä, jossa mallit käsittelevät suuria määriä syötetietoja ennen vastausten generoimista. Nopeuttamalla tätä vaihetta järjestelmä pyrkii parantamaan järjestelmän kokonaisläpimenoa ja tehokkuutta.
Lumai ilmoittaa, että Iris Nova pystyy suorittamaan malleja, kuten Llama 8B ja 70B, reaaliajassa, mikä viittaa sen kykyyn käsitellä tuotantoon tarkoitettuja työkuormia eikä ainoastaan kokeellisia käyttötapaauksia.
Siirtymä päättelyn aikakauteen
Ilmoitus heijastaa laajempaa siirtymistä tekoälyn prioriteeteissa. Siinä, missä suurempien mallien kouluttaminen on hallinnut otsikoita, tekoälyn todellinen vaikutus määritellään nyt päättelyllä – kuinka tehokkaasti nämä mallit voidaan ottaa käyttöön ja skaalata.
Tämä siirtyminen paljastaa pullonkaulat, jotka olivat vähemmän näkyvissä koulutusvaiheessa. Päättelytyökuormat ovat jatkuvia, viiveherkkiä ja energiaintensiivisiä, mikä tekee tehokkuudesta kriittisen tekijän.
Lumain järjestelmä on suunniteltu nimenomaan tätä vaihetta varten, keskittyen läpimenoon wattia kohden eikä ainoastaan raakasuorituskykyyn.
Varhainen saatavuus ja vaikutukset toimialaan
Iris Nova -palvelin on nyt hyperskaalaajien, yritysten ja tutkimuslaitosten arvioitavissa. Muiden Iris-tuoteperheen järjestelmien, kuten Auran ja Tetran, odotetaan seuraavan myöhemmin ja laajentavan suorituskyky- ja käyttöönottovaihtoehtoja.
Jos valolaskenta pystyy toteuttamaan lupaustensa mukaisen suorituskyvyn laajamittaisesti, se voisi muuttaa tekoälyinfrastruktuurin taloutta. Alempi energiankulutus ja suurempi tehokkuus eivät ainoastaan vähentäisi toimintakustannuksia vaan myös vastaisivat kasvaviin huolenaiheisiin tekoälyn ympäristövaikutuksista.
Vaikka vielä jää nähtäväksi, kuinka nopeasti teknologia otetaan käyttöön, Lumain ilmoitus korostaa selkeää suuntaa: tekoälyn tulevaisuuden laskenta ei välttämättä perustu ainoastaan piihin.












