Lumai Presenterar Optisk AI-Server för Nästa Era av Inferens

Lumai har meddelat vad de beskriver som ett stort steg framåt i AI-infrastruktur: ett optiskt datorsystem som kan köra modeller med miljarder parametrar i realtid. Det nya systemet, som kallas Iris Nova, signalerar en skiftning bort från traditionell silikonbaserad bearbetning mot en grundligt annorlunda tillvägagångssätt byggt på ljus.

Tillkännagivandet kommer vid en tidpunkt då AI-branschen snabbt går från modellträning till distribution i stor skala, vilket lägger en utanförskaplig belastning på befintlig beräkningsinfrastruktur.

Att Gå Utanför Silikonbegränsningar

Under många år har AI-förbättringar i hög grad byggt på framsteg inom silikonchips, särskilt GPU:er. Men den modellen börjar visa tecken på påfrestning. Effektbehov ökar skarpt, och prestandaförbättringar blir allt svårare att uppnå utan att kraftigt öka kostnaderna och energikraven.

Lumais tillvägagångssätt ersätter elektroner med fotoner. Istället för att utföra beräkningar genom elektriska signaler, använder deras system ljus för att bearbeta data. Detta möjliggör massiv parallelism, där miljontals operationer kan ske samtidigt i tredimensionellt rum snarare än över platta silikon-ytor.

Enligt företaget kan denna arkitektur leverera betydligt högre genomströmning samtidigt som energiförbrukningen minskas med upp till 90% jämfört med konventionella system.

Den Ökande Pressen på Datacenter

Tillfället för detta lansering reflekterar bredare branschutmaningar. AI-arbetsbelastningar expanderar snabbt, särskilt inom inference, som innebär att köra tränade modeller i realvärlden.

Datacenter är alltmer begränsade av effekttilgänglighet. Den globala efterfrågan på datacenterenergi förväntas fördubblas innan decenniets slut, vilket tvingar operatörer att utforska ovanliga lösningar som dedikerad kraftgenerering och alternativa energikällor.

Samtidigt blir det mindre effektivt att skala traditionell hårdvara. Varje ny generation silikon erbjuder inkrementella förbättringar men kräver ofta oproportionerligt mer energi och kylning.

Lumai positionerar optisk datoranvändning som ett sätt att kringgå dessa begränsningar helt och hållet snarare än att förbättra dem inkrementellt.

Hur Iris Nova Fungerar

Iris Nova-systemet använder en hybridarkitektur som kombinerar optiska och digitala komponenter. Den optiska motorn hanterar de centrala matematiska operationerna som driver AI-modeller, medan konventionella digitala system hanterar programvara och kontrollfunktioner.

Denna design möjliggör att systemet integreras i befintliga datacentermiljöer utan att kräva en fullständig ombyggnad av infrastrukturen.

Ett område där systemet är särskilt optimerat är “prefill”-stadiet av inference, där modeller bearbetar stora mängder indata före generering av svar. Genom att accelerera detta stadium syftar systemet till att förbättra den totala genomströmningen och effektiviteten.

Lumai rapporterar att Iris Nova kan köra modeller som Llama 8B och 70B i realtid, vilket tyder på att det är kapabelt att hantera produktions skalbara arbetsbelastningar snarare än bara experimentella användningsfall.

En Skiftning Mot Inference-Eran

Lanseringen reflekterar en bredare skiftning i AI-prioriteringar. Medan träning av alltmer stora modeller har dominerat rubrikerna, definieras AI:s verkliga världseffekt nu av inference – hur effektivt modellerna kan distribueras och skalas.

Denna skiftning exponerar flaskhalsar som var mindre synliga under träningsfasen. Inference-arbetsbelastningar är kontinuerliga, latenskänsliga och energiintensiva, vilket gör effektivitet till en kritisk faktor.

Lumais system är utformat specifikt för denna fas, med fokus på genomströmning per watt snarare än ren beräkningskraft.

Tidig Tillgång och Branschimplikationer

Iris Nova-servern är nu tillgänglig för utvärdering av hyperscalers, företag och forskningsinstitutioner. Ytterligare system i Iris-familjen, inklusive Aura och Tetra, förväntas följa, vilket utökar prestanda och distributionsalternativ.

Om optisk datoranvändning kan leverera på sina löften i stor skala, kan det omforma ekonomin för AI-infrastruktur. Lägre energiförbrukning och högre effektivitet skulle inte bara minska driftskostnaderna utan också hantera de växande bekymren kring AI:s miljöpåverkan.

Medan det återstår att se hur snabbt tekniken kommer att antas, betonar Lumais tillkännagivande en tydlig riktning: framtiden för AI-beräkning kanske inte byggs enbart på silikon.