Lumai præsenterer optisk AI-server til at drive den næste æra af inference

Lumai har annonceret hvad de beskriver som et større skridt fremad i AI-infrastruktur: et optisk computingsystem i stand til at køre billion-parameter store sprogmodeller i realtid. Det nye system, kaldet Iris Nova, signalerer en skift væk fra traditionel silicium-baseret procesning mod en fundamentalt anderledes tilgang bygget på lys.

Announcementen kommer på et tidspunkt, hvor AI-industrien hurtigt er i gang med at gå fra modeltræning til implementering i stor skala, hvilket lægger en hidtil uset belastning på eksisterende computermiljø.

Bevæger sig ud over siliciumbegrænsninger

I årevis har AI-fremgangen været stærkt afhængig af fremskridt i siliciumchips, særligt GPU’er. Men denne model begynder at vise tegn på belastning. Effektforbruget stiger skarpt, og ydelsesforbedringer bliver sværere at opnå uden betydelige øgede omkostninger og energikrav.

Lumai’s tilgang erstatter elektroner med fotoner. I stedet for at udføre beregninger gennem elektriske signaler, bruger deres system lys til at behandle data. Dette muliggør massiv parallelisme, hvor millioner af operationer kan ske samtidigt i tredimensionelt rum i stedet for på flade siliciumoverflader.

Ifølge virksomheden kan denne arkitektur levere betydeligt højere gennemløb, mens energiforbruget reduceres med op til 90% i forhold til konventionelle systemer.

Den voksende pres på datacentre

Tidspunktet for denne lancering afspejler bredere industriel udfordringer. AI-arbejdsbyrder udvides hurtigt, særligt i inference, som indebærer at køre trænede modeller i virkelige anvendelser.

Datacentre er mere og mere begrænsede af strømtilgængelighed. Den globale efterspørgsel på datacenterenergi forventes at doble inden udgangen af årtiet, hvilket tvinger operatører til at udforske usædvanlige løsninger som dedikeret kraftgenerering og alternative energikilder.

På samme tid bliver skaleringsaf traditional hardware mindre effektivt. Hver ny generation af silicium tilbyder inkrementelle forbedringer, men kræver ofte uforholdsmæssigt mere energi og køling.

Lumai positionerer optisk computing som en måde at omgå disse begrænsninger helt på, i stedet for at forbedre dem inkrementelt.

Hvordan Iris Nova fungerer

Iris Nova-systemet bruger en hybridarkitektur, der kombinerer optiske og digitale komponenter. Den optiske motor håndterer de kerne matematiske operationer, der driver AI-modeller, mens konventionelle digitale systemer håndterer software- og kontrolfunktioner.

Dette design tillader systemet at integrere i eksisterende datacenter-miljøer uden at kræve en komplet omlægning af infrastruktur.

Et område, hvor systemet er særligt optimeret, er “prefill”-stadiet af inference, hvor modeller behandler store mængder inputdata, før de genererer svar. Ved at accelerere dette stadium, sigter systemet mod at forbedre den samlede gennemløb og effektivitet.

Lumai rapporterer, at Iris Nova kan køre modeller som Llama 8B og 70B i realtid, hvilket tyder på, at det er i stand til at håndtere produktionsklar arbejdsbyrde og ikke kun eksperimentelle brugstilfælde.

En skift mod inference-æraen

Lanceringen afspejler en bredere skift i AI-prioriteter. Mens træning af stadig større modeller har domineret overskrifterne, defineres AI’s virkelige virkning nu af inference – hvor effektivt modeller kan implementeres og skaleres.

Dette skift afslører flaskehalse, der var mindre synlige under træningsfasen. Inference-arbejdsbyrder er kontinuerlige, latensfølsomme og energiintensive, hvilket gør effektivitet til en kritisk faktor.

Lumai’s system er designet specifikt til denne fase, med fokus på gennemløb per watt i stedet for ren beregningskraft alene.

Tidlig adgang og brancherelationer

Iris Nova-serveren er nu tilgængelig for evaluering af hyperscalers, virksomheder og forskningsinstitutioner. Yderligere systemer i Iris-familien, herunder Aura og Tetra, forventes at følge, hvilket udvider ydelse og implementeringsmuligheder.

Hvis optisk computing kan leve op til sine løfter i stor skala, kan det omforme økonomien for AI-infrastruktur. Lavere energiforbrug og højere effektivitet ville ikke kun reducere driftsomkostninger, men også adresse de voksende bekymringer omkring AI’s miljøpåvirkning.

Medens det endnu er usikkert, hvor hurtigt teknologien vil blive antaget, understreger Lumai’s meddelelse en klar retning: Fremtiden for AI-beregning kan måske ikke bygges på silicium alene.