Lumai Præsenterer Optisk AI-Server Til At Drive Den Næste Æra Af Inference

Lumai har meddelt hvad de beskriver som et større skridt fremad i AI-infrastruktur: et optisk computeringssystem i stand til at køre billion-parameter store sprogmodeller i realtid. Det nye system, kaldet Iris Nova, signalerer en skift væk fra traditionel silicium-baseret behandling mod en fundamentalt anderledes tilgang bygget på lys.

Meddelelsen kommer på et tidspunkt, hvor AI-industrien hurtigt er under overgang fra modeltræning til udrulning i stor målestok, hvilket lægger en hidtil uset belastning på den eksisterende computering-infrastruktur.

Bevæger Sig Ud Over Silicium-Begrænsninger

I årevis har AI-fremgangen været stærkt afhængig af fremskridt i silicium-chips, særligt GPUs. Men denne model begynder at vise tegn på belastning. Effektforbruget stiger skarpt, og ydelsesforbedringer bliver sværere at opnå uden betydeligt at øge omkostninger og energikrav.

Lumais tilgang erstatter elektroner med fotoner. I stedet for at udføre beregninger gennem elektriske signaler, bruger deres system lys til at behandle data. Dette muliggør massiv parallelisme, hvor millioner af operationer kan finde sted samtidig i tredimensionel rum i stedet for på flade silicium-overflader.

Ifølge virksomheden kan denne arkitektur levere betydeligt højere gennemløb, mens energiforbruget reduceres med op til 90% i forhold til konventionelle systemer.

Den Voksende Pres På Datacentre

Tidspunktet for denne lancering afspejler bredere industriel udfordringer. AI-arbejdsbyrden udvides hurtigt, særligt i inference, som omfatter kørsel af trænede modeller i virkelige anvendelser.

Datacentre er mere og mere begrænsede af strømtilgængelighed. Den globale efterspørgsel efter datacenter-energi forventes at fordobles ved årtiets slutning, hvilket tvinger operatører til at udforske usædvanlige løsninger som dedikeret kraftgenerering og alternative energikilder.

På samme tid bliver skalerings-traditionel hardware mindre effektivt. Hver ny generation af silicium tilbyder inkrementelle forbedringer, men kræver ofte uforholdsmæssigt mere energi og køling.

Lumai positionerer optisk computering som en måde at omgå disse begrænsninger helt på, i stedet for at forbedre dem inkrementelt.

Hvordan Iris Nova Fungerer

Iris Nova-systemet bruger en hybrid-arkitektur, der kombinerer optiske og digitale komponenter. Den optiske motor håndterer de kerne-matematiske operationer, der driver AI-modeller, mens konventionelle digitale systemer håndterer software- og kontrolfunktioner.

Denne design muliggør integration i eksisterende datacenter-miljøer uden at kræve en komplet ombygning af infrastruktur.

Et område, hvor systemet er særligt optimeret, er “prefill”-stadiet af inference, hvor modeller behandler store mængder input-data, før de genererer svar. Ved at accelerere dette stadium, sigter systemet mod at forbedre den samlede gennemløb og effektivitet.

Lumai rapporterer, at Iris Nova kan køre modeller som Llama 8B og 70B i realtid, hvilket tyder på, at det er i stand til at håndtere produktions-skala-arbejdsbyrder og ikke kun eksperimentelle brugs Tilfælde.

En Skift Mod Inference-Æraen

Lanceringen afspejler en bredere skift i AI-prioriteter. Mens træning af stadig større modeller har domineret overskrifterne, defineres den virkelige virkning af AI nu af inference – hvordan effektivt disse modeller kan udrulles og skaleres.

Denne skift afslører flaskehalse, der var mindre synlige under træningsfasen. Inference-arbejdsbyrder er kontinuerlige, latens-følsomme og energi-intensive, hvilket gør effektivitet til en kritisk faktor.

Lumais system er designet specifikt til denne fase, fokuserer på gennemløb pr. watt i stedet for ren beregningskraft alene.

Tidlig Adgang Og Industrielle Konsekvenser

Iris Nova-serveren er nu tilgængelig for evaluering af hyperscalers, virksomheder og forskningsinstitutioner. Yderligere systemer i Iris-familien, herunder Aura og Tetra, forventes at følge, hvilket udvider ydelse og udrulningsmuligheder.

Hvis optisk computering kan leve op til sine løfter i stor målestok, kan det omforme økonomien i AI-infrastruktur. Lavere energiforbrug og højere effektivitet vil ikke kun reducere driftsomkostninger, men også adresse voksende bekymringer omkring den miljømæssige påvirkning af AI.

Selv om det endnu ikke er klart, hvor hurtigt teknologien vil blive antaget, fremhæver Lumais meddelelse en klar retning: Fremtiden for AI-beregning kan ikke kun bygges på silicium alene.