Luminal rejser 25 mio. dollar i serie A-runde med Standard Capital i spidsen

Luminal har rejst 25 millioner dollar i en serie A-runde, der ledes af Standard Capital, meddelte investoren den 12. november 2026. Startupvirksomheden inden for AI-infrastruktur udvider sin compiler- og hostede inferensforretning på tværs af Nvidia, AMD og specialiserede chips med fokus på at få mere nyttigt arbejde ud af den hardware, kunderne allerede ejer.

Medstifterne Joe Fioti, Jake Stevens og Matthew Gunton har opbygget to forretninger omkring inferens, den beregning, der frembringer en AI-models output. Luminal hoster modeller i sin egen cloud og licenserer sin compiler til kunder, der allerede driver hardware. Det giver virksomheden en administreret tjeneste til kunder, der ønsker at sætte modeller i drift, og et separat produkt til dem, der prøver at forbedre deres egen infrastruktur.

En compiler, der søger efter hurtigere implementeringer

En compiler oversætter en model, der er skrevet i et framework som PyTorch, til den kode på lavt niveau, der udfører modellens matematiske operationer. Luminals tekniske oversigt beskriver en pipeline, der omsætter en model til en dataflowgraf, anvender hardwarebevidst sammenlægning, opdeling i fliser, hukommelsesplanlægning og planlægning og derefter genererer GPU-kerner eller instruktioner til applikationsspecifikke integrerede kredsløb. Kompilering før afvikling skal mindske den ekstra køretidsbelastning, der følger med dynamisk fortolkning af en model.

Luminal bruger betydelige beregningsressourcer under kompileringen på at søge efter mulige implementeringer i stedet for udelukkende at støtte sig til håndskrevne heuristikker, fortæller grundlæggerne. Ækvivalensmætning repræsenterer kompakt et søgefelt, der kan indeholde billioner af muligheder på en given chip, så compileren kan lede efter en optimeret version. Metoden er udviklet til stadig mere specialiserede processorer, som kræver mere komplekse beslutninger om hukommelse og planlægning i software.

Et teknisk indlæg fra 9. januar 2026 forklarer, hvordan automatisk genererede megakerner passer ind i strategien. Ved at samle en models fremadrettede beregning i én kerne, eller ét GPU-program, fjernes gentagne forsinkelser ved start af kerner, og senere operationer kan begynde, så snart deres inputdata er klar. Designet sigter også mod at mindske perioder med inaktivitet, som skyldes en ujævn arbejdsfordeling mellem processorkerner og ventetid på, at de indledende vægte indlæses, ved hjælp af finkornet synkronisering, der bevarer dataafhængighederne.

Luminal oplyser, at GPT-OSS 120B behandler 36.000 tokens i sekundet på otte Nvidia H100 SXM-GPU’er, sammenlignet med 28.000 for TensorRT-LLM og 26.000 for vLLM i sammenligningen på virksomhedens hjemmeside. Resultaterne illustrerer den forbedrede gennemstrømning, der er central i virksomhedens kommercielle argumentation, mens den hostede tjeneste også omfatter infrastrukturarbejde ud over selve compileren.

Hostet inferens og værdibaseret licensering

Luminal Cloud tilbyder administrerede, serverløse endepunkter, automatisk batchbehandling og kapacitet, der kan skaleres ned til nul, og kunderne betaler for det, de bruger. Licenserede installationer kan køre i kundens cloud eller lokalt i kundens egne faciliteter. Oven på compileren planlægger og fordeler inferenslaget arbejdet mellem CPU’er, GPU’er og ASIC’er, omfordeler opgaver, når udnyttelsen ændrer sig, og starter eller stopper noder i takt med efterspørgslen.

Ejendomsmedievirksomheden AutoHDR behandler omkring 5 millioner billeder om måneden, og Luminal håndterer næsten hele arbejdsbyrden, samtidig med at en voksende andel flyttes over på AMD-chips, fortæller grundlæggerne. En anden kunde, Freebuff, sender Luminal billioner af tokens hver uge. Disse arbejdsbyrder giver Luminal produktionstrafik inden for både billedbehandling og store sprogmodeller.

Ifølge grundlæggerne kan Freebuffs kodeforespørgsler indeholde omkring 100.000 inputtokens, hvilket gør cache-hit-rater og skalering af forespørgsler til vigtige omkostningsfaktorer. Genbrug af cachelagrede beregninger betyder, at de ikke skal udføres igen, mens flytning af relevante cacher gennem hukommelseshierarkiet hjælper med at bevare besparelsen. En hurtig kerne alene tager ikke højde for disse udgifter.

Fioti beskrev prissætningen for nogle compilerlicenser som en fast andel af den målte forbedring i forhold til kundens eksisterende udgangspunkt. I hans illustrative eksempel sparer en fordobling af gennemstrømningen på en GPU, der koster 1,50 dollar, 75 cent; Luminal opkræver 25 cent, så kunden sparer 50 cent. Modellen knytter licensindtægterne til den leverede værdi frem for alene til brugen af den hostede tjeneste.

Åbent kildekodeprojekt fra starten og videre ekspansion

Luminal begyndte som et sideprojekt, som Fioti udviklede uden for arbejdstiden for at køre modeller på en bærbar computer. Projektet fik senere en Nvidia-backend og opbyggede et open source-fællesskab. Grundlæggerne besluttede at holde kernecompileren åben og tage betaling for hosting, en model, de sammenlignede med Vercels kombination af Next.js og virksomhedens cloud. Compilerlicensen giver organisationer, der allerede har deres hardware på plads, en ekstra mulighed.

Serie A-runden følger efter en seedrunde på 5,3 millioner dollar, der blev annonceret den 17. november 2025, ledet af Felicis Ventures med deltagelse af engleinvestorer, herunder Paul Graham og Guillermo Rauch.

Luminal søger nu compileringeniører og sin første medarbejder uden for ingeniørteamet: en vækstchef. Teamet arbejder fysisk sammen i San Franciscos centrum og har hidtil udelukkende bestået af ingeniører. Grundlæggerne forventer, at inferensarbejdsbyrder i stigende grad bliver fordelt mellem chips, der er specialiseret i promptbehandling, og chips, der er specialiseret i generering af tokens, hvilket gør koordinering på tværs af hardwaretyper til en større softwaremæssig udfordring.

Den umiddelbare ansættelsesplan peger på behov for større ekspertise inden for compilere og på virksomhedens første kommercielle stilling. Den bredere prøve bliver, om Luminal kan fastholde de rapporterede omkostningsfordele, efterhånden som inferens fordeles på chips, der er udviklet til forskellige trin i en forespørgsel, hvor planlægning og genbrug af cache bliver en del af beregningen af besparelserne sammen med compilerens rå ydeevne.