Luminal haalt $25 miljoen op in Series A, met Standard Capital als leidende investeerder

Luminal heeft $25 miljoen opgehaald in een Series A-financieringsronde onder leiding van Standard Capital, zo maakte de investeerder op 12 november 2026 bekend. De start-up op het gebied van AI-infrastructuur breidt zijn compiler- en gehoste inferentieactiviteiten uit naar Nvidia-, AMD- en gespecialiseerde chips, met als doel meer nuttig werk te halen uit hardware die klanten al bezitten.

Medeoprichters Joe Fioti, Jake Stevens en Matthew Gunton hebben twee bedrijven opgebouwd rond inferentie: de berekening die de uitvoer van een AI-model oplevert. Luminal host modellen in zijn eigen cloud en verleent licenties voor zijn compiler aan klanten die al over hardware beschikken. Zo biedt het bedrijf een beheerde dienst aan klanten die modellen willen implementeren, en een afzonderlijk product aan klanten die hun eigen infrastructuur willen verbeteren.

Een compiler die is ontworpen om snellere implementaties te vinden

Een compiler vertaalt een model dat is geschreven met een framework zoals PyTorch naar low-levelcode waarmee de wiskundige bewerkingen worden uitgevoerd. In Luminals technische toelichting wordt een pijplijn beschreven die een model omzet in een gegevensstroomgrafiek, hardwarebewuste fusie, tiling, geheugenplanning en taakplanning toepast en vervolgens GPU-kernels of instructies voor toepassingsspecifieke geïntegreerde schakelingen genereert. Door de compilatie uit te voeren voordat het model wordt gestart, wil Luminal de uitvoeringskosten van het dynamisch interpreteren van een model beperken.

Luminal voert tijdens de compilatie veel berekeningen uit om mogelijke implementaties te doorzoeken, in plaats van uitsluitend te vertrouwen op handgeschreven heuristieken, aldus de oprichters. Verzadiging van equivalentierelaties geeft een compacte weergave van een zoekruimte die voor een bepaalde chip biljoenen opties kan bevatten, zodat de compiler naar een geoptimaliseerde versie kan zoeken. De aanpak is bedoeld voor steeds gespecialiseerdere processors, waarvoor software complexere beslissingen over geheugen en taakplanning moet nemen.

Een technisch bericht van 9 januari 2026 legt uit hoe automatisch gegenereerde megakernels in die strategie passen. Door de forward pass van een model samen te voegen tot één kernel, oftewel GPU-programma, verdwijnen herhaalde vertragingen door het starten van kernels en kunnen volgende bewerkingen beginnen zodra hun invoergegevens beschikbaar zijn. Het ontwerp richt zich ook op perioden waarin processors ongebruikt blijven doordat het werk ongelijk over de processorkernen is verdeeld en doordat er moet worden gewacht tot de eerste gewichten zijn geladen. Fijnmazige synchronisatie helpt daarbij de gegevensafhankelijkheden in stand te houden.

Luminal rapporteert voor GPT-OSS 120B een snelheid van 36.000 tokens per seconde op acht Nvidia H100 SXM-GPU’s, tegenover 28.000 met TensorRT-LLM en 26.000 met vLLM, volgens de vergelijking op de website. Die resultaten illustreren de hogere doorvoer die centraal staat in de commerciële propositie. De gehoste dienst neemt daarnaast ook infrastructuurwerk uit handen, boven op wat de compiler zelf doet.

Gehoste inferentie en licenties op basis van toegevoegde waarde

Luminal Cloud biedt beheerde serverless-eindpunten, automatische batching en capaciteit die kan worden teruggeschaald naar nul; klanten betalen naar gebruik. Gelicentieerde implementaties kunnen draaien in de cloud van een klant of op locatie. Boven op de compiler plant en verdeelt de inferentielaag het werk over CPU’s, GPU’s en ASIC’s, verdeelt taken opnieuw wanneer de bezettingsgraad verandert en start of stopt knooppunten naargelang de vraag.

Het vastgoedmediabedrijf AutoHDR verwerkt ongeveer 5 miljoen afbeeldingen per maand. Luminal verwerkt bijna al dat werk en verplaatst een steeds groter deel ervan naar AMD-chips, aldus de oprichters. Een andere klant, Freebuff, stuurt Luminal wekelijks biljoenen tokens. Deze workloads leveren Luminal productiebelasting op voor zowel beeldverwerking als grote taalmodellen.

Volgens de oprichters kunnen de codeerverzoeken van Freebuff ongeveer 100.000 invoertokens bevatten, waardoor cachetrefferpercentages en het opschalen van verzoeken belangrijke kostenfactoren zijn. Door berekeningen uit de cache opnieuw te gebruiken, hoeven ze niet opnieuw te worden uitgevoerd. Door relevante caches door de geheugenhiërarchie te verplaatsen, blijft die besparing behouden. Een snelle kernel alleen pakt die kosten niet aan.

Voor sommige compilerlicenties omschreef Fioti de prijs als een vast deel van de gemeten verbetering ten opzichte van de bestaande uitgangswaarde van een klant. In zijn voorbeeld verdubbelt de doorvoer op een GPU die $1,50 kost, waardoor 75 cent wordt bespaard; Luminal rekent 25 cent en de klant houdt 50 cent over. Deze constructie koppelt de licentie-inkomsten aan de geleverde waarde, in plaats van uitsluitend aan het gebruik van de gehoste dienst.

Open source als vertrekpunt en verdere uitbreiding

Luminal begon als een zijproject dat Fioti buiten zijn werk om ontwikkelde om modellen op een laptop te draaien. Later kreeg het project een Nvidia-backend en ontstond er een open-sourcegemeenschap. De oprichters besloten de kerncompiler open source te houden en geld te vragen voor hosting. Ze vergeleken dat model met de combinatie van Next.js en zijn cloud door Vercel. De compilerlicentie biedt organisaties waarvan de hardware al beschikbaar is een tweede mogelijkheid.

De Series A volgt op een seedronde van $5,3 miljoen, die op 17 november 2025 werd aangekondigd en werd geleid door Felicis Ventures, met onder de angelinvesteerders Paul Graham en Guillermo Rauch.

Luminal werft nu compilerengineers en zijn eerste medewerker buiten de techniek: een hoofd groei. Het team werkt op locatie in het centrum van San Francisco en bestond tot nu toe uitsluitend uit technisch personeel. De oprichters verwachten dat inferentieworkloads steeds vaker worden verdeeld over chips die zijn gespecialiseerd in promptverwerking en chips die zijn gespecialiseerd in tokengeneratie. Daardoor wordt de coördinatie tussen verschillende soorten hardware een grotere software-uitdaging.

Het huidige aanwervingsplan wijst op de behoefte aan meer diepgaande compilerexpertise en een eerste commerciële functie. De grotere test is of Luminal de gemelde kostenvoordelen kan behouden naarmate inferentie wordt verdeeld over chips die zijn ontworpen voor verschillende fasen van een aanvraag, waarbij taakplanning en hergebruik van cachegeheugen naast de pure compilerprestaties mee gaan tellen in de berekening van de besparingen.