Luminal atrage 25 de milioane de dolari într-o rundă de finanțare seria A condusă de Standard Capital

Luminal a atras 25 de milioane de dolari într-o rundă de finanțare seria A condusă de Standard Capital, a anunțat investitorul la 12 noiembrie 2026. Startupul din domeniul infrastructurii IA își extinde activitatea de dezvoltare a compilatorului și de furnizare a serviciilor de inferență găzduite, pentru cipuri Nvidia, AMD și cipuri specializate, concentrându-se pe valorificarea mai eficientă a hardware-ului pe care clienții îl dețin deja.

Cofondatorii Joe Fioti, Jake Stevens și Matthew Gunton au construit două afaceri în jurul inferenței, calculul care generează rezultatul unui model IA. Luminal găzduiește modele în propriul serviciu cloud și le acordă licențe clienților pentru compilatorul său, dacă aceștia folosesc deja hardware propriu. Astfel, compania oferă un serviciu gestionat clienților care caută o soluție de implementare și un produs separat celor care vor să-și îmbunătățească propria infrastructură.

Un compilator conceput să caute implementări mai rapide

Un compilator transformă un model scris într-un cadru de lucru precum PyTorch în cod de nivel jos, care execută operațiile matematice ale acestuia. Prezentarea tehnică a Luminal descrie un flux de procesare care transformă modelul într-un graf de flux de date, aplică fuziunea, împărțirea în blocuri, planificarea memoriei și planificarea execuției ținând cont de hardware, apoi generează kerneluri GPU sau instrucțiuni pentru circuite integrate specifice aplicației. Compilarea înainte de execuție este menită să reducă costurile de rulare asociate interpretării dinamice a unui model.

Fondatorii au declarat că Luminal investește resurse de calcul considerabile în timpul compilării pentru a căuta implementări posibile, în loc să se bazeze doar pe euristici scrise manual. Tehnica numită saturarea echivalențelor reprezintă compact un spațiu de căutare care poate cuprinde trilioane de opțiuni pentru un anumit cip, permițând compilatorului să caute o versiune optimizată. Abordarea este concepută pentru procesoare tot mai specializate, care necesită decizii software mai complexe privind memoria și planificarea execuției.

O publicație tehnică din 9 ianuarie 2026 explică felul în care megakernelurile generate automat se înscriu în această strategie. Fuzionarea unei treceri de propagare înainte a modelului într-un singur kernel, adică un program GPU, elimină întârzierile repetate cauzate de lansarea kernelurilor și permite începerea operațiilor ulterioare de îndată ce datele de intrare necesare sunt disponibile. Arhitectura vizează și perioadele de inactivitate cauzate de distribuirea neuniformă a lucrului între nucleele procesorului și de așteptarea încărcării ponderilor inițiale, folosind sincronizare granulară pentru a păstra dependențele dintre date.

Luminal raportează o viteză de 36.000 de tokeni pe secundă pentru GPT-OSS 120B pe opt GPU-uri Nvidia H100 SXM, față de 28.000 pentru TensorRT-LLM și 26.000 pentru vLLM, în comparația de pe site-ul companiei. Aceste rezultate ilustrează creșterea debitului de procesare care stă la baza argumentului comercial al companiei, în timp ce serviciul găzduit oferă și servicii de infrastructură care depășesc funcțiile compilatorului.

Inferență găzduită și licențiere bazată pe valoarea oferită

Luminal Cloud oferă puncte terminale serverless gestionate, grupare automată a solicitărilor și capacitate care se ajustează la zero, iar clienții plătesc în funcție de consum. Implementările cu licență pot rula în cloud-ul clientului sau la sediul acestuia. Deasupra compilatorului, nivelul de inferență al companiei planifică și echilibrează sarcinile între procesoare, GPU-uri și ASIC-uri, redistribuie sarcinile pe măsură ce se schimbă gradul de utilizare și pornește sau oprește noduri în funcție de cerere.

Compania imobiliară de media AutoHDR procesează aproximativ 5 milioane de imagini pe lună, iar Luminal gestionează aproape tot acest volum de lucru, mutând totodată o parte tot mai mare a acestuia pe cipuri AMD, au declarat fondatorii. Un alt client, Freebuff, trimite către Luminal trilioane de tokeni în fiecare săptămână. Aceste volume de lucru îi oferă Luminal trafic de producție atât pentru procesarea imaginilor, cât și pentru modelele lingvistice mari.

Potrivit fondatorilor, solicitările de programare trimise de Freebuff pot conține aproximativ 100.000 de tokeni de intrare, ceea ce face importante ratele de accesare reușită a memoriei cache și scalarea solicitărilor. Reutilizarea calculelor stocate în cache evită repetarea acestora, iar transferarea cache-urilor relevante prin ierarhia memoriei ajută la păstrarea acestei economii. Un kernel rapid, de unul singur, nu rezolvă aceste costuri.

Fioti a descris prețul unor licențe pentru compilator ca pe o fracție fixă din îmbunătățirea măsurată față de performanța de referință existentă a clientului. În exemplul său ilustrativ, dublarea debitului de procesare pe un GPU care costă 1,50 USD generează economii de 75 de cenți; Luminal percepe 25 de cenți, iar clientului îi rămân economii de 50 de cenți. Acest model leagă veniturile din licențe de valoarea oferită, nu doar de utilizarea serviciilor găzduite.

Origini open-source și extindere

Luminal a început ca un proiect secundar dezvoltat de Fioti în afara programului de lucru, pentru a rula modele pe un laptop. Ulterior, proiectul a adăugat un backend Nvidia și a dezvoltat o comunitate open-source. Fondatorii au hotărât să păstreze compilatorul de bază open-source și să perceapă taxe pentru găzduire, un model pe care l-au comparat cu asocierea dintre Next.js și serviciul cloud al Vercel. Licența pentru compilator oferă o a doua opțiune organizațiilor care dispun deja de hardware.

Runda de finanțare seria A vine după o rundă inițială de finanțare de 5,3 milioane de dolari, anunțată la 17 noiembrie 2025, condusă de Felicis Ventures, la care au participat și investitori providențiali, printre care Paul Graham și Guillermo Rauch.

Luminal caută acum ingineri specializați în compilatoare și primul său angajat din afara departamentului de inginerie, un director de creștere. Echipa lucrează față în față în centrul orașului San Francisco și, până acum, a fost alcătuită numai din ingineri. Fondatorii se așteaptă ca sarcinile de inferență să fie împărțite tot mai mult între cipuri specializate în procesarea prompturilor și cipuri specializate în generarea de tokeni, ceea ce va face coordonarea între tipurile de hardware o provocare software mai importantă.

Planul imediat de angajare indică nevoia de expertiză mai aprofundată în compilatoare și de ocupare a primului post comercial. Testul mai amplu este dacă Luminal își poate menține avantajele de cost raportate pe măsură ce inferența se extinde la cipuri concepute pentru diferite etape ale unei solicitări, în condițiile în care planificarea execuției și reutilizarea memoriei cache devin parte din calculul economiilor, alături de performanța brută a compilatorului.