Luminal pozyskuje 25 mln dolarów w rundzie serii A prowadzonej przez Standard Capital

Luminal pozyskał 25 mln dolarów w rundzie serii A prowadzonej przez Standard Capital, a inwestor ogłosił to 12 listopada 2026 r. Startup z branży infrastruktury AI rozwija działalność obejmującą kompilator i udostępnianie hostowanych usług wnioskowania na układach Nvidia, AMD oraz wyspecjalizowanych chipach. Koncentruje się przy tym na lepszym wykorzystaniu sprzętu, który klienci już posiadają.

Współzałożyciele Joe Fioti, Jake Stevens i Matthew Gunton zbudowali dwie firmy wokół wnioskowania, czyli obliczeń, w wyniku których powstaje odpowiedź modelu AI. Luminal hostuje modele we własnej chmurze i udziela licencji na swój kompilator klientom, którzy dysponują już własnym sprzętem. Dzięki temu firma oferuje zarządzaną usługę klientom szukającym sposobu na wdrożenie modeli, a także odrębny produkt dla tych, którzy chcą usprawnić własną infrastrukturę.

Kompilator wyszukujący szybsze sposoby implementacji

Kompilator przekształca model napisany z użyciem frameworka takiego jak PyTorch w niskopoziomowy kod, który wykonuje jego operacje matematyczne. Przegląd techniczny Luminal opisuje potok, który przekształca model w graf przepływu danych, stosuje fuzję uwzględniającą specyfikę sprzętu, dzielenie na kafelki, planowanie pamięci i harmonogramowanie, a następnie generuje kernele GPU lub instrukcje dla układów scalonych specyficznych dla danej aplikacji. Kompilacja przed rozpoczęciem wykonywania ma ograniczyć narzut czasu działania związany z dynamiczną interpretacją modelu.

Jak powiedzieli założyciele, podczas kompilacji Luminal wykonuje znaczną ilość obliczeń, aby wyszukiwać możliwe implementacje, zamiast polegać wyłącznie na heurystykach opracowanych ręcznie. Nasycanie równoważności pozwala zwięźle reprezentować przestrzeń poszukiwań, która dla danego układu może obejmować biliony wariantów, dzięki czemu kompilator może wyszukać zoptymalizowaną wersję. Podejście to zaprojektowano z myślą o coraz bardziej wyspecjalizowanych procesorach, które wymagają podejmowania w oprogramowaniu bardziej złożonych decyzji dotyczących pamięci i harmonogramowania.

Wpis techniczny z 9 stycznia 2026 r. wyjaśnia, jak automatycznie generowane megakernele wpisują się w tę strategię. Połączenie przebiegu w przód modelu w jeden kernel, czyli program GPU, eliminuje powtarzające się opóźnienia związane z uruchamianiem kerneli i pozwala rozpocząć kolejne operacje, gdy tylko będą gotowe ich dane wejściowe. Rozwiązanie ma również ograniczać przestoje powodowane nierównomiernym rozłożeniem pracy między rdzeniami procesora i oczekiwaniem na załadowanie początkowych wag. Służy temu synchronizacja o wysokiej szczegółowości, która pozwala zachować zależności między danymi.

Luminal podaje, że w porównaniu opublikowanym na swojej stronie osiąga 36 000 tokenów na sekundę dla GPT-OSS 120B na ośmiu układach Nvidia H100 SXM. Dla porównania TensorRT-LLM osiąga 28 000, a vLLM — 26 000. Wyniki te pokazują wzrost przepustowości, który stanowi sedno oferty handlowej firmy, a hostowana usługa obejmuje dodatkowo zadania infrastrukturalne wykraczające poza sam kompilator.

Hostowane wnioskowanie i licencjonowanie oparte na wartości

Luminal Cloud udostępnia zarządzane, bezserwerowe punkty końcowe, automatyczne grupowanie żądań i możliwość skalowania do zera, a klienci płacą za faktyczne użycie. Oprogramowanie wdrożone na podstawie licencji może działać w chmurze klienta lub lokalnie. Warstwa wnioskowania firmy, działająca ponad kompilatorem, planuje i równoważy obciążenie procesorów CPU, GPU i układów ASIC, rozdziela zadania na nowo w miarę zmian wykorzystania zasobów oraz uruchamia lub zatrzymuje węzły stosownie do zapotrzebowania.

Firma AutoHDR z branży medialnej i rynku nieruchomości przetwarza około 5 mln zdjęć miesięcznie. Jak powiedzieli założyciele, Luminal obsługuje niemal całe to obciążenie, stopniowo przenosząc coraz większą jego część na układy AMD. Inny klient, Freebuff, przesyła do Luminal biliony tokenów tygodniowo. Te obciążenia oznaczają, że ruch produkcyjny obsługiwany przez Luminal obejmuje zarówno przetwarzanie obrazów, jak i duże modele językowe.

Według relacji założycieli zapytania dotyczące kodowania wysyłane przez Freebuff mogą zawierać około 100 000 tokenów wejściowych, dlatego współczynnik trafień w pamięci podręcznej i skalowanie obsługi żądań mają istotny wpływ na koszty. Ponowne wykorzystanie obliczeń zapisanych w pamięci podręcznej pozwala uniknąć ich ponownego wykonywania, a przenoszenie odpowiednich danych z pamięci podręcznej między poziomami hierarchii pamięci pomaga zachować uzyskane oszczędności. Sam szybki kernel nie rozwiązuje problemu tych kosztów.

Fioti opisał model cenowy stosowany w przypadku niektórych licencji na kompilator jako stały udział w zmierzonej poprawie względem dotychczasowych wyników klienta. W podanym przez niego przykładzie podwojenie przepustowości procesora graficznego kosztującego 1,50 dolara przynosi 75 centów oszczędności; Luminal pobiera 25 centów, a klientowi pozostaje 50 centów oszczędności. Taka struktura wiąże przychody z licencji z dostarczaną wartością, a nie wyłącznie z korzystaniem z hostowanej usługi.

Początki w otwartym oprogramowaniu i rozwój

Luminal powstał jako poboczny projekt, który Fioti rozwijał poza pracą, aby uruchamiać modele na laptopie. Z czasem projekt zyskał obsługę układów Nvidia i rozwinął wokół siebie społeczność open source. Założyciele zdecydowali, że podstawowy kompilator pozostanie otwarty, a firma będzie pobierać opłaty za hosting. Porównali ten model z połączeniem Next.js i chmury w ofercie Vercel. Licencja na kompilator zapewnia organizacjom, które mają już odpowiedni sprzęt, drugą możliwość skorzystania z oferty.

Runda serii A następuje po rundzie zalążkowej o wartości 5,3 mln dolarów, ogłoszonej 17 listopada 2025 r., którą poprowadziła firma Felicis Ventures przy udziale inwestorów anielskich, w tym Paula Grahama i Guillermo Raucha.

Luminal prowadzi obecnie rekrutację inżynierów kompilatorów oraz pierwszej osoby spoza zespołu inżynieryjnego — szefa ds. rozwoju. Zespół pracuje stacjonarnie w centrum San Francisco i do tej pory składał się wyłącznie z inżynierów. Założyciele spodziewają się, że obciążenia związane z wnioskowaniem będą coraz częściej rozdzielane między układy specjalizujące się w przetwarzaniu promptów i układy wyspecjalizowane w generowaniu tokenów. Zwiększy to znaczenie koordynacji między różnymi typami sprzętu jako wyzwania programistycznego.

Najbliższe plany rekrutacyjne wskazują na potrzebę pogłębienia kompetencji w zakresie kompilatorów oraz zatrudnienia pierwszej osoby do zadań komercyjnych. Szerszym sprawdzianem będzie to, czy Luminal zdoła utrzymać deklarowane przewagi kosztowe w miarę tego, jak wnioskowanie będzie rozkładane między układy zaprojektowane do obsługi różnych etapów żądania, a harmonogramowanie i ponowne wykorzystanie pamięci podręcznej staną się — obok samej wydajności kompilatora — elementami wpływającymi na oszczędności.