Luminal залучила $25 млн у раунді Series A, який очолила Standard Capital

Luminal залучила $25 млн у раунді Series A, який очолила Standard Capital, інвестор повідомив про це 12 листопада 2026 року. Стартап у сфері інфраструктури ШІ розширює діяльність у напрямках компіляторів і хостингу інференсу для Nvidia, AMD та спеціалізованих чипів, зосереджуючись на тому, щоб виконувати більше корисної роботи на обладнанні, яке клієнти вже мають.

Співзасновники Джо Фіоті, Джейк Стівенс і Метью Ґантон створили два бізнеси навколо інференсу — обчислень, у результаті яких формується відповідь моделі ШІ. Luminal розміщує моделі у власній хмарі й ліцензує свій компілятор клієнтам, які вже мають власне обладнання. Завдяки цьому компанія пропонує керовану послугу клієнтам, яким потрібно розгорнути моделі, і окремий продукт для тих, хто прагне вдосконалити власну інфраструктуру.

Компілятор, створений для пошуку швидших способів реалізації

Компілятор перетворює модель, написану з використанням такого фреймворку, як PyTorch, на низькорівневий код, що виконує її математичні операції. У технічному огляді Luminal описано конвеєр, який перетворює модель на граф потоків даних, застосовує злиття операцій з урахуванням особливостей апаратного забезпечення, тайлінг, планування пам’яті й розподіл завдань, а потім генерує ядра GPU або інструкції для спеціалізованих інтегральних схем. Компіляція до початку виконання має зменшити накладні витрати під час роботи, пов’язані з динамічною інтерпретацією моделі.

За словами засновників, під час компіляції Luminal витрачає значні обчислювальні ресурси на пошук можливих варіантів реалізації, а не покладається лише на евристики, прописані вручну. Метод насичення рівностями компактно представляє простір пошуку, який для певного чипа може містити трильйони варіантів, даючи компілятору змогу шукати оптимізовану версію. Цей підхід призначений для дедалі спеціалізованіших процесорів, для яких потрібні складніші програмні рішення щодо пам’яті й розподілу завдань.

У технічній публікації від 9 січня 2026 року пояснюється, як автоматично згенеровані мегаядра вписуються в цю стратегію. Об’єднання прямого проходу моделі в одне ядро, або програму GPU, усуває повторні затримки через запуск ядер і дає змогу починати наступні операції, щойно будуть готові їхні вхідні дані. Цей підхід також спрямований на усунення простоїв, спричинених нерівномірним розподілом роботи між ядрами процесора та очікуванням завантаження початкових ваг, — для збереження залежностей даних використовується дрібнозерниста синхронізація.

За даними Luminal, GPT-OSS 120B забезпечує швидкість 36 000 токенів за секунду на восьми графічних процесорах Nvidia H100 SXM, тоді як у порівнянні на сайті компанії для TensorRT-LLM наведено 28 000, а для vLLM — 26 000. Ці результати демонструють приріст пропускної здатності, на якому ґрунтується комерційна пропозиція компанії, тоді як хостингова послуга передбачає додаткові інфраструктурні завдання, що виходять за межі самого компілятора.

Хостинг інференсу та ліцензування на основі цінності

Luminal Cloud надає керовані безсерверні кінцеві точки, автоматичне пакетування й можливість масштабування до нуля; клієнти платять за фактичне використання. Ліцензовані розгортання можна запускати в хмарі клієнта або локально. Рівень інференсу над компілятором розподіляє й балансує навантаження між CPU, GPU та ASIC, перерозподіляє завдання зі зміною рівня використання ресурсів і запускає або зупиняє вузли відповідно до попиту.

Компанія AutoHDR, що працює з медіаконтентом у сфері нерухомості, щомісяця обробляє близько 5 мільйонів зображень, і Luminal виконує майже весь цей обсяг роботи, водночас переносячи дедалі більшу його частину на чипи AMD, розповіли засновники. Інший клієнт, Freebuff, надсилає Luminal трильйони токенів щотижня. Завдяки цим навантаженням Luminal має виробничий трафік, що охоплює обробку зображень і роботу з великими мовними моделями.

За словами засновників, запити Freebuff на написання коду можуть містити близько 100 000 вхідних токенів, тому частка влучань у кеш і масштабування запитів суттєво впливають на витрати. Повторне використання кешованих обчислень дає змогу не виконувати їх знову, а переміщення потрібних кешів між рівнями ієрархії пам’яті допомагає зберегти цю економію. Самої лише швидкості ядра недостатньо, щоб зменшити ці витрати.

За словами Фіоті, для деяких ліцензій на компілятор ціна становить фіксовану частку від виміряного покращення порівняно з наявним базовим показником клієнта. У наведеному ним прикладі подвоєння пропускної здатності на GPU вартістю $1.50 заощаджує 75 центів; Luminal бере 25 центів, залишаючи клієнту 50 центів економії. Така модель прив’язує дохід від ліцензування до створеної цінності, а не лише до використання хостингу.

Відкритий код на початку шляху та розширення

Luminal починалася як побічний проєкт, який Фіоті розробляв поза роботою, щоб запускати моделі на ноутбуці. Згодом у проєкті з’явився бекенд для Nvidia та сформувалася спільнота відкритого коду. Засновники вирішили залишити основний компілятор відкритим, а за хостинг стягувати плату; цю модель вони порівнювали з поєднанням Next.js і хмарного сервісу у Vercel. Ліцензія на компілятор стала ще одним варіантом для організацій, які вже мають необхідне обладнання.

Раунду Series A передував посівний раунд на $5,3 млн, про який оголосили 17 листопада 2025 року; його очолила Felicis Ventures, а серед ангельських інвесторів були Пол Ґрем і Гільєрмо Раух.

Зараз Luminal шукає інженерів-компіляторників і свого першого працівника не з інженерного напряму — керівника з розвитку. Команда працює очно в центрі Сан-Франциско, і досі в ній працювали лише інженери. Засновники очікують, що навантаження інференсу дедалі частіше розподілятимуться між чипами, спеціалізованими на обробці промптів, і чипами, призначеними для генерації токенів, а отже, координація роботи різних типів обладнання стане складнішим програмним завданням.

Найближчий план найму передбачає залучення фахівців із глибшою експертизою в компіляторах і першого працівника для комерційного напряму. Ширше питання полягає в тому, чи зможе Luminal зберегти заявлені переваги у витратах у міру того, як інференс розподілятиметься між чипами, призначеними для різних етапів обробки запиту, адже планування завдань і повторне використання кешу ставатимуть складниками розрахунку економії поряд із безпосередньою продуктивністю компілятора.