Luminal获2500万美元A轮融资，Standard Capital领投

Luminal完成2500万美元A轮融资，由Standard Capital领投；该投资方于2026年11月12日宣布了这一消息。这家人工智能基础设施初创公司正将其编译器和托管推理业务拓展至Nvidia、AMD及专用芯片，重点是充分利用客户已经拥有的硬件，提升其有效工作效率。

联合创始人Joe Fioti、Jake Stevens和Matthew Gunton围绕推理构建了两项业务。推理是生成AI模型输出的计算过程。Luminal在自有云上托管模型，并向已经运营硬件的客户授权使用其编译器。由此，公司既能为寻求部署服务的客户提供托管服务，也能为希望改进自身基础设施的客户提供独立产品。

旨在搜索更快实现方案的编译器

编译器会将以PyTorch等框架编写的模型转换为执行其数学运算的底层代码。Luminal的技术概述介绍了一套处理流程：先将模型降阶为数据流图，再进行硬件感知的融合、分块、内存规划和调度，随后生成GPU内核或专用集成电路指令。提前编译旨在减少动态解释模型带来的运行时开销。

创始人表示，Luminal会在编译期间投入大量计算资源，搜索各种可能的实现方案，而不是只依赖手工编写的启发式规则。等式饱和技术能够紧凑地表示搜索空间；对于某种芯片而言，这个空间可能包含数万亿种方案，从而让编译器能够搜索优化后的版本。该方法面向日益专业化的处理器而设计，因为这类处理器需要在软件层面做出更复杂的内存和调度决策。

2026年1月9日发布的一篇技术文章解释了自动生成的巨型内核如何融入这一策略。将模型的前向传播融合进一个内核（即GPU程序），可以消除反复启动内核造成的延迟，并让后续操作在输入数据就绪时立即开始。该设计还针对处理器核心间工作负载不均以及等待初始权重加载所造成的空闲时间，并通过细粒度同步来维持数据依赖关系。

Luminal称，在其网站的对比中，GPT-OSS 120B在8块Nvidia H100 SXM GPU上的处理速度为每秒36,000个token，而TensorRT-LLM为28,000个，vLLM为26,000个。这些结果展示了其商业主张的核心——提高吞吐量；此外，托管服务还承担了编译器本身之外的基础设施工作。

托管推理与基于价值的授权收费

Luminal Cloud提供托管式无服务器端点、自动批处理和可缩减至零的容量，客户按实际用量付费。授权部署可以运行在客户的云环境或本地。其推理层构建于编译器之上，负责在CPU、GPU和ASIC之间调度和平衡工作，根据利用率变化重新分配任务，并按需启动或停止节点。

房地产媒体公司AutoHDR每月处理约500万张图像，创始人表示，Luminal承担了其中几乎全部工作负载，同时正将越来越多的工作转移到AMD芯片上。另一家客户Freebuff每周向Luminal发送数万亿个token。这些工作负载让Luminal在生产环境中同时处理图像处理和大型语言模型任务。

创始人称，Freebuff的编程请求输入内容可能多达约100,000个token，因此缓存命中率和请求扩展都会显著影响成本。重复利用缓存的计算结果可以避免再次运行相关计算，而在内存层级之间转移相关缓存，则有助于保住这部分节省。仅仅拥有快速内核并不能解决这些开销问题。

Fioti表示，对于部分编译器授权，收费方式是按客户现有基准性能所实现的提升幅度，收取固定比例。按照他举的例子，如果一块售价1.50美元的GPU吞吐量翻倍，就能节省75美分；Luminal收取25美分，客户仍可节省50美分。这种收费结构将授权收入与实际交付的价值挂钩，而不只依赖托管服务的使用量。

开源起步与业务拓展

Luminal最初是Fioti在工作之余开发的一个副项目，目的是让模型能在笔记本电脑上运行。后来，该项目增加了Nvidia后端，并发展出开源社区。创始人最终决定保持核心编译器开源，同时对托管服务收费；他们将这一模式比作Vercel将Next.js与其云服务相结合的做法。对于硬件已经到位的组织，编译器授权则提供了另一种选择。

本轮A轮融资之前，Luminal曾完成一轮于2025年11月17日宣布的530万美元种子轮融资，由Felicis Ventures领投，天使投资人包括Paul Graham和Guillermo Rauch。

Luminal目前正在招聘编译器工程师，以及公司的首位非工程岗位员工——增长负责人。团队在旧金山市中心线下办公，此前成员全部从事工程工作。创始人预计，推理工作负载将越来越多地分配给不同芯片：一类专门处理提示词，另一类专门生成token。这将使跨硬件类型的协同成为更大的软件挑战。

近期的招聘计划表明，Luminal 正在寻求更深厚的编译器专业能力，并将首次组建商业职能团队。更大的考验在于，随着推理任务逐渐分布到针对请求不同阶段设计的芯片上，Luminal 能否保持其据称的成本优势；在这种情况下，调度和缓存复用也会与编译器的原始性能一同纳入节省成本的考量。