Fireworks宣布推出更快的智能体推理与主权部署方案

Fireworks宣布于2026年11月3日在首届年度Forge大会上推出一系列企业级AI产品，其中包括Ultra-fast推理的预览版。据Fireworks称，该功能在DeepSeek V4.1 Flash上的速度最高可达每秒1,500个令牌；此外还推出了模型路由、评估和专用推理服务工具，并对面向客户自有基础设施的Fireworks Sovereign开启私有预览。

让推理速度与成本匹配工作负载

Ultra-fast目前已在NVIDIA Blackwell GPU上开放公开预览，专为多步骤智能体设计，因为每次模型调用都会延长等待结果的时间。Fireworks报告称，在其30轮智能体基准测试中，使用Ultra-fast后，任务完成时间从一分钟缩短至八秒。这项功能面向对时效性要求较高的工作；对于可以等待的任务，则有成本更低的选项。

对于可容忍延迟的工作，后台模式会以半价运行符合条件的任务，例如生成评估数据和通宵研究。多日提示缓存旨在降低重复上下文带来的成本。面向繁忙工作负载的更高无服务器速率限制和弹性突发功能现已全面推出；当有空余容量时，弹性突发可让客户的使用量超过其常规上限，且无需更改代码或定价。

Fireworks于2026年9月14日发布的DeepSeek V4.1 Flash基准测试说明了重复上下文的重要性。在DeepSWE测试中，99.6%的输入令牌命中了缓存，缓存命中费用占账单总额的60%。这一细分结果表明，对于长时间运行的智能体，重复上下文是值得重点控制成本的部分，而不应将生成内容视为唯一的开支来源。

同样的成本考量也延伸到了模型专用化。Ember-1于 2026 年 9 月 23 日以无服务器研究预览版的形式推出；在 Fireworks 的评测中，其质量与 Kimi K3 相当，使用的词元约少 40%。该模型可通过无服务器部署和专用部署使用。

Nexus Desktop与订阅定价

Fireworks Nexus可在现有的编程和协作工具中路由调用开源与闭源模型，并根据个性化模型选择和缓存状态进行调整。它还为组织集中提供支出情况的可见性和管理控制。Nexus Desktop与现有的Nexus CLI一同推出，Nexus可在Codex应用、Claude Desktop和OpenCode中运行。

全新的Nexus Pro套餐月费8美元起，Teams套餐则按席位计费，每席每月10美元起。企业套餐还提供单点登录、治理功能、共享预算和访问控制。

Nexus Desktop文档列出了适用于Apple芯片和Intel Mac的通用macOS版本，并表示即将支持Linux和Windows。CLI可在macOS和Linux上运行，也可通过Git Bash有限支持Windows。桌面版连接选项包括ChatGPT、Claude Code、Cursor IDE、VS Code和OpenCode；文档称Claude Desktop支持有限。

评估与专用模型推理服务

No Eval目前处于私有预览阶段，它利用生产系统中的跟踪记录和产品信号，为特定任务构建评估。这些评估旨在揭示模型的弱点，并判断后续训练能否解决这些问题，从而处理那些原本可能需要数周进行数据标注和评分的工作。

专用模型推理已开启公开预览，支持在Fireworks共享无服务器资源池中提供LoRA适配器服务，首批支持GLM 5.3 Flash。客户按令牌数量付费，费率与基础模型的无服务器定价相同，且无需创建部署。加载适配器、保持适配器处于加载状态以及空闲时间均不收取推理服务费用；训练费用则另行计费。

对于GLM 5.3 Flash，文档列出的费率为：每百万个输入令牌0.15美元，每百万个缓存输入令牌0.03美元，每百万个输出令牌0.50美元。

预览版支持的LoRA秩最高为64；每个账户针对基础模型最多可加载三个适配器。Fireworks文档说明，加载时间不到五分钟；首次请求可能需要最长一分钟，之后的请求延迟则约与基础模型相当。预览期间不保证延迟表现。

适配器运行在与其他客户适配器共享的GPU上。对于需要稳定延迟、独享GPU、指定区域或更高精度推理服务的工作负载，建议采用专用部署；无服务器方案则适用于实验和流量突增的场景。

企业控制与主权部署

模型治理、支出控制和可导出的审计日志现已全面推出。集中式账户管理、区域数据控制和客户自主管理的加密功能仍处于预览阶段。

Fireworks Sovereign目前处于私有预览阶段，可在客户的云环境、新型云服务商环境或数据中心中运行Fireworks的推理引擎。推理和训练均在客户环境内进行，并遵循客户的安全与变更控制政策。Fireworks称，其在客户环境中管理着超过25,000个GPU。

这种运营模式将双方的职责划分开来。Fireworks负责对集群进行认证、部署模型，并处理升级、监控、性能调优和事件响应；客户则保留对架构和策略的所有权。客户负责管理入口流量、负载均衡、DNS、TLS证书以及获准的出站路由。Fireworks的控制平面使用专用且可审计的凭证，并将出站流量限制为拉取模型权重和镜像，以及传输运维遥测数据。

Fireworks表示，Sovereign在相同硬件上可将吞吐量提高20%至50%，每单位硬件成本可处理的令牌数约为原来的2.3倍。可选的混合溢出功能会在集群达到饱和时，将符合条件的工作负载转移到客户批准区域内的Fireworks Cloud；随着需求下降，再通过同一API将其迁回客户的GPU。

Forge产品系列将模型选择、推理成本效益和基础设施控制纳入同一项企业决策。关键在于，各选项的运行条件各不相同：无服务器适配器无需专用算力，但运行在共享GPU上，且在预览阶段不提供延迟保证；Sovereign则将客户自有基础设施与由Fireworks运营的服务技术栈结合起来。