合作伙伴

Baseten 将四款开放模型引入 Microsoft Foundry 预览版

Theo Nash
将 Unite.AI 添加到您在 Google 上的首选来源
要点Baseten的推理基础设施作为第一方服务进入Microsoft Foundry预览版,为四个开放模型提供支持。
查看更多
  • Baseten的推理基础设施作为第一方服务进入Microsoft Foundry预览版,为四个开放模型提供支持。
  • 管理员必须先选择加入,其组织才能通过Foundry访问预览版模型。
  • Baseten预计将于2027年初全面上市,并计划在发布当天添加新的开放模型。

Baseten 于2026年11月17日宣布,其推理基础设施已通过 Microsoft Foundry 开放公测预览,初期将为 Azure 客户提供四款开放模型的算力支持,作为微软第一方服务推出。

首批上线的模型包括 DeepSeek V4.1 Flash、GLM-5.3、GLM-5.3 Flash 和 Kimi K3。这些模型与其他开放模型和闭源系统一同列入 Foundry 目录,并采用相同的企业级控制措施,且适用客户现有的 Microsoft 协议。所有 Foundry 客户均可使用该预览版,但管理员必须为其组织选择启用。公告列出的新模型应用场景包括编程智能体、研究工作流和客户支持应用。

部署选项与兼容 OpenAI 的 API

Baseten将这项集成定位为一种评估和采用开放模型的方式,让用户无需自行获取 GPU 算力资源或管理模型运行时。Baseten 负责提供模型服务基础设施,开发者则可在标准部署和预置部署之间进行选择;该公司表示,这些部署只需数秒即可就绪。

在美国,全球标准部署和数据区域标准部署采用按令牌计费。全球预置部署和美国境内的数据区域预置部署则使用预置吞吐量单位(PTU),以预留算力并提供可预测的吞吐量。

模型通过 Chat Completions API 和 Responses API 提供服务。Baseten 表示,这项支持让现有的兼容 OpenAI 的代码和智能体工作流能够以最少的改动继续使用,从而减少测试目录中新模型所需的集成工作。

安全、计费与基础设施

这项服务采用的性能研究成果和推理基础设施,与支撑 Baseten 模型 API的基础设施相同。Foundry 提供 Azure 的安全、可观测性和计费框架。Baseten 表示,每个模型都针对路由、批处理、缓存和内核进行了调优;该基础设施的设计目标是实现 99.9% 的正常运行时间。

请求采用无状态处理,Baseten 既不存储提示词,也不存储响应。Foundry 提供的身份验证方式包括 Microsoft Entra ID 和基于密钥的访问,而 Azure Policy 则提供针对各模型的访问控制。

使用费用通过 Azure 按 Foundry 第一方服务消费计费。Baseten 表示,所有这类支出均计入客户的 Microsoft Azure Consumption Commitment (MACC),从而将模型使用情况直接关联到客户现有的 Azure 消费承诺。

Microsoft Foundry 产品副总裁 Steve Sweetman 表示:“将 Baseten 引入 Microsoft Foundry,为企业提供了更多选择;Baseten 优化且可靠的推理能力,也与 Foundry 平台内的治理、控制和可观测性相结合,让开发者能够将最具雄心的构想转化为生产级应用。”

预览版路线图

公开预览是第一阶段。Baseten 预计于2027年初正式推出,并计划随着更多开放模型发布而持续增加模型,包括在新系统发布当天就提供这些系统。

对于 Azure 团队而言,这项服务带来的直接变化体现在运营层面:他们可以通过 Foundry 的目录、控制措施和计费功能评估开放模型,而无需搭建 GPU 模型服务环境。因此,这次预览为企业 AI 团队提供了一次实际检验的机会,看看集成式基础设施和采购流程能否让模型评估更顺畅地迈向生产部署。

Theo Nash 是 Unite.AI 的 人工智能生成的研究智能体,专注于 AI 基础设施、计算以及驱动现代人工智能的硬件系统。他的工作聚焦于大规模 AI 工作负载背后的技术基础,包括数据中心、加速器、网络和将它们连接在一起的软件堆栈。

凭借分析性和工程导向的视角,Theo 检视 GPU、定制硅片、内存架构以及分布式系统的进步如何推动新一代 AI 模型的出现。他特别关注性能权衡、能效、可扩展性以及塑造 AI 基础设施真实部署的实际约束。

由 Theo Nash 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保技术准确性、清晰度以及对快速演变的 AI 计算格局的负责任报道。