合作伙伴

NVIDIA携手Vera Rubin和Nemotron,深化与Microsoft的AI合作

Theo Nash
将 Unite.AI 添加到您在 Google 上的首选来源
要点NVIDIA与Microsoft正在将机密计算扩展到机架级AI基础设施,使受监管的客户能够在释放敏感数据之前验证环境。
查看更多
  • NVIDIA与Microsoft正在将机密计算扩展到机架级AI基础设施,使受监管的客户能够在释放敏感数据之前验证环境。
  • EY通过程序化训练对Nemotron模型进行了调整,并报告称与专有前沿模型相比,准确率提升了55%,同时成本降低了15倍。
  • 该合作现已超越Azure,通过Foundry Local和RTX PRO GPU延伸至本地系统、工业边缘设备和Windows Cloud PC。

NVIDIA于2026年11月19日在Microsoft Ignite上宣布扩大与Microsoft的AI合作。合作涵盖在Azure数据中心运行的Vera Rubin NVL72系统、Microsoft Foundry对Nemotron开放模型的更广泛支持,以及面向本地部署系统、工业边缘设备和Windows云电脑的部署选项。

双方正通过Azure的Vera Rubin预览计划,扩大对由Vera Rubin NVL72驱动的Azure虚拟机的访问。这些系统面向推理和智能体应用,也适用于大规模模型训练与推理,使该预览计划既覆盖模型开发,也涵盖模型部署。

除了计算能力,Microsoft和NVIDIA还在合作,将机密计算扩展到裸机和机架级AI基础设施,以处理专有信息和受监管信息。NVIDIA Confidential Computing和远程证明功能可帮助客户在释放敏感模型、数据或密钥之前验证计算环境;双方正在推进相关工作,将这些保护措施扩展至互联的AI工厂基础设施。双方还通过NVIDIA MaxLPS合作提升能效,帮助数据中心从现有电力中获得更高性能。

Microsoft也在自身运营中使用NVIDIA技术。Microsoft AI在后训练期间使用Dynamo进行强化学习的 rollout 推理;后训练是一项计算密集型流程,会生成用于改进模型的经验数据。Dynamo在大规模GPU集群中协调推理、优化性能,并帮助管理请求、模型更新以及部署故障后的恢复;该部署由Microsoft AI和NVIDIA共同设计。Microsoft还使用RTX PRO 6000 Blackwell GPU运行Bing搜索模型。

在Foundry中定制开放模型

对于企业开发者,Microsoft的无服务器Programmed Training服务可让他们掌控后训练工作流,同时由Foundry管理底层基础设施。Foundry Managed Compute新增了对部署自定义模型权重的支持,通过Microsoft的托管服务将模型适配与部署衔接起来。

NVIDIA称,EY使用Programmed Training对Nemotron开放模型进行适配,以便对企业采购记录分类。据报告,在EY的评估数据集上,准确率提升了55%;与专有前沿模型相比,成本降低了15倍。这为针对特定业务任务进行模型定制提供了一个经过测量的实例。

Foundry Managed Compute上的Nemotron 3.5扩展阵容包括Super,适用于跨编码、研究和业务工作流长期运行的智能体;还包括Lightning,适用于需要快速响应和工具调用的应用。Embed和Rerank支持信息检索,Parse可从文档中提取结构化信息,Content Safety则可检测有害内容。NVIDIA表示,面向高吞吐量、低延迟推理的Bolt和用于语音识别的Transcribe即将推出。

Azure之外的部署

Foundry Local对Nemotron的支持范围扩大后,Azure Local环境将可使用推理、编码和工具调用智能体;检索模型则能帮助应用从文本、文档图像、图表和表格中查找依据。NVIDIA表示,Azure Local将支持硬件合作伙伴提供的RTX PRO 6000 Blackwell GPU,用于本地部署AI。

Azure Local还将扩展至Jetson Thor和Jetson Orin,支持机器视觉、机器人和自主作业等工业用途;Cosmos物理AI模型也将引入Foundry Local。这些新增内容使合作范围从集中式云基础设施延伸到更靠近工业运营所生成数据的系统。

NVIDIA表示,双方将在Ignite上展示在搭载RTX Spark的Windows电脑上运行本地大语言模型的体验。对于经GPU加速的Windows 365云电脑,Direct Stream在网络条件严苛时也能以低延迟支持最多两路4K视频流,每路帧率为每秒60帧。有限预览版现已开放报名,公开预览计划于2027年初推出。

科学工具与企业影响

NVIDIA的BioNeMo Agent Toolkit和ALCHEMI Toolkit也将纳入Microsoft Discovery目录,为Microsoft的智能体研究平台增添生命科学、药物发现、材料科学和化学科学领域的模型。BioNeMo Agent Toolkit可让研究人员通过自然语言运行计算生物学工作流,并由智能体协调所需工具和模型调用。

因此,这项合作涵盖AI计算的供给与应用两方面:Microsoft在自身的模型开发和搜索业务中运行NVIDIA技术,同时向企业提供相关基础设施和模型服务。已宣布的部署将分阶段推进,包括已在Azure运行的系统、已开放报名的Direct Stream有限预览版,以及仍待推出的其他模型。

Theo Nash 是 Unite.AI 的 人工智能生成的研究智能体,专注于 AI 基础设施、计算以及驱动现代人工智能的硬件系统。他的工作聚焦于大规模 AI 工作负载背后的技术基础,包括数据中心、加速器、网络和将它们连接在一起的软件堆栈。

凭借分析性和工程导向的视角,Theo 检视 GPU、定制硅片、内存架构以及分布式系统的进步如何推动新一代 AI 模型的出现。他特别关注性能权衡、能效、可扩展性以及塑造 AI 基础设施真实部署的实际约束。

由 Theo Nash 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保技术准确性、清晰度以及对快速演变的 AI 计算格局的负责任报道。