微软发布 Maia 300 AI 芯片，Azure 规模扩展至多吉瓦级

2026年10月12日，微软推出 Azure Maia 300，这是其自研 AI 加速器系列的第三代产品。微软表示，从2027年起，将把 Azure Maia 系列扩展至多吉瓦级部署，并使 Maia 成为其产品和服务的主要推理系统。

云与 AI 执行副总裁 Scott Guthrie 在一篇微软官方博客文章中宣布了这款芯片，并将 Maia 300 描述为一套“完整的智能系统”，旨在支持长上下文推理、对延迟敏感的对话体验，以及持续进行的多步骤智能体任务。Maia 300 将于2027年开始投入生产部署。

Guthrie 写道，通过提升整个系统的效率，微软预计 Maia 300 每兆瓦可处理的 token 数量将比领先的 GPU 系统多40%。该公司表示，在配备96个加速器的完整配置下，Maia 300 的机架级 token 吞吐量最高可达 Maia 200 的7倍。

Maia 300 系统架构

Maia 300 采用微软所称的“推理优先”架构，针对长上下文、内存密集型和解码密集型 AI 工作负载进行了优化。微软表示，这种设计需要在云规模下平衡计算能力、内存带宽、网络和能效。其软件定义的数据流架构结合 AI 辅助的内核优化，让数据留在本地，减少数据移动，并提高计算、内存和网络资源的利用率。微软表示，将数据流视为首要设计原则，使 Maia 300 相较传统 GPU 架构具备显著的每瓦性能优势。

该内存系统采用八组 HBM4 堆栈，在950瓦热设计功耗（TDP）下提供18.0 TB/s的峰值带宽；专用内核支持则将芯片上的 SRAM 作为由软件管理的暂存区，以减轻 HBM 的压力。该芯片还转向多芯粒设计，将计算、内存控制器和 I/O 功能彼此分离，其中计算芯粒采用 TSMC 的 N2P 制程节点制造。对增强型 MXFP4 等先进低精度格式的支持，旨在降低计算和 KV 缓存存储所需的内存与带宽，从而在相同功耗范围内支持更大的上下文窗口和更高的吞吐量。

在网络方面，Maia 300 将网络视为其数据流架构的延伸，而不是通过独立的通信层传输数据。加速器之间的高速互连针对张量并行进行了优化；定制 AI 传输技术则通过基于以太网的基础设施，在加速器和机架之间提供扩展通信，形成统一的拓扑结构，可从单个机架扩展至数据中心规模的部署。在机架层面，96个 Maia 300 加速器的功耗范围为167千瓦，扩展域内总计提供27.6 TB 的 HBM 容量和1.7 PB/s的 HBM 带宽。微软表示，这种高密度配置让每个机架能够同时服务更多 AI 交互，并承载更大的工作负载。

Maia 200 已投入生产

Maia 300 是 Maia 200 的后续产品。Maia 200 已用于微软的生产工作负载，包括 Microsoft Copilot，并为 MAI 团队开发下一代模型提供支持；GitHub Copilot 和 Microsoft Foundry 也将于2026年底前跟进部署。在这些工作负载中，该芯片运行 OpenAI 模型、微软自有的 MAI 模型以及主流开源模型系列。Maia 200 正在美国、欧洲和澳大利亚部署。微软表示，与领先的 GPU 基础设施相比，在 Teams、Copilot 和 Cowork 体验中，该芯片为内置 AI 功能提供的每瓦 token 数量最高可提升1.7倍。

Guthrie 写道，在 Maia 200 上运行微软 AI 模型和服务的经验，直接影响了 Maia 300 的设计。他表示，这两代产品旨在支持微软一系列新增 AI 服务：为 GitHub 编程体验提供支持的多步骤智能体任务、通过 Microsoft Foundry 实现的云规模模型服务、为 MAI 团队提供的推理和数据生成，以及旨在减轻临床医生行政负担、对延迟敏感的 Dragon Copilot 工作流。

微软于2026年1月26日推出 Maia 200。这款推理加速器采用 TSMC 的3纳米制程制造，配备原生 FP8 和 FP4 张量核心、216GB HBM3e 内存（带宽为7 TB/s）以及272MB片上 SRAM。该芯片集成超过1400亿个晶体管，在750瓦热设计功耗范围内，FP4 算力超过10 petaFLOPS，FP8 算力超过5 petaFLOPS。其双层扩展网络基于标准以太网构建，在最多包含6,144个加速器的集群中，每个加速器可提供2.8 TB/s的双向扩展带宽。Maia 200 首先部署在微软位于爱荷华州得梅因附近的美国中部数据中心区域；微软宣布，亚利桑那州菲尼克斯附近的美国西部3区将成为下一个部署区域。

在 Maia 200 发布时，微软称其为所有超大规模云服务商中性能最强的自研芯片，并指出其 FP4 性能是第三代 Amazon Trainium 的三倍，FP8 性能超过 Google 第七代 TPU，且每美元性能比微软产品组合中最新硬件高出30%。该公司还称，Maia 200 是其部署过的能效最高的推理系统。

微软表示，将在旧金山举办的 Microsoft Ignite 2026 活动及线上活动中，进一步介绍其战略和前沿转型的进展，并请读者参阅 Maia 300 技术论文，了解更多架构细节。