Oracle Cloud Infrastructure 将提供 Google 的 TPU 加速器

Oracle 和 Google 于 2026 年 10 月 27 日在拉斯维加斯举行的 Oracle AI World 上宣布，Google 的张量处理单元（TPU）将通过 Oracle Cloud Infrastructure（OCI）提供。Oracle 的公告称，OCI 将成为 Google 以外首个提供 Google TPU 的超大规模云平台，计划于 2027 日历年内开放使用。

Oracle 的基础设施职责

OCI 将提供电力、冷却和数据中心网络，以便在 Oracle 的基础设施中大规模部署 Google TPU。Oracle 和 Google 表示，这些 TPU 可支持大型模型的训练和后训练，包括稠密模型和混合专家（MoE）模型，也可用于推理、智能体式应用和长上下文应用的生产推理。客户将能够在 OCI 中选择针对自身工作负载、性能要求和成本目标优化的 Google TPU。

Oracle Cloud Infrastructure 总裁 Mahesh Thiagarajan 表示：“不同的 AI 工作负载有不同的计算需求。将 Google TPU 引入 OCI，能让客户在同一个云平台上使用多种领先的 AI 计算架构。”

Google AI 与基础设施高级副总裁兼首席技术专家 Amin Vahdat 表示，下一代 AI 将需要多样化的计算资源。他说，将 Google TPU 引入 OCI，将让更多组织能够使用这项技术，并在构建和运行最复杂的 AI 应用时拥有更大的灵活性。

两家公司称，Google TPU 是与开放软件协同设计的定制加速器，旨在支持完整的 AI 生命周期，从前沿模型训练和大规模推理，到满足智能体式 AI 对多步骤推理的需求。他们表示，TPU 产品组合依托十多年来定制 AI 芯片的开发经验；其架构旨在最大限度地提升每瓦电力所能实现的 AI 处理能力，同时确保快速访问模型数据，并实现芯片之间的高速通信。

第八代 TPU 硬件

Oracle 和 Google 将第八代 TPU 描述为两种专为特定用途打造的架构：用于训练的 TPU 8t 和用于推理的 TPU 8i。他们表示，与上一代相比，TPU 8t 的单 Pod 计算性能接近提升至 3 倍，同时能将前沿模型的开发周期从数月缩短至数周。TPU 8i 则专为处理大量专业智能体的迭代工作而设计。

Google 在一篇发表于 2026 年 4 月 22 日的技术深度解析中详细介绍了第八代设计。根据该文章，TPU 8t 采用 3D 环面网络拓扑，可在单个超级 Pod 中扩展至 9,600 颗芯片；它还新增了 SparseCore，这是一种专用加速器，可处理嵌入查找过程中不规则的内存访问模式，而矩阵乘法单元则负责矩阵运算。该芯片引入原生 4 位浮点（FP4）处理能力。Google 表示，这使矩阵乘法单元的吞吐量翻倍；与上一代相比，芯片间互连的纵向扩展带宽也翻了一倍。

在网络和存储方面，Google 表示，其 Virgo Network 是一种基于高基数交换机打造的横向扩展网络，可使 TPU 8t 训练的数据中心网络带宽最高提升至 4 倍。新增的 TPUDirect RDMA 和 TPUDirect Storage 功能可在 TPU 内存、网卡和托管存储之间传输数据，同时绕过主机 CPU。Google 表示，与使用第七代 Ironwood TPU 进行训练相比，这些功能可将存储访问速度提升至 10 倍。

Google 表示，针对后训练和高并发推理优化的 TPU 8i，其片上 SRAM 容量是上一代的 3 倍，使更大的 KV 缓存能够在长上下文解码期间完全驻留在芯片上。Collectives Acceleration Engine 可将集合通信操作的片上延迟降低至原来的五分之一；名为 Boardfly、针对推理服务优化的拓扑则通过全互连板卡和分组连接多达 1,152 颗芯片，Pod 可扩展至 36 个分组，并通过光路交换机互连。Google 表示，对于一个包含 1,024 颗芯片的 Pod，Boardfly 可将网络直径从可比的 3D 环面拓扑中的 16 跳降至 7 跳，使通信密集型工作负载的延迟最高改善 50%。

Google 公布的规格显示，TPU 8t 配备 216 GB 高带宽内存（HBM）、128 MB 片上 SRAM，峰值 FP4 算力为 12.6 petaflops，内存带宽为 6,528 GB/s；TPU 8i 则配备 288 GB HBM、384 MB SRAM，峰值 FP4 算力为 10.1 petaflops，带宽为 8,601 GB/s。两款系统都集成了基于 Arm 的 Axion CPU 主机处理器。Google 表示，这些处理器消除了由数据准备延迟造成的主机瓶颈。

Google 声称，对于大规模训练，TPU 8t 的每美元性能相比 Ironwood 最高提升至 2.7 倍；对于大型 MoE 模型，在低延迟目标下，TPU 8i 的每美元性能最高提升 80%；两款芯片的每瓦性能最高提升至 2 倍。该公司还表示，借助 JAX 框架和 Pathways 软件，可将分布式训练扩展至单个集群中的 100 多万颗 TPU；Virgo Network 则可连接 134,000 多颗 TPU 8t，并提供最高达每秒 47 petabits 的无阻塞二分带宽。

当前产品阵容与可用情况

Google Cloud 的 TPU 产品页面列出了 TPU 8t 和 TPU 8i，二者均标注为即将推出。第七代 Ironwood TPU 每个 pod 配备 9,216 个液冷芯片，算力达 42.5 exaflops；它与第六代 Trillium 一同被列为已全面推出。Google 表示，TPU 是专门设计的专用集成电路，为其 Gemini 模型及 Search、Photos 和 Maps 等旗舰产品提供支持，同时原生支持 PyTorch 和 JAX 软件，以及用于推理的 vLLM 引擎。

两家公司表示，OCI 上的 Google TPU 将于 2027 日历年推出，并将在数年内逐步扩大部署规模，以满足客户需求。