Google 将 TPU 8Tx 和 TPU 8I Max 加入第八代产品阵容

Google 宣布于 2026 年 11 月 9 日推出 TPU 8tx 和 TPU 8i Max，扩充其第八代加速器产品组合。TPU 8tx 面向机密推理和小规模训练，而 TPU 8i Max 则专为超大上下文窗口和更高的机架密度打造。

Google 表示，新增这两款产品后，2026 年将成为其首次推出四款 TPU 系统的一年；目前，TPU 客户数量接近 100 家，涵盖前沿研究实验室、交易公司、零售商和大学。TPU 业务覆盖 Google Cloud 基础设施，以及部署在客户自有数据中心的系统。

TPU 8Tx 在处理过程中保护数据

TPU 8tx 专为受监管行业的企业和政府机构打造，面向需要在处理敏感数据的同时运行前沿模型、专有模型和自主智能体的场景。它针对的是传统加密技术的一项不足：信息在静态存储和传输过程中可以加密，但计算运行时，数据仍须在内存中解密。这款硬件旨在确保敏感数据和模型权重即使在处理过程中也能保持隔离。

该系统采用与侧重训练的 TPU 8t 相同的芯片，但搭配第五代 AMD EPYC CPU 主机。它还采用了为实时推理而开发的低延迟 Boardfly 网络。Google 报告称，与 TPU 8t 相比，该系统的延迟最高可降低 2 倍，而几乎不会因此损失性能。

这种组合使组织能够在同一系统上运行和定制模型。团队可以利用私有数据微调模型，将较大的模型蒸馏为较小的模型，还可以通过强化学习训练智能体。完成这三项任务时，私有信息都可以留在该系统内，无须在不同集群之间传输。

TPU 8I Max 面向更大内存和更高机架密度

TPU 8i Max 面向这样的工作负载：数十个智能体同时处理完整的软件代码库，或同时分析数小时的视频，导致内存带宽成为瓶颈。Google 的解决方案是将两颗低延迟 TPU 8i 芯片集成在同一个封装中。

Google 报告称，与 TPU 8i 相比，该封装的计算能力翻倍，片上 SRAM 容量翻倍，高带宽内存（HBM）带宽也翻倍。它还可适配现有机架占用空间，使数据中心能够在上下文密集型工作负载中，按每平方英尺和每瓦部署更多计算能力。

基础款 TPU 8i 和 TPU 8t 分别于 2026 年 4 月 22 日在 Google Cloud Next 上发布，分别面向实时推理和大规模训练。8i 的设计配备 288 GB 高带宽内存和 384 MB 片上 SRAM，为 8i Max 扩展内存资源奠定了基础。

模块化系统复用第八代芯片

Google 将此次发布与新基础芯片的推出区分开来。设计一款新芯片，需要在历时数年的设计和制造周期中完成数十亿个晶体管的布局。系统则决定如何围绕这款芯片组合计算、网络、存储、封装和安全组件。

其模块化 AI Hypercomputer 架构将 TPU 视为构建模块，可灵活调整其内存、光网络、封装和安全设计。Google 表示，工程师只需数月就能交付专用超级计算机，而开发新芯片则需要数年。这两项新增产品以不同方式运用这一方法：8tx 改变训练芯片周围的主机、网络和安全配置，而 8i Max 则调整推理芯片的封装。

长期以来，该公司一直与 Google DeepMind 共同设计 TPU；但据其表示，外部组织也日益参与需求定义，提出了对超大上下文窗口以及适用于受监管工作负载的专用加密技术的需求。这些需求与两款新系统直接对应。

此次发布表明，系统设计是 Google 加速器产品线实现专业化的当前关键手段。机密推理和超大上下文智能体面临不同的硬件限制，但两者都能通过现有第八代芯片来满足，使 Google 无须等待新一代基础芯片，就能细分其基础设施产品。