Google, 8세대 제품군에 TPU 8Tx와 TPU 8I Max 추가

Google은 발표했다. 2026년 11월 9일 TPU 8tx와 TPU 8i Max를 공개하며 8세대 가속기 제품군을 확장했다. TPU 8tx는 기밀 추론과 소규모 학습을 겨냥하고, TPU 8i Max는 대규모 컨텍스트 윈도와 더 높은 랙 집적도를 위해 설계됐다.

Google은 이번 제품 추가로 2026년이 TPU 시스템 4종을 선보인 첫해가 됐다고 밝혔다. 또한 최첨단 모델 연구소, 트레이딩 기업, 소매업체, 대학을 아우르는 TPU 고객 수가 거의 100곳에 이른다고 전했다. TPU 사업은 Google Cloud 인프라와 고객 자체 데이터센터에 구축하는 시스템을 모두 포함한다.

TPU 8Tx, 처리 중인 데이터 보호

TPU 8tx는 민감한 데이터와 함께 최첨단 모델이나 독점 모델, 자율 에이전트를 운용하는 규제 대상 기업과 정부 기관을 위해 설계됐다. 기존 암호화 방식의 한계를 해결하는 것이 목적이다. 정보는 저장 상태와 전송 중에 암호화할 수 있지만, 연산이 진행되는 동안에는 메모리에서 복호화해야 한다. 이 하드웨어는 활발히 처리 중인 동안에도 민감한 데이터와 모델 가중치를 격리하도록 설계됐다.

이 시스템은 학습에 중점을 둔 TPU 8t와 동일한 실리콘을 사용하지만, 5세대 AMD EPYC CPU 호스트를 결합했다. 실시간 추론을 위해 개발된 저지연 Boardfly 네트워크도 채택했다. Google에 따르면 TPU 8t보다 지연 시간이 최대 2배 짧으며, 이에 따른 성능 저하는 거의 없다.

이러한 조합 덕분에 조직은 하나의 시스템에서 모델을 실행하고 맞춤화할 수 있다. 팀은 비공개 데이터를 사용해 모델을 미세 조정하고, 대형 모델을 더 작은 모델로 증류하며, 강화 학습으로 에이전트를 훈련할 수 있다. 이 세 가지 작업을 수행하는 동안 비공개 정보는 별도의 클러스터 사이에서 전송할 필요 없이 해당 시스템 안에 계속 보관할 수 있다.

TPU 8I Max, 메모리와 랙 집적도 겨냥

TPU 8i Max는 수십 개의 에이전트가 전체 소프트웨어 코드베이스를 다루거나 몇 시간 분량의 동영상을 동시에 처리해 메모리 대역폭이 병목이 되는 작업을 겨냥한다. Google은 저지연 TPU 8i 칩 2개를 하나의 패키지에 담는 방식으로 이 문제에 대응한다.

Google에 따르면 이 패키지는 TPU 8i보다 연산 성능, 온칩 SRAM 용량, 고대역폭 메모리(HBM) 대역폭이 각각 2배다. 패키지 크기는 기존 랙의 설치 공간을 그대로 유지하므로, 데이터센터는 컨텍스트를 많이 처리하는 작업에 필요한 연산 능력을 제곱피트당, 와트당 더 많이 배치할 수 있다.

기반이 되는 TPU 8i와 TPU 8t가 공개된 것은 2026년 4월 22일 Google Cloud Next에서였으며, 두 제품은 각각 실시간 추론과 대규모 학습을 위해 선보였다. 8i 설계는 고대역폭 메모리 288 GB와 온칩 SRAM 384 MB를 결합해, 8i Max가 확장하는 메모리 자원의 기준을 제공한다.

모듈형 시스템, 8세대 실리콘 재사용

Google은 이번 출시가 새로운 기본 칩의 등장과는 다르다고 설명한다. 새 칩을 만들려면 수십억 개의 트랜지스터를 배치하는 설계 및 제조 과정을 수년에 걸쳐 거쳐야 한다. 반면 시스템은 해당 실리콘을 중심으로 연산, 네트워킹, 저장 장치, 패키징, 보안을 어떻게 구성할지 결정한다.

Google의 모듈형 AI Hypercomputer 접근 방식은 TPU를 메모리, 광 네트워킹, 패키징, 보안을 조정할 수 있는 구성 요소로 다룬다. Google은 엔지니어들이 새 실리콘을 개발하는 데 필요한 수년이 아니라 수개월 만에 특화된 슈퍼컴퓨터를 제공할 수 있다고 밝혔다. 이번에 추가된 두 시스템은 이 방식을 서로 다르게 적용한다. 8tx는 학습용 실리콘을 둘러싼 호스트, 네트워크, 보안을 바꾸고, 8i Max는 추론용 실리콘을 둘러싼 패키지를 바꾼다.

Google은 오랫동안 Google DeepMind와 함께 TPU를 공동 설계해 왔지만, 규제 대상 작업을 위한 대규모 컨텍스트 윈도와 특수 암호화를 요구하는 외부 조직의 요청이 늘면서 이들이 요구 사항 수립에 점점 더 큰 영향을 미치고 있다고 밝혔다. 이러한 요청은 두 신형 시스템의 개발 방향과 직접 맞닿아 있다.

이번 출시는 시스템 설계가 Google 가속기 제품군을 특화하는 당장의 수단임을 보여준다. 기밀 추론과 대규모 컨텍스트를 처리하는 에이전트는 서로 다른 하드웨어 제약을 수반하지만, 두 요구 모두 기존 8세대 실리콘으로 해결하고 있다. 이에 따라 Google은 다음 기본 칩 세대가 나올 때까지 기다리지 않고 인프라 제품을 세분화할 수 있다.