Oracle Cloud Infrastructure предложит ускорители TPU от Google

27 октября 2026 года на конференции Oracle AI World в Лас-Вегасе Oracle и Google объявили, что тензорные процессоры Google (TPU) станут доступны через Oracle Cloud Infrastructure (OCI). В объявлении Oracle OCI названа первой облачной платформой гипермасштаба за пределами Google, которая предложит TPU Google; их доступность планируется в течение 2027 календарного года.

Роль инфраструктуры Oracle

OCI обеспечит электропитание, охлаждение и сетевую инфраструктуру центров обработки данных, необходимые для развертывания TPU Google в масштабе на базе инфраструктуры Oracle. По словам Oracle и Google, TPU подходят для обучения больших моделей и их дообучения, включая плотные модели и модели со смесью экспертов (MoE), а также для инференса в производственной среде в приложениях с рассуждениями, агентными системами и длинным контекстом. Клиенты смогут выбирать TPU Google в OCI с учетом своих рабочих нагрузок, требований к производительности и целевых показателей стоимости.

«Для разных рабочих нагрузок ИИ нужны разные вычислительные ресурсы», — сказал Махеш Тиагараджан, президент Oracle Cloud Infrastructure. «Интеграция TPU Google в OCI даст клиентам доступ к нескольким ведущим архитектурам вычислений для ИИ в одном облаке».

Амин Вахдат, старший вице-президент и главный специалист по технологиям в области ИИ и инфраструктуры в Google, отметил, что следующему поколению ИИ потребуется широкий спектр вычислительных ресурсов. По его словам, интеграция TPU Google в OCI откроет большему числу организаций доступ к этой технологии и даст им больше гибкости при создании и эксплуатации самых сложных приложений на основе ИИ.

Компании описали TPU Google как специализированные ускорители, разработанные совместно с открытым программным обеспечением для поддержки всего жизненного цикла ИИ: от обучения передовых моделей и инференса в крупных масштабах до многоэтапных рассуждений, необходимых агентному ИИ. По их словам, линейка TPU опирается на более чем десятилетний опыт разработки специализированных микросхем для ИИ. Архитектура, как заявили компании, создана для максимальной вычислительной производительности ИИ на каждый ватт электроэнергии, быстрого доступа к данным моделей и быстрой связи между микросхемами.

Аппаратная платформа TPU восьмого поколения

Oracle и Google представили TPU восьмого поколения как две специализированные архитектуры: TPU 8t для обучения и TPU 8i для инференса. По их словам, TPU 8t обеспечивает почти втрое большую вычислительную производительность на каждый суперпод по сравнению с предыдущим поколением и сокращает разработку передовых моделей с нескольких месяцев до нескольких недель. TPU 8i предназначен для итеративной работы множества специализированных агентов.

Google подробно описала архитектуру восьмого поколения в техническом разборе, опубликованном 22 апреля 2026 года. Согласно этой публикации, TPU 8t использует тороидальную топологию сети 3D при масштабе в 9 600 микросхем в одном суперподе и оснащен SparseCore — специализированным ускорителем, который обрабатывает нерегулярные шаблоны доступа к памяти при поиске эмбеддингов, тогда как блок матричного умножения выполняет матричные вычисления. В микросхеме появилась встроенная обработка чисел с плавающей запятой в 4-битном формате (FP4), которая, по словам Google, вдвое увеличивает пропускную способность блока матричного умножения. Кроме того, пропускная способность межчипового соединения при масштабировании системы вдвое выше, чем у предыдущего поколения.

По данным Google, в TPU 8t для обучения сеть Virgo Network — масштабируемая коммутационная сеть на основе коммутаторов с большим числом портов — обеспечивает увеличение пропускной способности сети центра обработки данных до четырех раз. Новые возможности TPUDirect RDMA и TPUDirect Storage передают данные между памятью TPU, сетевыми интерфейсными картами и управляемыми системами хранения, минуя хостовые процессоры. По утверждению Google, благодаря этому доступ к хранилищу в 10 раз быстрее, чем при обучении на TPU Ironwood седьмого поколения.

TPU 8i, оптимизированный для дообучения и рассуждений при высокой конкурентности запросов, оснащен в три раза большим объемом встроенной SRAM по сравнению с предыдущим поколением. Это позволяет полностью разместить в микросхеме более крупный кэш KV при декодировании длинного контекста, сообщила Google. Модуль Collectives Acceleration Engine снижает задержку коллективных операций на микросхеме в пять раз, а оптимизированная для обслуживания запросов топология Boardfly соединяет до 1 152 микросхем с помощью полностью связанных плат и групп; суперпод может включать до 36 групп, соединенных оптическими коммутаторами каналов. По данным Google, в суперподе на 1 024 микросхемы Boardfly сокращает диаметр сети с 16 переходов в сопоставимой тороидальной топологии 3D до семи, обеспечивая снижение задержки до 50% для рабочих нагрузок с интенсивным обменом данными.

В опубликованных Google спецификациях для TPU 8t указаны 216 ГБ памяти с высокой пропускной способностью (HBM), 128 МБ встроенной SRAM, пиковая производительность FP4 на уровне 12,6 петафлопс и пропускная способность памяти 6 528 ГБ/с. Для TPU 8i указаны 288 ГБ HBM, 384 МБ SRAM, пиковая производительность FP4 на уровне 10,1 петафлопс и пропускная способность 8 601 ГБ/с. В обе системы встроены процессорные модули Axion на базе Arm, которые, по словам Google, устраняют узкое место в хост-системе, вызванное задержками при подготовке данных.

Google утверждает, что TPU 8t повышает производительность на доллар при обучении крупных моделей в масштабах до 2,7 раза по сравнению с Ironwood, а TPU 8i обеспечивает прирост производительности на доллар до 80% при целевых показателях низкой задержки для крупных моделей MoE. По словам компании, обе микросхемы обеспечивают до двукратного повышения производительности на ватт. Google также сообщила, что с помощью своей платформы JAX и программного обеспечения Pathways может масштабировать распределенное обучение более чем на 1 миллион TPU в одном кластере, а Virgo Network способна соединять более 134 000 микросхем TPU 8t, обеспечивая неблокирующую пропускную способность по бисекции до 47 петабит в секунду.

Текущая линейка и доступность

На странице продукта TPU в Google Cloud указано, что TPU 8t и TPU 8i скоро появятся. TPU Ironwood седьмого поколения, в каждом поде которого установлено 9 216 чипов с жидкостным охлаждением и производительность которого составляет 42,5 экзафлопса, указан как общедоступный наряду с Trillium шестого поколения. Google описывает TPU как разработанные на заказ специализированные интегральные схемы, на которых работают модели Gemini и ключевые продукты компании, включая Search, Photos и Maps. Для них предусмотрена встроенная программная поддержка PyTorch и JAX, а также движка vLLM для инференса.

По словам компаний, TPU Google в OCI станут доступны в течение календарного 2027 года; их внедрение будет поэтапно наращиваться в течение нескольких лет с учетом потребностей клиентов.