Oracle Cloud Infrastructure пропонуватиме прискорювачі TPU від Google

Oracle і Google оголосили 27 жовтня 2026 року на заході Oracle AI World у Лас-Вегасі, що Tensor Processing Units (TPU) від Google будуть доступні через Oracle Cloud Infrastructure (OCI). В оголошенні Oracle зазначено, що OCI стане першою гіпермасштабованою хмарною платформою за межами Google, яка пропонуватиме TPU від Google; початок надання послуги заплановано на 2027 календарний рік.

Роль Oracle у розбудові інфраструктури

OCI забезпечуватиме електроживлення, охолодження та мережеву інфраструктуру дата-центрів, необхідні для розгортання TPU від Google у масштабах інфраструктури Oracle. За словами Oracle і Google, TPU можуть підтримувати навчання великих моделей і їхнє донавчання, зокрема щільних моделей і моделей типу «суміш експертів» (MoE), а також інференс у виробничому середовищі для завдань міркування, агентних застосунків і застосунків із довгим контекстом. Клієнти зможуть обирати в OCI TPU від Google, оптимізовані відповідно до їхніх робочих навантажень, вимог до продуктивності та цілей щодо витрат.

«Різні робочі навантаження ШІ потребують різних обчислювальних ресурсів», — сказав Махеш Тіагараджан, президент Oracle Cloud Infrastructure. «Завдяки появі TPU від Google в OCI клієнти отримають доступ до кількох провідних архітектур обчислень для ШІ в одній хмарі».

Амін Вахдат, старший віцепрезидент і головний технічний фахівець із питань ШІ та інфраструктури в Google, сказав, що наступне покоління ШІ потребуватиме різноманітних обчислювальних ресурсів. За його словами, поява TPU від Google в OCI надасть більшій кількості організацій доступ до цієї технології та більше гнучкості у створенні й запуску найскладніших застосунків ШІ.

Компанії описали TPU від Google як спеціалізовані прискорювачі, спільно розроблені з відкритим програмним забезпеченням для підтримки повного життєвого циклу ШІ — від навчання передових моделей і масштабного інференсу до багатоетапного міркування, потрібного агентному ШІ. За їхніми словами, портфель TPU спирається на більш ніж десятирічний досвід розробки спеціалізованих мікросхем для ШІ, а архітектуру створено так, щоб максимально ефективно використовувати кожен ват електроенергії для обробки даних ШІ, забезпечуючи швидкий доступ до даних моделей і оперативний обмін інформацією між чипами.

Обладнання TPU восьмого покоління

Oracle і Google описали TPU восьмого покоління як дві архітектури, спеціально розроблені для певних завдань: TPU 8t для навчання та TPU 8i для інференсу. За їхніми словами, TPU 8t забезпечує майже втричі вищу обчислювальну продуктивність на суперпод порівняно з попереднім поколінням і скорочує цикли розробки передових моделей із місяців до тижнів. TPU 8i призначений для виконання ітеративних завдань численними спеціалізованими агентами.

Google докладно описала конструкцію восьмого покоління в технічному огляді, опублікованому 22 квітня 2026 року. Згідно з цією публікацією, TPU 8t використовує топологію мережі у вигляді тривимірного тора в конфігурації з 9 600 чипами в одному суперподі та оснащений SparseCore — спеціалізованим прискорювачем, який обробляє нерегулярні шаблони доступу до пам’яті під час пошуку вбудовувань, тоді як блок матричного множення виконує матричні обчислення. У чипі реалізовано нативну обробку чисел із рухомою комою у 4-бітному форматі (FP4), яка, за словами Google, удвічі збільшує пропускну здатність блока матричного множення. Крім того, пропускна здатність міжчипового з’єднання для масштабування вгору вдвічі більша, ніж у попереднього покоління.

Щодо мереж і сховищ даних, Google повідомила, що її мережа Virgo Network — масштабована фабрика, побудована на комутаторах із великою кількістю портів, — забезпечує для навчання на TPU 8t до чотириразового збільшення пропускної здатності мережі дата-центру. Нові можливості TPUDirect RDMA і TPUDirect Storage передають дані між пам’яттю TPU, мережевими інтерфейсними картами та керованими сховищами в обхід центральних процесорів хостів. За словами Google, завдяки цьому доступ до сховищ під час навчання на TPU 8t удесятеро швидший, ніж на TPU Ironwood сьомого покоління.

TPU 8i, оптимізований для донавчання та міркування з високим рівнем паралельності, має втричі більше вбудованої SRAM, ніж попереднє покоління. Це дає змогу зберігати більший KV-кеш безпосередньо на кристалі під час декодування довгого контексту, повідомила Google. Collectives Acceleration Engine зменшує затримку колективних операцій на кристалі вп’ятеро, а оптимізована для обслуговування запитів топологія Boardfly з’єднує до 1 152 чипів за допомогою повністю з’єднаних плат і груп. Суперподи можуть масштабуватися до 36 груп, з’єднаних оптичними комутаційними пристроями. Для суперпода з 1 024 чипами Boardfly, за словами Google, скорочує діаметр мережі з 16 переходів у співмірній тривимірній топології «тор» до семи, забезпечуючи покращення затримки до 50% для робочих навантажень, чутливих до швидкості обміну даними.

В опублікованих Google характеристиках для TPU 8t зазначено 216 ГБ пам’яті з високою пропускною здатністю (HBM), 128 МБ вбудованої SRAM, пікову продуктивність 12,6 петафлопса у форматі FP4 і пропускну здатність пам’яті 6 528 ГБ/с. Для TPU 8i вказано 288 ГБ HBM, 384 МБ SRAM, пікову продуктивність 10,1 петафлопса у форматі FP4 і пропускну здатність 8 601 ГБ/с. Обидві системи оснащені CPU-хостами на базі Arm Axion, які, за словами Google, усувають вузьке місце, спричинене затримками під час підготовки даних.

Google заявляє, що TPU 8t забезпечує підвищення продуктивності на долар до 2,7 раза порівняно з Ironwood під час масштабного навчання, а TPU 8i — підвищення продуктивності на долар до 80% за цільових низьких затримок у великих моделях MoE. За словами компанії, обидва чипи також забезпечують до дворазового підвищення продуктивності на ват. Крім того, компанія повідомила, що за допомогою свого фреймворку JAX і програмного забезпечення Pathways може масштабувати розподілене навчання до понад 1 мільйона чипів TPU в одному кластері, а мережа Virgo Network здатна з’єднати понад 134 000 чипів TPU 8t, забезпечуючи неблокувальну пропускну здатність бісекції до 47 петабітів на секунду.

Поточна лінійка та доступність

На сторінці продукту TPU від Google Cloud зазначено, що TPU 8t і TPU 8i з’являться незабаром. TPU Ironwood сьомого покоління, оснащений 9 216 чипами з рідинним охолодженням у кожному блоці та продуктивністю 42,5 екзафлопса, позначений як загальнодоступний поряд із Trillium шостого покоління. Google описує TPU як спеціально розроблені інтегральні схеми спеціального призначення, на яких працюють моделі Gemini та ключові продукти компанії, зокрема Search, Photos і Maps. Вони мають вбудовану програмну підтримку PyTorch і JAX, а також рушія vLLM для інференції.

За словами компаній, TPU Google на OCI будуть доступні в календарному 2027 році, а їхнє впровадження поступово нарощуватимуть протягом кількох років відповідно до потреб клієнтів.