Oracle Cloud Infrastructure zaoferuje akceleratory TPU Google

Oracle i Google ogłosiły 27 października 2026 r. podczas Oracle AI World w Las Vegas, że jednostki Tensor Processing Unit (TPU) Google będą dostępne za pośrednictwem Oracle Cloud Infrastructure (OCI). W ogłoszeniu Oracle opisano OCI jako pierwszą poza Google platformę chmurową typu hyperscale, która zaoferuje TPU Google. Ich udostępnienie planowane jest na rok kalendarzowy 2027.

Rola infrastruktury Oracle

OCI zapewni zasilanie, chłodzenie i sieć centrów danych niezbędne do wdrożenia TPU Google na dużą skalę w infrastrukturze Oracle. Oracle i Google poinformowały, że TPU mogą obsługiwać trenowanie dużych modeli i etap potreningowy, w tym modeli gęstych oraz modeli z mieszanką ekspertów (MoE), a także wnioskowanie produkcyjne na potrzeby rozumowania, aplikacji opartych na agentach i aplikacji wykorzystujących długi kontekst. Klienci będą mogli wybrać w OCI TPU Google zoptymalizowane pod kątem swoich obciążeń, wymagań dotyczących wydajności i celów kosztowych.

„Różne obciążenia związane ze sztuczną inteligencją wymagają różnych zasobów obliczeniowych” — powiedział Mahesh Thiagarajan, prezes Oracle Cloud Infrastructure. „Udostępnienie TPU Google w OCI zapewni klientom dostęp do wielu wiodących architektur obliczeniowych AI w jednej chmurze”.

Amin Vahdat, starszy wiceprezes Google i główny specjalista ds. technologii AI i infrastruktury, powiedział, że kolejna generacja AI będzie wymagać różnorodnych zasobów obliczeniowych. Dodał, że udostępnienie TPU Google w OCI zapewni większej liczbie organizacji dostęp do tej technologii i większą elastyczność w zakresie tworzenia i uruchamiania najbardziej złożonych aplikacji AI.

Firmy opisały TPU Google jako wyspecjalizowane akceleratory współprojektowane z otwartym oprogramowaniem, które obsługują cały cykl życia AI — od trenowania najnowocześniejszych modeli i wnioskowania na dużą skalę po potrzeby wieloetapowego rozumowania w agentowej AI. Według firm portfolio TPU bazuje na ponad dekadzie prac nad niestandardowymi układami krzemowymi AI. Architekturę zaprojektowano tak, by maksymalizować moc obliczeniową AI uzyskiwaną z każdego wata energii, zapewniać szybki dostęp do danych modelu i sprawną komunikację między układami.

Sprzęt TPU ósmej generacji

Oracle i Google opisały TPU ósmej generacji jako dwie architektury zaprojektowane do konkretnych zadań: TPU 8t do trenowania i TPU 8i do wnioskowania. Poinformowały, że TPU 8t zapewnia niemal trzykrotnie większą moc obliczeniową na pod niż poprzednia generacja, a jednocześnie skraca cykle opracowywania najnowocześniejszych modeli z miesięcy do tygodni. TPU 8i zaprojektowano z myślą o iteracyjnej pracy wielu wyspecjalizowanych agentów.

Google szczegółowo opisało projekt ósmej generacji w opublikowanej 22 kwietnia 2026 r. szczegółowej analizie technicznej. Jak podano w tym artykule, TPU 8t wykorzystuje topologię sieciową trójwymiarowego torusa, która obejmuje 9600 układów w jednym superpodzie. Dodano w nim także SparseCore — wyspecjalizowany akcelerator obsługujący nieregularne wzorce dostępu do pamięci przy wyszukiwaniu osadzeń, podczas gdy jednostka mnożąca macierze wykonuje obliczenia macierzowe. Układ wprowadza natywne przetwarzanie zmiennoprzecinkowe 4-bitowe (FP4), które — jak podało Google — podwaja przepustowość jednostki mnożącej macierze. Ma też dwukrotnie większą przepustowość skalowania w górę na łączach między układami niż poprzednia generacja.

W zakresie sieci i pamięci masowej Google poinformowało, że Virgo Network — rozbudowywana na dużą skalę sieć oparta na przełącznikach o dużej liczbie portów — zapewnia do czterokrotnie większą przepustowość sieci centrum danych podczas trenowania z użyciem TPU 8t. Nowe funkcje TPUDirect RDMA i TPUDirect Storage przesyłają dane między pamięcią TPU, kartami interfejsu sieciowego i zarządzaną pamięcią masową z pominięciem procesorów hosta. Jak podało Google, zapewnia to 10-krotnie szybszy dostęp do pamięci masowej niż podczas trenowania na TPU Ironwood siódmej generacji.

TPU 8i, zoptymalizowany pod kątem etapu potreningowego i wnioskowania przy dużej współbieżności, ma trzykrotnie więcej pamięci SRAM na układzie niż poprzednia generacja. Dzięki temu podczas dekodowania długiego kontekstu większa pamięć podręczna KV może w całości mieścić się w układzie krzemowym — poinformowało Google. Collectives Acceleration Engine skraca opóźnienie operacji zbiorczych na układzie pięciokrotnie, a zoptymalizowana pod kątem obsługi topologia o nazwie Boardfly łączy do 1152 układów za pośrednictwem w pełni połączonych płyt i grup. Pody można skalować do 36 grup połączonych przełącznikami obwodów optycznych. W podzie z 1024 układami Boardfly zmniejsza średnicę sieci z 16 przeskoków w porównywalnej topologii trójwymiarowego torusa do siedmiu, zapewniając do 50% niższe opóźnienia w przypadku obciążeń wymagających intensywnej komunikacji — podało Google.

Opublikowane przez Google specyfikacje podają, że TPU 8t ma 216 GB pamięci o wysokiej przepustowości (HBM), 128 MB pamięci SRAM na układzie, szczytową wydajność 12,6 petaflopa FP4 i przepustowość pamięci 6528 GB/s. W przypadku TPU 8i podano 288 GB HBM, 384 MB SRAM, szczytową wydajność 10,1 petaflopa FP4 i przepustowość 8601 GB/s. Oba systemy zawierają moduły hosta CPU Axion oparte na architekturze Arm, które — jak poinformowało Google — eliminują wąskie gardło po stronie hosta powodowane opóźnieniami w przygotowywaniu danych.

Google twierdzi, że TPU 8t zapewnia do 2,7 razy lepszą wydajność w przeliczeniu na dolara niż Ironwood podczas trenowania na dużą skalę, a TPU 8i — do 80% lepszą wydajność w przeliczeniu na dolara przy niskich docelowych opóźnieniach w przypadku dużych modeli MoE. Oba układy zapewniają przy tym do dwukrotnie lepszą wydajność na wat. Firma podała również, że dzięki frameworkowi JAX i oprogramowaniu Pathways może skalować trenowanie rozproszone do ponad miliona układów TPU w jednym klastrze, a Virgo Network może łączyć ponad 134 000 układów TPU 8t, zapewniając nieblokującą przepustowość bisekcyjną do 47 petabitów na sekundę.

Obecna oferta i dostępność

Strona produktu TPU w Google Cloud wymienia zarówno TPU 8t, jak i TPU 8i jako modele, które będą dostępne wkrótce. Układ TPU Ironwood siódmej generacji, wyposażony w 9 216 chłodzonych cieczą chipów w każdym podzie i osiągający wydajność 42,5 eksaflopa, jest wymieniony jako ogólnie dostępny, podobnie jak Trillium szóstej generacji. Google opisuje układy TPU jako zaprojektowane na zamówienie układy scalone o konkretnym zastosowaniu, które zasilają modele Gemini oraz flagowe produkty firmy, w tym Search, Photos i Maps; zapewniają one natywną obsługę oprogramowania PyTorch i JAX oraz silnika vLLM do wnioskowania.

Firmy poinformowały, że układy TPU Google w OCI będą dostępne w roku kalendarzowym 2027, a ich wdrażanie będzie stopniowo zwiększane przez kilka lat, aby sprostać potrzebom klientów.