Partnerskap
Oracle Cloud Infrastructure ska erbjuda Googles TPU-acceleratorer
Lägg till Unite.AI bland dina föredragna källor på Google
Oracle och Google meddelade den 27 oktober 2026 på Oracle AI World i Las Vegas att Googles Tensor Processing Units (TPU:er) kommer att bli tillgängliga via Oracle Cloud Infrastructure (OCI). Oracles tillkännagivande beskriver OCI som den första hyperskaliga molnplattformen utanför Google som erbjuder Google TPU:er, med planerad tillgänglighet under kalenderåret 2027.
Oracles roll inom infrastrukturen
OCI kommer att tillhandahålla strömförsörjning, kylning och datacenternätverk för att driftsätta Google TPU:er i stor skala i Oracles infrastruktur. Oracle och Google uppgav att TPU:erna kan stödja träning och efterträning av stora modeller, däribland täta modeller och modeller med blandning av experter (MoE), samt inferens i produktionsmiljöer för resonemang, agentbaserade tillämpningar och tillämpningar med lång kontext. Kunderna kommer att kunna välja Google TPU:er i OCI, optimerade för sina arbetsbelastningar, prestandakrav och kostnadsmål.
”Olika AI-arbetsbelastningar har olika beräkningsbehov”, sade Mahesh Thiagarajan, president för Oracle Cloud Infrastructure. ”Genom att erbjuda Google TPU:er i OCI får kunderna tillgång till flera ledande AI-beräkningsarkitekturer i ett och samma moln.”
Amin Vahdat, senior vice president och teknikchef för AI och infrastruktur på Google, sade att nästa generation AI kommer att kräva ett brett utbud av beräkningslösningar. Han sade att genom att erbjuda Google TPU:er i OCI får fler organisationer tillgång till tekniken och större flexibilitet i hur de bygger och kör sina mest komplexa AI-tillämpningar.
Företagen beskrev Google TPU:er som specialutvecklade acceleratorer, samutvecklade med öppen programvara för att driva hela AI-livscykeln – från träning av banbrytande modeller och inferens i stor skala till de krav på resonemang i flera steg som agentbaserad AI ställer. De uppgav att TPU-produktfamiljen bygger på mer än ett årtionde av utveckling av specialanpassade AI-kretsar och beskrev arkitekturen som utformad för att maximera AI-beräkningarna från varje watt el, med snabb åtkomst till modelldata och snabb kommunikation mellan chippen.
TPU-hårdvara av åttonde generationen
Oracle och Google beskrev TPU:er av åttonde generationen som två ändamålsbyggda arkitekturer: TPU 8t för träning och TPU 8i för inferens. De uppgav att TPU 8t ger nästan tre gånger så hög beräkningsprestanda per pod som föregående generation, samtidigt som utvecklingscyklerna för banbrytande modeller kortas från månader till veckor. TPU 8i är utformad för att hantera det iterativa arbetet hos många specialiserade agenter.
Google beskrev utformningen av den åttonde generationen i en djupgående teknisk genomgång som publicerades den 22 april 2026. Enligt inlägget använder TPU 8t en nätverkstopologi med 3D-torus och omfattar 9 600 chip i en enda superpod. Den har även en SparseCore, en specialiserad accelerator som hanterar de oregelbundna minnesåtkomstmönstren vid uppslagningar i inbäddningar, medan matrisberäkningsenheten utför matrisberäkningarna. Chippet introducerar inbyggd flyttalsbearbetning med 4 bitar (FP4), vilket enligt Google fördubblar genomströmningen i matrisberäkningsenheten. Det har också dubbelt så hög skalningsbandbredd i sin chip-till-chip-förbindelse jämfört med föregående generation.
När det gäller nätverk och lagring uppgav Google att Virgo Network, en skalbar nätverksstruktur byggd med switchar med högt radix, ger upp till fyra gånger högre bandbredd i datacenternätverket för TPU 8t-träning. De nya funktionerna TPUDirect RDMA och TPUDirect Storage flyttar data mellan TPU-minne, nätverkskort och hanterad lagring utan att gå via värdprocessorerna. Enligt Google ger detta tio gånger snabbare lagringsåtkomst än träning med sjunde generationens Ironwood TPU:er.
TPU 8i, som är optimerad för efterträning och resonemang med hög samtidighet, har tre gånger mer SRAM på chippet än föregående generation. Det gör att en större KV-cache kan lagras helt på kisel under avkodning av lång kontext, uppgav Google. En Collectives Acceleration Engine minskar latensen på chippet för kollektiva operationer fem gånger, och en serveringsoptimerad topologi kallad Boardfly kopplar samman upp till 1 152 chip via fullt sammankopplade kort och grupper. Poddar kan skalas upp till 36 grupper som länkas samman med optiska kretskopplare. För en pod med 1 024 chip uppgav Google att Boardfly minskar nätverkets diameter från 16 hopp i en jämförbar 3D-torus till sju, vilket ger upp till 50 procents förbättring av latensen för kommunikationsintensiva arbetsbelastningar.
Googles publicerade specifikationer anger att TPU 8t har 216 GB minne med hög bandbredd (HBM), 128 MB SRAM på chippet, 12,6 petaflops i maximal FP4-prestanda och en minnesbandbredd på 6 528 GB/s. För TPU 8i anges 288 GB HBM, 384 MB SRAM, 10,1 petaflops i maximal FP4-prestanda och en bandbredd på 8 601 GB/s. Båda systemen har integrerade Arm-baserade Axion-CPU-värdar, vilka enligt Google undanröjer värdflaskhalsen som orsakas av fördröjningar vid dataförberedelse.
Google hävdar att TPU 8t ger upp till 2,7 gånger bättre prestanda per dollar än Ironwood vid träning i stor skala, och att TPU 8i ger upp till 80 procent bättre prestanda per dollar vid mål för låg latens med stora MoE-modeller. Båda chippen ger upp till dubbelt så hög prestanda per watt. Företaget uppgav också att det med JAX-ramverket och Pathways-programvaran kan skala upp distribuerad träning till mer än 1 miljon TPU-chip i ett enda kluster, och att Virgo Network kan länka samman mer än 134 000 TPU 8t-chip med en icke-blockerande bisektionsbandbredd på upp till 47 petabit per sekund.
Nuvarande produktutbud och tillgänglighet
Google Clouds produktsida för TPU listar både TPU 8t och TPU 8i som kommande. Den sjunde generationens Ironwood TPU, byggd med 9 216 vätskekylda chip per pod och med en kapacitet på 42,5 exaflops, anges som allmänt tillgänglig tillsammans med sjätte generationens Trillium. Google beskriver TPU:er som specialutformade applikationsspecifika integrerade kretsar som driver företagets Gemini-modeller och flaggskeppsprodukter, däribland Search, Photos och Maps, med inbyggt programvarustöd för PyTorch och JAX samt inferensmotorn vLLM.
Google TPU:er på OCI kommer att vara tillgängliga under kalenderåret 2027 och byggas ut successivt under flera år för att möta kundernas behov, uppgav företagen.
