Ortaklıklar

Oracle Cloud Infrastructure, Google’ın TPU hızlandırıcılarını sunacak

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Oracle ve Google, 27 Ekim 2026’da Las Vegas’ta düzenlenen Oracle AI World etkinliğinde, Google’ın Tensor İşleme Birimlerinin (TPU) Oracle Cloud Infrastructure (OCI) üzerinden sunulacağını duyurdu. Oracle’ın duyurusunda OCI’nin, Google dışında Google TPU’larını sunan ilk hiper ölçekli bulut platformu olacağı ve bu hizmetin 2027 takvim yılında kullanıma açılmasının planlandığı belirtiliyor.

Oracle’ın Altyapıdaki Rolü

OCI, Google TPU’larını Oracle’ın altyapısı içinde büyük ölçekte devreye almak için gerekli güç, soğutma ve veri merkezi ağ altyapısını sağlayacak. Oracle ve Google, TPU’ların yoğun ve uzman karışımı (MoE) modeller de dahil olmak üzere büyük modellerin eğitimi ve eğitim sonrası işlemlerinin yanı sıra akıl yürütme, ajan tabanlı ve uzun bağlamlı uygulamalar için üretim ortamında çıkarım işlemlerini destekleyebileceğini belirtti. Müşteriler, iş yüklerine, performans gereksinimlerine ve maliyet hedeflerine göre optimize edilmiş Google TPU’ları OCI bünyesinde seçebilecek.

Oracle Cloud Infrastructure başkanı Mahesh Thiagarajan, “Farklı yapay zekâ iş yüklerinin farklı işlem gücü gereksinimleri var,” dedi. “Google TPU’larını OCI’ye getirerek müşterilere tek bir bulutta önde gelen birçok yapay zekâ işlem mimarisine erişim olanağı sunuyoruz.”

Google’da yapay zekâ ve altyapıdan sorumlu kıdemli başkan yardımcısı ve baş teknoloji uzmanı Amin Vahdat, yapay zekânın gelecek neslinin çok çeşitli işlem gücüne ihtiyaç duyacağını söyledi. Google TPU’larının OCI’ye sunulmasının daha fazla kuruluşun bu teknolojiye erişmesini ve en karmaşık yapay zekâ uygulamalarını geliştirme ve çalıştırma biçimlerinde daha fazla esneklik kazanmasını sağlayacağını belirtti.

Şirketler, Google TPU’larını sınır modellerinin eğitiminden büyük ölçekli çıkarıma ve ajan tabanlı yapay zekânın çok adımlı akıl yürütme gereksinimlerine kadar yapay zekâ yaşam döngüsünün tamamını desteklemek üzere açık yazılımla birlikte tasarlanmış özel hızlandırıcılar olarak tanımladı. TPU ürün ailesinin, özel yapay zekâ yongaları geliştirme alanında on yılı aşkın deneyime dayandığını belirten şirketler, mimarinin her watt elektrik başına yapay zekâ işlem kapasitesini en üst düzeye çıkaracak, model verilerine hızlı erişim ve yongalar arasında hızlı iletişim sağlayacak şekilde tasarlandığını ifade etti.

Sekizinci Nesil TPU Donanımı

Oracle ve Google, sekizinci nesil TPU’yu belirli amaçlara yönelik iki mimari olarak tanımladı: eğitim için TPU 8t ve çıkarım için TPU 8i. Şirketler, TPU 8t’nin önceki nesle kıyasla her podda neredeyse 3 kat daha yüksek işlem performansı sunduğunu ve en gelişmiş modellerin geliştirme döngülerini aylardan haftalara indirdiğini belirtti. TPU 8i, çok sayıda uzmanlaşmış ajanın yinelemeli çalışmalarını yürütecek şekilde tasarlandı.

Google, sekizinci nesil tasarımın ayrıntılarını 22 Nisan 2026’da yayımlanan kapsamlı bir teknik incelemede açıkladı. Bu yazıya göre TPU 8t, tek bir süper podda 9.600 yongaya ölçeklenen 3B torus ağ topolojisi kullanıyor ve matris çarpma birimi matris işlemlerini yürütürken gömme aramalarındaki düzensiz bellek erişim örüntülerini yöneten özel bir hızlandırıcı olan SparseCore’u ekliyor. Yonga, Google’ın matris çarpma biriminin işlem hacmini ikiye katladığını belirttiği yerel 4 bitlik kayan nokta (FP4) işlemeyi sunuyor ve yongalar arası bağlantıda önceki nesle kıyasla ölçek büyütme bant genişliğinin iki katını sağlıyor.

Ağ ve depolama konusunda Google, yüksek tabanlı anahtarlar üzerine kurulu, ölçek büyütmeye yönelik bir ağ altyapısı olan Virgo Network’ün TPU 8t eğitimi için veri merkezi ağ bant genişliğini 4 kata kadar artırdığını belirtti. Yeni TPUDirect RDMA ve TPUDirect Storage özellikleri, ana işlemcileri devre dışı bırakarak verileri TPU belleği, ağ arayüz kartları ve yönetilen depolama arasında taşıyor. Google’a göre bu özellikler, yedinci nesil Ironwood TPU’larla yapılan eğitime kıyasla depolama erişimini 10 kat hızlandırıyor.

Google’ın belirttiğine göre, eğitim sonrası işlemler ve yüksek eşzamanlılıklı akıl yürütme için optimize edilen TPU 8i, önceki nesle göre yonga üzerinde 3 kat daha fazla SRAM barındırıyor. Bu sayede uzun bağlamlı kod çözme sırasında daha büyük bir KV önbelleği tamamen yonga üzerinde tutulabiliyor. Collectives Acceleration Engine, toplu işlemlerin yonga üzerindeki gecikmesini 5 kat azaltıyor. Sunum için optimize edilmiş Boardfly adlı topoloji, tamamen birbirine bağlı kartlar ve gruplar üzerinden 1.152’ye kadar yongayı birbirine bağlıyor; podlar ise optik devre anahtarlarıyla birbirine bağlanan 36 gruba kadar ölçeklenebiliyor. Google’a göre Boardfly, 1.024 yongalı bir podda ağ çapını benzer bir 3B torustaki 16 atlamadan yediye düşürerek iletişim yoğun iş yüklerinde gecikmeyi %50’ye kadar iyileştiriyor.

Google’ın yayımladığı teknik özelliklerde TPU 8t için 216 GB yüksek bant genişlikli bellek (HBM), 128 MB yonga üzeri SRAM, 12,6 petaflop tepe FP4 performansı ve 6.528 GB/sn bellek bant genişliği belirtiliyor. TPU 8i içinse 288 GB HBM, 384 MB SRAM, 10,1 petaflop tepe FP4 performansı ve 8.601 GB/sn bant genişliği listeleniyor. Her iki sistemde de Arm tabanlı Axion CPU ana bilgisayar birimleri bulunuyor. Google, bunların veri hazırlama gecikmesinden kaynaklanan ana bilgisayar darboğazını ortadan kaldırdığını belirtti.

Google, TPU 8t’nin büyük ölçekli eğitimde Ironwood’a kıyasla dolar başına performansı 2,7 kata kadar artırdığını, TPU 8i’nin ise büyük MoE modellerinde düşük gecikme hedeflerinde dolar başına performansı %80’e kadar iyileştirdiğini ve her iki yonganın da watt başına performansı 2 kata kadar artırdığını öne sürüyor. Şirket ayrıca JAX çerçevesi ve Pathways yazılımıyla dağıtık eğitimi tek bir kümede 1 milyondan fazla TPU yongasına ölçeklendirebildiğini; Virgo Network’ün ise 134.000’den fazla TPU 8t yongasını saniyede 47 petabite kadar bloke etmeyen ikiye bölme bant genişliğiyle birbirine bağlayabildiğini belirtti.

Mevcut Ürün Yelpazesi ve Kullanılabilirlik

Google Cloud’un TPU ürün sayfasında hem TPU 8t hem de TPU 8i’nin yakında kullanıma sunulacağı belirtiliyor. Pod başına sıvı soğutmalı 9.216 çiple üretilen ve 42,5 eksaflop performansına sahip yedinci nesil Ironwood TPU, altıncı nesil Trillium ile birlikte genel kullanıma sunulmuş olarak listeleniyor. Google, TPU’ları Gemini modellerine ve Search, Photos ve Maps gibi amiral gemisi ürünlerine güç veren, özel olarak tasarlanmış uygulamaya özgü tümleşik devreler olarak tanımlıyor. TPU’lar ayrıca PyTorch ve JAX için yerel yazılım desteği ve çıkarım için vLLM motoru desteği sunuyor.

Şirketlerin açıklamasına göre, OCI’deki Google TPU’ları 2027 takvim yılında kullanıma sunulacak ve müşteri ihtiyaçlarını karşılamak üzere kapasiteleri birkaç yıla yayılan bir dönemde kademeli olarak artırılacak.

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.