Yapay zeka modelleri ve platformları

Cerebras, GPU’larla Ayrıştırılmış Çıkarımı Üretim Ortamına Taşıyor

Theo Nash
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarCerebras, istem işlemeyi AMD GPU'larına kaydırarak megavat başına beş kat verim ölçtü.
Daha fazla göster
  • Cerebras, istem işlemeyi AMD GPU'larına kaydırarak megavat başına beş kat verim ölçtü.
  • Prefill'i decode'dan ayırmak, wafer ölçekli SRAM'in bellek sınırlı token üretimine adanmış kalmasını sağlar.
  • İş ortakları tam bir yazılım yığınını veya kendi çerçeveleri için yalnızca decode SDK'sını benimseyebilir.

Cerebras Systems, 17 Kasım 2026’da bildirdiğine göre, istem işlemeyi AMD Instinct GPU’larına, yanıt üretimini ise CS-3 sistemlerine atayan üretimdeki ayrıştırılmış çıkarım dağıtımı, token üretim hızını düşürmeden yalnızca CS-3’lerden oluşan bir yapılandırmaya kıyasla megavat başına beş kat daha yüksek verim sağladı.

Bu sonuç Cerebras Inference Cloud için geçerli. Ölçüm, 14 Kasım 2026’da paylaşımlı bir GPT-OSS-120B uç noktasında, ayrıştırma etkinleştirilmeden önceki ve sonraki megavat başına verim karşılaştırılarak ve birleştirilmiş yapılandırma 1× referans değerine göre normalize edilerek yapıldı. İstem işleme işinin GPU’lara aktarılması, CS-3 sistemlerinin hizmet sunma kapasitesini yanıt üretimi için kullanılabilir durumda bırakıyor ve böylece Cerebras’ın bulut üzerinden sunabileceği hızlı çıkarım kapasitesini artırıyor.

Üretim ortamına ilişkin açıklama, Cerebras’ın 1 Ekim 2026’da ayrıştırılmış çıkarım hakkında yaptığı açıklamanın ardından geldi. Önceki açıklamada, aynı wafer ölçekli motor ayak iziyle gerçekleştirilen ilk testlerde 5× artış bildirildi. Yeni duyuru, üretim ortamında elde edilmiş bir ölçüm ve altyapı ortaklarına yönelik bir dağıtım paketi sunarak bu ilk sonucun ötesine geçiyor.

Cerebras Ön Doldurma ve Çözümleme Aşamalarını Neden Ayırıyor?

Her çıkarım isteğinin iki temel aşaması vardır. Ön doldurma aşamasında girdi istemi işlenir ve modelin ara durumu oluşturulur; çözümleme aşamasında ise bu durum kullanılarak çıktı token’ları teker teker üretilir ve her yeni token yeniden modele verilir. Her çözümleme adımında model verileri bellekten yeniden okunduğundan, etkileşimli üretim hızında bellek bant genişliği belirleyici bir rol oynar. Ön doldurma ise istem boyunca daha fazla hesaplamayı paralel olarak gerçekleştirir; bu nedenle söz konusu hesaplama yükü için uygun hızlandırıcılara daha elverişlidir.

Cerebras’ın wafer ölçekli sistemleri, model verilerini öncelikli olarak yonga dışındaki yüksek bant genişlikli belleğe dayandırmak yerine yonga üzerindeki SRAM’de tutuyor. Cerebras, wafer ölçekli yongasının onlarca gigabayt SRAM’e ve saniyede onlarca petabayt bellek bant genişliğine sahip olduğunu belirtiyor; bu, tipik bir GB300 GPU’ya kıyasla 350× SRAM kapasitesi ve 5.400× bellek bant genişliği anlamına geliyor. Bu kapasite sayesinde daha fazla eşzamanlı istek ve model katmanı, hızlı çözümleme için doğrudan yonga üzerinde tutulabiliyor.

Ekonomik hedef, güç kısıtlı veri merkezlerinde aynı güç bütçesiyle müşterilere hizmet sunma kapasitesini ve gelir potansiyelini artırmak. Cerebras, yüksek etkileşimli yanıtlar gerektiren ve hızla ölçeklenen ajan tabanlı uygulamalara örnek olarak Muse, Copilot ve Codex’i gösteriyor. Bu nedenle kapasite artışının, bu iş yüklerinde yararlı olabilmesi için üretim hızını koruması gerekiyor.

Dağıtım Mimarisi ve Yazılım

Altyapı ortakları, seçtikleri ön doldurma hızlandırıcılarını ve Cerebras sistemlerini birleşik bir ağ üzerinde aynı konumda çalıştırmak için Cerebras’ın sağladığı bir referans mimariden yararlanabilir. Ardından iki entegrasyon yolundan birini seçebilirler: pazara sunma süresini kısaltmayı amaçlayan uçtan uca bir yazılım yığını veya daha fazla denetim isteyen ortaklara yönelik yalnızca çözümleme SDK’sı.

Tam yazılım yığını, istekleri ön doldurma ve çözümleme havuzları arasında yönlendirir; ayrıca çoğaltmaların kapasitesini ve durumunu yönetir. Ön doldurma motoru, vLLM veya SGLang gibi açık kaynaklı çıkarım motorlarını çalıştırabilir; çözümleme motorunu ise Cerebras sağlar. KV Portal, ön doldurma sonrasında isteğe özgü bağlamı koruyan anahtar-değer önbellekleri de dâhil olmak üzere modelin ara durumunu RDMA üzerinden iki motor arasında aktarır.

Yalnızca çözümleme seçeneğinde ortaklar, Cerebras’ın çözümleme motorunu ve KV Portal’ı kullanırken kendi çıkarım çerçevelerini ve ön doldurma motorlarını korur. SDK ayrıca simüle edilmiş bir çözümleme çoğaltması ile açık kaynaklı bir ayrıştırılmış çıkarım çerçevesi ve ön doldurma motoruyla örnek bir entegrasyon içerir. Amazon Web Services, Fireworks AI, Gimlet Labs ve General Compute erken erişim ortakları olarak belirtiliyor; Cerebras ise erişimi daha fazla ortağı kapsayacak şekilde genişletiyor.

Kapasite Hedefi

Cerebras, 2027 sonuna kadar kendi çıkarım bulutunda ve ortaklarının dağıtımlarında ayrıştırılmış çıkarımı yüzlerce megavatlık kapasiteye yaygın biçimde dağıtmayı planlıyor. Bu, hâlihazırda devrede olan bir kapasiteyi değil, bir dağıtım hedefini ifade ediyor.

Dolayısıyla duyuru, ölçümle doğrulanmış bir bulut yapılandırmasını dış operatörlere yönelik bir yazılım yoluyla bir araya getiriyor. Cerebras daha geniş çaplı dağıtımı hedeflerken, temel ölçeklenme sorusu, tek bir paylaşımlı uç noktada ölçülen verim avantajının ortakların seçtiği hızlandırıcılarda, çerçevelerde ve dağıtım ölçeklerinde de tekrarlanıp tekrarlanamayacağı.

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.