Modal, ilk Arm geçişinde Sandbox’lar için NVIDIA Vera’yı devreye almayı planlıyor

Modal, 19 Ekim 2026’da şirketin blog yazısında, Modal Sandbox’larına güç vermek üzere NVIDIA’nın Arm tabanlı Vera CPU’sunu devreye almayı planladığını açıkladı. Şirket, yayımladığı kıyaslama sonuçlarının, yük altındaki eşdeğer bir x86 makineye kıyasla görev iş hacminin iki katına kadar çıktığını göstermesinin ardından, tüm filosu x86 sistemlerden oluşan yapısından ilk kez ayrılacak.

Modal’ın açıklamasına göre NVIDIA, ilk Vera CPU sunucusunu duyurudan önceki hafta şirketin San Francisco’daki ofisine bizzat teslim etti. Vera, NVIDIA’nın Vera Rubin GPU platformu için tasarlanmış, Arm ile uyumlu işlemcisidir; ancak bağımsız bir CPU sunucusu olarak da sunulmaktadır. Modal, uzun süredir yalnızca x86 makineler çalıştırdıktan sonra Arm’ı filosuna katmanın altyapısında ve imaj oluşturma sisteminde değişiklikler gerektireceğini ve bunun büyük bir dönüşüm olacağını belirtti.

Çok kiracılı ortamlarda kaynak rekabeti ve ani kapasite artışları

Sandbox ürünü, her bulut sunucusunda eşzamanlı olarak yüzlerce kapsayıcı ve sanal makine çalıştırmayı gerektiriyor; Modal’a göre bunun sonucunda ortaya çıkan çok kiracılı kümelerde kaynak kullanımı gürültülü bir seyir izliyor. Kaynak kullanımı son derece dalgalı olabiliyor: Bir sandbox, bir dil modelini beklerken çoğunlukla boşta kalabilir; ardından bir npm yüklemesi veya maliyetli bir grep komutu nedeniyle CPU kullanımı başlangıç düzeyinin 10 katına çıkabilir. Her iş yükünün biçimi ancak çalışma anında belli olduğundan kaynak boyutlandırması çoğu zaman tahmine dayanıyor. Ayrıca farklı özelliklere sahip kiracıların aynı işlem havuzunda toplanması, bir müşterinin davranışının diğerinin performansını düşürdüğü “gürültülü komşu” sorunlarına yol açıyor.

Modal Sandboxes, sabit rezervasyonları en yüksek kullanım düzeyine göre ayarlamak yerine ani kapasite artışlarını destekliyor. Böylece kullanıcılar P50 kullanımları için garantili kapasite ayırabiliyor ve ana makine düğümündeki yedek kapasitenin geçici artışları karşılayacağına güvenebiliyor. Modal, bu yaklaşımın kullanıcılara milyonlarca dolar tasarruf sağladığını belirtiyor; ancak katı sınırların normalde önleyeceği gürültülü komşu etkilerine maruz kalma riskini artırdığını da kabul ediyor.

Modal, Sandbox’ların yaygın iki kullanım alanını belirledi: Ramp Inspect’i ve Niteshift üzerinde çalışan ajanları örnek gösterdiği arka plan ajanları ile pekiştirmeli öğrenme çalıştırmaları. Şirketin açıklamasına göre eğitim kurulumlarının çoğu hâlâ eşzamanlı çalışıyor; bu nedenle boşta kalan GPU’lar bir sonraki adıma geçmeden önce CPU’ya bağlı çalıştırmaların tümünün tamamlanması gerekiyor. Bu da CPU’da kazanılan zamanın GPU’da da zaman kazandırdığı anlamına geliyor. Şirkete göre arka plan ajanlarının daha hızlı çalışması, yanıtların daha çabuk verilmesini ve CPU süresinin azalmasını sağlayarak satılan malın maliyetini düşürüyor.

Agentsiz Ajan Test Paketi

Modal, Vera’nın performansını ölçmek için Agentsiz Ajan Test Paketi’ni oluşturup yayımladı. Paket, tüm ağ çağrıları çıkarılmış 50 Terminal-Bench referans çözümü ve doğrulayıcısından oluşuyor; eşzamanlı Docker kapsayıcılarında önceden ısıtılmış durumda. Modal, ajan tabanlı bir kıyaslama oluşturmanın zor olduğunu belirtti; çünkü sandbox sunucularında yapılan işlerin çoğu CPU’ya bağlı değil. Bu nedenle şirket, ajanların ve pekiştirmeli öğrenme süreçlerinin CPU’da gerçekten gerçekleştirdiği derleme, dosyalarda grep ile arama, git işlemleri ve aygıt emülasyonu gibi görevlerden oluşan eşzamanlı ve farklı türleri içeren bir karışım hazırladı. Herkese açık depoya göre kıyaslama, terminal-bench-2.1 görev veri kümesini temel alıyor ve Arm uyumluluğu için uyarlanmış Dockerfile’ları içeriyor. Bir çalıştırma, yalnızca görev doğrulayıcısı başarılı olursa tamamlanmış sayılıyor.

Görev başına doğrudan gecikmeyi ölçen, yük altında olmayan bir makinede yapılan sıralı testlerde Modal, Vera’nın test edilen diğer işlemcilerden (Intel GNR, AMD Zen 5 ve AWS Graviton 4 ile 5) çoğu zaman daha hızlı olduğunu, ancak bunun her zaman geçerli olmadığını ve farkın özellikle büyük olmadığını saptadı. Yazının yazarı, sonuçlara başlangıçta şüpheyle yaklaştığını belirtti.

Modal’ın bildirdiğine göre yük altında sonuçlar farklılaştı. İş hacmi testi, makinedeki eşzamanlı kapsayıcı sayısını artırıyor ve sabit bir süre içinde doğrulanmış görevlerden mümkün olduğunca çoğunu tamamlamaya çalışıyor. Modal, ilk kıyaslama çalışmalarında Vera’nın, eşdeğer bir x86 GNR makinesine kıyasla görev iş hacmini iki katına kadar çıkardığını; tek tek görevlerin gecikmesinin ise x86’dakine eşit ya da daha düşük olduğunu söyledi. Çoğu sistemde, CPU doygunluğa ulaşana kadar yerleştirme yoğunluğu arttıkça iş hacmi ile gecikme arasında ödünleşim ortaya çıkıyor. Ancak Modal’a göre işler biriktikçe Vera yavaşlamadı ve görevleri ilk hızında tamamlamayı sürdürdü.

Modal, mantıksal CPU sayısı arttıkça Vera’nın performansını geliştirmeyi sürdürdüğünü, test edilen diğer işlemcilerin ise iş hacminde erken bir noktada tavana ulaştığını bildirdi. Test edilen makinelerin fiziksel çekirdek sayıları Intel GNR için 128, Graviton ve GNR sanal makinesi için 96, Vera içinse 88’di. Alternatifler erken bir noktada tavana ulaştığı için Modal, sonuçların Vera’yı erişebildiği tek kıyaslama düğümünün de ötesine taşıyabileceğine işaret ettiğini belirtti.

Şirket, Vera’nın yoğun rekabet altındaki avantajını, CPU hızını düşürmeden her çekirdeğe çok daha fazla kapsayıcı iş yükünün sığmasını sağladığını söylediği yüksek bellek bant genişliğine bağlıyor. Modal’ın zamanlayıcısı açısından bu, daha yüksek yerleştirme yoğunluğu ve ani yük artışlarına karşı daha esnek koruma anlamına geliyor. Şirkete göre Sandbox kullanıcıları içinse gecikmeden ödün vermeden daha yüksek mutlak ölçek ve iş hacmi sağlıyor.

Vera’nın tasarımı ve üretim durumu

NVIDIA, kendi GTC konferansında 16 Mart 2026’da Vera’yı piyasaya sürdü ve onu ajan tabanlı yapay zekâ ve pekiştirmeli öğrenme için özel olarak tasarlanmış bir işlemci olarak tanımladı. Çipte, her biri NVIDIA’nın Spatial Multithreading adını verdiği özellik sayesinde iki görevi çalıştırabilen, NVIDIA tarafından özel olarak tasarlanmış 88 Olympus çekirdeği bulunuyor. Ayrıca LPDDR5X tabanlı, 1,2 TB/sn’ye kadar bant genişliği sunan ikinci nesil, düşük güç tüketimli bir bellek alt sistemine sahip. NVIDIA, Vera’nın geleneksel CPU’lara kıyasla sonuçları iki kat verimlilikle ve %50 daha hızlı sunduğunu iddia ediyor.

NVIDIA, lansmanda ayrıca sıvı soğutmalı 256 CPU’yu bir araya getiren bir Vera CPU rafını tanıttı. Şirket, bu rafın her biri bağımsız olarak tam performansla çalışan 22.500’den fazla CPU ortamını aynı anda çalıştırabildiğini belirtti. NVIDIA, Vera’nın tam üretime geçtiğini ve iş ortaklarının 2026’nın ikinci yarısında ürüne erişebileceğini söyledi; ayrıca CPU’yu kullanıma sunmayı planlayan bulut sağlayıcıları arasında Alibaba Cloud, ByteDance, CoreWeave, Lambda, Nebius, Nscale ve Oracle Cloud Infrastructure’ı saydı.

Modal, kullanıma sunma süreci ilerledikçe Vera filosunu büyütmek için NVIDIA ve bulut sağlayıcılarıyla yakın iş birliği yapmayı planladığını söyledi.