Yapay zeka modelleri ve platformları

E2B, Yüksek Yoğunluklu Ajan Sandbox Filoları için NVIDIA Vera’yı Test Ediyor

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

E2B, 9 Kasım 2026’da üretim öncesi test sonuçlarını yayımladı. Sonuçlar, çift soketli tek bir NVIDIA Vera sunucusunda dört ayrı ayarlama çalıştırmasının 1.400 ila 1.550 yüklü sandbox’ı kesintisiz çalıştırdığını gösterdi. Ayrı mikro kıyaslamalarda ise işlemci ve bellek aktarım hızları, AMD EPYC 9B45 referans sistemine kıyasla daha yüksek ölçüldü.

Bu değerlendirme, üretim ortamına yönelik bir dağıtım değildir. E2B, bir SDK aracılığıyla yalıtılmış mikro VM’ler sunarak ajanların komutları çalıştırmasına, dosyalarla işlem yapmasına ve korunmuş çalışma durumuna geri dönmesine olanak tanır. Her sandbox, gerektiğinde belleği yüklenen bir anlık görüntüden sürdürülür. Model başka bir yerde çalışsa bile oturumdaki işlerin büyük bölümü CPU’da gerçekleştirilir. Bu nedenle E2B, hem tek tek işlemleri hem de eşzamanlı çalışan çok sayıda ortamı test etti.

İşlemci ve Bellek Mikro Kıyaslamaları

Vera testleri, 9–13 Ekim 2026 tarihlerinde, 176 fiziksel çekirdeğe ve 1.479 GiB RAM’e sahip, üretim öncesi çift soketli tek bir sunucuda gerçekleştirildi. AMD referans ölçümleri Ağustos 2026’da alındı. Boş sunucuda yapılan tek iş parçacıklı hesaplama testinde E2B, Vera için saniyede 7.759, AMD EPYC 9B45 içinse saniyede 5.131 olay bildirdi. En az üç çalıştırmanın medyanına göre bu, referans sistemin aktarım hızının 1,51 katına karşılık geliyor. Hesaplama testlerinde Vera’nın 64K sayfalı çekirdeği kullanıldı.

Bellek testinde, E2B’nin sandbox’larında kullanılanla aynı büyük sayfa desteğiyle 4K çekirdekler ve 2 MiB büyük sayfalar kullanılarak 2 GiB’lık bir alan belleğe yerleştirildi. E2B, Vera için 62,8 GB/sn, AMD içinse 17,4 GB/sn ölçtüğünü bildiriyor; bu, aktarım hızının 3,61 katına karşılık geliyor. Bu ölçüm, sandbox’ın baştan sona başlatılmasını değil, belleğin doldurulmasını kapsıyor. Anlık görüntülere dayalı ortamları tekrar tekrar geri yükleyen bir çalışma zamanı için bu önemli bir işlemdir.

Karşılaştırmanın kapsamı sınırlıdır. Grafikler, belirli mikro kıyaslamalarda adı belirtilen sistemleri kapsar; uçtan uca ajan hızında eşdeğer artışlar olduğunu veya AMD’ye kıyasla filo kapasitesi avantajı bulunduğunu göstermez. E2B ayrıca tek tek araç ve uygulamalardaki kazanımların farklılık göstereceğini belirtiyor.

Tam Yığın Kapasitesi ve Sunucu Ayarlarının İyileştirilmesi

Tam yığın testlerinde E2B, açık kaynaklı E2B Runtime ve kontrol panelinin tek makinede çalışan paketi olan E2B Embed‘i kullandı; yığın doğrudan sunucu üzerinde çalışıyordu. Embed, Firecracker mikro VM yalıtımı ile Python ve JavaScript SDK desteği sunuyor. Değerlendirme; oluşturma, komut yürütme, anlık görüntüden geri yükleme, kapasite ile tekrar tekrar oluşturma ve sonlandırma işlemlerini kapsadı.

E2B, düşük yükte 50 ms’lik sıcak ardışık sandbox başlatma süreleri ve 3,8 ms’lik komut gidiş-dönüş süreleri bildiriyor. Bu iki ölçümün her biri, filo yükü altında yapılan ölçümlerden değil, Vera’nın çıplak donanımında gerçekleştirilen ayrı testlerden elde edildi. Ayrı bir yoğun oluşturma ve silme testinde, sıfır hatayla 22.145 döngü tamamlandı.

Karma kapasite iş yükünde her sandbox, CPU’da kısa süreli yoğun bir işlem gerçekleştirdi, diske 10 MiB veri yazdı ve ardından bekledi; her 10 sandbox’tan biri ise kesintisiz çalıştı. Kapasite aralığının üst sınırında E2B, komut gidiş-dönüş gecikmesinin 95. yüzdelik dilimde 255 ms olduğunu bildiriyor. Tüm sandbox’ların kesintisiz çalıştığı ayrı bir testte ise 550 sandbox sürdürülebilir biçimde çalıştırıldı.

Bu kapasite testlerinde her sandbox için 512 MiB ayrıldı. Test hedefleri, 95. yüzdelik dilimdeki gecikmenin her çalıştırmanın ısınma sonrası kısa süreli yoğun iş yükü temel değerinin 5 katı sınırları içinde kalmasını gerektiriyor ve her adım için %1 hata sınırı koyuyordu. Dolayısıyla sonuç, mutlak bir yükleme sınırını değil, belirlenmiş yanıt verme ve güvenilirlik hedefleri altındaki kapasiteyi gösteriyor.

Sunucu yapılandırması önemli bir kısıt oluşturdu. Varsayılan ayarlar 320 sandbox’ı desteklerken ağ komşusu ayarlarının iyileştirilmesi, 1.024 aygıt sınırını değiştirmeden bu sayıyı 1.000’e çıkardı. Ana kapasite sonucuna ulaşmak için tüm ayarların iyileştirilmesi gerekti. E2B, bu ilerlemeyi Vera ile x86 arasındaki bir hız karşılaştırması olarak değil, aynı sunucudaki farklı yapılandırmaların karşılaştırması olarak tanımlıyor.

Değerlendirmenin Sınırları ve Planlanan Testler

Üretim öncesi durum, çözüme kavuşmamış bazı konular bırakıyor. E2B, x86 referans sistemlerinin bazı geri yükleme işlemlerini hâlâ daha hızlı tamamladığını ve iç içe sanallaştırma için ek çalışma gerektiğini belirtiyor. Maliyet veya güç tüketimi ölçümü yapılmadığından, işletme ekonomisi değerlendirme kapsamı dışında kaldı.

E2B’nin açıkladığı sonraki adımlar arasında çok düğümlü bir Vera kümesi, nesne depolama destekli soğuk sürdürme işlemleri ve aynı E2B paketi ile sunucu ayarları kullanılarak yapılacak bir x86 karşılaştırması yer alıyor. Daha geniş ölçekli dağıtımın gerekçesi artık bu takip çalışmalarının sonuçlarına bağlı: Tam yığın sonuçları benzer biçimde paketlenmiş ve ayarlanmış bir x86 sistemi karşısında geçerliliğini koruyacak mı ve tek sunucudaki kapasite sonuçları bir kümeye ölçeklenebilecek mi?

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.