E2B Menguji NVIDIA Vera untuk Armada Sandbox Agen Berdensitas Tinggi

Pada 9 November 2026, E2B menerbitkan hasil pengujian praproduksi yang menunjukkan bahwa empat pengujian yang disetel pada satu server NVIDIA Vera soket ganda mampu mempertahankan 1.400 hingga 1.550 sandbox berbeban, sementara tolok ukur mikro terpisah mengukur throughput prosesor dan memori yang lebih tinggi dibandingkan sistem acuan AMD EPYC 9B45.

Evaluasi ini bukan penerapan di lingkungan produksi. E2B menyediakan microVM terisolasi melalui SDK, yang memungkinkan agen menjalankan perintah, bekerja dengan berkas, dan kembali ke kondisi berjalan yang dipertahankan. Setiap sandbox dilanjutkan dari snapshot dengan memori yang dimuat sesuai kebutuhan. Sebagian besar pekerjaan dalam sesi tersebut dilakukan oleh CPU, sekalipun model berjalan di tempat lain. Karena itu, E2B menguji operasi individual sekaligus lingkungan serentak dalam jumlah besar.

Tolok Ukur Mikro Prosesor dan Memori

Pengujian Vera berlangsung pada 9–13 Oktober 2026, menggunakan satu server praproduksi bersoket ganda dengan 176 inti fisik dan RAM 1.479 GiB. Pengukuran acuan AMD dilakukan pada Agustus 2026. Dalam pengujian komputasi satu utas pada host langsung, E2B melaporkan 7.759 kejadian per detik untuk Vera dan 5.131 untuk AMD EPYC 9B45, atau throughput 1,51 kali lipat dari sistem acuan, dengan menggunakan median dari sedikitnya tiga pengujian. Pengujian komputasi menggunakan kernel halaman 64K milik Vera.

Pengujian memori mengisi area 2 GiB menggunakan kernel 4K dan halaman besar 2 MiB, yakni dukungan halaman besar yang sama dengan yang digunakan sandbox E2B. E2B melaporkan 62,8 GB/dtk untuk Vera dan 17,4 GB/dtk untuk AMD, setara dengan throughput 3,61 kali lipat. Pengukuran ini mengukur pengisian memori, bukan proses memulai sandbox secara utuh. Proses ini penting bagi runtime yang berulang kali memulihkan lingkungan berbasis snapshot.

Perbandingan ini memiliki batasan yang jelas. Grafik mencakup sistem-sistem tertentu dalam tolok ukur mikro yang spesifik dan tidak membuktikan peningkatan kecepatan agen end-to-end yang setara ataupun keunggulan kapasitas armada dibandingkan AMD. E2B juga menyatakan bahwa peningkatan kinerja untuk masing-masing alat dan aplikasi akan bervariasi.

Kapasitas Tumpukan Penuh dan Penyetelan Host

Untuk pengujian tumpukan penuh, E2B menggunakan E2B Embed, paket satu mesinnya yang mencakup E2B Runtime sumber terbuka dan dasbor, dengan tumpukan berjalan langsung di host. Embed menyediakan isolasi microVM Firecracker serta dukungan SDK Python dan JavaScript. Evaluasi ini mencakup pembuatan, eksekusi perintah, pemulihan snapshot, kapasitas, serta pembuatan dan penghentian berulang.

E2B melaporkan waktu mulai sandbox berurutan dalam kondisi hangat sebesar 50 md dan waktu pulang-pergi perintah sebesar 3,8 md pada beban rendah. Masing-masing angka berasal dari pengujian Vera bare-metal yang terpisah, bukan pengukuran beban armada. Dalam pengujian siklus berulang yang terpisah, tercatat 22.145 siklus pembuatan dan penghancuran tanpa kesalahan.

Dalam beban kerja kapasitas campuran, setiap sandbox berulang kali menjalankan lonjakan beban CPU, menulis 10 MiB ke disk, lalu berhenti sejenak, sementara satu dari setiap 10 sandbox berjalan terus-menerus. Pada batas atas rentang kapasitas, E2B melaporkan latensi pulang-pergi perintah persentil ke-95 sebesar 255 md. Dalam pengujian terpisah ketika setiap sandbox berjalan terus-menerus, sistem mampu mempertahankan 550 sandbox.

Pengujian kapasitas tersebut mencadangkan 512 MiB untuk setiap sandbox. Sasaran pengujian mensyaratkan latensi persentil ke-95 tetap dalam batas 5× baseline lonjakan beban setelah pemanasan pada setiap pengujian, serta menetapkan batas kesalahan 1% untuk setiap langkah. Dengan demikian, hasil ini menggambarkan kapasitas berdasarkan sasaran responsivitas dan keandalan yang ditentukan, bukan batas pemuatan absolut.

Konfigurasi host menjadi kendala utama. Pengaturan bawaan mendukung 320 sandbox; penyetelan tetangga jaringan meningkatkannya menjadi 1.000, sementara batas 1.024 perangkat tetap berlaku. Hasil kapasitas utama hanya tercapai dengan penyetelan penuh. E2B menggambarkan peningkatan tersebut sebagai perbandingan konfigurasi pada server yang sama, bukan peningkatan kecepatan Vera dibandingkan x86.

Batasan Evaluasi dan Pengujian yang Direncanakan

Status praproduksi menyisakan sejumlah persoalan yang belum terselesaikan. E2B mendapati bahwa sistem acuan x86 masih menyelesaikan beberapa operasi pemulihan dengan lebih cepat, sementara virtualisasi bertingkat masih memerlukan pekerjaan tambahan. Tidak ada pengukuran biaya atau daya yang dilakukan, sehingga aspek ekonomi operasional tidak tercakup dalam evaluasi.

Langkah berikutnya yang dinyatakan E2B adalah klaster Vera multi-node, pemulihan dingin yang didukung penyimpanan objek, serta perbandingan x86 menggunakan paket E2B dan penyetelan host yang sama. Kini, kelayakan penerapan yang lebih luas bergantung pada tindak lanjut tersebut: apakah hasil tumpukan penuh tetap berlaku jika dibandingkan dengan sistem x86 yang dikemas dan disetel secara sebanding, serta apakah hasil kapasitas satu server dapat diterapkan pada klaster.