NVIDIA Mengadu CPU Vera dengan x86 dalam Kecepatan Agen dan Kapasitas Daya

Pada 5 November 2026, NVIDIA melaporkan hasil baru CPU Vera, dengan menyatakan bahwa perbandingan di pusat data berdaya 100 megawatt menunjukkan kecepatan agen 2 kali lebih tinggi daripada CPU x86 paling hemat energi dan jumlah agen per watt 1,6 kali lebih banyak daripada CPU x86 tercepat.

Angka-angka tersebut mencerminkan kendala operasional yang berbeda. Tugas agen berulang kali beralih dari penalaran GPU ke eksekusi CPU untuk melakukan pencarian, kueri basis data, penulisan dan pengujian kode, serta tindakan lainnya. Karena itu, operator membutuhkan agen individual yang responsif sekaligus kapasitas serentak yang memadai agar fasilitas dengan pasokan daya terbatas tetap produktif. NVIDIA memosisikan Vera sebagai satu prosesor untuk memenuhi kedua kebutuhan tersebut, alih-alih menggunakan kombinasi komponen x86 yang cepat dan berdaya tampung tinggi.

Pengujian Produksi Mengukur Kecepatan dan Kemampuan Menangani Tugas Serentak

Perplexity melaporkan bahwa pengujian awal Vera menjalankan alur kerja bergaya Computer sekitar 1,5 kali lebih cepat daripada acuan produksi yang saat ini digunakannya, serta memulai sandbox secara serentak hingga 1,9 kali lebih cepat. Hasil tersebut juga menjadi pengujian backend untuk SPACE, platform sandbox miliknya yang menggunakan lingkungan sementara untuk tugas individual dan sesi yang dapat dijeda, dilanjutkan, atau dibuat cabangnya untuk pekerjaan yang lebih panjang. NVIDIA menyatakan bahwa Perplexity berencana menerapkan Vera dalam sistem produksi mendatang.

Dalam pengujian pada 21 Juli 2026, DeepInfra memutar ulang lalu lintas terekam dari agen produksinya dengan kecepatan tetap dan tidak menghasilkan token model secara langsung, sehingga unsur acak dari model tidak memengaruhi perbandingan. Vera, AMD Zen 5, Intel Granite Rapids, dan Intel Sapphire Rapids dibatasi pada partisi identik dengan 20 inti fisik, satu NUMA, dan satu utas per inti; pengujian yang melampaui batas jumlah inti tersebut tidak disertakan.

DeepInfra mengukur waktu langkah orkestrasi pada bare metal sebesar 29 milidetik untuk Vera, dibandingkan dengan 35 milidetik untuk AMD Zen 5, 51 milidetik untuk Granite Rapids, dan 64 milidetik untuk Sapphire Rapids. Dengan demikian, Vera menjadi yang tercepat di antara keempatnya dan 1,2 kali lebih cepat daripada hasil x86 terbaik. Dalam microVM aman, dengan batas respons persentil ke-99 sebesar enam detik dan syarat tanpa kesalahan, Vera mampu menangani 256 agen secara serentak. Prosesor pesaing mampu menangani 160 agen, meskipun Granite Rapids mencapai 192 dalam pengujian terbaiknya.

Pengujian yang sama mengungkap biaya yang harus ditanggung semua chip. Penggunaan sandbox microVM aman menimbulkan penalti 1,5–2 kali pada pekerjaan tipikal dan sekitar 5–13,5 kali saat menjalankan proses, di berbagai arsitektur. DeepInfra menemukan bahwa Vera berkinerja terbaik dengan tumpukan tersebut, tetapi menyebut lapisan isolasi itu sendiri sebagai peluang yang masih terbuka untuk menghosting agen multi-penyewa yang tidak tepercaya secara lebih efisien.

Pada 7 Oktober 2026, Daytona melaporkan bahwa Vera menyiapkan 1.000 sandbox dalam 10,8 detik, dibandingkan dengan 32,3 detik untuk EPYC 9575F dari AMD dan 88,4 detik untuk EPYC 9755. Vera membutuhkan 27,4 detik untuk menyiapkan 2.000 sandbox. Dengan 2.000 sandbox serentak yang menjalankan tugas agen pengodean yang sama, sistem tersebut menyelesaikan 12,7 pekerjaan agen per detik, dibandingkan dengan 10,9 pada EPYC 9755 dan 8,1 pada EPYC 9575F.

Hasil Basis Data Menunjukkan Batas Skalabilitas

Pada 21 Oktober 2026, ClickHouse melaporkan bahwa berkas binernya yang standar, tanpa penyetelan khusus untuk Vera, menduduki posisi teratas pada papan peringkat perangkat keras ClickBench di mesin Vera soket ganda dengan 176 inti fisik dan 352 utas perangkat keras. Pengujiannya yang lebih intensif komputasi—pemfilteran, agregasi, dan penggabungan—meningkat hampir sebanding hingga mencapai jumlah inti fisik. Filter substring yang lebih sederhana berhenti menunjukkan peningkatan berarti setelah 64 utas, ketika laju transfer memori mulai mendekati batas bandwidth sistem. Perbedaan itu menunjukkan mengapa jumlah inti saja tidak dapat memprediksi kapasitas agen: pekerjaan yang intensif komputasi dapat memanfaatkan paralelisme yang tersedia, sedangkan pekerjaan yang dibatasi oleh memori tidak lagi memperoleh manfaat dari penambahan utas.

Pada 16 Oktober 2026, DuckDB melaporkan bahwa Vera bekerja 1,53–1,61 kali lebih cepat dalam pengujian daya dan 1,37–1,41 kali lebih cepat dalam pengujian throughput dibandingkan dengan sistem acuan Intel Xeon 6. DuckDB menggunakan satu soket Vera dengan 88 utas dan mengonfigurasi sistem Xeon dengan 96 utas. Beban kerja turunan dengan faktor skala 1.000 tidak memenuhi semua persyaratan TPC-H dan tidak dapat dibandingkan dengan hasil TPC-H yang telah dipublikasikan.

Arsitektur Vera Dirancang untuk Kedua Peran

Dalam spesifikasi Vera, NVIDIA mencantumkan 88 inti Olympus khusus per CPU, dengan Spatial Multithreading yang menyediakan 176 utas, serta bandwidth memori LPDDR5X hingga 1,2 TB/s dan memori hingga 1,5 TB. Scalable Coherency Fabric generasi kedua menghubungkan inti, cache, memori, I/O, dan NVLink-C2C pada satu cetakan komputasi dengan bandwidth biseksi 3,4 TB/s. NVLink-C2C menyediakan bandwidth koheren hingga 1,8 TB/s antara CPU Vera dan GPU NVIDIA.

Vera dapat berfungsi sebagai CPU host dalam sistem Vera Rubin atau sebagai prosesor mandiri untuk AI agentik, pembelajaran penguatan, pemrosesan data, dan analitik. Pilihan penerapan mencakup sistem standar soket tunggal dan soket ganda serta rak padat berpendingin cairan.

Bagi operator infrastruktur, implikasi praktisnya adalah kapasitas agen tidak dapat ditentukan hanya dari jumlah inti atau satu rasio kecepatan. Hasil pengujian menunjukkan bahwa potensi peningkatan Vera bergantung pada komputasi, memori, dan konektivitas, tetapi pengujian mitra juga memperlihatkan bahwa isolasi sandbox dan pekerjaan yang dibatasi oleh memori dapat menentukan seberapa besar potensi tersebut tetap terwujud dalam produksi.