E2B testa NVIDIA Vera per flotte di sandbox per agenti ad alta densità

Il 9 novembre 2026, E2B ha pubblicato i risultati dei test pre-produzione, mostrando che quattro esecuzioni ottimizzate su un unico server NVIDIA Vera a doppio socket hanno mantenuto attive da 1.400 a 1.550 sandbox, mentre benchmark separati hanno rilevato un throughput del processore e della memoria superiore a quello del sistema di riferimento AMD EPYC 9B45.

La valutazione non è un’implementazione in produzione. E2B fornisce microVM isolate tramite un SDK, che consente agli agenti di eseguire comandi, lavorare con file e riprendere l’esecuzione da uno stato salvato. Ogni sandbox riparte da uno snapshot, caricando la memoria quando necessario. Gran parte del lavoro svolto durante queste sessioni avviene sulla CPU anche quando il modello viene eseguito altrove; per questo E2B ha testato sia singole operazioni sia un gran numero di ambienti simultanei.

Microbenchmark di processore e memoria

I test su Vera si sono svolti dal 9 al 13 ottobre 2026, su un server pre-produzione a doppio socket con 176 core fisici e 1.479 GiB di RAM. Le misurazioni di riferimento per AMD sono state effettuate nell’agosto 2026. In un test di calcolo a thread singolo su host senza virtualizzazione, E2B riporta 7.759 eventi al secondo per Vera e 5.131 per AMD EPYC 9B45, pari a 1,51 volte il throughput del sistema di riferimento, usando la mediana di almeno tre esecuzioni. Per i test di calcolo è stato usato il kernel di Vera con pagine da 64K.

Nel test della memoria è stata popolata un’area di 2 GiB usando kernel da 4K e pagine enormi da 2 MiB, lo stesso tipo di pagine enormi usato dalle sandbox di E2B. E2B riporta 62,8 GB/s per Vera e 17,4 GB/s per AMD, equivalenti a un throughput 3,61 volte superiore. Questa misurazione riguarda il popolamento della memoria, non l’avvio completo di una sandbox: si tratta di un’operazione importante per un runtime che ripristina ripetutamente ambienti basati su snapshot.

Il confronto ha limiti precisi. I grafici riguardano sistemi specifici, indicati per nome, e determinati microbenchmark; non dimostrano né miglioramenti equivalenti nella velocità complessiva degli agenti né un vantaggio nella capacità della flotta rispetto ad AMD. E2B afferma inoltre che i miglioramenti varieranno a seconda dei singoli strumenti e delle applicazioni.

Capacità dell’intero stack e ottimizzazione dell’host

Per i test sull’intero stack, E2B ha usato E2B Embed, il suo pacchetto per singola macchina che include E2B Runtime, open source, e la relativa dashboard; lo stack era eseguito direttamente sull’host. Embed offre l’isolamento tramite microVM Firecracker e il supporto agli SDK per Python e JavaScript. La valutazione ha riguardato la creazione, l’esecuzione di comandi, il ripristino degli snapshot, la capacità e la creazione e dismissione ripetuta delle sandbox.

E2B riporta avvii sequenziali di sandbox già riscaldate in 50 ms e tempi di andata e ritorno dei comandi di 3,8 ms a basso carico; ciascun dato proviene da test separati su Vera bare metal, non da misurazioni con la flotta sotto carico. Un test distinto di creazione e dismissione ripetute ha completato 22.145 cicli senza errori.

Nel carico di lavoro misto usato per misurare la capacità, ogni sandbox eseguiva ripetutamente un picco di attività sulla CPU, una scrittura su disco di 10 MiB e una pausa, mentre una sandbox su dieci era in esecuzione continua. Al limite superiore dell’intervallo di capacità, E2B riporta una latenza del 95° percentile di 255 ms per l’andata e ritorno dei comandi. In un test separato, con tutte le sandbox in esecuzione continua, il sistema ne ha mantenute attive 550.

In queste prove di capacità erano riservati 512 MiB per ogni sandbox. Gli obiettivi prevedevano che la latenza del 95° percentile non superasse di 5 volte il valore di riferimento del picco di attività dopo il riscaldamento per ciascuna esecuzione e imponevano un limite di errore dell’1% per ogni passaggio. Il risultato descrive quindi la capacità in presenza di obiettivi specifici di reattività e affidabilità, non un limite assoluto di carico.

La configurazione dell’host costituiva un vincolo importante. Le impostazioni predefinite supportavano 320 sandbox; l’ottimizzazione dei parametri dei vicini di rete ha portato il numero a 1.000, mantenendo però il limite di 1.024 dispositivi. Per ottenere il risultato principale sulla capacità è stata necessaria un’ottimizzazione completa. E2B descrive questa progressione come un confronto tra configurazioni sullo stesso server, non come un miglioramento della velocità di Vera rispetto a x86.

Limiti della valutazione e test previsti

La fase pre-produzione lascia aperte diverse questioni. E2B ha rilevato che i sistemi di riferimento x86 completavano ancora alcune operazioni di ripristino più rapidamente, mentre la virtualizzazione annidata richiede ulteriore lavoro. Non sono state effettuate misurazioni dei costi o dei consumi energetici, perciò l’economia operativa non rientra nella valutazione.

I prossimi passi indicati da E2B sono un cluster multi-nodo Vera, riprese a freddo basate su archiviazione a oggetti e un confronto con x86 usando lo stesso pacchetto E2B e la stessa ottimizzazione dell’host. La validità più ampia dell’implementazione dipende ora da questi approfondimenti: occorre verificare se i risultati sull’intero stack reggono il confronto con un sistema x86 configurato e ottimizzato in modo analogo e se i risultati di capacità ottenuti su un singolo server si estendono a un cluster.