E2B test NVIDIA Vera voor agent-sandboxvloten met hoge dichtheid

E2B publiceerde testresultaten uit de preproductiefase op 9 november 2026. Daaruit blijkt dat vier runs met geoptimaliseerde instellingen op één dual-socketserver met NVIDIA Vera 1.400 tot 1.550 belaste sandboxes draaiende hielden, terwijl afzonderlijke microbenchmarks een hogere processor- en geheugendoorvoer lieten zien dan bij een AMD EPYC 9B45 als referentie.

De evaluatie is geen implementatie in een productieomgeving. E2B biedt via een SDK geïsoleerde micro-VM’s, waarmee agents opdrachten kunnen uitvoeren, met bestanden kunnen werken en kunnen terugkeren naar een bewaarde actieve status. Elke sandbox wordt hervat vanaf een snapshot, waarbij het geheugen naar behoefte wordt geladen. Veel van het werk tijdens zo’n sessie vindt plaats op de CPU, ook wanneer het model elders draait. Daarom testte E2B zowel afzonderlijke bewerkingen als grote aantallen gelijktijdige omgevingen.

Microbenchmarks voor processor en geheugen

De Vera-tests vonden plaats van 9 tot en met 13 oktober 2026 op één dual-socketserver in de preproductiefase, met 176 fysieke cores en 1.479 GiB RAM. De AMD-referentiemetingen werden in augustus 2026 uitgevoerd. In een rekentest op een bare-metalhost met één thread rapporteert E2B 7.759 gebeurtenissen per seconde voor Vera en 5.131 voor de AMD EPYC 9B45, oftewel 1,51 keer de doorvoer van de referentie. Hiervoor werd de mediaan van ten minste drie runs gebruikt. Bij de rekentests werd Vera’s kernel met 64K-pagina’s gebruikt.

Bij de geheugentest werd een gebied van 2 GiB gevuld met kernels van 4K en huge pages van 2 MiB, dezelfde onderliggende geheugenindeling met huge pages als in de sandboxes van E2B. E2B rapporteert 62,8 GB/s voor Vera en 17,4 GB/s voor AMD, wat neerkomt op 3,61 keer de doorvoer. Deze meting betreft het vullen van geheugen, niet het volledig opstarten van een sandbox. Dat is een belangrijke bewerking voor een runtime die omgevingen op basis van snapshots herhaaldelijk herstelt.

De vergelijking kent duidelijke beperkingen. De grafieken tonen benoemde systemen in specifieke microbenchmarks en bewijzen niet dat agents van begin tot eind evenredig sneller werken of dat AMD een lagere vlootcapaciteit heeft. E2B geeft bovendien aan dat de prestatieverbeteringen voor afzonderlijke tools en toepassingen zullen verschillen.

Capaciteit van de volledige stack en hostafstemming

Voor de tests met de volledige stack gebruikte E2B E2B Embed, de bundeling voor één machine van de opensourceversie van E2B Runtime en het dashboard, waarbij de stack rechtstreeks op de host draaide. Embed biedt isolatie met Firecracker-micro-VM’s en ondersteuning voor Python- en JavaScript-SDK’s. De evaluatie omvatte het aanmaken, uitvoeren van opdrachten, herstellen van snapshots, meten van de capaciteit en herhaald aanmaken en afbreken van sandboxes.

E2B rapporteert op Vera 50 ms voor het sequentieel starten van warme sandboxes en 3,8 ms voor retourtijden van opdrachten bij lage belasting. Beide cijfers zijn afkomstig uit afzonderlijke Vera-tests op bare metal, niet uit metingen bij belasting van een vloot. In een afzonderlijke test met herhaald aanmaken en verwijderen werden 22.145 cycli voltooid zonder fouten.

Bij de gemengde capaciteitstest voerde elke sandbox herhaaldelijk een CPU-burst uit, schreef 10 MiB naar schijf en pauzeerde vervolgens; één op de tien bleef continu actief. Aan de bovenkant van het capaciteitsbereik rapporteert E2B een latentie voor de retourtijd van opdrachten van 255 ms bij het 95e percentiel. In een afzonderlijke test waarbij elke sandbox continu actief bleef, werden 550 sandboxes stabiel ondersteund.

Bij deze capaciteitstests werd 512 MiB per sandbox gereserveerd. De doelstellingen vereisten dat de latentie bij het 95e percentiel binnen 5× de opgewarmde burst-baseline van elke run bleef en stelden een foutlimiet van 1% per stap. Het resultaat beschrijft dus de capaciteit bij specifieke doelstellingen voor reactiesnelheid en betrouwbaarheid, en niet een absolute belastingslimiet.

De hostconfiguratie vormde een belangrijke beperking. Met de standaardinstellingen werden 320 sandboxes ondersteund; door de instellingen voor netwerkburen af te stemmen, steeg dat aantal naar 1.000, terwijl de limiet van 1.024 apparaten bleef gelden. Voor het belangrijkste capaciteitsresultaat was volledige afstemming nodig. E2B beschrijft deze ontwikkeling als een vergelijking van configuraties op dezelfde server, niet als een snelheidsverbetering van Vera ten opzichte van x86.

Beperkingen van de evaluatie en geplande tests

Doordat het systeem zich nog in de preproductiefase bevindt, zijn verschillende kwesties onopgelost. E2B ontdekte dat x86-referentiesystemen sommige herstelbewerkingen nog sneller uitvoerden, terwijl voor geneste virtualisatie meer werk nodig is. Er zijn geen kosten- of stroomverbruiksmetingen uitgevoerd; de operationele bedrijfseconomie valt daardoor buiten de evaluatie.

De volgende stappen die E2B noemt, zijn een Vera-cluster met meerdere nodes, hervattingen vanuit koude toestand op basis van objectopslag en een x86-vergelijking met hetzelfde E2B-pakket en dezelfde hostafstemming. De bredere onderbouwing voor implementatie hangt nu af van deze vervolgtests: houden de resultaten voor de volledige stack stand tegenover een vergelijkbaar verpakt en afgestemd x86-systeem, en zijn de capaciteitsresultaten van één server ook haalbaar in een cluster?