E2B tester NVIDIA Vera til agentflåder med sandkasser i høj tæthed

E2B offentliggjorde resultater fra test før produktionssætning den 9. november 2026. De viste, at fire optimerede kørsler på én server med to sokler af typen NVIDIA Vera kunne håndtere 1.400 til 1.550 belastede sandkasser, mens separate mikrobenchmarks målte højere processor- og hukommelsesgennemløb end på referencesystemet AMD EPYC 9B45.

Evalueringen er ikke en produktionssætning. E2B leverer isolerede mikroVM’er via et SDK, så agenter kan udføre kommandoer, arbejde med filer og vende tilbage til en bevaret kørende tilstand. Hver sandkasse genoptages fra et øjebliksbillede, hvor hukommelsen indlæses efter behov. En stor del af arbejdet i sådanne sessioner foregår på CPU’en, selv når modellen kører et andet sted, så E2B testede både enkelte handlinger og et stort antal samtidige miljøer.

Mikrobenchmarks for processor og hukommelse

Vera-testene blev gennemført fra 9. til 13. oktober 2026 på én server før produktionssætning med to sokler, 176 fysiske kerner og 1.479 GiB RAM. Referencemålingerne for AMD blev foretaget i august 2026. I en beregningstest med én tråd på en ren vært rapporterer E2B 7.759 hændelser i sekundet for Vera og 5.131 for AMD EPYC 9B45, svarende til 1,51 gange referencegennemløbet. Tallene er medianen af mindst tre kørsler. Beregningstestene brugte Veras kerne med 64K-sider.

I hukommelsestesten blev et område på 2 GiB fyldt ved hjælp af 4K-kerner og 2 MiB-kæmpesider, den samme understøttelse af kæmpesider, som E2B’s sandkasser bruger. E2B rapporterer 62,8 GB/s for Vera og 17,4 GB/s for AMD, svarende til 3,61 gange gennemløbet. Målingen viser, hvor hurtigt hukommelsen fyldes, ikke hvor lang tid det tager at starte en hel sandkasse. Det er en vigtig handling for en køretidsplatform, der gentagne gange gendanner miljøer baseret på øjebliksbilleder.

Sammenligningen har klare begrænsninger. Diagrammerne omfatter navngivne systemer i specifikke mikrobenchmarks og dokumenterer hverken tilsvarende hastighedsforbedringer for agenter fra start til slut eller en kapacitetsfordel for serverflåder i forhold til AMD. E2B siger også, at forbedringerne vil variere fra værktøj til værktøj og fra applikation til applikation.

Kapacitet for hele stakken og optimering af værten

Til testene af hele stakken brugte E2B E2B Embed, deres pakke til én maskine med open source-versionen af E2B Runtime og et kontrolpanel, hvor stakken kørte direkte på værten. Embed leverer Firecracker-isolering med mikroVM’er samt SDK-understøttelse til Python og JavaScript. Evalueringen omfattede oprettelse, kommandoudførelse, gendannelse fra øjebliksbilleder, kapacitet samt gentagen oprettelse og nedlukning.

E2B rapporterer opstartstider på 50 ms for varme, sekventielle sandkasser og en rundturstid på 3,8 ms for kommandoer ved lav belastning. Hvert tal stammer fra separate Vera-test på bare metal, ikke fra målinger af belastningen på en serverflåde. En separat test af gentagne oprettelser og nedlukninger gennemførte 22.145 cyklusser uden fejl.

I den blandede kapacitetstest udførte hver sandkasse gentagne gange en CPU-belastning, en diskskrivning på 10 MiB og en pause, mens én ud af ti kørte kontinuerligt. Ved den øvre grænse for kapacitetsintervallet rapporterer E2B en rundturstid for kommandoer på 255 ms ved 95-percentilen. I en separat test, hvor alle sandkasser kørte kontinuerligt, blev 550 sandkasser håndteret over tid.

I disse kapacitetstests var der afsat 512 MiB til hver sandkasse. Målene krævede, at latenstiden ved 95-percentilen holdt sig inden for 5× den opvarmede baseline for belastningsbursts i hver kørsel, og fastsatte en fejlgrænse på 1 % for hvert trin. Resultatet beskriver derfor kapaciteten under specificerede mål for reaktionstid og pålidelighed, ikke en absolut grænse for, hvor mange sandkasser der kan indlæses.

Værtskonfigurationen var en væsentlig begrænsning. Standardindstillingerne understøttede 320 sandkasser; optimering af netværkets nabotabel øgede antallet til 1.000, mens grænsen på 1.024 enheder fortsat gjaldt. Den primære kapacitetsmåling krævede fuld optimering. E2B beskriver dette forløb som en sammenligning af konfigurationer på samme server, ikke som en hastighedsforbedring for Vera i forhold til x86.

Begrænsninger ved evalueringen og planlagte test

Statussen før produktionssætning betyder, at flere spørgsmål stadig er uafklarede. E2B konstaterede, at referencesystemer med x86 stadig udførte visse gendannelseshandlinger hurtigere, mens indlejret virtualisering kræver yderligere arbejde. Der blev ikke foretaget målinger af omkostninger eller strømforbrug, så driftsøkonomien indgik ikke i evalueringen.

E2B’s næste planlagte skridt er en klynge med flere noder af typen Vera, kolde genoptagelser understøttet af objektlager samt en x86-sammenligning med samme E2B-pakke og optimering af værten. Den bredere vurdering af, om løsningen er egnet til udrulning, afhænger nu af disse opfølgende test: om resultaterne for hele stakken holder sammenlignet med et tilsvarende pakket og optimeret x86-system, og om kapacitetsresultaterne for én server kan overføres til en klynge.