E2B testar NVIDIA Vera för agentflottor med hög sandlådetäthet

E2B publicerade testresultat från förproduktionsfasen den 9 november 2026. De visar att fyra optimerade körningar på en NVIDIA Vera-server med två processorsocklar klarade mellan 1 400 och 1 550 belastade sandlådor, medan separata mikrobenchmarktester uppmätte högre processor- och minnesgenomströmning än på ett AMD EPYC 9B45-referenssystem.

Utvärderingen är inte en produktionsdriftsättning. E2B tillhandahåller isolerade mikro-VM:ar via ett SDK, så att agenter kan köra kommandon, arbeta med filer och återgå till ett bevarat körningstillstånd. Varje sandlåda återupptas från en ögonblicksbild, och minnet läses in vid behov. En stor del av arbetet under sådana sessioner utförs av processorn även när modellen körs någon annanstans. Därför testade E2B både enskilda åtgärder och ett stort antal samtidiga miljöer.

Mikrobenchmarktester av processor och minne

Vera-testerna genomfördes den 9–13 oktober 2026 på en förproduktionsserver med två processorsocklar, 176 fysiska kärnor och 1 479 GiB RAM. AMD-referensmätningarna gjordes i augusti 2026. I ett beräkningstest med en tråd direkt på värdsystemet uppmätte E2B 7 759 händelser per sekund för Vera och 5 131 för AMD EPYC 9B45, alltså 1,51 gånger referenssystemets genomströmning. Siffrorna är medianen av minst tre körningar. Beräkningstesterna använde Veras kärna med 64K-sidor.

Minnestestet fyllde ett område på 2 GiB med 4K-kärnor och 2 MiB-stora sidor, samma typ av sidstöd som används i E2B:s sandlådor. E2B uppmätte 62,8 GB/s för Vera och 17,4 GB/s för AMD, vilket motsvarar 3,61 gånger så hög genomströmning. Testet mäter hur snabbt minnet fylls, inte hur lång tid det tar att starta en hel sandlåda. Det är en viktig åtgärd för en körmiljö som upprepade gånger återställer miljöer från ögonblicksbilder.

Jämförelsen har tydliga begränsningar. Diagrammen omfattar namngivna system i specifika mikrobenchmarktester och visar inte att agenter blir lika mycket snabbare från start till mål eller att Vera ger högre kapacitet för en hel serverflotta än AMD. E2B påpekar också att prestandavinsterna varierar mellan olika verktyg och program.

Kapacitet för hela systemet och värdjusteringar

För testerna av hela systemet använde E2B E2B Embed, en paketering för en enda maskin av det öppna källkodsprojektet E2B Runtime och dess kontrollpanel, med hela systemet direkt på värden. Embed tillhandahåller isolering med Firecracker-mikro-VM:ar samt SDK-stöd för Python och JavaScript. Utvärderingen omfattade skapande, kommandokörning, återställning från ögonblicksbilder, kapacitet samt upprepat skapande och nedmontering.

E2B rapporterar varma, sekventiella starter av sandlådor på 50 ms och tur-och-retur-tider för kommandon på 3,8 ms vid låg belastning. Värdena kommer från separata Vera-tester på fysisk maskinvara, inte från mätningar av en hel serverflotta under belastning. I ett separat test med upprepade skapande- och borttagningscykler genomfördes 22 145 cykler utan fel.

I det blandade kapacitetstestet utförde varje sandlåda upprepade gånger en kort processorbelastning, en diskskrivning på 10 MiB och en paus, medan en av tio kördes kontinuerligt. Vid den övre gränsen för kapacitetsintervallet rapporterar E2B en tur-och-retur-latens för kommandon på 255 ms vid den 95:e percentilen. I ett separat test där alla sandlådor kördes kontinuerligt upprätthölls 550 sandlådor.

I dessa kapacitetstester avsattes 512 MiB per sandlåda. Målen krävde att latensen vid den 95:e percentilen höll sig inom 5× den uppvärmda belastningens baslinjevärde för respektive körning och att felfrekvensen inte översteg 1 % per steg. Resultatet beskriver därför kapaciteten inom angivna mål för svarstid och tillförlitlighet, inte en absolut belastningsgräns.

Värdkonfigurationen var en viktig begränsning. Standardinställningarna klarade 320 sandlådor. Justering av nätverksgrannar höjde antalet till 1 000, men gränsen på 1 024 enheter kvarstod. För huvudresultatet för kapacitet krävdes fullständig finjustering. E2B beskriver utvecklingen som en jämförelse mellan konfigurationer på samma server, inte som en prestandaökning för Vera jämfört med x86.

Begränsningar i utvärderingen och planerade tester

Att testerna genomfördes före produktionsfasen innebär att flera frågor fortfarande är olösta. E2B konstaterade att x86-referenssystem fortfarande utförde vissa återställningar snabbare, och att kapslad virtualisering kräver mer arbete. Inga mätningar av kostnader eller strömförbrukning gjordes, så driftekonomin ingick inte i utvärderingen.

E2B:s uppgivna nästa steg är ett Vera-kluster med flera noder, kalla återupptagningar med stöd av objektlagring samt en x86-jämförelse med samma E2B-paketering och värdjusteringar. Den bredare frågan om driftsättning hänger nu på dessa uppföljningar: om resultaten för hela systemet står sig mot ett x86-system med jämförbar paketering och finjustering, och om kapacitetsresultaten från en enda server kan uppnås även i ett kluster.