E2B testează NVIDIA Vera pentru flote dense de medii sandbox pentru agenți

Pe 9 noiembrie 2026, E2B a publicat rezultatele unor teste premergătoare producției, care arată că patru rulări optimizate pe un server NVIDIA Vera cu două socketuri au susținut între 1.400 și 1.550 de medii sandbox încărcate, în timp ce microtestele de performanță, efectuate separat, au măsurat un debit mai mare al procesorului și al memoriei decât cel al sistemului de referință AMD EPYC 9B45.

Evaluarea nu reprezintă o implementare în producție. E2B oferă micro-mașini virtuale izolate prin intermediul unui SDK, permițând agenților să execute comenzi, să lucreze cu fișiere și să revină la o stare de funcționare salvată. Fiecare mediu sandbox este reluat dintr-un instantaneu, încărcând memoria atunci când este necesar. O mare parte din activitatea din aceste sesiuni se desfășoară pe procesor, chiar și atunci când modelul rulează în altă parte; de aceea, E2B a testat atât operațiuni individuale, cât și un număr mare de medii concurente.

Microteste de performanță pentru procesor și memorie

Testele Vera s-au desfășurat în perioada 9–13 octombrie 2026, pe un singur server premergător producției, cu două socketuri, 176 de nuclee fizice și 1.479 GiB de memorie RAM. Măsurătorile de referință pentru AMD au fost efectuate în august 2026. Într-un test de calcul pe un singur fir de execuție, rulat direct pe gazdă, E2B raportează 7.759 de evenimente pe secundă pentru Vera și 5.131 pentru AMD EPYC 9B45, adică un debit de 1,51 ori mai mare decât cel de referință, folosind mediana a cel puțin trei rulări. Testarea calculelor a folosit nucleul Vera cu pagini de 64K.

Testul de memorie a populat o regiune de 2 GiB folosind nuclee de 4K și pagini uriașe de 2 MiB, același tip de pagini uriașe folosit pentru memoria mediilor sandbox E2B. E2B raportează 62,8 GB/s pentru Vera și 17,4 GB/s pentru AMD, echivalentul unui debit de 3,61 ori mai mare. Măsurătoarea vizează popularea memoriei, nu pornirea completă a unui mediu sandbox; aceasta este o operațiune importantă pentru un mediu de execuție care restaurează în mod repetat medii salvate în instantanee.

Comparația are limite stricte. Graficele acoperă sisteme nominalizate în cadrul unor microteste de performanță specifice și nu demonstrează creșteri echivalente ale vitezei agenților de la un capăt la altul sau un avantaj de capacitate a flotei față de AMD. E2B precizează, de asemenea, că îmbunătățirile pentru instrumente și aplicații individuale vor varia.

Capacitatea întregului sistem și optimizarea gazdei

Pentru testele întregului sistem, E2B a folosit E2B Embed, pachetul său pentru o singură mașină, care include E2B Runtime, cu sursă deschisă, și tabloul de bord, sistemul rulând direct pe gazdă. Embed oferă izolarea micro-mașinilor virtuale Firecracker și compatibilitate cu SDK-urile Python și JavaScript. Evaluarea a cuprins crearea, executarea comenzilor, restaurarea instantaneelor, capacitatea, precum și crearea și dezafectarea repetată a mediilor sandbox.

E2B raportează porniri secvențiale ale mediilor sandbox încălzite în 50 ms și timpi dus-întors de 3,8 ms pentru comenzi la încărcare redusă; fiecare valoare provine din teste Vera separate, efectuate direct pe hardware, nu din măsurători la încărcarea flotei. O campanie separată de creare și dezafectare repetată a încheiat 22.145 de cicluri de creare și distrugere, fără nicio eroare.

În sarcina mixtă de evaluare a capacității, fiecare mediu sandbox a executat în mod repetat o rafală de procesare pe CPU, o scriere de 10 MiB pe disc și o pauză, în timp ce unul din zece rula continuu. La limita superioară a intervalului de capacitate, E2B raportează o latență dus-întors a comenzilor de 255 ms la percentila 95. Când toate mediile sandbox rulau continuu, un test separat a susținut 550 de medii sandbox.

În acele rulări de evaluare a capacității, fiecărui mediu sandbox i-au fost alocați 512 MiB. Obiectivele impuneau ca latența la percentila 95 să nu depășească de 5 ori valoarea de bază a rafalelor încălzite din fiecare rulare și stabileau o limită a erorilor de 1% pentru fiecare etapă. Prin urmare, rezultatul descrie capacitatea în condițiile unor ținte specificate de rapiditate a răspunsului și fiabilitate, nu o limită absolută de încărcare.

Configurația gazdei a reprezentat o constrângere majoră. Setările implicite au permis utilizarea a 320 de medii sandbox; optimizarea parametrilor pentru vecinii de rețea a ridicat numărul la 1.000, păstrând însă limita de 1.024 de dispozitive. Pentru rezultatul principal privind capacitatea a fost necesară optimizarea completă. E2B descrie această evoluție drept o comparație între configurații pe același server, nu drept o creștere a vitezei Vera față de x86.

Limitele evaluării și testele planificate

Statutul de sistem premergător producției lasă mai multe probleme nerezolvate. E2B a constatat că sistemele de referință x86 au finalizat totuși mai rapid unele operațiuni de restaurare, în timp ce virtualizarea imbricată necesită eforturi suplimentare. Nu au fost efectuate măsurători ale costurilor sau consumului de energie, astfel că economia exploatării nu a fost inclusă în evaluare.

Următorii pași anunțați de E2B sunt un cluster Vera cu mai multe noduri, reluări la rece susținute de stocare de obiecte și o comparație cu x86 folosind același pachet E2B și aceleași optimizări ale gazdei. Argumentele mai ample în favoarea implementării depind acum de aceste teste ulterioare: dacă rezultatele întregului sistem se mențin în comparație cu un sistem x86 configurat și optimizat în mod similar și dacă rezultatele privind capacitatea unui singur server se extind la nivelul unui cluster.