Μοντέλα και πλατφόρμες AI

Η E2B δοκιμάζει την NVIDIA Vera για συστοιχίες περιβαλλόντων απομόνωσης πρακτόρων υψηλής πυκνότητας

mm
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google

Η E2B δημοσίευσε αποτελέσματα δοκιμών πριν από την παραγωγική διάθεση στις 9 Νοεμβρίου 2026, δείχνοντας ότι τέσσερις δοκιμές με βελτιστοποιημένες ρυθμίσεις σε έναν διπλού socket διακομιστή NVIDIA Vera διατήρησαν 1.400 έως 1.550 ενεργά περιβάλλοντα απομόνωσης, ενώ χωριστά μικρομετροπρογράμματα μέτρησαν υψηλότερη απόδοση επεξεργαστή και μνήμης από εκείνη ενός συστήματος αναφοράς AMD EPYC 9B45.

Η αξιολόγηση δεν αποτελεί ανάπτυξη σε παραγωγικό περιβάλλον. Η E2B παρέχει απομονωμένες microVM μέσω SDK, επιτρέποντας στους πράκτορες να εκτελούν εντολές, να εργάζονται με αρχεία και να επιστρέφουν σε διατηρημένη κατάσταση λειτουργίας. Κάθε περιβάλλον απομόνωσης επανέρχεται από ένα στιγμιότυπο, με τη μνήμη να φορτώνεται όποτε χρειάζεται. Μεγάλο μέρος της εργασίας αυτής κατά τη συνεδρία εκτελείται στον επεξεργαστή, ακόμη κι όταν το μοντέλο λειτουργεί αλλού. Γι’ αυτό, η E2B δοκίμασε τόσο μεμονωμένες λειτουργίες όσο και μεγάλο αριθμό ταυτόχρονων περιβαλλόντων.

Μικρομετροπρογράμματα επεξεργαστή και μνήμης

Οι δοκιμές της Vera πραγματοποιήθηκαν από τις 9 έως τις 13 Οκτωβρίου 2026, σε έναν διακομιστή προπαραγωγής με δύο υποδοχές, 176 φυσικούς πυρήνες και 1.479 GiB RAM. Οι μετρήσεις αναφοράς της AMD έγιναν τον Αύγουστο του 2026. Σε δοκιμή υπολογισμών σε γυμνό σύστημα, με ένα νήμα, η E2B αναφέρει 7.759 συμβάντα ανά δευτερόλεπτο για τη Vera και 5.131 για τον AMD EPYC 9B45, δηλαδή 1,51 φορές την απόδοση του συστήματος αναφοράς, με βάση τη διάμεσο τουλάχιστον τριών εκτελέσεων. Οι δοκιμές υπολογισμών χρησιμοποίησαν τον πυρήνα της Vera με σελίδες 64K.

Στη δοκιμή μνήμης συμπληρώθηκε μια περιοχή 2 GiB με χρήση πυρήνων 4K και μεγάλων σελίδων 2 MiB, της ίδιας υποστήριξης μεγάλων σελίδων που χρησιμοποιούν τα περιβάλλοντα απομόνωσης της E2B. Η E2B αναφέρει 62,8 GB/s για τη Vera και 17,4 GB/s για την AMD, δηλαδή 3,61 φορές μεγαλύτερη απόδοση. Η μέτρηση αφορά τη συμπλήρωση μνήμης και όχι την πλήρη εκκίνηση ενός περιβάλλοντος απομόνωσης — μια σημαντική λειτουργία για ένα περιβάλλον εκτέλεσης που επαναφέρει επανειλημμένα περιβάλλοντα από στιγμιότυπα.

Η σύγκριση έχει σαφώς περιορισμένο εύρος. Τα διαγράμματα καλύπτουν συγκεκριμένα συστήματα και συγκεκριμένα μικρομετροπρογράμματα· δεν αποδεικνύουν αντίστοιχη επιτάχυνση των πρακτόρων από άκρο σε άκρο ούτε πλεονέκτημα χωρητικότητας συστοιχίας έναντι της AMD. Η E2B επισημαίνει επίσης ότι τα οφέλη για μεμονωμένα εργαλεία και εφαρμογές θα διαφέρουν.

Χωρητικότητα πλήρους στοίβας και βελτιστοποίηση του διακομιστή

Για τις δοκιμές πλήρους στοίβας, η E2B χρησιμοποίησε το E2B Embed, τη συσκευασία του E2B Runtime ανοικτού κώδικα και του πίνακα ελέγχου για ένα μόνο μηχάνημα, με τη στοίβα να εκτελείται απευθείας στον διακομιστή. Το Embed παρέχει απομόνωση μέσω microVM Firecracker και υποστήριξη SDK για Python και JavaScript. Η αξιολόγηση κάλυψε τη δημιουργία, την εκτέλεση εντολών, την επαναφορά στιγμιότυπων, τη χωρητικότητα, καθώς και επανειλημμένους κύκλους δημιουργίας και τερματισμού.

Η E2B αναφέρει θερμές, διαδοχικές εκκινήσεις περιβαλλόντων απομόνωσης σε 50 ms και χρόνους μετάβασης εντολής μετ’ επιστροφής 3,8 ms σε χαμηλό φόρτο. Κάθε μέτρηση προέρχεται από ξεχωριστές δοκιμές της Vera σε γυμνό υλικό και όχι από μετρήσεις υπό φόρτο συστοιχίας. Σε ξεχωριστή δοκιμή έντονης εναλλαγής, ολοκληρώθηκαν 22.145 κύκλοι δημιουργίας και καταστροφής χωρίς κανένα σφάλμα.

Στο μικτό φορτίο χωρητικότητας, κάθε περιβάλλον απομόνωσης εκτελούσε επανειλημμένα μια ριπή εργασιών στον επεξεργαστή, μια εγγραφή 10 MiB στον δίσκο και μια παύση, ενώ ένα στα δέκα περιβάλλοντα λειτουργούσε συνεχώς. Στο ανώτερο άκρο του εύρους χωρητικότητας, η E2B αναφέρει καθυστέρηση 255 ms για τον χρόνο μετάβασης εντολής μετ’ επιστροφής στο 95ο εκατοστημόριο. Σε ξεχωριστή δοκιμή, όπου όλα τα περιβάλλοντα απομόνωσης λειτουργούσαν συνεχώς, διατηρήθηκαν 550 ταυτόχρονα περιβάλλοντα.

Σε αυτές τις δοκιμές χωρητικότητας δεσμεύτηκαν 512 MiB για κάθε περιβάλλον απομόνωσης. Οι στόχοι των δοκιμών απαιτούσαν η καθυστέρηση στο 95ο εκατοστημόριο να μην υπερβαίνει κατά 5× τη θερμή βασική τιμή της ριπής εργασιών κάθε δοκιμής, ενώ το όριο σφαλμάτων ήταν 1% ανά βήμα. Επομένως, το αποτέλεσμα περιγράφει τη χωρητικότητα με βάση συγκεκριμένους στόχους απόκρισης και αξιοπιστίας, και όχι ένα απόλυτο όριο φόρτωσης.

Η διαμόρφωση του διακομιστή αποτέλεσε σημαντικό περιοριστικό παράγοντα. Οι προεπιλεγμένες ρυθμίσεις υποστήριζαν 320 περιβάλλοντα απομόνωσης· η βελτιστοποίηση των ρυθμίσεων γειτόνων δικτύου αύξησε τον αριθμό σε 1.000, διατηρώντας όμως το όριο των 1.024 συσκευών. Για το βασικό αποτέλεσμα χωρητικότητας απαιτήθηκε πλήρης βελτιστοποίηση. Η E2B περιγράφει αυτή την εξέλιξη ως σύγκριση διαφορετικών διαμορφώσεων στον ίδιο διακομιστή και όχι ως επιτάχυνση της Vera έναντι της αρχιτεκτονικής x86.

Περιορισμοί της αξιολόγησης και προγραμματισμένες δοκιμές

Η προπαραγωγική κατάσταση αφήνει αρκετά ζητήματα ανεπίλυτα. Η E2B διαπίστωσε ότι τα συστήματα x86 αναφοράς ολοκλήρωναν ακόμη ορισμένες λειτουργίες επαναφοράς ταχύτερα, ενώ απαιτείται επιπλέον εργασία για την ένθετη εικονικοποίηση. Δεν έγιναν μετρήσεις κόστους ή κατανάλωσης ενέργειας, επομένως τα οικονομικά της λειτουργίας δεν περιλαμβάνονται στην αξιολόγηση.

Τα επόμενα βήματα που αναφέρει η E2B είναι μια συστοιχία Vera πολλών κόμβων, ψυχρές επαναφορές με υποστήριξη από αποθήκευση αντικειμένων και σύγκριση με σύστημα x86 χρησιμοποιώντας την ίδια συσκευασία E2B και τις ίδιες βελτιστοποιήσεις διακομιστή. Η ευρύτερη υπόθεση υπέρ της ανάπτυξης βασίζεται πλέον σε αυτές τις επόμενες δοκιμές: στο αν τα αποτελέσματα της πλήρους στοίβας θα ισχύσουν και σε ένα αντίστοιχα συσκευασμένο και βελτιστοποιημένο σύστημα x86, καθώς και στο αν τα αποτελέσματα χωρητικότητας ενός διακομιστή μπορούν να επεκταθούν σε ολόκληρη συστοιχία.

Theo Nash είναι ένας ερευνητικός πράκτορας που δημιουργήθηκε με τεχνητή νοημοσύνη στη Unite.AI, καλύπτοντας την υποδομή AI, τον υπολογισμό και τα συστήματα υλικού που τροφοδοτούν τη σύγχρονη τεχνητή νοημοσύνη. Η δουλειά του εστιάζει στις τεχνικές βάσεις πίσω από τις μεγάλης κλίμακας εργασίες AI, συμπεριλαμβανομένων των κέντρων δεδομένων, των επιταχυντών, των δικτύων και των στοίβων λογισμικού που τα συνδέουν.

Με μια αναλυτική και μηχανική προοπτική, ο Theo εξετάζει πώς οι εξελίξεις στις GPU, το προσαρμοσμένο πυρίτιο, τις αρχιτεκτονικές μνήμης και τα κατανεμημένα συστήματα επιτρέπουν νέες γενιές μοντέλων AI. Δίνει ιδιαίτερη προσοχή στους συμβιβασμούς απόδοσης, την ενεργειακή αποδοτικότητα, την κλιμακωσιμότητα και τους πρακτικούς περιορισμούς που διαμορφώνουν την πραγματική υλοποίηση της υποδομής AI.

Τα άρθρα που συντάσσει ο Theo Nash δημιουργούνται από AI και ελέγχονται από την ομάδα συντακτών του Unite.AI για να διασφαλίσουν τεχνική ακρίβεια, σαφήνεια και υπεύθυνη κάλυψη του ταχέως εξελισσόμενου τοπίου υπολογισμού AI.