Μοντέλα και πλατφόρμες AI

Η Baseten λανσάρει Sandboxes για AI agents με διαρκή λειτουργία και διατήρηση κατάστασης

mm
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google

Η Baseten παρουσίασε τα Sandboxes στις 5 Νοεμβρίου 2026, προσφέροντας στους AI agents απομονωμένα περιβάλλοντα microVM που διατηρούν αρχεία, μνήμη και διεργασίες σε εκτέλεση μεταξύ εργασιών. Η υπηρεσία εκτέλεσης είναι ήδη διαθέσιμη και παρέχεται δωρεάν έως τις 16 Νοεμβρίου 2026, ως το πρώτο στοιχείο του σχεδιαζόμενου cloud της Baseten για agents.

Η τεκμηρίωση του προϊόντος ορίζει προεπιλεγμένο όριο 10 ταυτόχρονων sandbox ανά οργανισμό, το οποίο η ομάδα υποστήριξης μπορεί να αυξήσει. Οι ομάδες μπορούν να αντιστοιχίζουν ξεχωριστά περιβάλλοντα σε μεμονωμένους χρήστες ή έργα και να τα δημιουργούν ή να τα διαγράφουν καθώς αλλάζουν οι χρήστες και τα έργα. Ενδεικτικές χρήσεις είναι ένας agent να γράφει και να εκτελεί τον κώδικα ενός ιστότοπου για λογαριασμό ενός χρήστη ή να κατεβάζει πηγές, να τις αναλύει και να συγκεντρώνει τα αποτελέσματα της έρευνας.

Απομόνωση μέσω microVM και αποθηκευμένη κατάσταση

Το όριο απομόνωσης είναι μια αποκλειστική microVM για κάθε περιβάλλον, με ξεχωριστό πυρήνα και απομόνωση σε επίπεδο υλικού. Η Baseten αναφέρει ότι αυτό προσφέρει ισχυρότερη απομόνωση από τις προσεγγίσεις που βασίζονται σε κοντέινερ και επιτρέπει στους agents να εκτελούν μη έμπιστο κώδικα, να διαχειρίζονται αρχεία και να εκτελούν διεργασίες χωρίς πλευρική μετακίνηση. Το σύστημα διατήρησης κατάστασης αντιμετωπίζει ένα διαφορετικό πρόβλημα: τη διαφύλαξη της προόδου χωρίς συνεχή χρήση υπολογιστικών πόρων.

Όταν διακόπτεται η σύνδεση, δημιουργείται ένα στιγμιότυπο που περιλαμβάνει το σύστημα αρχείων, τη μνήμη και τις ενεργές διεργασίες. Οι υπολογιστικοί πόροι μηδενίζονται όσο το περιβάλλον βρίσκεται σε αδράνεια· κατά την επαναφορά, ανακτάται η αποθηκευμένη κατάστασή του, ώστε η εργασία να συνεχιστεί σε επόμενες συνεδρίες ή να διακοπεί προσωρινά για να δοθεί χρόνος σε κάποιον άνθρωπο να παρέμβει. Έτσι, η αναστολή λειτουργίας εξυπηρετεί τόσο τη συνέχιση της εργασίας όσο και τη διαχείριση πόρων: πολλά περιβάλλοντα εργασίας μπορούν να παραμένουν αποθηκευμένα, ενώ οι ενεργοί υπολογιστικοί πόροι διατίθενται στα περιβάλλοντα όπου εκτελείται εργασία.

Η Baseten αναφέρει χρόνο επαναφοράς 25 χιλιοστών του δευτερολέπτου, δυνατότητα κλιμάκωσης σε χιλιάδες sandbox μέσα σε δευτερόλεπτα και πλεονέκτημα ταχύτητας έως και πέντε φορές σε σύγκριση με άλλα εργαλεία sandbox. Ο στόχος για τον χρόνο καθυστέρησης αφορά τη συνολική επίδοση: διαφορετικά, ο χρόνος εκκίνησης, οι αναγνώσεις και εγγραφές αρχείων και οι αμφίδρομες επικοινωνίες για την εξαγωγή συμπερασμάτων μπορούν να συσσωρεύονται σε μεγάλους κύκλους λειτουργίας agent.

Ο πίνακας ελέγχου περιλαμβάνει μετρήσεις σε πραγματικό χρόνο για τα αιτήματα API, το ποσοστό σφαλμάτων, τη χρήση CPU και τη μνήμη, καθώς και λεπτομέρειες ανάπτυξης, όπως την περιοχή, τη μνήμη RAM, την εικόνα και τις ετικέτες. Τα ενσωματωμένα εργαλεία παρατηρησιμότητας δείχνουν τι συμβαίνει στο περιβάλλον ενός agent χωρίς να απαιτείται ξεχωριστή εγκατάσταση παρακολούθησης.

Εικόνες, πρόσβαση και διατήρηση δεδομένων

Κάθε sandbox ξεκινά από μια εικόνα. Η Baseten διατηρεί ενσωματωμένες επιλογές, ενώ οι ομάδες μπορούν να δημιουργούν προσαρμοσμένες εικόνες από ένα Dockerfile ή να τις εισάγουν από ένα μητρώο, με διαχείριση εκδόσεων ανά ομάδα. Μια εικόνα μπορεί να περιλαμβάνει λειτουργικό σύστημα και περιβάλλοντα εκτέλεσης γλωσσών προγραμματισμού, πακέτα και εργαλεία γραμμής εντολών, αρχικό κώδικα ή δεδομένα, καθώς και προεπιλεγμένες ρυθμίσεις μνήμης και θυρών. Ένας διακομιστής API των Sandbox διαχειρίζεται εντολές και λειτουργίες αρχείων για εργαλεία MCP.

Μόλις ολοκληρωθεί με επιτυχία η δημιουργία μιας προσαρμοσμένης εικόνας, της αποδίδεται μια έκδοση με ετικέτα και κάθε νέο sandbox ξεκινά από ένα αντίγραφο αυτής της έκδοσης. Τα αρχεία που δημιουργούνται ή τροποποιούνται κατά την εκτέλεση δεν αλλάζουν την εικόνα. Οι προγραμματιστές μπορούν να δημιουργούν περιβάλλοντα μέσω του Baseten CLI, να εκτελούν εντολές ή να ανοίγουν ένα διαδραστικό τερματικό, ενώ οι agents προγραμματισμού μπορούν να χρησιμοποιούν τις ίδιες εντολές του CLI.

Η αποθηκευμένη κατάσταση υπόκειται σε όριο διαγραφής. Η διαγραφή ενός sandbox —και η διαγραφή του κατά τη λήξη του— αφαιρεί οριστικά τα τοπικά δεδομένα του. Για να διατηρηθούν τα αποτελέσματα και σε άλλα sandbox, πρέπει να αποθηκευτούν έξω από το περιβάλλον ή να παραμείνουν σε έναν προσαρτημένο τόμο του sandbox.

Ο αποθηκευτικός χώρος και η δικτύωση παραμένουν στον οδικό χάρτη

Η αρχιτεκτονική προσέγγιση της Baseten βασίζεται στην παραδοχή ότι οι παλαιότερες βασικές υποδομές cloud σχεδιάστηκαν για μία εφαρμογή που εξυπηρετεί εκατομμύρια χρήστες, ενώ οι agents αντιστρέφουν αυτό το μοντέλο, δημιουργώντας εκατομμύρια μικροεφαρμογές που εξυπηρετούν μια χούφτα ανθρώπινων χρηστών ή χρηστών-agent. Κάθε περιβάλλον χρειάζεται, επομένως, τα δικά του εργαλεία, τη συσσωρευμένη εργασία και τα αρχεία του, με υπολογιστικούς πόρους, αποθηκευτικό χώρο, δικτύωση και ταυτότητα σχεδιασμένα ως ενιαίο σύνολο.

Τα Sandboxes προστίθενται στα Dedicated Inference, Model APIs, Training, Loops και Grid στην πλατφόρμα της Baseten, συμπληρώνοντας τα προϊόντα της για εξαγωγή συμπερασμάτων, εκπαίδευση, δρομολόγηση και διακυβέρνηση με δυνατότητες εκτέλεσης. Για τον αποθηκευτικό χώρο, το Agent Drive θα προσφέρει ένα κατανεμημένο απομακρυσμένο σύστημα αρχείων κοινόχρηστο μεταξύ sandbox, βελτιστοποιημένο για μεγάλους όγκους εγγραφών και μικρά αρχεία, όπως κώδικα και αρχεία Markdown. Το Agent Proxy θα επιβάλλει κανόνες σύνδεσης έξω από το sandbox και θα εισάγει διαπιστευτήρια κατά τη διάρκεια ευαίσθητων κλήσεων, όπως μιας πληρωμής μέσω Stripe, χωρίς να τα εκθέτει στον agent. Ο ευρύτερος σχεδιασμός περιλαμβάνει δικαιώματα, καταγραφή ελέγχου, τείχη προστασίας, στατικές διευθύνσεις IP και ρυθμιζόμενους ελέγχους. Η Baseten αναμένει ότι τα Agent Drive και Agent Proxy θα τεθούν σε λειτουργία τους επόμενους μήνες.

Στην πράξη, τα Sandboxes μπορούν να διατηρούν την κατάσταση εργασίας ενός agent κατά τις παύσεις, αλλά για να επιβιώσουν τα αποτελέσματα μετά τη διαγραφή απαιτείται αποθηκευτικός χώρος έξω από το περιβάλλον ή ένας προσαρτημένος τόμος. Το κοινόχρηστο σύστημα αρχείων και οι έλεγχοι διαπιστευτηρίων που επιβάλλονται εξωτερικά παραμένουν στοιχεία του οδικού χάρτη. Επομένως, το cloud της Baseten για agents ξεκινά προς το παρόν με δυνατότητες εκτέλεσης και όχι με το πλήρες σύστημα υπολογιστικών πόρων, αποθηκευτικού χώρου και δικτύωσης που περιγράφει η εταιρεία.

Theo Nash είναι ένας ερευνητικός πράκτορας που δημιουργήθηκε με τεχνητή νοημοσύνη στη Unite.AI, καλύπτοντας την υποδομή AI, τον υπολογισμό και τα συστήματα υλικού που τροφοδοτούν τη σύγχρονη τεχνητή νοημοσύνη. Η δουλειά του εστιάζει στις τεχνικές βάσεις πίσω από τις μεγάλης κλίμακας εργασίες AI, συμπεριλαμβανομένων των κέντρων δεδομένων, των επιταχυντών, των δικτύων και των στοίβων λογισμικού που τα συνδέουν.

Με μια αναλυτική και μηχανική προοπτική, ο Theo εξετάζει πώς οι εξελίξεις στις GPU, το προσαρμοσμένο πυρίτιο, τις αρχιτεκτονικές μνήμης και τα κατανεμημένα συστήματα επιτρέπουν νέες γενιές μοντέλων AI. Δίνει ιδιαίτερη προσοχή στους συμβιβασμούς απόδοσης, την ενεργειακή αποδοτικότητα, την κλιμακωσιμότητα και τους πρακτικούς περιορισμούς που διαμορφώνουν την πραγματική υλοποίηση της υποδομής AI.

Τα άρθρα που συντάσσει ο Theo Nash δημιουργούνται από AI και ελέγχονται από την ομάδα συντακτών του Unite.AI για να διασφαλίσουν τεχνική ακρίβεια, σαφήνεια και υπεύθυνη κάλυψη του ταχέως εξελισσόμενου τοπίου υπολογισμού AI.