AWS επανασχεδιάζει το Runtime του Bedrock AgentCore για ελαστική μνήμη, γρήγορες εκκινήσεις από κρύο

Amazon Web Services ανακοίνωσε το νέο runtime AgentCore στις 18 Σεπτεμβρίου 2026, μια επανασχεδιασμένη έκδοση του διαχειριζόμενου επιπέδου υπολογισμού στο Amazon Bedrock AgentCore που, σύμφωνα με την εταιρεία, επαναφέρει τη μνήμη καθώς οι συνεδρίες των πρακτόρων την απελευθερώνουν και παρέχει σταθερούς χρόνους εκκίνησης από κρύο ανεξαρτήτως μεγέθους εικόνας του container ή ταυτόχρονης χρήσης.

Το runtime AgentCore είναι το διαχειριζόμενο επίπεδο υπολογισμού που παρέχει στους προγραμματιστές ένα πλήρως διαχειριζόμενο περιβάλλον για την ανάπτυξη και εκτέλεση πρακτόρων χωρίς την ανάγκη δημιουργίας ή συντήρησης υποδομής. Η AWS δήλωσε ότι χιλιάδες ομάδες το έχουν χρησιμοποιήσει για την εκτέλεση παραγωγικών πρακτόρων από την κυκλοφορία, και ότι η πρώτη έκδοση έθεσε ένα serverless θεμέλιο με απομόνωση συνεδριών, συμπεριφορά κλιμάκωσης στο μηδέν και τιμολόγηση ανά χρήση. Αυτό το μοντέλο κατανάλωσης παραμένει: η χρέωση ακολουθεί τη χρήση πόρων χωρίς χρέωση για αδρανές CPU που περιμένει I/O, και η πλατφόρμα κλιμακώνεται πλήρως στο μηδέν όταν ένας πράκτορας δεν έχει εργασία.

Τα προβλήματα που αντιμετωπίζει η κυκλοφορία

Στο αρχικό runtime, μια συνεδρία κράτησε τη δεσμευμένη μνήμη από τη στιγμή της κατανομής μέχρι το τέλος της συνεδρίας, επειδή τίποτα δεν την επανέκτησε ενδιάμεσα. Η AWS δήλωσε ότι αυτό άφηνε τους μακροχρόνιους ή αιχμηρούς πράκτορες να πληρώνουν για το υψηλότερο επίπεδο μνήμης όλο το εικοσιτετράωρο, πολύ μετά το πέρας της χρήσης της μνήμης, ένα ιδιαίτερο κενό για πράκτορες που παρουσιάζουν στιγμιαίες κορυφές αλλά παραμένουν αδρανείς για το μεγαλύτερο μέρος της ημέρας.

Η συμπεριφορά εκκίνησης ήταν η δεύτερη πρόκληση. Η AWS ανέφερε ότι μια συνεδρία που εκκινείται σε ήδη αρχικοποιημένο περιβάλλον ξεκινά σε λιγότερο από 100 χιλιοστά του δευτερολέπτου, αλλά η διατήρηση των περιβαλλόντων ζεστών ώστε να εγγυηθεί αυτό σημαίνει κράτηση υπολογιστικής ισχύος, έτσι οι περισσότερες συνεδρίες ξεκινούν με κρύα εκκίνηση που φορτώνει ένα νέο περιβάλλον, κατεβάζει την εικόνα και αρχικοποιεί τον πράκτορα πριν εκτελεστεί το πρώτο αίτημα. Η καθυστέρηση αυτή αυξάνεται με το μέγεθος της εικόνας και την ταυτόχρονη χρήση και είναι πιο έντονη υπό αιχμηρή κίνηση, όταν φθάνουν οι περισσότερες συνεδρίες και απομένουν τα ελάχιστα έτοιμα περιβάλλοντα. Σύμφωνα με την AWS, οι πελάτες αντιμετώπισαν και τα δύο ζητήματα διατηρώντας εφεδρικά περιβάλλοντα έτοιμα, βελτιστοποιώντας την κατανομή μνήμης και μειώνοντας την χωρητικότητα για να ελέγξουν το κόστος.

Τι μέτρησε η AWS

Για να απομονώσουν τι προσθέτει η ίδια η πλατφόρμα σε μια κρύα εκκίνηση, η AWS έστειλε σε δοκιμή έναν κενό πράκτορα echo που επιστρέφει την είσοδό του και δεν καλεί κανένα μοντέλο ή εργαλεία. Ένας πελάτης Python σε μια παρουσία Amazon EC2 στην περιοχή us‑west‑2 κάλεσε πράκτορες στην us‑east‑1 μέσω του δημόσιου διαδικτύου χωρίς VPC peering, χρησιμοποιώντας το SDK boto3, έτσι κάθε μέτρηση από την πλευρά του πελάτη περιλαμβάνει το γύρο μεταξύ των δύο περιοχών AWS επιπλέον του χρόνου εκκίνησης της πλατφόρμας. Η εταιρεία έστειλε 5.000 κρύες κλήσεις ανά πράκτορα σε και των δύο εκδόσεων του runtime και πέντε μεγέθη εικόνας, εντός των προεπιλεγμένων ορίων λογαριασμού.

Με αυτόν τον τρόπο, η AWS ανέφερε ότι το νέο runtime παρείχε καθυστέρηση κρύας εκκίνησης P75 περίπου 2 δευτερολέπτων από εικόνα 200 MB έως 2 GB, επειδή το μέγεθος της εικόνας δεν επηρεάζει την καθυστέρηση, ενώ η καθυστέρηση του αρχικού runtime αυξήθηκε με το μέγεθος της εικόνας από περίπου 5,4 δευτερόλεπτα έως σχεδόν 30 δευτερόλεπτα. Στη δοκιμή echo, ο κώδικας του πράκτορα εκτελέστηκε σε περίπου 34 χιλιοστά του δευτερολέπτου στο P75, έτσι σχεδόν όλος ο μετρημένος χρόνος ήταν ο χρόνος εκκίνησης της πλατφόρμας. Η AWS προτείνει να κρύβεται ο χρόνος εκκίνησης για διαδραστικούς πράκτορες ξεκινώντας τη συνεδρία αμέσως μόλις ο χρήστης αλληλεπιδρά, όπως όταν ανοίγει μια συνομιλία, ώστε το περιβάλλον να ζεσταθεί ενώ πληκτρολογεί το πρώτο αίτημα.

Πώς λειτουργεί το νέο Runtime

Το νέο runtime ξεκινά κάθε συνεδρία από ένα μικρό προφίλ μνήμης αντί για πλήρως προετοιμασμένο αποτύπωμα, και στη συνέχεια εκχωρεί και φορτώνει επιπλέον μνήμη κατ’ ανάγκη καθώς το φορτίο εργασίας την απαιτεί. Όταν ένας πράκτορας απελευθερώνει buffers ανά αίτημα ή αφήνει τα cached δεδομένα να λήξουν μεταξύ των αιτημάτων, η πλατφόρμα ανακτά τη μνήμη αντί να την κρατάει δεσμευμένη μέχρι το τέλος της συνεδρίας. Η AWS δήλωσε ότι βελτιώσε τη συμπεριφορά ανάκτησης βάσει ανάλυσης των προτύπων κατανομής σε δισεκατομμύρια συνεδρίες.

Οι κρύες εκκινήσεις αλλάζουν επειδή κάθε πράκτορας φορτώνεται μία φορά και στη συνέχεια εκτελείται από ένα snapshot. Όταν δημιουργείται ή ενημερώνεται ένα runtime, το AgentCore εκκινεί το container, περιμένει να αναφέρει υγεία και καταγράφει ένα snapshot του τρέχοντος περιβάλλοντος, ώστε η αρχική αρχικοποίηση όπως η φόρτωση των artefacts του μοντέλου και η λήψη στατικής διαμόρφωσης να έχει ήδη ολοκληρωθεί. Κάθε νέα παρουσία επαναφέρει αυτό το snapshot αντί για αρχική εκκίνηση. Η AWS δήλωσε ότι το runtime αφαιρεί τις caches και τη μεταβατική μνήμη από το snapshot ώστε το μέγεθός του παραμένει περίπου σταθερό καθώς η εικόνα του container μεγαλώνει, κάτι που διατηρεί τη καθυστέρηση επαναφοράς σταθερή σε ένα ευρύ φάσμα μεγεθών εικόνας.

Η χρέωση μεταβάλλεται με το μοντέλο μνήμης. Το νέο runtime χρεώνει για τη μνήμη που ένας πράκτορας χρησιμοποιεί ενεργά, φορτωμένη κατ’ ανάγκη και επανακτημένη όταν είναι αδρανής, αντί για τη διατήρηση ολόκληρης της εικόνας του container στη μνήμη καθ’ όλη τη διάρκεια της συνεδρίας. Η AWS χαρακτήρισε την αλλαγή ως υψηλότερο ρυθμό που εφαρμόζεται σε πολύ λιγότερες GB‑ώρες, και δήλωσε ότι για τους περισσότερους πράκτορες το αποτύπωμα μειώνεται περισσότερο από ό,τι αυξάνεται ο ρυθμός, έτσι το τιμολόγιο μειώνεται.

Εκδόσεις Πλατφόρμας, Περιφέρειες και Όρια

Οι προγραμματιστές ενεργοποιούν το νέο runtime ορίζοντας το πεδίο platformVersion σε V2 κατά τη δημιουργία ή ενημέρωση ενός runtime, σύμφωνα με το Οδηγός Προγραμματιστών AgentCore. Η V1 είναι η προεπιλογή: η παράλειψη του πεδίου κατά τη δημιουργία παράγει ένα runtime V1, και η παράλειψή του σε ενημέρωση διατηρεί την τρέχουσα έκδοση πλατφόρμας του runtime. Η V2 είναι διαθέσιμη στις περιοχές us-east-1, us-east-2, us-west-2, eu-west-1 και ap-northeast-1.

Επειδή μια δημιουργία ή ενημέρωση V2 προετοιμάζει και δημιουργεί στιγμιότυπα του περιβάλλοντος, αυτές οι λειτουργίες διαρκούν αρκετά λεπτά πριν το runtime φτάσει στην κατάσταση READY, ενώ ένα runtime V1 γίνεται έτοιμο σε δευτερόλεπτα. Το AgentCore λαμβάνει το στιγμιότυπο στην πρώτη υγιή απόκριση από το endpoint /ping του container, και εάν το container δεν αναφέρει υγεία εντός 120 δευτερολέπτων από την εκκίνηση, η δημιουργία αποτυγχάνει με σφάλμα ελέγχου υγείας. Ο οδηγός επίσης αναφέρει ότι το V2 περιορίζει επί του παρόντος το συνολικό μέγεθος μεταβλητών περιβάλλοντος στα 1,5 KB για άμεσες αναπτύξεις κώδικα και στα 2,5 KB για agents container, σε σύγκριση με 4 KB στο V1, και ότι το AWS CloudFormation και το AWS CDK δεν υποστηρίζουν ακόμη τη ρύθμιση του platformVersion.

Τα στιγμιότυπα ακολουθούν τις εκδόσεις και τα endpoints του runtime αντί να διαχειρίζονται άμεσα. Το AgentCore δημιουργεί ένα στιγμιότυπο όταν ένα endpoint δείχνει σε μια έκδοση και διαγράφει ένα όταν κανένα endpoint δεν δείχνει σε αυτήν, και η διαγραφή μπορεί να διαρκέσει έως 8 ώρες, το μέγιστο χρόνο ζωής της συνεδρίας, επειδή οι συνεδρίες που ήδη τρέχουν στο στιγμιότυπο συνεχίζουν μέχρι να ολοκληρωθούν. Οι συνεδρίες εκτελούνται σε αφιερωμένα microVM με απομονωμένους πόρους CPU, μνήμης και συστήματος αρχείων, διαρκούν έως 8 ώρες και τερματίζονται μετά από 15 λεπτά αδράνειας, μετά από τα οποία το microVM τερματίζεται και η μνήμη καθαρίζεται.

Οδικός Χάρτης και Έναρξη

Πέρα από την κυκλοφορία, η AWS ανακοίνωσε αρκετές δυνατότητες που βρίσκονται σε εξέλιξη: δεσμευμένες εκπτώσεις βάσης που κρατούν ένα ελάχιστο όριο μνήμης ανά συνεδρία με δυνατότητα εκρήγνυσης κατά απαίτηση πάνω από αυτό, προσανατολισμένες σε συνεχείς πάντα ενεργές συνεδρίες· μεγαλύτερη RAM, vCPU και αποθήκευση συνεδρίας· υποστήριξη microVM x86· αναστολή‑και‑επανεκκίνηση με δημιουργία στιγμιότυπου μνήμης συν άγκυρες runtime για σειριοποίηση της κατάστασης πριν τερματιστεί μια ενεργή συνεδρία· και κλειδιά περιεχομένου συνεδρίας που παρέχουν σε κάθε συνεδρία μια περιορισμένη ταυτότητα για αυτόνομους πράκτορες.

Η AWS υπέδειξε στους προγραμματιστές τον AgentCore Developer Guide, το αποθετήριο δειγμάτων AgentCore στο GitHub και ένα συνοδευτικό παράδειγμα δοκιμής φορτίου που επιδεικνύει τη καθυστέρηση εκκίνησης σε κρύο του νέου runtime μέσα στον λογαριασμό AWS του χρήστη.