AIOS: Λειτουργικό Σύστημα για LLM Agents

Τις τελευταίες έξι δεκαετίες, τα λειτουργικά συστήματα έχουν εξελιχθεί προοδευτικά, προχωρώντας από τα βασικά συστήματα στα πολύπλοκα και διαδραστικά λειτουργικά συστήματα που τροφοδοτούν τις σημερινές συσκευές. Αρχικά, τα λειτουργικά συστήματα χρησίμευαν ως γέφυρα μεταξύ της δυαδικής λειτουργικότητας του υλικού του υπολογιστή, όπως ο χειρισμός πύλης, και των εργασιών σε επίπεδο χρήστη. Με τα χρόνια, ωστόσο, έχουν αναπτύξει από απλά συστήματα επεξεργασίας εργασιών παρτίδας σε πιο εξελιγμένες τεχνικές διαχείρισης διεργασιών, συμπεριλαμβανομένης της πολλαπλής εργασίας και της κοινής χρήσης χρόνου. Αυτές οι εξελίξεις επέτρεψαν στα σύγχρονα λειτουργικά συστήματα να διαχειρίζονται ένα ευρύ φάσμα πολύπλοκων εργασιών. Η εισαγωγή γραφικών διεπαφών χρήστη (GUI) όπως τα Windows και το MacOS έχει κάνει τα σύγχρονα λειτουργικά συστήματα πιο φιλικά και διαδραστικά, ενώ επεκτείνοντας επίσης το οικοσύστημα του λειτουργικού συστήματος με βιβλιοθήκες χρόνου εκτέλεσης και μια ολοκληρωμένη σουίτα εργαλείων προγραμματιστή.

Οι πρόσφατες καινοτομίες περιλαμβάνουν την ενσωμάτωση και την ανάπτυξη Μεγάλα γλωσσικά μοντέλα (LLMs), που έχουν φέρει επανάσταση σε διάφορους κλάδους ξεκλειδώνοντας νέες δυνατότητες. Πιο πρόσφατα, οι ευφυείς πράκτορες που βασίζονται στο LLM έχουν δείξει αξιοσημείωτες ικανότητες, επιτυγχάνοντας ανθρώπινη απόδοση σε ένα ευρύ φάσμα εργασιών. Ωστόσο, αυτοί οι παράγοντες βρίσκονται ακόμη στα αρχικά στάδια ανάπτυξης και οι τρέχουσες τεχνικές αντιμετωπίζουν αρκετές προκλήσεις που επηρεάζουν την αποτελεσματικότητα και την αποτελεσματικότητά τους. Κοινά ζητήματα περιλαμβάνουν τον μη βέλτιστο προγραμματισμό των αιτημάτων πρακτόρων για το μοντέλο της μεγάλης γλώσσας, την πολυπλοκότητα στην ενσωμάτωση πρακτόρων με διαφορετικές εξειδικεύσεις και τη διατήρηση του πλαισίου κατά τις αλληλεπιδράσεις μεταξύ του LLM και του πράκτορα. Η ταχεία ανάπτυξη και η αυξανόμενη πολυπλοκότητα των πρακτόρων που βασίζονται σε LLM συχνά οδηγούν σε σημεία συμφόρησης και μη βέλτιστη χρήση πόρων.

Για την αντιμετώπιση αυτών των προκλήσεων, αυτό το άρθρο θα συζητήσει το AIOS, ένα λειτουργικό σύστημα πράκτορα LLM που έχει σχεδιαστεί για να ενσωματώνει μεγάλα γλωσσικά μοντέλα ως τον «εγκέφαλο» του λειτουργικού συστήματος, δίνοντάς του ουσιαστικά «ψυχή». Συγκεκριμένα, το πλαίσιο AIOS στοχεύει στη διευκόλυνση της εναλλαγής περιβάλλοντος μεταξύ των πρακτόρων, στη βελτιστοποίηση της κατανομής πόρων, στην παροχή υπηρεσιών εργαλείων για πράκτορες, στη διατήρηση του ελέγχου πρόσβασης και στην ενεργοποίηση της ταυτόχρονης εκτέλεσης πρακτόρων. Θα εμβαθύνουμε στο πλαίσιο του AIOS, διερευνώντας τους μηχανισμούς, τη μεθοδολογία και την αρχιτεκτονική του και θα το συγκρίνουμε με πλαίσια τελευταίας τεχνολογίας. Ας βουτήξουμε.

Μετά την επίτευξη αξιοσημείωτης επιτυχίας σε μεγάλα γλωσσικά μοντέλα, η επόμενη εστίαση της βιομηχανίας AI και ML είναι η ανάπτυξη αυτόνομων πρακτόρων AI που μπορούν να λειτουργούν ανεξάρτητα, να λαμβάνουν αποφάσεις μόνοι τους και να εκτελούν εργασίες με ελάχιστες ή καθόλου ανθρώπινες παρεμβάσεις. Αυτοί οι ευφυείς πράκτορες που βασίζονται στο AI έχουν σχεδιαστεί για να κατανοούν ανθρώπινες οδηγίες, να επεξεργάζονται πληροφορίες, να λαμβάνουν αποφάσεις και να λαμβάνουν κατάλληλες ενέργειες για την επίτευξη μιας αυτόνομης κατάστασης, με την εμφάνιση και ανάπτυξη μεγάλων γλωσσικών μοντέλων που φέρνουν νέες δυνατότητες στην ανάπτυξη αυτών των αυτόνομων πρακτόρων. Τα τρέχοντα πλαίσια LLM, συμπεριλαμβανομένων των DALL-E, GPT και άλλων, έχουν δείξει αξιοσημείωτες ικανότητες κατανόησης ανθρώπινων οδηγιών, συλλογιστικής και ικανότητας επίλυσης προβλημάτων και αλληλεπίδρασης με ανθρώπους χρήστες μαζί με εξωτερικά περιβάλλοντα. Χτισμένοι πάνω σε αυτά τα ισχυρά και ικανά μεγάλα γλωσσικά μοντέλα, οι πράκτορες που βασίζονται στο LLM έχουν ισχυρές ικανότητες εκπλήρωσης εργασιών σε διάφορα περιβάλλοντα που κυμαίνονται από εικονικούς βοηθούς έως πιο περίπλοκα και εξελιγμένα συστήματα που περιλαμβάνουν τη δημιουργία επίλυσης προβλημάτων, συλλογισμού, προγραμματισμού και εκτέλεσης. 

Το παραπάνω σχήμα δίνει ένα συναρπαστικό παράδειγμα του πώς ένας αυτόνομος πράκτορας που βασίζεται στο LLM μπορεί να λύσει εργασίες πραγματικού κόσμου. Ο χρήστης ζητά από το σύστημα πληροφορίες ταξιδιού, μετά τις οποίες ο ταξιδιωτικός πράκτορας αναλύει την εργασία σε εκτελέσιμα βήματα. Στη συνέχεια, ο πράκτορας εκτελεί τα βήματα διαδοχικά, κάνει κράτηση πτήσεων, κράτηση ξενοδοχείων, διεκπεραίωση πληρωμών και πολλά άλλα. Κατά την εκτέλεση των βημάτων, αυτό που ξεχωρίζει αυτούς τους πράκτορες από τις παραδοσιακές εφαρμογές λογισμικού είναι η ικανότητα των πρακτόρων να δείχνουν ικανότητες λήψης αποφάσεων και να ενσωματώνουν συλλογισμό στην εκτέλεση των βημάτων. Μαζί με μια εκθετική αύξηση της ποιότητας αυτών αυτόνομους πράκτορες, η πίεση στις λειτουργικότητες των μεγάλων γλωσσικών μοντέλων και των λειτουργικών συστημάτων έχει αυξηθεί, και ένα παράδειγμα της ίδιας είναι ότι η ιεράρχηση και ο προγραμματισμός αιτημάτων πρακτόρων σε περιορισμένα μοντέλα μεγάλων γλωσσών αποτελεί σημαντική πρόκληση. Επιπλέον, δεδομένου ότι η διαδικασία δημιουργίας μεγάλων γλωσσικών μοντέλων γίνεται μια χρονοβόρα εργασία όταν ασχολείται με μακρά περιβάλλοντα, είναι δυνατό για τον χρονοπρογραμματιστή να αναστείλει την προκύπτουσα γενιά, δημιουργώντας ένα πρόβλημα επινόησης ενός μηχανισμού για τη λήψη στιγμιότυπου του αποτελέσματος της τρέχουσας γενιάς του γλωσσικού μοντέλου . Ως αποτέλεσμα αυτού, η συμπεριφορά παύσης/συνέχισης ενεργοποιείται όταν το μοντέλο μεγάλης γλώσσας δεν έχει οριστικοποιήσει τη δημιουργία απόκρισης για το τρέχον αίτημα. 

Για την αντιμετώπιση των προκλήσεων που αναφέρθηκαν παραπάνω, το AIOS, ένα λειτουργικό σύστημα μεγάλου γλωσσικού μοντέλου παρέχει συναθροίσεις και απομόνωση λειτουργιών LLM και λειτουργικών λειτουργιών. Το πλαίσιο AIOS προτείνει έναν σχεδιασμό πυρήνα ειδικά για LLM σε μια προσπάθεια να αποφευχθούν πιθανές συγκρούσεις μεταξύ εργασιών που σχετίζονται και δεν σχετίζονται με το μοντέλο της μεγάλης γλώσσας. Ο προτεινόμενος πυρήνας διαχωρίζει τα καθήκοντα του λειτουργικού συστήματος, ειδικά αυτά που επιβλέπουν τους πράκτορες LLM, τα κιτ εργαλείων ανάπτυξης και τους αντίστοιχους πόρους τους. Ως αποτέλεσμα αυτού του διαχωρισμού, ο πυρήνας LLM προσπαθεί να ενισχύσει τον συντονισμό και τη διαχείριση των δραστηριοτήτων που σχετίζονται με τα LLM. 

AIOS : Μεθοδολογία και Αρχιτεκτονική

Όπως μπορείτε να παρατηρήσετε, υπάρχουν έξι κύριοι μηχανισμοί που εμπλέκονται στη λειτουργία του πλαισίου AIOS. 

• Προγραμματιστής πράκτορα: Η εργασία που έχει ανατεθεί στον προγραμματιστή πράκτορα είναι ο προγραμματισμός και η ιεράρχηση των αιτημάτων πρακτόρων σε μια προσπάθεια βελτιστοποίησης της χρήσης του μοντέλου μεγάλης γλώσσας. 

• Διαχείριση περιβάλλοντος: Η εργασία που έχει ανατεθεί στη διαχείριση περιβάλλοντος είναι να υποστηρίζει στιγμιότυπα μαζί με την επαναφορά της κατάστασης ενδιάμεσης δημιουργίας στο μοντέλο μεγάλης γλώσσας και τη διαχείριση του παραθύρου περιβάλλοντος του μοντέλου μεγάλης γλώσσας. 

• Διαχείριση μνήμης: Η κύρια ευθύνη του διαχειριστή μνήμης είναι να παρέχει βραχυπρόθεσμη μνήμη για το αρχείο καταγραφής αλληλεπίδρασης για κάθε πράκτορα. 

• Διαχείριση χώρου αποθήκευσης: Ο διαχειριστής αποθήκευσης είναι υπεύθυνος να διατηρεί τα αρχεία καταγραφής αλληλεπίδρασης των πρακτόρων σε μακροπρόθεσμη αποθήκευση για μελλοντική ανάκτηση. 

• Διαχειριστής εργαλείων: Ο μηχανισμός διαχείρισης εργαλείων διαχειρίζεται την κλήση των πρακτόρων σε εξωτερικά εργαλεία API. 

• Διαχείριση πρόσβασης: Ο διαχειριστής πρόσβασης επιβάλλει πολιτικές απορρήτου και ελέγχου πρόσβασης μεταξύ των πρακτόρων. 

Εκτός από τους προαναφερθέντες μηχανισμούς, το πλαίσιο AIOS διαθέτει αρχιτεκτονική πολυεπίπεδη και χωρίζεται σε τρία διαφορετικά επίπεδα: το επίπεδο εφαρμογής, το στρώμα πυρήνα και το στρώμα υλικού. Η πολυεπίπεδη αρχιτεκτονική που υλοποιείται από το πλαίσιο AIOS διασφαλίζει ότι οι ευθύνες κατανέμονται ομοιόμορφα σε όλο το σύστημα και τα υψηλότερα επίπεδα αφαιρούν την πολυπλοκότητα των στρωμάτων κάτω από αυτά, επιτρέποντας αλληλεπιδράσεις χρησιμοποιώντας συγκεκριμένες μονάδες ή διεπαφές, βελτιώνοντας την αρθρωτή και απλοποιώντας τις αλληλεπιδράσεις του συστήματος μεταξύ των στρώματα. 

Ξεκινώντας με το επίπεδο εφαρμογής, αυτό το επίπεδο χρησιμοποιείται για την ανάπτυξη και την ανάπτυξη πρακτόρων εφαρμογών όπως μαθηματικά ή ταξιδιωτικοί πράκτορες. Στο επίπεδο εφαρμογής, το πλαίσιο AIOS παρέχει στο κιτ ανάπτυξης λογισμικού AIOS (AIOS SDK) μια υψηλότερη αφαίρεση κλήσεων συστήματος που απλοποιεί τη διαδικασία ανάπτυξης για τους προγραμματιστές πρακτόρων. Το κιτ ανάπτυξης λογισμικού που προσφέρεται από το AIOS προσφέρει μια πλούσια εργαλειοθήκη για τη διευκόλυνση της ανάπτυξης εφαρμογών πρακτόρων αφαιρώντας την πολυπλοκότητα των λειτουργιών του συστήματος χαμηλότερου επιπέδου, επιτρέποντας στους προγραμματιστές να επικεντρωθούν στις λειτουργίες και τη βασική λογική των πρακτόρων τους, με αποτέλεσμα μια πιο αποτελεσματική ανάπτυξη επεξεργάζομαι, διαδικασία. 

Προχωρώντας, το επίπεδο του πυρήνα χωρίζεται περαιτέρω σε δύο συστατικά: τον πυρήνα LLM και τον πυρήνα του λειτουργικού συστήματος. Τόσο ο πυρήνας του λειτουργικού συστήματος όσο και ο πυρήνας LLM εξυπηρετούν τις μοναδικές απαιτήσεις των λειτουργιών LLM ειδικά και μη, με τη διάκριση που επιτρέπει στον πυρήνα LLM να επικεντρώνεται σε εργασίες ειδικές για μεγάλα γλωσσικά μοντέλα, συμπεριλαμβανομένου του προγραμματισμού πρακτόρων και της διαχείρισης περιβάλλοντος, δραστηριότητες που είναι απαραίτητες για τον χειρισμό δραστηριοτήτων που σχετίζονται με μεγάλα γλωσσικά μοντέλα. Το πλαίσιο AIOS επικεντρώνεται κυρίως στη βελτίωση του πυρήνα του μεγάλου γλωσσικού μοντέλου χωρίς να εναλλάσσει σημαντικά τη δομή του υπάρχοντος πυρήνα του λειτουργικού συστήματος. Ο πυρήνας LLM είναι εξοπλισμένος με πολλές βασικές μονάδες, όπως ο προγραμματιστής πράκτορα, ο διαχειριστής μνήμης, ο διαχειριστής περιβάλλοντος, ο διαχειριστής αποθήκευσης, ο διαχειριστής πρόσβασης, ο διαχειριστής εργαλείων και η διεπαφή κλήσεων συστήματος LLM. Τα στοιχεία μέσα στο επίπεδο του πυρήνα έχουν σχεδιαστεί σε μια προσπάθεια να ανταποκριθούν στις διαφορετικές ανάγκες εκτέλεσης εφαρμογών agent, διασφαλίζοντας αποτελεσματική εκτέλεση και διαχείριση εντός του πλαισίου AIOS. 

Τέλος, έχουμε το επίπεδο υλικού που περιλαμβάνει τα φυσικά στοιχεία του συστήματος, συμπεριλαμβανομένων της GPU, της CPU, των περιφερειακών συσκευών, του δίσκου και της μνήμης. Είναι σημαντικό να κατανοήσουμε ότι το σύστημα των πυρήνων LLM δεν μπορεί να αλληλεπιδράσει απευθείας με το υλικό και αυτές οι κλήσεις διασυνδέονται με τις κλήσεις συστήματος του λειτουργικού συστήματος που με τη σειρά τους διαχειρίζονται τους πόρους υλικού. Αυτή η έμμεση αλληλεπίδραση μεταξύ του συστήματος του LLM karnel και των πόρων υλικού δημιουργεί ένα επίπεδο ασφάλειας και αφαίρεσης, επιτρέποντας στον πυρήνα LLM να αξιοποιήσει τις δυνατότητες των πόρων υλικού χωρίς να απαιτείται η άμεση διαχείριση του υλικού, διευκολύνοντας τη διατήρηση της ακεραιότητας και της αποτελεσματικότητας του συστήματος . 

Εκτέλεση

Όπως αναφέρθηκε παραπάνω, υπάρχουν έξι κύριοι μηχανισμοί που εμπλέκονται στη λειτουργία του πλαισίου AIOS. Ο χρονοπρογραμματιστής πράκτορα έχει σχεδιαστεί με τρόπο ώστε να είναι σε θέση να διαχειρίζεται τα αιτήματα πρακτόρων με αποτελεσματικό τρόπο και έχει πολλά βήματα εκτέλεσης σε αντίθεση με ένα παραδοσιακό παράδειγμα διαδοχικής εκτέλεσης στο οποίο ο πράκτορας επεξεργάζεται τις εργασίες με γραμμικό τρόπο με τα βήματα από το ίδιο ο πράκτορας υποβάλλεται σε επεξεργασία πρώτα πριν προχωρήσει στον επόμενο πράκτορα, με αποτέλεσμα την αύξηση του χρόνου αναμονής για εργασίες που εμφανίζονται αργότερα στην ακολουθία εκτέλεσης. Ο προγραμματιστής πρακτόρων χρησιμοποιεί στρατηγικές όπως το Round Robin, το First In First Out και άλλους αλγόριθμους προγραμματισμού για τη βελτιστοποίηση της διαδικασίας. 

Ο διαχειριστής περιβάλλοντος έχει σχεδιαστεί με τέτοιο τρόπο ώστε να είναι υπεύθυνος για τη διαχείριση του περιβάλλοντος που παρέχεται στο μεγάλο γλωσσικό μοντέλο και τη διαδικασία δημιουργίας δεδομένων του συγκεκριμένου πλαισίου. Ο διαχειριστής περιβάλλοντος περιλαμβάνει δύο κρίσιμα στοιχεία: στιγμιότυπο και αποκατάσταση περιβάλλοντος και διαχείριση παραθύρου περιβάλλοντος. Το στιγμιότυπο περιβάλλοντος και ο μηχανισμός αποκατάστασης που προσφέρονται από το πλαίσιο AIOS βοηθά στον μετριασμό καταστάσεων όπου ο προγραμματιστής αναστέλλει τα αιτήματα πρακτόρων, όπως φαίνεται στο παρακάτω σχήμα. 

Όπως φαίνεται στο παρακάτω σχήμα, είναι ευθύνη του διαχειριστή μνήμης να διαχειρίζεται τη βραχυπρόθεσμη μνήμη εντός του κύκλου ζωής ενός πράκτορα και διασφαλίζει ότι τα δεδομένα αποθηκεύονται και είναι προσβάσιμα μόνο όταν ο πράκτορας είναι ενεργός, είτε κατά τη διάρκεια εκτέλεσης είτε όταν ο πράκτορας περιμένει για εκτέλεση. 

Από την άλλη πλευρά, ο διαχειριστής αποθήκευσης είναι υπεύθυνος για τη διατήρηση των δεδομένων μακροπρόθεσμα και επιβλέπει την αποθήκευση των πληροφοριών που πρέπει να διατηρηθούν για αόριστο χρονικό διάστημα, πέρα ​​από τη διάρκεια ζωής ενός μεμονωμένου πράκτορα. Το πλαίσιο AISO επιτυγχάνει μόνιμη αποθήκευση χρησιμοποιώντας μια ποικιλία ανθεκτικών μέσων, συμπεριλαμβανομένων λύσεων που βασίζονται σε cloud, βάσεων δεδομένων και τοπικών αρχείων, διασφαλίζοντας τη διαθεσιμότητα και την ακεραιότητα των δεδομένων. Επιπλέον, στο πλαίσιο AISO, είναι ο διαχειριστής εργαλείων που διαχειρίζεται μια ποικίλη σειρά εργαλείων API που ενισχύουν τη λειτουργικότητα των μεγάλων μοντέλων γλώσσας και ο παρακάτω πίνακας συνοψίζει πώς ο διαχειριστής εργαλείων ενσωματώνει εργαλεία που χρησιμοποιούνται συνήθως από διάφορους πόρους και τα ταξινομεί. σε διαφορετικές κατηγορίες. 

Ο διαχειριστής πρόσβασης οργανώνει τις λειτουργίες ελέγχου πρόσβασης σε διακριτή απόσταση παράγοντες με τη διαχείριση μιας αποκλειστικής ομάδας προνομίων για κάθε πράκτορα και αρνείται την πρόσβαση ενός πράκτορα στους πόρους του, εάν εξαιρεθούν από την ομάδα προνομίων του πράκτορα. Επιπλέον, ο διαχειριστής πρόσβασης είναι επίσης υπεύθυνος για τη σύνταξη και τη διατήρηση αρχείων καταγραφής ελέγχου που ενισχύουν περαιτέρω τη διαφάνεια του συστήματος. 

AIOS : Πειράματα και αποτελέσματα

Η αξιολόγηση του πλαισίου AIOS καθοδηγείται από δύο ερευνητικά ερωτήματα: πρώτον, πώς είναι η απόδοση του προγραμματισμού AIOS στη βελτίωση του χρόνου αναμονής και του χρόνου διεκπεραίωσης του υπολοίπου και, δεύτερον, εάν η απόκριση του LLM στα αιτήματα πρακτόρων είναι συνεπής μετά την αναστολή πρακτόρων;

Για να απαντήσουν στις ερωτήσεις συνέπειας, οι προγραμματιστές εκτελούν κάθε έναν από τους τρεις πράκτορες ξεχωριστά, και στη συνέχεια, εκτελούν αυτούς τους πράκτορες παράλληλα και προσπαθούν να καταγράψουν τα αποτελέσματα τους σε κάθε στάδιο. Όπως αποδεικνύεται στον παρακάτω πίνακα, οι βαθμολογίες BERT και BLEU επιτυγχάνουν την τιμή 1.0, υποδεικνύοντας μια τέλεια ευθυγράμμιση μεταξύ των εξόδων που παράγονται σε διαμορφώσεις ενός παράγοντα και πολλαπλών παραγόντων. 

Για να απαντήσουν στις ερωτήσεις σχετικά με την αποτελεσματικότητα, οι προγραμματιστές διεξάγουν μια συγκριτική ανάλυση μεταξύ του πλαισίου AIOS που χρησιμοποιεί τον προγραμματισμό FIFO ή First In First Out και μια μη προγραμματισμένη προσέγγιση, όπου οι πράκτορες εκτελούνται ταυτόχρονα. Στη μη προγραμματισμένη ρύθμιση, οι πράκτορες εκτελούνται με προκαθορισμένη διαδοχική σειρά: Math agent, Narrating agent και rec agent. Για την αξιολόγηση της χρονικής αποτελεσματικότητας, το πλαίσιο AIOS χρησιμοποιεί δύο μετρήσεις: χρόνο αναμονής και χρόνο διεκπεραίωσης, και δεδομένου ότι οι πράκτορες στέλνουν πολλαπλά αιτήματα στο μοντέλο της μεγάλης γλώσσας, ο χρόνος αναμονής και ο χρόνος διεκπεραίωσης για μεμονωμένους πράκτορες υπολογίζεται ως ο μέσος όρος του χρόνος αναμονής και χρόνος διεκπεραίωσης για όλα τα αιτήματα. Όπως καταδεικνύεται στον ακόλουθο πίνακα, η μη προγραμματισμένη προσέγγιση εμφανίζει ικανοποιητική απόδοση για πράκτορες νωρίτερα στην ακολουθία, αλλά υποφέρει από εκτεταμένους χρόνους αναμονής και αναμονής για πράκτορες αργότερα στην ακολουθία. Από την άλλη πλευρά, η προσέγγιση προγραμματισμού που εφαρμόζεται από το πλαίσιο AIOS ρυθμίζει αποτελεσματικά τόσο τους χρόνους αναμονής όσο και τους χρόνους διεκπεραίωσης. 

Τελικές Σκέψεις

Σε αυτό το άρθρο μιλήσαμε για το AIOS, ένα λειτουργικό σύστημα πράκτορα LLM που έχει σχεδιαστεί σε μια προσπάθεια να ενσωματώσει μεγάλα μοντέλα γλώσσας στο λειτουργικό σύστημα ως τον εγκέφαλο του λειτουργικού συστήματος, επιτρέποντας ένα λειτουργικό σύστημα με ψυχή. Πιο συγκεκριμένα, το πλαίσιο AIOS έχει σχεδιαστεί με σκοπό τη διευκόλυνση της εναλλαγής περιβάλλοντος μεταξύ των πρακτόρων, τη βελτιστοποίηση της κατανομής πόρων, την παροχή υπηρεσίας εργαλείων για πράκτορες, τη διατήρηση του ελέγχου πρόσβασης για τους πράκτορες και τη δυνατότητα ταυτόχρονης εκτέλεσης πρακτόρων. Η αρχιτεκτονική AISO καταδεικνύει τη δυνατότητα διευκόλυνσης της ανάπτυξης και εξάπλωσης του αυτόνομους πράκτορες που βασίζονται σε μεγάλα γλωσσικά μοντέλα, με αποτέλεσμα ένα πιο αποτελεσματικό, συνεκτικό και αποδοτικό οικοσύστημα AIOS-Agent.