AI Πράκτορες Μπορούν να Κάνουν τη Δουλειά. Αλλά Μπορούν οι Επιχειρήσεις να τους Διαχειριστούν;

Οι AI πράκτορες γίνονται αξιοσημείωτα ικανοί στο να ολοκληρώνουν εργασίες. Δώστε σε έναν πράκτορα έναν στόχο, πρόσβαση στα κατάλληλα εργαλεία, αρκετό πλαίσιο και μια καλά ορισμένη ροή εργασίας, και μπορεί να ερευνήσει πληροφορίες, να αναλύσει έγγραφα, να λάβει αποφάσεις, να ενημερώσει συστήματα και να συντονίσει με άλλους πράκτορες.

Αυτό είναι το συναρπαστικό κομμάτι της Agentic AI. Είναι επίσης το κομμάτι που τείνουμε να βλέπουμε στις παρουσιάσεις.

Οι επιχειρησιακές λειτουργίες φαίνονται διαφορετικές. Μια αίτηση δανείου αλλάζει κατά τη διάρκεια της αξιολόγησης. Ένας πελάτης παρέχει νέες πληροφορίες μετά την ολοκλήρωση της επαλήθευσης. Δύο συστήματα διαφωνούν για τον ίδιο λογαριασμό. Μια έγκριση που ήταν έγκυρη χθες μπορεί να μην είναι πλέον έγκυρη σήμερα. Ένας πράκτορας συνοψίζει μια υπόθεση πριν τη μεταβιβάσει σε άλλο πράκτορα, και μια φαινομενικά μικρή λεπτομέρεια χάνεται στη διαδικασία.

Η ευνοϊκή διαδρομή μπορεί να αντιπροσωπεύει το 80 τοις εκατό του τι χρειάζεται να κάνει ένας πράκτορας. Οι επιχειρήσεις ζουν στο υπόλοιπο 20 τοις εκατό.

Η διατύπωση 80/20 δεν είναι στατιστικό της βιομηχανίας. Είναι ένας τρόπος περιγραφής του σημείου όπου κρύβεται η λειτουργική πολυπλοκότητα. Το δύσκολο μέρος των επιχειρησιακών λειτουργιών συχνά δεν είναι η κανονική περίπτωση, αλλά οι εξαιρέσεις, οι μεταβιβάσεις, οι εξαρτήσεις, η μεταβαλλόμενη κατάσταση και οι αποφάσεις όπου η οργάνωση παραμένει υπεύθυνη για το αποτέλεσμα.

Καθώς η AI μεταβαίνει από την απάντηση ερωτήσεων στην εκτέλεση ενεργειών, αυτή η λειτουργική πολυπλοκότητα γίνεται πολύ πιο σημαντική. Οι επιχειρήσεις θα πρέπει να σκεφτούν πέρα από το πώς δημιουργούνται οι πράκτορες και να αρχίσουν να σκέφτονται πώς λειτουργούν.

Αυτό είναι το σημείο όπου Agentic Operations ξεκινά.

Από τη Δημιουργία Απαντήσεων στην Εκτέλεση Ενεργειών

Το πρώτο κύμα της επιχειρησιακής Γενετικής AI ήταν κυρίως για την πληροφορία. Τα μοντέλα συνοψίζουν έγγραφα, δημιουργούν αναφορές, απαντούν σε ερωτήσεις, αναζητούν γνώση της επιχείρησης και βοηθούν τους υπαλλήλους να ολοκληρώνουν υπάρχουσες εργασίες πιο γρήγορα.

Οι πράκτορες εισάγουν κάτι θεμελιωδώς διαφορετικό. Μπορούν να εκτελέσουν ενέργειες που αλλάζουν την κατάσταση μιας επιχειρησιακής διαδικασίας. Ένας πράκτορας μπορεί να εγκρίνει ή να απορρίψει κάτι, να ενημερώσει ένα σύστημα καταγραφής, να στείλει επικοινωνία σε πελάτη, να ενεργοποιήσει άλλη ροή εργασίας, να καλέσει άλλο πράκτορα ή να λάβει απόφαση που καθορίζει τι θα συμβεί στη συνέχεια.

OpenAI περιγράφει τους πράκτορες στον πρακτικό οδηγό του ως συστήματα που εκτελούν ανεξάρτητα εργασίες εκ μέρους των χρηστών, χρησιμοποιώντας μοντέλα για τη διαχείριση της εκτέλεσης ροής εργασίας και εργαλεία για αλληλεπίδραση με εξωτερικά συστήματα. Η λειτουργική συνέπεια μιας εσφαλμένης απάντησης είναι πολύ διαφορετική από τη συνέπεια μιας εσφαλμένης ενέργειας.

Κατά συνέπεια, η επιχειρησιακή ερώτηση αλλάζει. Δεν αρκεί πλέον να ρωτάμε αν ένα μοντέλο παρήγαγε μια καλή απάντηση ή αν ένας πράκτορας ολοκλήρωσε επιτυχώς την ανατεθειμένη του εργασία. Οι επιχειρήσεις χρειάζεται όλο και περισσότερο να γνωρίζουν αν μια ενέργεια έπρεπε να πραγματοποιηθεί καθόλου, δεδομένου του επιχειρησιακού πλαισίου, των πολιτικών, της εξουσιοδότησης και όλων όσων συνέβησαν νωρίτερα στη διαδικασία.

Σχήμα 1: Η Γενετική AI παράγει ένα αποτέλεσμα. Η Agentic AI αλλάζει την επιχειρησιακή κατάσταση.

Μόλις η AI μπορεί να αλλάξει την επιχειρησιακή κατάσταση και να επηρεάσει τις επόμενες αποφάσεις, η αξιοπιστία δεν μπορεί πλέον να μετρηθεί μόνο στο επίπεδο του μοντέλου.

Ένας Πράκτορας Μπορεί να Επιτύχει Ενώ η Επιχειρησιακή Διαδικασία Αποτυγχάνει

Σκεφτείτε μια ροή εργασίας αξιολόγησης δανείου με υποστήριξη AI. Ένας πράκτορας εξάγει τα έγγραφα αίτησης, ένας άλλος επαληθεύει το εισόδημα, ένας τρίτος αξιολογεί τις πιστωτικές πληροφορίες, και ένας μεταγενέστερος πράκτορας συνοψίζει την υπόθεση πριν ένας πράκτορας αξιολόγησης πάρει ή προτείνει μια απόφαση.

Κάθε πράκτορας έχει σαφώς ορισμένη ευθύνη, και ο καθένας μπορεί να εκτελέσει αυτήν την ευθύνη σωστά. Ο πράκτορας εγγράφων μπορεί να εξάγει τη σωστή πληροφορία. Ο πράκτορας επαλήθευσης εισοδήματος μπορεί να ολοκληρώσει επιτυχώς την εργασία του. Ο πράκτορας σύνοψης μπορεί να δημιουργήσει μια ακριβή σύνοψη των διαθέσιμων πληροφοριών. Ο πράκτορας αξιολόγησης μπορεί να ακολουθήσει σωστά τις οδηγίες του.

Η τελική επιχειρησιακή απόφαση μπορεί ακόμα να είναι λανθαστή.

Φανταστείτε ότι οι ενημερωμένες πληροφορίες εισοδήματος φτάνουν μετά την αρχική επαλήθευση. Το νέο έγγραφο επεξεργάζεται, αλλά η σημασία του μειώνεται όταν η υπόθεση συνοψίζεται για το επόμενο βήμα. Ο τελικός πράκτορας αξιολόγησης λαμβάνει μια λογική σύνοψη, απλώς όχι το πλήρες επιχειρησιακό πλαίσιο που υπήρχε σε όλη τη διαδικασία.

Τίποτα δεν κατέρρευσε απαραίτητα. Κανένα API δεν απέτυχε. Κανένας μεμονωμένος πράκτορας δεν παρήγαγε ψευδείς πληροφορίες. Κάθε στοιχείο μπορεί να ανέφερε επιτυχημένη εκτέλεση ενώ η επιχειρησιακή διαδικασία οδηγεί σε λανθασμένο αποτέλεσμα.

Anthropic συζητά μια σχετική πρόκληση στην καθοδήγησή του για την κατασκευή αποτελεσματικών πρακτόρων, σημειώνοντας ότι τα αυτόνομα συστήματα μπορούν να αντιμετωπίσουν συσσωρευμένα σφάλματα καθώς κάνουν περισσότερα βήματα. Το ζήτημα γίνεται ευρύτερο από την ακρίβεια του μοντέλου επειδή η κατάσταση, το πλαίσιο, οι αποφάσεις και οι υποθέσεις μετακινούνται κατά τη διάρκεια της ροής εργασίας.

Αυτό δημιουργεί μια σημαντική διάκριση μεταξύ αξιοπιστίας του πράκτορα και αξιοπιστίας της επιχειρησιακής διαδικασίας. Μια επιχείρηση τελικά δεν βιώνει έναν μεμονωμένο πράκτορα. Βιώνει το αποτέλεσμα που παράγεται από τη συνολική διαδικασία.

Σχήμα 2: Η τοπική επιτυχία δεν εγγυάται την επιχειρηματική επιτυχία

Αυτή είναι μία από τις σημαντικές αλλαγές που εισήγαγε η Agentic AI. Μια ροή εργασίας μπορεί να αποτύχει ακόμη και όταν κάθε στοιχείο φαίνεται υγιές όταν ελέγχεται ανεξάρτητα.

Η ικανότητα δεν είναι εξουσία

Το μεγαλύτερο μέρος της τρέχουσας στοίβας πρακτόρων εστιάζει λογικά στην ικανότητα. Οι ομάδες θέλουν να γνωρίζουν εάν ένας πράκτορας μπορεί να συλλογιστεί, να επιλέξει το σωστό εργαλείο, να ολοκληρώσει μια εργασία, να ανακτήσει από σφάλματα και να λειτουργεί με αποδεκτή ακρίβεια και καθυστέρηση.

Οι επιχειρήσεις έχουν μια ακόμη απαίτηση: την εξουσία.

Ας υποθέσουμε ότι ένας πράκτορας υπογραφής είναι ικανός να εγκρίνει ένα δάνειο. Αυτό δεν σημαίνει ότι πρέπει να εγκρίνει κάθε δάνειο που μπορεί να αξιολογήσει. Η εξουσία του μπορεί να εξαρτάται από το ποσό του δανείου, την κατηγορία κινδύνου, τον τύπο πελάτη, τα διαθέσιμα αποδεικτικά στοιχεία, το επίπεδο εμπιστοσύνης, τις προηγούμενες αποφάσεις ή το αν η αίτηση άλλαξε μετά από προηγούμενη αξιολόγηση.

Δημιουργεί ένα όριο μεταξύ του τι ένας πράκτορας μπορεί να κάνει και του τι του επιτρέπεται να κάνει.

Η OpenAI συνιστά την αξιολόγηση του κινδύνου που σχετίζεται με τα εργαλεία πρακτόρων και την προσθήκη μέτρων ασφαλείας ή ανθρώπινης παρέμβασης γύρω από ευαίσθητες και μη αναστρέψιμες ενέργειες. η Microsoft ακολουθεί παρόμοια προσέγγιση στην καθοδήγησή της για τις βασικές επιχειρηματικές διαδικασίες που λειτουργούν με πράκτορες, όπου οι πράκτορες μπορούν να λαμβάνουν ρουτινικές αποφάσεις εντός καθορισμένων ορίων, ενώ τα δικαιώματα λήψης αποφάσεων καθορίζουν ποιες ενέργειες μπορούν να εκτελεστούν ανεξάρτητα και ποιες απαιτούν ανθρώπινη έγκριση.

Καθώς η ικανότητα των πρακτόρων βελτιώνεται, αυτή η διάκριση γίνεται πιο σημαντική, όχι λιγότερη. Πιο ικανοί πράκτορες μπορούν να αναλάβουν πιο σημαντικές ενέργειες. Συνεπώς, οι επιχειρήσεις χρειάζονται πιο σαφείς τρόπους για να ορίζουν και να επιβάλλουν τα όρια εντός των οποίων επιτρέπεται η εκτέλεση αυτών των ενεργειών.

Η ερώτηση μετατοπίζεται από Μπορεί ο πράκτορας να το κάνει αυτό; σε Σε ποιες συνθήκες θα πρέπει ο πράκτορας να επιτρέπεται να το κάνει αυτό;

Η επιχειρηματική πολιτική πρέπει να μετακινηθεί πιο κοντά στην εκτέλεση

Οι επιχειρήσεις διαθέτουν ήδη εκτεταμένους μηχανισμούς ελέγχου των διαδικασιών που εκτελούνται από ανθρώπους. Χρησιμοποιούν SOPs, πίνακες έγκρισης, πολιτικές συμμόρφωσης, όρια κινδύνου, εκπαίδευση, διαχωρισμό καθηκόντων, ελέγχους και διαδικασίες κλιμάκωσης. Οι περισσότεροι από αυτούς τους μηχανισμούς σχεδιάστηκαν γύρω από μια απλή υπόθεση: ένα άτομο διαβάζει τον κανόνα, κατανοεί την κατάσταση και εφαρμόζει τον κανόνα ενώ εκτελεί τη δουλειά.

Οι πράκτορες αλλάζουν αυτήν την υπόθεση.

Σκεφτείτε μια πολιτική που απαιτεί δευτερεύουσα έγκριση για συναλλαγές πάνω από ένα ορισμένο όριο. Όταν ένας άνθρωπος εκτελεί την εργασία, η πολιτική μπορεί να υπάρχει σε ένα έγγραφο που υποστηρίζεται από εκπαίδευση και ελέγχους ροής εργασίας. Όταν ένας πράκτορας μπορεί να εκτελεί εκατοντάδες ή χιλιάδες ενέργειες γρήγορα, η ύπαρξη αυτού του εγγράφου πολιτικής δεν αποτρέπει από μόνη της μια ενέργεια που την παραβιάζει.

Κάπου μεταξύ της γραπτής πολιτικής και της επιχειρηματικής ενέργειας, η πολιτική πρέπει να γίνει λειτουργική.

Αυτό δεν σημαίνει ότι κάθε πολιτική πρέπει να μετατραπεί σε καθοριστικό κώδικα. Ορισμένοι έλεγχοι θα είναι καθοριστικοί, κάποιοι θα απαιτούν σημασιολογική ερμηνεία, κάποιοι θα εξαρτώνται από τον κίνδυνο ή το επίπεδο εμπιστοσύνης, και άλλοι θα συνεχίσουν να απαιτούν ανθρώπινη κρίση. Η μεγαλύτερη αρχιτεκτονική αλλαγή είναι ότι η επιχειρηματική πολιτική αρχίζει να πλησιάζει το μονοπάτι εκτέλεσης.

η AWS επισημαίνει αυτό ειδικά στο πλαίσιο της Agentic AI στις χρηματοοικονομικές υπηρεσίες, συμπεριλαμβανομένης της ανάγκης για επικύρωση των ενεργειών των πρακτόρων βάσει πολιτικής και ιχνηλασιών ελέγχου γύρω από τις σημαντικές δραστηριότητες.

Ιστορικά, οι οργανισμοί μπορούσαν να ορίζουν πολλές απαιτήσεις διακυβέρνησης πριν από την εκτέλεση και να επαληθεύουν τη συμμόρφωση αργότερα μέσω ελέγχων και ανασκοπήσεων. Όταν τα αυτόνομα συστήματα ενεργούν συνεχώς και με ταχύτητα μηχανής, ορισμένοι έλεγχοι πρέπει να λειτουργούν ενώ η διαδικασία εκτελείται.

Ο άνθρωπος στον βρόχο είναι απαραίτητος, αλλά δεν είναι το μοντέλο λειτουργίας

Η πιο κοινή αντίδραση στην αβεβαιότητα σε μια ροή εργασίας AI είναι να τοποθετηθεί ένας άνθρωπος στον βρόχο. Αυτό είναι λογικό, ιδιαίτερα για σημαντικές αποφάσεις, αλλά γίνεται προβληματικό όταν η ανθρώπινη αξιολόγηση θεωρείται η λύση για κάθε εξαίρεση.

Φανταστείτε μια πράκτορια λειτουργία που επεξεργάζεται χιλιάδες ή εκατομμύρια αποφάσεις. Εάν κάθε ασυνήθιστη κατάσταση, αποτέλεσμα χαμηλής εμπιστοσύνης, ασάφεια πολιτικής ή εξαίρεση διοχετεύεται σε ένα άτομο, η οργάνωση δεν έχει αφαιρέσει το λειτουργικό bottleneck. Απλώς το μεταφέρει σε μια ουρά ελέγχου. Με την πάροδο του χρόνου, αυτό μπορεί επίσης να δημιουργήσει ένα άλλο πρόβλημα: όταν ζητείται από τους ανθρώπους να εγκρίνουν πάρα πολλές ρουτινικές αποφάσεις, η ανθρώπινη επίβλεψη καθαυτή μπορεί να γίνει λιγότερο σημαντική.

Οι άνθρωποι παραμένουν απαραίτητοι, αλλά ο ρόλος τους πρέπει να αλλάξει. Αντί να εξετάζουν κάθε απόφαση, θα πρέπει να εστιάζουν σε καταστάσεις όπου απαιτείται πραγματικά κρίση, όπου έχει φτάσει η εξουσία ενός πράκτορα, ή όπου το σύστημα αντιμετωπίζει μια κατάσταση που δεν πρέπει να επιλύσει ανεξάρτητα.

Ένα κλιμακώσιμο μοντέλο λειτουργίας επομένως δεν μπορεί να βασίζεται μόνο στην αξιολόγηση κινδύνου και την ανθρώπινη ανασκόπηση. Πριν μια ενέργεια πρακτόρου μετατραπεί σε επιχειρηματική ενέργεια, το σύστημα πρέπει να λάβει υπόψη το τρέχον επιχειρηματικό πλαίσιο, τις σχετικές πολιτικές, την εξουσία του πρακτόρου και όσα έχουν ήδη συμβεί στη ροή εργασίας. Το αποτέλεσμα μπορεί να είναι η συνέχιση, η αίτηση πρόσθετων αποδείξεων, η αναστολή της ενέργειας ή η κλιμάκωση της απόφασης σε άνθρωπο.

Σχήμα 3: Η ανθρώπινη ανασκόπηση γίνεται ένα από τα αποτελέσματα του ελέγχου χρόνου εκτέλεσης

Αυτό αλλάζει το ρόλο της ανθρώπινης εποπτείας. Ένας άνθρωπος δεν εισάγεται πλέον σε κάθε αβέβαιο βήμα από προεπιλογή. Η ανθρώπινη παρέμβαση γίνεται ένα πιθανό αποτέλεσμα όταν το επιχειρηματικό πλαίσιο, η πολιτική, η εξουσία ή η συνέπεια μιας ενέργειας απαιτούν κρίση.

Η διάκριση είναι σημαντική για κλίμακα επιχείρησης. Κάποιες ενέργειες πρέπει να προχωρούν αυτόματα επειδή είναι σαφώς εντός πολιτικής και εξουσίας. Κάποιες πρέπει να παύσουν επειδή λείπουν απαιτούμενα αποδεικτικά στοιχεία ή η επιχειρηματική κατάσταση έχει αλλάξει. Άλλες πρέπει να κλιμακωθούν επειδή η απόφαση έχει περάσει ένα όριο που η οργάνωση έχει σκόπιμα κρατήσει για ανθρώπους.

Ο στόχος δεν είναι η αφαίρεση των ανθρώπων από τον βρόχο. Είναι η τοποθέτηση των ανθρώπων στους σωστούς βρόχους, ενώ επιτρέπεται στις ρουτίνες αποφάσεις να προχωρούν εντός σαφώς ορισμένων ορίων. Καθώς τα πρακτορικά συστήματα κλιμακώνονται, η ποιότητα της ανθρώπινης εποπτείας μπορεί να εξαρτάται λιγότερο από το πόσες αποφάσεις εξετάζουν οι άνθρωποι και περισσότερο από το αν το λειτουργικό σύστημα μπορεί να εντοπίσει τις αποφάσεις όπου η ανθρώπινη κρίση είναι πραγματικά σημαντική.

Η Παρατηρησιμότητα Είναι Απαραίτητη, αλλά το Να Βλέπεις Δεν Σημαίνει Έλεγχο

Η βιομηχανία έχει σημειώσει σημαντική πρόοδο στην παρατηρησιμότητα AI. Οι ομάδες μπορούν να επιθεωρήσουν προτροπές, απαντήσεις μοντέλων, ίχνη, κλήσεις εργαλείων, καθυστέρηση, χρήση token, και όλο και περισσότερο ολόκληρη τη διαδρομή που ακολούθησε ένας πράκτορας πριν παραγάγει ένα αποτέλεσμα.

Αυτή η διαφάνεια είναι ουσιώδης. οδηγίες της OpenAI για την ασφάλεια και αξιολόγηση των πρακτόρων επίσης τονίζει τεχνικές όπως αξιολογήσεις και βαθμολόγηση ιχνηλασιών για την κατανόηση της συμπεριφοράς των πρακτόρων.

Αλλά η διαφάνεια από μόνη της δεν λύνει το λειτουργικό πρόβλημα.

Φανταστείτε ότι ανακαλύπτετε ότι ένας πράκτορας υπογραφής παραβίασε μια πολιτική έγκρισης 2.700 φορές την περασμένη εβδομάδα. Αυτό θα αντιπροσώπευε εξαιρετική παρατηρησιμότητα και φρικτές λειτουργίες.

Για κρίσιμες επιχειρηματικές διαδικασίες, οι επιχειρήσεις τελικά χρειάζονται τη δυνατότητα όχι μόνο να κατανοούν τη συμπεριφορά των πρακτόρων αλλά και να ανταποκρίνονται ενώ η διαδικασία εκτελείται.

Σχήμα 4: Ο βρόχος λειτουργικού ελέγχου

Η παρατηρησιμότητα απαντά τι έκανε ο πράκτορας. Η Λειτουργία Πρακτόρων χρειάζεται επίσης να απαντήσει αν ο πράκτορας πρέπει να συνεχίσει.

Αυτή η διάκριση γίνεται ιδιαίτερα σημαντική όταν μια ενέργεια είναι ακριβή, κρίσιμη, δύσκολη στην ανάστροφη ή ικανή να επηρεάσει πολλές επακόλουθες αποφάσεις.

Οι Πιο Δυσκολίες Αποτυχίες Μπορεί να Συμβούν Μεταξύ Πρακτόρων

Υπάρχει μια ακόμη πρόκληση που γίνεται εμφανής καθώς οι επιχειρήσεις προχωρούν προς πολυπρακτορικές και μακροχρόνιες ροές εργασίας. Πολλές επιχειρηματικές πολιτικές δεν είναι τοπικές σε μία μόνο ενέργεια.

Σκεφτείτε μια πολιτική που περιορίζει τη συνολική χρηματοοικονομική έκθεση σε μια ακολουθία αποφάσεων. Κάθε μεμονωμένη συναλλαγή μπορεί να είναι κάτω από το επιτρεπόμενο όριο, ενώ η συνολική έκθεση το υπερβαίνει. Η εξέταση κάθε ενέργειας ανεξάρτητα δεν θα έδειχνε παραβίαση.

Το ίδιο πρόβλημα μπορεί να εμφανιστεί με την εξουσία. Ένας πράκτορας μπορεί να είναι εξουσιοδοτημένος να συλλέγει πληροφορίες αλλά όχι να λαμβάνει τελική απόφαση. Μετά από αρκετές μεταβιβάσεις, ένας downstream πράκτορας μπορεί να λάβει τις πληροφορίες χωρίς να διατηρεί τους περιορισμούς εξουσίας που συνδέονταν με το αρχικό έργο. Κάθε μεμονωμένο βήμα μπορεί να φαίνεται λογικό ενώ η ακολουθία παραβιάζει τη σχεδιασμένη επιχειρηματική διαδικασία.

Το πλαίσιο δημιουργεί παρόμοιο πρόβλημα. Πληροφορίες που ήταν σημαντικές στο πρώτο στάδιο μιας ροής εργασίας μπορεί να συνοψιστούν, μετασχηματιστούν ή παραλειφθούν αρκετά βήματα αργότερα. Ο downstream πράκτορας δεν μπορεί να λογιστεί πάνω σε πληροφορίες που δεν έχει πλέον, ακόμη και αν η λογική του είναι σωστή.

Αυτές οι αποτυχίες υποδεικνύουν ότι η μονάδα αξιοπιστίας πρέπει να επεκταθεί.

Θα συνεχίσουμε να αξιολογούμε τα μοντέλα ρωτώντας αν οι απαντήσεις τους είναι σωστές. Θα αξιολογούμε τους πράκτορες ρωτώντας αν ολοκλήρωσαν σωστά τις εργασίες τους. Αλλά σε επίπεδο ροής εργασίας, το ερώτημα γίνεται αν οι πληροφορίες, η εξουσία και η πολιτική επιβίωσαν κατά τη διάρκεια της ακολουθίας ενεργειών. Σε επιχειρηματικό επίπεδο, το ερώτημα γίνεται αν το τελικό αποτέλεσμα ήταν τόσο σωστό όσο και επιτρεπτό.

Αυτό είναι επίσης σύμφωνο με την ευρύτερη προοπτική του κύκλου ζωής στο Πλαίσιο Διαχείρισης Κινδύνου AI του NIST, το οποίο τονίζει τη συνεχή μέτρηση και διαχείριση του κινδύνου AI αντί να αντιμετωπίζει την αξιολόγηση ως μια εφάπαξ δραστηριότητα πριν από την ανάπτυξη.

Αυτό είναι το Σημείο όπου Ξεκινά η Λειτουργία Πρακτόρων

Η διακυβέρνηση AI, η αξιολόγηση μοντέλων, το LLMOps, η παρατηρησιμότητα, η ασφάλεια και η υπεύθυνη AI ήδη αντιμετωπίζουν σημαντικά τμήματα της λειτουργίας συστημάτων AI. Οι Λειτουργίες Πράκτορα δεν αντικαθιστούν αυτές τις πειθαρχίες. Απευθύνονται στο λειτουργικό επίπεδο που γίνεται σημαντικό όταν αυτόνομα και ημιαυτόνομα συστήματα αρχίζουν να συμμετέχουν άμεσα σε επιχειρησιακές διαδικασίες.

Οι Λειτουργίες Πράκτορα είναι η πειθαρχία της λειτουργίας αυτόνομων και ημιαυτόνομων συστημάτων AI εντός πραγματικών επιχειρησιακών διαδικασιών, συμπεριλαμβανομένου του πώς η εξουσία, το πλαίσιο, οι αποφάσεις, οι εξαιρέσεις, η ανθρώπινη παρέμβαση και η λογοδοσία διαχειρίζονται κατά την εκτέλεση.

Η διάκριση είναι σημαντική επειδή το αντικείμενο που διαχειρίζεται δεν είναι πλέον μόνο ένα μοντέλο. Είναι μια συνεχής επιχειρησιακή διαδικασία στην οποία το λογισμικό μπορεί ανεξάρτητα να λαμβάνει αποφάσεις και να αναλαμβάνει ενέργειες.

Στην πράξη, αυτό δημιουργεί ένα διαφορετικό σύνολο λειτουργικών ερωτήσεων. Τι επιτρέπεται να κάνει ένας πράκτορας; Ποιο επιχειρησιακό πλαίσιο πρέπει να διατηρηθεί σε μια μακροχρόνια ροή εργασίας; Τι συμβαίνει όταν νέα αποδεικτικά στοιχεία ακυρώνουν μια προηγούμενη απόφαση; Πώς μπορεί ένας οργανισμός να εντοπίσει πότε ενέργειες που ατομικά είναι αποδεκτές παραβιάζουν συλλογικά μια πολιτική; Πότε πρέπει ένας πράκτορας να συνεχίσει, να παύσει, να σταματήσει ή να κλιμακώσει; Μήνες αργότερα, μπορεί ο οργανισμός να ανασυνθέσει γιατί ελήφθη μια συγκεκριμένη απόφαση;

Υπάρχει επίσης το ερώτημα της ιδιοκτησίας. Όταν ένας πράκτορας εκτελεί σωστά το τεχνικό του έργο αλλά το επιχειρησιακό αποτέλεσμα είναι λανθασμένο, ποιος φέρει την αποτυχία; Η ανάθεση εκτέλεσης σε έναν πράκτορα δεν μεταβιβάζει τη λογοδοσία του οργανισμού που τον λειτουργεί.

Οι πράκτορες μπορούν να εκτελούν τη δουλειά. Η επιχείρηση παραμένει υπεύθυνη για το αποτέλεσμα.

Ο Στόχος Είναι Ελεγχόμενη Αυτονομία

Το μέλλον της Πράκτορας AI περιγράφεται μερικές φορές ως μια εξέλιξη προς την πλήρη αυτονομία, όπου οι άνθρωποι σταδιακά εξαφανίζονται από τις επιχειρησιακές ροές εργασίας. Για τις περισσότερες επιχειρήσεις, αυτό πιθανότατα είναι ο λανθασμένος στόχος.

Ο πιο χρήσιμος στόχος είναι ελεγχόμενη αυτονομία.

Πολλές διαδικασίες με υποστήριξη AI σήμερα ακολουθούν ένα μοτίβο όπου ένας πράκτορας προτείνει μια ενέργεια και ένα άτομο παίρνει την τελική απόφαση. Καθώς η εμπιστοσύνη αυξάνεται, ορισμένες ροές εργασίας θα επιτρέπουν στους πράκτορες να λαμβάνουν αποφάσεις εντός καθορισμένης εξουσίας, ενώ το περιβάλλον σύστημα επιβλέπει την εκτέλεση και οι άνθρωποι διαχειρίζονται τις εξαιρέσεις. Ωριμότερες, χαμηλού κινδύνου ροές εργασίας μπορεί τελικά να επιτρέπουν στους πράκτορες να αποφασίζουν και να ενεργούν ανεξάρτητα, ενώ οι σημαντικές αποφάσεις παραμένουν παρακολουθούμενες και καταγεγραμμένες.

Σχ. 5 : Αύξηση επιπέδου αυτονομίας

Το κατάλληλο όριο θα διαφέρει ανάλογα με τη διαδικασία. Μια τράπεζα μπορεί να επιτρέψει σημαντική αυτονομία στην ταξινόμηση εγγράφων ενώ απαιτεί αυστηρούς ελέγχους γύρω από τις αποφάσεις πίστωσης. Ένας ασφαλιστής μπορεί να αυτοματοποιήσει τις συνηθισμένες αξιώσεις ενώ κλιμακώνει ασυνήθιστους συνδυασμούς αποδείξεων. Μια οργάνωση υγειονομικής περίθαλψης μπορεί να επιτρέψει στους πράκτορες να συλλέγουν και να συνοψίζουν πληροφορίες, διατηρώντας τις σημαντικές αποφάσεις για τους ανθρώπους.

Το σημαντικό ερώτημα, επομένως, δεν είναι απλώς πόσο αυτόνομος μπορεί να γίνει ένας πράκτορας. Είναι πόση αυτονομία μπορεί ένας οργανισμός να λειτουργήσει υπεύθυνα.

Αυτό επίσης αλλάζει το ρόλο των ελέγχων. Οι έλεγχοι δεν είναι απαραίτητα μηχανισμοί μείωσης της αυτονομίας. Όταν εφαρμόζονται σωστά, επιτρέπουν σε έναν οργανισμό να επεκτείνει την αυτονομία με μεγαλύτερη εμπιστοσύνη.

Η Λειτουργία Πρακτόρων Μπορεί Να Αποδειχθεί Πιο Δύσκολη Απ’ Ότι Η Κατασκευή Τους

Τα μοντέλα θα συνεχίσουν να βελτιώνονται. Η χρήση εργαλείων θα βελτιωθεί. Τα πλαίσια πρακτόρων θα βελτιωθούν. Η λογική θα βελτιωθεί, και πολλά προβλήματα που φαίνονται δύσκολα σήμερα θα καταλήξουν τελικά να γίνονται ρουτίνα.

Ωστόσο, τα καλύτερα μοντέλα δεν εξαλείφουν τις επιχειρησιακές πολιτικές, τις μεταβαλλόμενες συνθήκες, τις εξαιρέσεις, τα οργανωτικά όρια ή τη λογοδοσία. Με κάποιον τρόπο, οι καλύτεροι πράκτορες καθιστούν αυτά τα ζητήματα πιο σημαντικά. Ένα σύστημα που δεν μπορεί να ενεργεί αυτόνομα έχει περιορισμένη λειτουργική εξουσία. Ένα σύστημα ικανό να εκτελεί χιλιάδες επιχειρησιακές αποφάσεις δημιουργεί μια εντελώς διαφορετική ευθύνη.

Αυτός είναι ο λόγος για τον οποίο η επόμενη φάση της επιχειρησιακής AI ενδέχεται να μην καθορίζεται από το ποιος οργανισμός αναπτύσσει τους περισσότερους πράκτορες. Μπορεί να καθορίζεται από το ποιοι οργανισμοί μαθαίνουν πώς να τους λειτουργούν.

Το πρώτο 80 % δείχνει ότι ο πράκτορας μπορεί να λειτουργήσει. Το υπόλοιπο 20 % καθορίζει αν η επιχείρηση μπορεί να τον εμπιστευτεί με τις επιχειρηματικές δραστηριότητες.

Καθώς οι πράκτορες γίνονται πιο ικανοί, το καθοριστικό επιχειρηματικό ερώτημα μπορεί να μετατοπιστεί από τι μπορούν να κάνουν οι πράκτορές μας σε κάτι πιο δύσκολο:

Τι είμαστε διατεθειμένοι να τους επιτρέψουμε να κάνουν, υπό ποιες συνθήκες, και πώς θα γνωρίζουμε πότε αυτές οι συνθήκες αλλάζουν;

Αυτή είναι η αρχή των Λειτουργιών Πράκτορα.