Ηγέτες σκέψης

Από την πρόθεση στην αυτόνομη δράση: Διακυβέρνηση των πρακτόρων ΤΝ στις επιχειρήσεις

Casey Kindiger
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ διακυβέρνηση πρέπει να βρίσκεται μέσα στο προϊόν, επειδή καθορίζει ποιες ευθύνες…
Δείτε περισσότερα
  • Η διακυβέρνηση πρέπει να βρίσκεται μέσα στο προϊόν, επειδή καθορίζει ποιες ευθύνες μπορεί ένας οργανισμός να αναθέσει με ασφάλεια.
  • Ένα πρακτορικό επίπεδο ελέγχου συνδέει την ταυτότητα του πράκτορα και τις εγκεκριμένες δυνατότητες με την επιβολή πολιτικής και την εποπτεία εκτέλεσης.
  • Οι οργανισμοί πρέπει να ξεκινούν με μια στενή ροή εργασίας και να επεκτείνουν την εξουσία του πράκτορα μόνο όταν τα επιχειρησιακά δεδομένα το υποστηρίζουν.

Μια εντολή όπως «αποκατάσταση της υπηρεσίας» μοιάζει απλή, μέχρι να χρειαστεί ένας πράκτορας ΤΝ να αποφασίσει τι ακριβώς του επιτρέπει. Η επανεκκίνηση μιας εφαρμογής, η αλλαγή μιας ρύθμισης και η διάθεση υποδομής μπορεί να συμβάλλουν στον ίδιο στόχο, αλλά καθεμία έχει διαφορετικές συνέπειες. Καθώς οι πράκτορες περνούν από την πρόταση ενεργειών στην εκτέλεσή τους, οι οργανισμοί χρειάζονται σαφή σύνδεση ανάμεσα στην επιχειρηματική πρόθεση και την επιχειρησιακή εξουσιοδότηση.

Η διακυβέρνηση πρέπει να ενσωματώνεται στο ίδιο το προϊόν, καθώς καθορίζει ποιες αρμοδιότητες μπορεί ένας οργανισμός να αναθέτει με σιγουριά. Ένας πράκτορας που μπορεί να ολοκληρώνει μια εργασία αξιόπιστα, εντός συμφωνημένων ορίων και με τεκμηρίωση των ενεργειών του, προσφέρει ισχυρότερη βάση για την υιοθέτησή του σε επιχειρησιακό περιβάλλον από έναν πράκτορα του οποίου οι εξουσίες παραμένουν ασαφείς. Η αρχιτεκτονική πρόκληση είναι να ενσωματωθούν αυτά τα όρια στον τρόπο λειτουργίας του συστήματος.

Για να εφαρμοστούν στην πράξη αυτά τα όρια, χρειάζεται ένας συνεπής τρόπος διακυβέρνησης των ενεργειών των πρακτόρων. Ένα επίπεδο ελέγχου για πράκτορες μπορεί να προσφέρει αυτή τη βάση, συνδέοντας την ταυτότητα των πρακτόρων, τις εγκεκριμένες δυνατότητες, την επιβολή πολιτικών, τους ελέγχους μνήμης και την εποπτεία της εκτέλεσης στα υφιστάμενα επιχειρησιακά συστήματα. Καθορίζει ποιος ζήτησε μια ενέργεια, ποια εξουσιοδότηση τη στηρίζει, ποιους πόρους μπορεί να επηρεάσει και πώς θα επαληθευτεί το αποτέλεσμά της.

Ακολουθούν τρεις πρακτικές κατευθυντήριες γραμμές που προτείνουμε για τη διακυβέρνηση των πρακτόρων ΤΝ στις επιχειρήσεις:

Συνδέστε τις δυνατότητες με ρητή εξουσιοδότηση

Κάθε πράκτορας πρέπει να έχει σαφώς προσδιορισμένο υπεύθυνο, καθορισμένο σκοπό και δικαιώματα ανάλογα με την εργασία του. Αυτό συνάδει με το Πλαίσιο Διαχείρισης Κινδύνων ΤΝ του NIST, το οποίο αντιμετωπίζει τη διακυβέρνηση ως συνεχή λειτουργία σε όλο τον κύκλο ζωής της ΤΝ. Για τους πράκτορες, η αρχή αυτή πρέπει να ισχύει μέχρι και τη στιγμή που μια ενέργεια τροποποιεί ένα επιχειρησιακό σύστημα. Όταν ένας πράκτορας αναθέτει εργασία σε έναν άλλον, αυτά τα όρια πρέπει να παραμένουν σε ισχύ.

Η ανακάλυψη δυνατοτήτων απαιτεί αντίστοιχη πειθαρχία: ένας εγκεκριμένος κατάλογος πρέπει να περιγράφει τον σκοπό, τις εισόδους, τις εξόδους, τα επιτρεπόμενα περιβάλλοντα και τις πιθανές παρενέργειες κάθε εργαλείου. Η ανακάλυψη ενός εργαλείου δεν παρέχει άδεια εκτέλεσής του, επομένως η εξουσιοδότηση πρέπει να ελέγχεται τη στιγμή που επιχειρείται μια ενέργεια. Η καθοδήγηση της OWASP για την υπερβολική αυτονομία ενισχύει αυτή τη διάκριση, προτείνοντας τον περιορισμό των λειτουργιών και των δικαιωμάτων, καθώς και την επιβολή ελέγχων εξουσιοδότησης στα επόμενα συστήματα.

Ας εξετάσουμε ένα ενδεικτικό σενάριο αποκατάστασης υπηρεσίας, στο οποίο ένας πράκτορας διερευνά την επιβράδυνση μιας εφαρμογής και προτείνει την επανεκκίνηση ενός στοιχείου. Η πολιτική επιτρέπει την πρόσβαση σε εγκεκριμένα δεδομένα τηλεμετρίας, ενώ για την επανεκκίνηση σε περιβάλλον παραγωγής απαιτούνται αποδείξεις ότι ο πλεονασμός λειτουργεί σωστά και έγκριση από τον υπεύθυνο της υπηρεσίας. Αυτές οι προϋποθέσεις μετατρέπουν μια γενική εντολή σε οριοθετημένη επιχειρησιακή απόφαση.

Μετατρέψτε την επιχειρησιακή πρόθεση σε ελεγχόμενα εργαλεία

Αν υπάρχει εγκεκριμένο εργαλείο αποκατάστασης, ο πράκτορας μπορεί να προετοιμάσει ένα αίτημα αξιοποιώντας αυτή τη δυνατότητα. Αν δεν υπάρχει, μπορεί να συμβάλει στη δημιουργία ενός σεναρίου, ενός οδηγού λειτουργίας, ενός σχήματος εισόδου και μιας περιγραφής του εργαλείου, μετατρέποντας την επιχειρησιακή πρόθεση σε προτεινόμενη δυνατότητα που μπορούν να εξετάσουν άλλοι. Αυτή είναι η πρακτική αξία της δημιουργίας κώδικα εργαλείων από πράκτορες: οι πράκτορες μπορούν να συμβάλλουν στους μηχανισμούς λειτουργίας, καθώς και να τους χρησιμοποιούν.

Ωστόσο, η δημιουργία αυτών των μηχανισμών δεν πρέπει να τους καθιστά αυτομάτως εκτελέσιμους στο περιβάλλον παραγωγής. Για κάθε προτεινόμενη δυνατότητα χρειάζεται ανεξάρτητη διαδικασία διάθεσης, με σαφή ανάθεση ευθύνης, ελέγχους ασφαλείας, έλεγχο εκδόσεων και δοκιμές που καλύπτουν μη έγκυρες εισόδους, υπερβολικά ευρύ πεδίο εφαρμογής, μερικές αποτυχίες και επαναλαμβανόμενη εκτέλεση. Οι δοκιμές που δημιουργούνται από πράκτορες μπορούν να προσφέρουν τεκμηρίωση, αλλά ανεξάρτητη επικύρωση πρέπει να διαπιστώνει αν η δυνατότητα πληροί τις επιχειρησιακές απαιτήσεις της προτού ενταχθεί στον εγκεκριμένο κατάλογο.

Στη συνέχεια, τα όρια εκτέλεσης πρέπει να περιορίζουν το εύρος των πόρων, την πρόσβαση στο δίκτυο, τη διάρκεια και τις δαπάνες, ενώ κάθε απαιτούμενη έγκριση πρέπει να αφορά τη συγκεκριμένη ενέργεια, τον στόχο και την έκδοση. Οι ρυθμίσεις αποκατάστασης είναι εξίσου σημαντικές, καθώς ορισμένες αλλαγές μπορούν να ανακληθούν, ενώ άλλες απαιτούν αντισταθμιστικές ενέργειες ή δεν μπορούν να αναιρεθούν. Κάθε δυνατότητα πρέπει να καθιστά σαφείς αυτούς τους περιορισμούς και να παρέχει στους χειριστές έναν δοκιμασμένο τρόπο αναστολής περαιτέρω εκτέλεσης.

Η μνήμη δημιουργεί μια ακόμη ευθύνη διακυβέρνησης, καθώς οι παρατηρήσεις που διατηρούνται μπορεί να επηρεάζουν μελλοντικές αποφάσεις πολύ μετά την αλλαγή του αρχικού τους πλαισίου. Οι οργανισμοί πρέπει να ορίζουν τι επιτρέπεται να αποθηκεύουν οι πράκτορες, για πόσο διάστημα παραμένουν διαθέσιμες οι πληροφορίες και ποια όρια πρόσβασης ισχύουν, με μηχανισμούς τεκμηρίωσης της προέλευσης και διόρθωσης. Μια αποθηκευμένη άδεια δεν πρέπει ποτέ να μετατρέπεται σε διαρκή εξουσιοδότηση, ενώ παρωχημένη επιχειρησιακή γνώση δεν πρέπει να καθοδηγεί σιωπηρά νέες ενέργειες.

Διευρύνετε την αυτονομία βάσει τεκμηρίων

Η ουσιαστική εποπτεία βασίζεται σε τεκμήρια που συνδέουν το αρχικό αίτημα, την εφαρμοστέα πολιτική, την έγκριση, την έκδοση του εργαλείου, το αποτέλεσμα της εκτέλεσης και την επακόλουθη επαλήθευση. Οι ανθρώπινοι αξιολογητές χρειάζονται επαρκές πλαίσιο για να εκτιμήσουν την προτεινόμενη αλλαγή, την αβεβαιότητά της και τις διαθέσιμες επιλογές αποκατάστασης, χωρίς να κατακλύζονται από περιττές λεπτομέρειες. Για να υποστηρίζεται αυτή η εποπτεία, η κλιμάκωση πρέπει να ενεργοποιείται βάσει καθορισμένων συνθηκών, όπως αντικρουόμενες παρατηρήσεις ή άγνωστη κατάσταση συστήματος, και όχι να βασίζεται αποκλειστικά στη δηλωμένη βεβαιότητα ενός πράκτορα.

Οι επικεφαλής της πληροφορικής θα πρέπει να ξεκινούν με μια περιορισμένη ροή εργασιών και να διευρύνουν τις αρμοδιότητες καθώς το επιβεβαιώνουν τα επιχειρησιακά δεδομένα, μετρώντας τα επιτυχή αποτελέσματα παράλληλα με τις εξαιρέσεις, τον χρόνο αποκατάστασης, τις παραβιάσεις πολιτικών και την απαιτούμενη προσπάθεια εποπτείας. Αυτές οι μετρήσεις βοηθούν να καθοριστεί αν ένας πράκτορας είναι έτοιμος να αναλάβει μεγαλύτερη ευθύνη και σε ποιους τομείς χρειάζονται πρόσθετες δικλίδες ασφαλείας ή δοκιμές.

Η ευκαιρία έγκειται στο να γίνει η ανάθεση επαναλήψιμη διαδικασία, με κάθε εγκεκριμένη δυνατότητα να καθορίζει τι μπορεί να κάνει ένας πράκτορας, υπό ποιες συνθήκες και με ποια λογοδοσία. Αυτή η πειθαρχημένη προσέγγιση μπορεί να ενισχύσει την ανθεκτικότητα και την αποδοτικότητα, προσφέροντας παράλληλα στους οργανισμούς μια τεκμηριωμένη βάση για την παραχώρηση μεγαλύτερης αυτονομίας. Το σημαντικότερο συμπέρασμα είναι το εξής: η διακυβέρνηση δικαιώνει τη θέση της στο προϊόν, καθιστώντας δυνατή αυτή την εξέλιξη.

Casey Kindiger είναι ο Ιδρυτής και Διευθύνων Σύμβουλος της Droma (παλαιότερα Grokstream), μιας εταιρείας επιχειρηματικού AI που προωθεί προβλεπτικές λειτουργίες και λειτουργίες βασισμένες σε πράκτορες AI, και ένας σειριακός επιχειρηματίας που παλαιότερα ίδρυσε την Resolve Systems. Με περισσότερα από 25 χρόνια στην τεχνολογία επιχειρήσεων, μια δεκαετία ηγεσίας ερευνητικών ομάδων εφαρμοσμένου AI/ML, και μεταπτυχιακό στην Ψυχολογία & Νευροεπιστήμη της Ψυχικής Υγείας από το King's College London, φέρνει μια ξεχωριστή προοπτική για το πώς η ανθρώπινη γνωστική λειτουργία μπορεί να καθοδηγήσει την ανάπτυξη πιο ικανών, αξιόπιστων συστημάτων AI.