Ο άνθρωπος στη βρόχη δεν είναι διακυβέρνηση

Η προφανής απάντηση στο ρίσκο του AI είναι “βάλτε έναν άνθρωπο στη βρόχη”.

Ο άνθρωπος στη βρόχη λειτουργεί μόνο αν η βρόχη είναι σχεδιασμένη. Αλλιώς, ο άνθρωπος γίνεται یکی από τρεις αποτυχίες:

• Ένα μποτλνεκ, επειδή η αναθεώρηση της εξόδου του AI διαρκεί όσο και η εκτέλεση του έργου με το χέρι.
• Ένα ραβδωτό σφραγίδι, επειδή ο αναθεωρητής είναι υπερφορτωμένος, δεν μπορεί να δει τις αποδείξεις, δεν κατανοεί το επιχειρηματικό контέκστ και κάνει κλικ στο εικονίδιο έγκρισης για να διατηρήσει την κίνηση.
• Ή η τρίτη αποτυχία: η ζώνη συντριβής. Προσθέτοντας έναν άνθρωπο στη βρόχη, το ίδρυμα ονομάζει ένα πρόσωπο υπεύθυνο, αλλά δεν του δίνει κανένα πραγματικό έλεγχο, κανένα χρόνο, καμία εξουσία, καμία δυνατότητα να σταματήσει το σύστημα και καμία οδός να αλλάξει την επόμενη εκτέλεση. Η συνέπεια πέφτει στον άνθρωπο, ενώ η λήψη απόφασης παραμένει αμετάβλητη.

Αυτός είναι ο τόπος όπου πολλή συζήτηση γύρω από το enterprise AI πάει λάθος. Μιλάμε για το αν ένας άνθρωπος πρέπει να αναθεωρήσει το έργο, αλλά όχι για το πώς αυτή η αναθεώρηση είναι σχεδιασμένη. Υποθέτουμε ότι η προσθήκη ενός ατόμου δημιουργεί διακυβέρνηση. Δεν το κάνει. Η διακυβέρνηση εξαρτάται από το αν ο αναθεωρητής έχει σημαντικό έλεγχο, σημαντική ορατότητα και την ικανότητα να βελτιώσει το σύστημα μετά την λήψη απόφασης.

Η αναθεώρηση του ανθρώπου είναι πολύτιμη, αλλά μόνο όταν τοποθετείται εκεί όπου η κρίση έχει σημασία και υποστηρίζεται από αρκετό контέκστ για να κάνει αυτή την κρίση σημαντική.

Μια πύλη επικύρωσης είναι περισσότερο από ένα βήμα αναθεώρησης

Μια πύλη δεν είναι ένα παύση. Είναι μια διεπαφή επικύρωσης.

Όταν ένας πράκτορας ή αυτοματοποίηση παράγει μια πρόταση – ένα προσχέδιο απόκρισης, μια προτεινόμενη ενέργεια, μια ταξινόμηση, μια εξουσιοδότηση πληρωμής, μια διαδρομή περιπτώσεων, ένα πακέτο επιστροφής ή ένα γράμμα απόρριψης – ο αναθεωρητής πρέπει να κατανοήσει αμέσως τι πρόκειται να συμβεί και γιατί.

Μια πραγματική πύλη επικύρωσης πρέπει να δείξει τι έχει σημασία: η προτεινόμενη ενέργεια, οι πηγές πίσω της, οι κανόνες που ελέγχθηκαν, η επιχειρηματική μετάβαση που θα συμβεί, η εξουσία που χρησιμοποιείται, το αρχείο ελέγχου που θα γραφτεί, η αβεβαιότητα ή η εξαίρεση που προκάλεσε την αναθεώρηση και οι διαθέσιμες επιλογές: έγκριση, επεξεργασία, απόρριψη ή αναβάθμιση.

Κάθε ένα από αυτά τα στοιχεία υπάρχει για έναν λόγο. Η προτεινόμενη ενέργεια εξηγεί τι πρόκειται να κάνει το σύστημα. Οι υποστηρικτικές αποδείξεις εξηγούν γιατί. Οι κανόνες και η εξουσία δείχνουν αν η σύσταση ταιριάζει μέσα στην πολιτική του οργανισμού. Η αβεβαιότητα λέει στον αναθεωρητή γιατί το έργο έφτασε σε έναν άνθρωπο στην πρώτη θέση. Μαζί, μετατρέπουν την αναθεώρηση από δουλειά σε επικύρωση.

Αν ο αναθεωρητής πρέπει να ανακατασκευάσει όλα αυτά χειροκίνητα, η πύλη δεν είναι κατασκευασμένη.

Ο σκοπός της πύλης δεν είναι απλώς να σταματήσει τα λάθη πριν συμβούν. Ο δεύτερος σκοπός είναι πιο σημαντικός. Καταγράφει την κρίση του ιδρύματος.

Αυτός είναι ο τόπος όπου η ανάπτυξη του enterprise ξεκινά να συνθέτει. Κάθε πραγματική απόφαση έγκρισης, επεξεργασίας, απόρριψης ή αναβάθμισης καταγράφει την κρίση του ιδρύματος – αλλά μόνο αν η πύλη καταγράψει το γιατί.

Οι εγκρίσεις δεν είναι δεδομένα, αλλά οι επικυρώσεις είναι.

Μια ραβδωτή σφραγίδα κλικ δεν καταγράφει τίποτα χρήσιμο. Μια επιθεωρημένη, επεξεργασμένη, απορριφθείσα ή αναβαθμισμένη απόφαση με einen κωδικό λόγου καταγράφει ένα σήμα που η επόμενη έκδοση του συστήματος μπορεί να μάθει από αυτό. Αν ο αναθεωρητής κάνει κλικ στην έγκριση χωρίς να δει, το σύστημα δεν μαθαίνει τίποτα. Αν ο αναθεωρητής επεξεργάζεται, απορρίπτει, αναβαθμίζει και δίνει einen λόγο, το ίδρυμα καταγράφει την κρίση.

Με τον καιρό, αυτές οι κρίσεις γίνονται ένα από τα πιο πολύτιμα περιουσιακά στοιχεία του οργανισμού. Αποκαλύπτουν哪里 οι πολιτικές είναι ασαφείς, όπου οι ροές εργασίας σπάνε συστηματικά, όπου οι εξαιρέσεις συμβαίνουν πιο συχνά και όπου η αυτοματοποίηση πρέπει να γίνει πιο自信 – ή πιο περιορισμένη. Ο στόχος δεν είναι απλώς να αυτοματοποιήσει περισσότερο έργο. Είναι να βελτιώσει την ποιότητα των μελλοντικών αποφάσεων καταγράφοντας πώς οι έμπειροι άνθρωποι ασκούν κρίση σήμερα.

Η ευθύνη απαιτεί περισσότερα από ένα ονομασμένο ιδιοκτήτη

Αυτή η διάκριση αλλάζει τον τρόπο που τα ιδρύματα πρέπει να σκέφτονται για την ευθύνη.

Μια πύλη δεν είναι αρκετό. Ένας ονομασμένος ιδιοκτήτης δεν είναι αρκετός. Ένα αρχείο ελέγχου δεν είναι αρκετό.

Η ευθύνη απαιτεί λήψη συνέπειας: το λάθος πρέπει να πέσει σε κάποιο μέρος που μπορεί να αλλάξει τη μελλοντική συμπεριφορά.

Πριν από την ανάπτυξη του AI σε έργα με συνέπειες, τα ιδρύματα πρέπει να ρωτήσουν πέντε ερωτήσεις:

1. Ποιος λαμβάνει τη συνέπεια αν αυτή η ενέργεια είναι λάθος;
2. Είχε το πρόσωπο ή το σύστημα σημαντικό έλεγχο πριν από την ενέργεια;
3. Μπορεί ο υπεύθυνος ιδιοκτήτης να ελέγξει, να περιορίσει, να ανατρέψει ή να σταματήσει τον πράκτορα ή την αυτοματοποίηση;
4. Είναι η ευθύνη αναλογική με τον έλεγχο που είχε ο ιδιοκτήτης;
5. Τι αλλάζει πριν από την επόμενη εκτέλεση: η δεξιότητα, ο κανόνας, η άδεια, η ροή εργασίας, η αυτοματοποίηση, η πύλη επικύρωσης, ο κωδικός λόγου, η εκπαίδευση ή η κατηγορία εμπιστοσύνης;

Μια ανθρώπινη πύλη χωρίς σημαντικό έλεγχο δεν είναι διακυβέρνηση. Είναι μια ζώνη συντριβής.

Η βρόχη δεν είναι κλειστή μέχρι η καταγεγραμμένη κρίση να αλλάξει κάτι: την δεξιότητα, τον κανόνα, την άδεια, το όριο αναβάθμισης, την αυτοματοποίηση, το τεστ, τη διεπαφή αναθεώρησης, το σχέδιο εκπαίδευσης, το δείγμα ελέγχου ή την κατηγορία εμπιστοσύνης. Μια συνέπεια που δεν αλλάζει την επόμενη εκτέλεση είναι μόνο ένα περιστατικό, όχι μάθηση. Τα ιδρύματα βελτιώνονται όταν κάθε σημαντική αναθεώρηση αλλάζει την επόμενη έκδοση του συστήματος, είτε βελτιώνοντας την πολιτική, είτε στενεύοντας τις άδειες, είτε βελτιώνοντας την αυτοματοποίηση ή είτε ενισχύοντας την πύλη επικύρωσης.

Οι φραγμοί αποτρέπουν την αποτυχία. Οι αξιολογήσεις χτίζουν εμπιστοσύνη.

Τα ιδρύματα πρέπει επίσης να διακρίνουν μεταξύ φραγμών και αξιολογήσεων. Λύνουν διαφορετικά προβλήματα που χρειάζονται λύσεις.

1. Οι φραγμοί επιβάλλουν συμπεριφορά κατά τη διάρκεια εκτέλεσης. Οι έλεγχοι σχήματος, οι αποκλεισμοί ασφαλών παραμέτρων, οι έλεγχοι άδειας, η διαγραφή PII, οι αμυντικές ενέργειες εναπόθεσης προτύπων και οι περιορισμοί χρήσης εργαλείων υπάρχουν για να αποτρέψουν την ασφαλή συμπεριφορά πριν συμβεί.
2. Οι αξιολογήσεις μετρούν την απόδοση με τον καιρό. Εξετάζουν την ποιότητα, την ολίσθηση, την επιλογή εργαλείου, την ποιότητα αναβάθμισης, το κόστος, την καθυστέρηση και την συμμόρφωση με την πολιτική. Λένε στο ίδρυμα αν το σύστημα συνεχίζει να αξίζει εμπιστοσύνη.

Ο ένας προστατεύει την τρέχουσα απόφαση. Ο άλλος βελτιώνει τις μελλοντικές αποφάσεις.

Οι φραγμοί και οι αξιολογήσεις εξυπηρετούν διαφορετικούς σκοπούς και così οι άνθρωποι που είναι υπεύθυνοι για αυτούς. Η πλατφόρμα επιβάλλει την πολιτική. Οι χειριστές αξιολογούν τα αποτελέσματα. Μαζί, δημιουργούν τον κύκλο ανατροφοδότησης που επιτρέπει στο σύστημα να βελτιώνεται χωρίς να θυσιάζει τη διακυβέρνηση.

Το σύστημα ανακτά την πολιτική, το αρχείο απαίτησης, τα υποστηρικτικά έγγραφα, τις προηγούμενες περιπτώσεις και το εγχειρίδιο του οργανισμού. Προετοιμάζει το πακέτο τριών, προτείνει σοβαρότητα, αναγνωρίζει τις λείψανες αποδείξεις και ανοίγει μια υποπερίπτωση απάτης αν οι κανόνες το απαιτούν. Ο διορθωτής βλέπει την προτεινόμενη κίνηση, τις υποστηρικτικές αποδείξεις, τον κωδικό λόγου, το αρχείο ελέγχου και τη συνέπεια της έγκρισης. Αντί να ανακατασκευάσει την περίπτωση από πολλά συστήματα, ο αναθεωρητής μπορεί να επικεντρωθεί στην επικύρωση της σύστασης herself. Μόνο μετά την επικύρωση η αυτοματοποίηση ενημερώνει την περίπτωση, εκδίδει πληρωμή, ζητάει πρόσθετα έγγραφα ή κλείνει το έργο.

Μια ροή αξιοποίησης δείχνει πώς αυτό λειτουργεί στην πράξη. Ο πράκτορας δεν μετέτρεψε μια διαδικασία. Ενεργούσε μέσα σε một χαρτογραφημένο χάρτη.

Η αρχιτεκτονική πρέπει να ακολουθήσει το έργο

Ο ίδιος κανόνας ισχύει ανεξάρτητα από τον τρόπο που το έργο είναι οργανωμένο. Δεν κάθε πρόβλημα του enterprise έχει το ίδιο σχήμα και η διακυβέρνηση πρέπει να αντανακλά αυτό. Κάποιο έργο ξεκινά με ένα στόχο. Κάποια ξεκινά με μια περίπτωση, κάποια με μια σταθερή ροή εργασίας. Η αρχιτεκτονική πρέπει να ακολουθήσει το έργο, όχι το αντίστροφο.

Μια ανάπτυξη που οδηγείται από στόχο ξεκινά με ένα αποτέλεσμα αντί για μια προκαθορισμένη οδό. Λύστε αυτή την αναβάθμιση του πελάτη. Μειώστε τον κίνδυνο εγκατάλειψης σε αυτόν τον λογαριασμό. Ερευνήστε αυτό το σήμα απάτης. Προετοιμάστε αυτό το σχέδιο ανανέωσης. Ο προορισμός είναι σαφής, αλλά η οδός μπορεί να αλλάξει καθώς νέες πληροφορίες γίνονται διαθέσιμες. Ένας κύριος πράκτορας αναλύει το έργο, χρησιμοποιεί εγκεκριμένους πράκτορες και εργαλεία, καλεί εγκεκριμένες αυτοματοποιήσεις και αναθέτει ανθρώπινο έργο μέσα σε διακυβερνητικές ορίους. Η δύναμή του είναι η προσαρμοστικότητα. Ο κίνδυνός του είναι ότι η προσαρμοστικότητα χωρίς σαφείς περιορισμούς γίνεται αβεβαιότητα.

Γι’ αυτό οι ευέλικτες συστήματα απαιτούν ισχυρότερη διακυβέρνηση, όχι λιγότερη. Σαφείς ορίοι ροής εργασίας, άδειες αυτοματοποίησης, δικαιώματα απόφασης, αρχεία ελέγχου και κανόνες αναβάθμισης γίνονται πιο σημαντικά καθώς το AI γίνεται πιο ικανό. Όσο περισσότερη ελευθερία έχει ένας πράκτορας να καθορίσει τη δική του οδό, τόσο πιο προσεκτικά το ίδρυμα πρέπει να ορίσει τα όρια μέσα στα οποία μπορεί να λειτουργήσει.

Το enterprise AI δεν θα επιτύχει επειδή κάθε απόφαση έχει έναν άνθρωπο κάπου στη βρόχη.

Θα επιτύχει επειδή τα ιδρύματα μαθαίνουν πώς να χτίσουν τη βρόχη herself.