Διακυβέρνηση του AI: Ένα Πρόβλημα για τους Περισσότερους, Ένα Πλεονέκτημα για τους Λίγους

Το επιχειρηματικό AI συσσωρεύει κίνδυνο γρηγορότερα από ό,τι οποιοςδήποτε λογαριασμός. Οι πράκτορες AI αρχίζουν να αγγίζουν δεδομένα πελατών, κώδικα παραγωγής και σημαντικές επιχειρηματικές αποφάσεις, και στις περισσότερες οργανώσεις, διέπονται από ελέγχους που σχεδιάστηκαν για μια πολύ διαφορετική εποχή της τεχνολογίας. Ταυτόχρονα, οι εξωτερικές υποστηρίξεις που οι επιχειρήσεις θα μπορούσαν να βασιστούν είναι λεπτές. Οι κορυφαίοι εργαστηριακός AI έχουν περιορίσει τις εθελοντικές δεσμεύσεις ασφαλείας, και η ρύθμιση παραμένει αποσυνδεδεμένη σε διάφορες δικαιοδοσίες. Το βάρος της εμπιστοσύνης πέφτει στις εταιρείες που αναπτύσσουν το AI, γιατί τελικά είναι αυτοί που θα υποφέρουν από τα αρνητικά αποτελέσματα όταν και αν αυτά εμφανιστούν.

Κάνω στρατηγική εργασία AI με εταιρείες σε σχεδόν tous τους κλάδους, και μιλάω με CEOs και διοικητικά συμβούλια καθημερινά. Το συνεχές μοτίβο που βλέπω είναι το εξής: η ανάπτυξη επιταχύνεται ενώ η υποδομή ελέγχου απλά δεν τηρεί το ρυθμό. Το μοτίβο είναι αρκετά συνεπές, ώστε να το θεωρώ δομικό παρά μόνο μια αποτυχία μιας εταιρείας, και θα κάνω μια πρόβλεψη: δεν είμαστε μακριά από έναν CEO που θα πρέπει να εξηγήσει ότι ένα μεγάλο λάθος κόστισε στην επιχείρηση εκατομμύρια, και θα κατηγορήσει το AI. Θα πρότεινα ευγενικά ότι αυτό δεν είναι μια δικαιολογία.

Η καλή είδηση είναι ότι έχω την τύχη να δω από πρώτο χέρι μια χούφτα εταιρειών που αντιμετωπίζουν τη διακυβέρνηση διαφορετικά, και πιστεύω ότι αυτές οι εταιρείες χτίζουν ένα μακροπρόθεσμο πλεονέκτημα που συσσωρεύεται με τον καιρό, ενώ οι άλλοι που περιμένουν στα πλάγια κινδυνεύουν να γίνουν ξεπερασμένοι. Η κατανόηση του τι βλέπουν οι λίγοι αρχίζει με την κατανόηση του πού οδηγεί η τρέχουσα τροχιά.

Προχωρούμε προς ένα Πρόβλημα

Οι σημερινές αναπτύξεις είναι αρκετά μικρές, ώστε η ανθρώπινη επιτήρηση να μπορεί να απορροφήσει τον κίνδυνο. Η τελευταία Έρευνα του Deloitte για την Κατάσταση του AI στην Επιχείρηση βρήκε ότι μόνο ένα τέταρτο των ερωτηθέντων οργανισμών είχε μεταφέρει τουλάχιστον το 40% των πειραμάτων AI τους σε παραγωγή. Οι περισσότερες επιχειρήσεις είναι ακόμη στην αρχή της καμπύλης, εκτελώντας μια χούφτα πρακτόρων σε στενά σημεία χρήσης με ανθρώπους που παρακολουθούν κάθε κομμάτι της εξόδου.

Η τροχιά είναι αυτό που έχει σημασία. Όταν οι αναπτύξεις κλιμακώνονται από δύο πράκτορες σε 20, σε 200, σε 2.000 και πέρα, η πολυπλοκότητα συσσωρεύεται. Κάθε νέος πράκτορας φέρνει τη δική του συμπεριφορά, плюς τις αλληλεπιδράσεις του με κάθε σύστημα που αγγίζει και κάθε άλλον πράκτορα που συνεργάζεται. Σε δύο πράκτορες, η εμπιστοσύνη είναι εύκολη: γνωρίζετε την ομάδα, και αναθεωρείτε τις εξόδους μόνοι σας. Σε 20, η εμπιστοσύνη πρέπει να γίνει μια διαδικασία, με καθορισμένους ιδιοκτήτες, δοκιμές και μονοπάτια ανόδου. Μπορεί ακόμη να λειτουργήσει, αλλά γίνεται πιο δύσκολο να διατηρηθεί. Σε 200, η ανεπίσημη αναθεώρηση γίνεται θέατρο, γιατί καμία ηγετική ομάδα δεν μπορεί να ελέγξει τόση δραστηριότητα. Και σε 2.000, ο άνθρωπος στο βρόχο είναι praktikally άχρηστος, γιατί οι αλληλεπιδράσεις μεταξύ των πρακτόρων, των δεδομένων και των επιχειρηματικών διαδικασιών σχηματίζουν ένα δίκτυο πέρα από αυτό που μπορεί να καλύψει η χειροκίνητη επιτήρηση. Σε αυτή την κλίμακα, η εμπιστοσύνη πρέπει επίσης να υπάρχει σε κλίμακα και να είναι ενσωματωμένη στην τεχνική αρχιτεκτονική της εταιρείας.

Το Κόστος του Περιμένοντος

Η λείπουσα υποδομή εμπιστοσύνης είναι επίσης ένας από τους λόγους για τις απογοητευτικές αποδόσεις. Στη τελευταία Έρευνα του PwC για τους CEOs, το 56% των διευθύνων συμβούλων είπε ότι το AI είχε παραγάγει ούτε αυξημένα έσοδα ούτε μειωμένα κόστη το προηγούμενο έτος. Κατά την εμπειρία μου, ακόμη και οι αποδόσεις που αναφέρονται φαίνονται λιγότερο πειστικές όταν εξετάζουμε την υποκείμενη οικονομία. Οι περισσότερες εταιρείες μετρούν τις ώρες που σώζονται και τις αποκαλούν απόδοση επένδυσης. Οι ώρες που σώζονται γίνονται οικονομική απόδοση μόνο όταν ο οργανισμός μετατρέπει αυτή τη δυνατότητα σε κάτι πιο πολύτιμο: μεγαλύτερη παραγωγή, καλύτερη ποιότητα, αποφεύγοντας κόστη, ταχύτερη ανάπτυξη, κ.λπ.

Αυτή η μετατροπή απαιτεί εμπιστοσύνη. Μια εταιρεία μπορεί να μεταφέρει την ανθρώπινη κρίση σε πιο πολύτιμη δουλειά μόνο όταν η ηγεσία εμπιστεύεται τα συστήματα που αναλαμβάνουν τη δουλειά χαμηλότερης αξίας. Απουσία αυτής της εμπιστοσύνης, οι εταιρείες συσσωρεύουν τεχνικό χρέος που δεν κλιμακώνεται, και με τον καιρό, επηρεάζει σημαντικά την παραγωγικότητα. Είναι το χειρότερο από τα δύο κόσμια: αυξημένα έξοδα με λίγα να δείχνουν γι’ αυτό. Η εμπιστοσύνη είναι η βάση πάνω στην οποία αυτές οι αποδόσεις συσσωρεύονται.

Το Πρόβλημα του Ανελκυστήρα

Η σύνδεση μεταξύ της εμπιστοσύνης και της υιοθέτησης δεν είναι κάτι καινούριο, και μπορούμε να πάρουμε μια λογική αναφορά από τη μεσαία εποχή του 20ου αιώνα. Οι ανελκυστήρες χωρίς οδηγό υπήρχαν δεκαετίες πριν από οποιοδήποτε άτομο θα τους οδηγούσε. Η τεχνολογία λειτουργούσε, αλλά οι επιβάτες θα μπαινοβγαιναν σε ένα αυτοκίνητο, θα έβλεπαν keinen οδηγό και θα ξαναβγαιναν. Αυτό που άλλαξε δεν ήταν ο ανελκυστήρας, αλλά οι ελέγχοι ασφαλείας γύρω του. Μετά από μια απεργία των χειριστών το 1945 που έκλεισε τα κτήρια γραφείων σε όλη τη Νέα Υόρκη, η βιομηχανία σχεδίασε την εμπιστοσύνη στο μηχάνημα selbst: το κουμπί έκτακτης ανάγκης, τη τηλεφωνική γραμμή, τις πόρτες που ξανανοίγουν όταν συναντήσουν αντίσταση, και μια ηχογραφημένη φωνή που εξηγεί τι να κάνετε. Μέσα σε μια γενιά, το να οδηγείς σε ένα ανελκυστήρα χωρίς άνθρωπο στα χειρόφρενα έγινε τόσο συνηθισμένο που το να μπαίνεις σε ένα ανελκυστήρα με ένα άτομο στα χειρόφρενα ένιωθε ξεπερασμένο. Το εμπόδιο για την αφαίρεση του ανθρώπου από το βρόχο δεν ήταν ποτέ η ικανότητα. Ήταν η εμπιστοσύνη, και η βιομηχανία την έλυσε χτίζοντας ορατούς, επαλήθευτους ελέγχους στο σύστημα και τοποθετώντας τους όπου κάθε επιβάτης θα μπορούσε να τους δει.

Το επιχειρηματικό AI είναι στο στάδιο του βήματος, βήματος. Οι ηγετικές ομάδες βλέπουν τους πράκτορες να λειτουργούν χωρίς άνθρωπο στα χειρόφρενα και διστάζουν, και η διστακτικότητα είναι ορθολογική: οι περισσότερες οργανώσεις δεν έχουν ακόμη χτίσει τους αντίστοιχους ελέγχους στο σύστημά τους. Οι εταιρείες που σχεδιάζουν αυτούς τους ελέγχους στα συστήματά τους θα είναι αυτές που θα κάνουν τους ανθρώπους, τους πελάτες και τους ρυθμιστές να μπουν και να μείνουν.

Οι Προμηθευτές Μπορούν Να Κρατήσουν Μόνο Ένα Μέρος Αυτού

Πολλοί ηγέτες ελπίζουν ότι οι προμηθευτές AI θα φέρουν το βάρος της εμπιστοσύνης. Οι προμηθευτές μπορούν να παρέχουν ελέγχους ασφαλείας και ασφάλειας στα επίπεδα του μοντέλου, και οι καλοί το κάνουν. Η απόφαση για το αν μια συγκεκριμένη ανάπτυξη είναι κατάλληλη για τα δεδομένα σας, τις ρυθμιστικές σας υποχρεώσεις, τους πελάτες σας και την ανοχή σας στο ρίσκο παραμένει δική σας δουλειά, γιατί ο προμηθευτής σας δεν έχει το контекст να το κάνει. Δεν έχουν ποτέ δει τις υποχρεώσεις σας, και δεν έχουν办法 να υπολογίσουν τι κοστίζει μια κακή έκβαση για σας.

Μια δεσμεύση ασφαλείας του προμηθευτή καλύπτει το μοντέλο του, όχι τη χρήση του. Δεν είναι επίσης μόνιμη: όπως το προηγούμενο έτος έχει δείξει, αυτές οι δεσμεύσεις μπορούν να αναθεωρηθούν ή να ανακληθούν. Οι ρυθμισμένες βιομηχανίες έθεσαν αυτό το ζήτημα πολύ καιρό πριν για τα μοντέλα τρίτων, και το πρότυπο που κατέληξαν είναι το σωστό: ο οργανισμός που αναπτύσσει το μοντέλο είναι ο ιδιοκτήτης του κινδύνου.

Τι Κάνουν Οι Λίγοι

Οι εταιρείες που προηγούνται κάνουν τρεις κινήσεις:

1. Χτίζουν υποδομή ελέγχου τώρα, με μέγεθος για την κλίμακα που σκοπεύουν να φτάσουν και όχι για την κλίμακα που είναι, γιατί οι έλεγχοι πρέπει να υπάρχουν πριν από τους πράκτορες που τους χρειάζονται.
2. Ενσωματώνουν την ταξινόμηση και την μείωση του κινδύνου στην αρχή της διαδικασίας ανάπτυξης και όχι ως πύλη αναθεώρησης στο τέλος, ώστε κάθε περίπτωση χρήσης να ταξινομείται και οι έλεγχοι να είναι αναλογικοί προς τον κίνδυνο από την πρώτη ημέρα.
3. Και στήνουν ανεξάρτητη διακυβέρνηση με πραγματική εξουσία να επαλήθευση αυτών των συστημάτων ότι συμπεριφέρονται όπως προορίζονται, διατηρώντας την ευελιξία να εξελίσσονται με την τεχνολογία. Η ανεξαρτησία κάνει την επαλήθευση πιστευτή. Η ευελιξία τη διατηρεί επίκαιρη.

Αξίζει να σημειωθεί ότι λίγοι ρυθμιστές έχουν καθορίσει ρητά κανόνες για τη χρήση και την εποπτεία του γεννητικού AI, αλλά αυτό δεν σημαίνει ότι δεν έχουμε τίποτα να κοιτάξουμε για καθοδήγηση. Οι ρυθμιστές έχουν καλά καθορισμένους κανόνες για τη διαχείριση των παραδοσιακών μοντέλων, και μπορούμε να τους χρησιμοποιήσουμε ως οδηγό. Το Απρίλιο, η Ομοσπονδιακή Τράπεζα, το OCC και το FDIC εξέδωσαν επαναξιολογημένες οδηγίες για τον κίνδυνο του μοντέλου που αντανακλούν δεκαετίες πρακτικής, μια προσεγγισή βασισμένη σε αρχές που περιλαμβάνει αποθέματα μοντέλων, ελέγχους κινδύνου αναλογικούς προς την έκθεση, ανεξάρτητη επαλήθευση, συνεχής παρακολούθηση και ευθύνη επιχείρησης για προϊόντα προμηθευτών, και οδηγούσαν τις επιχειρήσεις να εφαρμόσουν αυτές τις ίδιες πρακτικές στο AI από μόνοι τους. Το μήνυμα είναι σαφές: οι αρχές που λειτουργούν είναι γνωστές, και οι επίσημες κανόνες AI δεν έρχονται σύντομα. Οι επιχειρήσεις που περιμένουν για ρυθμιστική σαφήνεια θα περιμένουν ενώ οι λίγοι ενεργούν. Αυτός είναι ο λόγος για τον οποίο οι βαρέα ρυθμισμένες βιομηχανίες, που περιγράφονται συχνά ως αργές, εισέρχονται σε αυτή την εποχή με ένα προβάδισμα. Έχουν δαπανήσει δεκαετίες χτίζοντας ακριβώς τη μηχανή εμπιστοσύνης που όλοι χρειάζονται τώρα, και δεν περιμένουν άδεια για να τη χρησιμοποιήσουν.

Το Ερώτημα που Μετράει

Η διαίρεση έχει ήδη σχηματιστεί. Οι περισσότερες εταιρείες αντιμετωπίζουν τη διακυβέρνηση ως ένα κόστος: κάτι που απορροφάται, ανεχόμενο και ελαχιστοποιείται. Οι λίγοι την αντιμετωπίζουν ως την υποδομή που τους επιτρέπει να μεταφέρουν τους ανθρώπους σε πιο πολύτιμη δουλειά και να κλιμακώσουν με εμπιστοσύνη. Κάθε ηγετική ομάδα είναι σε μια από τις δύο πλευρές, είτε έχει επιλέξει σκόπιμα είτε όχι, και το χάσμα συσσωρεύεται ήσυχα μπροστά στην κλίμακα που θα το αποκαλύψει. Κανείς δεν σκέφτεται δύο φορές πριν μπει σε ένα ανελκυστήρα σήμερα, γιατί η εμπιστοσύνη έχει χτιστεί μέσα του. Οι εταιρείες που κάνουν το ίδιο για το AI θα κλιμακώσουν πέρα από όλους εκείνους που ακόμη quyếtίζουν αν θα μπει μέσα.