Μηχανή προς Ανθρώπινη Αλληλεπίδραση: Το Πρόβλημα του “Τελευταίου Μιλίου” που Κρατάει την Επιχειρηματική Νοημοσύνη Πίσω

Μέχρι πολύ πρόσφατα, οι συζητήσεις στη διοίκηση γύρω από την Νοημοσύνη بودند επικεντρωμένες στα ίδια τα μοντέλα. Είναι η έξοδος ακριβής; Πόσο καθαρά ήταν τα δεδομένα εκπαίδευσης; Πώς μπορούμε να μειώσουμε την προκατάληψη; Είναι οι ψευδαισθήσεις υπό έλεγχο; Αυτά τα ερωτήματα εξακολουθούν να έχουν σημασία, φυσικά, αλλά η έξοδος δεν είναι πλέον το μόνο που οι διοικήσεις και οι μετόχοι προσεχτικά παρακολουθούν. Αντίθετα, ενδιαφέρονται για κάτι που είναι πολύ πιο δύσκολο να μετρηθεί – αν τα συστήματα Νοημοσύνης λειτουργούν πραγματικά με τους ανθρώπους τόσο αποτελεσματικά όσο θα μπορούσαν σε καθημερινές αλληλεπιδράσεις.

Αυτό είναι εν μέρει το λόγο για τον οποίο η IBM πρόσφατα βρέθηκε αντιμέτωπη με μια πρόταση μετόχου που απαιτούσε μεγαλύτερη διαφάνεια σχετικά με τον τρόπο με τον οποίο διαχειρίζεται την προκατάληψη και τη διακυβέρνηση της Νοημοσύνης. Η πρόταση επικεντρώθηκε συγκεκριμένα στην μείωση της προκατάληψης, αλλά το ευρύτερο συμπέρασμα ήταν ότι καθώς η Νοημοσύνη γίνεται όλο και περισσότερο ενσωματωμένη σε διαδικασίες λήψης αποφάσεων, αξιολογείται με βάση την λειτουργική της ευθύνη και τα μετρήσιμα επιχειρηματικά αποτελέσματα και όχι με βάση το βασικό επίπεδο ικανότητας.

Αυτό που βλέπω στις συζητήσεις με τις επιχειρήσεις είναι ότι πολύ λίγοι άνθρωποι εξακολουθούν να αμφισβητούν εάν τα μοντέλα είναι ικανά. Οι περισσότερες οργανώσεις ήδη γνωρίζουν ότι αυτά τα συστήματα μπορούν να παράγουν εξόδους, να αυτοματοποιούν ροές εργασιών και να επιφέρουν ερευνήσεις με εξαιρετική ταχύτητα. Το πιο δύσκολο ερώτημα είναι εάν όλα αυτά βελτιώνουν συνεχώς τα αποτελέσματα μέσα στην επιχείρηση. Οι υπάλληλοι χρησιμοποιούν πραγματικά αυτά τα συστήματα με σημαντικούς τρόπους; Εμπιστεύονται τις συστάσεις που λαμβάνουν; Οι αποφάσεις γίνονται πιο σαφείς, ταχύτερες ή πιο συνεπείς; Ή οι οργανώσεις απλώς παράγουν περισσότερο περιεχόμενο, περισσότερη ανάλυση και περισσότερο θόρυβο χωρίς να αλλάζουν τον τρόπο με τον οποίο οι άνθρωποι λειτουργούν; Αυτό το χάσμα μεταξύ της ικανότητας της Νοημοσύνης και της ανθρώπινης υιοθέτησης είναι αυτό που θεωρώ ως το “τελευταίο μίλι” της επιχειρηματικής Νοημοσύνης. Είναι εκεί όπου το ROI, η εμπιστοσύνη, η ευθύνη και η λειτουργική συνεκτικότητα συναντώνται, και είναι εκεί όπου πολλές αναπτύξεις αρχίζουν να σταματούν.

Η ικανότητα δεν είναι το μπουκάλι – ο ανθρώπινος контекστ είναι

Η πρόταση μετόχου της IBM herself επικεντρώθηκε στην προκατάληψη, một γνωστή και αυξανόμενη ανησυχία στη βιομηχανία. Η απόφαση καλούσε την IBM να παράγει επιπλέον αναφορές σχετικά με τις μεθόδους που χρησιμοποιεί για την αναγνώριση και μείωση της προκατάληψης σε όλα τα μοντέλα της Νοημοσύνης, συμπεριλαμβανομένων των πιθανών κινδύνων που συνδέονται με αυτά τα μέτρα μείωσης. Η IBM ανταποκρίθηκε, υποστηρίζοντας ότι πολλές από αυτές τις πληροφορίες ήταν ήδη δημόσια διαθέσιμες μέσω καρτών μοντέλων, εγγράφων διακυβέρνησης, αναφορών διαφάνειας και υποβολών στο δείκτη διαφάνειας μοντέλων του Stanford. Οι περισσότεροι παρατηρητές αναγνώρισαν ότι η IBM είχε κάνει περισσότερα από πολλές εταιρείες για να λειτουργήσει τις πρακτικές της ευθύνη της Νοημοσύνης, ενώ επίσης αναγνώριζαν ότι η διακυβέρνηση και η προκατάληψη παρέμειναν ανεπίλυτα προβλήματα σε ολόκληρη τη βιομηχανία.

Αυτό που με ενδιαφέρει δεν είναι εάν η απάντηση της IBM ήταν σωστή ή λάθος. Είναι τι η整οτητα αυτή η κατάσταση λέει για το πού πηγαίνουν οι συζητήσεις της επιχείρησης για την Νοημοσύνη. Οι διοικήσεις έχουν κυρίως μετακινηθεί σε μια νέα φάση αξιολόγησης της Νοημοσύνης που επικεντρώνεται στην ποιότητα της απόφασης, την λειτουργική επίδραση, την εμπιστοσύνη των υπαλλήλων και τη μακροπρόθεσμη υιοθέτηση μέσα στην επιχείρηση.

Αυτό είναι όπου μια οπτική της νευροεπιστήμης με οδηγεί σε ένα διαφορετικό συμπέρασμα από πολλές τρέχουσες συζητήσεις για την επιχειρηματική Νοημοσύνη. Οι άνθρωποι δεν είναι ορθολογικές μηχανές εισόδου-εξόδου. Προσέγγιζουμε τις αποφάσεις με πεπερασμένη προσοχή, μεταβαλλόμενη εμπιστοσύνη, γνωστική υπερφόρτωση και συνεχώς μεταβαλλόμενο σκοπό. Όταν οι αλληλεπιδράσεις φαίνονται αργές, όταν οι προκατασκευασμένες απαντήσεις χάνουν αυτό που πραγματικά εννοούσαμε, ή όταν οι άνθρωποι πρέπει να πολεμήσουν το σύστημα για να φτάσουν σε κάτι χρήσιμο, η εμπλοκή καταρρέει πολύ πριν οι μετρήσεις υιοθέτησης συλλάβουν. Ο κίνδυνος ψευδαισθήσεων, η ασυνέπεια και η προκατάληψη απλώς ενισχύουν το πρόβλημα, δημιουργώντας τριβή μέσα στις ροές εργασιών που αρχικά προορίζονταν να βελτιώσουν την παραγωγικότητα και τη λήψη αποφάσεων. Αυτό το “τελευταίο μίλι” είναι αυτό που οι περισσότερες οργανώσεις ακόμα υποτιμούν: η αξία της Νοημοσύνης δεν δημιουργείται όταν ένα μοντέλο παράγει μια απάντηση, αλλά όταν παρέχει την σωστή απάντηση στην σωστή στιγμή και οι άνθρωποι μπορούν να την εμπιστευτούν αρκετά για να ενεργήσουν με βάση αυτό που παράγει.

Γιατί αγνοούμε τον πραγματικό “άνθρωπο στη βρόχη” – τον χρήστη;

Ακούμε πολύ πρόσφατα για τον “άνθρωπο στη βρόχη” και τη σημασία της παρουσίας ενός ανθρώπου για να εγκρίνει την έξοδο της Νοημοσύνης. Αλλά τι αν ο πιο σημαντικός άνθρωπος – ο χρήστης – δεν κατανοείται σωστά; Η αλληλεπίδραση ανθρώπου με άνθρωπο είναι σύνθετη και πολύπλοκη, αλλά ο λόγος για τον οποίο η άμεση επικοινωνία λειτουργεί τόσο καλά είναι ότι καμία νюανς δεν χάνεται. Αν κάποιος διστάζει, χάνει την εμπιστοσύνη, γίνεται εξοργισμένος ή confounded, ή ο σκοπός του αλλάζει, αυτό διαρκεί κατά τη διάρκεια της αλληλεπίδρασης και η συζήτηση αλλάζει ανάλογα. Τα περισσότερα συστήματα Νοημοσύνης εξακολουθούν να παλεύουν να αναγνωρίσουν αυτά τα σήματα επειδή είναι πιο ή menos “σε ράγες” σε αυτό που απαντούν μόνο στην τελευταία πρόκληση του χρήστη.

Κατά τη γνώμη μου, αυτό γίνεται μια από τις οριστικές περιορισμούς των τρέχοντων αναπτύξεων της επιχειρηματικής Νοημοσύνης. Έχουμε κατασκευάσει συστήματα που είναι εξαιρετικά καλά στο να παράγουν πληροφορίες ενώ παραμένουν περιορισμένα στην ικανότητά τους να αναγνωρίσουν εάν αυτή η πληροφορία βοηθά κάποιον να λάβει καλύτερες αποφάσεις.

Μια οργάνωση μπορεί να αναπτύξει εργαλεία Νοημοσύνης για χιλιάδες υπαλλήλους και ακόμα να μην επιτύχει σημαντική ευθυγράμμιση στο πώς αυτά τα συστήματα χρησιμοποιούνται πραγματικά. Πλαίσια όπως το πλαίσιο διαχείρισης κινδύνων της NIST, το ISO/IEC 42001 και ο νόμος της ΕΕ για την Νοημοσύνη πιέζουν τις οργανώσεις προς μεγαλύτερη ωριμότητα διακυβέρνησης και λειτουργικής ευθύνη. Αλλά η διακυβέρνηση στο χαρτί δεν πηγαίνει πολύ μακριά αν η εμπλοκή των υπαλλήλων με την Νοημοσύνη παραμένει θραυσματική. Αν διαφορετικές ομάδες εμπιστεύονται και χρησιμοποιούν τη Νοημοσύνη με εντελώς διαφορετικούς τρόπους, η μέτρηση του ROI γίνεται σχεδόν αδύνατη, και αυτό είναι ένα πρόβλημα που καμία πρόκληση δεν μπορεί να διορθώσει.

Ο κόστος της υπερφόρτωσης της Νοημοσύνης

Τώρα εισερχόμαστε σε μια φάση όπου η Νοημοσύνη γίνεται πλήρως πανταχού παρούσα μέσα στις ροές εργασιών της Νοημοσύνης. Υπάρχουν συν-πιλότοι ενσωματωμένοι σε σουίτες παραγωγικότητας, περίληψη συνεδριάσεων που παράγονται από τη Νοημοσύνη μετά από κάθε κλήση, πίνακες που επιφέρουν προβλέψεις σε πραγματικό χρόνο, μηχανές συστάσεων που τροφοδοτούν τους υπαλλήλους με συνεχείς προτάσεις και αυτοματοποιημένη ανάλυση που εμφανίζεται γρηγορότερα από ό,τι οι περισσότερες ομάδες μπορούν να επεξεργαστούν. Σε χαρτί, αυτό φαίνεται σαν πρόοδος – οι επιχειρήσεις παράγουν περισσότερες πληροφορίες από ποτέ. Αλλά η γνωστική επιστήμη έχει BEEN σαφής γι’ αυτό για δεκαετίες: περισσότερες πληροφορίες δεν παράγουν αυτόματα καλύτερες αποφάσεις.

Οι άνθρωποι μπορούν να απορροφήσουν μόνο τόσο πολλές πληροφορίες πριν αρχίσει να εγκαθίσταται η υπερφόρτωση. Πολλές συστάσεις δημιουργούν διστακτικότητα. Πολλές ειδοποιήσεις γίνονται θόρυβος. Πολλές επιλογές που παράγονται από τη Νοημοσύνη μπορούν να αφήσουν τους υπαλλήλους να διστάζουν αντί να ενεργούν με εμπιστοσύνη. Αυτό που είναι ενδιαφέρον είναι ότι τα συστήματα Νοημοσύνης γίνονται εξαιρετικά καλά στο να παράγουν πληροφορίες ενώ εξακολουθούν να παραμένουν σχετικά κακές στην κατανόηση του πώς οι άνθρωποι λαμβάνουν, ερμηνεύουν και ανταποκρίνονται σε αυτές τις πληροφορίες στο контέκστ. Οι διοικήσεις δεν ενδιαφέρονται για το πόσες περίληψεις, συστάσεις ή παραγόμενες ερευνήσεις μπορεί να παράγει ένα σύστημα. Ενδιαφέρονται για το εάν οι αποφάσεις γίνονται πιο σαφείς και πιο αξιόπιστες σε ολόκληρη την επιχείρηση.

Η Νοημοσύνη έχει εισέλθει στη φάση της ευθύνη

Η πρόταση μετόχου της IBM μπορεί να προήλθε από ανησυχίες σχετικά με την προκατάληψη, αλλά νομίζω ότι αντανακλά κάτι πολύ ευρύτερο που συμβαίνει σε ολόκληρη την επιχειρηματική Νοημοσύνη. Η καινοτομία της Νοημοσύνης έχει περάσει, και οι επιχειρήσεις που αναζητούν một σOLID επταeturn στην επένδυση τους στη Νοημοσύνη δεν μπορούν πλέον να κοιτάζουν μόνο στην ικανότητα του μοντέλου. Η τεχνολογία έχει αποδείξει τον εαυτό της, αλλά τώρα χρειάζεται μια μέτρηση της ευθύνη. Πόσο συνεχώς οι υπάλληλοι χρησιμοποιούν αυτά τα συστήματα; Βελτιώνονται οι αποφάσεις; Αυξάνονται η εμπιστοσύνη και η εμπλοκή με τον χρόνο, ή σταδιακά εξαφανίζονται; Όσο η Νοημοσύνη γίνεται πιο ενσωματωμένη στις καθημερινές ροές εργασιών, η επόμενη γενιά των συστημάτων μπορεί να χρειαστεί να γίνει πολύ πιο συνειδητή της ανθρώπινης συμπεριφοράς, της προσοχής, της εμπιστοσύνης και του σκοπού αν οι επιχειρήσεις θέλουν να έχουν μια βιώσιμη υιοθέτηση και μετρήσιμο ROI. Μέχρι τότε, το “τελευταίο μίλι” θα παραμείνει ένα από τα μεγαλύτερα προβλήματα στην υιοθέτηση της επιχειρηματικής Νοημοσύνης.