Ηγέτες σκέψης

Όταν το AI εισέρχεται στις επιχειρηματικές λειτουργίες, η ερμηνευσιμότητα γίνεται απαραίτητη

VimalRaj Sampathkumar
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ Εξηγήσιμη Τεχνητή Νοημοσύνη χτίζει εμπιστοσύνη επιτρέποντας στις ομάδες να επιθεωρούν…
Δείτε περισσότερα
  • Η Εξηγήσιμη Τεχνητή Νοημοσύνη χτίζει εμπιστοσύνη επιτρέποντας στις ομάδες να επιθεωρούν αυτοματοποιημένες αποφάσεις σε υψηλού κινδύνου επιχειρησιακές διαδικασίες.
  • Διαφανή συστήματα ΤΝ δημιουργούν υπευθυνότητα και επιτρέπουν ταχύτερη επίλυση περιστατικών μέσω αναζητήσιμης λογικής.
  • Η επιχειρησιακή υιοθέτηση της ΤΝ αναπτύσσεται σε κλίμακα μόνο όταν η κατανόηση συμβαδίζει με την πολυπλοκότητα της αυτοματοποίησης.

Η υιοθέτηση του AI στις επιχειρήσεις έχει εισέλθει σε μια πιο πρακτική φάση. Για τους τεχνολογικούς ηγέτες, η πρόκληση δεν είναι πλέον το να πείσουν τον οργανισμό ότι το AI έχει δυνατότητες. Είναι να διασφαλίσουν ότι τα συστήματα που επηρεάζουν τις επιχειρηματικές αποφάσεις μπορούν να κατανοηθούν, να διευθυνθούν και να υπερασπισθούν.

Το AI κερδίζει τη θέση του στις επιχειρήσεις όταν οι άνθρωποι είναι πρόθυμοι να βασιστούν σε αυτό. Αυτή η εμπιστοσύνη δεν βασίζεται μόνο στα στατιστικά δεδομένα της απόδοσης. Εξαρτάται από το αν οι ομάδες νιώθουν ότι διατηρούν τον έλεγχο όταν η αυτοματοποίηση γίνεται μέρος της καθημερινής εργασίας.

Σε πολλές οργανώσεις, αυτό το αίσθημα του ελέγχου παραμένει αβέβαιο.

Γιατί η αδιαφάνεια επιβραδύνει την υιοθέτηση

Το AI είναι τώρα ενσωματωμένο σε όλες τις λειτουργίες IT, από τη διαδρομή των αιτημάτων υπηρεσίας έως τη συσχέτιση περιστατικών και τον προγραμματισμό δυναμικότητας. Αυτά είναι περιβάλλοντα όπου οι αποφάσεις είναι διασυνδεδεμένες και τα λάθη εξαπλώνονται γρήγορα. Όταν τα αποτελέσματα του AI εμφανίζονται χωρίς πλαίσιο, οι ομάδες συχνά διστάζουν. Η αυτοματοποίηση μπορεί να έχει αναπτυχθεί τεχνικά, αλλά οι συστάσεις της ελέγχονται, καθυστερούν ή απορρίπτονται σιωπηλά.

Αυτή η συμπεριφορά συχνά διαβάζεται λανθασμένα ως αντίσταση στην αλλαγή. Στην πραγματικότητα, αντανακλά την επαγγελματική ευθύνη σε υψηλού κινδύνου επιχειρηματικά περιβάλλοντα. Δημόσιες περιπτώσεις αποτυχίας του AI έχουν εντείνει αυτή την προφύλαξη. Όταν τα αυτοματοποιημένα συστήματα παράγουν αποτελέσματα που φαίνονται βέβαια αλλά αποδεικνύονται λανθασμένα, η ζημιά σπάνια οφείλεται μόνο στην φιλοδοξία. Προέρχεται από την αδιαφάνεια. Αν κανείς δεν μπορεί να εξηγήσει πώς έφτασε σε ένα συμπέρασμα, η εμπιστοσύνη εξαφανίζεται, ακόμη και αν το σύστημα είναι συνήθως ακριβές.

Μέσα στις ομάδες IT, αυτό εκφράζεται διακριτικά. Η αυτοματοποίηση λειτουργεί σε συμβουλευτικό τρόπο αντί για εκτελεστικό τρόπο. Οι μηχανικοί παραμένουν υπεύθυνοι για τα αποτελέσματα και αναμένεται να εμπιστεύονται τη λογική που δεν μπορούν να ελέγξουν. Με τον καιρό, αυτή η ανισορροπία δημιουργεί τριβή. Το AI είναι παρόν, αλλά η αξία του είναι περιορισμένη.

Μια διαφανής διαδικασία AI

Μεγαλύτερη διαφάνεια και ερμηνευσιμότητα μπορούν να αντιμετωπίσουν αυτό το πρόβλημα αποκαθιστώντας τη λογοδοσία στις αυτοματοποιημένες αποφάσεις. Το ερμηνευσιμο AI δεν σημαίνει την έκθεση κάθε εσωτερικού υπολογισμού. Σημαίνει την παροχή ουσιαστικής πληροφόρησης που είναι σχετική με τους ανθρώπινους χειριστές· ποια δεδομένα επηρέασαν μια απόφαση, ποίες συνθήκες είχαν το μεγαλύτερο βάρος και πώς αξιολογήθηκαν τα επίπεδα εμπιστοσύνης. Αυτό το πλαίσιο επιτρέπει στις ομάδες να κρίνουν εάν η έξοδος συμφωνεί με την επιχειρηματική πραγματικότητα.

Γνωστό επίσης ως AI λευκού κουτιού, ερμηνευσιμο AI δημιουργεί ένα είδος ερμηνευτικού στρώματος που εξηγεί πώς οι αποφάσεις του AI έχουν ληφθεί, αντί να αφήνει τις διαδικασίες και τη λογική του κρυφές από την άποψη. Αυτό δεν σημαίνει μόνο ότι τα συστήματα AI μπορούν να γίνουν μέρος ενός πιο υπεύθυνου πλαισίου, αλλά και ότι οι χρήστες κατανοούν πώς λειτουργεί κάθε σύστημα. Αυτό σημαίνει επίσης ότι μπορούν να αναγνωρίσουν τις αδυναμίες των μοντέλων AI και να προστατεύσουν από τις προκαταλήψεις.

Κρίσιμο, η ερμηνευσιμότητα σημαίνει ότι όταν κάτι πάει λάθος, οι ομάδες μπορούν να ανακατασκευάσουν τη λογική οδό, να αναγνωρίσουν τα αδύναμα σήματα και να βελτιώσουν τη διαδικασία. Χωρίς αυτή τη διαφάνεια, τα λάθη είτε επαναλαμβάνονται είτε αποφεύγονται εντελώς με την απενεργοποίηση της αυτοματοποίησης.

Ερμηνευσιμότητα σε δράση

Σκεφτείτε τη διαχείριση περιστατικών. Το AI χρησιμοποιείται συχνά για να ομαδοποιήσει τις ειδοποιήσεις μαζί και να προτείνει πιθανές αιτίες. Σε μεγάλα επιχειρησιακά περιβάλλοντα, μια μεμονωμένη λανθασμένη ταξινόμηση εξάρτησης κατά τη διάρκεια ενός μεγάλου περιστατικού μπορεί να καθυστερήσει την επίλυση κατά ώρες, τραβώντας πολλές ομάδες σε παράλληλες έρευνες ενώ οι υπηρεσίες που αντιμετωπίζουν τους πελάτες παραμένουν υποβαθμισμένες. Όταν αυτές οι προτάσεις συνοδεύονται από μια σαφή εξήγηση για ποια συστήματα συμμετείχαν, πώς οι εξαρτήσεις προσεγγίστηκαν ή ποια προηγούμενα περιστατικά αναφέρθηκαν, οι μηχανικοί μπορούν να κρίνουν τη σύσταση γρήγορα. Αν αποδειχθεί λανθασμένη, αυτή η πληροφόρηση μπορεί να χρησιμοποιηθεί για να βελτιώσει τόσο το μοντέλο όσο και τη διαδικασία.

Χωρίς αυτή τη διαφάνεια, οι ομάδες επαναστρέφονται στη χειροκίνητη διάγνωση, ανεξάρτητα από το πόσο προηγμένο μπορεί να είναι το AI.

Αυτή η ανάδραση είναι κεντρική για τη διατηρούμενη υιοθέτηση. Τα ερμηνευσιμα συστήματα εξελίσσονται μαζί με τους ανθρώπους που τα χρησιμοποιούν. Συστήματα μαύρου κουτιού, από την άλλη πλευρά, τείνουν να μένουν στάσιμα ή να παραμερίζονται μόλις μειωθεί η εμπιστοσύνη.

Ευθύνη και ιδιοκτησία

Η ερμηνευσιμότητα αλλάζει επίσης τον τρόπο με τον οποίο η ευθύνη διανέμεται. Σε επιχειρηματικά περιβάλλοντα, η ευθύνη δεν εξαφανίζεται απλώς επειδή μια απόφαση αυτοματοποιήθηκε. Κάποιος πρέπει ακόμη να σταθεί πίσω από το αποτέλεσμα. Όταν το AI μπορεί να εξηγήσει τον εαυτό του, η ευθύνη γίνεται πιο σαφής και πιο διαχειρίσιμη. Οι αποφάσεις μπορούν να αναθεωρηθούν, να δικαιολογηθούν και να βελτιωθούν χωρίς να αναζητούνται αμυντικές λύσεις.

Υπάρχει επίσης ένα όφελος διακυβέρνησης, αν και σπάνια είναι ο πρωταρχικός κινητήριος μηχανισμός εσωτερικά. Τα υπάρχοντα πλαίσια προστασίας δεδομένων και ευθύνη απαιτούν ήδη από τις οργανώσεις να εξηγήσουν τις αυτοματοποιημένες αποφάσεις σε ορισμένα πλαίσια. Όσο η νομοθεσία AI συνεχίζει να αναπτύσσεται, τα συστήματα που λείπουν διαφάνειας μπορεί να εκθέσουν τις οργανώσεις σε άσκοπο κίνδυνο.

Ωστόσο, η μεγαλύτερη αξία της ερμηνευσιμότητας έγκειται στην ανθεκτικότητα παρά στη συμμόρφωση. Οι ομάδες που κατανοούν τα συστήματά τους ανακτούν γρηγορότερα. Επιλύουν τα περιστατικά πιο αποτελεσματικά και ξοδεύουν λιγότερο χρόνο συζητώντας εάν η αυτοματοποίηση πρέπει να θεωρείται αξιόπιστη στην πρώτη θέση.

Σχεδιασμός AI για επιχειρηματική αριστεία

Οι μηχανικοί εκπαιδεύονται να αμφισβητούν τις υποθέσεις, να ελέγχουν τις εξαρτήσεις και να δοκιμάζουν τα αποτελέσματα. Όταν η αυτοματοποίηση υποστηρίζει αυτές τις ενστικτώδεις αντανακλάσεις αντί να τις παρακάμπτει, η υιοθέτηση γίνεται συνεργατική και μέρος της διαδικασίας αντί να επιβάλλεται δομή.

Υπάρχει, αναπόφευκτα, ένα κόστος για την κατασκευή συστημάτων με αυτόν τον τρόπο. Η ερμηνευσιμη AI απαιτεί πειθαρχημένες πρακτικές δεδομένων, προσεκτικά μελετημένες επιλογές σχεδιασμού και εξειδικευμένο προσωπικό που μπορεί να ερμηνεύσει τα αποτελέσματα με υπευθυνότητα. Μπορεί να μην κλιμακωθεί τόσο γρήγορα όσο τα αδιαφανή μοντέλα που βελτιστοποιούνται αποκλειστικά για ταχύτητα ή καινοτομία. Ωστόσο, η απόδοση αυτής της επένδυσης είναι σταθερότητα.

Οι οργανώσεις που προτεραιοποιούν την ερμηνευσιμότητα βλέπουν λιγότερες σταματημένες πρωτοβουλίες και λιγότερη σκιώδη λήψη αποφάσεων. Η αυτοματοποίηση γίνεται ένα αξιόπιστο επίπεδο εντός των επιχειρηματικών λειτουργιών αντί για ένα παράλληλο πείραμα που τρέχει σε απομόνωση. Ο χρόνος για να φτάσει στην αξία βελτιώνεται όχι επειδή τα συστήματα είναι ταχύτερα, αλλά επειδή οι ομάδες είναι πρόθυμες να τα χρησιμοποιήσουν πλήρως.

Κλιμάκωση με ευθύνη

Όσο το AI γίνεται μόνιμο στοιχείο της επιχειρηματικής υποδομής, η επιτυχία θα οριστεί λιγότερο από την φιλοδοξία και περισσότερο από την αξιοπιστία. Τα συστήματα που μπορούν να εξηγήσουν τις αποφάσεις τους είναι πιο εύκολα να εμπιστευτούν, πιο εύκολα να βελτιώσουν και πιο εύκολα να στηρίξουν όταν τα αποτελέσματα αμφισβητούνται.

Στα επιχειρηματικά περιβάλλοντα, η νοημοσύνη κλιμακώνεται μόνο όταν η κατανόηση παραμένει στο ίδιο επίπεδο με την αυτοματοποίηση.

Ο VimalRaj Sampathkumar, Τεχνικός Διευθυντής - Ηνωμένο Βασίλειο & Ιρλανδία, ManageEngine, είναι ένας Υπεύθυνος Προπωλήσεων και Στρατηγικών Πελατών με 13 χρόνια εμπειρίας σε Τεχνικές Πωλήσεις, Διαχείριση Λογαριασμών και Επιτυχία Πελατών. Έχει βαθιά τεχνική εμπειρία στη συμβουλευτική και εφαρμογή εφαρμογών ITSM, ITOM, SIEM, Διαχείριση Τερματικών, CRM, ATS και HCM/HRIS παγκοσμίως. Η εμπειρία του έχει να κάνει με την αύξηση των εσόδων και του μεριδίου αγοράς με την παροχή λύσεων που επικεντρώνονται στον πελάτη, την επίδειξη της αξίας του προϊόντος και την κατασκευή της βάσης για πιστές, μακροχρόνιες σχέσεις με τους πελάτες. Του αρέσει να παίζει κρίκετ, να διαβάζει και να ταξιδεύει στην ελεύθερη του ώρα.