Ηγέτες σκέψης

Πώς η εξηγήσιμη τεχνητή νοημοσύνη βελτιώνει την αξιοπιστία και την εμπιστοσύνη

Balakrishna D R
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ επεξηγησιμότητα είναι απαραίτητη για την εμπιστοσύνη των χρηστών σε τεχνητή νοημοσύνη…
Δείτε περισσότερα
  • Η επεξηγησιμότητα είναι απαραίτητη για την εμπιστοσύνη των χρηστών σε τεχνητή νοημοσύνη υψηλού ρίσκου, όπως σε ιατρικές αποφάσεις και αποφάσεις δανειοδότησης.
  • Κανονισμοί όπως ο GDPR επιβάλλουν το δικαίωμα σε επεξήγηση για τη λογοδοσία αυτοματοποιημένων αποφάσεων.
  • Τεχνικές όπως οι LIME και SHAP δημιουργούν απλούστερα μοντέλα για την ερμηνεία σύνθετων προβλέψεων τεχνητής νοημοσύνης.

Καθώς η Τεχνητή Νοημοσύνη (AI) δημοκρατικοποιείται σε επιχειρήσεις, ενσωματώνεται σταδιακά στον ιστό της ύπαρξής μας. Μια σημαντική πτυχή αυτής της δημοκρατικοποίησης είναι ότι οι τελικοί χρήστες πρέπει να μπορούν να κατανοήσουν πλήρως τη διαδικασία και τους μηχανισμούς που χρησιμοποιεί η Τεχνητή Νοημοσύνη για να φτάσει σε ένα συμπέρασμα ή να λειτουργήσει για να επιτύχει τα επιθυμητά αποτελέσματα. Ως άνθρωποι, έχουμε μια βαθιά ριζωμένη ανάγκη να ανακαλύψουμε το “γιατί” και το “πώς” οποιουδήποτε φαινομένου, η οποία έχει επιταχύνει την τεχνολογική μας πρόοδο. Στο πλαίσιο της Τεχνητής Νοημοσύνης, αυτή η κατανόηση ονομάζεται “εξηγησιμότητα”.

Γιατί η Εξηγήσιμη Τεχνητή Νοημοσύνη είναι η ανάγκη της ώρας;

Συχνά προσεγγίζουμε την Τεχνητή Νοημοσύνη ως ένα “μαύρο κουτί”, όπου έχουμε μόνο γνώση των εισόδων και εξόδων, αλλά κάπου οι διαδικασίες που χρησιμοποιούνται χάνονται για μας. Αυτό το πρόβλημα επιδεινώνεται από το γεγονός ότι οι αλγόριθμοι που τροφοδοτούν τις περισσότερες δημοφιλείς μορφές της Τεχνητής Νοημοσύνης, όπως οι σύνθετοι αλγόριθμοι βαθιάς μάθησης και η επεξεργασία φυσικής γλώσσας, είναι υψηλά αφηρημένοι ακόμη και για τους πιο επιτυχημένους ειδικούς.

Εμπιστοσύνη και Διαφάνεια: Για τους χρήστες να εμπιστεύονται τις προβλέψεις της Τεχνητής Νοημοσύνης, πρέπει να έχει κάποιο επίπεδο εξηγήσιμης Τεχνητής Νοημοσύνης. Για παράδειγμα, αν ένας ιατρός πρέπει να συνιστά μια θεραπεία με βάση τις προβλέψεις της Τεχνητής Νοημοσύνης, πρέπει να είναι βέβαιος για την προβλέψη. Μια τράπεζα πρέπει να έχει πλήρη εμπιστοσύνη στην απόφαση να απορρίψει ή να εγκρίνει ένα δάνειο και να μπορεί να την εξηγήσει και να την δικαιολογήσει σε όλους τους ενδιαφερόμενους. Μια Τεχνητή Νοημοσύνη που χρησιμοποιείται για την επιλογή και την πρόσληψη πρέπει να αποδείξει ότι οι υποκείμενοι μηχανισμοί είναι δίκαιοι και ισοδύναμοι για όλους τους υποψηφίους.

Κάνει την Τεχνητή Νοημοσύνη πιο ανθρώπινη και αυξάνει την υιοθέτηση: Σε μια έκθεση της Mckinsey, The state of AI in 2020 report, μαθαίνουμε ότι ένας κατασκευαστής χρησιμοποιεί εξαιρετικά διαφανή μοντέλα για την αποδοχή από τους εργαζόμενους του, οι οποίοι πρέπει να εμπιστεύονται τις κρίσεις που λαμβάνει η Τεχνητή Νοημοσύνη σχετικά με την ασφάλειά τους. Για την ταχεία υιοθέτηση της Τεχνητής Νοημοσύνης, η απόκτηση της έγκρισης των ενδιαφερόμενων είναι το κύριο εμπόδιο για την κλιμάκωση από απλές λύσεις σε επιχειρηματικό επίπεδο και να λάβουμε το μέγιστο από την επένδυση. Αυτό ευνοείται σε μεγάλο βαθμό αν η απόδοση είναι εξηγήσιμη στο ευρύ κοινό. Από επιχειρηματική πλευρά, η εξηγήσιμη Τεχνητή Νοημοσύνη βελτιώνει την συνολική εμπειρία του χρήστη και αυξάνει την ικανοποίηση του πελάτη. Σύμφωνα με τα ευρήματα μιας έρευνας του IBM Institute for Business Value, το 68% των ανώτατων στελεχών πιστεύει ότι οι πελάτες θα απαιτήσουν περισσότερη εξηγήσιμη Τεχνητή Νοημοσύνη τα επόμενα τρία χρόνια.

Αποκαλύπτει προκαταλήψεις και βελτιώνει την απόδοση του μοντέλου: Ένας προγραμματιστής πρέπει να γνωρίζει πώς μπορεί να βελτιώσει την απόδοση του μοντέλου και πώς ακριβώς να το διορθώσει και να το ρυθμίσει λεπτομερώς. Ένα σαφές πλαίσιο εξηγήσιμης Τεχνητής Νοημοσύνης είναι ένα από τα πιο σημαντικά εργαλεία για την διεξαγωγή της ενδελεχούς ανάλυσης που χρειάζεται.

Προσφέρει σαφέστερες και ολοκληρωμένες γνώσεις: Μια πλήρης 360-βαθμιαία άποψη χρειάζεται για την πλήρη κατανόηση των συστάσεων που δίνει η Τεχνητή Νοημοσύνη. Για παράδειγμα, αν η Τεχνητή Νοημοσύνη χρησιμοποιείται για τη λήψη μιας επενδυτικής απόφασης, θα χρειαζόταν επίσης να γνωρίζουμε τη λογική πίσω από αυτή, ώστε να μεταφέρει αυτή τη γνώση σε άλλους τομείς και να κατανοήσει τις πιθανές παγίδες της λήψης αυτής της απόφασης. Μια ισχυρή κατανόηση του πώς λειτουργεί η Τεχνητή Νοημοσύνη θα επίσης επιτρέψει στους λήπτες αποφάσεων να ανακαλύψουν νέες χρήσεις.

Κανονισμοί και Ευθύνη: Πολλοί κανονισμοί όπως ο GDPR απαιτούν ένα δικαίωμα εξηγήσεως, για την αντιμετώπιση των προβλημάτων ευθύνης που προκύπτουν από μια αυτόματη διαδικασία λήψης αποφάσεων. Σε συστήματα όπως τα αυτόνομα οχήματα, αν κάτι πάει στραβά και οδηγεί σε απώλεια ζωής και περιουσίας, χρειάζεται μια σαφής γνώση της ρίζας του προβλήματος, η οποία θα είναι δύσκολο να εντοπιστεί σε ένα “μαύρο κουτί” σύστημα.

Πώς μπορεί η Τεχνητή Νοημοσύνη να είναι πιο εξηγήσιμη;

Οι εξηγήσιμες Τεχνητές Νοημοσύνης (XAI) αναπτύσσονται χρησιμοποιώντας διαφορετικές τεχνικές που εστιάζουν είτε στην εξήγηση του μοντέλου ως ένα σύνολο είτε στην εξήγηση του λόγου πίσω από μια προβλέψη μέσω της βοήθειας κάποιου αλγορίθμου.

Οι περισσότερες τεχνικές εξηγήσιμης Τεχνητής Νοημοσύνης βασίζονται σε:

  • Αποσύνθεση του μοντέλου σε μεμονωμένα συστατικά)
  • Οπτικοποίηση των προβλέψεων του μοντέλου (για παράδειγμα, αν ένα μοντέλο ταξινομεί ένα αυτοκίνητο ως μια συγκεκριμένη μάρκα, υπογραμμίζει το μέρος που προκάλεσε να το σημειώσει ως τέτοιο)
  • Εξόρυξη εξηγήσεων (χρησιμοποιώντας τεχνικές μηχανικής μάθησης για την εύρεση σχετικών δεδομένων που εξηγήσουν την προβλέψη ενός αλγορίθμου Τεχνητής Νοημοσύνης).

Σε μια τέτοια τεχνική που ονομάζεται proxy modeling, ένα απλούστερο και πιο κατανοητό μοντέλο όπως ένα δέντρο απόφασης χρησιμοποιείται για να αντιπροσωπεύσει περίπου το πιο περίπλοκο μοντέλο Τεχνητής Νοημοσύνης. Αυτές οι απλές εξηγήσεις δίνουν μια αρκετά σαφή εικόνα του μοντέλου σε υψηλό επίπεδο, αλλά μπορεί να καταπιέζουν κάποιες αποχρώσεις.

Μια άλλη προσέγγιση ονομάζεται “ερμηνεία με σχεδιασμό” Αυτή η προσέγγιση θέτει περιορισμούς στο σχεδιασμό και την εκπαίδευση του δικτύου Τεχνητής Νοημοσύνης με νέο τρόπο, που προσπαθεί να κατασκευάσει το συνολικό δίκτυο από μικρότερα και απλούστερα εξηγήσιμα κομμάτια . Αυτό περιλαμβάνει έναν συμβιβασμό μεταξύ του επιπέδου ακρίβειας με την εξηγήσιμη Τεχνητή Νοημοσύνη και περιορίζει κάποιες προσεγγίσεις από το εργαλείο του επιστήμονα δεδομένων. Μπορεί επίσης να είναι πολύ υπολογιστικά εντατική.

Η εκπαίδευση και το τεστ της Τεχνητής Νοημοσύνης μπορούν επίσης να χρησιμοποιήσουν αγνωστικές τεχνικές επαλήθευσης δεδομένων, όπως το τοπικό ερμηνεύσιμο μοντέλο (LIME) και οι προσθετικές εξηγήσεις Shapley (SHAP), και αυτά πρέπει να προσαρμοστούν για να επιτύχουν υψηλή ακρίβεια με τη χρήση της μετρικής F-score, της ακρίβειας και άλλων μετρικών. Και, φυσικά, όλα τα αποτελέσματα πρέπει να παρακολουθούνται και να ελέγχονται χρησιμοποιώντας μια ποικιλία δεδομένων. Χρησιμοποιώντας το LIME, για παράδειγμα, οι οργανισμοί είναι σε θέση να δημιουργήσουν προσωρινά μοντέλα που μιμούνται τις προβλέψεις των μη διαφανών αλγορίθμων όπως η μηχανική μάθηση. Αυτά τα μοντέλα LIME μπορούν τότε να δημιουργήσουν μια ποικιλία από παραλλαγές με βάση ένα δεδομένο σύνολο δεδομένων και την αντίστοιχη έξοδο, η οποία μπορεί να χρησιμοποιηθεί για την εκπαίδευση απλών και πιο ερμηνεύσιμων μοντέλων μαζί με πλήρη λίστες εξηγήσεων για κάθε απόφαση και/ή προβλέψη. Το πλαίσιο SHAP που έχει τις ρίζες του στη θεωρία παιγνίων και συγκεκριμένα από τη συνεργατική θεωρία παιγνίων συνδυάζει τη βέλτιστη απόδοση συνεισφορών στο αποτέλεσμα με τοπικές εξηγήσεις χρησιμοποιώντας τις αρχικές τιμές Shapley από τη θεωρία παιγνίων και τις παράγωγες μεθόδους τους.

Αρχές Λειτουργίας

Σε ένα πιο στρατηγικό επίπεδο, ωστόσο, τα πλαίσια αξιοπιστίας της Τεχνητής Νοημοσύνης πρέπει να περιλαμβάνουν ένα ευρύ σύνολο αρχών που στοχεύουν στην εγγύηση σωστών αποτελεσμάτων τόσο στην αρχή της ανάπτυξης όσο και με την πάροδο του χρόνου, καθώς τα μοντέλα εξελίσσονται με την παρουσία αλλαγών. Τουλάχιστον, αυτά τα πλαίσια πρέπει να περιλαμβάνουν πράγματα όπως:

  • Ανίχνευση Προκαταλήψεων – όλα τα σύνολα δεδομένων πρέπει να καθαριστούν από προκαταλήψεις και χαρακτηριστικά που εισάγουν διακρίσεις και να δοθεί η σωστή βαρύτητα και να χρησιμοποιούνται με ορθή κρίση όταν εφαρμόζονται στο μοντέλο;
  • Ανθρώπινη Επέμβαση – οι χειριστές πρέπει να μπορούν να ερευνήσουν και να ερμηνεύσουν τις εξόδους του αλγορίθμου σε όλες τις στιγμές, ιδιαίτερα όταν τα μοντέλα χρησιμοποιούνται για την επιβολή του νόμου και τη διατήρηση των πολιτικών ελευθεριών;
  • Αιτιολόγηση – όλες οι προβλέψεις πρέπει να μπορούν να αντέξουν στον έλεγχο, το οποίο φυσικά απαιτεί ένα υψηλό επίπεδο διαφάνειας για να επιτρέψει στους εξωτερικούς παρατηρητές να αξιολογήσουν τις διαδικασίες και τα κριτήρια που χρησιμοποιούνται για την παραγωγή αποτελεσμάτων;
  • Αναπαραγωγιμότητα – τα αξιοπιστά μοντέλα Τεχνητής Νοημοσύνης πρέπει να είναι συνεπή στις προβλέψεις τους και πρέπει να εμφανίζουν υψηλά επίπεδα σταθερότητας όταν συναντούν νέα δεδομένα.

Αλλά η XAI δεν πρέπει να θεωρείται μόνο ως ένα μέσο για την βελτίωση της κερδοφορίας, αλλά για να φέρει την ευθύνη για να διασφαλίσει ότι τα ιδρύματα μπορούν να εξηγήσουν και να δικαιολογήσουν την επίδραση των δημιουργιών τους στην κοινωνία ως ένα σύνολο.

Ο Balakrishna, γνωστός ως Bali D.R., είναι ο Διευθυντής της Τεχνητής Νοημοσύνης και Αυτοματοποίησης στην Infosys όπου διευθύνει τόσο την εσωτερική αυτοματοποίηση για την Infosys όσο και παρέχει ανεξάρτητες υπηρεσίες αυτοματοποίησης αξιοποιώντας προϊόντα για τους πελάτες. Ο Bali βρίσκεται στην Infosys για περισσότερα από 25 χρόνια και έχει διατελέσει σε ρόλους πωλήσεων, διαχείρισης προγραμμάτων και παροχής υπηρεσιών σε διάφορες γεωγραφικές περιοχές και κλάδους της βιομηχανίας.