Πώς η Εξηγήσιμη Τεχνητή Νοημοσύνη Βελτιώνει την Αξιοπιστία και την Αξιοπιστία

Καθώς η Τεχνητή Νοημοσύνη (AI) δημοκρατικοποιείται σε επιχειρήσεις, ενσωματώνεται σταδιακά στο ιστό της ύπαρξής μας. Ένας σημαντικός аспект αυτής της δημοκρατικοποίησης είναι ότι οι τελικοί χρήστες πρέπει να能够 να κατανοήσουν πλήρως τη διαδικασία και τους μηχανισμούς που χρησιμοποιεί η Τεχνητή Νοημοσύνη για να φτάσει σε ένα συμπέρασμα ή να λειτουργήσει για να επιτύχει τα επιθυμητά αποτελέσματα. Ως άνθρωποι, έχουμε μια βαθιά ριζωμένη ανάγκη να ανακαλύψουμε το “γιατί” και το “πώς” οποιασδήποτε φαινομενικότητας, η οποία έχει επιταχύνει την τεχνολογική μας πρόοδο. Στο πλαίσιο της Τεχνητής Νοημοσύνης, αυτή η κατανόηση ονομάζεται “εξηγήσιμη Τεχνητή Νοημοσύνη”.

Γιατί η Εξηγήσιμη Τεχνητή Νοημοσύνη είναι η ανάγκη της ώρας;

Συχνά προσεγγίζουμε την Τεχνητή Νοημοσύνη ως một “μαύρο κουτί”, όπου έχουμε μόνο γνώση των εισόδων και εξόδων, αλλά κάπου οι διαδικασίες που χρησιμοποιούνται χάνονται για μας. Αυτό το πρόβλημα επιδεινώνεται από το γεγονός ότι οι αλγόριθμοι που τροφοδοτούν τις περισσότερες δημοφιλείς μορφές της Τεχνητής Νοημοσύνης, όπως οι σύνθετοι αλγόριθμοι βαθιάς μάθησης και η επεξεργασία φυσικής γλώσσας, είναι υψηλά αφηρημένοι ακόμη και για τους πιο επιτυχημένους ειδικούς.

Εμπιστοσύνη και Διαφάνεια: Για τους χρήστες να εμπιστεύονται τις προβλέψεις της Τεχνητής Νοημοσύνης, πρέπει να έχει κάποιο επίπεδο εξηγήσιμης Τεχνητής Νοημοσύνης. Για παράδειγμα, αν ένας ιατρός πρέπει να συνιστά μια θεραπεία με βάση τις προβλέψεις της Τεχνητής Νοημοσύνης, πρέπει να είναι βέβαιος για την προβλέψη. Một τράπεζα πρέπει να έχει πλήρη εμπιστοσύνη στην απόφαση να απορρίψει ή να εγκρίνει ένα δάνειο και να μπορεί να την εξηγήσει και να την δικαιολογήσει σε όλους τους ενδιαφερόμενους. Một Τεχνητή Νοημοσύνη που χρησιμοποιείται για την επιλογή και την πρόσληψη πρέπει να αποδείξει ότι οι υποκείμενοι μηχανισμοί είναι δίκαιοι και ισοδύναμοι για όλους τους υποψηφίους.

Κάνει την Τεχνητή Νοημοσύνη πιο ανθρώπινη και αυξάνει την υιοθέτηση: Σε μια έκθεση της Mckinsey, The state of AI in 2020 report, μαθαίνουμε ότι ένας κατασκευαστής χρησιμοποιεί εξαιρετικά διαφανείς μοντέλα για την αποδοχή από τους εργαζόμενους του, οι οποίοι πρέπει να εμπιστεύονται τις κρίσεις που λαμβάνει η Τεχνητή Νοημοσύνη σχετικά με την ασφάλειά τους. Για την ταχεία υιοθέτηση της Τεχνητής Νοημοσύνης, η απόκτηση της έγκρισης των ενδιαφερόμενων είναι το κύριο εμπόδιο για την κλιμάκωση από απλές λύσεις σε επιχειρηματικό επίπεδο και να λάβουμε το μέγιστο από την επένδυση. Αυτό ευνοείται σε μεγάλο βαθμό αν η απόδοση είναι εξηγήσιμη στο ευρύ κοινό. Από επιχειρηματική πλευρά, η εξηγήσιμη Τεχνητή Νοημοσύνη βελτιώνει την συνολική εμπειρία του χρήστη και αυξάνει την ικανοποίηση του πελάτη. Σύμφωνα με τα ευρήματα μιας έρευνας του IBM Institute for Business Value, το 68% των κορυφαίων εκτελεστών πιστεύει ότι οι πελάτες θα απαιτήσουν περισσότερη εξηγήσιμη Τεχνητή Νοημοσύνη τα επόμενα三年.

Αποκαλύπτει προκαταλήψεις και βελτιώνει την απόδοση του μοντέλου: Ένας dévelopπερας πρέπει να γνωρίζει πώς μπορεί να βελτιώσει την απόδοση του μοντέλου και πώς ακριβώς να το διορθώσει και να το tinh chỉnh. Ένα σαφές πλαίσιο εξηγήσιμης Τεχνητής Νοημοσύνης είναι ένα από τα πιο σημαντικά εργαλεία για την διεξαγωγή μιας tỉς αναλύσεως που χρειάζεται.

Παίρνει πιο οξυδέρκεια και γύρω από τις επισημάνσεις: Μια πλήρης 360-βαθμιαία άποψη χρειάζεται για την πλήρη κατανόηση των προτύπων που λαμβάνει η Τεχνητή Νοημοσύνη. Για παράδειγμα, αν η Τεχνητή Νοημοσύνη χρησιμοποιείται για την λήψη μιας επένδυσης, θα χρειαζόταν επίσης να γνωρίζουμε τη λογική πίσω από αυτή, ώστε να μεταφέρει αυτή τη γνώση σε άλλους τομείς και να κατανοήσει τις πιθανές παγίδες της λήψης αυτής της απόφασης. Μια ισχυρή κατανόηση του πώς λειτουργεί η Τεχνητή Νοημοσύνη θα επίσης επιτρέψει στους λήπτες αποφάσεων να ανακαλύψουν νέες χρήσεις.

Κανονισμοί και Ευθύνη: Πολλοί κανονισμοί όπως ο GDPR απαιτούν ένα δικαίωμα εξηγήσεως, για την αντιμετώπιση των προβλημάτων ευθύνης που προκύπτουν από μια αυτόματη διαδικασία λήψης αποφάσεων. Σε συστήματα όπως τα αυτόνομα οχήματα, αν κάτι πάει στραβά και οδηγεί σε απώλεια ζωής και περιουσίας, χρειάζεται μια σαφής γνώση της ρίζας του προβλήματος, η οποία θα είναι δύσκολο να εντοπιστεί σε ένα “μαύρο κουτί” σύστημα.

Πώς μπορεί η Τεχνητή Νοημοσύνη να είναι πιο εξηγήσιμη;

Οι εξηγήσιμες Τεχνητές Νοημοσύνης (XAI) αναπτύσσονται χρησιμοποιώντας διαφορετικές τεχνικές που εστιάζουν είτε στην εξήγηση του μοντέλου ως ένα σύνολο είτε στην εξήγηση του λόγου πίσω από μια προβλέψη μέσω της βοήθειας κάποιου αλγορίθμου.

Οι περισσότερες τεχνικές εξηγήσιμης Τεχνητής Νοημοσύνης βασίζονται σε:

• Αποσύνθεση του μοντέλου σε μεμονωμένα компонента)
• Οπτικοποίηση των προβλέψεων του μοντέλου (για παράδειγμα, αν ένα μοντέλο ταξινομεί ένα αυτοκίνητο ως μια συγκεκριμένη μάρκα, υπογραμμίζει το μέρος που προκάλεσε να το σημειώσει ως τέτοιο)
• Εξήγηση Εξόρυξης (χρησιμοποιώντας τεχνικές μηχανικής μάθησης για την εύρεση σχετικών δεδομένων που εξηγήσουν την προβλέψη ενός αλγορίθμου Τεχνητής Νοημοσύνης).

Σε μια τέτοια τεχνική που ονομάζεται proxy modeling, ένα απλούστερο και πιο κατανοητό μοντέλο όπως ένα δέντρο απόφασης χρησιμοποιείται για να αντιπροσωπεύσει περίπου το πιο περίπλοκο μοντέλο Τεχνητής Νοημοσύνης. Αυτές οι απλές εξηγήσεις δίνουν μια δίκαιη ιδέα του μοντέλου σε υψηλό επίπεδο, αλλά μπορεί να καταπιέζουν κάποιες νюάνσεις.

Μια άλλη προσέγγιση ονομάζεται “ερμηνεία με σχεδιασμό” Αυτή η προσέγγιση θέτει περιορισμούς στο σχεδιασμό και την εκπαίδευση του δικτύου Τεχνητής Νοημοσύνης με νέο τρόπο, που προσπαθεί να κατασκευάσει το συνολικό δίκτυο από μικρότερα και απλούστερα εξηγήσιμα κομμάτια . Αυτό περιλαμβάνει ένα εμπόριο μεταξύ του επιπέδου ακρίβειας με την εξηγήσιμη Τεχνητή Νοημοσύνη και περιορίζει κάποιες προσεγγίσεις από το εργαλείο του επιστήμονα δεδομένων. Μπορεί επίσης να είναι πολύ υπολογιστικά εντατική.

Η εκπαίδευση και το τεστ της Τεχνητής Νοημοσύνης μπορούν επίσης να χρησιμοποιήσουν αγνωστικές τεχνικές επαλήθευσης δεδομένων, όπως το τοπικό ερμηνεύσιμο μοντέλο (LIME) και οι προσθήκες Shapley (SHAP), και αυτά πρέπει να προσαρμοστούν για να επιτύχουν υψηλή ακρίβεια με τη χρήση του F-βαθμολογίας, της ακρίβειας και άλλων μετρικών. Και, φυσικά, όλα τα αποτελέσματα πρέπει να παρακολουθούνται και να ελέγχονται χρησιμοποιώντας eine ποικιλία δεδομένων. Χρησιμοποιώντας το LIME, για παράδειγμα, οι οργανισμοί είναι σε θέση να δημιουργήσουν προσωρινά μοντέλα που μιμούνται τις προβλέψεις των μη διαφανών αλγορίθμων όπως η μηχανική μάθηση. Αυτά τα μοντέλα LIME μπορούν τότε να δημιουργήσουν eine ποικιλία από παραλλαγές με βάση ένα δεδομένο σύνολο δεδομένων και την αντίστοιχη έξοδο, η οποία μπορεί να χρησιμοποιηθεί για την εκπαίδευση απλών και πιο ερμηνεύσιμων μοντέλων μαζί με πλήρη λίστες εξηγήσεων για κάθε απόφαση και/ή προβλέψη. Το πλαίσιο SHAP που έχει τις ρίζες του στη θεωρία παιγνίων και συγκεκριμένα από τη συνεργατική θεωρία παιγνίων είναι ένα μοντέλο που . Αυτό συνδυάζει την ιδανική κατανομή πίστης με τοπικές εξηγήσεις χρησιμοποιώντας τις αρχικές τιμές Shapley από τη θεωρία παιγνίων και τους απογόνους τους.

Αρχές Λειτουργίας

Σε ένα πιο στρατηγικό επίπεδο, ωστόσο, τα πλαίσια αξιοπιστίας της Τεχνητής Νοημοσύνης πρέπει να περιλαμβάνουν ένα ευρύ σύνολο αρχών που στοχεύουν στην εγγύηση σωστών αποτελεσμάτων τόσο στην αρχή της ανάπτυξης όσο και με την πάροδο του χρόνου, καθώς τα μοντέλα εξελίσσονται με την παρουσία αλλαγών. Τουλάχιστον, αυτά τα πλαίσια πρέπει να περιλαμβάνουν πράγματα όπως:

• Ανίχνευση Προκαταλήψεων – όλα τα σύνολα δεδομένων πρέπει να καθαριστούν από προκαταλήψεις και διακριτικές ιδιότητες και να δοθεί η σωστή βαρύτητα και διακριτικότητα όταν εφαρμόζονται στο μοντέλο;
• Ανθρώπινη Επέμβαση – οι χειριστές πρέπει να能够 να ερευνήσουν και να ερμηνεύσουν τις εξόδους του αλγορίθμου σε όλες τις στιγμές, ιδιαίτερα όταν τα μοντέλα χρησιμοποιούνται για την επιβολή του νόμου και τη διατήρηση των πολιτικών ελευθεριών;
• Δικαιολογία – όλες οι προβλέψεις πρέπει να能够 να αντέξουν σε σκραπ, το οποίο φυσικά απαιτεί ένα υψηλό επίπεδο διαφάνειας για να επιτρέψει στους εξωτερικούς παρατηρητές να αξιολογήσουν τις διαδικασίες και τα κριτήρια που χρησιμοποιούνται για την παραγωγή αποτελεσμάτων;
• Επανειλημμένη – τα αξιοπιστά μοντέλα Τεχνητής Νοημοσύνης πρέπει να είναι συνεπή στις προβλέψεις τους και πρέπει να εμφανίζουν υψηλά επίπεδα σταθερότητας όταν συναντούν νέα δεδομένα.

Αλλά η XAI δεν πρέπει να θεωρείται μόνο ως ένα μέσο για την βελτίωση της κερδοφορίας, αλλά για να φέρει την ευθύνη για να διασφαλίσει ότι οι ιδρύματα μπορούν να εξηγήσουν και να δικαιολογήσουν την επίδραση των δημιουργιών τους στην κοινωνία ως ένα σύνολο. να είναι συνεπή στις προβλέψεις τους και να εμφανίζουν υψηλά επίπεδα σταθερότητας όταν συναντούν νέα δεδομένα. Nhưng XAI δεν πρέπει να θεωρείται μόνο ως ένα μέσο για την βελτίωση της κερδοφορίας, αλλά για να φέρει την ευθύνη για να διασφαλίσει ότι οι ιδρύματα μπορούν να εξηγήσουν και να δικαιολογήσουν την επίδραση των δημιουργιών τους στην κοινωνία ως ένα σύνολο.