Τι είναι το Explainable AI;

Καθώς η τεχνητή νοημοσύνη (AI) γίνεται πιο σύνθετη και ευρέως αποδεκτή στην κοινωνία, μια από τις πιο κρίσιμες σειρές διαδικασιών και μεθόδων είναι η εξηγητή ﾉημοσύνη (XAI), đôi的时候 αναφέρεται ως XAI.

Η εξηγητή ﾉημοσύνη μπορεί να οριστεί ως:

• Μια σειρά διαδικασιών και μεθόδων που βοηθούν τους ανθρώπινους χρήστες να κατανοήσουν και να εμπιστευτούν τα αποτελέσματα των αλγορίθμων машинικής μάθησης.

Όπως μπορείτε να υποθέσετε, αυτή η εξηγησιμότητα είναι απίστευτα σημαντική, καθώς οι αλγόριθμοι της τεχνητής νοημοσύνης λαμβάνουν τον έλεγχο πολλών τομέων, που συνοδεύεται από τον κίνδυνο προκατάληψης, ελαττωματικών αλγορίθμων και άλλων προβλημάτων. Με την επίτευξη διαφάνειας μέσω της εξηγησιμότητας, ο κόσμος μπορεί πραγματικά να εκμεταλλευτεί τη δύναμη της τεχνητής νοημοσύνης.

Η εξηγητή ﾉημοσύνη, όπως υποδηλώνει το όνομά της, βοηθά στην περιγραφή eines μοντέλου τεχνητής νοημοσύνης, της επίδρασής του και των πιθανών προκαταλήψεων. Παίζει επίσης ρόλο στη χαρακτηρισμό της ακρίβειας, της ισότητας, της διαφάνειας και των αποτελεσμάτων στις διαδικασίες λήψης αποφάσεων που βασίζονται στην τεχνητή νοημοσύνη.

Οι σημερινές οργανώσεις που βασίζονται στην τεχνητή νοημοσύνη πρέπει να υιοθετήσουν διαδικασίες εξηγητής ﾉημοσύνης για να βοηθήσουν στην κατασκευή εμπιστοσύνης και εμπιστοσύνης στα μοντέλα της τεχνητής νοημοσύνης που βρίσκονται σε παραγωγή. Η εξηγητή ﾉημοσύνη είναι επίσης κλειδί για να γίνει μια υπεύθυνη εταιρεία στο σημερινό περιβάλλον της τεχνητής νοημοσύνης.

Επειδή τα σημερινά συστήματα της τεχνητής νοημοσύνης είναι τόσο προηγμένα, οι άνθρωποι συνήθως εκτελούν μια διαδικασία υπολογισμού για να ανακατασκευάσουν πώς ο αλγόριθμος έφτασε στο αποτέλεσμα. Αυτή η διαδικασία γίνεται ένα “μαύρο κουτί”, που σημαίνει ότι είναι αδύνατο να κατανοηθεί. Όταν αυτά τα αδιαφανή μοντέλα αναπτύσσονται直接 από τα δεδομένα, κανείς δεν μπορεί να κατανοήσει τι συμβαίνει μέσα τους.

Με την κατανόηση του τρόπου λειτουργίας των συστημάτων της τεχνητής νοημοσύνης μέσω της εξηγητής ﾉημοσύνης, οι dévelopπεurs μπορούν να διασφαλίσουν ότι το σύστημα λειτουργεί όπως πρέπει. Μπορεί επίσης να βοηθήσει να διασφαλιστεί ότι το μοντέλο πληροί τις προδιαγραφές, και παρέχει την ευκαιρία για το μοντέλο να αμφισβητηθεί ή να αλλάξει.

Εικόνα: Dr. Matt Turek/DARPA

Διαφορές μεταξύ AI και XAI

Ορισμένες κρίσιμες διαφορές βοηθούν να διαχωρίσουν την “κανονική” τεχνητή νοημοσύνη από την εξηγητή ﾉημοσύνη, αλλά το πιο σημαντικό, η XAI εφαρμόζει συγκεκριμένες τεχνικές και μεθόδους που βοηθούν να διασφαλιστεί ότι κάθε απόφαση στη διαδικασία της машинικής μάθησης είναι αναγνώσιμη και εξηγητή. Σε σύγκριση, η κανονική τεχνητή νοημοσύνη συνήθως φτάνει στο αποτέλεσμα χρησιμοποιώντας έναν αλγόριθμο της машинικής μάθησης, αλλά είναι αδύνατο να κατανοηθεί πλήρως πώς ο αλγόριθμος έφτασε στο αποτέλεσμα. Σε περίπτωση κανονικής τεχνητής νοημοσύνης, είναι εξαιρετικά δύσκολο να ελεγχθεί η ακρίβεια, που οδηγεί σε απώλεια ελέγχου, ευθύνης και ελέγχου.

Ωφέλεια της Εξηγητής Νοημοσύνης

Υπάρχουν πολλά οφέλη για jede οργάνωση που επιθυμεί να υιοθετήσει την εξηγητή ﾉημοσύνη, όπως:

• Γρηγορότερα Αποτελέσματα: Η εξηγητή ﾉημοσύνη ermöglicht τις οργανώσεις να παρακολουθούν συστηματικά και να διαχειρίζονται τα μοντέλα για να βελτιώσουν τα επιχειρηματικά αποτελέσματα. Είναι δυνατό να αξιολογήσετε και να βελτιώσετε συνεχώς την απόδοση του μοντέλου και να tinh chỉnh την ανάπτυξη του μοντέλου.
• Μείωση των Κινδύνων: Με την υιοθέτηση διαδικασιών εξηγητής ﾉημοσύνης, διασφαλίζετε ότι τα μοντέλα της τεχνητής νοημοσύνης σας είναι εξηγητή και διαφανή. Μπορείτε να διαχειριστείτε τις προδιαγραφές, τους κινδύνους και άλλες απαιτήσεις ενώ μειώνετε το βάρος της χειροκίνητης επιθεώρησης. Όλα αυτά βοηθούν επίσης να μειώσουν τον κίνδυνο ανεπιθύμητων προκαταλήψεων.
• Κατασκευή Εμπιστοσύνης: Η εξηγητή ﾉημοσύνη βοηθά στην κατασκευή εμπιστοσύνης στην παραγωγή της τεχνητής νοημοσύνης. Τα μοντέλα της τεχνητής νοημοσύνης μπορούν να φτάσουν γρήγορα στην παραγωγή, μπορείτε να διασφαλίσετε την ερμηνευσιμότητα και την εξηγησιμότητα, και η διαδικασία αξιολόγησης του μοντέλου μπορεί να απλοποιηθεί και να γίνει πιο διαφανής.

Τεχνικές για την Εξηγητή Νοημοσύνη

Υπάρχουν ορισμένες τεχνικές XAI που όλες οι οργανώσεις πρέπει να λάβουν υπόψη, και αποτελούνται από τρεις κύριες μεθόδους: ακριβής πρόβλεψη, αναγνώσιμη, και κατανόηση απόφασης.

Η πρώτη από τις τρεις μεθόδους, ακριβής πρόβλεψη, είναι απαραίτητη για την επιτυχή χρήση της τεχνητής νοημοσύνης στις καθημερινές λειτουργίες. Οι προσομοιώσεις μπορούν να εκτελεστούν, και η έξοδος XAI μπορεί να συγκριθεί με τα αποτελέσματα στο σύνολο δεδομένων εκπαίδευσης, που βοηθά στην καθορισμό της ακρίβειας πρόβλεψης. Μια από τις πιο δημοφιλείς τεχνικές για να επιτύχει αυτό είναι το Local Interpretable Model-Agnostic Explanations (LIME), μια τεχνική που εξηγεί την πρόβλεψη των ταξινομητών από τον αλγόριθμο της машинικής μάθησης.

Η δεύτερη μέθοδος είναι αναγνώσιμη, η οποία επιτυγχάνεται με τον περιορισμό του τρόπου με τον οποίο λαμβάνονται οι αποφάσεις, καθώς και με την καθορισμό ενός στενότερου πεδίου για τους κανόνες και τα χαρακτηριστικά της машинικής μάθησης. Μια από τις πιο κοινές τεχνικές αναγνώσιμης είναι το DeepLIFT, ή Deep Learning Important FeaTures. Το DeepLIFT συγκρίνει την ενεργοποίηση κάθε νευρώνα με τον αναφορικό νευρώνα ενώ δείχνει einen αναγνώσιμο σύνδεσμο μεταξύ κάθε ενεργοποιημένου νευρώνα. Επίσης, δείχνει τις εξαρτήσεις μεταξύ τους.

Η τρίτη και τελική μέθοδος είναι κατανόηση απόφασης, η οποία είναι επικεντρωμένη στον άνθρωπο, σε αντίθεση με τις άλλες δύο μεθόδους. Η κατανόηση απόφασης περιλαμβάνει την εκπαίδευση της οργάνωσης, ιδιαίτερα της ομάδας που εργάζεται με την τεχνητή νοημοσύνη, για να τους ermöglicht να κατανοήσουν πώς και γιατί η τεχνητή νοημοσύνη λαμβάνει αποφάσεις. Αυτή η μέθοδος είναι κρίσιμη για την κατασκευή εμπιστοσύνης στο σύστημα.

Αρχές της Εξηγητής Νοημοσύνης

Για να παρέχει μια καλύτερη κατανόηση της XAI και των αρχών της, το Εθνικό Ινστιτούτο Προτύπων (NIST), το οποίο είναι μέρος του Υπουργείου Εμπορίου των ΗΠΑ, παρέχει ορισμούς για τέσσερις αρχές της εξηγητής ﾉημοσύνης:

1. Ένα σύστημα της τεχνητής νοημοσύνης πρέπει να παρέχει αποδείξεις, υποστήριξη ή λόγους για κάθε έξοδο. 
2. Ένα σύστημα της τεχνητής νοημοσύνης πρέπει να δίνει εξηγήσεις που μπορούν να κατανοηθούν από τους χρήστες του. 
3. Η εξήγηση πρέπει να αντανακλά με ακρίβεια τη διαδικασία που χρησιμοποιήθηκε από το σύστημα για να φτάσει στο αποτέλεσμα. 
4. Το σύστημα της τεχνητής νοημοσύνης πρέπει να λειτουργεί μόνο υπό τις συνθήκες για τις οποίες σχεδιάστηκε, και δεν πρέπει να παρέχει έξοδο όταν δεν έχει επαρκή εμπιστοσύνη στο αποτέλεσμα.

Αυτές οι αρχές μπορούν να οργανωθούν ακόμη περισσότερο σε:

• Σημαντική: Για να επιτύχει η αρχή της σημαντικότητας, ο χρήστης πρέπει να κατανοήσει την εξήγηση που παρέχεται. Αυτό μπορεί επίσης να σημαίνει ότι σε περίπτωση που ένας αλγόριθμος της τεχνητής νοημοσύνης χρησιμοποιείται από διαφορετικούς τύπους χρηστών, μπορεί να υπάρχουν πολλές εξηγήσεις. Για παράδειγμα, σε περίπτωση ενός αυτονομικού οχήματος, μια εξήγηση μπορεί να είναι “…η τεχνητή νοημοσύνη κατηγοριοποίησε το πλαστικό σακουλάκι στο δρόμο ως βράχο και έτσι έλαβε δράση για να το αποφύγει.” Ενώ αυτό το παράδειγμα θα ήταν χρήσιμο για τον οδηγό, δεν θα ήταν πολύ χρήσιμο για έναν dévelopπεur της τεχνητής νοημοσύνης που επιθυμεί να διορθώσει το πρόβλημα. Σε αυτή την περίπτωση, ο dévelopπεur πρέπει να κατανοήσει γιατί υπήρχε μια λανθασμένη κατηγοριοποίηση. 
• Ακρίβεια Εξήγησης: Σε αντίθεση με την ακρίβεια της έξοδου, η ακρίβεια της εξήγησης περιλαμβάνει τον αλγόριθμο της τεχνητής νοημοσύνης να εξηγεί με ακρίβεια πώς έφτασε στο αποτέλεσμα. Για παράδειγμα, αν ένας αλγόριθμος έγκρισης δανείου εξηγεί μια απόφαση με βάση το εισόδημα της αίτησης όταν στην πραγματικότητα ήταν με βάση τον τόπο κατοικίας του αιτούντος, η εξήγηση θα ήταν ανακριβής. 
• Όρια Γνώσης: Τα όρια γνώσης του συστήματος της τεχνητής νοημοσύνης μπορούν να φτάσουν με δύο τρόπους, και περιλαμβάνουν την είσοδο να είναι έξω από την εμπειρογνωσία του συστήματος. Για παράδειγμα, αν ένα σύστημα είναι κατασκευασμένο για να ταξινομήσει είδη πουλιών και του δίνεται μια εικόνα ενός μήλου, πρέπει να είναι σε θέση να εξηγήσει ότι η είσοδος δεν είναι πουλί. Αν το σύστημα του δίνεται μια θολή εικόνα, πρέπει να είναι σε θέση να αναφέρει ότι δεν είναι σε θέση να αναγνωρίσει το πουλί στην εικόνα, ή εναλλακτικά, ότι η αναγνώριση έχει πολύ χαμηλή εμπιστοσύνη.

Ο Ρόλος των Δεδομένων στην Εξηγητή Νοημοσύνη

Ένα από τα πιο σημαντικά συστατικά της εξηγητής ﾉημοσύνης είναι τα δεδομένα.

Σύμφωνα με Google (GOOGL ) , σχετικά με τα δεδομένα και την εξηγητή ﾉημοσύνη, “ένα σύστημα της τεχνητής νοημοσύνης είναι καλύτερα κατανοητό από τα υποκείμενα δεδομένα εκπαίδευσης και τη διαδικασία εκπαίδευσης, καθώς και το αποτέλεσμα του μοντέλου της τεχνητής νοημοσύνης.” Αυτή η κατανόηση βασίζεται στην ικανότητα να χαρτογραφηθεί ένα εκπαιδευμένο μοντέλο της τεχνητής νοημοσύνης στο ακριβές σύνολο δεδομένων που χρησιμοποιήθηκε για την εκπαίδευση, καθώς και την ικανότητα να εξεταστεί το δεδομένο στενά.

Για να βελτιώσει την εξηγησιμότητα του μοντέλου, είναι σημαντικό να δώσετε προσοχή στα δεδομένα εκπαίδευσης. Οι ομάδες πρέπει να καθορίσουν την προέλευση των δεδομένων που χρησιμοποιήθηκαν για την εκπαίδευση του αλγορίθμου, τη νομιμότητα και την ηθική που περιβάλλει την απόκτησή τους, τυχόν πιθανή προκατάληψη στα δεδομένα και τι μπορεί να γίνει για να μετριάσει οποιαδήποτε προκατάληψη.

Ένα άλλο κρίσιμο σημείο των δεδομένων και της XAI είναι ότι τα δεδομένα που δεν είναι σχετικά με το σύστημα πρέπει να εξαιρεθούν. Για να επιτύχει αυτό, τα άσχετα δεδομένα δεν πρέπει να περιλαμβάνονται στο σύνολο δεδομένων εκπαίδευσης ή στα δεδομένα εισόδου.

Το Google έχει συστήσει ένα σύνολο πρακτικών για να επιτύχει την ερμηνευσιμότητα και την ευθύνη:

• Σχεδιάστε τις επιλογές σας για να επιδιώξετε την ερμηνευσιμότητα
• Φροντίστε την ερμηνευσιμότητα ως einen κεντρικό μέρος της εμπειρίας του χρήστη
• Σχεδιάστε το μοντέλο για να είναι ερμηνεύσιμο
• Επιλέξτε μετρικές που να αντανακλούν τον τελικό στόχο και την τελική εργασία
• Κατανοήστε το εκπαιδευμένο μοντέλο
• Επικοινωνήστε τις εξηγήσεις στους χρήστες του μοντέλου
• Εκτελέστε πολλές δοκιμές για να διασφαλίσετε ότι το σύστημα της τεχνητής νοημοσύνης λειτουργεί όπως προορίζεται

Με την ακολουθία αυτών των συστημένων πρακτικών, η οργάνωση σας μπορεί να διασφαλίσει ότι επιτυγχάνει την εξηγητή ﾉημοσύνη, η οποία είναι κλειδί για jede οργάνωση που βασίζεται στην τεχνητή νοημοσύνη στο σημερινό περιβάλλον.