Επεξηγήσιμη τεχνητή νοημοσύνη χρησιμοποιώντας εκφραστικούς τύπους Boolean

Η έκρηξη στις εφαρμογές τεχνητής νοημοσύνης (AI) και μηχανικής μάθησης διαπερνά σχεδόν κάθε κλάδο και κομμάτι της ζωής.

Αλλά η ανάπτυξή του δεν έρχεται χωρίς ειρωνεία. Ενώ η τεχνητή νοημοσύνη υπάρχει για να απλοποιήσει ή/και να επιταχύνει τη λήψη αποφάσεων ή τις ροές εργασίας, η μεθοδολογία για να γίνει αυτό είναι συχνά εξαιρετικά περίπλοκη. Πράγματι, ορισμένοι αλγόριθμοι μηχανικής μάθησης «μαύρου κουτιού» είναι τόσο περίπλοκοι και πολύπλευροι που μπορούν να αψηφήσουν την απλή εξήγηση, ακόμη και από τους επιστήμονες υπολογιστών που τους δημιούργησαν.

Αυτό μπορεί να είναι αρκετά προβληματικό όταν ορισμένες περιπτώσεις χρήσης – όπως στους τομείς των οικονομικών και της ιατρικής – ορίζονται από τις βέλτιστες πρακτικές του κλάδου ή τους κυβερνητικούς κανονισμούς που απαιτούν διαφανείς εξηγήσεις σχετικά με την εσωτερική λειτουργία των λύσεων τεχνητής νοημοσύνης. Και αν αυτές οι εφαρμογές δεν είναι αρκετά εκφραστικές ώστε να πληρούν τις απαιτήσεις επεξήγησης, μπορεί να καταστήσουν άχρηστες ανεξάρτητα από τη συνολική τους αποτελεσματικότητα.

Για να αντιμετωπίσει αυτό το αίνιγμα, η ομάδα μας στο Fidelity Center for Applied Technology (FCAT) — σε συνεργασία με το Amazon Quantum Solutions Lab — πρότεινε και υλοποίησε ένα ερμηνεύσιμο μοντέλο μηχανικής μάθησης για εξηγήσιμη τεχνητή νοημοσύνη (XAI) που βασίζεται σε εκφραστικούς τύπους Boolean. Μια τέτοια προσέγγιση μπορεί να περιλαμβάνει οποιονδήποτε τελεστή που μπορεί να εφαρμοστεί σε μία ή περισσότερες μεταβλητές Boolean, παρέχοντας έτσι υψηλότερη εκφραστικότητα σε σύγκριση με πιο άκαμπτες προσεγγίσεις που βασίζονται σε κανόνες και σε δέντρα.

Μπορείτε να διαβάσετε το πλήρες χαρτί εδώ για αναλυτικές λεπτομέρειες σχετικά με αυτό το έργο.

Η υπόθεσή μας ήταν ότι επειδή τα μοντέλα - όπως τα δέντρα αποφάσεων - μπορούν να γίνουν βαθιά και δύσκολα στην ερμηνεία, η ανάγκη να βρεθεί ένας εκφραστικός κανόνας με χαμηλή πολυπλοκότητα αλλά υψηλή ακρίβεια ήταν ένα δυσεπίλυτο πρόβλημα βελτιστοποίησης που έπρεπε να λυθεί. Επιπλέον, απλοποιώντας το μοντέλο μέσω αυτής της προηγμένης προσέγγισης XAI, θα μπορούσαμε να επιτύχουμε πρόσθετα οφέλη, όπως η αποκάλυψη προκαταλήψεων που είναι σημαντικές στο πλαίσιο της ηθικής και υπεύθυνης χρήσης του ML. ενώ παράλληλα διευκολύνει τη συντήρηση και τη βελτίωση του μοντέλου.

Προτείναμε μια προσέγγιση που βασίζεται σε εκφραστικούς τύπους Boolean επειδή ορίζουν κανόνες με ρυθμίσιμη πολυπλοκότητα (ή ερμηνευσιμότητα) σύμφωνα με τους οποίους ταξινομούνται τα δεδομένα εισόδου. Ένας τέτοιος τύπος μπορεί να περιλαμβάνει οποιονδήποτε τελεστή που μπορεί να εφαρμοστεί σε μία ή περισσότερες μεταβλητές Boolean (όπως And ή AtLeast), παρέχοντας έτσι υψηλότερη εκφραστικότητα σε σύγκριση με πιο άκαμπτες μεθοδολογίες βασισμένες σε κανόνες και δέντρα.

Σε αυτό το πρόβλημα έχουμε δύο ανταγωνιστικούς στόχους: τη μεγιστοποίηση της απόδοσης του αλγορίθμου, με ταυτόχρονη ελαχιστοποίηση της πολυπλοκότητάς του. Έτσι, αντί να ακολουθήσουμε την τυπική προσέγγιση της εφαρμογής μιας από τις δύο μεθόδους βελτιστοποίησης – συνδυάζοντας πολλαπλούς στόχους σε έναν ή περιορίζοντας έναν από τους στόχους – επιλέξαμε να συμπεριλάβουμε και τις δύο στη διατύπωσή μας. Με αυτόν τον τρόπο, και χωρίς απώλεια γενικότητας, χρησιμοποιούμε κυρίως την ισορροπημένη ακρίβεια ως την κύρια μέτρηση απόδοσης.

Επίσης, συμπεριλαμβάνοντας φορείς όπως το AtLeast, μας παρακίνησε η ιδέα να αντιμετωπίσουμε την ανάγκη για εξαιρετικά ερμηνεύσιμες λίστες ελέγχου, όπως μια λίστα ιατρικών συμπτωμάτων που υποδηλώνουν μια συγκεκριμένη πάθηση. Είναι δυνατόν να ληφθεί απόφαση με τη χρήση μιας τέτοιας λίστας συμπτωμάτων κατά τρόπο που θα πρέπει να υπάρχει ένας ελάχιστος αριθμός για θετική διάγνωση. Ομοίως, στα χρηματοοικονομικά, μια τράπεζα μπορεί να αποφασίσει εάν θα παρέχει ή όχι πίστωση σε έναν πελάτη με βάση την παρουσία ορισμένου αριθμού παραγόντων από μια μεγαλύτερη λίστα.

Εφαρμόσαμε επιτυχώς το μοντέλο XAI μας και το συγκρίνουμε σε ορισμένα δημόσια σύνολα δεδομένων για πίστωση, συμπεριφορά πελατών και ιατρικές παθήσεις. Διαπιστώσαμε ότι το μοντέλο μας είναι γενικά ανταγωνιστικό με άλλες γνωστές εναλλακτικές λύσεις. Διαπιστώσαμε επίσης ότι το μοντέλο XAI μπορεί ενδεχομένως να τροφοδοτηθεί από υλικό ειδικού σκοπού ή κβαντικές συσκευές για την επίλυση γρήγορου Ακέραιου Γραμμικού Προγραμματισμού (ILP) ή Τετραγωνικής Απεριόριστης Δυαδικής Βελτιστοποίησης (QUBO). Η προσθήκη λύσεων QUBO μειώνει τον αριθμό των επαναλήψεων – οδηγώντας έτσι σε επιτάχυνση με γρήγορη πρόταση μη τοπικών κινήσεων.

Όπως σημειώθηκε, εξηγήσιμα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούν τύπους Boolean μπορούν να έχουν πολλές εφαρμογές στην υγειονομική περίθαλψη και στον χρηματοοικονομικό τομέα της Fidelity (όπως η αξιολόγηση πιστοληπτικής ικανότητας ή η αξιολόγηση γιατί ορισμένοι πελάτες μπορεί να έχουν επιλέξει ένα προϊόν ενώ άλλοι όχι). Δημιουργώντας αυτούς τους ερμηνεύσιμους κανόνες, μπορούμε να επιτύχουμε υψηλότερα επίπεδα πληροφοριών που μπορούν να οδηγήσουν σε μελλοντικές βελτιώσεις στην ανάπτυξη ή τη βελτίωση του προϊόντος, καθώς και στη βελτιστοποίηση των καμπανιών μάρκετινγκ.

Με βάση τα ευρήματά μας, προσδιορίσαμε ότι η Επεξηγήσιμη τεχνητή νοημοσύνη που χρησιμοποιεί εκφραστικούς τύπους Boolean είναι και κατάλληλη και επιθυμητή για εκείνες τις περιπτώσεις χρήσης που απαιτούν περαιτέρω επεξήγηση. Επιπλέον, καθώς ο κβαντικός υπολογιστής συνεχίζει να αναπτύσσεται, προβλέπουμε την ευκαιρία να αποκτήσουμε πιθανές επιταχύνσεις χρησιμοποιώντας τον και άλλους επιταχυντές υλικού ειδικού σκοπού.

Η μελλοντική εργασία μπορεί να επικεντρωθεί στην εφαρμογή αυτών των ταξινομητών σε άλλα σύνολα δεδομένων, στην εισαγωγή νέων τελεστών ή στην εφαρμογή αυτών των εννοιών σε άλλες περιπτώσεις χρήσεων.