Εξηγήσιμότητα: Το Επόμενο Σύνορο για την Τεχνητή Νοημοσύνη στις Ασφαλίσεις και την Τράπεζα

Từ τον Dr. Ori Katz, Επιστημονικός Ερευνητής, Earnix.

«Κάθε αρκετά προηγμένη τεχνολογία είναι αδιακρίτως μαγική», υποστήριξε ο συγγραφέας επιστημονικής φαντασίας Arthur C. Clarke. Πράγματι, đôi时 προηγμένη τεχνολογία, όπως τα νέα αλγόριθμοι μηχανικής μάθησης, μοιάζουν με μαγεία. Οι εξελισσόμενες εφαρμογές της μηχανικής μάθησης, συμπεριλαμβανομένης της ταξινόμησης εικόνων, αναγνώρισης φωνής και χρήσης τους στις ασφαλίσεις και την τράπεζα, φαίνονται να έχουν υπερφυσικές ιδιότητες.

Πολυάριθμες εταιρείες είναι διστακτικές να αλλάξουν τα παραδοσιακά αναλυτικά μοντέλα τους – και δικαίως. Η μαγεία είναι επικίνδυνη, ιδιαίτερα αν δεν κατανοηθεί καλά. Τα νευρωνικά δίκτυα και οι αλγόριθμοι συνδυασμού δέντρων είναι «μαύρες κουτίες», η εσωτερική τους δομή μπορεί να είναι εξαιρετικά σύνθετη. Ταυτόχρονα, πολλές μελέτες [1] έχουν δείξει πώς τα νευρωνικά δίκτυα και οι αλγόριθμοι βασισμένοι σε δέντρα μπορούν να υπερβούν ακόμη και τα πιο προσεκτικά調整μένα παραδοσιακά μοντέλα ασφαλιστικού κινδύνου που κατασκευάζονται από έμπειρους актуάριους. Αυτό οφείλεται στην ικανότητα των νέων αλγορίθμων να ανακαλύψουν αυτόματα κρυφές δομές στα δεδομένα. Το μυστήριο και η χρησιμότητα των νευρωνικών δικτύων και των αλγορίθμων βασισμένων σε δέντρα είναι αντικρουόμενα. Υπάρχει μια εγγενής ανταλλαγή μεταξύ της ακρίβειας ενός αναλυτικού μοντέλου και του επιπέδου «εξηγήσιμότητας» του. Πώς μπορούμε να εμπιστευθούμε μοντέλα αν δεν μπορούμε να κατανοήσουμε πώς φθάνουν στα συμπεράσματά τους; Πρέπει να υποταχθούμε στη μαγεία, να θυσιάσουμε την εμπιστοσύνη και τον έλεγχο μας σε κάτι που δεν μπορούμε να κατανοήσουμε πλήρως για ακρίβεια;

Οι διευθυντές και αναλυτές δεν είναι οι μόνοι που ανησυχούν για αυτήν την ανταλλαγή. Τα τελευταία χρόνια, οι ρυθμιστές έχουν αρχίσει να εξετάζουν τη σκοτεινή πλευρά της μαγείας για να αυξήσουν την ικανότητά τους να παρακολουθούν αυτούς τους κλάδους. Οι τραπεζικοί και ασφαλιστικοί κλάδοι είναι υψηλά ρυθμιζόμενοι σε πολλά μέρη και οι τρέχουσες τάσεις ρύθμισης περιλαμβάνουν μια πιο προσεκτική ματιά στα μοντέλα που χρησιμοποιούνται για να κάνουν προβλέψεις. Το Άρθρο 71 του Ευρωπαϊκού Κανονισμού Προστασίας Δεδομένων (GDPR), για παράδειγμα, αναφέρει ότι οι πελάτες πρέπει να έχουν το δικαίωμα να λάβουν μια εξήγηση για μια αυτόματη απόφαση μετά τη λήψη της. Από την έναρξή του, αυτό το στοιχείο του κανονισμού έχει sido στο κέντρο μιας έντονης ακαδημαϊκής συζήτησης.

Η επείγουσα ανάγκη για εξήγηση των «μαύρων κουτιών» αναλυτικών μοντέλων έχει οδηγήσει στην εμφάνιση ενός νέου ερευνητικού πεδίου: την Εξηγήσιμη Τεχνητή Νοημοσύνη. Οι εμπειρογνώμονες αναπτύσσουν εργαλεία που μας επιτρέπουν να κοιτάξουμε μέσα στο μαύρο κουτί και να ξετυλίξουμε τουλάχιστον μέρος της μαγείας. Δύο τύποι εργαλείων που έχουν δημιουργηθεί από ερευνητές περιλαμβάνουν «Γлобική Εξηγήσιμότητα» εργαλεία, τα οποία μπορούν να μας βοηθήσουν να κατανοήσουμε τα βασικά χαρακτηριστικά που οδηγούν τις προβλέψεις του μοντέλου, και «Τοπική Εξηγήσιμότητα» εργαλεία, τα οποία προορίζονται να εξηγήσουν μια συγκεκριμένη πρόβλεψη.

Το ακόλουθο διάγραμμα είναι ένα παράδειγμα τοπικής εξηγήσιμότητας. Βασίζεται στις ιδέες του βραβευμένου με Νόμπελ οικονομολόγου Lloyd Shapley, ο οποίος ανέπτυξε μια μεθοδολογία θεωρίας παιγνίων για τον υπολογισμό της συμβολής πολλών παικτών που συνεργάζονται στην ίδια εργασία. Στην Εξηγήσιμη Τεχνητή Νοημοσύνη, οι «παίκτες» είναι τα χαρακτηριστικά του μοντέλου, ενώ η «εργασία» είναι η πρόβλεψη του μοντέλου. Οι αριθμοί που περιγράφουν τη συμβολή κάθε χαρακτηριστικού ονομάζονται «Τιμές Shapley». Οι ερευνητές ανέπτυξαν πρόσφατα μεθόδους για τη γρήγορη εκτίμηση των Τιμών Shapley [2], επιτρέποντάς μας να διανείμουμε δίκαια μια πρόβλεψη μεταξύ των διαφορετικών χαρακτηριστικών.

Χρήση των Τιμών Shapley για την Εξηγήση της Προβλεπόμενης Ζήτησης Ανανέωσης για einen Συγκεκριμένο Πελάτη

Το διάγραμμα, που βασίζεται σε προσομοιωμένα δεδομένα, δείχνει το αποτέλεσμα ενός μοντέλου ζήτησης που προβλέπει την πιθανότητα ανανέωσης μιας ασφάλισης αυτοκινήτου. Αυτή είναι μια τοπική εξήγηση για einen συγκεκριμένο πελάτη. Το μοντέλο ζήτησης βασίζεται σε ένα σύνθετο σύνολο από δέντρα απόφασης, αλλά το διάγραμμα παρουσιάζει τη ξεχωριστή συμβολή κάθε χαρακτηριστικού στη τελική πρόβλεψη. Σε αυτό το παράδειγμα, το μοντέλο προβλέπει ότι ο μέσος όρος των ατόμων στα δεδομένα θα ανανεώσει την ασφάλιση με πιθανότητα 0,64. Ωστόσο, για αυτόν τον συγκεκριμένο πελάτη, η προβλεπόμενη πιθανότητα είναι πολύ υψηλότερη, ở 0,72. Το διάγραμμα μας επιτρέπει να δούμε την αιτία αυτής της διαφοράς.

Ενώ δεν μπορούμε να κατανοήσουμε πλήρως την εσωτερική δομή αυτού του σύνθετου μοντέλου, οι Τιμές Shapley μας επιτρέπουν να δούμε ποια είναι τα πιο σημαντικά χαρακτηριστικά για μια συγκεκριμένη πρόβλεψη, ξετυλίγοντας μέρος της μαγείας. Η μέση τιμή των ατομικών Τιμών Shapley στον πληθυσμό μας επιτρέπει να δούμε ποια χαρακτηριστικά είναι πιο σημαντικά και να αποκτήσουμε μια γлобική εξήγηση του μοντέλου. Άλλα δημοφιλή εργαλεία εξηγήσιμότητας περιλαμβάνουν «Περίστροφή Σημασίας Χαρακτηριστικών», απλά υποκατάστατα μοντέλα που προσαρμόζονται τοπικά, και αντίθετα παραδείγματα, για να αναφέρουμε quelques-α.

Τα νέα εργαλεία εξηγήσιμότητας είναι το αναγκαίο επόμενο βήμα στην εξέλιξη της μηχανικής μάθησης. Μπορούν να επιτρέψουν στις ασφαλιστικές εταιρείες και τις τράπεζες να κατανοήσουν και να εμπιστευτούν τα μοντέλα μηχανικής μάθησής τους, να συμμορφωθούν με τις νέες ρυθμίσεις, και να παρέχουν στους πελάτες τους πολύτιμες πληροφορίες. Τώρα μπορούμε να υπερβούμε частично την ανταλλαγή μεταξύ ακρίβειας και εξηγήσιμότητας και να απολαύσουμε τα πλεονεκτήματα των νέων μοντέλων μηχανικής μάθησης με λιγότερες ανησυχίες για τη φύση «μαύρου κουτιού» τους.

Στον ταχέως ψηφιοποιημένο κόσμο μας, η πλήρης ανάλυση είναι το βασικό κριτήριο επιβίωσης για τις ασφαλιστικές εταιρείες και τις τράπεζες. Αυτή η ικανότητα ήταν πάντα σημαντική – αλλά έγινε ζωτική με τις μεταβλητές αγορές που το 2020 μας έφερε. Οι ασφαλιστικές εταιρείες και οι τράπεζες χρειάζονται έξυπνες αναλύσεις για να μοντελοποιήσουν μια σύνθετη νέα πραγματικότητα, στην οποία μπορούν να βασίσουν τις επιχειρηματικές αποφάσεις τους και να εξυπηρετήσουν τους πελάτες τους γρηγορότερα και καλύτερα. Τα εργαλεία εξηγήσιμότητας μπορούν να επιτρέψουν στις ασφαλιστικές εταιρείες και τις τράπεζες να το πετύχουν. Με τον καιρό, θα φθάσουμε στο σημείο όπου τα μοντέλα μηχανικής μάθησης δεν θα θεωρούνται πλέον μαγεία, αλλά ένα απαραίτητο εργαλείο στο πυρήνα κάθε δεδομενο-κίνητου επιχειρήματος.

Πηγές:

[1] Bärtl, M., & Krummaker, S. (2020). Πρόβλεψη αιτημάτων σε εξαγωγική πιστωτική χρηματοδότηση: Một σύγκριση τεσσάρων τεχνικών μηχανικής μάθησης. Ρίσκα, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Μελέτη περίπτωσης: Γαλλικές ασφαλίσεις αυτοκινήτου τρίτων. Διαθέσιμο στο SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). Η ακρίβεια του XGBoost για πρόβλεψη αιτημάτων ασφαλίσεων. Διεθνές Περιοδικό Προηγμένης Εφαρμογής Λογισμικού, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Μια συγκριτική μελέτη αλγορίθμων εξόρυξης δεδομένων στην πρόβλεψη αιτημάτων ασφαλίσεων αυτοκινήτου. Ευρωπαϊκό Διεθνές Περιοδικό Επιστημών και Τεχνολογίας, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Μια ενοποιημένη προσέγγιση για την ερμηνεία προβλέψεων μοντέλων. Σε Προηγμένα νευρωνικά συστήματα επεξεργασίας πληροφοριών (σσ. 4765-4774).

[3] Δείτε εδώ για περισσότερες λεπτομέρειες: https://christophm.github.io/interpretable-ml-book/index.html