Εισαγωγή Νέων Επιπεδών Διαφάνειας με τον AI – Ηγέτες Σκέψης

Từ Balakrishna D R, Ανώτερος Αντιπρόεδρος, Αρχηγός Προσφοράς Υπηρεσιών – Ενέργεια, Επικοινωνίες, Υπηρεσίες και Υπηρεσίες AI και Αυτοματοποίησης, στην Infosys.

Στις 9 Ιανουαρίου 2020, ο Παγκόσμιος Οργανισμός Υγείας ενημέρωσε το κοινό για την έξαρση του κορονοϊού στην Κίνα. Τρεις ημέρες πριν, τα Κέντρα Ελέγχου και Πρόληψης Νοσημάτων των ΗΠΑ είχαν ενημερώσει ήδη. Όμως, ήταν μια καναδική πλατφόρμα παρακολούθησης υγείας που είχε προηγηθεί και των δύο, στέλνοντας ειδοποίηση για την έξαρση στους πελάτες της ήδη από τις 31 Δεκεμβρίου 2019! Η πλατφόρμα, BlueDot, χρησιμοποιεί αλγόριθμους που βασίζονται στον AI που αναζητούν αναφορές ειδήσεων σε ξένες γλώσσες, δίκτυα ασθενειών ζώων και φυτών και επίσημες δηλώσεις για να δώσει στους πελάτες της προηγμένη ειδοποίηση για να αποφύγουν περιοχές κινδύνου όπως η Γουχάν.

Τους τελευταίους χρόνια, ο AI έχει γίνει η βασική πηγή μετασχηματισμού, διαταράξεως και ανταγωνιστικού πλεονεκτήματος στην ταχέως μεταβαλλόμενη οικονομία μας. Από τον εντοπισμό επιδημιών έως την άμυνα, την υγεία, τα αυτόνομα οχήματα και όλα τα άλλα, ο AI κερδίζει ευρεία αποδοχή. Η PwC προβλέπει ότι ο AI θα μπορούσε να συμβάλλει μέχρι και 15,7 τρισεκατομμύρια δολάρια στην παγκόσμια οικονομία το 2030, με το τρέχον ρυθμό αύξησης.

Ωστόσο, παρά όλες τις ελπίδες που φέρνει ο AI, εξακολουθεί να θέτει ανεξέλυτα ερωτήματα γύρω από τη διαφάνεια και την αξιοπιστία. Η ανάγκη να κατανοήσουμε, να προβλέψουμε και να εμπιστευθούμε την ικανότητα λήψης αποφάσεων των συστημάτων AI είναι σημαντική, ιδιαίτερα σε περιοχές που είναι κρίσιμες για τη ζωή, τον θάνατο και την προσωπική ευεξία.

Στο άγνωστο

Όταν τα αυτόματα συστήματα λήψης αποφάσεων εισήχθησαν για πρώτη φορά για να υποστηρίξουν την λήψη αποφάσεων, βασίζονταν σε χειροποίητες κανόνες. Αυτό έκανε εύκολη την ερμηνεία και την τροποποίηση της συμπεριφοράς τους, αλλά δεν ήταν κλιμακώσιμα. Τα μοντέλα που βασίζονται στο machine learning ήρθαν για να καλύψουν αυτή την ανάγκη· δεν χρειάζονταν ανθρώπινη παρέμβαση και μπορούσαν να εκπαιδευτούν από δεδομένα – όσο το δυνατόν περισσότερα. Ενώ τα μοντέλα deep learning είναι ακατανίκητα στην ικανότητά τους να μοντελοποιούν και στην εμβέλειά τους, το γεγονός ότι αυτά τα μοντέλα είναι μαύρες κούκλες για το μεγαλύτερο μέρος, θέτει ενοχλητικά ερωτήματα σχετικά με την εγκυρότητά τους, την αξιοπιστία τους και τις προκαταλήψεις τους στο контέκστ της ευρείας χρήσης τους.

Τώρα δεν υπάρχει άμεσος μηχανισμός για να αναζητήσουμε την έμμεση λογική που χρησιμοποιούν τα μοντέλα deep learning. Με τα μοντέλα machine learning που έχουν μαύρη κούκλα, ο основной τύπος ερμηνείας είναι γνωστός ως μεταγενέστερη ερμηνεία, που σημαίνει ότι οι ερμηνείες εξάγονται από τη φύση και τις ιδιότητες των εξόδων που παράγονται από το μοντέλο. Οι πρώτες προσπάθειες να εξαγάγουν κανόνες από νευρωνικά δίκτυα (όπως ονομάζονταν τα deep learning νωρίτερα) δεν διώκονται πλέον,既然 τα δίκτυα έχουν γίνει πολύ μεγάλα και ποικίλα για την εκχερσόμενη εξαγωγή κανόνων. Υπάρχει, επομένως, μια επείγουσα ανάγκη να εισαχθεί ερμηνεία και διαφάνεια στο ίδιο το υφάσμα του μοντελοποίησης AI.

Έξοδος νύχτα, είσοδος φωτός

Αυτή η ανησυχία έχει δημιουργήσει μια ανάγκη για διαφάνεια στο machine learning, η οποία έχει οδηγήσει στην ανάπτυξη του εξηγήσιμου AI, ή XAI. Αυτό επιδιώκει να αντιμετωπίσει τα κύρια ζητήματα που εμποδίζουν την πλήρη εμπιστοσύνη μας στην λήψη αποφάσεων AI — συμπεριλαμβανομένης της προκατάληψης και της διαφάνειας. Αυτό το νέο πεδίο του AI φέρνει ευθύνη για να διασφαλίσει ότι ο AI ωφελεί την κοινωνία με καλύτερα αποτελέσματα για όλους τους εμπλεκόμενους.

Το XAI θα είναι κρίσιμο για να βοηθήσει με τις προκαταλήψεις που υπάρχουν στα συστήματα και τους αλγόριθμους AI, οι οποίοι προγραμματίζονται από ανθρώπους των οποίων τα υπόβαθρα και οι εμπειρίες οδηγούν ανεπίσημα στην ανάπτυξη συστημάτων AI που εμφανίζουν προκατάληψη. Ακατάλληλες προκαταλήψεις, όπως η διάκριση κατά μιας συγκεκριμένης εθνικότητας ή φυλής, μπορεί να εισέλθουν επειδή το σύστημα προσθέτει μια αξία σε αυτήν με βάση πραγματικά δεδομένα. Για παράδειγμα, μπορεί να βρεθεί ότι οι τυπικοί απατεώνες δανείων προέρχονται από μια συγκεκριμένη εθνοτική προέλευση, ωστόσο, η εφαρμογή οποιασδήποτε περιοριστικής πολιτικής με βάση αυτό μπορεί να είναι ενάντια στις δίκαιες πρακτικές. Λανθασμένα δεδομένα είναι另一原因 προκατάληψης. Για παράδειγμα, εάν ένας συγκεκριμένος αναγνώστης προσώπου είναι ανακριβής 5% του χρόνου λόγω του χρώματος του δέρματος ή του φωτός που πέφτει στο πρόσωπο, μπορεί να εισαγάγει προκατάληψη. Τέλος, εάν τα δείγματά σας δεν είναι μια αληθινή αναπαράσταση του συνόλου του πληθυσμού, η προκατάληψη είναι αναπόφευκτη.

Το XAI επιδιώκει να αντιμετωπίσει τον τρόπο με τον οποίο οι μαύρες κούκλες των συστημάτων AI λαμβάνουν αποφάσεις. Εξετάζει και προσπαθεί να κατανοήσει τα βήματα και τα μοντέλα που εμπλέκονται στη λήψη αποφάσεων. Απαντάει σε κρίσιμα ερωτήματα, όπως: Γιατί το σύστημα AI έκανε μια συγκεκριμένη πρόβλεψη ή απόφαση; Γιατί δεν έκανε το σύστημα AI κάτι άλλο; Πότε το σύστημα AI πέτυχε ή απέτυχε; Πότε τα συστήματα AI δίνουν αρκετή εμπιστοσύνη στην απόφαση για να την εμπιστευτείτε, και πώς μπορεί το σύστημα AI να διορθώσει λάθη;

Εξηγήσιμος, προβλέψιμος και αναζητήσιμος AI

Ένας τρόπος για να αποκτήσουμε ερμηνεία στα συστήματα AI είναι να χρησιμοποιήσουμε αλγόριθμους machine learning που είναι εγγενώς εξηγήσιμοι. Για παράδειγμα, απλότερες μορφές machine learning, όπως τα δέντρα απόφασης, οι ταξινομητές Bayesian και άλλοι αλγόριθμοι που έχουν ορισμένα ποσά αναζητήσιμης και διαφάνειας στη λήψη αποφάσεων. Μπορούν να παρέχουν τη διαφάνεια που χρειάζεται για κρίσιμα συστήματα AI χωρίς να θυσιάζουν πολύ την απόδοση ή την ακρίβεια.

Παρατηρώντας την ανάγκη να παρέχουμε ερμηνεία για το deep learning και άλλες πιο σύνθετες προσεγγίσεις αλγορίθμων, η DARPA των ΗΠΑ διεξάγει προσπάθειες για να παράγει εξηγήσιμες λύσεις AI μέσω μιας σειράς χρηματοδοτούμενων ερευνητικών πρωτοβουλιών. Η DARPA περιγράφει την ερμηνεία AI σε τρία μέρη, τα οποία περιλαμβάνουν: τακτική ακρίβεια, που σημαίνει ότι τα μοντέλα θα εξηγήσουν πώς φθάνουν στα συμπεράσματα για να βελτιώσουν την μελλοντική λήψη αποφάσεων· κατανόηση και εμπιστοσύνη από τους ανθρώπινους χρήστες και τους χειριστές, καθώς και ανάλυση και αναζητήσιμότητα των ενεργειών που αναλαμβάνονται από τα συστήματα AI.

Η αναζητήσιμότητα θα ενδυναμώσει τους ανθρώπους να μπαίνουν στα βρόχους λήψης αποφάσεων AI και να έχουν τη δυνατότητα να σταματήσουν ή να ελέγχουν τις εργασίες τους, όταν χρειάζεται. Ένα σύστημα AI δεν αναμένεται μόνο να εκτελέσει μια συγκεκριμένη εργασία ή να επιβάλει αποφάσεις, αλλά και να παρέχει μια διαφανή αναφορά για το γιατί έλαβε συγκεκριμένες αποφάσεις με την υποστηρικτική λογική.

Η τυποποίηση των αλγορίθμων ή ακόμη και των προσεγγίσεων XAI δεν είναι目前 δυνατή, αλλά μπορεί να είναι δυνατή η τυποποίηση των επιπέδων διαφάνειας / επιπέδων ερμηνείας. Οι οργανισμοί τυποποίησης προσπαθούν να φθάσουν σε κοινές, τυποποιημένες κατανόσεις αυτών των επιπέδων διαφάνειας για να διευκολύνουν την επικοινωνία μεταξύ των τελικών χρηστών και των προμηθευτών τεχνολογίας.

Όσο οι κυβερνήσεις, οι ιδρύματα, οι επιχειρήσεις και το γενικό κοινό εξαρτώνται από συστήματα που βασίζονται στον AI, η κέρδισή τους της εμπιστοσύνης τους μέσω μιας σαφέστερης διαφάνειας της διαδικασίας λήψης αποφάσεων θα είναι θεμελιώδους σημασίας. Η εκκίνηση της πρώτης παγκόσμιας διάσκεψης που είναι αποκλειστικά αφιερωμένη στο XAI, η Διεθνής Συνάντηση για τον AI: Εργαστήριο για τον Εξηγήσιμο AI, είναι περαιτέρω απόδειξη ότι η εποχή του XAI έχει έρθει.