Η Google Δημιουργεί Νέο Πρόγραμμα Εξηγητής AI για την Ενίσχυση της Διαφάνειας και την Αποσφαλμάτωση

Προσφάτως, η Google (GOOGL ) ανακοίνωσε τη δημιουργία μιας νέας cloud πλατφόρμας που έχει ως στόχο να δώσει εποπτεία στο πώς ένα πρόγραμμα AI λαμβάνει αποφάσεις, καθιστώντας την αποσφαλμάτωση του προγράμματος ευκολότερη και ενισχύοντας τη διαφάνεια. Όπως αναφέρεται στο The Register, η cloud πλατφόρμα ονομάζεται Explainable AI και σηματοδοτεί μια σημαντική προσπάθεια της Google να επενδύσει στην εξηγησιμότητα του AI.

Τα τεχνητά νευρωνικά δίκτυα χρησιμοποιούνται σε πολλά, ίσως τα περισσότερα, από τα κύρια συστήματα AI που χρησιμοποιούνται στον κόσμο σήμερα. Τα νευρωνικά δίκτυα που τρέχουν τις κύριες εφαρμογές AI possono να είναι εξαιρετικά σύνθετα και μεγάλα, και καθώς η πολυπλοκότητα του συστήματος αυξάνεται, γίνεται όλο και πιο δύσκολο να κατανοηθεί γιατί μια συγκεκριμένη απόφαση έχει ληφθεί από το σύστημα. Όπως εξηγεί η Google στο λευκό βιβλίο της, καθώς τα συστήματα AI γίνονται πιο ισχυρά, γίνονται επίσης πιο σύνθετα και επομένως πιο δύσκολο να αποσφαλματωθούν. Η διαφάνεια επίσης χάνεται όταν αυτό συμβαίνει, το οποίο σημαίνει ότι οι προκατειλημμένοι αλγόριθμοι possono να είναι δύσκολο να αναγνωριστούν και να αντιμετωπιστούν.

Το γεγονός ότι ο λόγος που οδηγεί τη συμπεριφορά των σύνθετων συστημάτων είναι τόσο δύσκολο να ερμηνευτεί συχνά έχει δραστικές συνέπειες. Εκτός από το ότι καθιστά δύσκολο να καταπολεμήσουμε την προκατάληψη του AI, μπορεί να κάνει εξαιρετικά δύσκολο να διακρίνουμε τις ψευδείς συσχετίσεις από τις πραγματικά σημαντικές και ενδιαφέρουσες συσχετίσεις.

Πολλές εταιρείες και ερευνητικές ομάδες εξετάζουν τον τρόπο αντιμετώπισης του προβλήματος του “μαύρου κουτιού” του AI και τη δημιουργία ενός συστήματος που εξηγεί επαρκώς γιατί λήφθηκαν ορισμένες αποφάσεις από ένα AI. Η πλατφόρμα Explainable AI της Google αντιπροσωπεύει τη δική της προσπάθεια να αντιμετωπίσει αυτή την πρόκληση. Το Explainable AI αποτελείται από τρία διαφορετικά εργαλεία. Το πρώτο εργαλείο είναι ένα σύστημα που περιγράφει ποια χαρακτηριστικά έχουν επιλεγεί από ένα AI και επίσης εμφανίζει ένα αποτέλεσμα που αντιπροσωπεύει το ποσοστό επιρροής που έχει ένα συγκεκριμένο χαρακτηριστικό στην τελική πρόβλεψη. Η αναφορά της Google για το εργαλείο παρέχει ένα παράδειγμα προβλέψεως του πόσο καιρό θα διαρκέσει μια ποδηλατική διαδρομή με βάση μεταβλητές όπως η βροχή, η τρέχουσα θερμοκρασία, η ημέρα της εβδομάδας και η ώρα έναρξης. Μετά τη λήψη της απόφασης από το δίκτυο, παρέχεται ανατροφοδότηση που εμφανίζει ποια χαρακτηριστικά είχαν την μεγαλύτερη επιρροή στις προβλέψεις.

Πώς παρέχει αυτό το εργαλείο τέτοια ανατροφοδότηση στην περίπτωση των δεδομένων εικόνας; Σε αυτή την περίπτωση, το εργαλείο παράγει ένα overlay που υπογραμμίζει τις περιοχές της εικόνας που έδωσαν το μεγαλύτερο βάρος στην απόφαση.

Ένα άλλο εργαλείο που βρίσκεται στο εργαλειοθήκη είναι το “What-If”, το οποίο εμφανίζει πιθανές διακυμάνσεις στην απόδοση του μοντέλου καθώς οι μεμονωμένες ιδιότητες χειρίζονται. Τέλος, το τελευταίο εργαλείο μπορεί να ρυθμιστεί για να παρέχει δείγματα αποτελεσμάτων σε ανθρώπινους κριτές με σταθερό χρονοδιάγραμμα.

Ο Δρ. Andrew Moore, ο επικεφαλής επιστήμονας της Google για το AI και το machine learning, περιέγραψε την έμπνευση για το πρόγραμμα. Ο Moore εξήγησε ότι πριν από περίπου πέντε χρόνια, η ακαδημαϊκή κοινότητα άρχισε να ανησυχεί για τις επιζήμιες παρενέργειες της χρήσης του AI και ότι η Google ήθελε να διασφαλίσει ότι τα συστήματά της χρησιμοποιούνταν μόνο με ηθικό τρόπο. Ο Moore περιέγραψε ένα περιστατικό όπου η εταιρεία προσπάθησε να σχεδιάσει ένα πρόγραμμα οπτικής αναγνώρισης για να ειδοποιήσει τους εργάτες οικοδομής εάν κάποιος δεν φορούσε κράνος, αλλά ανησυχούσαν ότι η παρακολούθηση θα μπορούσε να πάρει υπερβολική και να γίνει απονευροποιητική. Ο Moore είπε ότι υπήρχε παρόμοιος λόγος που η Google αποφάσισε να μην κυκλοφορήσει ένα γενικό API αναγνώρισης προσώπου, καθώς η εταιρεία ήθελε να έχει περισσότερο έλεγχο над το πώς χρησιμοποιούνταν η τεχνολογία της και να διασφαλίσει ότι χρησιμοποιούνταν μόνο με ηθικό τρόπο.

Ο Moore cũng υπογράμμισε γιατί ήταν τόσο σημαντικό για την απόφαση του AI να είναι εξηγητή:

“Εάν έχετε ένα κρίσιμο σύστημα ασφαλείας ή ένα κοινωνικά σημαντικό πράγμα που μπορεί να έχει απρόβλεπτες συνέπειες εάν νομίσετε ότι το μοντέλο σας έχει κάνει λάθος, πρέπει να можете να το διαγνώσετε. Θέλουμε να εξηγήσουμε προσεκτικά τι μπορεί και τι δεν μπορεί να κάνει η εξηγησιμότητα. Δεν είναι πανάκης.”