Ομάδα Ερευνών του MIT Σχεδιάζει Δίκτυο AI για Αντιμετώπιση Αντιπαλών Παραδειγμάτων

Μια ομάδα ερευνητών από το MIT έχει αναπτύξει einen αλγόριθμο βαθιάς μάθησης που προορίζεται να βοηθήσει τις AI να αντιμετωπίσουν τα “αντιπαλά” παραδείγματα, τα οποία μπορούν να προκαλέσουν σε μια AI να κάνει λάθος προβλέψεις και να εκτελέσει λάθος ενέργειες. Ο αλγόριθμος που σχεδιάστηκε από την ομάδα του MIT μπορεί να βοηθήσει τα συστήματα AI να διατηρήσουν την ακρίβειά τους και να αποφύγουν λάθη όταν αντιμετωπίζουν confounding δεδομένα.

Τα συστήματα AI αναλύουν τα χαρακτηριστικά εισόδου ενός γεγονότος για να αποφασίσουν πώς να ανταποκριθούν σε αυτό το γεγονός. Ένα AI που είναι υπεύθυνο για τη χειριστήρια ενός αυτονομού οχήματος πρέπει να λαμβάνει δεδομένα από τις κάμερες του οχήματος και να αποφασίσει τι να κάνει με βάση τα δεδομένα που περιέχονται σε αυτές τις εικόνες. Ωστόσο, υπάρχει η πιθανότητα ότι τα δεδομένα εικόνας που αναλύονται από το AI δεν είναι μια ακριβής αναπαράσταση του πραγματικού κόσμου. Ένα σφάλμα στο σύστημα κάμερας μπορεί να αλλάξει κάποια pixel, οδηγώντας το AI να βγάλει λάθος συμπεράσματα σχετικά με την κατάλληλη πορεία δράσης.

Τα “αντιπαλά εισαγωγικά” είναι σαν οπτικές ψευδαισθήσεις για ένα σύστημα AI. Είναι εισαγωγικά που confound ένα AI με κάποιο τρόπο. Τα αντιπαλά εισαγωγικά μπορούν να δημιουργηθούν με το εκφρασμένο σκοπό να προκαλέσουν σε ένα AI να κάνει λάθη, αντιπροσωπεύοντας δεδομένα με τέτοιο τρόπο που το AI να πιστεύει ότι το περιεχόμενο ενός παραδείγματος είναι κάτι άλλο αντί για κάτι άλλο. Για παράδειγμα, είναι δυνατό να δημιουργηθεί ένα αντιπαλό παράδειγμα για ένα σύστημα όρασης υπολογιστή με την τροποποίηση ελαφρά εικόνων γατών, οδηγώντας το AI να ταξινομήσει λανθασμένα τις εικόνες ως монίτορ υπολογιστή. Η ομάδα ερευνών του MIT σχεδιάσε έναν αλγόριθμο για να βοηθήσει στην προστασία από τα αντιπαλά παραδείγματα, επιτρέποντας στο μοντέλο να διατηρήσει ένα βαθμό “σκέψης” σχετικά με τις εισαγωγές που λαμβάνει.

Οι ερευνητές του MIT ονόμασαν την προσέγγισή τους “Πιστοποιημένη Αντιπαλή Ρομποτική για Βαθιά Ενίσχυση Μάθησης”, ή CARRL. Το CARRL αποτελείται από ένα δίκτυο ενίσχυσης και ένα παραδοσιακό βαθύ νευρωνικό δίκτυο που συνδέονται μαζί. Η ενίσχυση μάθησης χρησιμοποιεί την έννοια των “ανταμοιβών” για την εκπαίδευση ενός μοντέλου, δίνοντας στο μοντέλο αναλογικά περισσότερη ανταμοιβή όσο πιο κοντά προσεγγίζει τον στόχο του. Το μοντέλο ενίσχυσης μάθησης χρησιμοποιείται για την εκπαίδευση ενός Deep Q-Netowrkk, ή DQN. Τα DQNs λειτουργούν σαν παραδοσιακά νευρωνικά δίκτυα, αλλά επίσης συνδέουν τις εισαγωγικές τιμές με ένα επίπεδο ανταμοιβής, πολύ σαν τα συστήματα ενίσχυσης μάθησης.

Το CARRL λειτουργεί με τη μοντελοποίηση μιας σειράς διαφορετικών πιθανών τιμών για δεδομένα εισόδου.

Υποθέτοντας ότι το AI προσπαθεί να παρακολουθήσει τη θέση ενός σημείου μέσα σε μια μεγαλύτερη εικόνα, το AI θεωρεί ότι η θέση του σημείου μπορεί να είναι το αποτέλεσμα της αντιπαλής επιρροής και θεωρεί περιοχές όπου το σημείο θα μπορούσε να είναι αντί για κάτι άλλο. Το δίκτυο λαμβάνει αποφάσεις με βάση το χειρότερο σενάριο για τη θέση του σημείου, καθορίζοντας την ενέργεια που θα παράγει την υψηλότερη ανταμοιβή σε αυτό το χειρότερο σενάριο.

Η τυπική μέθοδος για την προστασία από τα αντιπαλά παραδείγματα περιλαμβάνει την εκτέλεση ελαφρώς τροποποιημένων εκδόσεων της εισαγωγικής εικόνας μέσω του δικτύου AI για να δει αν η ίδια απόφαση λαμβάνεται πάντα. Αν οι τροποποιήσεις της εικόνας δεν επηρεάζουν δραματικά το αποτέλεσμα, υπάρχει μια καλή πιθανότητα ότι το δίκτυο είναι ανθεκτικό σε αντιπαλά παραδείγματα. Ωστόσο, αυτό δεν είναι μια βιώσιμη στρατηγική για σενάρια όπου πρέπει να ληφθούν γρήγορες αποφάσεις, καθώς αυτές είναι χρονοβόρες, υπολογιστικά ακριβές μεθόδους δοκιμής. Για αυτόν τον λόγο, η ομάδα του MIT έθεσε ως στόχο να δημιουργήσει ένα νευρωνικό δίκτυο που θα μπορούσε να λαμβάνει αποφάσεις με βάση τις χειρότερες υποθέσεις, ένα που θα μπορούσε να λειτουργήσει σε σενάρια όπου η ασφάλεια είναι κρίσιμη.

Οι ερευνητές του MIT έ-tested τον αλγόριθμό τους με το να έχουν το AI να παίξει ένα παιχνίδι Pong. Εισήγαγαν αντιπαλά παραδείγματα με το να τροποποιήσουν την εικόνα της μπάλας να εμφανίζεται λίγο πιο κάτω στην οθόνη από ότι στην πραγματικότητα. Όσο η επιρροή των αντιπαλών παραδειγμάτων αυξανόταν, οι τυπικές διορθωτικές τεχνικές άρχισαν να αποτυγχάνουν ενώ το CARRL ήταν σε θέση να κερδίσει περισσότερα παιχνίδια σε σύγκριση. Το CARRL επίσης δοκιμάστηκε σε μια εργασία αποφυγής συγκρούσεων. Η εργασία διεξήχθη σε ένα εικονικό περιβάλλον όπου δύο διαφορετικοί πράκτορες προσπαθούσαν να ανταλλάξουν θέσεις χωρίς να συγκρουστούν. Η ερευνητική ομάδα τροποποίησε την αντίληψη του πρώτου πράκτορα για τον δεύτερο πράκτορα και το CARRL ήταν σε θέση να οδηγήσει με επιτυχία τον πρώτο πράκτορα γύρω από τον δεύτερο πράκτορα, ακόμη και σε συνθήκες υψηλής αβεβαιότητας, αν και ήρθε ένα σημείο όπου το CARRL έγινε πολύ προσεκτικό και τελικά απέφυγε τον προορισμό του ολόκληρο.

Ανεξάρτητα, ο Michael Everett, ο οποίος ηγήθηκε της μελέτης, εξήγησε ότι η έρευνα θα μπορούσε να έχει επιπτώσεις στην ικανότητα των ρομποτών να χειρίζονται απρόβλεπτες καταστάσεις. Όπως εξήγησε ο Everett μέσω του MIT News:

«Οι άνθρωποι μπορούν να είναι αντιπαλικοί, όπως να βγουν μπροστά από einen ρομποτικό για να μπλοκάρουν τους αισθητήρες του, ή να αλληλεπιδρούν μαζί τους, όχι απαραίτητα με τις καλύτερες προθέσεις», λέει ο Everett. «Πώς μπορεί ένας ρομποτικός να σκεφτεί όλα τα πράγματα που οι άνθρωποι θα μπορούσαν να προσπαθήσουν να κάνουν, και να προσπαθήσουν να τα αποφύγουν; Ποιο είδος αντιπαλών μοντέλων θέλουμε να υπερασπιστούμε; Αυτό είναι κάτι που σκεφτόμαστε πώς να το κάνουμε.»