Κοινές Υποθέσεις για τις Βλαβερές Λειτουργίες του Machine Learning Μπορεί να είναι Λάθος

Τα βαθιά νευρωνικά δίκτυα είναι ένα από τα πιο θεμελιώδη στοιχεία της τεχνητής νοημοσύνης (AI), καθώς χρησιμοποιούνται για την επεξεργασία εικόνων και δεδομένων μέσω μαθηματικών μοντέλων. Είναι υπεύθυνα για einige από τις μεγαλύτερες προόδους στο πεδίο, αλλά επίσης διαταράσσονται με διάφορους τρόπους. Αυτές οι διαταραχές μπορούν να έχουν είτε μια μικρή έως μηδενική επίδραση, όπως μια απλή λανθασμένη αναγνώριση, είτε μια πιο δραματική και θανατηφόρα, όπως μια βλάβη σε αυτοκίνητο χωρίς οδηγό.

Νέα έρευνα από το Πανεπιστήμιο του Χιούστον υποδηλώνει ότι οι κοινές υποθέσεις μας για αυτές τις βλαβερές λειτουργίες μπορεί να είναι λάθος, το οποίο θα μπορούσε να βοηθήσει στην αξιολόγηση της αξιοπιστίας των δικτύων στο μέλλον.

Το έγγραφο δημοσιεύθηκε στο Nature Machine Intelligence τον Νοέμβριο.

“Adversarial Examples”

Το machine learning και άλλα είδη AI είναι κρίσιμα σε πολλά τομείς και εργασίες, όπως τα τραπεζικά και τα συστήματα κυβερνοασφάλειας. Σύμφωνα με τον Cameron Buckner, αναπληρωτή καθηγητή φιλοσοφίας στο UH, πρέπει να υπάρχει κατανόηση των αποτυχιών που προκαλούνται από τα “adversarial examples”. Αυτά τα adversarial examples συμβαίνουν όταν ένα σύστημα βαθιά νευρωνικού δικτύου κρίνει λανθασμένα εικόνες και άλλα δεδομένα όταν συναντά πληροφορίες έξω από τις εισόδους εκπαίδευσης που χρησιμοποιήθηκαν για την ανάπτυξη του δικτύου.

Τα adversarial examples είναι σπάνια, καθώς πολλές φορές δημιουργούνται ή ανακαλύπτονται από άλλα δίκτυα machine learning.

“Nieke από αυτά τα adversarial events θα μπορούσαν να είναι artifacts, και πρέπει να γνωρίζουμε τι είναι αυτά, για να γνωρίζουμε πόσο αξιόπιστα είναι αυτά τα δίκτυα”, έγραψε ο Buckner.

Ο Buckner λέει ότι η βλάβη θα μπορούσε να προκληθεί από την αλληλεπίδραση μεταξύ των πραγματικών προτύπων που εμπλέκονται και του τι το δίκτυο επιδιώκει να επεξεργαστεί, που σημαίνει ότι δεν είναι μια πλήρης λάθος.

Patterns as Artifacts

“Για να κατανοήσουμε τις επιπτώσεις των adversarial examples, πρέπει να εξερευνήσουμε μια τρίτη πιθανότητα: ότι τουλάχιστον κάποια από αυτά τα πρότυπα είναι artifacts”, είπε ο Buckner. “Έτσι, υπάρχουν目前 και κόστη στο να απορρίψουμε αυτά τα πρότυπα και κίνδυνοι στο να τα χρησιμοποιήσουμε αθώα.”

Αν και δεν είναι πάντα così, η εσκεμμένη κακοποίηση είναι ο υψηλότερος κίνδυνος σχετικά με αυτά τα adversarial events που προκαλούν βλαβερές λειτουργίες machine learning.

“Σημαίνει ότι κακόβουλοι ηθοποιοί θα μπορούσαν να εξαπατήσουν συστήματα που βασίζονται σε ένα αλλιώς αξιόπιστο δίκτυο”, είπε ο Buckner. “Αυτό έχει εφαρμογές ασφαλείας.”

Αυτό θα μπορούσε να είναι χάκερ που διαρρήσσουν ένα σύστημα ασφαλείας που βασίζεται σε τεχνολογία αναγνώρισης προσώπου, ή λανθασμένα etiquetted σημάδια κυκλοφορίας για να συγχύσουν τα αυτοκίνητα χωρίς οδηγό.

Άλλες προηγούμενες έρευνες έχουν δείξει ότι κάποια από αυτά τα adversarial examples είναι φυσικά και συμβαίνουν όταν ένα σύστημα machine learning λανθασμένα ερμηνεύει δεδομένα μέσω μιας απρόσμενης αλληλεπίδρασης, η οποία διαφέρει από τα λάθη στα δεδομένα. Αυτά τα φυσικά παραδείγματα είναι σπάνια, και ο einzικός τρόπος να τα ανακαλύψουμε είναι μέσω AI.

Ωστόσο, ο Buckner λέει ότι οι ερευνητές πρέπει να ξανασκέφτουν τους τρόπους με τους οποίους αντιμετωπίζουν τις ανωμαλίες.

Αυτές οι ανωμαλίες, ή artifacts, εξηγούνται από τον Buckner μέσω της αναλογίας μιας λείας φωτογραφίας, η οποία δεν προκαλείται από ένα ελάττωμα στο φακό της κάμερας, αλλά από την αλληλεπίδραση του φωτός με την κάμερα.

Εάν κάποιος γνωρίζει πώς να ερμηνεύσει τη λεία, σημαντικές πληροφορίες όπως η τοποθεσία του ήλιου μπορούν να εξαχθούν. Λόγω αυτού, ο Buckner πιστεύει ότι είναι δυνατό να εξαχθούν εξίσου σημαντικές πληροφορίες από αντίθετες συμβάντα στο machine learning που προκαλούνται από το artifact.

Ο Buckner λέει επίσης ότι όλα αυτά δεν σημαίνουν αυτόματα ότι το βαθύ machine learning δεν είναι έγκυρο.

“Nieke από αυτά τα adversarial events θα μπορούσαν να είναι artifacts”, είπε. “Πρέπει να γνωρίζουμε τι είναι αυτά τα artifacts, για να γνωρίζουμε πόσο αξιόπιστα είναι αυτά τα δίκτυα.”