Η Ομάδα Αναπτύσσει Μέθοδο για Σύγκριση Νευρωνικών Δικτύων

Μια ομάδα ερευνητών στο Εργαστήριο Εθνικής Άμυνας του Λος Άλμος έχει αναπτύξει μια νέα προσέγγιση για τη σύγκριση νευρωνικών δικτύων. Σύμφωνα με την ομάδα, αυτή η νέα προσέγγιση κοιτάζει μέσα στο “μαύρο κουτί” της τεχνητής νοημοσύνης (ΤΝ) και τους βοηθά να κατανοήσουν τη συμπεριφορά των νευρωνικών δικτύων. Τα νευρωνικά δίκτυα, τα οποία αναγνωρίζουν μοτίβα μέσα σε συνόλους δεδομένων, χρησιμοποιούνται για eine ευρεία γκάμα εφαρμογών όπως συστήματα αναγνώρισης προσώπου και αυτόνομες οχήματα.

Η ομάδα παρουσίασε το έγγραφό της, “If You’ve Trained One You’ve Trained Them All: Inter-Architecture Similarity Increases With Robustness,” στη Διάσκεψη για την Αβεβαιότητα στην Τεχνητή Νοημοσύνη.

Ο Haydn Jones είναι ερευνητής στην ομάδα Προηγμένης Έρευνας σε Κυβερνοσυστήματα στο Λος Άλμος και πρωταρχικός συγγραφέας του ερευνητικού εγγράφου.

Καλύτερη Κατανόηση Νευρωνικών Δικτύων

“Η κοινότητα έρευνας της ΤΝ δεν έχει απαραίτητα μια πλήρη κατανόηση του τι κάνουν τα νευρωνικά δίκτυα· μας δίνουν καλά αποτελέσματα, αλλά δεν ξέρουμε πώς ή γιατί,” είπε ο Jones. “Η νέα μας μέθοδος κάνει καλύτερη δουλειά στη σύγκριση νευρωνικών δικτύων, το οποίο είναι ένα κρίσιμο βήμα προς την καλύτερη κατανόηση των μαθηματικών πίσω από την ΤΝ.

Η νέα έρευνα θα παίξει επίσης ρόλο στη βοήθεια των ειδικών να κατανοήσουν τη συμπεριφορά των ρομπουστικών νευρωνικών δικτύων.

Ενώ τα νευρωνικά δίκτυα έχουν υψηλή απόδοση, είναι επίσης εύθραυστα. Μικρές αλλαγές στις συνθήκες, όπως ένα μερικώς καλυμμένο σήμα στάσης που επεξεργάζεται ένα αυτόνομο όχημα, μπορεί να προκαλέσει στο νευρωνικό δίκτυο να λανθασμένα αναγνωρίσει το σήμα. Αυτό σημαίνει ότι μπορεί να μην σταματήσει ποτέ, το οποίο μπορεί να αποδειχθεί επικίνδυνο.

Εκπαιδευτική Προσέγγιση Νευρωνικών Δικτύων

Οι ερευνητές ξεκίνησαν να βελτιώσουν αυτά τα είδη νευρωνικών δικτύων κοιτάζοντας τρόπους για τη βελτίωση της ανθεκτικότητας του δικτύου. Μια από τις προσεγγίσεις περιλαμβάνει την “επίθεση” στα δίκτυα κατά τη διαδικασία εκπαίδευσής τους, όπου οι ερευνητές προκαλούν σκόπιμα ανακρίβειες ενώ εκπαιδεύουν την ΤΝ να τις αγνοήσει. Η διαδικασία, η οποία ονομάζεται εκπαιδευτική προσέγγιση, κάνει πιο δύσκολο για τα δίκτυα να γίνουν θύματα.

Η ομάδα εφαρμόσε την νέα μετρική της ομοιότητας του δικτύου σε εκπαιδευτικά νευρωνικά δίκτυα. Εκπλήχθηκαν όταν發現 ότι η εκπαιδευτική προσέγγιση προκαλεί τα νευρωνικά δίκτυα στον τομέα της οπτικής να συγκλίνουν σε παρόμοιες αναπαραστάσεις δεδομένων, ανεξάρτητα από την αρχιτεκτονική του δικτύου, καθώς η ένταση της επίθεσης αυξάνεται.

“Βρήκαμε ότι όταν εκπαιδεύουμε νευρωνικά δίκτυα να είναι ανθεκτικά σε επιθέσεις, αρχίζουν να κάνουν τα ίδια πράγματα,” είπε ο Jones.

Αυτό δεν είναι η πρώτη φορά που οι ειδικοί έχουν προσπαθήσει να βρουν την ιδανική αρχιτεκτονική για νευρωνικά δίκτυα. Ωστόσο, τα νέα ευρήματα δείχνουν ότι η εισαγωγή της εκπαιδευτικής προσέγγισης κλείνει το χάσμα σημαντικά, το οποίο σημαίνει ότι η κοινότητα έρευνας της ΤΝ μπορεί να μην χρειάζεται να εξερευνήσει τόσο πολλές νέες αρχιτεκτονικές,既然 ότι η εκπαιδευτική προσέγγιση προκαλεί διαφορετικές αρχιτεκτονικές να συγκλίνουν σε παρόμοιες λύσεις.

“Βάζοντας ότι τα ρομπουστικά νευρωνικά δίκτυα είναι παρόμοια μεταξύ τους, κάνουμε πιο εύκολη την κατανόηση του πώς μπορεί να λειτουργήσει η ρομπουστική ΤΝ,” είπε ο Jones. “Μπορεί να αποκαλύψουμε حتى ενδείξεις για το πώς συμβαίνει η αντίληψη στους ανθρώπους και τα άλλα ζώα.”