Διαφορετική Ομάδα Εкспέρτων Αναπτύσσει Σύστημα Άμυνας για Νευρωνικά Δίκτυα

Μια διαφορετική ομάδα μηχανικών, βιολόγων και μαθηματικών στο Πανεπιστήμιο του Μίσιγκαν έχει αναπτύξει ένα σύστημα άμυνας για νευρωνικά δίκτυα βασισμένο στο ανοσοποιητικό σύστημα. Το σύστημα μπορεί να υπερασπιστεί νευρωνικά δίκτυα ενάντια σε διάφορους τύπους επιθέσεων.

Κακόβουλοι ομάδες μπορούν να προσαρμόσουν την είσοδο eines αλγορίθμου βαθιάς μάθησης για να τον κατευθύνουν λάθος, το οποίο μπορεί να αποτελέσει ένα σημαντικό πρόβλημα για εφαρμογές όπως αναγνώριση, μηχανική όραση, φυσική γλώσσα επεξεργασίας (NLP), μετάφραση γλώσσας, ανίχνευση διένεξης και πολλά άλλα.

Ρομπούστικο Σύστημα Μάθησης με Ένστικτο Ανοσοποιητικού

Το νεοκατασκευασμένο σύστημα άμυνας ονομάζεται Ρομπούστικο Σύστημα Μάθησης με Ένστικτο Ανοσοποιητικού. Η εργασία δημοσιεύθηκε στο IEEE Access.

Ο Alfred Hero είναι ο John H. Holland Distinguished University καθηγητής. Ηγήθηκε της εργασίας.

“Το RAILS αντιπροσωπεύει την πρώτη προσέγγιση για αντι-επιθετικές μάθησης που μοντελοποιείται μετά το ανοσοποιητικό σύστημα, το οποίο λειτουργεί διαφορετικά από το σύστημα ανοσοποιητικού”, είπε ο Hero.

Η ομάδα βρήκε ότι τα βαθιά νευρωνικά δίκτυα, τα οποία ήδη εμπνέονται από τον εγκέφαλο, μπορούν επίσης να μιμούνται τη βιολογική διαδικασία του ανοσοποιητικού συστήματος των θηλαστικών. Αυτό το ανοσοποιητικό σύστημα παράγει новые κύτταρα που σχεδιάζονται για να υπερασπιστούν ενάντια σε συγκεκριμένους παθογόνους.

Ο Indika Rajapakse είναι αναπληρωτής καθηγητής υπολογιστικής ιατρικής και βιοπληροφορικής, καθώς και συν-ηγέτης της μελέτης.

“Το ανοσοποιητικό σύστημα είναι κατασκευασμένο για εκπλήξεις. Έχει ένα εκπληκτικό σχέδιο και θα βρει πάντα μια λύση”, είπε ο Rajapakse.

Μιμούμενος το Ανοσοποιητικό Σύστημα

Το RAILS μιμείται τις φυσικές άμυνες του ανοσοποιητικού συστήματος, το οποίο του επιτρέπει να αναγνωρίσει και να αντιμετωπίσει ύποπτες εισόδους στο νευρωνικό δίκτυο. Η βιολογική ομάδα μελέτησε πρώτα πώς το ανοσοποιητικό σύστημα των ποντικών ανταποκρίνεται σε ένα αντίgens πριν δημιουργήσει ένα μοντέλο του ανοσοποιητικού συστήματος.

Η ανάλυση δεδομένων για τις πληροφορίες πραγματοποιήθηκε από τον Stephen Lindsly, ο οποίος ήταν διδάκτορας στη βιοπληροφορική εκείνη την εποχή. Ο Lindsly βοήθησε να μεταφράσει αυτές τις πληροφορίες μεταξύ των βιολόγων και μηχανικών, το οποίο επέτρεψε στην ομάδα του Hero να μοντελοποιήσει τη βιολογική διαδικασία σε υπολογιστές. Για να το κάνουν αυτό, η ομάδα συνδύασε βιολογικούς μηχανισμούς με τον κώδικα.

Οι άμυνες του RAILS δοκιμάστηκαν με αντι-επιθετικές εισόδους.

“Δεν ήμασταν σίγουροι ότι είχαμε πραγματικά καταγράψει τη βιολογική διαδικασία μέχρι να συγκρίνουμε τις καμπύλες μάθησης του RAILS με αυτές που εξαγόμεναν από τα πειράματα”, είπε ο Hero. “Ήταν ακριβώς οι ίδιες”.

Το RAILS υπερέβη δύο από τις πιο συχνές διαδικασίες μηχανικής μάθησης που χρησιμοποιούνται για να πολεμήσουν τις αντι-επιθετικές επιθέσεις. Αυτές οι δύο διαδικασίες είναι Roust Deep k-Nearest Neighbor και συνελικτικά νευρωνικά δίκτυα.

Ο Ren Wang είναι ερευνητής fellow στην ηλεκτρική και υπολογιστική μηχανική. Ήταν σε μεγάλο βαθμό υπεύθυνος για την ανάπτυξη και την εφαρμογή του λογισμικού.

“Ένα πολύ υποσχόμενο μέρος αυτής της εργασίας είναι ότι το γενικό μας πλαίσιο μπορεί να υπερασπιστεί ενάντια σε διάφορους τύπους επιθέσεων”, είπε ο Ren Wang.

Οι ερευνητές χρησιμοποίησαν την αναγνώριση εικόνας ως μια περίπτωση δοκιμής για να αξιολογήσουν το RAILS ενάντια σε οκτώ τύπους αντι-επιθετικών επιθέσεων σε διάφορες βάσεις δεδομένων. Έδειξε βελτίωση σε όλες τις περιπτώσεις και ακόμη και προστατεύτηκε ενάντια στην επίθεση Projected Gradient Descent, η οποία είναι ο πιο καταστροφικός τύπος αντι-επιθετικής επίθεσης. Το RAILS βελτίωσε επίσης την συνολική ακρίβεια.

“Αυτό είναι ένα εκπληκτικό παράδειγμα χρήσης μαθηματικών για να κατανοήσουμε αυτό το όμορφο δυναμικό σύστημα”, είπε ο Rajapakse. “Μπορεί να πάρουμε αυτό που μάθαμε από το RAILS και να βοηθήσουμε να επαναπρογραμματίσουμε το ανοσοποιητικό σύστημα για να λειτουργήσει πιο γρήγορα”.