Équipe diversifiée d’experts développe un système de défense pour les réseaux de neurones

Une équipe diversifiée d’ingénieurs, de biologistes et de mathématiciens de l’Université du Michigan a développé un système de défense pour les réseaux de neurones basé sur le système immunitaire adaptatif. Le système peut défendre les réseaux de neurones contre divers types d’attaques.

Des groupes malveillants peuvent ajuster les entrées d’un algorithme d’apprentissage automatique pour le diriger dans la mauvaise direction, ce qui peut constituer un problème majeur pour les applications telles que l’identification, la vision par ordinateur, le traitement automatique du langage naturel (NLP), la traduction de langues, la détection de querelles et bien d’autres.

Système d’apprentissage robuste inspiré du système immunitaire

Le nouveau système de défense construit s’appelle le Système d’apprentissage robuste inspiré du système immunitaire. Les travaux ont été publiés dans IEEE Access.

Alfred Hero est le professeur distingué John H. Holland. Il a co-dirigé les travaux.

« Le Système d’apprentissage robuste inspiré du système immunitaire représente la toute première approche d’apprentissage adversatif qui est modélisée d’après le système immunitaire adaptatif, qui fonctionne différemment du système immunitaire inné », a déclaré Hero.

L’équipe a constaté que les réseaux de neurones profonds, qui sont déjà inspirés du cerveau, peuvent également imiter le processus biologique du système immunitaire des mammifères. Ce système immunitaire génère de nouvelles cellules conçues pour défendre contre des agents pathogènes spécifiques.

Indika Rajapakse est professeur agrégé de médecine computationnelle et de bioinformatique, ainsi que co-responsable de l’étude.

« Le système immunitaire est conçu pour les surprises. Il a une conception incroyable et trouvera toujours une solution », a déclaré Rajapakse.

Imitation du système immunitaire

Le Système d’apprentissage robuste inspiré du système immunitaire imite les défenses naturelles du système immunitaire, ce qui lui permet d’identifier et de traiter les entrées suspectes du réseau de neurones. L’équipe biologique a d’abord étudié la façon dont les systèmes immunitaires adaptatifs des souris réagissaient à un antigène avant de créer un modèle du système immunitaire.

L’analyse des données a ensuite été effectuée par Stephen Lindsly, qui était à l’époque un étudiant diplômé en bioinformatique. Lindsly a aidé à traduire ces informations entre les biologistes et les ingénieurs, ce qui a permis à l’équipe de Hero de modéliser le processus biologique sur ordinateur. Pour ce faire, l’équipe a intégré des mécanismes biologiques dans le code.

Les défenses du Système d’apprentissage robuste inspiré du système immunitaire ont été testées avec des entrées adverses.

« Nous n’étions pas sûrs d’avoir vraiment capturé le processus biologique jusqu’à ce que nous comparions les courbes d’apprentissage du Système d’apprentissage robuste inspiré du système immunitaire à celles extraites des expériences », a déclaré Hero. « Elles étaient exactement les mêmes. »

Le Système d’apprentissage robuste inspiré du système immunitaire a surpassé deux des processus d’apprentissage automatique les plus couramment utilisés pour lutter contre les attaques adverses. Ces deux processus sont Roust Deep k-Nearest Neighbor et les réseaux de neurones convolutionnels.

Ren Wang est un chercheur en génie électrique et informatique. Il a été en grande partie responsable du développement et de la mise en œuvre du logiciel.

« Une partie très prometteuse de ce travail est que notre cadre général peut défendre contre différents types d’attaques », a déclaré Ren Wang.

Les chercheurs ont ensuite utilisé l’identification d’images comme cas de test pour évaluer le Système d’apprentissage robuste inspiré du système immunitaire contre huit types d’attaques adverses dans divers ensembles de données. Il a démontré une amélioration dans tous les cas, et il a même protégé contre l’attaque Projected Gradient Descent, qui est le type d’attaque adverse le plus nuisible. Le Système d’apprentissage robuste inspiré du système immunitaire a également amélioré la précision globale.

« C’est un exemple incroyable de l’utilisation des mathématiques pour comprendre ce beau système dynamique », a déclaré Rajapakse. « Nous pourrions peut-être prendre ce que nous avons appris du Système d’apprentissage robuste inspiré du système immunitaire et aider à reprogrammer le système immunitaire pour qu’il fonctionne plus rapidement. »