Équipe diversifiée d’experts développe un système de défense pour les réseaux de neurones

Une équipe diversifiée d’ingénieurs, de biologistes et de mathématiciens de l’Université du Michigan a développé un système de défense pour les réseaux de neurones basé sur le système immunitaire adaptatif. Le système peut défendre les réseaux de neurones contre différents types d’attaques.

Des groupes malveillants peuvent ajuster les entrées d’un algorithme d’apprentissage profond pour le diriger dans la mauvaise direction, ce qui peut constituer un problème majeur pour des applications telles que l’identification, la vision par ordinateur, le traitement automatique du langage naturel (NLP), la traduction de langage, la détection de conflits, et plus encore. 

Système d’apprentissage inspiré de l’immunité robuste aux attaques

Le nouveau système de défense construit s’appelle le Système d’apprentissage inspiré de l’immunité robuste aux attaques. Les travaux ont été publiés dans IEEE Access. 

Alfred Hero est le professeur distingué de l’Université John H. Holland. Il a co-dirigé les travaux. 

« RAILS représente la toute première approche d’apprentissage aux attaques qui est modélisée d’après le système immunitaire adaptatif, qui fonctionne différemment du système immunitaire inné », a déclaré Hero. 

L’équipe a constaté que les réseaux de neurones profonds, qui sont déjà inspirés du cerveau, peuvent également imiter le processus biologique du système immunitaire des mammifères. Ce système immunitaire génère de nouvelles cellules conçues pour se défendre contre des agents pathogènes spécifiques. 

Indika Rajapakse est professeur associé de médecine computationnelle et de bioinformatique, ainsi que co-responsable de l’étude.

« Le système immunitaire est conçu pour les surprises. Il a une conception incroyable et trouvera toujours une solution », a déclaré Rajapakse. 

Imitation du système immunitaire

RAILS imite les défenses naturelles du système immunitaire, ce qui lui permet d’identifier et de traiter les entrées suspectes du réseau de neurones. L’équipe biologique a d’abord étudié la façon dont les systèmes immunitaires adaptatifs des souris réagissaient à un antigène avant de créer un modèle du système immunitaire. 

L’analyse des données sur les informations a ensuite été effectuée par Stephen Lindsly, qui était à l’époque un étudiant diplômé en bioinformatique. Lindsly a aidé à traduire ces informations entre les biologistes et les ingénieurs, ce qui a permis à l’équipe de Hero de modéliser le processus biologique sur ordinateur. Pour ce faire, l’équipe a intégré des mécanismes biologiques dans le code. 

Les défenses de RAILS ont été testées avec des entrées aux attaques.

« Nous n’étions pas sûrs d’avoir vraiment capturé le processus biologique jusqu’à ce que nous comparions les courbes d’apprentissage de RAILS à celles extraites des expériences », a déclaré Hero. « Elles étaient exactement les mêmes. » 

RAILS a surpassé deux des processus d’apprentissage automatique les plus couramment utilisés pour lutter contre les attaques auxiliaires. Ces deux processus sont Roust Deep k-Nearest Neighbor et les réseaux de neurones convolutionnels. 

Ren Wang est un chercheur en génie électrique et informatique. Il a été largement responsable du développement et de la mise en œuvre du logiciel. 

« Une partie très prometteuse de ce travail est que notre cadre général peut défendre contre différents types d’attaques », a déclaré Ren Wang. 

Les chercheurs ont ensuite utilisé l’identification d’images comme cas de test pour évaluer RAILS contre huit types d’attaques auxiliaires dans différents ensembles de données. Il a démontré une amélioration dans tous les cas, et il a même protégé contre l’attaque Projected Gradient Descent, qui est le type d’attaque auxiliaire le plus nuisible. RAILS a également amélioré la précision globale.

« C’est un exemple incroyable de l’utilisation des mathématiques pour comprendre ce beau système dynamique », a déclaré Rajapakse. « Nous pouvons peut-être utiliser ce que nous avons appris de RAILS pour aider à reprogrammer le système immunitaire pour qu’il fonctionne plus rapidement. »