Equipo diverso de expertos desarrolla sistema de defensa para redes neuronales

Un equipo diverso de ingenieros, biólogos y matemáticos de la Universidad de Michigan ha desarrollado un sistema de defensa para redes neuronales basado en el sistema inmunológico adaptativo. El sistema puede defender las redes neuronales contra varios tipos de ataques.

Grupos maliciosos pueden ajustar la entrada de un algoritmo de aprendizaje profundo para dirigirlo en la dirección equivocada, lo que puede ser un problema importante para aplicaciones como la identificación, la visión de máquina, el procesamiento de lenguaje natural (NLP), la traducción de lenguaje, la detección de conflictos y más.

Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios

El nuevo sistema de defensa se llama Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios. El trabajo se publicó en IEEE Access.

Alfred Hero es el profesor distinguido de la Universidad John H. Holland. Co-lideró el trabajo.

“El Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios representa el primer enfoque para el aprendizaje adversario que se modela según el sistema inmunológico adaptativo, que opera de manera diferente al sistema inmunológico innato”, dijo Hero.

El equipo encontró que las redes neuronales profundas, que ya están inspiradas en el cerebro, también pueden imitar el proceso biológico del sistema inmunológico mamífero. Este sistema inmunológico genera nuevas células diseñadas para defenderse contra patógenos específicos.

Indika Rajapakse es profesor asociado de medicina computacional y bioinformática, así como co-líder del estudio.

“El sistema inmunológico está diseñado para sorpresas. Tiene un diseño asombroso y siempre encontrará una solución”, dijo Rajapakse.

Imitando el Sistema Inmunológico

El Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios imita las defensas naturales del sistema inmunológico, lo que le permite identificar y abordar entradas sospechosas en la red neuronal. El equipo biológico primero estudió cómo respondían los sistemas inmunológicos adaptativos de los ratones a un antígeno antes de crear un modelo del sistema inmunológico.

Luego, Stephen Lindsly, quien era estudiante de doctorado en bioinformática en ese momento, realizó un análisis de datos sobre la información. Lindsly ayudó a traducir esta información entre los biólogos y los ingenieros, lo que permitió al equipo de Hero modelar el proceso biológico en computadoras. Para hacer esto, el equipo combinó mecanismos biológicos con el código.

Las defensas del Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios se probaron con entradas adversarias.

“No estábamos seguros de que habíamos capturado realmente el proceso biológico hasta que comparamos las curvas de aprendizaje del Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios con las extraídas de los experimentos”, dijo Hero. “Eran exactamente las mismas”.

El Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios superó a dos de los procesos de aprendizaje de máquina más comunes que se utilizan actualmente para luchar contra ataques adversarios. Estos dos procesos son Roust Deep k-Nearest Neighbor y redes neuronales convolucionales.

Ren Wang es investigador en ingeniería eléctrica y computacional. Fue responsable en gran medida del desarrollo y la implementación del software.

“Una parte muy prometedora de este trabajo es que nuestro marco general puede defenderse contra diferentes tipos de ataques”, dijo Ren Wang.

Luego, los investigadores utilizaron la identificación de imágenes como un caso de prueba para evaluar el Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios contra ocho tipos de ataques adversarios en varios conjuntos de datos. Demostró una mejora en todos los casos, e incluso protegió contra el ataque de Gradiente de Proyección Descendente, que es el tipo de ataque adversario más dañino. El Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios también mejoró la precisión general.

“Este es un ejemplo asombroso de cómo utilizar las matemáticas para entender este hermoso sistema dinámico”, dijo Rajapakse. “Podemos tomar lo que aprendimos del Sistema de Aprendizaje Inmunológico Robusto contra Ataques Adversarios y ayudar a reprogramar el sistema inmunológico para que funcione más rápidamente”.