Equipe Diversificada de Especialistas Desenvolve Sistema de Defesa para Redes Neurais

Uma equipe diversificada de engenheiros, biólogos e matemáticos da Universidade de Michigan desenvolveu um sistema de defesa para redes neurais baseado no sistema imunológico adaptativo. O sistema pode defender redes neurais contra vários tipos de ataques.

Grupos nefastos podem ajustar a entrada de um algoritmo de aprendizado profundo para direcioná-lo da maneira errada, o que pode ser um grande problema para aplicações como identificação, visão de máquina, processamento de linguagem natural (NLP), tradução de linguagem, detecção de disputas e muito mais.

Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários

O novo sistema de defesa construído é chamado de Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários. O trabalho foi publicado em IEEE Access.

Alfred Hero é o professor distinto da Universidade John H. Holland. Ele co-liderou o trabalho.

“O Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários representa a primeira abordagem de aprendizado adversário modelada após o sistema imunológico adaptativo, que opera de maneira diferente do sistema imunológico inato”, disse Hero.

A equipe descobriu que redes neurais profundas, que já são inspiradas no cérebro, também podem imitar o processo biológico do sistema imunológico mamífero. Esse sistema imunológico gera novas células projetadas para defender contra patógenos específicos.

Indika Rajapakse é professor associado de medicina computacional e bioinformática, bem como co-líder do estudo.

“O sistema imunológico é projetado para surpresas. Ele tem um design incrível e sempre encontrará uma solução”, disse Rajapakse.

Imitando o Sistema Imunológico

O Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários imita as defesas naturais do sistema imunológico, o que permite que ele identifique e aborde entradas suspeitas na rede neural. A equipe biológica primeiro estudou como os sistemas imunológicos adaptativos de camundongos respondiam a um antígeno antes de criar um modelo do sistema imunológico.

A análise de dados sobre as informações foi realizada por Stephen Lindsly, que era um estudante de doutorado em bioinformática na época. Lindsly ajudou a traduzir essas informações entre os biólogos e engenheiros, o que permitiu que a equipe de Hero modelasse o processo biológico em computadores. Para fazer isso, a equipe incorporou mecanismos biológicos ao código.

As defesas do Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários foram testadas com entradas adversárias.

“Nós não estávamos certos de que havíamos realmente capturado o processo biológico até que comparamos as curvas de aprendizado do Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários com as extraídas dos experimentos”, disse Hero. “Elas eram exatamente as mesmas.”

O Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários superou dois dos processos de aprendizado de máquina mais comuns atualmente usados para lutar contra ataques adversários. Esses dois processos são Roust Deep k-Nearest Neighbor e redes neurais convolucionais.

Ren Wang é um pesquisador associado em engenharia elétrica e computacional. Ele foi amplamente responsável pelo desenvolvimento e implementação do software.

“Uma parte muito promissora deste trabalho é que nossa estrutura geral pode defender contra diferentes tipos de ataques”, disse Ren Wang.

Os pesquisadores então usaram a identificação de imagens como um caso de teste para avaliar o Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários contra oito tipos de ataques adversários em vários conjuntos de dados. Ele demonstrou melhoria em todos os casos e até protegeu contra o ataque Projected Gradient Descent, que é o tipo mais prejudicial de ataque adversário. O Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários também melhorou a precisão geral.

“Este é um exemplo incrível de como usar matemática para entender esse sistema dinâmico bonito”, disse Rajapakse. “Podemos ser capazes de tirar o que aprendemos do Sistema de Aprendizado Imunológico Robusto e Inspirado em Adversários e ajudar a reprogramar o sistema imunológico para funcionar mais rapidamente.”