Equipe de Pesquisa do MIT Desenvolve Rede de IA para Resistir a Exemplos Adversários

Uma equipe de pesquisadores do MIT desenvolveu um algoritmo de aprendizado profundo destinado a ajudar as IAs a lidar com “exemplos adversários”, que podem causar que uma IA faça previsões erradas e execute ações erradas. O algoritmo projetado pela equipe do MIT pode ajudar os sistemas de IA a manter sua precisão e evitar cometer erros quando confrontados com pontos de dados confusos.

Os sistemas de IA analisam as características de entrada de um evento para decidir como responder a esse evento. Uma IA responsável por manobrar um veículo autônomo precisa analisar os dados das câmeras do veículo e decidir o que fazer com base nos dados contidos nessas imagens. No entanto, há a possibilidade de que os dados de imagem analisados pela IA não sejam uma representação precisa do mundo real. Um problema no sistema de câmera pode alterar alguns pixels, levando a IA a tirar conclusões erradas sobre o curso de ação apropriado.

“Entradas adversárias” são como ilusões ópticas para um sistema de IA. São entradas que confundem a IA de alguma forma. Entradas adversárias podem ser criadas com o objetivo expresso de causar que a IA cometa erros, representando os dados de uma forma que faz com que a IA acredite que o conteúdo de um exemplo é uma coisa em vez de outra. Por exemplo, é possível criar um exemplo adversário para um sistema de visão computacional alterando ligeiramente as imagens de gatos, fazendo com que a IA classifique as imagens como monitores de computador. A equipe de pesquisa do MIT projetou um algoritmo para ajudar a proteger contra exemplos adversários, permitindo que o modelo mantenha um grau de “ceticismo” sobre as entradas que recebe.

Os pesquisadores do MIT chamaram sua abordagem de “Robustez Adversária Certificada para Aprendizado de Reforço Profundo”, ou CARRL. O CARRL é composto por uma rede de aprendizado de reforço e uma rede neural profunda tradicional unidas. O aprendizado de reforço usa o conceito de “recompensas” para treinar um modelo, dando ao modelo uma recompensa proporcionalmente maior quanto mais perto ele chega de atingir seu objetivo. O modelo de aprendizado de reforço é usado para treinar uma Rede Q-Profunda, ou DQN. As DQNs funcionam como redes neurais tradicionais, mas também associam valores de entrada a um nível de recompensa, semelhante aos sistemas de aprendizado de reforço.

O CARRL opera modelando uma variedade de valores possíveis para os dados de entrada.

Supondo que a IA esteja tentando rastrear a posição de um ponto dentro de uma imagem maior, a IA considera que a posição do ponto pode ser o resultado da influência adversária e considera regiões onde o ponto pode estar em vez disso. A rede então toma decisões com base no pior cenário para a posição do ponto, escolhendo a ação que produziria a maior recompensa nesse pior cenário.

O método típico de proteção contra exemplos adversários envolve executar versões ligeiramente alteradas da imagem de entrada pela rede de IA para ver se a mesma decisão é sempre tomada. Se as alterações na imagem não afetam dramaticamente o resultado, há uma boa chance de que a rede seja resistente a exemplos adversários. No entanto, isso não é uma estratégia viável para cenários em que decisões rápidas precisam ser tomadas, pois esses são métodos de teste intensivos em tempo e computacionalmente caros. Por essa razão, a equipe do MIT se esforçou para criar uma rede neural que pudesse tomar decisões com base em suposições de pior cenário, capaz de operar em cenários em que a segurança é crítica.

A equipe de pesquisadores do MIT testou seus algoritmos fazendo com que a IA jogasse um jogo de Pong. Eles incluíram exemplos adversários alimentando a IA com instâncias em que a bola era exibida ligeiramente mais abaixo na tela do que realmente estava. À medida que a influência dos exemplos adversários crescia, as técnicas corretivas padrão começavam a falhar, enquanto o CARRL era capaz de vencer mais jogos em comparação. O CARRL também foi testado em uma tarefa de evasão de colisão. A tarefa se desenrolou em um ambiente virtual em que dois agentes diferentes tentavam trocar de posição sem se chocar. A equipe de pesquisa alterou a percepção do primeiro agente sobre o segundo agente e o CARRL foi capaz de direcionar com sucesso o primeiro agente ao redor do segundo agente, mesmo em condições de alta incerteza, embora houvesse um ponto em que o CARRL se tornou excessivamente cauteloso e acabou evitando seu destino por completo.

Independente disso, o pós-doutorando do Departamento de Aeronáutica e Astronáutica do MIT, Michael Everett, que liderou o estudo, explicou que a pesquisa poderia ter implicações para a capacidade dos robôs de lidar com situações imprevisíveis. Como Everett explicou por meio do MIT News:

“As pessoas podem ser adversárias, como ficar na frente de um robô para bloquear seus sensores, ou interagir com eles, não necessariamente com as melhores intenções”, diz Everett. “Como um robô pode pensar em todas as coisas que as pessoas podem tentar fazer e tentar evitá-las? Que tipo de modelos adversários queremos defender? É algo que estamos pensando em como fazer.”