Suposições Comuns sobre Falhas de Aprendizado de Máquina Podem Estar Erradas

Redes neurais profundas são um dos aspectos mais fundamentais da inteligência artificial (IA), pois são usadas para processar imagens e dados por meio de modelagem matemática. Elas são responsáveis por alguns dos maiores avanços no campo, mas também falham de várias maneiras. Essas falhas podem ter um impacto pequeno ou inexistente, como uma simples identificação errada, ou um impacto mais dramático e letal, como uma falha em um veículo autônomo.

Pesquisas recentes da Universidade de Houston sugerem que nossas suposições comuns sobre essas falhas podem estar erradas, o que pode ajudar a avaliar a confiabilidade das redes no futuro.

O artigo foi publicado em Nature Machine Intelligence em novembro.

“Exemplos Adversários”

O aprendizado de máquina e outros tipos de IA são cruciais em muitos setores e tarefas, como sistemas bancários e de segurança cibernética. De acordo com Cameron Buckner, professor associado de filosofia da UH, é necessário entender os fracassos causados por “exemplos adversários”. Esses exemplos adversários ocorrem quando um sistema de rede neural profunda julga mal imagens e outros dados quando encontra informações fora das entradas de treinamento usadas para desenvolver a rede.

Os exemplos adversários são raros, pois muitas vezes são criados ou descobertos por outra rede de aprendizado de máquina.

“Alguns desses eventos adversários podem ser artefatos, e precisamos saber melhor o que são para saber quão confiáveis essas redes são”, escreveu Buckner.

Buckner está dizendo que a falha pode ser causada pela interação entre os padrões reais envolvidos e o que a rede se propõe a processar, significando que não é um erro completo.

Padrões como Artefatos

“Entender as implicações dos exemplos adversários exige explorar uma terceira possibilidade: que pelo menos alguns desses padrões sejam artefatos”, disse Buckner. “Portanto, há atualmente tanto custos em simplesmente descartar esses padrões quanto perigos em usá-los de forma ingênua”.

Embora não seja sempre o caso, a malícia intencional é o maior risco em relação a esses eventos adversários que causam falhas de aprendizado de máquina.

“Isso significa que atores maliciosos podem enganar sistemas que dependem de uma rede de outra forma confiável”, disse Buckner. “Isso tem aplicações de segurança”.

Isso pode incluir hackers invadindo um sistema de segurança baseado em tecnologia de reconhecimento facial ou sinais de trânsito mal rotulados para confundir veículos autônomos.

Pesquisas anteriores demonstraram que alguns dos exemplos adversários ocorrem naturalmente, quando um sistema de aprendizado de máquina interpreta mal os dados por meio de uma interação inesperada, o que é diferente de erros nos dados. Esses exemplos naturais são raros, e a única maneira atual de descobri-los é por meio da IA.

No entanto, Buckner afirma que os pesquisadores precisam repensar as maneiras pelas quais abordam anomalias.

Essas anomalias, ou artefatos, são explicadas por Buckner por meio da analogia de um flare de lente em uma fotografia, que não é causado por um defeito na lente da câmera, mas sim pela interação da luz com a câmera.

Se alguém souber como interpretar o flare de lente, informações importantes, como a localização do sol, podem ser extraídas. Por causa disso, Buckner acredita que é possível extrair informações igualmente valiosas de eventos adversos em aprendizado de máquina que são causados pelo artefato.

Buckner também afirma que tudo isso não significa automaticamente que o aprendizado profundo não seja válido.

“Alguns desses eventos adversários podem ser artefatos”, disse ele. “Precisamos saber o que são esses artefatos para saber quão confiáveis as redes são”.