Inteligência Artificial Explicável Pode Entregar Dados Confidenciais Mais Facilmente

Pesquisadores da Universidade Nacional de Cingapura concluíram que, quanto mais explicável se torna a inteligência artificial, mais fácil se torna contornar recursos vitais de privacidade em sistemas de aprendizado de máquina. Eles também descobriram que, mesmo quando um modelo não é explicável, é possível usar explicações de modelos semelhantes para ‘decodificar’ dados sensíveis no modelo não explicável.

A pesquisa, intitulada Explorando Explicações para Ataques de Inversão de Modelo, destaca os riscos de usar a ‘opacidade acidental’ da forma como as redes neurais funcionam como se fosse uma característica de segurança por design – não menos porque uma onda de novas iniciativas globais, incluindo o projeto de regulamentação de IA da União Europeia, estão caracterizando a inteligência artificial explicável (XAI) como um pré-requisito para a eventual normalização do aprendizado de máquina na sociedade.

Na pesquisa, uma identidade real é reconstruída com sucesso a partir de dados supostamente anônimos relacionados a expressões faciais, por meio da exploração de múltiplas explicações do sistema de aprendizado de máquina. Fonte: https://arxiv.org/pdf/2108.10800.pdf