Verificação Facial ‘Criativa’ com Redes Adversárias Generativas

Um novo artigo da Universidade de Stanford propôs um método nascente para enganar sistemas de autenticação facial em plataformas como aplicativos de namoro, usando uma Rede Adversária Generativa (GAN) para criar imagens faciais alternativas que contenham as mesmas informações essenciais de ID que uma face real.

O método bypassou com sucesso os processos de verificação facial em aplicativos de namoro como Tinder e Bumble, em um caso, passando uma face com troca de gênero (masculino) como autêntica para a identidade de origem (feminino).

Diversas identidades geradas que apresentam a codificação específica da autora do artigo (apresentada na primeira imagem acima). Fonte: https://arxiv.org/pdf/2203.15068.pdf

De acordo com a autora, o trabalho representa a primeira tentativa de bypassar a verificação facial com o uso de imagens geradas que foram imbuidas com traços de identidade específicos, mas que tentam representar uma identidade alternada ou substancialmente alterada.

A técnica foi testada em um sistema de verificação facial personalizado local e, em seguida, performou bem em testes de caixa preta contra dois aplicativos de namoro que realizam verificação facial em imagens carregadas pelos usuários.

O novo artigo é intitulado Bypass de Verificação Facial e vem de Sanjana Sarda, uma pesquisadora do Departamento de Engenharia Elétrica da Universidade de Stanford.

Controle do Espaço Facial

Embora ‘injetar’ recursos específicos de ID (por exemplo, de faces, sinais de trânsito, etc.) em imagens criadas seja um recurso comum de ataques adversários, o novo estudo sugere algo diferente: que a capacidade crescente do setor de pesquisa de controlar o espaço latente de GANs eventualmente permitirá o desenvolvimento de arquiteturas que possam criar identidades alternativas consistentes para a de um usuário – e, efetivamente, permitir a extração de recursos de identidade de imagens disponíveis na web de um usuário desconhecido para cooptar em uma identidade ‘sombra’ criada.

A consistência e a navegabilidade têm sido os principais desafios em relação ao espaço latente da GAN desde a invenção das Redes Adversárias Generativas. Uma GAN que tenha assimilado com sucesso uma coleção de imagens de treinamento em seu espaço latente não fornece um mapa fácil para ’empurrar’ recursos de uma classe para outra.

Enquanto técnicas e ferramentas como o Mapeamento de Ativação de Classe com Peso de Gradiente (Grad-CAM) podem ajudar a estabelecer direções latentes entre as classes estabelecidas e permitir transformações (veja a imagem abaixo), o desafio adicional de entrelaçamento geralmente torna a jornada ‘aproximativa’, com controle limitado de transição.

Uma jornada aproximada entre vetores codificados no espaço latente de uma GAN, empurrando uma identidade masculina derivada de dados para os ‘códigos femininos’ do outro lado de um dos muitos hiperplanos lineares no complexo e arcano espaço latente. Imagem derivada de material em https://www.youtube.com/watch?v=dCKbRCUyop8

A capacidade de ‘congelar’ e proteger recursos específicos de ID enquanto os move para codificações transformadoras em outras partes do espaço latente potencialmente torna possível criar um indivíduo consistente (e até animável) cuja identidade é lida por sistemas de máquina como alguém mais.

Método