‘Creatieve’ gezichtsverificatie met Generative Adversarial Networks

Een nieuw artikel van de Stanford University heeft een embryonale methode voorgesteld om gezichtsverificatiesystemen te misleiden op platforms zoals datingapps, door een Generative Adversarial Network (GAN) te gebruiken om alternatieve gezichtsbeelden te creëren die dezelfde essentiële ID-informatie bevatten als een echt gezicht.

De methode slaagde erin om de gezichtsverificatieprocessen op datingapps Tinder en Bumble te omzeilen, in één geval zelfs een geslachtsgewijzigd (manlijk) gezicht als authentiek door te laten gaan voor de bron (vrouwelijke) identiteit.

Verschillende gegenereerde identiteiten die de specifieke codering van de auteur van het artikel (weergegeven in de eerste afbeelding boven) bevatten. Bron: https://arxiv.org/pdf/2203.15068.pdf

Volgens de auteur vertegenwoordigt het werk de eerste poging om gezichtsverificatie te omzeilen met behulp van gegenereerde beelden die zijn voorzien van specifieke identiteitskenmerken, maar die proberen een alternatieve of aanzienlijk gewijzigde identiteit weer te geven.

De techniek werd getest op een aangepaste lokale gezichtsverificatiesysteem en presteerde goed in black box-tests tegen twee datingapps die gezichtsverificatie uitvoeren op door gebruikers geüploade afbeeldingen.

Het nieuwe artikel heeft als titel Face Verification Bypass en komt van Sanjana Sarda, een onderzoeker aan de afdeling Elektrotechniek van de Stanford University.

Controle over de gezichtsruimte

Hoewel het ‘inbrengen’ van ID-specifieke kenmerken (d.w.z. van gezichten, wegtekens, enz.) in gekruide beelden een standaardaspect is van adversarial aanvallen, suggereert het nieuwe onderzoek iets anders: dat de groeiende mogelijkheid van de onderzoekssector om de latentie-ruimte van GAN’s te controleren uiteindelijk de ontwikkeling van architectuur mogelijk zal maken die constante alternatieve identiteiten kan creëren voor die van een gebruiker – en, effectief, de extractie van identiteitskenmerken uit webbeschikbare afbeeldingen van een onbewuste gebruiker mogelijk zal maken om een ‘schaduw’ gekruide identiteit te creëren.

Consistentie en navigatie zijn de belangrijkste uitdagingen met betrekking tot de latentie-ruimte van de GAN sinds de introductie van Generative Adversarial Networks. Een GAN die met succes een verzameling trainingsbeelden in zijn latentie-ruimte heeft geïntegreerd, biedt geen eenvoudige kaart om kenmerken van de ene klasse naar de andere te ‘duwen’.

Terwijl technieken en tools zoals Gradient-weighted Class Activation Mapping (Grad-CAM) kunnen helpen om latente richtingen tussen de gevestigde klassen te vestigen en transformaties mogelijk te maken (zie afbeelding hieronder), maakt de verdere uitdaging van entanglement meestal een ‘approximatieve’ reis, met beperkte fijne controle over de overgang.

Een ruwe reis tussen gecodeerde vectoren in de latentie-ruimte van een GAN, waarbij een uit gegevens afgeleide mannelijke identiteit wordt geduwd naar de ‘vrouwelijke’ coderingen aan de andere kant van een van de vele lineaire hypervlakken in de complexe en arcane latentie-ruimte. Image afgeleid van materiaal op https://www.youtube.com/watch?v=dCKbRCUyop8

De mogelijkheid om ID-specifieke kenmerken te ‘bevriezen’ en te beschermen terwijl ze worden verplaatst naar transformatieve coderingen elders in de latentie-ruimte, maakt het potentieel mogelijk om een constante (en zelfs animatiebare) individu te creëren wiens identiteit door machinesystemen wordt gelezen als iemand anders.

Methode