‘Meestergezichten’ die meer dan 40% van de gezichtsidentificatiesystemen kunnen omzeilen

Onderzoekers uit Israël hebben een neurale netwerk ontwikkeld dat ‘meestergezichten’ kan genereren – gezichtsbeelden die elk meerdere identiteiten kunnen imiteren. Het onderzoek suggereert dat het mogelijk is om dergelijke ‘meestersleutels’ te genereren voor meer dan 40% van de bevolking met slechts 9 gesynthesiseerde gezichten door het StyleGAN Generative Adversarial Network (GAN), via drie toonaangevende gezichtsherkenningssystemen.

Het onderzoeksrapport is een samenwerking tussen de Blavatnik School of Computer Science en de school of Electrical Engineering, beide aan de Universiteit van Tel Aviv.

Bij het testen van het systeem vonden de onderzoekers dat een enkel gegenereerd gezicht 20% van alle identiteiten in de open source-database Labeled Faces in the Wild (LFW) van de Universiteit van Massachusetts kon ontgrendelen, een veelgebruikte repository voor de ontwikkeling en testing van gezichtsidentificatiesystemen, en de benchmarkdatabase voor het Israëlische systeem.

De workflow van het Israëlische systeem, dat de StyleGAN-generator gebruikt om iteratief ‘meestergezichten’ te zoeken. Source: https://arxiv.org/pdf/2108.01077.pdf

De nieuwe methode is een verbetering van een soortgelijk recent onderzoeksrapport van de Universiteit van Siena, dat een bevoorrechte toegang tot het machine learning-framework vereist. In tegenstelling tot de nieuwe methode, die algemene kenmerken afleidt uit openbaar beschikbare materialen en deze gebruikt om gezichtskenmerken te creëren die een groot aantal identiteiten omvatten.

Evolutie van meestergezichten

StyleGAN wordt in deze aanpak aanvankelijk gebruikt onder een black box-optimisatiemethode met een focus op hoogdimensionale gegevens, aangezien het belangrijk is om de breedste en meest algemene gezichtskenmerken te vinden die een authenticatiesysteem zullen bevredigen.

Deze procedure wordt vervolgens iteratief herhaald om identiteiten te omvatten die niet in de initiële ronde werden opgenomen. In verschillende testomstandigheden vonden de onderzoekers dat het mogelijk was om authenticatie te verkrijgen voor 40-60% met slechts negen gegenereerde afbeeldingen.

Opeenvolgende groepen ‘meestergezichten’ verkregen in het onderzoek over verschillende Coverage Search-methoden, waaronder LM-MA-ES. De Mean Set Coverage (MSC, een maatstaf voor nauwkeurigheid) wordt onder elke afbeelding vermeld.

Het systeem gebruikt een evolutionair algoritme in combinatie met een neurale predictor die de waarschijnlijkheid van de huidige ‘kandidaat’ om beter te generaliseren dan de p-percentiel van kandidaten die in eerdere ronden werden gegenereerd.

De filtering van gegenereerde kandidaten in de architectuur van het Israëlische systeem.

LM-MA-ES

Het project gebruikt de Limited-Memory Matrix Adaptation (LM-MA-ES) algoritme, ontwikkeld voor een initiatief in 2017 geleid door de Research Group on Machine Learning for Automated Algorithm Design, een aanpak die goed geschikt is voor hoogdimensionale black box-optimisatie.

De LM-MA-ES produceert kandidaten willekeurig. Hoewel dit goed past bij de intentie van het project, is een extra component nodig om te bepalen welke gezichten de beste kandidaten zijn voor cross-identiteit-authenticatie. Daarom hebben de onderzoekers een ‘Success Predictor’ neurale classifier gemaakt om de stortvloed van kandidaten te filteren in de beste passende gezichten voor de taak.

Rationale van de Success Predictor die in het Israëlische gezichtsidentificatieproject wordt gebruikt.

Evaluatie

Het systeem werd getest tegen drie CNN-gebaseerde gezichtsbeschrijvers: SphereFace, FaceNet en Dlib, elk systeemarchitectuur bevat een similariteitsmetriek en een verliesfunctie, die nuttig zijn bij het valideren van de nauwkeurigheidsscores van het systeem.

Success Predictor is een feed-forward neurale netwerk dat bestaat uit drie volledig verbonden lagen. De eerste hiervan gebruikt BatchNorm-regulatie om de consistentie van de gegevens te waarborgen voordat deze worden geactiveerd. Het netwerk gebruikt ADAM als optimizer, met een ambitieuze leerratio van 0,001 over batches van 32 invoerbeeldjes.

Uitvoer van de drie architectuurmethoden.

Alle drie de geteste algoritmen werden getraind voor 26.400 fitnessfunctieaanroepen met hetzelfde set van vijf zaden.

De onderzoekers hadden tot dat moment vastgesteld dat langere trainingsprocessen het systeem niet ten goede kwamen; effectief gezien zoekt het Israëlische systeem naar sleutelgegevens in een vroeg stadium van modeltraining, waarin alleen de hoogste kenmerken nog zijn vastgesteld. Het is de moeite waard om op te merken dat dit een soort van geschenk is in termen van framework-economie.

Na het vaststellen van baseline-resultaten met Facebook’s Python-gebaseerde NeverGrad gradient-vrije optimalisatieomgeving, werd het systeem geprofileerd tegen een aantal algoritmen, waaronder verschillende merken van de Differential Evolution heuristiek.

De onderzoekers vonden dat een ‘gierige’ aanpak op basis van Dlib zijn concurrenten overtrof, door het creëren van negen meestergezichten die 42%-64% van de testdataset konden ontgrendelen. Het toepassen van de Success Predictor van het systeem verbeterde deze zeer gunstige resultaten nog verder.

Het onderzoeksrapport stelt dat ‘gezichtsgebaseerde authenticatie extreem kwetsbaar is, zelfs als er geen informatie over de doelidentiteit is’, en de onderzoekers beschouwen hun initiatief als een geldige aanpak voor een beveiligingsinbreukmethodologie voor gezichtsidentificatiesystemen.