Detectie van videoconferencing-deepfakes met de ‘tril’-functie van een smartphone

Nieuw onderzoek uit Singapore heeft een novate methode voorgesteld om te detecteren of iemand aan de andere kant van een smartphone-videoconferencingtool methoden zoals DeepFaceLive gebruikt om iemand anders te imiteren.

De nieuwe benadering, getiteld SFake, verlaat de passieve methoden die door de meeste systemen worden gebruikt en zorgt ervoor dat de telefoon van de gebruiker trilt (met behulp van dezelfde ‘tril’-mechanismen gemeenschappelijk in smartphones), en vervolgens het gezicht van de gebruiker subtiel vervaagt.

Hoewel live deepfaking-systemen in staat zijn om motion blur te repliceren, zolang blurred footage in de trainingsdata of ten minste in de pre-trainingsdata is opgenomen, kunnen ze niet snel genoeg reageren op onverwachte blur van deze soort en blijven ze ongeblurreerde delen van gezichten produceren, waardoor de aanwezigheid van een deepfake-conferentiegesprek wordt onthuld.

DeepFaceLive kan niet snel genoeg reageren om de blur te simuleren die wordt veroorzaakt door de cameratrillingen. Bron: https://arxiv.org/pdf/2409.10889v1

Testresultaten op de door de onderzoekers zelf samengestelde dataset (aangezien er geen datasets bestaan met actieve camerabeweging) toonden aan dat SFake beter presteerde dan concurrerende video-gebaseerde deepfake-detectiemethoden, zelfs in moeilijke omstandigheden, zoals de natuurlijke handbeweging die optreedt wanneer de andere persoon in een videoconferentie de camera met de hand vasthoudt, in plaats van een statische telefoonbeugel te gebruiken.

De groeiende behoefte aan video-gebaseerde deepfake-detectie

Onderzoek naar video-gebaseerde deepfake-detectie is de afgelopen tijd toegenomen. In de nasleep van een aantal jaar succesvolle stem-gebaseerde deepfake-overvallen, werd eerder dit jaar een financieel medewerker bedrogen door een fraudeur die een CFO imiteerde in een deepfake-videoconferentiegesprek.

Hoewel een systeem van deze aard een hoog niveau van hardwaretoegang vereist, zijn veel smartphonegebruikers al gewend aan financiële en andere soorten verificatiediensten die ons vragen onze gezichtskenmerken op te nemen voor gezichtsauthenticatie (in feite is dit zelfs onderdeel van het verificatieproces van LinkedIn).

Het lijkt daarom waarschijnlijk dat dergelijke methoden steeds vaker zullen worden afgedwongen voor videoconferencing-systemen, naarmate dit type misdaad steeds vaker in het nieuws komt.

De meeste oplossingen die real-time videoconferencing-deepfaking aanpakken, gaan ervan uit dat er een statische situatie is, waarin de communicant een stationaire webcam gebruikt en er geen beweging of overmatige omgevings- of lichtveranderingen zijn. Een smartphonegesprek biedt geen dergelijke ‘vaste’ situatie.

In plaats daarvan gebruikt SFake een aantal detectiemethoden om te compenseren voor het grote aantal visuele varianten in een handgehouden smartphone-gebaseerde videoconferentie, en lijkt het de eerste onderzoeksproject te zijn dat het probleem aanpakt met behulp van standaard trilmachines die in smartphones zijn ingebouwd.

Het artikel is getiteld Shaking the Fake: Detecting Deepfake Videos in Real Time via Active Probes, en komt van twee onderzoekers van de Nanyang Technological University in Singapore.

Methode

SFake is ontworpen als een cloud-gebaseerde dienst, waarbij een lokale app gegevens naar een externe API-dienst zou sturen om te worden verwerkt, en de resultaten terug naar de app zouden worden gestuurd.

De kleine omvang van 450mb en de geoptimaliseerde methodologie maken het echter mogelijk om deepfake-detectie volledig op het apparaat zelf uit te voeren, in gevallen waarin een netwerkverbinding kan leiden tot overmatige compressie van de verzonden afbeeldingen, waardoor het diagnostische proces wordt beïnvloed.

Als het systeem ‘all local’ wordt uitgevoerd, heeft het rechtstreeks toegang tot de camerastroom van de gebruiker, zonder de codec-interferentie die vaak geassocieerd wordt met videoconferencing.

De gemiddelde analysietijd vereist een vierseconden videoclip, waarin de gebruiker wordt gevraagd stil te blijven, en waarin SFake ‘probes’ naar de camera stuurt om trillingen te veroorzaken op selectief willekeurige intervallen die systemen zoals DeepFaceLive niet op tijd kunnen reageren.

(Het moet opnieuw worden benadrukt dat elke aanvaller die geen verwarring heeft toegevoegd aan de trainingsdataset, waarschijnlijk niet in staat zal zijn om een model te produceren dat blur kan genereren, zelfs onder veel gunstigere omstandigheden, en dat DeepFaceLive deze functionaliteit niet zomaar kan toevoegen aan een model dat is getraind op een onder-curated dataset)

Het systeem kiest specifieke delen van het gezicht als potentiële deepfake-inhoud, met uitzondering van de ogen en wenkbrauwen (aangezien knipperen en andere faciale motiliteit in dat gebied buiten het bereik van blur-detectie valt en geen ideale indicator is).

Conceptueel schema voor SFake.

Zoals we kunnen zien in het conceptuele schema hierboven, kiest SFake, nadat het de meest geschikte en onvoorspelbare trilpatronen heeft gekozen, de beste brandpuntsafstand en heeft gezichtsherkenning uitgevoerd (inclusief landmarkdetectie via een Dlib-component die 68 standaard gezichtslandmarks schat), SFake afgeleid van de invoerface en concentreert zich op geselecteerde delen van deze afgeleiden.

De variantiesequentie wordt verkregen door elk frame in de korte clip te analyseren totdat de gemiddelde of ‘ideale’ sequentie is bereikt en de rest wordt genegeerd.

Dit levert functies op die kunnen worden gebruikt als een kwantificator voor de waarschijnlijkheid van deepfake-inhoud, op basis van de getrainde database (waarover straks meer).

Het systeem vereist een beeldresolutie van 1920×1080 pixels, evenals een minimale 2x zoomvereiste voor de lens. Het artikel vermeldt dat dergelijke resoluties (en zelfs hogere resoluties) worden ondersteund in Microsoft Teams, Skype, Zoom en Tencent Meeting.

De meeste smartphones hebben een voor- en zelfcamera, en vaak heeft alleen een van deze camera’s de zoommogelijkheden die SFake vereist; de app zou de communicant daarom moeten vragen om de camera te gebruiken die aan deze vereisten voldoet.

Het doel is om een correcte verhouding van het gezicht van de gebruiker in de videostream te krijgen die het systeem zal analyseren. Het artikel merkt op dat de gemiddelde afstand waarop vrouwen mobiele apparaten gebruiken 34,7 cm is, en voor mannen 38,2 cm (zoals gerapporteerd in Journal of Optometry), en dat SFake goed werkt op deze afstanden.

Aangezien stabilisatie een probleem is bij handheld-video en de blur die optreedt door handbeweging een belemmering vormt voor de werking van SFake, hebben de onderzoekers verschillende methoden geprobeerd om te compenseren. De meest succesvolle hiervan was het berekenen van het centrale punt van de geschatte landmarks en het gebruik van dit als een ‘anker’ – effectief een algoritmicale stabilisatietechniek. Met behulp van deze methode werd een nauwkeurigheid van 92% behaald.

Gegevens en tests

Aangezien er geen geschikte datasets bestonden voor het doel, ontwikkelden de onderzoekers hun eigen:

‘[We] gebruiken 8 verschillende merken smartphones om 15 deelnemers van verschillende geslachten en leeftijden op te nemen om onze eigen dataset te bouwen. We plaatsen de smartphone op een telefoonhouder 20 cm weg van de deelnemer en zoomen twee keer in, gericht op het gezicht van de deelnemer om alle gezichtskenmerken te omvatten, terwijl we de smartphone in verschillende patronen trillen.

‘Voor telefoons waarvan de voorcamera niet kan inzoomen, gebruiken we de achtercamera als vervanging. We nemen 150 lange video’s op, elk 20 seconden lang. Standaard gaan we ervan uit dat de detectieperiode 4 seconden duurt. We knippen 10 clips van 4 seconden lang uit een lange video door de starttijd te randomiseren. Daardoor krijgen we in totaal 1500 echte clips, elk 4 seconden lang.’

Hoewel DeepFaceLive (GitHub-link) het centrale doelwit van de studie was, omdat het momenteel het meest gebruikte open-source live deepfaking-systeem is, hebben de onderzoekers vier andere methoden opgenomen om hun basisdetectiemodel te trainen: Hififace; FS-GANV2; RemakerAI; en MobileFaceSwap – de laatste een bijzonder geschikte keuze, gezien de doelomgeving.

1500 vervalste video’s werden gebruikt voor training, evenals hetzelfde aantal echte en ongewijzigde video’s.

SFake werd getest tegen verschillende classificatoren, waaronder SBI; FaceAF; CnnDetect; LRNet; DefakeHop-varianten; en de gratis online deepfake-detectiedienst Deepaware. Voor elke van deze deepfake-methoden werden 1500 valse en 1500 echte video’s getraind.

Voor de basisclassificator werd een eenvoudig tweelaags neuraal netwerk met een ReLU-activatiefunctie gebruikt. 1000 echte en 1000 valse video’s werden willekeurig geselecteerd (hoewel de valse video’s exclusief DeepFaceLive-exemplaren waren).

Area Under Receiver Operating Characteristic Curve (AUC/AUROC) en Accuratie (ACC) werden gebruikt als metrics.

Voor training en inferentie werd een NVIDIA RTX 3060 gebruikt, en de tests werden uitgevoerd onder Ubuntu. De testvideo’s werden opgenomen met een Xiaomi Redmi 10x, een Xiaomi Redmi K50, een OPPO Find x6, een Huawei Nova9, een Xiaomi 14 Ultra, een Honor 20, een Google Pixel 6a en een Huawei P60.

Om overeen te komen met bestaande detectiemethoden, werden de tests geïmplementeerd in PyTorch. De primaire testresultaten worden weergegeven in de onderstaande tabel:

Resultaten voor SFake tegen concurrerende methoden.

Hierop merken de auteurs op:

‘In alle gevallen overschreed de detectienauwkeurigheid van SFake 95%. Van de vijf deepfake-algoritmen, behalve Hififace, presteert SFake beter tegen andere deepfake-algoritmen dan de andere zes detectiemethoden. Aangezien onze classificator is getraind met valse afbeeldingen gegenereerd door DeepFaceLive, bereikt deze de hoogste nauwkeurigheidsgraad van 98,8% bij het detecteren van DeepFaceLive.

‘Wanneer het gaat om valse gezichten gegenereerd door RemakerAI, presteren andere detectiemethoden slecht. We speculeren dat dit kan komen doordat de automatische compressie van video’s bij het downloaden van internet resulteert in het verlies van beeld-details en daardoor de detectienauwkeurigheid vermindert. Echter, dit heeft geen invloed op de detectie door SFake, die een nauwkeurigheid van 96,8% bereikt bij het detecteren van RemakerAI.’

De auteurs merken verder op dat SFake het meest presterende systeem is in het scenario van een 2x zoom die op de opname lens wordt toegepast, aangezien dit de beweging vergroot en een uiterst moeilijke situatie vormt. Zelfs in deze situatie kon SFake een herkenning nauwkeurigheid van 84% en 83% bereiken, respectievelijk voor 2,5 en 3 vergrotingsfactoren.

Conclusie

Een project dat de zwakheden van een live deepfake-systeem tegen zichzelf gebruikt, is een verfrissende bijdrage in een jaar waarin deepfake-detectie gedomineerd werd door artikelen die slechts vertrouwde benaderingen rond frequentieanalyse (die verre van immuun is voor innovaties in de deepfake-ruimte) hebben opgerakeld.

Aan het einde van 2022 werd een ander systeem gebruikt dat monitorhelderheidsvariatie als detectiehaak gebruikte; en in hetzelfde jaar heb ik zelf aangetoond dat DeepFaceLive niet in staat is om hard 90-graadprofielweergaven aan te kunnen, waardoor enige gemeenschapsbelang ontstond.

DeepFaceLive is het juiste doelwit voor een dergelijk project, aangezien het bijna zeker het centrum van criminele interesse is met betrekking tot videoconferencing-fraude.

Hoewel ik onlangs enkele anekdotische bewijzen heb gezien dat het LivePortrait-systeem, dat momenteel erg populair is in de VFX-gemeenschap, profielweergaven veel beter afhandelt dan DeepFaceLive, zou het interessant zijn geweest als dit in de studie had kunnen worden opgenomen.

voor het eerst gepubliceerd op dinsdag 24 september 2024