Onderzoekers identificeren een veerkrachtige eigenschap van deepfakes die kan helpen bij langetermijndetectie

Sinds de eerste deepfake-detectieoplossingen in 2018 zijn verschenen, heeft de sector computer vision en security onderzoek gezocht naar een essentiële karakteristiek van deepfake-video’s – signalen die bestand zouden kunnen zijn tegen verbeteringen in populaire faciale synthese-technologieën (zoals autoencoder-gebaseerde deepfake-pakketten zoals DeepFaceLab en FaceSwap, en het gebruik van Generative Adversarial Networks om menselijke gezichten te recreëren, simuleren of te veranderen).

Veel van de ‘tekenen’, zoals het ontbreken van knipperen, werden overbodig gemaakt door verbeteringen in deepfakes, terwijl het potentieel gebruik van digitale herkomsttechnieken (zoals de door Adobe geleide Content Authenticity Initiative) – inclusief blockchain-benaderingen en digitale watermerken van potentieel bronfoto’s – ofwel vereisen een ingrijpende en dure verandering van de bestaande hoeveelheid beschikbare bronafbeeldingen op internet, ofwel zouden een opvallende inspanning van landen en regeringen vereisen om systemen van toezicht en authenticatie te creëren.

Daarom zou het zeer nuttig zijn als een werkelijk fundamentele en veerkrachtige eigenschap kon worden onderscheiden in beeld- en videomateriaal met gewijzigde, uitgevonden of identiteit-omgewisselde menselijke gezichten; een karakteristiek die rechtstreeks uit vervalste video’s kon worden afgeleid, zonder grootschalige verificatie, cryptografische asset-hashing, context-controle, plausibiliteitsevaluatie, artifact-georiënteerde detectieroutines of andere belastende benaderingen van deepfake-detectie.

Deepfakes in het kader

Een nieuwe onderzoeks samenwerking tussen China en Australië denkt dat het deze ‘heilige graal’ heeft gevonden, in de vorm van regelmatigheidsverstoring.

De auteurs hebben een methode ontwikkeld om de ruimtelijke integriteit en temporale continuïteit van echte video’s te vergelijken met die welke deepfake-inhoud bevatten, en hebben ontdekt dat elke vorm van deepfake-interferentie de regelmatigheid van het beeld verstoort, hoe onmerkbaar ook.

Dit komt deels doordat het deepfake-proces de doelvideo opsplits in frames en het effect van een getraind deepfake-model in elke (vervangen) frame toepast. Populaire deepfake-distributies handelen op dezelfde manier als animators, in dit opzicht, en geven meer aandacht aan de authenticiteit van elke frame dan aan elke frame’s bijdrage aan de algehele ruimtelijke integriteit en temporale continuïteit van de video.

visualisatie van geëxtraheerde kenmerken voor echte, vervalste en p-fake video’s. Bron: https://arxiv.org/pdf/2207.10402.pdf” width=”1070″ height=”628″ /> Uit het artikel: A) Verschillen tussen de soorten gegevens. Hier zien we dat p-fake’s verstoringen de spatio-temporele kwaliteit van het beeld op dezelfde manier veranderen als een deepfake, zonder identiteit te vervangen. B) Ruisanalyse van de drie soorten gegevens, waaruit blijkt hoe p-fake deepfake-verstoring imiteert. C) Een temporale visualisatie van de drie soorten gegevens, waarbij echte gegevens een grotere integriteit in fluctuatie laten zien. D) de T-SNE visualisatie van geëxtraheerde kenmerken voor echte, vervalste en p-fake video’s. Bron: https://arxiv.org/pdf/2207.10402.pdf

… (rest of the translation remains the same)