Kodning af billeder imod brug i Deepfake og billedsynthesesystemer

Den mest kendte forskningsretning i den voksende anti-deepfake-forskningssektor omfatter systemer, der kan genkende kunstige eller andre formodede karakteristika ved deepfakede, syntetiserede eller på anden måde falske eller ‘redigerede’ ansigter i video- og billedindhold.

Sådanne tilgange anvender en række taktikker, herunder dybdeafkodning, video-regelmæssig forstyrrelse, variationer i monitorbelysning (i potentiel deepfakede videotelefonopkald), biometriske træk, ydre ansigtsområder og sogar de skjulte kræfter i det menneskelige underbevidste system.

Hvad disse og lignende metoder har til fælles, er, at når de deployes, har de centrale mekanismer, de kæmper imod, allerede været succesfuldt trænet på tusinder eller hundredtusinder af billeder, der er hentet fra webben – billeder, som autoencoder-systemer let kan udlede nøglefunktioner fra og oprette modeller, der kan påføre en falsk identitet i videooptagelser eller syntetiserede billeder – selv i realtid.

Kort sagt, når sådanne systemer er aktive, er hesten allerede stukket ud.

Billeder, der er fjendtlige over for Deepfake/Syntese-arkitekturer

Ved at have en mere forebyggende holdning til truslen fra deepfakes og billedsynthese, omfatter en mindre kendt forskningsretning i denne sektor mulighederne for at gøre alle disse kildebilleder uvenlige over for AI-billedsynthesesystemer, normalt på en umærkelig eller kun lidt mærkbar måde.

Eksempler herpå omfatter FakeTagger, et forslag fra 2021 fra forskellige institutioner i USA og Asien, som koder beskeder ind i billeder; disse kodninger er resistent over for generaliseringsprocessen og kan derefter genskabes, selv efter at billederne er hentet fra webben og trænet ind i et Generative Adversarial Network (GAN) af den type, der er mest berømt repræsenteret af thispersondoesnotexist.com og dets talrige afledninger.

… (resten af indholdet oversat på samme måde)