Detectoare de Deepfake Își Urmează Noi Direcții: Modele de Difuzie Latentă și GAN

Opinie  

În ultima vreme, comunitatea de cercetare a detectării deepfake, care de la sfârșitul anului 2017 s-a ocupat aproape exclusiv de cadrul bazat pe autoencoder care a debutat atunci cu atâta admirație publică (și dezamăgire), a început să manifeste un interes judiciar pentru arhitecturi mai puțin stagnante, incluzând modele de difuzie latentă precum DALL-E 2 și Stable Diffusion, precum și ieșirile Rețelelor Adversative Generative (GAN). De exemplu, în iunie, UC Berkeley a publicat rezultatele cercetărilor sale privind dezvoltarea unui detector pentru ieșirile celui mai puternic model DALL-E 2.

Imagini în Mișcare

În orice caz, factorul care pare să determine acest interes crescând este perspectiva unei următoarei sprinturi de dezvoltare pentru synthese de videoclipuri. Începutul lunii octombrie – și sezonul principal de conferințe din 2022 – a fost caracterizat de o avalanșă de soluții neașteptate la diverse probleme vechi de sinteză video: abia Facebook a lansat mostre ale platformei sale text-imagini, Google Research a anunțat rapid arhitectura sa nouă Imagen-to-Video T2V, capabilă să producă imagini video de înaltă rezoluție (chiar dacă doar prin intermediul unei rețele de 7 straturi de escaladare).

Blade Runner

Cele mai recente două articole care abordează, respectiv, detectarea deepfake bazată pe difuzie latentă și GAN, sunt, respectiv, DE-FAKE: Detectarea și Atribuirea de Imagini False Generate de Modele de Difuzie Text-Imagine, o colaborare între CISPA Helmholtz Center for Information Security și Salesforce; și BLADERUNNER: Contra-Măsură Rapidă pentru Fețe Sintetice (Generate de IA) StyleGAN, de la Adam Dorian Wong de la Laboratorul Lincoln al MIT.

DE-FAKE

Arhitectura DE-FAKE își propune nu numai să realizeze o “detectare universală” pentru imagini produse de modele de difuzie text-imagini, ci și să ofere o metodă pentru a discerne care model de difuzie latentă a produs imaginea.