Expunerea unor modificări mici, dar semnificative, ale editărilor AI în videourile reale

În 2019, speakerul Camerei Reprezentanților din Statele Unite, Nancy Pelosi, a fost subiectul unui atac de tip deepfake, cu tehnologie relativ simplă, când un videoreal al ei a fost editat pentru a o face să pară beată – un incident nereal care a fost partajat de mai multe milioane de ori înainte de a fi descoperită adevărul (și, posibil, după ce a fost cauzat un anumit prejudiciu politic de către cei care nu au rămas în legătură cu povestea).

Deși această reprezentare a necesitat doar o editare audio-vizuală simplă, mai degrabă decât orice AI, rămâne un exemplu cheie al modului în care schimbările subtile în ieșirile audio-vizuale reale pot avea un efect devastator.

La acea vreme, scena deepfake era dominată de sistemele de înlocuire a feței bazate pe autoencoder, care au debutat la sfârșitul anului 2017 și care nu s-au îmbunătățit semnificativ de atunci. Astfel de sisteme ar fi fost greu de creat pentru a produce acest tip de modificări mici, dar semnificative, sau pentru a urmări în mod realist direcții de cercetare moderne, cum ar fi editarea expresiilor:

Cadrul ‘Neural Emotion Director’ din 2022 schimbă starea de spirit a unei fețe celebre. Sursă: https://www.youtube.com/watch?v=Li6W8pRDMJQ

Lucrurile sunt acum complet diferite. Industria cinematografică și de televiziune este serios interesată de alterarea post-producției a performanțelor reale folosind abordări de învățare automată, iar facilitarea de către AI a perfecționismului post-factum a fost chiar criticată recent.

Anticipând (sau, eventual, creând) această cerere, scena de cercetare a sintezei de imagini și video a lansat o gamă largă de proiecte care oferă “editeazări locale” ale capturilor faciale, mai degrabă decât înlocuiri complete: proiecte de acest tip includ Diffusion Video Autoencoders; Stitch it in Time; ChatFace; MagicFace; și DISCO, printre altele.

Editarea expresiilor cu proiectul MagicFace din ianuarie 2025. Sursă: https://arxiv.org/pdf/2501.02260

Noi fețe, noi riduri

Cu toate acestea, tehnologiile care permit acestea se dezvoltă mult mai rapid decât metodele de detectare a lor. Aproape toate metodele de detectare a deepfake-urilor care apar în literatură urmăresc metodele de deepfake de ieri cu seturile de date de ieri. Până în această săptămână, niciuna dintre ele nu a abordat potențialul ascuns al sistemelor de inteligență artificială de a crea modificări mici și locale în videoclipuri.

Acum, o nouă lucrare din India a remediat acest lucru, cu un sistem care își propune să identifice fețele care au fost editate (mai degrabă decât înlocuite) prin tehnici bazate pe inteligență artificială:

Detectarea modificărilor locale subtile în deepfake-uri: un videoreal este modificat pentru a produce falsuri cu schimbări fine, cum ar fi sprâncene ridicate, trăsături de gen modificate și schimbări de expresie către dezgust (ilustrate aici cu un singur cadru). Sursă: https://arxiv.org/pdf/2503.22121

Sistemul autorilor se axează pe identificarea deepfake-urilor care implică manipulări faciale subtile și localizate – o clasă de falsificare neglijată până acum. Mai degrabă decât să se concentreze pe incoerențe globale sau pe neconcordanțe de identitate, abordarea țintește schimbări fine, cum ar fi schimbări minore de expresie sau editări mici ale unor trăsături faciale specifice.

Metoda utilizează delimitatorul de Unități de Acțiune (AUs) din Sistemul de Codare a Acțiunilor Faciale (FACS), care definește 64 de zone individuale mutable posibile pe față, care, împreună, formează expresii.

Unele dintre părțile constitutive ale celor 64 de părți de expresie în FACS. Sursă: https://www.cs.cmu.edu/~face/facs.htm

Autorii au evaluat abordarea lor împotriva unei varietăți de metode de editare recente și raportează câștiguri de performanță consistente, atât cu seturi de date mai vechi, cât și cu vectori de atac mult mai recenti:

‘Prin utilizarea caracteristicilor bazate pe AU pentru a ghida reprezentările video învățate prin Autoencoderi Mascați (MAE), metoda noastră capturează în mod eficient schimbări locale cruciale pentru detectarea editărilor faciale subtile.

‘Acestă abordare ne permite să construim o reprezentare latentă unificată care codifică atât editările localizate, cât și alterările mai ample în videoclipuri centrate pe față, oferind o soluție cuprinzătoare și adaptabilă pentru detectarea deepfake-urilor.’

Noua lucrare, intitulată Detectarea manipulărilor locale de tip deepfake utilizând reprezentări video ghidate de Unități de Acțiune, provine de la trei autori de la Institutul Indian de Tehnologie din Madras.

Metodă

În conformitate cu abordarea adoptată de VideoMAE, noua metodă începe prin aplicarea detectării feței la un videoclip și eșantionarea cadrelor spațial uniform distribuite, centrate pe fețele detectate. Aceste cadre sunt apoi divizate în diviziuni 3D mici (adică, patch-uri activate temporal), fiecare capturând detalii spațiale și temporale locale.

Schema pentru noua metodă. Videoclipul de intrare este procesat cu detectarea feței pentru a extrage cadre spațial uniform distribuite, centrate pe fețele detectate, care sunt apoi divizate în ‘patch-uri tubulare’ și trecute printr-un encoder care combină reprezentări latente din două sarcini pregătitoare preantrenate. Vectorul rezultat este apoi utilizat de un clasificator pentru a determina dacă videoclipul este real sau fals.

Fiecare patch 3D conține o fereastră de dimensiune fixă de pixeli (de exemplu, 16×16) dintr-un număr mic de cadre consecutive (de exemplu, 2). Acest lucru permite modelului să învețe mișcări scurte și schimbări de expresie – nu doar cum arată fața, ci cum se mișcă.

Patch-urile sunt încorporate și codificate pozițional înainte de a fi trecute printr-un encoder proiectat pentru a extrage caracteristici care pot distinge videoclipurile reale de cele manipulate.

Autorii recunosc că acest lucru este deosebit de dificil atunci când se confruntă cu manipulări subtile și abordează această problemă prin construirea unui encoder care combină două tipuri separate de reprezentări învățate, utilizând un mecanism de atenție încrucișată pentru a le combina. Acesta este destinat să producă un spațiu de caracteristici mai sensibil și mai generalizabil pentru detectarea editărilor localizate.

Sarcini pregătitoare

Prima dintre aceste reprezentări este un encoder antrenat cu o sarcină de auto-encoding mascată. Cu videoclipul divizat în patch-uri 3D (majoritatea dintre ele ascunse), encoderul învață apoi să reconstruiască părțile lipsă, forțându-l să capteze modele spațio-temporale importante, cum ar fi mișcarea facială sau coerența în timp.

Antrenamentul sarcinii pregătitoare implică mascarea părților din intrarea videoclipului și utilizarea unui setup encoder-decoder pentru a reconstrui fie cadrele originale, fie hărțile de unități de acțiune pe cadru, în funcție de sarcină.

Cu toate acestea, lucrarea observă că acest lucru singur nu oferă suficientă sensibilitate pentru a detecta editări fine, și autorii introduc, prin urmare, un al doilea encoder antrenat pentru a detecta unitățile de acțiune faciale (AUs). Pentru această sarcină, modelul învață să genereze hărți dense de AUs pentru fiecare cadru, din nou din intrări parțial mascate. Acest lucru îl încurajează să se concentreze pe activitatea musculară localizată, care este unde au loc multe editări subtile de tip deepfake.

Mai multe exemple de Unități de Acțiune Faciale (FAUs, sau AUs).

Odată ce ambele encodere sunt preantrenate, ieșirile lor sunt combinate utilizând atenție încrucișată. În loc să combine pur și simplu cele două seturi de caracteristici, modelul utilizează caracteristicile bazate pe AU ca interogări care ghidă atenția asupra caracteristicilor spațio-temporale învățate din auto-encodingul mascat. În esență, encoderul de unități de acțiune spune modelului unde să se uite.

Rezultatul este o reprezentare latentă combinată care este menită să capteze atât contextul mai larg de mișcare, cât și detaliile de nivel de expresie localizate. Acest spațiu de caracteristici combinat este apoi utilizat pentru sarcina finală de clasificare: prezicerea dacă un videoclip este real sau manipulat.

Date și teste

Implementare

Autorii au implementat sistemul prin preprocesarea videoclipurilor de intrare cu framework-ul FaceXZoo bazat pe PyTorch pentru detectarea feței, obținând 16 cadre centrate pe față din fiecare clip. Sarcinile pregătitoare menționate mai sus au fost antrenate pe setul de date CelebV-HQ, care cuprinde 35.000 de videoclipuri faciale de înaltă calitate.

Din lucrarea sursă, exemple din setul de date CelebV-HQ utilizat în noul proiect. Sursă: https://arxiv.org/pdf/2207.12393

Jumătate din exemplele de date au fost mascate, forțând sistemul să învețe principii generale în loc să supra-ajuste datele sursă.

Pentru sarcina de reconstruire a cadrului mascat, modelul a fost antrenat pentru a prezice regiunile lipsă ale cadrului videoclipului utilizând o pierdere L1, minimizând diferența dintre conținutul original și cel reconstruit.

Pentru a doua sarcină, modelul a fost antrenat pentru a genera hărți pentru 16 unități de acțiune faciale, fiecare reprezentând mișcări musculare subtile în zone cum ar fi sprâncenele, pleoapele, nasul și buzele, din nou supravegheat de pierdere L1.

După preantrenare, cele două encodere au fost combinate și ajustate pentru detectarea deepfake-urilor utilizând setul de date FaceForensics++, care conține atât videoclipuri reale, cât și manipulate.

Setul de date FaceForensics++ a fost punctul de referință central pentru detectarea deepfake-urilor din 2017, deși este acum considerabil învechit în ceea ce privește cele mai recente tehnici de sinteză facială. Sursă: https://www.youtube.com/watch?v=x2g48Q2I2ZQ

Pentru a ține cont de dezechilibrul clasei, autorii au utilizat Pierderea Focală (o variantă a pierderii de entropie cruză), care pune accent pe exemplele mai provocatoare în timpul antrenamentului.

Toate antrenamentele au fost efectuate pe un singur GPU RTX 4090 cu 24Gb de VRAM, cu o dimensiune a lotului de 8 pentru 600 epoci (revizuiri complete ale datelor), utilizând puncte de plecare preantrenate din VideoMAE pentru a inițializa greutățile pentru fiecare dintre sarcinile pregătitoare.

Teste

Evaluări cantitative și calitative au fost efectuate împotriva unei varietăți de metode de detectare a deepfake-urilor: FTCN; RealForensics; Lip Forensics; EfficientNet+ViT; Face X-Ray; Alt-Freezing; CADMM; LAANet; și SBI de la BlendFace. În toate cazurile, codul sursă a fost disponibil pentru aceste cadre.

Testele s-au concentrat pe deepfake-uri editate local, unde doar o parte a unui clip sursă a fost modificată. Arhitecturile utilizate au fost Diffusion Video Autoencoders (DVA); Stitch It In Time (STIT); Disentangled Face Editing (DFE); Tokenflow; VideoP2P; Text2Live; și FateZero. Aceste metode utilizează o varietate de abordări (difuzie pentru DVA și StyleGAN2 pentru STIT și DFE, de exemplu)

Autorii afirmă:

‘Pentru a asigura o acoperire cuprinzătoare a diferitelor manipulări faciale, am inclus o varietate largă de caracteristici și editări de atribute. Pentru editarea caracteristicilor faciale, am modificat mărimea ochilor, distanța dintre ochi și sprâncene, raportul nasului, distanța dintre nas și gură, raportul buzelor și raportul obrajilor. Pentru editarea atributelor faciale, am variat expresii cum ar fi zâmbetul, furia, dezgustul și tristețea.

‘Această diversitate este esențială pentru a valida robustețea modelului nostru pe o gamă largă de editări localizate. În total, am generat 50 de videoclipuri pentru fiecare dintre metodele de editare menționate mai sus și am validat puternica generalizare a metodei noastre pentru detectarea deepfake-urilor.’

Seturile de date mai vechi de deepfake-uri au fost, de asemenea, incluse în runde, și anume Celeb-DFv2 (CDF2); DeepFake Detection (DFD); DeepFake Detection Challenge (DFDC); și WildDeepfake (DFW).

Metricile de evaluare au fost Aria sub Curba (AUC); Precizia Medie; și Scorul F1 Mediu F1.

Din lucrare: comparația pe deepfake-uri locale recente arată că metoda propusă a depășit toate celelalte, cu un câștig de 15 până la 20 procente în AUC și precizie medie față de abordarea următoare cea mai bună.

Autorii oferă, de asemenea, o comparație vizuală de detectare pentru manipulări locale (reproducerea doar parțială aici, din cauza lipsei de spațiu):

Un videoreal a fost modificat utilizând trei manipulări locale diferite pentru a produce falsuri care au rămas vizual similare cu originalul. Sunt prezentate cadre reprezentative împreună cu scorurile medii de detectare a falsurilor pentru fiecare metodă. În timp ce detectoarele existente au luptat cu aceste editări subtile, modelul propus a atribuit în mod constant probabilități de falsuri ridicate, indicând o sensibilitate mai mare la schimbările localizate.

Cercetătorii comentează:

‘Metodele actuale de detectare SOTA experimentează o scădere semnificativă a performanței pe metodele de generare a deepfake-urilor recente. Metodele actuale SOTA prezintă AUC-uri atât de scăzute încât 48-71%, demonstrând capacitățile lor slabe de generalizare la deepfake-urile recente.

‘Pe de altă parte, metoda noastră demonstrează o generalizare robustă, atingând un AUC în intervalul 87-93%. O tendință similară este vizibilă și în cazul preciziei medii. Așa cum se arată mai jos, metoda noastră atinge, de asemenea, în mod constant performanțe ridicate pe seturile de date standard, depășind 90% AUC și fiind competitivă cu modelele recente de detectare a deepfake-urilor.’

Performanța pe seturile de date tradiționale de deepfake-uri arată că metoda propusă a rămas competitivă cu abordările de top, indicând o generalizare puternică pe o gamă de tipuri de manipulare.

Autorii observă că aceste teste implică modele care ar putea fi considerate învechite, introduse înainte de 2020.

Prin intermediul unei reprezentări vizuale mai extinse a performanței noului model, autorii oferă o tabel extins la sfârșitul lucrării, din care reproducem doar o parte aici:

În aceste exemple, un videoreal a fost modificat utilizând trei editări locale pentru a produce falsuri care au rămas vizual similare cu originalul. Scorurile medii de încredere pe aceste manipulări arată, conform afirmațiilor autorilor, că metoda propusă a detectat falsurile într-un mod mai fiabil decât alte abordări de top. Vă rugăm să consultați pagina finală a PDF-ului sursă pentru rezultatele complete.

Autorii susțin că metoda lor atinge scoruri de încredere peste 90% pentru detectarea editărilor localizate, în timp ce metodele actuale de detectare rămân sub 50% pe aceeași sarcină. Ei interpretează această diferență ca o dovadă atât a sensibilității, cât și a generalizării abordării lor, și ca o indicație a provocărilor cu care se confruntă tehnicile actuale în a face față acestor tipuri de manipulări faciale subtile.

Pentru a evalua fiabilitatea modelului în condiții din lumea reală și conform metodei stabilite de CADMM, autorii au testat performanța sa pe videoclipuri modificate cu distorsionări comune, incluzând ajustări de saturație și contrast, blur Gaussian, pixelare și artefacte de compresie bazate pe blocuri, precum și zgomot aditiv.

Rezultatele au arătat că acuratețea detectării a rămas în mare măsură stabilă pe parcursul acestor perturbații. Singura scădere notabilă a avut loc cu adăugarea zgomotului Gaussian, care a cauzat o scădere modestă a performanței. Alte modificări au avut un efect minim.

O ilustrare a modului în care acuratețea detectării se schimbă sub diferite distorsionări ale videoclipului. Noua metodă a rămas rezilientă în majoritatea cazurilor, cu doar o scădere mică a AUC. Cea mai semnificativă scădere a avut loc atunci când a fost introdus zgomotul Gaussian.

Aceste constatări, conform autorilor, sugerează că capacitatea metodei de a detecta manipulări localizate nu este ușor perturbată de degradările tipice ale calității videoclipului, sprijinind astfel robustețea sa potențială în setări practice.

Concluzie

Manipularea prin inteligență artificială există în conștiința publică în principal sub forma clasică a deepfake-urilor, unde identitatea unei persoane este impusă asupra corpului unei alte persoane, care poate efectua acțiuni contrare principiilor proprietarului de identitate. Această concepție este încetul cu încetul actualizată pentru a recunoaște capacitățile mai insidioase ale sistemelor generative de videoclipuri (în noua generație de deepfake-uri video) și capacitățile modelului de difuzie latent (LDM) în general.

Prin urmare, este rezonabil să ne așteptăm ca tipul de editare locală despre care este vorba în noua lucrare să nu ajungă în atenția publică până când nu va apărea un eveniment cheie de tip Pelosi, deoarece oamenii sunt distruși de această posibilitate de subiecte mai ușor de văzut, cum ar fi frauda cu deepfake-uri video.

Cu toate acestea, la fel cum actorul Nic Cage a exprimat îngrijorări constante cu privire la posibilitatea proceselor post-producției de a ‘revizui’ o performanță a unui actor, ar trebui să încurajăm, de asemenea, o conștientizare mai mare a acestui tip de ‘subtil’ de ajustare a videoclipului – nu doar pentru că suntem, din fire, incredibil de sensibili la variații foarte mici ale expresiilor faciale, și pentru că contextul poate schimba semnificativ impactul mișcărilor faciale mici (luați în considerare efectul perturbator al unui simplu zâmbet la o înmormântare, de exemplu).

Publicat pentru prima dată miercuri, 2 aprilie 2025