Filtrele de frumusețe sunt un posibil instrument de atac cu deepfake

Filtrele de frumusețe fac mai mult decât să ascundă imperfecțiunile: pot ajuta la deepfake și la morphing, făcând să treacă neobservate sistemele de detectare. Un studiu recent arată că chiar și efectele de netezire subtile pot confunda detectoarele de inteligență artificială, făcând imaginile false să pară reale și pe cele reale să pară false. Dacă tendința continuă, filtrele de frumusețe ar putea face obiectul unor restricții în contexte cu risc ridicat, de la controlul frontierelor la apelurile video corporate.

Într-o colaborare academică din 2024 între Spania și Italia, cercetătorii au raportat că 90% dintre femei cu vârsta cuprinsă între 18 și 30 de ani folosesc filtre de frumusețe înainte de a posta imagini pe rețelele sociale. În acest sens, filtrele de frumusețe sunt metode algoritmice sau asistate de inteligență artificială pentru a modifica aspectul facial, astfel încât să fie considerat îmbunătățit față de imaginea originală:

Din studiul din 2024: exemple de fețe feminine (stânga) și masculine (dreapta) înainte și după aplicarea filtrelor de frumusețe. Filtrul a modificat caracteristici precum tonul pielii, ochii, nasul, buzele, bărbia și obrajii pentru a îmbunătăți atractivitatea percepută. Sursă: https://arxiv.org/pdf/2407.11981

Asemenea filtre sunt disponibile și ca funcționalitate nativă sau suplimentară în sisteme video populare, cum ar fi Snapchat și Zoom, oferind posibilitatea de a netezi “imperfecțiunile” pielii și chiar de a modifica vârsta subiectului, până la punctul în care identitatea ar putea fi considerată substanțial modificată:

Apăsați pentru a reda:trei femei dezactivează filtrele de “îmbunătățire” a video-ului, arătând extinderea modificărilor fizionomiei lor datorate algoritmilor sau inteligenței artificiale. Sursă: https://www.youtube.com/watch?v=gtCpea_5qxw

Fenomenul pare să fi atins punctul de saturație de îndată ce tehnologia a devenit relativ matură; un studiu din 2020 de la City University of London a arătat că 90% dintre tinerii utilizatori de Snapchat din Statele Unite, Franța și Regatul Unit folosesc filtre în aplicațiile lor, în timp ce Meta a raportat că peste 600 de milioane de tineri au folosit filtre pe Facebook sau Instagram.

În timp ce se explorează efectele adverse ale acestor filtre asupra sănătății mintale, un raport de la Psychology Today a subliniat că, din cei studiați, 90% dintre femeile tinere, cu o vârstă medie de 20 de ani, au folosit filtre sau au editat într-un fel fotografiile lor. Filtrele cele mai populare au fost cele care uniformizează tonul pielii; dau o aparență bronzată; albesc dinții; și chiar reduc dimensiunea corpului.

Confruntare

În timp ce filtrele de față sunt pe cale să beneficieze de revoluția din 2025 în sinteza video și, în general, de interesul continuu în acest sector de cercetare, extinderea posibilităților de a ne “recrea” sau de a ne reimagina în apeluri video live se lovește din ce în ce mai mult de preocupările comunității de securitate cu privire la tehnici de deepfake video frauduloase sau criminale.

O problemă este că majoritatea testelor “ușoare” dezvoltate în ultimii ani pentru a descoperi un deepfaker video, care ar putea căuta să înșele cantități mari de bani într-un context corporativ, devin inevitabil mai puțin eficiente pe măsură ce aceste puncte slabe sunt luate în considerare în datele de antrenament și la momentul inferenței:

Apăsați pentru a reda:cu câțiva ani în urmă, fluturarea mâinii în fața unei fețe deepfake era un test fiabil pentru apelurile video, dar putem vedea că eforturile dedicate de la TikTok fac progrese semnificative în ceea ce privește “semnele” clasice. Surse: Ibid și https://archive.is/mofRV#wavehands

Mai critic, utilizarea pe scară largă a filtrelor de schimbare/alterare a feței încurcă apele pentru o nouă generație de detectoare de deepfake care trebuie să țină impostorii departe de apelurile video din sălile de consiliu și de potențialii victime ale fraudelor de “răpire” și “impostor”.

Este mai ușor să creezi un deepfake convingător, fie el o fotografie sau un video, dacă rezoluția imaginii este scăzută sau imaginea este într-un fel degradată, deoarece sistemul de falsificare subiacent poate-și ascunde propriile limite în spatele a ceea ce pare a fi probleme de conectivitate sau de platformă.

În esență, filtrele de frumusețe cele mai populare elimină unele dintre cele mai utile materiale pentru identificarea deepfake-urilor video, cum ar fi textura pielii și alte zone de detaliu facial – și merită luat în considerare faptul că, cu cât o față este mai în vârstă, cu atât mai multe detalii conține, și, prin urmare, utilizarea filtrelor de îmbunătățire a aspectului feței ar putea fi o ispită deosebită în astfel de cazuri.

Dacă un aspect fără detalii, de tip “android”, este la modă, detectoarele de deepfake ar putea lipsi de materialul necesar pentru a distinge între imagini și personaje video reale și false. Sursă: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

Articolul din 2024 al Royal Society, Ce este frumos este încă bun: efectul de aureolă al atractivității în era filtrelor de frumusețe, a confirmat că utilizarea filtrelor crește în mod universal atractivitatea generală atât pentru bărbați, cât și pentru femei (deși atractivitatea crescută are tendința de a reduce estimarea generală a inteligenței la femeile cu filtre de frumusețe).

Prin urmare, este corect să spunem că această tehnologie este populară; că funcționează; și că ar fi un șoc cultural dacă ar deveni brusc supusă unor limitări de securitate sau interzisă în diverse contexte.

Cu toate acestea, într-o perioadă în care deepfake-urile video amenință să devină indistinguabile de la participanții video reali, atât în aspect, cât și în vorbire, este posibil ca “zgomotul” global generat de filtrele de frumusețe să trebuiască să fie atenuat în viitor, din motive de securitate.

Criminali netedeni

Problema a fost investigată recent într-un nou articol de la Universitatea din Cagliari, Italia, intitulat Frumusețe înșelătoare: Evaluarea impactului filtrelor de frumusețe asupra detectării atacurilor de deepfake și morphing.

În noul studiu, cercetătorii au aplicat filtre de frumusețe pe fețe din două seturi de date de referință și au testat mai multe detectoare de deepfake și morphing pe imaginile originale și modificate.

În aproape toate cazurile, acuratețea detectării a scăzut după îmbunătățire; cele mai dramatice scăderi au apărut atunci când filtrele au netezit ridurile, au îmbunătățit tonul pielii sau au remodelat subtil caracteristici faciale. Aceste modificări au eliminat sau distorsionat exact acele indicii pe care se bazează modelele de detectare.

De exemplu, modelul cu cel mai bun rezultat pe MorphDB a pierdut peste 9% acuratețe după filtrare, iar problema a persistat în multiple arhitecturi de detectare, indicând că sistemele actuale nu sunt robuste la îmbunătățirile cosmetice comune.

Autorii concluzionează:

‘Filtrele de îmbunătățire a feței reprezintă o amenințare la adresa integrității sistemelor de autentificare biometrică și a analizei forensice, făcând ca detectarea robustă a deepfake-urilor și a atacurilor de morphing în astfel de condiții să fie o provocare deschisă critică.

‘Lucrările viitoare ar trebui să prioritizeze dezvoltarea sistemelor de detectare a manipulărilor digitale care sunt robuste la astfel de alterări subtile, din lumea reală, fie ele malefice sau nu, pentru a asigura recunoașterea fiabilă a identității și verificarea conținutului în contexte de zi cu zi și critice pentru securitate.’

Metodă și date

Pentru a evalua modul în care filtrele de frumusețe afectează detectarea deepfake-urilor și a morphării, cercetătorii au aplicat un filtru de netezire progresiv și au testat rezultatele pe două rețele neuronale convolutive (CNN) asociate cu problema țintă: AlexNet și VGG19.

Fiecare dintre cele două seturi de date de referință testate conținea exemple de manipulări faciale adecvate. Primul a fost CelebDF, o bază de date video la scară largă care prezintă 590 de clipuri reale și 5.639 de clipuri false create prin tehnici avansate de schimb de fețe. Colecția oferă o gamă diversă de condiții de iluminare, poziții ale capului și expresii naturale pe 59 de indivizi, făcând-o potrivită pentru evaluarea rezistenței detectoarelor de deepfake în scenarii media reale:

Exemple de imagini faciale afectate, din CelebDF. Sursă: https://github.com/yuezunli/celeb-deepfakeforensics

Al doilea a fost AMSL (necesită înregistrare), un set de date de atac de morphing construit din colecția Face Research Lab London colecția, conținând atât fețe reale, cât și fețe sintetice amestecate. Setul de date include expresii neutre și zâmbitoare de la 102 subiecți și a fost structurat pentru a reflecta provocări realiste pentru sistemele de autentificare biometrică utilizate în contexte precum controlul frontierelor.

Imagini din setul de date sursă Face Research Lab London (FRLL) utilizat în AMSL. Sursă: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

Fiecare rețea a fost antrenată pe 80% din setul de date de deepfake sau de atac de morphing, iar restul de 20% a fost utilizat pentru validare. Pentru a testa robustețea împotriva îmbunătățirii, cercetătorii au aplicat apoi un filtru de netezire progresiv asupra imaginilor de test, crescând raza de blur de la 3% la 5% din înălțimea feței:

Exemple de fețe din seturile de date CelebDF (sus) și AMSL (jos), arătate înainte și după aplicarea unui filtru de îmbunătățire a feței bazat pe netezire. Raza filtrului a fost scalată relativ la înălțimea feței, cu c = 3% și c = 5% producând efecte progresiv mai puternice.

În ceea ce privește metricile, fiecare model a fost evaluat utilizând rata de eroare egală (EER) pe ambele mostre de test originale și îmbunătățite. Analiza a raportat, de asemenea, rata de eroare de clasificare a prezentării autentice (BPCER) sau rata de fals pozitiv și rata de eroare de clasificare a prezentării atacului (APCER) sau rata de fals negativ, utilizând pragul stabilit pe datele originale.

Fețe morfate din setul de date AMSL.

Pentru a evalua în continuare performanța, a fost examinat și spațiul sub curba ROC (AUC) și distribuțiile de scoruri pentru imagini reale și false.

Teste

În rezultatele detectării deepfake-urilor, ambele rețele au arătat rate de eroare egală crescânde pe măsură ce intensitatea îmbunătățirii a crescut. Rata de eroare egală a lui AlexNet a crescut de la 22,3% pe imaginile originale la 28,1% la nivelul de netezire cel mai ridicat, în timp ce rata de eroare egală a lui VGG19 a crescut de la 30,2% la 35,2%. Scăderea performanței a urmat modele diferite în fiecare caz:

Rezultatele detectării deepfake-urilor pe setul de date CelebDF utilizând AlexNet și VGG19. Ambele modele au fost testate pe imagini originale și îmbunătățite cu niveluri crescânde de netezire facială. Metricile prezentate includ rata de eroare egală (EER), rata de eroare de clasificare a prezentării autentice (BPCER) și rata de eroare de clasificare a prezentării atacului (APCER), utilizând pragurile fixate din setul de test original. Acuratețea detectării a scăzut pe măsură ce intensitatea îmbunătățirii a crescut, deși modelul de degradare a diferit între arhitecturi.

Pe măsură ce îmbunătățirea a crescut, AlexNet a devenit mai probabil să confunde fețele reale cu cele false, arătat de o creștere constantă a ratei de fals pozitiv (BPCER). VGG19, pe de altă parte, a avut dificultăți în a detecta deepfake-urile în sine, cu o rată de fals negativ (APCER) în creștere. Cele două modele au răspuns diferit la filtre, indicând faptul că chiar și arhitecturile bine cunoscute pot eșua în moduri diferite atunci când se confruntă cu modificări cosmetice.

Pentru a înțelege mai bine aceste rezultate, cercetătorii au aplicat filtrul de îmbunătățire separat pe imagini reale și false și au măsurat impactul asupra performanței de detectare. Această analiză, prezentată în tabelul de rezultate de mai jos, clarifică sursa vulnerabilității fiecărui model:

Acuratețea detectării pentru AlexNet și VGG19 sub îmbunătățire parțială pe setul de date CelebDF. Tabelul raportează trei scenarii: îmbunătățire reală vs îmbunătățire falsă (F-Real vs F-Fake); îmbunătățire reală vs original fals (F-Real vs O-Fake); și real original vs îmbunătățire falsă (O-Real vs F-Fake), cu o scădere a acurateței care indică o performanță de detectare redusă. AlexNet a fost cel mai afectat atunci când imaginile reale au fost îmbunătățite, în timp ce VGG19 a avut dificultăți atunci când îmbunătățirea a fost aplicată asupra imaginilor false.

Pentru AlexNet, performanța de detectare a scăzut atunci când imaginile reale au fost îmbunătățite, dar a îmbunătățit atunci când doar imaginile false au fost netezite. Pentru VGG19, performanța a îmbunătățit ușor cu imagini reale îmbunătățite, dar a scăzut atunci când deepfake-urile au fost filtrate. În toate cazurile, îmbunătățirea puternică a redus acuratețea.

Distribuțiile de scoruri ale ieșirilor AlexNet și VGG19 pe mostre reale și false din setul de date CelebDF, sub niveluri crescânde de îmbunătățire. Pe măsură ce netezirea se intensifică, distribuțiile de scoruri pentru imagini reale și false devin mai puțin separabile, indicând o fiabilitate redusă a detectării. AlexNet devine mai puțin încrezător în identificarea fețelor reale, în timp ce VGG19 devine mai probabil să clasifice greșit fețele false.

Îmbunătățirea a făcut ca scorurile de ieșire ale lui AlexNet să devină mai uniforme pe ambele mostre reale și false, în timp ce VGG19 a arătat o dispersie mai mare în cadrul fiecărei clase. În ciuda acestor efecte contrastante asupra variabilității scorurilor, ambele modele au pierdut acuratețe. Pentru AlexNet, scorurile pentru fețele reale s-au deplasat mai aproape de cele ale deepfake-urilor. Pentru VGG19, scorurile pentru fețele reale și false au început să se suprapună, reducând capacitatea modelului de a le distinge.

Articolul afirmă:

‘Aceste rezultate au implicații importante și arată că este necesar să se ia în considerare utilizarea filtrelor de îmbunătățire a feței în detectarea deepfake-urilor, deoarece acestea pot avea un impact imprevizibil asupra performanței. În special, arhitecturi diferite răspund diferit la manipulările faciale, chiar dacă acestea nu sunt menite să înșele.

‘De exemplu, în funcție de detectorul de deepfake specific, filtrele de îmbunătățire a feței ar putea altera semnificativ ieșirea, făcând ca imaginile reale să fie identificate ca deepfake-uri și, mai critic, permițând deepfake-urilor să înșele detectarea.

‘Prin urmare, este necesar să se concentreze pe dezvoltarea detectoarelor mai robuste la astfel de alterări subtile, care nu sunt strict malefice, dar care ar putea servi ca o mască pentru manipulări de deepfake malefice.’

În scenariul de atac de morphing, o imagine sintetică a fost creată prin amestecarea caracteristicilor faciale de la două indivizi. Această imagine a fost utilizată pentru a înșela sistemele de recunoaștere facială, permițând ambelor identități sursă să fie autentificate ca același individ. Asemenea atacuri sunt considerate deosebit de relevante în contexte de securitate, unde sistemele biometrice ar putea fi înșelate pentru a accepta imaginea morfată pentru identificare oficială.

Rezultatele detectării atacurilor de morphing pe imagini AMSL înainte și după îmbunătățire, cu ambele rețele arătând creșteri abrupte ale erorilor pe măsură ce intensitatea netezirii crește.

În scenariul de atac de morphing, performanța a scăzut mai puternic decât în detectarea deepfake-urilor. Rata de eroare egală a lui AlexNet a crescut de la 27,6% la 41,2%, iar cea a lui VGG19 de la 19,0% la 37,3%, determinată în mare măsură de falsuri pozitive: fețe autentice clasificate greșit ca morfe.

Cu o rază de netezire de 3%, rata de fals pozitiv a lui VGG19 a atins 90%.

Acest model a persistat și atunci când filtrele au fost aplicate selectiv. Netezirea fețelor reale a deteriorat detectarea, în timp ce netezirea doar a fețelor morfate a îmbunătățit rezultatele. Pe măsură ce netezirea s-a intensificat, ambele rețele au arătat o separare redusă între scorurile reale și false, VGG19 devenind deosebit de instabil.

Aceste constatări, indică autorii, sugerează că filtrele de frumusețe ar putea ajuta morfele să evite detectarea chiar mai eficient decât deepfake-urile, ridicând serioase preocupări de securitate.

Exemple parțiale (din cauza lipsei de spațiu) de cum a alterat îmbunătățirea minimă (rază de netezire de 3%) clasificările lui AlexNet. În stânga, o imagine reală este clasificată greșit ca atac după filtrare, și în dreapta, o imagine morfată este clasificată greșit ca autentică după filtrare.

În final, cercetătorii au constatat că chiar și filtrele de îmbunătățire ușoare pot deteriora semnificativ performanța detectoarelor de deepfake și de morphing de ultimă generație.

Impactul a variat în funcție de arhitectură, AlexNet arătând o scădere graduală, în timp ce VGG19 s-a prăbușit sub o filtrare minimă. Deoarece aceste filtre sunt comune și nu sunt în mod inerent malefice, capacitatea lor de a ascunde atacuri reprezintă, sugerează autorii, o amenințare practică, în special în sistemele biometrice. Articolul subliniază nevoia de modele de detectare care să fie robuste la astfel de manipulări subtile de imagine.

Concluzie

Unul dintre motivele pentru care poate fi dificil să se antreneze sisteme de detectare a deepfake-urilor care să ignore filtrele de frumusețe este lipsa de material contrastant; în cele din urmă, versiunea “îmbunătățită” este cea care se răspândește pe scară largă, și, în contrast cu videoul pe care l-am încorporat mai devreme ca ilustrație, este foarte rar ca o imagine “înainte” să fie aplicată.

Un alt obstacol este că multe dintre filtre efectuează exact felul de netezire caracteristic operațiunilor de compresie la salvarea imaginilor sau a videourilor (un beneficiu pentru furnizorii de lățime de bandă, pe lângă faptul că este o operațiune de “îmbunătățire” digitală a pielii pentru cei care utilizează filtrul).

Sectorul de cercetare a detectării deepfake-urilor este deja profund implicat în combaterea cazurilor de degradare a imaginilor din lumea reală, datorate problemelor precum camerele de calitate slabă, compresia excesivă sau conectivitatea rețelei instabilă – toate aceste condiții fiind un beneficiu direct pentru cei care creează deepfake-uri, care sunt forțați să depună mult mai multe eforturi într-un scenariu de înaltă calitate și rezoluție.

Întrebarea dacă filtrele de frumusețe vor deveni în cele din urmă o problemă de securitate pare să depindă de măsura în care ele se dovedesc a fi un impediment pentru metodele de detectare a deepfake-urilor sau dacă vor constitui o barieră de facto care va beneficia mai mult pe cei care săvârșesc fapte malefice decât pe cei care luptă împotriva lor.

Publicat pentru prima dată miercuri, 24 septembrie 2025