Ce sunt Deepfake-urile?

Pe măsură ce deepfake-urile devin mai ușor de realizat și mai prolific, li se acordă mai multă atenție. Deepfake-urile au devenit punctul central al discuțiilor care implică etica AI, dezinformarea, deschiderea informațiilor și a internetului și reglementări. Merită să fii informat cu privire la deepfakes și să înțelegi intuitiv ce sunt deepfake-urile. Acest articol va clarifica definiția unui deepfake, va examina cazurile de utilizare a acestora, va discuta despre cum pot fi detectate deepfake-urile și va examina implicațiile deepfake-urilor pentru societate.

Ce sunt Deepfake-urile?

Înainte de a continua să discutăm despre deepfakes, ar fi util să luați ceva timp și să clarificați ce sunt de fapt „deepfakes”.. Există o cantitate substanțială de confuzie cu privire la termenul Deepfake și adesea termenul este aplicat greșit oricărei media falsificate, indiferent dacă este sau nu un deepfake autentic. Pentru a fi calificat drept Deepfake, media falsificată în cauză trebuie să fie generată cu un sistem de învățare automată, în special o rețea neuronală profundă.

Ingredientul cheie al deepfake-urilor este învățarea automată. Învățarea automată a făcut posibil ca computerele să genereze automat video și audio relativ rapid și ușor. Rețelele neuronale profunde sunt antrenate pe imagini ale unei persoane reale, pentru ca rețeaua să învețe cum arată și se mișcă oamenii în condițiile de mediu țintă. Rețeaua instruită este apoi utilizată pe imaginile unui alt individ și îmbunătățită cu tehnici suplimentare de grafică pe computer pentru a combina noua persoană cu filmarea originală. Un algoritm de codificare este utilizat pentru a determina asemănările dintre fața originală și fața țintă. Odată ce trăsăturile comune ale fețelor au fost izolate, se folosește un al doilea algoritm AI numit decodor. Decodorul examinează imaginile codificate (comprimate) și le reconstruiește pe baza caracteristicilor din imaginile originale. Sunt utilizate două decodoare, unul pe fața subiectului original și al doilea pe fața persoanei țintă. Pentru ca schimbarea să fie efectuată, decodorul antrenat pe imagini ale persoanei X este alimentat cu imagini ale persoanei Y. Rezultatul este că fața persoanei Y este reconstrucție peste expresiile faciale și orientarea persoanei X.

În prezent, este nevoie de mult timp pentru ca un deepfake să fie realizat. Creatorul falsului trebuie să petreacă mult timp ajustând manual parametrii modelului, deoarece parametrii suboptimi vor duce la imperfecțiuni vizibile și erori de imagine care dezvăluie adevărata natură a falsului.

Deși se presupune frecvent că majoritatea deepfake-urilor sunt realizate cu un tip de rețea neuronală numită a rețea generativă adversară (GAN), multe (poate cele mai multe) deepfake create în aceste zile nu se bazează pe GAN-uri. În timp ce GAN-urile au jucat un rol proeminent în crearea deepfake-urilor timpurii, majoritatea videoclipurilor deepfake sunt create prin metode alternative, potrivit Siwei Lyu de la SUNY Buffalo.

Este nevoie de o cantitate disproporționat de mare de date de antrenament pentru a antrena un GAN, iar GAN-urile durează adesea mult mai mult pentru a reda o imagine în comparație cu alte tehnici de generare a imaginii. GAN-urile sunt, de asemenea, mai bune pentru generarea de imagini statice decât video, deoarece GAN-urile întâmpină dificultăți în menținerea consistenței de la cadru la cadru. Este mult mai obișnuit să folosiți un encoder și mai multe decodoare pentru a crea deepfake-uri.

Pentru ce sunt folosite Deepfake-urile?

Multe dintre deepfake-urile găsite online sunt de natură pornografică. Conform cercetărilor efectuate de Deeptrace, o firmă de inteligență artificială, dintr-un eșantion de aproximativ 15,000 de videoclipuri deepfake realizate în septembrie 2019, aproximativ 95% dintre ele erau de natură pornografică. O implicație îngrijorătoare a acestui fapt este că, pe măsură ce tehnologia devine mai ușor de utilizat, ar putea crește incidentele de porno fals de răzbunare.

Cu toate acestea, nu toate falsurile profunde sunt de natură pornografică. Există utilizări mai legitime pentru tehnologia deepfake. Tehnologia audio deepfake ar putea ajuta oamenii să-și transmită vocile obișnuite după ce sunt deteriorate sau pierdute din cauza unei boli sau răni. Deepfake-urile pot fi folosite și pentru a ascunde fețele persoanelor care se află în situații sensibile, potențial periculoase, permițând totuși citirea buzelor și expresiilor acestora. Tehnologia deepfake poate fi utilizată pentru a îmbunătăți dublarea filmelor în limbi străine, pentru a ajuta la repararea mediilor vechi și deteriorate și chiar pentru a crea noi stiluri de artă.

Deepfakes non-video

În timp ce majoritatea oamenilor se gândesc la videoclipuri false când aud termenul „deepfake”, videoclipurile false nu sunt în niciun caz singurul tip de media falsă produsă cu tehnologia deepfake. Tehnologia Deepfake este folosită și pentru a crea falsuri foto și audio. După cum sa menționat anterior, GAN-urile sunt frecvent utilizate pentru a genera imagini false. Se crede că au existat multe cazuri de profiluri false LinkedIn și Facebook care au imagini de profil generate cu algoritmi deepfake.

Este posibil să creați și deepfake-uri audio. Rețelele neuronale profunde sunt antrenate pentru a produce clone de voce / skin-uri de voce ale diferitelor persoane, inclusiv celebrități și politicieni. Un exemplu celebru de Deepfake audio este atunci când compania AI Dessa a folosit un model AI, sprijinit de algoritmi non-AI, pentru a recrea vocea gazdei podcastului Joe Rogan.

Cum să depistați Deepfakes

Pe măsură ce deepfake-urile devin din ce în ce mai sofisticate, diferențierea lor de media autentică va deveni din ce în ce mai dură. În prezent, există câteva semne revelatoare oamenii pot căuta pentru a afla dacă un videoclip este potențial un deepfake, cum ar fi sincronizarea slabă a buzelor, mișcarea nenaturală, pâlpâirea pe marginea feței și deformarea detaliilor fine precum părul, dinții sau reflexiile. Alte semne potențiale ale unui deepfake includ părți de calitate inferioară ale aceluiași videoclip și clipirea neregulată a ochilor.

Deși aceste semne pot ajuta la identificarea unui deepfake în acest moment, deoarece tehnologia deepfake îmbunătățește, singura opțiune pentru detectarea deepfake fiabilă ar putea fi alte tipuri de AI antrenate pentru a distinge falsurile de media reală.

Companiile de inteligență artificială, inclusiv multe dintre marile companii de tehnologie, cercetează metode de detectare a deepfake-urilor. În decembrie anul trecut, a început o provocare de detecție a falsurilor profunde, susținută de trei giganți ai tehnologiei: Amazon, Facebook și Microsoft. Echipe de cercetare din întreaga lume au lucrat la metode de detectare a deepfake-urilor, concurând pentru a dezvolta cele mai bune metode de detectare. Alte grupuri de cercetători, cum ar fi un grup de cercetători combinați de la Google și Jigsaw, lucrează la un tip de „investigație legală a feței” care poate detecta videoclipurile care au fost modificate, făcând seturile lor de date open source și încurajarea altora să dezvolte metode de detectare a falsurilor profunde. Dessa menționată mai sus a lucrat la perfecționarea tehnicilor de detectare a deepfake-ului, încercând să se asigure că modelele de detectare funcționează pe videoclipuri deepfake găsite în sălbăticie (pe internet) și nu doar pe seturi de date precompuse de antrenament și testare, cum ar fi setul de date open-source Google a oferit.

Există, de asemenea alte strategii care sunt investigate pentru a se ocupa de proliferarea deepfake-urilor. De exemplu, verificarea concordanței videoclipurilor cu alte surse de informații este o strategie. Căutările pot fi făcute pentru videoclipuri cu evenimente potențial luate din alte unghiuri, sau detaliile de fundal ale videoclipului (cum ar fi modelele și locațiile vremii) pot fi verificate pentru neconcordanțe. Dincolo de asta, un sistem de registru online Blockchain ar putea înregistra videoclipuri atunci când sunt create inițial, păstrând sunetul și imaginile originale, astfel încât videoclipurile derivate să poată fi întotdeauna verificate pentru manipulare.

În cele din urmă, este important să se creeze metode fiabile de detectare a deepfake-urilor și ca aceste metode de detectare să țină pasul cu cele mai noi progrese în tehnologia deepfake. Deși este greu de știut cu exactitate care vor fi efectele deepfake-urilor, dacă nu există metode fiabile de detectare a deepfake-urilor (și alte forme de media falsă), dezinformarea ar putea să se extindă și să degradeze încrederea oamenilor în societate și instituții.

Implicațiile Deepfakes

Care sunt pericolele de a permite deep fake-ul să prolifereze necontrolat?

Una dintre cele mai mari probleme pe care le creează în prezent deepfakes este pornografia neconsensuală, creată prin combinarea fețelor oamenilor cu videoclipuri și imagini pornografice. Eticienii AI sunt îngrijorați de faptul că deepfake-urile vor avea mai multă utilizare în crearea de porno-răzbunare falsă. Dincolo de aceasta, deepfake-urile ar putea fi folosite pentru a agresa și a deteriora reputația aproape oricui, deoarece ar putea fi folosite pentru a plasa oamenii în scenarii controversate și compromițătoare.

Companiile și specialiștii în securitate cibernetică și-au exprimat îngrijorarea cu privire la utilizarea deepfake-urilor pentru a facilita escrocherii, fraudă și extorcare. Se presupune că audio deepfake a fost folosit pentru a convinge angajații a unei companii pentru a transfera bani către escroci

Este posibil ca deepfake-urile să aibă efecte dăunătoare chiar și dincolo de cele enumerate mai sus. Deepfake-urile ar putea eroda încrederea oamenilor în media în general și ar putea face dificilă distincția dintre știrile reale și știrile false. Dacă multe videoclipuri de pe web sunt false, devine mai ușor pentru guverne, companii și alte entități să pună la îndoială controversele legitime și practicile lipsite de etică.

Când vine vorba de guverne, deepfake-urile pot reprezenta chiar amenințări la adresa funcționării democrației. Democrația cere ca cetățenii să fie capabili să ia decizii în cunoștință de cauză cu privire la politicieni, pe baza unor informații de încredere. Dezinformarea subminează procesele democratice. De exemplu, președintele Gabonului, Ali Bongo, a apărut într-un videoclip încercând să liniștească cetățenii din Gabon. Se presupunea că președintele nu se simte bine pentru o perioadă lungă de timp, iar apariția sa bruscă în un videoclip fals probabil a declanșat o tentativă de lovitură de stat. Președintele Donald Trump a susținut că o înregistrare audio cu el lăudându-se că a apucat femei de organele genitale a fost fals, în ciuda faptului că l-a descris și drept „vorbire din vestiar”. Prințul Andrew, de asemenea a susținut că o imagine furnizată de avocatul lui Emily Maitilis este falsă, deși avocatul a insistat asupra autenticității sale.

În cele din urmă, deși există utilizări legitime pentru tehnologia deepfake, există multe daune potențiale care pot apărea din utilizarea greșită a acestei tehnologii. Din acest motiv, este extrem de important ca metodele de determinare a autenticității media să fie create și menținute.