Ce sunt Deepfakes?

Pe măsură ce deepfakes devin mai ușor de creat și mai prolifice, se acordă o atenție mai mare acestora. Deepfakes au devenit punctul central al discuțiilor care implică etica inteligenței artificiale, dezinformarea, deschiderea informațiilor și a internetului, precum și reglementarea. Este important să fim informați cu privire la deepfakes și să avem o înțelegere intuitivă a ceea ce sunt deepfakes. Acest articol va clarifica definiția unui deepfake, va examina cazurile de utilizare, va discuta cum pot fi detectate deepfakes și va examina implicațiile deepfakes pentru societate.

Ce sunt Deepfakes?

Înainte de a discuta mai departe despre deepfakes, ar fi util să clarificăm ce sunt de fapt “deepfakes”. Există o cantitate semnificativă de confuzie cu privire la termenul Deepfake, și adesea termenul este aplicat greșit oricărui mediu falsificat, indiferent dacă este sau nu un deepfake autentic. Pentru a califica ca Deepfake, mediul falsificat în cauză trebuie să fie generat cu un sistem de învățare automată, în special o rețea neurală profundă.

Ingredientul cheie al deepfakes este învățarea automată. Învățarea automată a făcut posibil ca computerele să genereze automat video și audio relativ rapid și ușor. Rețelele neuronale profunde sunt antrenate pe imagini cu o persoană reală, astfel încât rețeaua să învețe cum arată și se mișcă oamenii în condiții de mediu țintă. Rețeaua antrenată este apoi utilizată pe imagini cu o altă persoană și îmbunătățită cu tehnici grafice suplimentare pe calculator, pentru a combina persoana nouă cu filmarea originală. Un algoritm de codificare este utilizat pentru a determina asemănările dintre fața originală și fața țintă. Odată ce trăsăturile comune ale fețelor au fost izolate, un al doilea algoritm de inteligență artificială, numit decodificator, este utilizat. Decodificatorul examinează imaginile codificate (comprimate) și le reconstruiește pe baza trăsăturilor din imaginile originale. Sunt utilizate două decodificatoare, unul pe fața subiectului original și al doilea pe fața persoanei țintă. Pentru a face schimbul, decodificatorul antrenat pe imagini cu persoana X este alimentat cu imagini cu persoana Y. Rezultatul este că fața persoanei Y este reconstruită peste expresiile faciale și orientarea persoanei X.

În prezent, încă este necesar un timp considerabil pentru a crea un deepfake. Creatorul falsului trebuie să petreacă mult timp ajustând manual parametrii modelului, deoarece parametrii suboptimali pot duce la imperfecțiuni și glitch-uri de imagine care dau de gol natura falsă a acestuia.

Deși se presupune adesea că majoritatea deepfakes sunt create cu un tip de rețea neurală numit rețea adversarială generativă (GAN), multe (poate majoritatea) deepfakes create în prezent nu se bazează pe GAN-uri. Deși GAN-urile au jucat un rol important în crearea primelor deepfakes, majoritatea videourilor deepfake sunt create prin metode alternative, conform lui Siwei Lyu de la SUNY Buffalo.

Este necesară o cantitate disproporționat de mare de date de antrenare pentru a antrena un GAN, și GAN-urile necesită adesea mult mai mult timp pentru a renderiza o imagine în comparație cu alte tehnici de generare de imagini. GAN-urile sunt mai bune pentru generarea de imagini statice decât pentru video, deoarece GAN-urile au dificultăți în menținerea consistenței de la cadru la cadru. Este mult mai obișnuit să se utilizeze un codificator și mai mulți decodificatori pentru a crea deepfakes.

Pentru ce sunt utilizate Deepfakes?

Multe dintre deepfakes găsite online sunt de natură pornografică. Conform cercetărilor efectuate de Deeptrace, o firmă de inteligență artificială, dintr-un eșantion de aproximativ 15.000 de videouri deepfake luate în septembrie 2019, aproximativ 95% dintre ele erau de natură pornografică. O implicație îngrijorătoare a acestui fapt este că, pe măsură ce tehnologia devine mai ușor de utilizat, pot apărea incidente de revenge porn fals.

Cu toate acestea, nu toate deepfakes sunt de natură pornografică. Există utilizări mai legitime pentru tehnologia deepfake. Tehnologia de audio deepfake poate ajuta oamenii să-și transmită vocile obișnuite după ce au fost deteriorate sau pierdute din cauza unei boli sau a unei leziuni. Deepfakes pot fi utilizate și pentru a ascunde fețele persoanelor care se află în situații sensibile, periculoase, în timp ce le permit să-și citească buzele și expresiile. Tehnologia deepfake poate fi utilizată și pentru a îmbunătăți dublarea filmelor în limbi străine, pentru a ajuta la repararea mass-media veche și deteriorată și chiar pentru a crea noi stiluri de artă.

Deepfakes non-video

În timp ce majoritatea oamenilor se gândesc la videouri false atunci când aud termenul “deepfake”, videourile false nu sunt singurul tip de mediu fals creat cu tehnologia deepfake. Tehnologia deepfake este utilizată și pentru a crea fotografii și audio false. Așa cum s-a menționat anterior, GAN-urile sunt adesea utilizate pentru a genera imagini false. Se crede că au existat multe cazuri de profiluri false pe LinkedIn și Facebook (META ) care au avut imagini de profil generate cu algoritmi deepfake.

Este posibil să se creeze și audio deepfakes. Rețelele neuronale profunde sunt antrenate pentru a produce clone de voce/pielă de voce a diferiților oameni, inclusiv celebrități și politicieni. Un exemplu faimos de audio deepfake este atunci când compania de inteligență artificială Dessa a utilizat un model de inteligență artificială, susținut de algoritmi non-AI, pentru a recrea vocea gazdei de podcast Joe Rogan.

Cum să detectați Deepfakes

Pe măsură ce deepfakes devin din ce în ce mai sofisticați, va fi tot mai greu să îi deosebim de mass-media autentice. În prezent, există câteva semne distinctive pe care oamenii le pot căuta pentru a stabili dacă un video este posibil un deepfake, cum ar fi o sincronizare defectuoasă a buzelor, mișcări neobișnuite, clipire în jurul marginii feței și deformarea detaliilor fine, cum ar fi părul, dinții sau reflexiile. Alte semne posibile ale unui deepfake includ părți de calitate inferioară ale aceluiași video și clipirea neregulată a ochilor.

Deși aceste semne pot ajuta la detectarea unui deepfake în prezent, pe măsură ce tehnologia deepfake se îmbunătățește, singura opțiune pentru detectarea fiabilă a deepfakes ar putea fi alte tipuri de inteligență artificială antrenate pentru a distinge falsurile de mass-media autentică.

Companiile de inteligență artificială, inclusiv multe dintre marile companii tehnologice, efectuează cercetări pentru a dezvolta metode de detectare a deepfakes. În luna decembrie a anului trecut, a fost lansată o provocare de detectare a deepfakes, susținută de trei giganți tehnologici: Amazon (AMZN ), Facebook și Microsoft. Echipe de cercetare din întreaga lume au lucrat la metode de detectare a deepfakes, concurând pentru a dezvolta cele mai bune metode de detectare. Alte grupuri de cercetători, cum ar fi un grup de cercetători combinați de la Google (GOOGL ) și Jigsaw, lucrează la un tip de “forensică a feței” care poate detecta videouri care au fost modificate, făcând seturile de date deschise și încurajând alți cercetători să dezvolte metode de detectare a deepfakes. Compania Dessa a lucrat la perfecționarea tehnicilor de detectare a deepfakes, încercând să se asigure că modelele de detectare funcționează pe videouri deepfake găsite pe internet, și nu doar pe seturile de antrenare și testare precompuse, cum ar fi setul de date deschis furnizat de Google.

Există și alte strategii care sunt investigate pentru a face față proliferării deepfakes. De exemplu, verificarea videourilor pentru concordanță cu alte surse de informații este o strategie. Căutări pot fi efectuate pentru videouri cu evenimente care ar putea fi filmate din unghiuri diferite, sau detalii de fundal ale videoului (cum ar fi condițiile meteo și locațiile) pot fi verificate pentru inconsecvențe. Dincolo de aceasta, un sistem de registru online Blockchain poate înregistra videouri atunci când sunt create inițial, păstrând sunetul și imaginile originale, astfel încât videourilor derivate să poată fi verificate întotdeauna pentru manipulare.

În cele din urmă, este important ca metodele fiabile de detectare a deepfakes să fie create și ca aceste metode de detectare să țină pasul cu noile avansuri în tehnologia deepfake. Deși este greu de știut exact ce efecte vor avea deepfakes, dacă nu există metode fiabile de detectare a deepfakes (și a altor tipuri de mass-media false), dezinformarea poate să se răspândească și să submineze încrederea oamenilor în societate și instituții.

Implicațiile Deepfakes

Care sunt pericolele de a permite deepfakes să prolifereze necontrolate?

Una dintre cele mai mari probleme pe care deepfakes le creează în prezent este pornografia non-consensuală, creată prin combinarea fețelor oamenilor cu videouri și imagini pornografice. Eticienii inteligenței artificiale se tem că deepfakes vor fi utilizate mai mult în crearea de revenge porn fals.

Companiile și specialiștii în securitate cibernetică și-au exprimat îngrijorarea cu privire la utilizarea deepfakes pentru a facilita escrocheriile, fraudele și șantajul. Se presupune că deepfake audio a fost utilizat pentru a convinge angajații unei companii să transfere bani către escroci.

Este posibil ca deepfakes să aibă efecte dăunătoare și dincolo de cele enumerate mai sus. Deepfakes pot submina încrederea oamenilor în mass-media în general și pot face dificilă distincția între știri reale și false. Dacă multe videouri de pe internet sunt false, devine mai ușor pentru guverne, companii și alte entități să pună la îndoială controverse legitime și practici neetice.

Când vine vorba de guverne, deepfakes pot reprezenta chiar și o amenințare pentru funcționarea democrației. Democrația necesită ca cetățenii să poată lua decizii informate cu privire la politicieni pe baza informațiilor de încredere. Dezinformarea subminează procesele democratice. De exemplu, președintele Gabon, Ali Bongo, a apărut într-un video care a încercat să-i liniștească pe cetățenii gabonezi. Președintele a fost presupus a fi bolnav pentru o perioadă lungă de timp, și apariția sa bruscă în un video fals a declanșat o încercare de lovitură de stat. Președintele Donald Trump a afirmat că o înregistrare audio a sa, care se lăuda cu prinderea femeilor de organele genitale, a fost falsă, deși a descris-o și ca “conversație de vestiar”. Prințul Andrew a afirmat, de asemenea, că o imagine furnizată de avocatul lui Emily Maitilis a fost falsă, deși avocatul a insistat asupra autenticității sale.

În cele din urmă, deși există utilizări legitime pentru tehnologia deepfake, există multe pericole potențiale care pot apărea din utilizarea abuzivă a acestei tehnologii. Din acest motiv, este extrem de important ca metodele de a determina autenticitatea mass-media să fie create și menținute.