Definiția Eluzivă a Termenului “Deepfake”

O nouă studiu convingător din Germania critică definiția termenului “deepfake” din Legea UE privind IA, considerând-o prea vagă, în special în contextul manipulării digitale a imaginilor. Autorii susțin că accentul legii pe conținutul care seamănă cu persoane sau evenimente reale, dar care ar putea apărea fals, lipsește de claritate.

Ei subliniază, de asemenea, că excepțiile legii pentru “editare standard” (adică modificări minore asistate de IA ale imaginilor) nu iau în considerare influența pervasivă a IA în aplicațiile consumatorilor și natura subiectivă a convențiilor artistice care preced adventul IA.

Legislația imprecisă în aceste chestiuni dă naștere la două riscuri cheie: un “efect de răcire”, în care sfera largă de interpretare a legii împiedică inovarea și adoptarea de noi sisteme; și un “efect de încălcare a legii”, în care legea este ignorată ca fiind prea largă sau irelevantă.

În orice caz, legile vagi transferă, în esență, responsabilitatea de a stabili definiții legale practice asupra deciziilor instanțelor din viitor – o abordare prudentă și aversă la risc a legislației.

Tehnologiile de manipulare a imaginilor bazate pe IA rămân notabil înainte de capacitatea legislației de a le aborda, pare. De exemplu, un exemplu remarcabil al elasticității crescânde a conceptului de post-procesare “automată” condusă de IA, observă studiul, este funcția “Scene Optimizer” din camerele Samsung recente, care poate înlocui imagini cu lună luate de utilizatori (un subiect dificil), cu o imagine “rafinată” condusă de IA:

În partea stângă sus, un exemplu din noua lucrare a unei imagini reale cu lună, lângă o versiune îmbunătățită de Samsung creată automat cu Scene Optimizer; Dreapta, ilustrarea oficială a procesului din spatele acestuia; în partea stângă jos, exemple de la utilizatorul Reddit u/ibreakphotos, care arată (stânga) o imagine intenționat estompată a lunii și (dreapta), reimaginarea Samsung a acestei imagini – chiar dacă poza sursă era o poză a unui monitor, și nu a lunii reale. Surse (în sensul acelor de ceasornic de la sus): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

În partea stângă jos a imaginii de mai sus, vedem două imagini cu lună. Cea din stânga este o poză făcută de un utilizator Reddit. Aici, imaginea a fost intenționat estompată și redusă de către utilizator.

La dreapta vedem o poză a aceleiași imagini degradate, făcută cu o cameră Samsung cu post-procesare condusă de IA. Camera a “îmbunătățit” automat obiectul recunoscut “lună”, chiar dacă nu era luna reală.

Studiul aduce critici mai profunde la funcția Best Take încorporată în smartphone-urile recente Google – o funcție controversată IA care editează împreună “cele mai bune” părți ale unei fotografii de grup, scannând multiple secunde ale unei secvențe de fotografie, astfel încât zâmbetele să fie mutate înainte sau înapoi în timp, după cum este necesar – și nimeni nu este arătat în mijlocul clipirii.

Studiul susține că acest tip de proces compozit are potențialul de a denatura evenimente:

‘[În]tr-un cadru tipic de fotografie de grup, un spectator mediu ar considera, probabil, fotografia rezultată ca autentică. Zâmbetul care a fost inserat a existat într-un interval de câteva secunde de la fotografia rămasă.

‘Pe de altă parte, intervalul de timp de 10 secunde al funcției “best take” este suficient pentru o schimbare de dispoziție. O persoană ar fi putut înceta să zâmbească, în timp ce restul grupului râde despre o glumă la adresa sa.

‘Ca urmare, presupunem că o astfel de fotografie de grup poate constitui, de fapt, un deep fake.’

Noua lucrare, intitulată Ce constituie un Deep Fake? Linia neclară între procesare legitimă și manipulare în conformitate cu Legea UE privind IA, provine de la doi cercetători de la Computational Law Lab de la Universitatea din Tübingen și Universitatea Saarland.

Vechi Trucuri

Manipularea timpului în fotografie este mult mai veche decât IA la nivel de consumator. Autorii noii lucrări observă existența unor tehnici mult mai vechi care pot fi considerate “neautentice”, cum ar fi concatenarea mai multor imagini secvențiale într-o fotografie cu gamă dinamică ridicată (HDR) sau o ‘fotografie îmbinată’ panoramică.

Într-adevăr, unele dintre cele mai vechi și mai amuzante falsuri fotografice au fost create în mod tradițional de elevi care alergau de la un capăt la celălalt al unei fotografii de grup școlar, înaintea traiectoriei camerelor panoramice speciale care erau folosite odinioară pentru fotografii de sport și școală – permițând elevului să apară de două ori în aceeași imagine:

Tentația de a păcăli camerele panoramice în timpul fotografiilor de grup a fost prea mare pentru mulți elevi, care erau dispuși să riște o ședință proastă la biroul directorului pentru a-și “clona” imaginea în fotografiile școlare. Sursă: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Dacă nu luați o poză în modul RAW, care, în esență, descarcă senzorul obiectiv al camerei într-un fișier foarte mare, fără niciun fel de interpretare, este probabil că fotografiile dvs. digitale nu sunt complet autentice. Sistemele de cameră aplică, în mod obișnuit, algoritmi de “îmbunătățire” precum îmbunătățirea imaginii și balansarea culorilor, în mod implicit – și au făcut acest lucru de la originile fotografiei digitale la nivel de consumator.

Autorii noii lucrări susțin că și aceste tipuri mai vechi de îmbunătățire a fotografiilor digitale nu reprezintă “realitatea”, deoarece astfel de metode sunt concepute pentru a face fotografiile mai plăcute, nu mai “reale”.

Studiul sugerează că Legea UE privind IA, chiar și cu amendamentele ulterioare, cum ar fi recitalurile 123-127, plasează toate ieșirile fotografice într-un cadru dovedit nepotrivit pentru contextul în care sunt produse fotografiile în zilele noastre, în contrast cu natura (nominal obiectivă) a fotografiilor de securitate sau a fotografiilor judiciare. Cele mai multe imagini abordate de Legea UE privind IA provin, probabil, din contexte în care producătorii și platformele online promovează activ interpretarea creativă a fotografiilor, inclusiv utilizarea IA.

Cercetătorii sugerează că fotografiile “nu au fost niciodată o reprezentare obiectivă a realității”. Considerații precum locația camerei, adâncimea câmpului ales și alegerile de iluminare contribuie la a face o fotografie profund subiectivă.

Lucrarea observă că sarcinile obișnuite de “curățare” – cum ar fi îndepărtarea prafului de pe senzor sau a liniilor electrice nedorite dintr-o scenă bine compusă – erau doar semiautomate înainte de apariția IA: utilizatorii trebuiau să selecteze manual o zonă sau să inițieze un proces pentru a-și atinge rezultatul dorit.

Astăzi, aceste operațiuni sunt adesea declanșate de prompturi textuale ale utilizatorului, mai ales în instrumente precum Photoshop. La nivelul consumatorilor, astfel de funcții sunt din ce în ce mai automate fără intrarea utilizatorului – un rezultat care pare a fi considerat de către producători și platforme ca fiind “în mod evident dorit”.

Sensul Diluat al Termenului “Deepfake”

O provocare centrală pentru legislația referitoare la imagini și videouri modificate sau generate de IA este ambiguitatea termenului “deepfake”, care și-a extins semnificativ sensul în ultimii doi ani.

Inițial, termenii se aplicau doar ieșirilor video de la sisteme bazate pe autoencoder precum DeepFaceLab și FaceSwap, ambele derivate din cod anonim postat pe Reddit la sfârșitul anului 2017.

Începând cu 2022, apariția Modelelor de Difuziune Latentă (LDM) precum Stable Diffusion și Flux, precum și sistemele de generare de videouri de IA precum Sora, a permis, de asemenea, schimbul de identitate și personalizarea, la o rezoluție îmbunătățită, versatilitate și fidelitate. Acum era posibil să se creeze modele de difuziune care pot reprezenta celebrități și politicieni. Deoarece termenul “deepfake” era deja un titlu care atrăgea atenția producătorilor de media, a fost extins pentru a acoperi și aceste sisteme.

Ulterior, atât în mass-media, cât și în literatura de specialitate, termenul a început să includă și impersonarea bazată pe text. În acest moment, sensul original al termenului “deepfake” era practic pierdut, în timp ce sensul său extins era în continuă evoluție și din ce în ce mai diluat.

Dar, deoarece cuvântul era atât de incendiar și de mobilizator, și devenise un punct de referință puternic politic și mediatic, s-a dovedit imposibil de abandonat. A atras cititori pe site-urile web, a atras fonduri pentru cercetători și a atras atenția politicienilor. Această ambiguitate lexicală este principala temă a noii cercetări.

După cum observă autorii, articolul 3(60) din Legea UE privind IA stabilește patru condiții care definesc un “deepfake”.

1: Luna Adevărată

În primul rând, conținutul trebuie să fie generat sau manipulat, adică creat de la zero folosind IA (generare) sau modificat din date existente (manipulare). Lucrarea subliniază dificultatea de a distinge între rezultatele “editării” acceptabile și deepfake-uri manipulatoare, având în vedere că fotografiile digitale nu sunt, în orice caz, reprezentări reale ale realității.

Lucrarea susține că o lună generată de Samsung este, probabil, autentică, deoarece luna este puțin probabil să se schimbe, și deoarece conținutul generat de IA, antrenat pe imagini lunare reale, este, probabil, să fie precis.

Cu toate acestea, autorii afirmă, de asemenea, că, deoarece sistemul Samsung a fost demonstrat că generează o imagine “îmbunătățită” a lunii într-un caz în care imaginea sursă nu era luna însăși, acest lucru ar fi considerat un “deepfake”.

Ar fi impracticabil să se întocmească o listă cuprinzătoare a cazurilor de utilizare diferite în jurul acestei funcționalități ad hoc. Prin urmare, sarcina definirii pare să treacă, din nou, asupra instanțelor.

2: TextFakes

În al doilea rând, conținutul trebuie să fie în forma de imagine, audio sau video. Conținutul text nu este considerat un deepfake în conformitate cu Legea UE privind IA. Acest lucru nu este acoperit în detaliu în noua lucrare, deși poate avea un impact semnificativ asupra eficacității deepfake-urilor vizuale (a se vedea mai jos).

3: Probleme din Lumea Reală

În al treilea rând, conținutul trebuie să seamănă cu persoane, obiecte, locuri, entități sau evenimente existente. Această condiție stabilește o legătură cu lumea reală, ceea ce înseamnă că imagini pur fabricate, chiar dacă sunt fotorealiste, nu ar califica ca deepfake. Recitalul 134 din Legea UE privind IA subliniază aspectul “seamănă” prin adăugarea cuvântului “în mod apreciabil” (o deferare aparentă a deciziilor legale ulterioare).

Autorii, citând lucrări anterioare, examinează dacă o față generată de IA trebuie să aparțină unei persoane reale sau dacă trebuie doar să semene suficient de mult cu o persoană reală, pentru a satisface această definiție.

De exemplu, cum se poate determina dacă o secvență de imagini fotorealiste care înfățișează politicianul Donald Trump are intenția de a-l impersona, dacă imaginile (sau textele atașate) nu menționează în mod specific numele lui? Recunoașterea facială? Chestionare ale utilizatorilor? O definiție a “simțului comun” a unui judecător?

Revenind la problema “TextFakes” (a se vedea mai sus), cuvintele alcătuiesc adesea o parte semnificativă a actului unui deepfake vizual. De exemplu, este posibil să se ia o imagine (nealterată) a “persoanei a” și să se spună, într-un titlu sau într-o postare pe rețelele sociale, că imaginea este a “persoanei b” (presupunând că cele două persoane se aseamănă).

Într-un astfel de caz, nu este nevoie de IA, iar rezultatul poate fi uimitor de eficient – dar constituie o astfel de abordare de joasă tehnologie un “deepfake”?

4: Retuș și Remodelare

În cele din urmă, conținutul trebuie să pară autentic sau adevărat pentru o persoană. Această condiție subliniază percepția a privitorilor umani. Conținutul care este recunoscut ca reprezentând o persoană sau un obiect real doar de către un algoritm nu ar fi considerat un deepfake.

Dintre toate condițiile din articolul 3(60), aceasta este cea care se referă cel mai mult la judecata ulterioară a unei instanțe, deoarece nu permite nicio interpretare prin mijloace tehnice sau mecanizate.

Există, în mod evident, unele dificultăți inerente în a ajunge la un consens cu privire la o astfel de stipulare subiectivă. Autorii observă, de exemplu, că diferite persoane, și diferite tipuri de persoane (cum ar fi copiii și adulții), pot fi dispuse în moduri diferite să creadă într-un anumit deepfake.

Autorii mai observă că capacitățile avansate de IA ale unor instrumente precum Photoshop provoacă definițiile tradiționale ale termenului “deepfake”. Deși aceste sisteme pot include garanții de bază împotriva conținutului controversat sau interzis, ele extind dramatic conceptul de “retuș”. Utilizatorii pot adăuga sau înlătura obiecte într-un mod foarte convingător și fotorealist, atingând un nivel de autenticitate profesional care redefinesc granițele manipulării imaginilor.

Autorii afirmă:

‘Susținem că definiția actuală a deepfake-urilor în Legea UE privind IA și obligațiile corespunzătoare nu sunt suficient de specificate pentru a aborda provocările ridicate de deepfake-uri. Prin analiza ciclului de viață al unei fotografii digitale de la senzorul camerei la funcțiile de editare digitală, constatăm că:’

‘(1.) Deepfake-urile sunt slab definite în Legea UE privind IA. Definiția lasă prea mult spațiu pentru ceea ce constituie un deepfake.’

‘(2.) Nu este clar cum funcțiile de editare, cum ar fi funcția “best take” a lui Google, pot fi considerate excepții de la obligațiile de transparență.’

‘(3.) Excepția pentru imagini editate în mod semnificativ ridică întrebări cu privire la ceea ce constituie editarea semnificativă a conținutului și dacă această editare trebuie să fie perceptibilă pentru o persoană.’

Luând Excepția

Legea UE privind IA conține excepții pe care autorii le consideră foarte permisive. Articolul 50(2), afirmă autorii, oferă o excepție în cazurile în care majoritatea unei imagini sursă originale nu este modificată. Autorii observă:

‘Ce poate fi considerat conținut în sensul articolului 50(2) în cazul audio digital, imaginilor și videourilor? De exemplu, în cazul imaginilor, trebuie să considerăm spațiul pixelilor sau spațiul vizibil perceptibil de către oameni? Manipulările substanțiale în spațiul pixelilor nu ar putea schimba percepția umană, iar, pe de altă parte, perturbațiile mici în spațiul pixelilor ar putea schimba percepția în mod dramatic.’

Cercetătorii oferă exemplul adăugării unei arme de foc la o poză cu o persoană care arată către cineva. Prin adăugarea armei, se modifică doar 5% din imagine; cu toate acestea, semnificația semantică a părții modificate este notabilă. Prin urmare, pare că această excepție nu ține cont de nicio “înțelegere a bunului simț” a efectului pe care o detaliu mică îl poate avea asupra semnificației generale a unei imagini.

Secțiunea 50(2) permite, de asemenea, excepții pentru o “funcție de asistență pentru editare standard”. Deoarece Legea UE privind IA nu definește ceea ce înseamnă “editare standard”, chiar și funcții de post-procesare atât de extreme precum “Best Take” a lui Google par a fi protejate de această excepție, observă autorii.

Concluzie

Intenția declarată a noii lucrări este de a încuraja studiul interdisciplinar privind reglementarea deepfake-urilor și de a servi ca punct de plecare pentru noi dialoguri între oameni de știință și cercetători în domeniul juridic.

Cu toate acestea, lucrarea în sine cade în tautologie în mai multe puncte: utilizează frecvent termenul “deepfake” ca și cum sensul său ar fi evident, în timp ce critică Legea UE privind IA pentru că nu definește ceea ce constituie, de fapt, un deepfake.

Publicat pentru prima dată luni, 16 decembrie 2024