Propunerile de Reglementare a Deepfake-urilor din Europa și Regatul Unit sunt Surprinzător de Limitate

Analiză Pentru activiștii care speră că 2022 ar putea fi anul în care imaginile create cu tehnologia deepfake vor cădea sub incidența unor legi mai stricte, indicatorii de până acum sunt nefavorabili.

În ultima joi, Parlamentul European a ratificat amendamente la Actul privind Serviciile Digitale (DSA, care urmează să intre în vigoare în 2023), în ceea ce privește difuzarea de deepfake-uri. Modificările abordează deepfake-urile în două secțiuni, ambele legate direct de publicitatea online: amendamentul 1709 referitor la articolul 30 și o amendament legat de articolul 63.

Primul propune un articol complet nou, 30a, intitulat Deepfake-uri, care prevede:

‘În cazul în care o platformă online foarte mare devine conștientă de faptul că un conținut este o imagine, audio sau video generat sau manipulat care seamănă în mod semnificativ cu persoane, obiecte, locuri sau alte entități sau evenimente existente și pare în mod fals autentic sau adevărat (deepfake), furnizorul trebuie să eticheteze conținutul într-un mod care informează că conținutul este inautentic și care este clar vizibil pentru destinatarul serviciilor.’

Al doilea adaugă text la articolul 63, care se ocupă în principal de creșterea transparenței platformelor publicitare mari. Textul relevant prevede:

‘În plus, platformele online foarte mari ar trebui să eticheteze orice videoclipuri, audio sau alte fișiere cunoscute ca deepfake-uri.’

În esență, legislația pare a se pregăti pentru practica în creștere a “deepfake-urilor legitime”, unde permisiunea a fost acordată și drepturile au fost securizate pentru schimbul de fețe în materiale promoționale sau publicitare – cum ar fi utilizarea licențiată de către compania de telecomunicații ruse Telefon a identității lui Bruce Willis într-o campanie publicitară recentă.

Rezervă în a Legifera

DSA, până în acest moment, nu pare a aborda preocupările activiștilor cu privire la utilizarea tehnologiei de deepfake, așa cum este folosită cel mai frecvent – pentru a recastiga videoclipuri pornografice. Nici nu abordează amploarea, dacă există, în care utilizarea viitoare a deepfake-urilor în filme și programe de televiziune va trebui să fie dezvăluită spectatorilor în același mod în care deepfake-urile din publicitate vor fi, cel puțin în UE, din 2023.

Procesul de ratificare pentru DSA trece acum la negocierea cu statele membre ale UE, împreună cu scopul mai larg al Actului privind Piețele Digitale (DMA).

Raportul Europol din decembrie 2020 referitor la Utilizările și Abuzurile Malefice ale Inteligenței Artificiale a afirmat că ar fi o greșeală pentru UE să abordeze tehnologii de deepfake specifice (cum ar fi DeepFaceLive), ceea ce ar putea duce la legi ale UE care sunt mereu în urmărire cu cea mai recentă tehnologie sau metodă.

Raportul a declarat:

‘În special, aceste politici ar trebui să fie agnostice din punct de vedere tehnologic, pentru a fi eficiente pe termen lung și pentru a evita necesitatea de a le revizui și înlocui în mod regulat, pe măsură ce tehnologia din spatele creării și abuzului de deepfake-uri evoluează. ‘

‘Cu toate acestea, astfel de măsuri ar trebui să evite și obstrucționarea aplicațiilor pozitive ale rețelelor generative adverse (GANs).’

Comentariul final din citatul de mai sus, referitor la Rețelele Generative Adversative (GANs), caracterizează în general ezitarea europeană și nord-americană de a aplica legi care ar putea împiedica un sector de cercetare emergent al IA, care este deja perceput ca rămânând în urmă în Asia (ale cărei națiuni mai didactice au fost capabile să accelereze legislația referitoare la deepfake-uri).

De exemplu, un raport din 2018 al Comitetului Select pentru Inteligență Artificială din Camera Lorzilor din Regatul Unit subliniază de mai multe ori riscul de a permite timiditatea să împiedice dezvoltarea IA în țară, exemplificat în titlul său: IA în Regatul Unit: pregătit, dispus și capabil?. Ultimul aprilie, Marea Britanie a devenit și prima țară care a autorizat desfășurarea de vehicule autonome pe autostrăzi.

Statele Unite nu sunt mai puțin entuziasmate; în SUA, Institutul Brookings a susținut necesitatea unei legislații crescute pentru IA în Statele Unite, criticând legislatorii pentru poziția lor de “așteaptă și vezi” față de implicațiile tehnologiilor de învățare automată

În afara abordării slabe a DSA în ceea ce privește problemele sociale (mai degrabă decât politice) legate de deepfake-uri, cadrul de reglementare propus de UE pentru IA, lansat în aprilie 2021, a fost criticat pentru evitarea subiectului.

Reglementarea Insuficientă a Deepfake-urilor în Regatul Unit

Ca o dezamăgire suplimentară pentru activiștii împotriva deepfake-urilor, cum ar fi autoarea Helen Mort, care a făcut campanie pentru o nouă legislație în Regatul Unit în 2021, după ce a fost reprezentată fără acord în videoclipuri pornografice create cu deepfake, un raport publicat astăzi de Comitetul pentru Cultură Digitală, Media și Sport din Parlamentul Regatului Unit critică guvernul britanic pentru că nu a abordat deepfake-urile în Proiectul de Lege privind Siguranța Online.

Invocând răspunsul legal curent al proiectului de lege împotriva abuzului de deepfake ca fiind “neclar și impractic”, raportul sugerează că legislația propusă nu face nimic pentru a aborda statutul “legal, dar dăunător” al tehnicilor de manipulare a imaginilor și videoclipurilor asistate de IA:

‘[Noi] recomandăm ca Guvernul să abordeze proactiv tipurile de conținut care sunt tehnic legale, cum ar fi părțile insidioase ale secvențelor de abuz asupra copiilor, cum ar fi “breadcrumbing” și tipurile de violență online împotriva femeilor și fetelor, cum ar fi “nudificarea” tehnologică a femeilor și pornografia cu deepfake, prin aducerea lor în sfera de aplicare a legislației primare sau a tipurilor de conținut dăunător acoperite de îndatoririle de îngrijire.’

Legea aplicabilă curentă în Regatul Unit se limitează la difuzarea de “imagini reale”, cum ar fi cazurile de revenge porn, unde, de exemplu, materialul explicit privat și confidențial este distribuit public de un fost partener. Dacă un persecutor creează și distribuie material deepfake care suprapune identitatea “țintei” sale în conținut pornografic, el poate fi urmărit penal numai dacă îi hărțuiește direct pe țintă, îndreptând materialul către aceasta, sau în baza legislației legate de drepturi de autor.

În primul caz, ușurința cu care noul conținut deepfake câștigă popularitate și vizualizări aproape inevitabil înseamnă că victima va fi informată de prieteni sau de terți neimplicați, mai degrabă decât de persoana care a creat deepfake-ul, permițând astfel ca viralitatea unor astfel de materiale să protejeze creatorul, al cărui lucru ajunge totuși la țintă.

În al doilea caz, urmărirea penală ar fi probabil fezabilă numai în cazul în care un videoclip pornografic nedoctat (în care identitatea victimei este ulterior suprapusă) este produs profesional și protejat în mod legitim sub dreptul de autor din Regatul Unit (chiar dacă un astfel de videoclip poate fi obținut gratuit din orice jurisdicție legală din lume). Un videoclip “amator” din orice jurisdicție lipsește de o clară poziție a dreptului de autor, iar un videoclip special creat de către cel care a făcut deepfake-ul pentru a suprapune identitatea victimei este (ironic) protejat de legile dreptului de autor, atâta timp cât respectă și alte legi.

În Urma Evenimentelor

În decembrie 2021, Comisia Juridică a Regatului Unit a propus să extindă legile privind discursul de ură pentru a acoperi ostilitatea bazată pe sex, dar nu a propus includerea deepfake-urilor în această categorie, în ciuda exemplelor multiple de utilizare a tehnologiei împotriva femeilor politiciene și activistelor din întreaga lume (în special în India).

În martie 2021, National Law Review din Illinois a criticat cadrul legal al Regatului Unit ca fiind “în totalitate inadecvat în prezent pentru a face față deepfake-urilor” și lipsit de mecanisme legale de bază care protejează o persoană de asemănare.

Legile Deepfake-urilor în Statele Unite

În contrast, Statele Unite protejează într-o oarecare măsură “Dreptul la Publicitate” al cetățenilor săi, deși nu la nivel federal (în prezent, astfel de statute există în aproximativ jumătate din statele americane, cu mecanisme legale variate).

Deși este o îmbunătățire a performanței Regatului Unit în ceea ce privește legislația deepfake-urilor, Statele Unite pot doar să se laude cu o acoperire sporadică, pe stat, și pare hotărâtă să abordeze potențialul de manipulare politică al tehnologiei înainte de a se ocupa, în cele din urmă, de impactul asupra persoanelor private.

În 2019, statul Texas a interzis crearea sau răspândirea de deepfake-uri politice, cu Legea Senatului Texas 751 (SB751), omitând orice declarație despre pornografia cu deepfake. În același an, statul Virginia a adăugat o amendament la o lege existentă referitoare la Distribuirea sau vânzarea ilegală de imagini ale altor persoane, adăugând termenul ‘imagini videografice sau statice fals create’.

În 2020, statul California a adoptat Legea Adunării Californiei 602 (AB 602) care interzice generarea sau difuzarea de pornografia cu deepfake. Legea nu are o clauză de expirare, dar are o perioadă de prescripție de trei ani și este însoțită de o clauză separată referitoare la deepfake-urile politice.

La sfârșitul anului 2020, statul New York a adoptat Legea Senatului S5959D, care nu numai că interzice crearea și republicarea de pornografia cu deepfake, dar protejează și dreptul la publicitate al unui utilizator în ceea ce privește o asemănare generată de calculator prin deepfake, CGI sau orice altă metodă, chiar și după moarte (dacă persoana în cauză era rezidentă a statului New York în momentul decesului).

În cele din urmă, statul Maryland a modificat legile sale referitoare la pornografia infantilă pentru a include și a criminaliza utilizarea de deepfake-uri, fără a aborda impactul asupra țintelor adulte.

Așteptând “Poarta Deepfake-urilor”

Istoria indică faptul că daunele pe care noile tehnologii le pot provoca trebuie să devină personale pentru o națiune pentru a accelera răspunsul legislativ. Moartea recentă a unei adolescente din Egipt, care s-a sinucis după ce a fost șantajată cu imagini false create cu deepfake, a primit o atenție limitată în mass-media occidentală*, în timp ce dezvăluirile despre furtul a 35 de milioane de dolari în Emiratele Arabe Unite, care au apărut în 2021, reprezintă și ele un “eveniment îndepărtat” care nu va accelera Senatul sau nu va aprinde un foc sub cele 45 de state care nu au adoptat încă legislația referitoare la deepfake-uri.

Dacă Statele Unite adoptă o abordare mai unitară în jurul abuzului de tehnologie de deepfake, o legislație cuprinzătoare va afecta probabil aspectele de guvernanță ale infrastructurii de telecomunicații și stocării datelor, ducând la schimbări rapide de politici impuse asupra partenerilor de afaceri din întreaga lume. Faptul că adoptarea de către Europa a Regulamentului General privind Protecția Datelor (GDPR) nu a “trecut” peste politica de colectare și stocare a datelor din America de Nord nu înseamnă că UE nu ar putea obține o poziție avantajoasă asupra țărilor mai puțin conforme cu care face comerț, dacă ar adopta o poziție legislativă mai fermă cu privire la generarea, stocarea și păstrarea pornografiei cu deepfake.

Dar ceva trebuie să se întâmple pe “pământul zero” mai întâi, într-una dintre aceste țări de frunte; și încă așteptăm: o captură masivă de conținut ilegal pentru copii de către autorități; o lovitură majoră utilizând tehnologii de deepfake audio și/sau video pentru a înșela un director al unei companii americane și a-i face să direcționeze o sumă foarte mare de bani; sau un echivalent american al utilizării în creștere a deepfake-urilor pentru a victimiza femei în țări mai patriarhale (dacă, într-adevăr, cultura americană este cu adevărat pregătită să reflecte aceste evenimente, ceea ce este discutabil). Acestea sunt lucruri greu de dorit și bune de evitat prin orice altă metodă decât a-și ascunde capul în nisip sau a aștepta un eveniment “incendiar”.

Una dintre problemele centrale, pe care UE o ocolește în prezent, direcționându-și puterea legislativă către companiile de publicitate care doresc să-și promoveze deepfake-urile legitime, este că deepfake-urile rămân greu de detectat algoritmic; majoritatea metodelor de detectare care apar lunar pe arXiv depind de watermarking, verificarea bazată pe blockchain sau de schimbarea întregii infrastructuri pe care o folosim în prezent pentru a consuma liber videoclipuri – soluții care implică o revizuire radicală a noțiunii de videoclip ca proxy pentru “adevăr”. Restul sunt depășite în mod regulat de progresele continue în depozitele de deepfake deschise.

O altă problemă este că națiunile occidentale majore au dreptate, într-un anumit sens, să nu ofere o reacție impulsivă la o singură problemă dintr-un pachet de tehnologii IA noi, multe dintre acestea promițând beneficii imense pentru societate și industrie, și multe dintre acestea putând fi afectate negativ într-un fel oarecare dacă o interzicere și reglementare precipitată a sistemelor de sinteză a imaginilor ar începe în serios, ca răspuns la un eveniment major și la scandalul ulterior.

Cu toate acestea, ar fi o idee bună să accelerăm mersul lent și adesea fără direcție pe care îl facem către reglementarea deepfake-urilor și să întâmpinăm problemele potențiale într-un teren mijlociu, pe termeni proprii, în loc să fim forțați de evenimente ulterioare să adoptăm un răspuns mai puțin bine gândit.

* Presupușii autori sunt acuzați de șantaj; nu există o lege egipteană care să acopere pornografia cu deepfake.

Publicat pentru prima dată pe 24 ianuarie 2022.