Proposte di regolamentazione europee e del Regno Unito per i deepfake sono sorprendentemente limitate

Analisi Per i sostenitori che speravano che il 2022 potesse essere l’anno in cui le immagini deepfake cadessero within una più stretta giurisdizione legale, i primi indicatori sono poco promettenti.

Lo scorso giovedì il Parlamento europeo ha ratificato emendamenti all’Atto sui servizi digitali (DSA, che entrerà in vigore nel 2023), riguardo alla diffusione di deepfake. Le modifiche affrontano i deepfake in due sezioni, ciascuna direttamente correlata alla pubblicità online: emendamento 1709 relativo all’articolo 30 e un emendamento correlato all’articolo 63.

Il primo propone un intero nuovo articolo 30a, intitolato Deep fake, che recita:

‘Quando una grande piattaforma online si rende conto che un contenuto è un’immagine, un’audio o un video generato o manipolato che assomiglia notevolmente a persone, oggetti, luoghi o altre entità o eventi esistenti e appare falsamente autentico o veritiero (deepfake) al destinatario del servizio, il fornitore deve etichettare il contenuto in modo da informare che il contenuto non è autentico e che è chiaramente visibile per il destinatario del servizio.’

Il secondo aggiunge del testo all’articolo 63 esistente, che è principalmente preoccupato per aumentare la trasparenza delle grandi piattaforme pubblicitarie. Il testo pertinente recita:

‘Inoltre, le grandi piattaforme online dovrebbero etichettare eventuali video, audio o file deepfake noti.’

In effetti, la legislazione sembra prepararsi alla crescente pratica di “deepfake legittimi”, dove è stato concesso il permesso e sono stati garantiti i diritti per lo scambio di volti in materiale promozionale o pubblicitario – come l’uso autorizzato da parte della società di telecomunicazioni russa Telefon dell’identità di Bruce Willis in una recente campagna pubblicitaria.

Esitazione a legiferare

Il DSA, finora, non sembra affrontare le preoccupazioni dei sostenitori sull’uso di tecniche deepfake come sono più comunemente utilizzate – per ricastare video pornografici. Né affronta la portata, se del caso, in cui l’uso imminente di deepfake nei film e nella televisione dovrà essere dichiarato ai telespettatori nello stesso modo in cui i deepfake nella pubblicità saranno, almeno nell’UE, dal 2023.

Il processo di ratifica del DSA passa ora alla negoziazione con gli stati membri dell’UE, insieme all’ambito più ampio dell’Atto sui mercati digitali (DMA).

Il rapporto di Europol del dicembre 2020 sosteneva che sarebbe stato un errore per l’UE affrontare specifiche tecnologie deepfake attuali (come DeepFaceLive), che potrebbe portare alla legge dell’UE a giocare costantemente a rimpiattino con l’ultimo framework o metodo.

Il rapporto affermava:

‘In particolare, tali politiche dovrebbero essere agnostiche rispetto alla tecnologia per essere efficaci nel lungo termine e per evitare di doverle rivedere e sostituire regolarmente mentre la tecnologia alla base della creazione e dell’abuso di deepfake evolve. ‘

‘Tuttavia, tali misure dovrebbero anche evitare di ostacolare le applicazioni positive delle GAN.’

Il commento conclusivo nella citazione sopra, riguardante le Reti avversarie generative (GAN) in generale, caratterizza la riluttanza europea e nordamericana ad applicare leggi che potrebbero intralciare un settore di ricerca AI emergente già percepito come in ritardo rispetto all’Asia (le cui nazioni più didattiche sono state in grado di accelerare la legislazione sui deepfake).

Ad esempio, un rapporto del 2018 del Comitato selezionato per l’intelligenza artificiale alla Camera dei lord sottolinea più volte il rischio di permettere alla timidezza di frenare lo sviluppo dell’AI nel paese, esemplificato nel suo titolo: AI nel Regno Unito: pronto, disposto e in grado?. Lo scorso aprile, la Gran Bretagna è anche diventata il primo paese a autorizzare il dispiegamento di auto a guida autonoma sulle autostrade.

L’America non è meno avida; negli Stati Uniti, l’Istituto Brookings ha sottolineato la necessità di una maggiore legislazione per l’AI negli Stati Uniti, criticando i legislatori per il loro atteggiamento “aspetta e osserva” sulle conseguenze delle tecnologie di apprendimento automatico

Oltre all’approccio insipido del DSA nel rispondere alle preoccupazioni sociali (piuttosto che politiche) intorno ai deepfake, il quadro normativo proposto dell’UE per l’AI, pubblicato nell’aprile 2021, è stato criticato per la sua stessa evasione dell’argomento.

Poca regolamentazione dei deepfake nel Regno Unito

Come ulteriore delusione per i sostenitori anti-deepfake come l’autrice Helen Mort, che ha fatto campagna per una nuova legislazione nel Regno Unito nel 2021 dopo essere stata raffigurata senza consenso in video pornografici deepfake, un rapporto pubblicato oggi dal Comitato per la cultura, i media e lo sport del Parlamento del Regno Unito critica il governo britannico per non aver affrontato i deepfake nel disegno di legge sulla sicurezza online.

Citando il disegno di legge attuale come rimedio legale contro l’abuso dei deepfake come “non chiaro e impraticabile”, il rapporto suggerisce che la legislazione proposta non fa nulla per affrontare lo status di “legale ma dannoso” delle tecniche di manipolazione di video e immagini assistite dall’AI:

‘[Noi] raccomandiamo che il governo affronti proattivamente i tipi di contenuto che sono tecnicamente legali, come le parti insidiose delle sequenze di abuso di minori come il breadcrumbing e i tipi di violenza online contro le donne e le ragazze come la “nudificazione” tecnologicamente abilitata delle donne e la pornografia deepfake, portandoli nell’ambito della legislazione primaria o come tipi di contenuto dannoso coperti dagli obblighi di cura.’

L’attuale legge applicabile nel Regno Unito è limitata alla diffusione di “vere” immagini, come i casi di revenge porn, dove, ad esempio, materiale esplicito confidenziale e privato è condiviso pubblicamente da un ex partner. Se un persecutore crea e pubblica materiale deepfake che sovrappone l’identità della sua “vittima” in contenuti pornografici, può essere perseguito solo se si rivolge direttamente alla vittima con il materiale, o ai sensi della legislazione relativa al diritto d’autore.

Nel primo caso, la facilità con cui il nuovo contenuto deepfake raccoglie trazione e spettatori significa quasi inevitabilmente che la vittima sarà informata da amici preoccupati o da terze parti non correlate, piuttosto che dalla persona che l’ha deepfaked, consentendo alla viralità di tale materiale di proteggere il deepfaker, il cui lavoro raggiunge comunque la vittima.

Nel secondo caso, la persecuzione sarebbe probabilmente fattibile solo se un video pornografico non modificato (in cui l’identità della vittima è successivamente sovrapposta) è stato prodotto professionalmente e protetto legittimamente nel dominio del diritto d’autore del Regno Unito (anche se un video adatto potrebbe essere ottenuto gratuitamente da qualsiasi giurisdizione legale nel mondo). Un video “amatoriale” da qualsiasi giurisdizione manca di uno status di diritto d’autore chiaro, e un video personalizzato che il deepfaker ha girato espressamente per sovrapporre la vittima è (ironicamente) protetto dal diritto d’autore, a condizione che sia conforme ad altre leggi.

Dietro la curva

Nel dicembre 2021 la Commissione giuridica del Regno Unito ha proposto di estendere le leggi sull’odio a coprire l’ostilità basata sul sesso, ma non ha proposto l’inclusione dei deepfake in questa categoria, nonostante numerosi esempi di tale utilizzo in tutto il mondo (soprattutto in India) della tecnologia utilizzata contro le donne politiche e le attiviste.

Nel marzo 2021 la National Law Review con sede nell’Illinois ha criticato la cornice giuridica del Regno Unito come “completamente inadeguata attualmente per affrontare i deepfake”, e anche carente di meccanismi giuridici di base che proteggano la somiglianza di una persona.

Leggi sui deepfake negli Stati Uniti

A differenza di ciò, gli Stati Uniti proteggono in qualche misura il “diritto alla pubblicità” dei propri cittadini, anche se non a livello federale (al momento, tali statuti esistono in circa la metà degli stati americani, con meccanismi giuridici ampiamente variabili).

Sebbene sia un miglioramento rispetto alla performance del Regno Unito nella legislazione sui deepfake, gli Stati Uniti possono solo vantare una copertura sporadica per stato, e sembrano determinati ad affrontare la tecnologia del potenziale manipolazione politica prima di occuparsi dell’impatto su individui privati.

Nel 2019 lo Stato del Texas ha vietato la creazione o la diffusione di deepfake politici, con il disegno di legge del Senato del Texas 751 (SB751), omettendo qualsiasi dichiarazione sui deepfake pornografici. Nel 2019, lo Stato della Virginia ha aggiunto un emendamento a una legge esistente relativa alla distribuzione o vendita illecita di immagini di un’altra persona, appendendo il termine ampio ‘immagine o video falsamente creato’.

Nel 2020 lo Stato della California ha promulgato il California Assembly Bill 602 (AB 602) che proibisce la generazione o la diffusione di deepfake pornografici. Il disegno di legge non ha una clausola di scadenza, ma ha un termine di prescrizione di tre anni ed è accompagnato da una clausola separata che copre i deepfake politici.

Alla fine del 2020 lo Stato di New York ha approvato il disegno di legge del Senato S5959D, che non solo vieta la creazione e la ripubblicazione di deepfake pornografici, ma protegge attivamente il diritto alla pubblicità di un utente in relazione a una somiglianza generata dal computer attraverso deepfake, CGI o qualsiasi altro mezzo, anche dopo la morte (se la persona in questione era residente a New York al momento della sua morte).

Infine, lo Stato del Maryland ha modificato le sue leggi sui minori per includere e criminalizzare l’uso dei deepfake, anche se non affronta l’impatto dei deepfake sui bersagli adulti.

Aspettando ‘DeepfakeGate’

La storia indica che il danno che le nuove tecnologie possono causare deve diventare personale per una nazione per accelerare la sua risposta legislativa. La recente morte di una ragazza adolescente in Egitto che era stata presumibilmente ricattata con immagini deepfake di se stessa ha ricevuto una copertura limitata nei media occidentali*, mentre le rivelazioni su un furto di 35 milioni di dollari negli Emirati Arabi Uniti, che sono emerse nel 2021, rappresentano anch’esse un “evento lontano” che non è probabile accelererà il Senato o accenderà un fuoco sotto i 45 stati rimanenti che non hanno ancora promulgato leggi sui deepfake.

Se gli Stati Uniti adottano un fronte più unito intorno all’abuso della tecnologia deepfake, una legislazione diffusa probabilmente influenzerà l’aspetto di governance delle telecomunicazioni e dell’infrastruttura e archiviazione dei dati, portando a rapidi cambiamenti politici imposti ai propri partner commerciali in tutto il mondo. Il fatto che l’adozione dell’UE del GDPR non abbia alla fine “attraversato” la politica di raccolta e conservazione dei dati in Nord America non significa che l’UE non potrebbe ottenere un vantaggio sulle nazioni meno conformi con cui commercia – se mai assumesse una posizione legislativa più impegnata sui deepfake.

Ma qualcosa deve accadere a “terra zero” per prima, in uno di questi gruppi di paesi leader; e stiamo ancora aspettando: un grande sequestro di CSAM da parte delle autorità; un grande furto che utilizza tecnologie deepfake audio e/o video per ingannare un americano direttore di società a dirottare una grande quantità di denaro; o un equivalente americano dell’uso crescente di deepfake per vittimizzare le donne in paesi più patriarcali (se, in effetti, la cultura americana è realmente attrezzata per riflettere questi eventi, il che è discutibile). Queste sono cose difficili da desiderare e buone da evitare con qualsiasi altro metodo che non sia quello di nascondere la testa nella sabbia o aspettare un evento “incendiario”.

Un problema centrale, che l’UE sta attualmente evitando dirigendo la sua potenza legislativa alle società di pubblicità che vogliono promuovere i loro deepfake legittimi e intelligenti, è che i deepfake rimangono difficili da rilevare algoritmicamente; la maggior parte dei metodi di rilevamento che appaiono su arXiv ogni mese dipendono dal watermarking, dalla verifica basata su blockchain o in qualche modo cambiando l’intera infrastruttura che attualmente utilizziamo per consumare gratuitamente i video – soluzioni che implicano una revisione radicale della nozione di video come proxy per “verità”. Il resto è regolarmente superato dai progressi continui nei repository open source deepfake più popolari.

Un ulteriore problema è che le principali nazioni occidentali hanno ragione, in un certo senso, a non offrire una reazione impulsiva a un singolo filo problematico in una serie di nuove tecnologie AI, molte delle quali promettono enormi benefici per la società e l’industria, e molte delle quali potrebbero essere danneggiate in qualche modo se una proibizione e una regolamentazione affrettata dei sistemi di sintesi di immagini iniziassero seriamente, in risposta a un evento importante e al successivo clamore.

Tuttavia, potrebbe essere una buona idea accelerare il lento e a volte senza scopo cammino che stiamo facendo verso la regolamentazione dei deepfake, e affrontare i problemi potenziali a metà strada, e con i nostri termini, invece di essere costretti da eventi successivi in una risposta meno considerata.

* Gli presunti autori sono stati incriminati per ricatto; non esiste una legge egiziana che copra la pornografia deepfake.

Pubblicato per la prima volta il 24 gennaio 2022.