Propostas de Regulação de Deepfakes na Europa e no Reino Unido São Surpreendentemente Limitadas

Análise Para os defensores que esperam que 2022 possa ser o ano em que as imagens deepfaked caiam dentro de uma perspectiva legal mais estrita, os primeiros indicadores são desanimadores.

Na última quinta-feira, o Parlamento Europeu ratificou emendas ao Ato de Serviços Digitais (DSA, que deve entrar em vigor em 2023), no que diz respeito à disseminação de deepfakes. As modificações abordam deepfakes em duas seções, cada uma diretamente relacionada à publicidade online: emenda 1709 relativa ao Artigo 30, e uma emenda relacionada ao artigo 63.

A primeira propõe um artigo completamente novo 30a, intitulado Deep fakes, que diz:

‘Quando uma grande plataforma online tomar conhecimento de que um conteúdo é uma imagem, áudio ou vídeo gerado ou manipulado que se assemelha a pessoas, objetos, lugares ou outros entidades ou eventos existentes e falsamente parece autêntico ou verídico para uma pessoa (deepfakes), o provedor deve rotular o conteúdo de forma que informe que o conteúdo é inautêntico e que é claramente visível para o destinatário dos serviços.’

A segunda acrescenta texto ao artigo existente 63, que se preocupa principalmente em aumentar a transparência das grandes plataformas de publicidade. O texto pertinente diz:

‘Além disso, as grandes plataformas online devem rotular qualquer vídeo, áudio ou arquivo de deepfake conhecido.’

Efetivamente, a legislação parece estar se preparando para a prática crescente de “deepfakes legítimos”, onde permissão foi concedida e direitos garantidos para troca de faces em materiais promocionais ou publicitários – como o uso licenciado pela empresa de telecomunicações russa Telefon da identidade de Bruce Willis em uma campanha publicitária recente.

Hesitação para Legislar

O DSA, até agora, não parece abordar as preocupações dos defensores sobre o uso de técnicas de deepfake como são mais comumente usadas – para recriar vídeos pornográficos. Nem aborda a extensão, se houver, com que o uso futuro de deepfakes em filmes e televisão precisará ser divulgado aos espectadores da mesma forma que os deepfakes em publicidade serão, pelo menos na UE, a partir de 2023.

O processo de ratificação do DSA agora passa para a negociação com os estados-membros da UE, juntamente com o escopo mais amplo do Ato de Mercados Digitais (DMA).

O relatório de dezembro de 2020 da Europol intitulado Usos e Abusos Maliciosos de Inteligência Artificial afirmou que seria um erro para a UE abordar tecnologias de deepfake específicas atuais (como DeepFaceLive), o que poderia levar a que a lei da UE esteja constantemente atrás das últimas tecnologias ou métodos.

O relatório afirmou:

‘Em particular, essas políticas devem ser tecnologicamente agnósticas para serem eficazes a longo prazo e evitar ter que revisar e substituir essas regularmente à medida que a tecnologia por trás da criação e do abuso de deepfakes evolui.

‘No entanto, essas medidas também devem evitar obstruir as aplicações positivas de GANs.’

O comentário final na citação acima, referente a Redes Adversárias Generativas (GANs), caracteriza amplamente a hesitação europeia e norte-americana em aplicar leis que possam prejudicar um setor de pesquisa de IA emergente, que já é percebido como atrasado em relação à Ásia (cuja nação mais didática foi capaz de acelerar a legislação sobre deepfakes).

Por exemplo, um relatório de 2018 do Comitê Seletivo de Inteligência Artificial da Câmara dos Lordes do Reino Unido enfatiza várias vezes o risco de permitir que a timidez atrase o desenvolvimento de IA no país, exemplificado em seu título: IA no Reino Unido: pronto, disposto e capaz?. No último abril, a Grã-Bretanha também se tornou o primeiro país a autorizar o uso de carros autônomos em rodovias.

A América não é menos ávida; nos EUA, a Instituição Brookings instou a necessidade de mais legislação para IA nos EUA, criticando os legisladores por sua postura de “esperar e ver” sobre as implicações das tecnologias de aprendizado de máquina

Além da abordagem insípida do DSA em relação às preocupações sociais (em vez de políticas) em torno de deepfakes, o quadro regulatório proposto da UE para IA, lançado em abril de 2021, foi criticado por sua própria evasão do tópico.

Escassa Regulação de Deepfakes no Reino Unido

Como uma desilusão adicional para os defensores anti-deepfake, como a autora Helen Mort, que fez campanha por nova legislação no Reino Unido em 2021 após ser retratada sem consentimento em vídeos pornográficos deepfaked, um relatório publicado hoje pelo Comitê de Cultura Digital, Mídia e Esporte do Parlamento do Reino Unido criticou o governo britânico por não abordar os deepfakes no Projeto de Lei de Segurança Online.

Citando o projeto de lei atual como “incerto e impraticável” contra o abuso de deepfakes, o relatório sugere que a legislação proposta não faz nada para abordar o status de “legal, mas prejudicial” das técnicas de manipulação de vídeo e imagem assistidas por IA:

‘[Nós] recomendamos que o Governo aborde proativamente tipos de conteúdo que são tecnicamente legais, como partes insidiosas de sequências de abuso infantil, como breadcrumbing e tipos de violência online contra mulheres e meninas, como “nudificando” mulheres e pornografia deepfaked, trazendo-os para o escopo, seja por meio de legislação primária ou como tipos de conteúdo prejudicial cobertos pelas obrigações de cuidado.’

A lei aplicável atual no Reino Unido é limitada à disseminação de “imagens reais”, como casos de vingança pornográfica, onde, por exemplo, material explícito confidencial e privado é compartilhado publicamente por um ex-parceiro. Se um perseguidor cria e divulga material deepfaked que superpõe a identidade da vítima em conteúdo pornográfico, ele só pode ser processado se diretamente assediar a vítima dirigindo o material a ela, ou sob legislação relacionada a direitos autorais.

No primeiro caso, a facilidade com que novo conteúdo deepfaked ganha tração e espectadores quase inevitavelmente significa que a vítima será informada por amigos preocupados ou terceiros não relacionados, em vez de pela pessoa que a deepfaked, permitindo que a viralidade desse material proteja o deepfaker, cujo trabalho ainda “alcança a vítima”.

No segundo caso, o processo só seria provável se um vídeo pornográfico não editado (no qual a identidade da vítima é posteriormente superposta) for produzido profissionalmente e protegido por direitos autorais no Reino Unido (embora um vídeo adequado possa ser obtido gratuitamente de qualquer jurisdição legal do mundo). Um vídeo “amador” de qualquer jurisdição carece de status de direitos autorais claro, e um vídeo personalizado que o deepfaker filmou expressamente para superpor a vítima é (ironicamente) protegido por leis de direitos autorais, desde que atenda a outras leis.

Atrás da Curva

Em dezembro de 2021, a Comissão de Direito do Reino Unido propôs estender as leis de discurso de ódio para cobrir hostilidade baseada no sexo, mas não propôs a inclusão de deepfakes nessa categoria, apesar de vários exemplos de tal uso em todo o mundo (especialmente na Índia) da tecnologia sendo usada contra mulheres políticas e ativistas. As mulheres são esmagadoramente o alvo de conteúdo deepfaked ilícito, seja o motivo dos falsificadores social (ou seja, a intenção de humilhar, desplatformar e desempoderar) ou simplesmente pruriente (ou seja, pornográfico) na natureza.

Em março de 2021, a National Law Review, com sede em Illinois, criticou o quadro jurídico do Reino Unido como “totalmente inadequado no momento para lidar com deepfakes”, e até mesmo falta de mecanismos legais básicos que protejam a semelhança de uma pessoa.

Leis de Deepfake nos Estados Unidos

Em contraste, os Estados Unidos protegem, até certo ponto, o “Direito de Publicidade” de seus cidadãos, embora não em nível federal (atualmente, tais estatutos existem em aproximadamente metade dos estados americanos, com mecanismos legais variados).

Embora seja uma melhoria em relação ao desempenho do Reino Unido na legislação sobre deepfakes, os EUA só podem se orgulhar de uma cobertura esporádica, por estado, e parece determinado a abordar o potencial de manipulação política da tecnologia antes de lidar com seu impacto em indivíduos privados.

Em 2019, o Estado do Texas proibiu a criação ou disseminação de deepfakes políticos, com o Projeto de Lei do Senado do Texas 751 (SB751), omitindo qualquer declaração sobre pornografia deepfaked. No mesmo ano, o Estado da Virgínia adicionou uma emenda a uma lei existente sobre a Disseminação ou venda ilegal de imagens de outra pessoa, anexando o termo amplo ‘imagem ou vídeo falsamente criado’.

Em 2020, o Estado da Califórnia promulgou a Lei da Assembleia da Califórnia 602 (AB 602) que proíbe a geração ou disseminação de pornografia deepfaked. A Lei não tem cláusula de caducidade, mas tem um prazo de prescrição de três anos e é acompanhada de uma cláusula separada que aborda deepfakes políticos.

No final de 2020, o Estado de Nova York aprovou o Projeto de Lei do Senado S5959D, que não apenas proíbe a criação e/ou republicação de pornografia deepfaked, mas também protege ativamente o direito de publicidade de um usuário em relação a uma semelhança gerada por computador por meio de deepfakes, CGI ou qualquer outro meio, mesmo após a morte (se a pessoa em questão era residente de Nova York no momento de sua morte).

Finalmente, o Estado de Maryland alterou suas leis sobre pornografia infantil para abranger e criminalizar o uso de deepfakes, embora não aborde o impacto de deepfakes em alvos adultos.

Aguardando ‘DeepfakeGate’

A história indica que o dano que as novas tecnologias podem causar precisa se tornar pessoal para uma nação para acelerar sua resposta legislativa. A morte recente de uma adolescente no Egito que estava sendo chantageada com pornografia deepfaked de si mesma recebeu cobertura limitada na mídia ocidental*, enquanto as revelações sobre o roubo de $35 milhões nos Emirados Árabes, que vieram à tona em 2021, também representam um “evento distante” que não é provável que acelere o senado ou acenda um fogo sob os 45 estados restantes que ainda não promulgaram legislação sobre deepfakes.

Se os EUA adotarem uma postura mais unificada em torno do abuso de tecnologia de deepfake, a legislação generalizada provavelmente afetaria o aspecto de governança de telecomunicações e infraestrutura e armazenamento de dados, levando a mudanças rápidas nas políticas impostas a seus parceiros comerciais em todo o mundo. O fato de a adoção da UE da GDPR não ter “cruzado” para a política de coleta e retenção de dados na América do Norte não significa que a UE não possa ganhar influência sobre as nações menos conformes com as quais comercia – se ela algum dia tomar uma posição legislativa mais comprometida sobre a geração, armazenamento e retenção de pornografia deepfaked.

Mas algo precisa acontecer em “terra zero” primeiro, em um desses grupos de países líderes; e ainda estamos esperando: uma grande apreensão de CSAM pelas autoridades; um grande golpe usando tecnologias de deepfake baseadas em áudio e/ou vídeo para enganar um diretor de uma empresa americana para desviar uma grande quantidade de dinheiro; ou um equivalente americano ao uso crescente de deepfakes para vitimizar mulheres em países mais patriarcais (se, de fato, a cultura americana está realmente equipada para espelhar esses eventos, o que é questionável). São coisas difíceis de desejar e boas de evitar por qualquer outro método que não seja enterrar a cabeça na areia ou esperar por um “evento incendiário”.

Um problema central, que a UE está atualmente contornando, dirigindo sua habilidade legislativa para empresas de publicidade que querem promover seus deepfakes legítimos e inteligentes, é que os deepfakes permanecem difíceis de detectar algoritmicamente; a maioria dos métodos de detecção que surgem no arXiv todos os meses depende de marca d’água, verificação baseada em blockchain ou, de alguma forma, alterar toda a infraestrutura que atualmente usamos para consumir vídeo livremente – soluções que implicam uma revisão legal radical da noção de vídeo como um proxy para “verdade”. O resto é regularmente superado por avanços contínuos nos repositórios de deepfake de código aberto populares.

Um problema adicional é que as principais nações ocidentais estão certas, em um sentido, ao não oferecer uma reação impulsiva a uma única estrada problemática em uma série de novas tecnologias de IA, muitas das quais prometem imensos benefícios para a sociedade e a indústria, e muitas das quais poderiam ser adversamente afetadas de alguma forma se a proibição e a regulação apressada de sistemas de síntese de imagens começassem a sério, em resposta a um grande evento e ao clamor subsequente.

No entanto, pode ser uma boa ideia acelerar a caminhada lenta e às vezes sem rumo que estamos seguindo em direção à regulação de deepfakes, e encontrar os problemas potenciais no meio do caminho, e em nossos próprios termos, em vez de sermos forçados por eventos posteriores a uma resposta menos considerada.

* Os supostos perpetradores estão sendo acusados de chantagem; não há lei egípcia que cubra a pornografia deepfaked.

Publicado pela primeira vez em 24 de janeiro de 2022.