Propostas de Regulação de Deepfakes na Europa e no Reino Unido São Surpreendentemente Limitadas

Análise Para os defensores que esperavam que 2022 pudesse ser o ano em que as imagens deepfaked caíssem em uma esfera legal mais estrita, os primeiros indicadores são desanimadores.

Na última quinta-feira, o Parlamento Europeu ratificou emendas ao Ato de Serviços Digitais (DSA, que deve entrar em vigor em 2023), no que diz respeito à disseminação de deepfakes. As modificações abordam deepfakes em duas seções, cada uma diretamente relacionada à publicidade online: emenda 1709 relativa ao Artigo 30, e uma emenda relacionada ao artigo 63.

A primeira propõe um artigo completamente novo 30a, intitulado Deep fakes, que diz:

‘Quando uma grande plataforma online tomar conhecimento de que um conteúdo é uma imagem, áudio ou vídeo gerado ou manipulado que se assemelha a pessoas, objetos, lugares ou outras entidades ou eventos existentes e falsamente parece autêntico ou verdadeiro para uma pessoa (deep fakes), o provedor deve rotular o conteúdo de uma forma que informe que o conteúdo é inautêntico e que seja claramente visível para o destinatário dos serviços.’

A segunda acrescenta texto ao artigo existente 63, que é principalmente preocupado com o aumento da transparência das grandes plataformas de publicidade. O texto pertinente diz:

‘Além disso, as grandes plataformas online devem rotular qualquer vídeo, áudio ou arquivo deep fake conhecido.’

Efetivamente, a legislação parece estar se preparando para a prática crescente de ‘deepfakes legítimos’, onde a permissão foi concedida e os direitos garantidos para a troca de faces em materiais promocionais ou publicitários – como o uso licenciado da identidade de Bruce Willis pela empresa de telecomunicações russa Telefon em uma campanha publicitária recente.

Hesitação para Legislar

O DSA, até agora, não parece abordar as preocupações dos defensores sobre o uso de técnicas de deepfake como são mais comumente usadas – para reorganizar vídeos pornográficos. Nem aborda a extensão, se houver, para a qual o uso de deepfakes em filmes e televisão precisará ser divulgado aos espectadores da mesma forma que os deepfakes em publicidade serão, pelo menos na UE, a partir de 2023.

O processo de ratificação do DSA agora passa para a negociação com os estados-membros da UE, juntamente com o escopo mais amplo do Ato de Mercados Digitais (DMA).

O relatório de dezembro de 2020 da Europol relatório Usos e Abusos Maliciosos de Inteligência Artificial afirmou que seria um erro para a UE abordar tecnologias de deepfake específicas atuais (como DeepFaceLive), o que poderia levar a que a lei da UE esteja constantemente atrás das últimas tecnologias ou métodos.

O relatório afirmou:

‘Em particular, essas políticas devem ser tecnologicamente agnósticas para serem eficazes a longo prazo e evitar ter que revisar e substituir essas regularmente, à medida que a tecnologia por trás da criação e do abuso de deepfakes evolui.

‘No entanto, essas medidas também devem evitar obstruir as aplicações positivas de GANs.’

O comentário final na citação acima, sobre Redes Adversárias Generativas (GANs) caracteriza amplamente a hesitação europeia e norte-americana em aplicar leis que possam prejudicar um setor de pesquisa de IA emergente, que já é percebido como ficando para trás da Ásia (cuja nação mais didática tem sido capaz de acelerar a legislação sobre deepfakes).

Por exemplo, um relatório de 2018 relatório do Comitê Seletivo de Inteligência Artificial da Câmara dos Lordes do Reino Unido enfatiza várias vezes o risco de permitir que a timidez segure o desenvolvimento de IA na nação, exemplificado em seu título: IA no Reino Unido: pronto, disposto e capaz?. Em abril do ano passado, a Grã-Bretanha também se tornou o primeiro país a autorizar o deploy de carros autônomos em rodovias.

A América não é menos ávida; nos EUA, a Instituição Brookings instou a necessidade de legislação aumentada para IA nos EUA, criticando os legisladores por sua postura de ‘esperar e ver’ sobre as ramificações das tecnologias de aprendizado de máquina.

Além da abordagem insípida do DSA em relação às preocupações sociais (em vez de políticas) em torno dos deepfakes, o quadro regulatório proposto da UE para IA, lançado em abril de 2021, foi criticado por sua própria evasão do tópico.

Regulação de Deepfakes Escassa no Reino Unido

Como uma desapontamento adicional para os defensores anti-deepfake, como a autora Helen Mort, que fez campanha proeminentemente por uma nova legislação no Reino Unido em 2021, após ser retratada sem consentimento em vídeos pornográficos deepfake, um relatório publicado hoje pelo Comitê de Cultura, Mídia e Esporte do Parlamento do Reino Unido criticou o governo britânico por não abordar os deepfakes no Projeto de Lei de Segurança Online.

Citando o projeto de lei atual como ‘incerto e impraticável’ contra o abuso de deepfakes, o relatório sugere que a legislação proposta não faz nada para abordar o status ‘legal, mas prejudicial’ de técnicas de manipulação de vídeo e imagem assistidas por IA:

‘[Nós] recomendamos que o Governo aborde proativamente tipos de conteúdo que são tecnicamente legais, como partes insidiosas de sequências de abuso de crianças, como breadcrumbing e tipos de violência online contra mulheres e meninas, como tech-enabled ‘nudifying’ de mulheres e pornografia deepfake, trazendo-os para o âmbito da lei, seja por meio de legislação primária ou como tipos de conteúdo prejudicial cobertos pelas obrigações de cuidado.’

A legislação atual aplicável no Reino Unido é limitada à disseminação de ‘imagens reais’, como casos de vingança pornográfica, onde, por exemplo, material explícito confidencial e privado é compartilhado publicamente por um ex-parceiro. Se um perseguidor criar e publicar material deepfake que superpõe a identidade da vítima em conteúdo pornográfico, ele só pode ser processado se diretamente assediar a vítima, dirigindo o material a ela, ou sob legislação relacionada a direitos autorais.

No primeiro caso, a facilidade com que o novo conteúdo deepfake ganha tração e espectadores quase inevitavelmente significa que a vítima será informada por amigos preocupados ou terceiros não relacionados, em vez de pelo próprio deepfaker, permitindo que a viralidade do material proteja o deepfaker, cujo trabalho ainda ‘alcança a vítima’.

No segundo caso, o processo seria apenas provável se um vídeo pornográfico não editado (no qual a identidade da vítima é posteriormente superposta) for produzido profissionalmente e protegido por direitos autorais no Reino Unido (mesmo que um vídeo adequado possa ser obtido gratuitamente de qualquer jurisdição legal no mundo). Um vídeo ‘amador’ de qualquer jurisdição carece de status de direitos autorais claro, e um vídeo personalizado que o deepfaker filmou expressamente para superpor a vítima é (ironicamente) protegido por leis de direitos autorais, desde que atenda a outras leis.

Atrás da Curva

Em dezembro de 2021, a Comissão de Direito do Reino Unido propôs estender as leis de discurso de ódio para cobrir hostilidade baseada no sexo, mas não propôs a inclusão de deepfakes nessa categoria, apesar de vários exemplos de tal uso em todo o mundo (especialmente na Índia) da tecnologia sendo usada contra políticas femininas e ativistas.

As mulheres são esmagadoramente o alvo de conteúdo deepfake ilícito, seja o motivo do fakedor social (ou seja, a intenção de humilhar, desativar e desempoderar) ou simplesmente pruriente (ou seja, pornográfico) na natureza.

Em março de 2021, a National Law Review, com sede em Illinois, criticou o quadro legal do Reino Unido como ‘totalmente inadequado no momento para lidar com deepfakes’, e até mesmo falta de mecanismos legais básicos que protejam a semelhança de uma pessoa.

Leis de Deepfake nos Estados Unidos

Em contraste, os Estados Unidos protegem, em certa medida, o ‘Direito de Publicidade’ de seus cidadãos, embora não em nível federal (atualmente, tais estatutos existem em aproximadamente metade dos estados dos EUA, com mecanismos legais variados).

Embora seja uma melhoria no desempenho do Reino Unido em legislação de deepfake, os EUA só podem se gabar de cobertura esporádica e per estado, e parece determinado a abordar a potencial para manipulação política antes de lidar com seu impacto em indivíduos privados.

Em 2019, o Estado do Texas proibiu a criação ou disseminação de políticos deepfakes, com o Projeto de Lei do Senado do Texas 751 (SB751), omitindo qualquer declaração sobre pornografia deepfake. No mesmo ano, o Estado da Virgínia adicionou uma emenda a uma lei existente sobre a Divulgação ou venda ilegal de imagens de outra pessoa, anexando o termo amplo ‘falsamente criada videográfica ou imagem estática’.

Em 2020, o Estado da Califórnia promulgou California Assembly Bill 602 (AB 602) proibindo a geração ou disseminação de pornografia deepfake. O Projeto de Lei não tem cláusula de sunset, mas tem um estatuto de limitação de três anos, e é acompanhado por uma cláusula separada que cobre deepfakes políticos.

No final de 2020, o Estado de Nova York aprovou o Projeto de Lei do Senado S5959D, que não apenas proíbe a criação e/ou republicação de pornografia deepfake, mas ativamente protege o direito de publicidade de um usuário em relação a uma semelhança gerada por computador por meio de deepfakes, CGI ou qualquer outro meio, mesmo após a morte (se a pessoa em questão era residente de Nova York no momento de sua morte).

Finalmente, o Estado de Maryland alterou suas leis sobre pornografia infantil para abranger e criminalizar o uso de deepfakes, embora não aborde o impacto de deepfakes em alvos adultos.

Esperando por ‘DeepfakeGate’

A história indica que o dano que as novas tecnologias podem causar tem que se tornar pessoal para uma nação para acelerar sua resposta legislativa. A morte recente de uma adolescente no Egito que estava sendo chantageada com pornografia deepfake recebeu cobertura limitada na mídia ocidental*, enquanto as revelações sobre o roubo de $35 milhões nos Emirados Árabes Unidos, que vieram à tona em 2021, também representam um ‘evento distante’ que não é provável que acelere o senado, ou acenda um fogo sob os 45 estados restantes que ainda não promulgaram legislação sobre deepfakes.

Se os EUA adotarem uma frente unida em torno do abuso da tecnologia de deepfake, a legislação generalizada provavelmente afetaria o aspecto de governança de telecomunicações e infraestrutura e armazenamento de dados, levando a mudanças rápidas de política impostas aos seus parceiros de negócios em todo o mundo. O fato de a adoção da UE do GDPR não ter sido finalmente ‘transferida’ para a política de coleta e retenção de dados da América do Norte não significa que a UE não possa ganhar alavancagem sobre as nações menos conformes com as quais ela negocia – se ela algum dia tomar uma posição legislativa mais comprometida sobre a geração, armazenamento e retenção de pornografia deepfake.

Mas algo tem que acontecer no ‘ponto zero’ primeiro, em um desses grupos de países líderes; e ainda estamos esperando: uma grande apreensão de CSAM pelas autoridades; um grande golpe usando tecnologias de deepfake baseadas em áudio e/ou vídeo para enganar um diretor de empresa americano para desviar uma grande quantidade de dinheiro; ou um equivalente americano ao uso crescente de deepfakes para vitimizar mulheres em países mais patriarcais (se, de fato, a cultura americana está realmente equipada para espelhar esses eventos, o que é questionável). Essas são coisas difíceis de desejar, e boas coisas para evitar por qualquer outro método que não seja enterrar a cabeça na areia, ou esperar por um ‘evento incendiário’.

Um problema central, que a UE está atualmente contornando, dirigindo sua habilidade legislativa para empresas de publicidade que querem promover seus deepfakes legítimos e inteligentes, é que os deepfakes permanecem difíceis de detectar algoritmicamente; a maioria dos métodos de detecção que surgem no arXiv todos os meses depende de marca d’água, verificação baseada em blockchain ou de alguma forma mudar toda a infraestrutura que usamos para consumir vídeo livremente – soluções que implicam uma revisão legal radical da noção de vídeo como um proxy para ‘verdade’. O resto é regularmente superado pelos avanços contínuos nos repositórios de deepfakes de código aberto.

Um problema adicional é que as principais nações ocidentais estão quite certas, em um sentido, em não oferecer uma reação impulsiva a uma única vertente problemática em um conjunto de novas tecnologias de IA, muitas das quais prometem um imenso benefício para a sociedade e a indústria, e muitas das quais poderiam ser adversamente afetadas de alguma forma se a proibição e regulação apressada dos sistemas de síntese de imagens começassem a sério, em resposta a um grande evento, e ao clamor subsequente.

No entanto, pode ser uma boa ideia acelerar a caminhada lenta e às vezes sem direção que estamos dando em direção à regulação de deepfakes, e encontrar os problemas potenciais no meio do caminho, e em nossos próprios termos, em vez de ser forçado por eventos posteriores a uma resposta menos considerada.

* Os alegados perpetradores estão sendo acusados de chantagem; não há lei egípcia que cubra pornografia deepfake.

Publicado pela primeira vez em 24 de janeiro de 2022.