Propostas europeias e britânicas de regulamentação de deepfake são surpreendentemente limitadas

Análise Para os ativistas que esperam que 2022 possa ser o ano em que as imagens deepfaked se enquadram em uma esfera legal mais rígida, os primeiros indicadores não são promissores.

Na passada quinta-feira, o Parlamento Europeu ratificado alterações à Lei dos Serviços Digitais (DSA, com entrada em vigor em 2023), no que diz respeito à disseminação de deepfakes. As modificações abordam os deepfakes em duas secções, cada uma diretamente relacionada com a publicidade online: a alteração 1709 relativa ao artigo 30.º e uma alteração relacionada ao artigo 63.º.

A primeira propõe um artigo inteiramente novo 30a, Com o título Falsificações profundas, Onde se lê:

'Quando uma plataforma on-line muito grande toma conhecimento de que um conteúdo é uma imagem, conteúdo de áudio ou vídeo gerado ou manipulado que se assemelha consideravelmente a pessoas, objetos, lugares ou outras entidades ou eventos existentes e falsamente parece ser autêntico ou verdadeiro para uma pessoa (deep fakes), o provedor deve rotular o conteúdo de forma a informar que o conteúdo não é autêntico e que é claramente visível para o destinatário dos serviços.'

A segunda acrescenta texto ao artigo 63 existente, que se preocupa principalmente com o aumento da transparência das grandes plataformas de publicidade. O texto pertinente diz:

'Além disso, plataformas on-line muito grandes devem rotular quaisquer vídeos, áudio ou outros arquivos falsos conhecidos.'

Efetivamente, a legislação parece estar se preparando para a prática crescente de 'deepfakes legítimos', onde a permissão tem foi concedido e direitos garantidos para troca de rosto em material promocional ou publicitário - como o da telco russa Telefon uso licenciado da identidade de Bruce Willis em uma recente campanha publicitária.

Hesitação em Legislar

O DSA, até agora, não parece abordar as preocupações dos ativistas sobre o uso de técnicas de deepfake, pois são mais comumente usado – para relançar vídeos pornográficos. Também não aborda até que ponto, se houver, a utilização pendente de deepfakes em filmes e televisão terá de ser negada aos telespectadores, da mesma forma que os deepfakes na publicidade o serão, pelo menos na UE, a partir de 2023.

O processo de ratificação do DSA passa agora para negociação com os estados membros da UE, juntamente com o escopo mais amplo da Lei de Mercados Digitais (DMA).

Europol dezembro de 2020 Denunciar Usos maliciosos e abusos de inteligência artificial afirmou que seria um erro para a UE abordar tecnologias deepfake atuais específicas (como DeepFace Live), o que pode levar a que o direito da UE esteja constantemente a atualizar-se com o quadro ou método mais recente.

A Denunciar afirmou:

“Em particular, essas políticas devem ser agnósticas em relação à tecnologia, a fim de serem eficazes a longo prazo e evitar a revisão e substituição regulares à medida que a tecnologia por trás da criação e abuso de deepfakes evolui.

'No entanto, tais medidas também devem evitar obstruir as aplicações positivas de GANs.'

A observação final na citação acima, a respeito Redes Adversariais Generativas (GANs) caracteriza amplamente a hesitação europeia e norte-americana em aplicar leis que possam prejudicar um setor emergente de pesquisa de IA já percebido como ficando para trás na Ásia (cujas nações mais didáticas foram capaz de acelerar a legislação deepfake).

Por exemplo, um 2018 Denunciar do Comitê Seleto de Inteligência Artificial do Reino Unido na Câmara dos Lordes enfatiza várias vezes o risco de permitir que a timidez atrase o desenvolvimento da IA ​​no país, exemplificado em seu título: IA no Reino Unido: pronta, disposta e capaz?. Em abril passado, a Grã-Bretanha também se tornou o primeiro país a sinal verde para a implantação de carros autônomos nas rodovias.

A América não é menos ávida; nos Estados Unidos, a Brookings Institution tem instou a necessidade de aumentar a legislação para IA nos Estados Unidos, criticando os legisladores pela sua posição de “esperar para ver” sobre as ramificações das tecnologias de aprendizagem automática

Além da abordagem insípida do DSA em abordar as preocupações sociais (em vez de políticas) em relação aos deepfakes, o quadro regulamentar proposto para a IA, lançado em abril de 2021, foi alvo de críticas imediatas por sua própria evasão do tópico.

Regulamento Scant Deepfake no Reino Unido

Como uma decepção adicional para os ativistas anti-deepfake, como a autora Helen Mort, que fez campanha de forma proeminente para uma nova legislação do Reino Unido em 2021, depois de ser retratado não consensualmente em vídeos pornográficos deepfake, um relatório publicado hoje pelo Comitê Digital, Cultura, Mídia e Esporte do Parlamento do Reino Unido critica o governo britânico por não abordar deepfakes no Projeto de lei de segurança online.

Citando a atual reparação legal do projeto de lei contra o abuso de deepfake como 'pouco claro e impraticável', o Denunciar sugere que a legislação proposta não faz nada para abordar o status 'legal, mas prejudicial' de vídeo pornográfico assistido por IA e técnicas de manipulação de imagens:

'[Recomendamos] que o governo aborde proativamente tipos de conteúdo que são tecnicamente legais, como partes insidiosas de sequências de abuso infantil, como pão ralado e tipos de violência online contra mulheres e meninas, como 'nudificação' de mulheres habilitada por tecnologia e pornografia deepfake , colocando-os no âmbito quer através da legislação primária quer como tipos de conteúdos nocivos abrangidos pelos deveres de cuidado.'

A lei atual aplicável no Reino Unido limita-se à disseminação de imagens 'reais', como casos de pornografia de vingança, onde, por exemplo, material explícito privado e confidencial é compartilhado publicamente por um ex-parceiro. Se um perseguidor realizar e divulgar material deepfake que sobreponha a identidade de seu 'alvo' em conteúdo pornográfico, ele só poderá ser processado se assediar diretamente o alvo, direcionando o material para ele, ou sob a legislação relacionada a direitos autorais.

No primeiro caso, a facilidade com que o novo conteúdo deepfake ganha força e espectadores quase inevitavelmente significa que a vítima será informada por amigos preocupados ou terceiros não relacionados, e não pela pessoa que os falsificou, permitindo que a viralidade de tal material proteja o deepfaker, cujo trabalho ainda 'atinge o alvo'.

Neste último caso, a acusação provavelmente só seria viável quando um vídeo pornográfico não adulterado de terceiros (no qual a identidade da vítima é posteriormente sobreposta) é produzido profissionalmente e legitimamente protegido sob o domínio de direitos autorais do Reino Unido (mesmo que um vídeo adequado possa ser obtido gratuitamente de qualquer jurisdição legal do mundo). Um vídeo 'amador' de qualquer jurisdição carece de status claro de direitos autorais, e um vídeo sob medida que o deepfaker filmou expressamente para sobrepor a vítima é (ironicamente) protegido por leis de direitos autorais, desde que cumpra outras leis.

Atrás da Curva

Em dezembro de 2021, a Comissão de Direito do Reino Unido proposto para estender as leis de discurso de ódio para cobrir a hostilidade baseada no sexo, mas não propôs a inclusão de deepfakes nesta categoria, apesar de vários exemplos de tal uso em todo o mundo (especialmente na Índia) da tecnologia sendo armada contra mulheres políticas e mulheres ativistas. As mulheres são esmagadoramente o alvo de conteúdo deepfake ilícito, sejam os motivos dos falsificadores abertamente sociais (ou seja, a intenção de humilhar, desplataformar e enfraquecer) ou simplesmente lascivos (ou seja, pornográficos) por natureza.

Em março de 2021, a National Law Review, com sede em Illinois levou a estrutura legal do Reino Unido para a tarefa como 'totalmente inadequado no momento para lidar com deepfakes', e até mesmo carente de mecanismos legais básicos que protegem a imagem de uma pessoa.

Leis de deepfake nos Estados Unidos

Em contraste, os Estados Unidos protegem até certo ponto o 'Direito de Publicidade' de seus cidadãos, embora não em nível federal (atualmente, tais estatutos existem em aproximadamente metade dos estados dos EUA, com mecanismos legais muito variados).

Apesar de uma melhoria no desempenho do Reino Unido na legislação deepfake, os EUA só podem se gabar de uma cobertura esporádica por estado e parecem determinados a abordar os problemas da tecnologia. potencial de manipulação política antes de chegar, eventualmente, ao seu impacto sobre os particulares.

Em 2019, o Estado do Texas proibido a criação ou difusão de político deepfakes, com Texas Senado Bill 751 (SB751), omitindo qualquer declaração sobre pornografia deepfake. No mesmo ano, o Estado da Virgínia adicionou um emenda para uma lei existente em relação à Disseminação ou venda ilegal de imagens de terceiros, acrescentando o termo abrangente 'videográfico ou imagem estática falsamente criada'.

Em 2020, o Estado da Califórnia promulgou Assembléia da Califórnia Bill 602 (AB 602) que proíbe a geração ou disseminação de deepfakes pornográficos. O projeto de lei não tem cláusula de caducidade, mas tem um estatuto de limitações de três anos e é acompanhado por uma cláusula separada que cobre deepfakes políticos.

No final de 2020, o Estado de Nova York aprovou Projeto de Lei do Senado S5959D, que não apenas proíbe a criação e/ou republicação de deepfakes pornográficos, mas também protege ativamente o direito de publicidade de um usuário em relação a um gerado por computador semelhança através de deepfakes, CGI ou qualquer outro meio, mesmo após a morte (se a pessoa em questão residisse em Nova York no momento de sua morte).

Finalmente, o estado de Maryland alterada suas leis sobre pornografia infantil para abranger e criminalizar o uso de deepfakes, embora não abordem o impacto de deepfakes em alvos adultos.

Esperando por 'DeepfakeGate'

A história indica que os danos que as novas tecnologias podem gerar devem ser pessoal a uma nação a fim de acelerar sua resposta legislativa. o muito recente morte de adolescente no Egito que supostamente estava sendo chantageada com pornografia deepfake de si mesma recebeu cobertura limitada na mídia ocidental*, enquanto as revelações sobre o roubo de $ 35 milhões de dólares nos Emirados Árabes Unidos, que veio à tona em 2021, também representam um 'evento distante' que provavelmente não acelerará o Senado ou acenderá fogo nos 45 estados restantes que ainda não promulgaram a legislação deepfake.

Se os EUA adotarem uma frente mais unida em torno do abuso da tecnologia deepfake, a legislação generalizada provavelmente afetaria o aspecto de governança das telecomunicações e da infraestrutura e armazenamento de dados, levando a mudanças rápidas na política de recuperação impostas a seus parceiros de negócios em todo o mundo. O fato de a adoção do GDPR pela Europa não ter "passado" para a política norte-americana de coleta e retenção de dados não significa que a UE não poderia também ganhar influência sobre as nações menos compatíveis com as quais negocia - caso alguma vez tome um posição legislativa mais comprometida com a geração, armazenamento e retenção de pornografia deepfake.

Mas algo tem que acontecer primeiro no 'marco zero', em um desses grupos líderes de países; e ainda estamos esperando por isso: um colossal lançamento de CSAM na darknet pelas autoridades; um grande assalto usando tecnologias deepfake baseadas em áudio e/ou vídeo para enganar um americano diretor da empresa a desviar uma quantia muito grande de dinheiro; ou um equivalente americano do uso crescente de deepfakes para vitimizar mulheres em países mais patriarcais (se, de fato, a cultura dos EUA estiver realmente equipada para espelhar esses eventos, o que é questionável). Estas são coisas difíceis de desejar, e coisas boas para evitar por qualquer outro método do que enfiar a cabeça na areia ou esperar por um evento 'incendiário'.

Um problema central, que a UE está atualmente contornando ao direcionar suas proezas legislativas para empresas de publicidade que queremos para promover seus deepfakes inteligentes e legítimos, é que os deepfakes permanecem difícil de detectar algoritmicamente; a maioria dos métodos de detecção que surgem no arXiv todos os meses dependem de marca d'água, verificação baseada em blockchain ou, de alguma forma, alterando toda a infraestrutura que usamos atualmente para consumir vídeo livremente - soluções que implicam uma revisão legal radical da noção de vídeo como um proxy para 'verdade'. O restante é rotineiramente superado pelos avanços contínuos nos populares repositórios deepfake de código aberto.

Outro problema é que as principais nações ocidentais estão certas, em certo sentido, em não oferecer uma reação instintiva a uma única vertente problemática em uma série de novas tecnologias de IA, muitas das quais prometem imensos benefícios para a sociedade e a indústria, e muitos dos quais poderiam ser afetados adversamente de alguma forma se a proscrição e regulamentação de sistemas de síntese de imagem começassem a sério, em resposta a um grande evento e ao clamor que se seguiu.

No entanto, pode ser uma boa ideia pelo menos acelerar a caminhada lenta e às vezes sem rumo que estamos fazendo em direção à regulamentação de deepfakes e enfrentar os problemas potenciais no meio do caminho e em nossos próprios termos, em vez de sermos forçados por eventos posteriores em uma resposta menos considerada.

* Os supostos perpetradores estão sendo acusados ​​de chantagem; não há nenhuma lei egípcia que cubra a pornografia deepfake.

Publicado pela primeira vez em 24 de janeiro de 2022.