A China Propõe Regulamentação Aumentada de Deepfakes e Outros Sistemas de Síntese de IA

A Administração do Ciberespaço da China (CAC) propôs um novo conjunto de regulamentos em draft para governar sistemas de síntese auxiliados por IA, incluindo deepfakes, cenas de realidade virtual, geração de texto, áudio e outros sub-setores de síntese de mídia de IA – um campo em que a China produz um número prodigioso de artigos acadêmicos e projetos de pesquisa inovadores a cada mês.

Um post (Tradução do Google, original aqui) no site oficial da CAC estabelece as obrigações propostas e caracteriza os serviços afetados como ‘fornecedores de serviços de síntese profunda’, convidando cidadãos a participar contribuindo com comentários sobre as propostas de draft, com prazo até 28 de fevereiro.

Não Apenas Deepfakes

Embora as regulamentações sugeridas tenham sido relatadas em termos de seu impacto potencial na criação e disseminação de deepfakes, o documento tenta uma visão abrangente sobre a capacidade de algoritmos gerar qualquer tipo de conteúdo que possa ser interpretado no sentido amplo de ‘mídia’.

O Artigo 2 declara o escopo projetado das regulamentações em seis setores*:

(1) Técnicas para gerar ou editar conteúdo de texto, como geração de capítulos, conversão de estilo de texto e diálogo de perguntas e respostas;

(2) Tecnologias para gerar ou editar conteúdo de voz, como texto-para-voz, conversão de voz e edição de atributos de voz;

(3) Tecnologias para gerar ou editar conteúdo não-voz, como geração de música e edição de som de cena;

(4) Geração de face, substituição de face, edição de atributos de personagem, manipulação de face, manipulação de gestos e outras tecnologias para gerar ou editar características biométricas, como faces em imagens e conteúdo de vídeo;

(5) Técnicas para editar características não-biológicas em imagens e conteúdo de vídeo, como melhoria de imagem e restauração de imagem;

(6) Tecnologias para gerar ou editar cenas virtuais, como reconstrução 3D.

Regulamentação de Deepfakes

A China criminalizou o uso de IA para a disseminação de notícias falsas no final de 2019, quando a CAC expressou preocupação sobre as implicações potenciais da tecnologia de deepfake, levando muitos a considerar que o governo chinês eventualmente baniria a tecnologia de deepfake por completo.

No entanto, isso exigiria que a China abandonasse oficialmente um dos desenvolvimentos mais politicamente e culturalmente significativos na história da geração de mídia, IA e até política, e se cortasse dos benefícios da colaboração científica global e aberta.

Portanto, parece que a China agora está determinada a experimentar o controle em vez de banir a tecnologia potencialmente rebelde, que, muitos acreditam, eventualmente migrará de sua fase de aceleração de pornografia para um conjunto legítimo e explorável de casos de uso, notadamente no entretenimento.

NeRF Incluído

O Artigo 2.6 aborda a geração ou edição de cenas virtuais, como reconstrução 3D, uma tecnologia mais nascente do que a imitação de deepfake, e uma que alcançou a maior proeminência nos últimos dois anos por meio do advento de Campos de Radiância Neural (NeRF), onde a fotogrametria é usada para sintetizar cenas inteiras no espaço latente explorável de modelos de aprendizado de máquina.

No entanto, o NeRF está expandindo rapidamente seu alcance para além de tableaux de modelos e passeios de ambientes para a geração de vídeo de corpo inteiro, com pesquisadores chineses tendo avançado algumas inovações importantes neste respeito.

A ST-NeRF da China em ação.

Embora o NeRF tenha produzido uma tempestade de novas pesquisas desde seu anúncio em 2020, sua implementação em sistemas de RV ou RA, ou sua adequação em pipelines de efeitos visuais, ainda tem muitos desafios e gargalos tecnológicos notáveis a serem superados. A capacidade crescente do NeRF de reconstituir e editar fisionomias humanas completas ainda não incorporou nenhuma das capacidades de transformação de identidade padrão de deepfake que caracterizaram manchetes de notícias nos últimos dois anos.

Deepfakes de Áudio uma Prioridade?

Se alguém considerar a ordem da lista do Artigo 2 como uma indicação das tecnologias de síntese profunda que a China está mais preocupada em controlar e regular, isso sugeriria que a notícia falsa gerada por IA baseada em texto é de preocupação primária, com a síntese de voz à frente da deepfake de vídeo em termos de seu impacto potencial.

Se assim for, isso está de acordo com o fato de que o deepfake de vídeo ainda não foi usado em nenhum crime não relacionado à pornografia (a Ásia não hesitou em criminalizar deepfakes de pornografia), enquanto o deepfake de áudio foi apresentado como uma tecnologia ativa em pelo menos dois crimes financeiros importantes, no Reino Unido em 2019, e nos Emirados Árabes Unidos em 2021.

As novas regulamentações em draft obrigam os usuários que desejam explorar a identidade de uma pessoa por meio do uso de sistemas de aprendizado de máquina a buscar permissão escrita do indivíduo. Além disso, a mídia sintetizada deve exibir algum tipo de logotipo ‘proeminente’ ou marca d’água, ou outros meios pelos quais o consumidor do material possa ser feito para entender que o conteúdo é alterado ou completamente fabricado. Não está inteiramente claro como isso pode ser realizado no caso de deepfakes de áudio.

Registro

Se ratificados, as propostas de draft obrigariam os fornecedores de serviços de síntese profunda a registrar suas aplicações pertinentes com o Estado, de acordo com as Provisões sobre a Administração de Recomendações de Algoritmos para Serviços de Informação da Internet, e a cumprir com todos os procedimentos de arquivamento necessários. Os fornecedores de síntese profunda também serão obrigados a cooperar livremente em termos de supervisão e inspeção, e a produzir ‘apoio técnico e de dados necessário e assistência’ a pedido.

Além disso, esses fornecedores precisarão estabelecer portais de usuário amigáveis para reclamações e publicar limites de tempo esperados para o processamento de tais reclamações, bem como serem obrigados a oferecer ‘mecanismos de refutação de boatos’ – embora as propostas não forneçam detalhes sobre a implementação disso.

Infrações poderiam provocar multas de entre 10.000 e 100.000 yuan ($1.600 e $16.000), bem como expor as empresas infratoras a processos civis e criminais.

* Tradução do Google, veja link no início do artigo.

Publicado pela primeira vez em 28 de janeiro de 2022.