China propõe maior regulamentação de deepfakes e outros sistemas de síntese de IA

A Administração do Ciberespaço da China (CAC) propôs um novo conjunto de projetos de regulamentos para governar os sistemas de síntese auxiliados por IA, incluindo deepfakes, cenas de realidade virtual, geração de texto, áudio e outros subsetores de síntese de mídia de IA – um campo em que A China produz mensalmente um número prodigioso de artigos acadêmicos e projetos de pesquisa inovadores.

Uma postagem (Tradução do Google, original SUA PARTICIPAÇÃO FAZ A DIFERENÇA) no site oficial do CAC expõe as obrigações propostas, e caracteriza os serviços afetados como 'prestadores de serviços de síntese profunda', convidando os cidadãos a participarem com comentários sobre os projetos de propostas, até ao dia 28 de fevereiro.

Não apenas deepfakes

Embora os regulamentos sugeridos tenham sido relatados em termos de seu impacto potencial na criação e disseminação de deepfakes, o documento tenta um alcance abrangente sobre a capacidade dos algoritmos de gerar qualquer tipo de conteúdo que possa ser interpretado no sentido amplamente compreendido de 'mídia'.

O Artigo 2 declara o escopo projetado dos regulamentos em seis setores*:

(1) Técnicas para gerar ou editar conteúdo de texto, como geração de capítulos, conversão de estilo de texto e diálogo de perguntas e respostas;

(2) Tecnologias para gerar ou editar conteúdo de voz, como conversão de texto em voz, conversão de voz e edição de atributos de voz;

(3) Tecnologias para geração ou edição de conteúdo não vocal, como geração de música e edição de som de cena;

(4) Geração de rostos, substituição de rostos, edição de atributos de caracteres, manipulação de rostos, manipulação de gestos e outras tecnologias para gerar ou editar recursos biométricos, como rostos em imagens e conteúdo de vídeo;

(5) Técnicas de edição de características não biológicas em imagens e conteúdo de vídeo, como aprimoramento e restauração de imagens;

(6) Tecnologias para geração ou edição de cenas virtuais como reconstrução 3D.

Regulamento de deepfake

China criminalizou o uso de IA para a divulgação de notícias falsas no final do 2019, momento em que o CAC expressou preocupação com as possíveis implicações da tecnologia deepfake, levando muitos a considerar que o governo chinês acabaria banindo completamente a tecnologia deepfake.

No entanto, isso implicaria que a China abandonasse oficialmente um dos desenvolvimentos mais políticos e culturalmente significativos da história da geração de mídia, IA e até política, e se isolasse dos benefícios da colaboração científica global e aberta.

Portanto, parece que a China agora está determinada a experimentar o controle, em vez de proibir a tecnologia potencialmente desonesta, que, muitos acreditam, acabará migrando para fora de seu país. fase do acelerador de pornografia e em um conjunto legítimo e explorável de casos de uso, principalmente em entretenimento.

NeRF incluído

O Artigo 2.6 aborda a geração ou edição de cenas virtuais, como a reconstrução 3D, uma tecnologia mais incipiente do que a personificação deepfake, e que alcançou maior destaque nos últimos dois anos com o advento dos Campos de Radiância Neural (NeRF), onde a fotogrametria é usada para sintetizar cenas inteiras no espaço latente explorável de modelos de aprendizado de máquina.

No entanto, o NeRF está expandindo rapidamente seu alcance de quadros de modelos e passeios de ambientes para a geração de vídeo de corpo inteiro, com pesquisadores chineses avançando algumas grandes inovações a este respeito.

China ST-NeRF em ação.

Embora o NeRF tenha produzido uma enxurrada de novas pesquisas desde seu anúncio em 2020, sua implementação em sistemas VR ou AR, ou sua adequação em pipelines de efeitos visuais, ainda tem muitos desafios notáveis ​​e gargalos tecnológicos a superar. A crescente capacidade do NeRF de reconstituir e editar fisionomias humanas completas ainda não incorporou nenhum dos recursos deepfake de transformação de identidade padrão que caracterizaram as manchetes dos jornais nos últimos dois anos.

Deepfakes de áudio são uma prioridade?

Se alguém considerar a ordem da lista do Artigo 2 como uma indicação das tecnologias de síntese profunda que a China está mais preocupada em controlar e regular, isso sugeriria que as notícias falsas geradas por IA baseadas em texto são a principal preocupação, com a síntese de voz antes do vídeo deepfakes em termos de seu impacto potencial.

Se assim for, isso está de acordo com o fato de que o vídeo deepfake ainda não foi usado em nenhum crime não relacionado à pornografia (a Ásia não hesitou em criminalizar a pornografia deepfake), enquanto o áudio deepfake foi colocado como uma tecnologia ativa em pelo menos dois grandes crimes financeiros, no Reino Unido em 2019 e nos Emirados Árabes Unidos em 2021.

O novo projeto de regulamento obriga os usuários que desejam explorar a identidade de uma pessoa por meio do uso de sistemas de aprendizado de máquina a obter permissão por escrito do indivíduo. Além disso, a mídia sintetizada deve exibir algum tipo de logotipo ou marca d'água 'proeminente', ou outro meio pelo qual a pessoa que consome o material possa entender que o conteúdo foi alterado ou totalmente fabricado. Não está totalmente claro como isso pode ser feito no caso de deepfakes de áudio.

Registrando

Se ratificadas, as propostas preliminares obrigariam os provedores de serviços de síntese profunda a registrar seus aplicativos pertinentes com o estado, de acordo com as Disposições existentes sobre a Administração de Recomendações de Algoritmo para Serviços de Informações da Internet e a cumprir todos os procedimentos de arquivamento necessários. Os provedores de síntese profunda também serão obrigados a cooperar livremente em termos de supervisão e inspeção e a fornecer 'apoio e assistência técnica e de dados necessários' mediante solicitação.

Além disso, esses provedores precisarão estabelecer portais amigáveis ​​para reclamações e publicar prazos esperados para o processamento de tais reclamações, além de serem obrigados a oferecer 'mecanismos de refutação de boatos' - embora as propostas não forneçam detalhes em no que diz respeito à implementação deste.

As infrações podem levar a multas entre 10,000 e 100,000 yuans (US$ 1,600 e US$ 16,000), além de expor as empresas infratoras a processos civis e criminais.

* Tradução do Google Tradutor, veja o link no início do artigo.

Publicado pela primeira vez em 28 de janeiro de 2022.