Automatização da Proteção de Direitos Autorais em Imagens Geradas por IA

Como discutido na semana passada, mesmo os modelos de fundação por trás dos sistemas de IA geradores populares podem produzir conteúdo que viola direitos autorais, devido à curadoria inadequada ou desalinhada, bem como à presença de múltiplas versões da mesma imagem nos dados de treinamento, levando a sobreajuste, e aumentando a probabilidade de reproduções reconhecíveis.

Apesar dos esforços para dominar o espaço de IA geradora, e da pressão crescente para conter a violação de direitos autorais, plataformas importantes como MidJourney e DALL-E da OpenAI continuam a enfrentar desafios para prevenir a reprodução involuntária de conteúdo protegido por direitos autorais:

A capacidade dos sistemas geradores de reproduzir dados protegidos por direitos autorais é frequentemente discutida na mídia.

Como novos modelos surgem, e os modelos chineses ganham destaque, a supressão de material protegido por direitos autorais nos modelos de fundação é uma perspectiva onerosa; de fato, o líder de mercado OpenAI declarou no ano passado que é ‘impossível’ criar modelos eficazes e úteis sem dados protegidos por direitos autorais.

Precedentes

Em relação à geração involuntária de material protegido por direitos autorais, a cena de pesquisa enfrenta um desafio semelhante ao da inclusão de conteúdo NSFW em dados de origem: um deseja o benefício do conhecimento (ou seja, anatomia humana correta, que historicamente sempre foi baseada em estudos de nudez) sem a capacidade de abusá-lo.

Da mesma forma, os criadores de modelos desejam o benefício do grande escopo de material protegido por direitos autorais que encontra seu caminho em conjuntos de dados de grande escala, como LAION, sem que o modelo desenvolva a capacidade de realmente violar direitos autorais.

Desconsiderando os riscos éticos e legais de tentar ocultar o uso de material protegido por direitos autorais, a filtragem para o último caso é significativamente mais desafiadora. O conteúdo NSFW frequentemente contém recursos latentes de baixo nível distintos que permitem uma filtragem cada vez mais eficaz sem exigir comparações diretas com material do mundo real. Em contraste, os recursos latentes que definem milhões de obras protegidas por direitos autorais não se reduzem a um conjunto de marcadores facilmente identificáveis, tornando a detecção automatizada muito mais complexa.

CopyJudge

O julgamento humano é uma commodity rara e cara, tanto na curadoria de conjuntos de dados quanto na criação de filtros e sistemas de “segurança” projetados para garantir que o material protegido por direitos autorais não seja entregue aos usuários de portais baseados em API, como MidJourney e a capacidade de geração de imagens do ChatGPT.

Portanto, uma nova colaboração acadêmica entre a Suíça, a Sony AI e a China está oferecendo CopyJudge – um método automatizado de orquestração de grupos sucessivos de “juízes” baseados em ChatGPT que podem examinar entradas para sinais de provável violação de direitos autorais.

CopyJudge avalia várias gerações de IA que violam direitos autorais. Fonte: https://arxiv.org/pdf/2502.15278

CopyJudge oferece efetivamente um quadro automatizado que utiliza grandes modelos de visão-linguagem (LVLMs) para determinar a semelhança substancial entre imagens protegidas por direitos autorais e aquelas produzidas por modelos de difusão de texto-para-imagem.

A abordagem CopyJudge usa aprendizado por reforço e outras abordagens para otimizar prompts que violam direitos autorais e, em seguida, usa informações desses prompts para criar novos prompts que são menos prováveis de invocar imagens protegidas por direitos autorais.

Embora muitos geradores de imagens baseados em IA online filtrem os prompts dos usuários para NSFW, material protegido por direitos autorais, recriação de pessoas reais e vários outros domínios proibidos, CopyJudge usa prompts “infringentes” refinados para criar prompts “sanitizados” que são menos prováveis de evocar imagens proibidas, sem a intenção de bloquear diretamente a submissão do usuário.

Embora essa não seja uma abordagem nova, ela vai algum caminho para libertar os sistemas geradores baseados em API da simples recusa de entrada do usuário (nem menos porque isso permite que os usuários desenvolvam acesso por trás a gerações proibidas, por meio de experimentação).

Um exploit recente (desde fechado pelos desenvolvedores) permitia que os usuários gerem material pornográfico na plataforma de IA geradora Kling simplesmente incluindo uma cruz proeminente, ou crucifixo, na imagem carregada em um fluxo de trabalho de imagem-para-vídeo.

Em uma brecha fechada pelos desenvolvedores da Kling no final de 2024, os usuários podiam forçar o sistema a produzir saídas NSFW proibidas simplesmente incluindo uma cruz ou crucifixo na imagem de semente do I2V. Não houve explicação sobre a lógica por trás dessa brecha agora expirada; podemos nunca saber! Fonte: Discord

Instâncias como essa enfatizam a necessidade de sanitização de prompts nos sistemas geradores online, não menos porque a desaprendizagem de máquina, na qual o modelo de fundação é alterado para remover conceitos proibidos, pode ter efeitos indesejados na usabilidade final do modelo.

Procurando soluções menos drásticas, o sistema CopyJudge imita julgamentos baseados em humanos usando IA para quebrar imagens em elementos-chave, como composição e cor, para filtrar partes não protegidas por direitos autorais e comparar o que resta. Ele também inclui um método baseado em IA para ajustar prompts e modificar a geração de imagens, ajudando a evitar questões de direitos autorais enquanto preserva o conteúdo criativo.

Os resultados experimentais, segundo os autores, demonstram a equivalência de CopyJudge às abordagens de ponta nessa busca e indicam que o sistema exibe generalização e interpretabilidade superiores em comparação com trabalhos anteriores.

O novo artigo é intitulado CopyJudge: Identificação e Mitigação Automatizadas de Violação de Direitos Autorais em Modelos de Difusão de Texto-para-Imagem e vem de cinco pesquisadores da EPFL, Sony AI e da Universidade Westlake, na China.

Método

Embora CopyJudge use GPT para criar tribunais automatizados de “juízes”, os autores enfatizam que o sistema não é otimizado para o produto da OpenAI e que qualquer número de modelos de visão-linguagem grandes alternativos (LVLMs) poderia ser usado em seu lugar.

Na primeira instância, o quadro de abstração-filtragem-comparação dos autores é necessário para decompor imagens de origem em partes constituintes, como ilustrado no lado esquerdo do esquema abaixo:

Esquema conceitual para a primeira fase do fluxo de trabalho do CopyJudge.

No canto inferior esquerdo, vemos um agente de filtragem quebrando as seções da imagem em uma tentativa de identificar características que possam ser nativas de uma obra protegida por direitos autorais em conjunto, mas que, por si só, seriam muito genéricas para qualificar como uma violação.

Múltiplos LVLMs são subsequentemente usados para avaliar os elementos filtrados – uma abordagem que foi provada eficaz em artigos como o oferecido em 2023 pela CSAIL Melhorando a Factualidade e a Racionalidade em Modelos de Linguagem por meio de Debates Multiagentes e ChatEval, entre outros diversos reconhecidos no novo artigo.

Os autores afirmam:

‘[Nós] adotamos uma abordagem de debate sincronizado totalmente conectado, onde cada LVLM recebe as [respostas] dos [outros] LVLMs antes de fazer o próximo julgamento. Isso cria um loop de feedback dinâmico que fortalece a confiabilidade e a profundidade da análise, à medida que os modelos adaptam suas avaliações com base em novas percepções apresentadas por seus pares.

‘Cada LVLM pode ajustar sua pontuação com base nas respostas dos outros LVLMs ou mantê-la inalterada.’

Múltiplos pares de imagens pontuados por humanos também são incluídos no processo por meio de aprendizado de contexto com poucos exemplos.

Mitigação

Em seguida, os autores se concentraram no processo de mitigação de prompts descrito anteriormente.

Esquema do CopyJudge para mitigar a violação de direitos autorais, refinando prompts e ruído latente. O sistema ajusta prompts iterativamente, usando aprendizado por reforço para modificar variáveis latentes à medida que os prompts evoluem, esperançosamente reduzindo o risco de violação.

Os dois métodos usados para mitigação de prompts foram controle de prompt baseado em LVLM, onde prompts não infringentes eficazes são desenvolvidos iterativamente em clusters de GPT – uma abordagem que é inteiramente “caixa preta”, não exigindo acesso interno à arquitetura do modelo; e uma abordagem baseada em aprendizado por reforço (RL), onde a recompensa é projetada para penalizar saídas que violam direitos autorais.

Dados e Testes

Para testar o CopyJudge, vários conjuntos de dados foram usados, incluindo D-Rep, que contém pares de imagens reais e falsas pontuados por humanos em uma escala de 0 a 5.

Explorando o conjunto de dados D-Rep no Hugging Face. Essa coleção emparelha imagens reais e geradas. Fonte: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

Os resultados do esquema CopyJudge consideraram imagens D-Rep que pontuaram 4 ou mais como exemplos de violação, com o restante retido como não relevantes para direitos autorais. As 4000 imagens oficiais no conjunto de dados foram usadas como imagens de teste. Além disso, os pesquisadores selecionaram e curaram imagens de 10 personagens de desenho animado famosos do Wikipedia.

As três arquiteturas de difusão baseadas em modelos usadas para gerar imagens potencialmente infringentes foram Stable Diffusion V2; Kandinsky2-2; e Stable Diffusion XL. Os autores selecionaram manualmente uma imagem infringente e uma não infringente de cada um dos modelos, chegando a 60 amostras positivas e 60 negativas.

Os métodos de linha de base selecionados para comparação foram: L₂ norm; Learned Perceptual Image Patch Similarity (LPIPS); SSCD; RLCP; e PDF-Emb. Para métricas, exatidão e pontuação F1 foram usados como critérios para violação de direitos autorais.

O GPT-4o foi usado para população das equipes de debate internas do CopyJudge, usando três agentes para um máximo de cinco iterações em qualquer imagem submetida. Três imagens aleatórias de cada graduação no D-Rep foram usadas como priors humanos para os agentes considerarem.

Resultados de violação para o CopyJudge na primeira rodada.

Dos resultados, os autores comentam:

‘[É] evidente que os métodos tradicionais de detecção de cópia de imagem exibem limitações na tarefa de identificação de violação de direitos autorais. Nossa abordagem supera significativamente a maioria dos métodos. Para o método de ponta, PDF-Emb, que foi treinado em 36.000 amostras do D-Rep, nosso desempenho no D-Rep é ligeiramente inferior.

‘No entanto, seu desempenho ruim no conjunto de dados Cartoon IP e Artwork destaca sua falta de capacidade de generalização, enquanto nosso método demonstra resultados igualmente excelentes em todos os conjuntos de dados.’

Os autores também observam que o CopyJudge fornece uma ‘relativamente’ distinção mais clara entre casos válidos e infrigentes:

Mais exemplos das rodadas de teste, no material suplementar do novo artigo.

Os pesquisadores compararam seus métodos com uma colaboração da Sony AI de 2024 intitulada Detectando, Explicando e Mitigando a Memorização em Modelos de Difusão. Este trabalho usou um modelo de difusão estável ajustado com 200 imagens memorizadas (ou seja, sobreajustadas) para elicitar dados protegidos por direitos autorais no momento da inferência.

Os autores do novo trabalho descobriram que seu próprio método de mitigação de prompts, em comparação com a abordagem de 2024, foi capaz de produzir imagens menos prováveis de causar violação de direitos autorais.

Resultados da mitigação de memorização com CopyJudge versus o trabalho de 2024.

Os autores comentam aqui:

‘[Nossa] abordagem pode gerar imagens que são menos prováveis de causar violação de direitos autorais, mantendo uma precisão de correspondência comparável, ligeiramente reduzida. Como mostrado [na imagem abaixo], nosso método efetivamente evita as limitações do [método anterior], incluindo a falha em mitigar a memorização ou a geração de imagens altamente desviadas.’

Comparação de imagens geradas e prompts antes e após a mitigação da memorização.

Os autores executaram testes adicionais com relação à mitigação de violação de direitos autorais, estudando violação explícita e violação implícita.

Violação explícita ocorre quando os prompts se referem diretamente a material protegido por direitos autorais, como ‘Gere uma imagem do Mickey Mouse’. Para testar isso, os pesquisadores usaram 20 amostras de desenho animado e arte, gerando imagens infringentes no Stable Diffusion v2 com prompts que incluíam explicitamente nomes ou atribuições de autor.

Uma comparação entre o método de Controle de Latente (LC) dos autores e o método de Controle de Prompt (PC) do trabalho anterior, em variações diversas, usando Stable Diffusion para criar imagens que representam violação explícita.

Violação implícita ocorre quando um prompt não contém referências explícitas de direitos autorais, mas ainda resulta em uma imagem infringente devido a certos elementos descritivos – um cenário particularmente relevante para modelos de texto-para-imagem comerciais, que frequentemente incorporam sistemas de detecção de conteúdo para identificar e bloquear prompts relacionados a direitos autorais.

Para explorar isso, os autores usaram as mesmas amostras de IP bloqueadas como no teste de violação explícita, mas geraram imagens infringentes sem referências diretas a direitos autorais, usando DALL-E 3 (embora o artigo observe que o módulo de detecção de segurança do modelo foi observado rejeitando certos prompts que acionaram seus filtros).

Violação implícita usando DALLE-3, com pontuações de violação e CLIP.

Os autores afirmam:

‘[Pode-se] ver que nosso método reduz significativamente a probabilidade de violação, tanto para violação explícita quanto implícita, com apenas uma ligeira queda na Pontuação CLIP. A pontuação de violação após apenas o controle de latente é relativamente mais alta do que após o controle de prompt porque recuperar latentes não infringentes sem alterar o prompt é bastante desafiador. No entanto, podemos ainda efetivamente reduzir a pontuação de violação, mantendo uma qualidade de correspondência de imagem-texto mais alta.’

‘[A imagem abaixo] mostra resultados de visualização, onde pode ser observado que evitamos a violação de direitos autorais, preservando os requisitos do usuário.’

Imagens geradas antes e após a mitigação da violação de direitos autorais.

Conclusão

Embora o estudo apresente uma abordagem promissora para a proteção de direitos autorais em imagens geradas por IA, a dependência de grandes modelos de visão-linguagem (LVLMs) para detecção de violação pode levantar preocupações sobre viés e consistência, já que julgamentos baseados em IA podem não sempre alinhar-se com padrões legais.

Talvez o mais importante, o projeto também assume que a aplicação da lei pode ser automatizada, apesar de decisões legais do mundo real que frequentemente envolvem fatores subjetivos e contextuais que a IA pode ter dificuldade em interpretar.

No mundo real, a automação do consenso legal, especialmente em torno da saída da IA, parece provável que permaneça uma questão controversa muito além deste momento e muito além do escopo do domínio abordado neste trabalho.

Publicado pela primeira vez na segunda-feira, 24 de fevereiro de 2025