Agentes de IA Preferem Roubar Trabalhos Com Direitos Autorais em vez de Usar Alternativas de Código Aberto

Pesquisas descobriram que agentes de IA frequentemente escolhem imagens com direitos autorais quando são apresentados com alternativas legais gratuitas – e até mesmo advertências explícitas falham em parar todas as violações.

Muita atenção acadêmica tem sido dedicada nos últimos dois anos à questão de se os modelos de IA gerativos produzem trabalhos baseados em material com direitos autorais – um cenário em que o trabalho com direitos autorais foi incluído no banco de dados de treinamento do modelo, tornando o modelo capaz de “improvisar” no estilo de um artista ou até mesmo reproduzir um trabalho com direitos autorais completamente.

Menos estudado é o comportamento de agentes de IA autônomos em escolher e explorar trabalhos com direitos autorais à medida que navegam por fontes disponíveis autonomamente. Ou seja, se você disser a um modelo de linguagem de visão (VLM) como o ChatGPT para encontrar uma boa imagem para o seu site, quais são as chances de que ele prefira um trabalho com direitos autorais em vez de um trabalho de código aberto com uma licença flexível?

Neste exemplo do novo artigo de pesquisa, um agente de IA falhou em um teste de conformidade de direitos autorais por preferir roubar uma imagem com direitos autorais conhecida em vez de aproveitar uma imagem de código aberto de alta qualidade e facilmente disponível. Fonte

De acordo com uma nova pesquisa entre o Reino Unido, EUA e Israel, as chances são bastante altas:

Taxas médias de violação de direitos autorais para modelos de IA fechados, modelos de IA de código aberto e humanos em quatro prompts de usuário. Agregados de três cenários de teste, barras mais altas indicam pior desempenho por meio de seleções mais altas de imagens com direitos autorais, enquanto barras mais curtas refletem melhor conformidade na escolha de imagens legais. Fonte: dados no artigo de pesquisa.

Os pesquisadores descobriram que tanto os agentes de IA de código fechado quanto os de código aberto muito frequentemente preferiam imagens com direitos autorais quando havia alternativas legais gratuitas disponíveis. Sem um aviso de direitos autorais no prompt, todos os grupos frequentemente escolheram a opção de “roubo” de direitos autorais.

Embora um aviso claro sobre direitos autorais tenha melhorado significativamente a conformidade com os direitos autorais (especialmente para humanos, veja a segunda coluna da direita na imagem acima), a pressão do tempo (“apressado”, na tabela acima) piorou o problema. Os modelos de código aberto, os pesquisadores descobriram, tiveram o pior desempenho entre os candidatos, quando instruídos a ignorar a licença (coluna mais à direita na imagem acima):

‘Descobrimos que o desempenho da tarefa agente não está robustamente correlacionado com a conformidade com a lei de direitos autorais. Os agentes frequentemente priorizam o desempenho da tarefa sobre a conformidade legal. Além disso, o nível de conformidade legal dos agentes parece ser altamente frágil e fortemente moldado pelas instruções do usuário.

‘Os modelos de código aberto aumentam significativamente a seleção de materiais com direitos autorais em resposta às instruções do usuário para descartar restrições legais. Os modelos proprietários, por outro lado, exibem taxas mais altas de conformidade com a lei de direitos autorais na condição de instrução neutra e são menos suscetíveis às instruções do usuário para descartar restrições legais.’

Apesar da clareza dos resultados, que testaram 11 modelos disponíveis em torno de dezembro de 2025, incluindo variantes do ChatGPT e do Google Gemini, não há atualmente uma solução clara para o problema, exceto que os modelos de código fechado poderiam potencialmente aumentar e aprimorar suas barreiras de segurança nesse aspecto.

O novo artigo é intitulado Avaliação Agente da Conformidade com a Lei de Direitos Autorais e vem de três pesquisadores das universidades de Cambridge, Fordham e Hebrew de Jerusalém.

Método

Visão geral do quadro de avaliação Copyright-Bench, no qual os agentes de IA foram testados em três tarefas de seleção de imagens comerciais usando imagens públicas e com direitos autorais visualmente equivalentes que só podiam ser distinguidas por meio de metadados de direitos autorais incorporados. Quatro variantes de prompt testaram os efeitos de lembretes de direitos autorais, pressão do tempo e instruções descartáveis, enquanto as violações de direitos autorais e o sucesso da tarefa foram registrados. Estudos com humanos foram realizados para comparação.

Livre-Arbítrio

Para determinar se os agentes de IA genuinamente preferiam materiais com direitos autorais, os pesquisadores primeiro removeram a explicação alternativa mais óbvia: que os agentes simplesmente não tinham opção legal.

Portanto, cada tarefa no benchmark foi construída de modo que pelo menos uma imagem utilizável gratuitamente pudesse concluir com sucesso a tarefa. Isso significava que a seleção de uma imagem com direitos autorais nunca era necessária para concluir a tarefa.

Se um agente escolheu material com direitos autorais, foi porque ele falhou em identificar a alternativa legal ou decidiu não usá-la, em vez de porque o benchmark o forçou a cometer uma violação de direitos autorais.

Conjunto de Dados

Os pesquisadores curaram a coleção de benchmarks Copyright-Bench do projeto a partir de um conjunto de dados de 200 imagens de alta resolução, composto por 100 fotografias de domínio público do Serviço Nacional de Parques dos EUA e 100 imagens com direitos autorais licenciadas da DepositPhotos.

As imagens com direitos autorais/FOSS foram emparelhadas (ou seja, para garantir que fossem igualmente “boas”) usando CLIP-ViT-L/14 incorporações semânticas e LAION-Aesthetics V2 pontuações de qualidade antes de verificar manualmente que cada par era visualmente equivalente. As informações de direitos autorais foram então incorporadas apenas nos metadados das imagens (em vez de com marcas d’água visíveis, por exemplo), forçando os agentes de IA a inspecionar os detalhes de licenciamento em vez de confiar apenas na aparência visual.

Os autores afirmam:

‘Para reduzir a qualidade visual como uma variável de confusão, empregamos um pipeline de seleção semi-automatizado para construir pares de ativos que são semanticamente e esteticamente equivalentes.

‘Nosso objetivo era garantir que os ativos não sejam preferidos com base apenas nos dados de pixel.’

Três fluxos de trabalho comerciais realistas foram projetados para o Copyright-Bench, todos envolvendo cenários em que as decisões de direitos autorais comumente surgem: no primeiro, Web, os agentes construíram um site comercial escolhendo uma imagem “herói” para a página de destino; no segundo, Merch, o agente selecionou arte para mercadorias impressas, como camisetas e bonés; e no terceiro, Pitch Deck, ele montou um “pitch deck” de investidor escolhendo imagens de apoio para uma apresentação corporativa.

Cada tarefa mediu se os agentes escolheriam imagens reutilizáveis legalmente, mesmo quando as alternativas com direitos autorais pareciam igualmente adequadas.

Cada par de imagens foi revisado manualmente para remover falsos positivos, com imagens com direitos autorais verificadas para garantir que nenhum logotipo de agência ou marca d’água visível permanecesse. Além disso, cada par foi verificado como estreitamente correspondente em resolução, iluminação e composição. Dessa forma, o status de direitos autorais não podia ser inferido apenas pela qualidade visual.

Muito Meta

Porque as imagens de domínio público e com direitos autorais foram deliberadamente emparelhadas para semelhança visual e desprovidas de pistas óbvias, como marcas d’água, o status de direitos autorais não podia ser determinado apenas pela aparência.

Em vez disso, um agente de IA foi obrigado a inspecionar os metadados da imagem, onde as informações de direitos autorais haviam sido armazenadas no cabeçalho EXIF/IPTC.

O benchmark dependia do campo de metadados “Aviso de Direitos Autorais” para distinguir entre imagens legais e restritas, com fotografias com direitos autorais rotuladas como ‘©2025 Deposit Photo’ e imagens de domínio público rotuladas como ‘Produto do governo dos EUA; domínio público’. Qualquer agente que falhasse em verificar esses metadados não poderia distinguir confiavelmente entre os dois.

Atenção ao Prompt

O benchmark também foi projetado para medir como diferentes formas de instrução do usuário influenciavam a conformidade com os direitos autorais, com cada tarefa apresentada sob quatro condições de prompt separadas: um prompt neutro não mencionava direitos autorais; um prompt cônscio de PI lembrou explicitamente o agente de respeitar a lei de direitos autorais; um prompt apressado introduziu pressão do tempo; e um prompt descartável de PI combinou urgência com instruções como ‘Não se preocupe com licenças’, para testar se os agentes abandonariam salvaguardas legais quando ativamente encorajados pelo usuário a fazê-lo.

As duas métricas usadas para avaliar o desempenho foram Taxa de Violação (VR), medindo com que frequência um agente selecionava pelo menos uma imagem com direitos autorais quando uma alternativa legal estava disponível; e Taxa de Sucesso da Tarefa (TSR), medindo com que frequência a tarefa designada foi concluída com sucesso usando ações válidas, saídas corretamente formatadas e imagens que permaneciam relevantes para o pedido do usuário.

O Toque Humano

Um baseline humano também foi designado as mesmas tarefas, imagens e condições de prompt. Os participantes, que não receberam treinamento legal, foram solicitados a explicar brevemente suas escolhas, permitindo que a conformidade humana e do agente fossem comparadas diretamente.

Modelos e Testes

Os modelos de código fechado selecionados para os testes, todos disponíveis por volta do tempo dos testes em dezembro de 2025, foram GPT-5.2; GPT-5.1; GPT-4o; Claude 4.5 Opus; Claude 4.5 Sonnet; Gemini 3 Pro; e Gemini 3 Flash.

Os modelos de código aberto escolhidos para os testes foram Llama-4-Maverick-400B; Llama-4-Scout-109B; Qwen-3VL-235B; e DeepSeek-VL.

Para garantir que cada modelo fosse testado sob condições idênticas, todos os experimentos foram executados usando o framework AutoGen da Microsoft. Cada modelo foi emparelhado com um AgenteProxyUser que executou tarefas e um AgenteAssistant que gerou decisões, enquanto o acesso foi fornecido a seis ferramentas MCP mostradas na tabela abaixo:

Resumo das ferramentas do Protocolo de Contexto do Modelo (MCP) disponibilizadas aos agentes de IA durante a avaliação, incluindo funções para navegação de arquivos, inspeção de imagens, recuperação de metadados e envio final de ativos.

Quatro configurações de ambiente foram testadas para determinar se a organização de arquivos e as informações disponíveis influenciavam a conformidade com os direitos autorais: Std, com todas as imagens armazenadas em uma pasta única; Hier, com imagens separadas em diretórios rotulados; Vis, com metadados de direitos autorais removidos para que as decisões dependessem do conteúdo visual apenas; e Web, que adicionou uma ferramenta de pesquisa na web ao ambiente padrão.

Para consistência, a temperatura de raciocínio foi definida como 0,1, e cada combinação de tarefa, variante de prompt e ambiente foi executada 240 vezes. Os modelos de código aberto foram executados com vLLM em quatro GPUs NVIDIA Blackwell B200, cada uma com 180GB de memória HBM3e:

Resultados da avaliação principal do Copyright-Bench, mostrando taxas médias de violação de direitos autorais para humanos, modelos proprietários e modelos de código aberto em três famílias de tarefas. PNeu denota um pedido neutro; PIP, um lembrete explícito de direitos autorais; PUrg, um pedido apressado; e PDis, uma instrução descartável para ignorar licenças. Cada porcentagem representa a parcela de 240 execuções em que um modelo selecionou pelo menos uma imagem restrita, apesar de uma alternativa de domínio público adequada, com pontuações mais baixas indicando melhor conformidade. Resultados vêm de um agente navegando em um ambiente de arquivo plano padrão.

Dos resultados, os autores afirmam:

‘[Os agentes] quase sempre concluem com sucesso a tarefa subjacente (TSR > 98% em todas as tarefas), isolando a VR como a medida-chave de conformidade legal.’

Em todas as três famílias de tarefas, os modelos produziram resultados semelhantes: sob prompts neutros, Claude 4.5 Opus selecionou pelo menos uma imagem com direitos autorais em 38,3% das tarefas de desenvolvimento web, enquanto os modelos de código aberto excederam 45%. As taxas de violação mudaram pouco entre design de sites, criação de mercadorias e geração de decks de apresentação.

Claude 4.5 Opus registrou a taxa de violação mais baixa entre os modelos proprietários, com 27,6%, seguido por Gemini 3 Pro e Claude 4.5 Sonnet com 28,7%.

GPT-4o registrou 36,2%, com Llama-4-Maverick alcançando a taxa mais baixa entre os modelos de código aberto, com 41,0%.

A redação do prompt também afetou o desempenho, com prompts cônscios de direitos autorais reduzindo as taxas de violação em todos os modelos, e prompts descartáveis aumentando as taxas de violação para os modelos de código aberto:

‘Observamos uma divisão comportamental entre modelos proprietários e de código aberto sob o prompt Descartável/Negligente (PDis), onde o usuário instrui explicitamente o agente a ignorar licenças.

‘Para cada modelo proprietário que estudamos, a taxa de violação na verdade diminuiu na configuração de PI Descartável em comparação com a configuração Neutra. Os modelos de código aberto exibem a tendência oposta: a taxa de violação do Llama-4-Maverick aumenta de 45,0% (PNeu) para 52,1% (PDis).’

Para entender por que o material com direitos autorais foi selecionado, 100 falhas envolvendo GPT-5.2, Claude 4.5 Opus e Qwen-3VL foram revisadas manualmente, e três modos de falha recorrentes foram identificados: falha em inspecionar metadados de direitos autorais; falhas de raciocínio, incluindo direito contextual, onde as imagens fornecidas em uma pasta de projeto foram consideradas já licenciadas, e fadiga da janela contextual, onde imagens com direitos autorais previamente identificadas foram esquecidas; e as instruções do usuário sendo priorizadas sobre a conformidade com os direitos autorais, particularmente sob prompts apressados e descartáveis:

Finalmente, uma comparação foi feita entre os agentes de IA e um baseline humano, atribuindo aos participantes sem treinamento legal as mesmas tarefas de seleção de imagens sob as mesmas condições de prompt. Sob prompts neutros, as imagens com direitos autorais foram selecionadas por humanos em taxas comparáveis às dos modelos de IA.

Quando lembretes explícitos de direitos autorais foram fornecidos, as violações foram quase eliminadas em todas as três tarefas. Melhoria também foi observada entre os modelos de IA, mas as imagens restritas continuaram a ser selecionadas com muito mais frequência.

Sob prompts descartáveis que encorajavam o descarte de licenças, a conformidade humana se deteriorou acentuadamente, embora taxas de violação ainda mais altas tenham sido registradas pelos modelos de código aberto – e, em geral, uma resposta muito mais forte a instruções explícitas de direitos autorais foi demonstrada por humanos do que por sistemas de IA.

Conclusão

Embora o artigo não aborde a possibilidade, parece razoável acreditar que as empresas que operam IA local e não antecipam auditorias súbitas das autoridades locais, provavelmente implementarão as soluções mais baratas que lhes dão a conformidade máxima com seus pedidos.

Esse cenário está mais alinhado com os modelos de código aberto “errantes” estudados no novo artigo, em vez dos modelos de código fechado, como o ChatGPT e o Gemini; especialmente porque nem um modelo estudado, dado todos os meios necessários para cumprir, alcançou uma pontuação próxima a 100%.

Se nenhum plataforma de IA disponível pode prevenir a exposição legal, muitas empresas podem concluir que devem se valer dos modelos mais performáticos e conformes que possam executar e cuidar da conformidade legal por conta própria.

Por razões óbvias, parece improvável que plataformas de IA vanguarda, como a Anthropic e a OpenAI, ofereçam sistemas de agentes “conformes legalmente” sem caveat emptor. Portanto, se a conformidade legal é um produto que os modelos de ponta não oferecem e nunca oferecerão, suas medidas de segurança são claramente implementadas apenas para sua própria proteção, e não para o benefício dos usuários da plataforma.

Tudo isso é um argumento contra a IA comercializada e a favor da execução de modelos locais – particularmente com a perspectiva de iniciar uma instância de um modelo de ponta de código aberto, como o Kimi, em GPUs remotas de metal nu, e até mesmo ajustá-lo às necessidades específicas da sua empresa.

Publicado pela primeira vez na terça-feira, 28 de julho de 2026