O Problema da Plagiação: Como os Modelos de IA Gerativos Reproduzem Conteúdo com Direitos Autorais

Os rápidos avanços na IA gerativa despertaram entusiasmo sobre o potencial criativo da tecnologia. No entanto, esses poderosos modelos também apresentam riscos preocupantes em torno da reprodução de conteúdo com direitos autorais ou plagiado sem a devida atribuição.

Como as Redes Neurais Absorvem Dados de Treinamento

Os sistemas de IA modernos, como o GPT-3, são treinados por meio de um processo chamado de transferência de aprendizado. Eles ingerem conjuntos de dados maciços extraídos de fontes públicas, como sites, livros, artigos acadêmicos e muito mais. Por exemplo, os dados de treinamento do GPT-3 abrangiam 570 gigabytes de texto. Durante o treinamento, a IA procura padrões e relações estatísticas nesse vasto conjunto de dados. Ela aprende as correlações entre palavras, frases, parágrafos, estrutura de linguagem e outros recursos.

Isso permite que a IA gere novo texto coerente ou imagens, prevendo sequências prováveis de seguir um determinado input ou prompt. No entanto, também significa que esses modelos absorvem conteúdo sem considerar direitos autorais, atribuição ou riscos de plágio. Como resultado, as IAs gerativas podem reproduzir passagens idênticas ou parafrasear texto com direitos autorais de seus corpora de treinamento.

Exemplos Chave de Plágio de IA

Preocupações sobre plágio de IA surgiram proeminentemente desde 2020, após o lançamento do GPT.

Pesquisas recentes mostraram que grandes modelos de linguagem (LLMs) como o GPT-3 podem reproduzir passagens idênticas substanciais de seus dados de treinamento sem citação (Nasr et al., 2023; Carlini et al., 2022). Por exemplo, um processo movido pelo The New York Times revelou que o software da OpenAI gerou artigos do The New York Times quase idênticos (The New York Times, 2023).

Essas descobertas sugerem que alguns sistemas de IA gerativa podem produzir saídas plagiadas não solicitadas, correndo o risco de violar direitos autorais. No entanto, a prevalência permanece incerta devido à natureza de “caixa preta” dos LLMs. O processo do The New York Times argumenta que tais saídas constituem violação, o que poderia ter implicações significativas para o desenvolvimento de IA gerativa. Em geral, as evidências indicam que o plágio é um problema inerente aos grandes modelos de rede neural que requer vigilância e salvaguardas.

Esses casos revelam dois fatores-chave que influenciam os riscos de plágio de IA:

1. Tamanho do modelo – Modelos maiores, como o GPT-3.5, são mais propensos a regenerar passagens de texto idênticas em comparação com modelos menores. Seus conjuntos de dados de treinamento maiores aumentam a exposição a material de fonte com direitos autorais.
2. Dados de treinamento – Modelos treinados em dados da internet raspados ou obras com direitos autorais (mesmo que licenciadas) são mais propensos a plagiar em comparação com modelos treinados em conjuntos de dados cuidadosamente curados.

No entanto, medir diretamente a prevalência de saídas plagiadas é desafiador. A natureza de “caixa preta” das redes neurais torna difícil traçar completamente a ligação entre os dados de treinamento e as saídas do modelo. As taxas provavelmente dependem fortemente da arquitetura do modelo, da qualidade do conjunto de dados e da formulação do prompt. Mas esses casos confirmam que o plágio de IA ocorre inequivocamente, o que tem implicações legais e éticas críticas.

Sistemas Emergentes de Detecção de Plágio

Em resposta, os pesquisadores começaram a explorar sistemas de IA para detectar automaticamente texto e imagens gerados por modelos versus criados por humanos. Por exemplo, pesquisadores da Mila propuseram o GenFace, que analisa padrões linguísticos indicativos de texto escrito por IA. A startup Anthropic também desenvolveu capacidades internas de detecção de plágio para seu IA conversacional Claude.

No entanto, essas ferramentas têm limitações. Os dados de treinamento maciços de modelos como o GPT-3 tornam difícil, se não impossível, identificar as fontes originais de texto plagiado. Técnicas mais robustas serão necessárias à medida que os modelos gerativos continuam evoluindo rapidamente. Até então, a revisão manual permanece essencial para filtrar saídas de IA potencialmente plagiadas ou infratoras antes do uso público.

Melhores Práticas para Mitigar o Plágio de IA Gerativa

Aqui estão algumas melhores práticas que os desenvolvedores de IA e os usuários podem adotar para minimizar os riscos de plágio:

Para os desenvolvedores de IA:

• Verificar cuidadosamente as fontes de dados de treinamento para excluir material com direitos autorais ou licenciado sem permissão adequada.
• Desenvolver procedimentos rigorosos de documentação de dados e acompanhamento de procedência. Registrar metadados como licenças, tags, criadores, etc.
• Implementar ferramentas de detecção de plágio para sinalizar conteúdo de alto risco antes do lançamento.
• Fornecer relatórios de transparência detalhando as fontes de dados de treinamento, licenças e origens das saídas de IA quando surgem preocupações.
• Permitir que os criadores de conteúdo optem por sair facilmente dos conjuntos de dados de treinamento. Cumprir prontamente com solicitações de remoção ou exclusão.

Para os usuários de IA gerativa:

• Examinar minuciosamente as saídas para qualquer passagem potencialmente plagiada ou não atribuída antes de implantar em larga escala.
• Evitar tratar a IA como sistemas criativos totalmente autônomos. Ter revisores humanos examinando o conteúdo final.
• Favor a criação assistida por humanos sobre a geração de conteúdo completamente novo do zero. Use modelos para parafrasear ou ideação em vez disso.
• Consultar os termos de serviço do provedor de IA, políticas de conteúdo e salvaguardas contra plágio antes do uso. Evite modelos opacos.
• Citar fontes claramente se qualquer material com direitos autorais aparecer na saída final, apesar dos melhores esforços. Não apresente o trabalho de IA como totalmente original.
• Limitar a compartilhamento de saídas privadamente ou confidencialmente até que os riscos de plágio possam ser mais avaliados e abordados.

Regulamentações mais estritas sobre dados de treinamento podem ser justificadas à medida que os modelos gerativos continuam se proliferando. Isso poderia envolver exigir consentimento explícito dos criadores antes que seu trabalho seja adicionado aos conjuntos de dados. No entanto, a responsabilidade recai sobre ambos, desenvolvedores e usuários, para empregar práticas éticas de IA que respeitem os direitos dos criadores de conteúdo.

Plágio no V6 Alpha do Midjourney

Após um prompt limitado, o modelo V6 do Midjourney gerou imagens quase idênticas a filmes, programas de TV e telas de videogames com direitos autorais, provavelmente incluídos em seus dados de treinamento.

Imagens Criadas pelo Midjourney Semelhantes a Cenas de Filmes e Videogames Famosos

Esses experimentos confirmam ainda mais que mesmo os sistemas de IA visuais de ponta podem plagiar involuntariamente conteúdo protegido se a fonte dos dados de treinamento permanecer sem verificação. Isso destaca a necessidade de vigilância, salvaguardas e supervisão humana ao implantar modelos gerativos comercialmente para limitar os riscos de violação de direitos autorais.

Resposta das Empresas de IA sobre Conteúdo com Direitos Autorais

As linhas entre criatividade humana e de IA estão se tornando cada vez mais difusas, criando questões complexas de direitos autorais. Obras que misturam entrada humana e de IA podem ser protegidas por direitos autorais apenas nos aspectos executados exclusivamente pelo ser humano.

O Escritório de Direitos Autorais dos EUA recentemente negou direitos autorais à maioria dos aspectos de uma graphic novel de IA-humana, considerando a arte de IA como não humana. Ele também emitiu orientações que excluem sistemas de IA da “autoria”. Tribunais federais confirmaram essa posição em um caso de direitos autorais de arte de IA.

Enquanto isso, processos alegam que modelos de IA gerativa violam direitos autorais, como Getty v. Stability AI e artistas v. Midjourney/Stability AI. No entanto, sem “autores” de IA, alguns questionam se as alegações de violação se aplicam.

Em resposta, grandes empresas de IA, como Meta, Google (GOOGL ), Microsoft (MSFT ) e Apple (AAPL ), argumentaram que não deveriam precisar de licenças ou pagar royalties para treinar modelos de IA em dados com direitos autorais.

Aqui está um resumo dos principais argumentos das grandes empresas de IA em resposta a possíveis novas regras de direitos autorais dos EUA em torno da IA, com citações:

Meta argumenta que impor licenças agora causaria caos e proporcionaria pouco benefício aos detentores de direitos autorais.

Google afirma que o treinamento de IA é análogo a atos não infractores, como ler um livro (Google, 2022).

Microsoft alerta que alterar a lei de direitos autorais poderia prejudicar os desenvolvedores de IA menores.

Apple deseja proteger por direitos autorais o código gerado por IA controlado por desenvolvedores humanos.

Em geral, a maioria das empresas se opõe a novos mandatos de licenciamento e minimiza as preocupações sobre sistemas de IA que reproduzem obras protegidas sem atribuição. No entanto, essa posição é controversa, considerando os recentes processos de direitos autorais de IA e debates.

Caminhos para a Inovação Responsável de IA Gerativa

À medida que esses poderosos modelos gerativos continuam avançando, é crucial fechar as lacunas de risco de plágio para a aceitação geral. Uma abordagem multifacetada é necessária:

• Reformas de políticas em torno da transparência dos dados de treinamento, licenças e consentimento dos criadores.
• Tecnologias de detecção de plágio mais fortes e governança interna pelos desenvolvedores.
• Maior conscientização do usuário sobre os riscos e adesão a princípios éticos de IA.
• Precedentes legais claros e jurisprudência em torno de questões de direitos autorais de IA.

Com as salvaguardas certas, a criação assistida por IA pode florescer eticamente. No entanto, os riscos não controlados de plágio poderiam minar significativamente a confiança pública. Abordar diretamente esse problema é fundamental para realizar o imenso potencial criativo da IA gerativa, respeitando os direitos dos criadores. Atingir o equilíbrio certo exigirá confrontar ativamente o ponto cego do plágio construído na própria natureza das redes neurais. Mas fazer isso garantirá que esses poderosos modelos não minem a ingenuidade humana que eles visam aumentar.