Identidades Reais Podem Ser Recuperadas a Partir de Conjuntos de Dados Sintéticos

Se 2022 marcou o momento em que o potencial disruptivo da inteligência artificial gerativa primeiro capturou a atenção do grande público, 2024 tem sido o ano em que as questões sobre a legalidade dos dados subjacentes têm ocupado o centro das atenções para as empresas ansiosas para aproveitar seu poder.

A doutrina de uso justo dos EUA, juntamente com a licença acadêmica implícita que havia permitido longamente que os setores de pesquisa acadêmica e comercial explorassem a inteligência artificial gerativa, tornou-se cada vez mais insustentável à medida que surgiam evidências crescentes de plágio. Posteriormente, os EUA, por enquanto, proibiram o conteúdo gerado por IA de ser protegido por direitos autorais.

Essas questões estão longe de ser resolvidas e longe de serem resolvidas imediatamente; em 2023, devido em parte à crescente preocupação midiática e pública sobre o status legal da saída da IA gerativa, o Escritório de Direitos Autorais dos EUA lançou uma investigação de vários anos sobre esse aspecto da inteligência artificial gerativa, publicando o primeiro segmento (concernente a réplicas digitais) em julho de 2024.

Enquanto isso, os interesses comerciais permanecem frustrados com a possibilidade de que os modelos caros que desejam explorar possam expô-los a ramificações legais quando a legislação e as definições definitivas eventualmente emergirem.

A solução cara de curto prazo tem sido legitimar os modelos gerativos treinando-os em dados que as empresas têm o direito de explorar. A arquitetura de texto-para-imagem (e agora texto-para-vídeo) Firefly da Adobe é alimentada principalmente por sua aquisição do conjunto de dados de imagens de estoque Fotolia em 2014, suplementada pelo uso de dados de domínio público com direitos autorais expirados*. Ao mesmo tempo, fornecedores de fotos de estoque incumbentes, como Getty e Shutterstock, capitalizaram sobre o novo valor de seus dados licenciados, com um número crescente de acordos para licenciar conteúdo ou desenvolver seus próprios sistemas de GenAI compatíveis com IP.

Soluções Sintéticas

Desde que remover dados com direitos autorais do espaço latente treinado de um modelo de IA é repleto de problemas, erros nessa área poderiam potencialmente ser muito caros para as empresas que experimentam soluções de consumo e negócios que usam aprendizado de máquina.

Uma alternativa, e muito mais barata, para sistemas de visão computacional (e também para Modelos de Linguagem Grande, ou LLMs), é o uso de dados sintéticos, onde o conjunto de dados é composto por exemplos gerados aleatoriamente do domínio-alvo (como faces, gatos, igrejas ou até mesmo um conjunto de dados mais generalizado).

Sites como thispersondoesnotexist.com popularizaram há muito tempo a ideia de que fotos autênticas de “pessoas não reais” poderiam ser sintetizadas (neste caso específico, por meio de Redes Adversárias Gerativas, ou GANs) sem ter nenhuma relação com pessoas que realmente existem no mundo real.

Portanto, se você treinar um sistema de reconhecimento facial ou um sistema gerativo em tais exemplos abstratos e não reais, você pode, em teoria, obter um padrão fotorealista de produtividade para um modelo de IA sem precisar considerar se os dados são legalmente utilizáveis.

Equilíbrio

O problema é que os sistemas que produzem dados sintéticos são eles mesmos treinados em dados reais. Se vestígios desses dados se infiltram nos dados sintéticos, isso potencialmente fornece evidências de que material restrito ou não autorizado foi explorado para ganho monetário.

Para evitar isso e para produzir imagens verdadeiramente “aleatórias”, esses modelos precisam garantir que estejam bem generalizados. A generalização é a medida da capacidade de um modelo de IA treinado de entender conceitos de alto nível (como “face”, “homem” ou “mulher”) sem recorrer à replicação dos dados de treinamento reais.

Infelizmente, pode ser difícil para os sistemas treinados produzir (ou reconhecer) detalhes granulares, a menos que eles sejam treinados extensivamente em um conjunto de dados. Isso expõe o sistema ao risco de memorização: uma tendência a reproduzir, em certa medida, exemplos dos dados de treinamento reais.

Isso pode ser mitigado definindo uma taxa de aprendizado mais relaxada ou interrompendo o treinamento em uma etapa em que os conceitos centrais ainda são ductíveis e não associados a nenhum ponto de dados específico (como uma imagem específica de uma pessoa, no caso de um conjunto de dados de faces).

No entanto, ambas as soluções provavelmente levarão a modelos com menos detalhes granulares, desde que o sistema não teve a chance de progredir além dos “básicos” do domínio-alvo e até os detalhes específicos.

Portanto, na literatura científica, taxas de aprendizado muito altas e cronogramas de treinamento abrangentes são geralmente aplicados. Embora os pesquisadores geralmente tentem comprometer entre a aplicabilidade ampla e a granularidade no modelo final, mesmo sistemas ligeiramente “memorizados” podem frequentemente se apresentar como bem generalizados – mesmo nos testes iniciais.

Revelação do Rosto

Isso nos leva a um novo artigo interessante da Suíça, que afirma ser o primeiro a demonstrar que as imagens reais originais que alimentam os dados sintéticos podem ser recuperadas a partir de imagens geradas que, em teoria, deveriam ser completamente aleatórias:

Exemplos de imagens de faces vazadas a partir dos dados de treinamento. Na linha acima, vemos as imagens reais (originais); na linha abaixo, vemos imagens geradas aleatoriamente, que concordam significativamente com as imagens reais. Source: https://arxiv.org/pdf/2410.24015

Os resultados, argumentam os autores, indicam que os geradores “sintéticos” de fato memorizaram muitos dos pontos de dados de treinamento, em sua busca por maior granularidade. Eles também indicam que os sistemas que confiam em dados sintéticos para proteger os produtores de IA de consequências legais poderiam ser muito pouco confiáveis a esse respeito.

Os pesquisadores conduziram um estudo extensivo em seis conjuntos de dados sintéticos de ponta, demonstrando que em todos os casos, dados originais (potencialmente protegidos por direitos autorais ou protegidos) podem ser recuperados. Eles comentam:

‘Nossos experimentos demonstram que conjuntos de dados sintéticos de reconhecimento facial de ponta contêm amostras que são muito próximas de amostras nos dados de treinamento de seus modelos geradores. Em alguns casos, as amostras sintéticas contêm pequenas alterações na imagem original, no entanto, também podemos observar em alguns casos que a amostra gerada contém mais variação (por exemplo, pose diferente, condição de luz, etc.) enquanto a identidade é preservada.

‘Isso sugere que os modelos geradores estão aprendendo e memorizando as informações relacionadas à identidade a partir dos dados de treinamento e podem gerar identidades semelhantes. Isso cria preocupações críticas com relação à aplicação de dados sintéticos em tarefas sensíveis à privacidade, como biometria e reconhecimento facial.’

O artigo é intitulado Desvendando Rostos Sintéticos: Como Conjuntos de Dados Sintéticos Podem Expor Identidades Reais, e vem de dois pesquisadores do Instituto de Pesquisa Idiap em Martigny, da École Polytechnique Fédérale de Lausanne (EPFL) e da Université de Lausanne (UNIL) em Lausanne.

Método, Dados e Resultados

As faces memorizadas no estudo foram reveladas por meio de um Ataque de Inferência de Membros. Embora o conceito soe complicado, é bastante autoexplicativo: inferir a participação, neste caso, refere-se ao processo de questionar um sistema até que ele revele dados que correspondam aos dados que você está procurando ou que se assemelham significativamente a eles.

Mais exemplos de fontes de dados inferidas, do estudo. Neste caso, as imagens sintéticas de origem são do conjunto de dados DCFace.

Os pesquisadores estudaram seis conjuntos de dados sintéticos para os quais a fonte de dados real era conhecida. Como tanto os conjuntos de dados reais quanto os conjuntos de dados falsos em questão contêm um volume muito grande de imagens, isso é efetivamente como procurar uma agulha no palheiro.

Portanto, os autores usaram um modelo de reconhecimento facial pronto para uso com uma estrutura ResNet100 treinada no conjunto de dados WebFace12M.

Os seis conjuntos de dados sintéticos usados foram: DCFace (um modelo de difusão latente); IDiff-Face (Uniforme – um modelo de difusão baseado em FFHQ); IDiff-Face (Dois estágios – uma variante que usa um método de amostragem diferente); GANDiffFace (baseado em Redes Adversárias Gerativas e Modelos de Difusão, usando StyleGAN3 para gerar identidades iniciais e, em seguida, DreamBooth para criar exemplos variados); IDNet (um método baseado em GAN, baseado em StyleGAN-ADA); e SFace (um quadro de proteção de identidade).

Como o GANDiffFace usa tanto métodos GAN quanto de difusão, foi comparado ao conjunto de dados de treinamento do StyleGAN – o mais próximo de uma “origem de rosto real” que essa rede fornece.

Os autores excluíram conjuntos de dados sintéticos que usam CGI em vez de métodos de IA e, ao avaliar os resultados, descontaram combinações para crianças, devido a anomalias distribucionais a este respeito, bem como imagens não faciais (que podem ocorrer frequentemente em conjuntos de dados de faces, onde sistemas de raspagem da web produzem falsos positivos para objetos ou artefatos que têm qualidades semelhantes a faces).

A semelhança coseno foi calculada para todos os pares recuperados e concatenada em histogramas, ilustrados abaixo:

Uma representação de histograma para as pontuações de semelhança coseno calculadas em todo o conjunto de dados diversificado, juntamente com os valores relacionados de semelhança para os pares de topo-k (linhas verticais tracejadas).

O número de semelhanças é representado nos picos no gráfico acima. O artigo também apresenta comparações de amostra dos seis conjuntos de dados e suas imagens estimadas correspondentes nos conjuntos de dados reais (originais), das quais algumas seleções são apresentadas abaixo:

Amostras das muitas instâncias reproduzidas no artigo de origem, ao qual o leitor é remetido para uma seleção mais abrangente.

O artigo comenta:

‘[Os] conjuntos de dados sintéticos gerados contêm imagens muito semelhantes dos conjuntos de treinamento de seus modelos geradores, o que levanta preocupações com relação à geração de tais identidades.’

Os autores observam que, para essa abordagem específica, escalar para conjuntos de dados de maior volume provavelmente será ineficiente, pois o cálculo necessário seria extremamente oneroso. Eles observam ainda que a comparação visual foi necessária para inferir combinações e que o reconhecimento facial automatizado sozinho não seria provavelmente suficiente para uma tarefa maior.

Com relação às implicações da pesquisa e com vista para os caminhos futuros, o trabalho afirma:

‘[Nós] gostaríamos de destacar que a principal motivação para gerar conjuntos de dados sintéticos é abordar preocupações de privacidade no uso de conjuntos de dados de faces de grande escala coletados na web.

‘Portanto, o vazamento de qualquer informação sensível (como identidades de imagens reais nos dados de treinamento) no conjunto de dados sintéticos desperta preocupações críticas com relação à aplicação de dados sintéticos para tarefas sensíveis à privacidade, como biometria. Nosso estudo lança luz sobre as armadilhas de privacidade na geração de conjuntos de dados sintéticos de reconhecimento facial e abre caminho para estudos futuros visando conjuntos de dados sintéticos responsáveis.’

Embora os autores prometam uma versão do código para esse trabalho na página do projeto, não há link de repositório atual.

Conclusão

Recentemente, a atenção da mídia tem enfatizado os retornos decrescentes obtidos ao treinar modelos de IA em dados gerados por IA.

O novo estudo suíço, no entanto, traz para o foco uma consideração que pode ser mais premente para o número crescente de empresas que desejam aproveitar e lucrar com a inteligência artificial gerativa – a persistência de padrões de dados protegidos por direitos autorais ou não autorizados, mesmo em conjuntos de dados projetados para combater essa prática. Se tivéssemos que dar uma definição, neste caso, poderia ser chamado de “lavagem de rosto”.

* No entanto, a decisão da Adobe de permitir que imagens geradas por IA sejam carregadas para o Adobe Stock efetivamente minou a “pureza” legal desses dados. A Bloomberg afirmou em abril de 2024 que imagens fornecidas pelos usuários do sistema de IA gerativa MidJourney haviam sido incorporadas às capacidades do Firefly.

^† Este modelo não é identificado no artigo.

Publicado pela primeira vez na quarta-feira, 6 de novembro de 2024