Como Parar a IA de Representar iPhones em Eras Passadas

Como os geradores de imagens de IA representam o passado? Novas pesquisas indicam que eles colocam smartphones no século XVIII, inserem laptops em cenas dos anos 1930 e colocam aspiradores de pó em casas do século XIX, levantando questões sobre como esses modelos imaginam a história – e se eles são capazes de precisão histórica contextual.

No início de 2024, as capacidades de geração de imagens do modelo de IA multimodal Gemini, da Google, foram criticadas por impor justiça demográfica em contextos inadequados, como gerar soldados alemães da Segunda Guerra Mundial com provênencia improvável:

Pessoal militar alemão demograficamente improvável, como imaginado pelo modelo multimodal Gemini da Google em 2024. Fonte: Gemini AI/Google via The Guardian

Isso foi um exemplo de como esforços para corrigir vieses em modelos de IA falharam em considerar o contexto histórico. Nesse caso, o problema foi resolvido logo após. No entanto, modelos baseados em difusão permanecem propensos a gerar versões da história que confundem aspectos e artefatos modernos e históricos.

Isso ocorre em parte devido à entrelaçamento, onde qualidades que frequentemente aparecem juntas nos dados de treinamento se fundem na saída do modelo. Por exemplo, se objetos modernos como smartphones frequentemente co-ocorrem com a ação de falar ou ouvir no conjunto de dados, o modelo pode aprender a associar essas atividades com dispositivos modernos, mesmo quando o prompt especifica um cenário histórico. Uma vez que essas associações estão incorporadas nas representações internas do modelo, torna-se difícil separar a atividade de seu contexto contemporâneo, levando a resultados historicamente imprecisos.

Um novo artigo da Suíça, que examina o fenômeno de gerações históricas entrelaçadas em modelos de difusão latente, observa que estruturas de IA que são bastante capazes de criar pessoas fotorealistas preferem representar figuras históricas de maneira histórica:

Do novo artigo, representações diversas via LDM do prompt ‘Uma imagem fotorealista de uma pessoa rindo com um amigo em [o período histórico]’, com cada período indicado em cada saída. Como podemos ver, o meio da era se tornou associado ao conteúdo. Fonte: https://arxiv.org/pdf/2505.17064

Para o prompt ‘Uma imagem fotorealista de uma pessoa rindo com um amigo em [o período histórico]’, um dos três modelos testados frequentemente ignora o prompt negativo ‘monocromático’ e, em vez disso, usa tratamentos de cor que refletem a mídia visual da era especificada, por exemplo, imitando os tons suaves do filme de celulose dos anos 1950 e 1970.

Em testes dos três modelos para sua capacidade de criar anacronismos (coisas que não são do período alvo, ou ‘fora do tempo’ – que podem ser do futuro ou do passado do período), eles encontraram uma tendência geral de confundir atividades atemporais (como ‘cantar’ ou ‘cozinhar’) com contextos e equipamentos modernos:

Atividades diversas que são perfeitamente válidas para séculos anteriores são representadas com tecnologia e parafernália atuais ou mais recentes, contra o espírito da imagem solicitada.

Notável é que smartphones são particularmente difíceis de separar do idioma da fotografia e de muitos outros contextos históricos, desde que sua proliferação e representação são bem-representadas em conjuntos de dados de grande escala, como o Common Crawl:

No modelo de texto-para-imagem Flux, comunicações e smartphones são conceitos estreitamente associados – mesmo quando o contexto histórico não o permita.

Para determinar a extensão do problema e dar às futuras pesquisas uma direção para resolver esse problema específico, os autores do novo artigo desenvolveram um conjunto de dados personalizado para testar sistemas geradores. Em um momento, vamos examinar esse novo trabalho, intitulado História Sintética: Avaliando Representações Visuais do Passado em Modelos de Difusão, que vem de dois pesquisadores da Universidade de Zurique. O conjunto de dados e o código estão disponíveis publicamente.

Uma ‘Verdade’ Frágil

Algumas das temáticas do artigo tocam em questões culturalmente sensíveis, como a sub-representação de raças e gênero em representações históricas. Embora a imposição de igualdade racial pelo Gemini em contextos históricos inadequados, como a Alemanha nazista, seja uma revisão histórica absurda e insultuosa, restaurar ‘representações tradicionais’ (onde os modelos de difusão ‘atualizaram’ essas) frequentemente resultaria em ‘re-branquear’ a história.

Muitos shows históricos recentes, como Bridgerton, distorcem a precisão demográfica histórica de maneiras que provavelmente influenciarão futuros conjuntos de dados de treinamento, complicando esforços para alinhar imagens de período geradas por LLM com padrões tradicionais. No entanto, este é um tópico complexo, dado a tendência histórica da (história ocidental) de favorecer a riqueza e a brancura, e deixar tantas ‘histórias menores’ não contadas.

Considerando esses parâmetros culturais complicados e em constante mudança, vamos examinar a nova abordagem dos pesquisadores.

Método e Testes

Para testar como os modelos geradores interpretam o contexto histórico, os autores criaram HistVis, um conjunto de dados de 30.000 imagens produzidas a partir de cem prompts que representam atividades humanas comuns, cada uma renderizada em dez períodos de tempo distintos:

Uma amostra do conjunto de dados HistVis, que os autores disponibilizaram no Hugging Face. Fonte: https://huggingface.co/datasets/latentcanon/HistVis

As atividades, como cozinhar, orar ou ouvir música, foram escolhidas por sua universalidade e formuladas de forma neutra para evitar ancorar o modelo em qualquer estética particular. Os períodos de tempo para o conjunto de dados variam do século XVII ao presente, com foco adicional em cinco décadas individuais do século XX.

30.000 imagens foram geradas usando três modelos de difusão de código aberto amplamente utilizados: Stable Diffusion XL; Stable Diffusion 3; e FLUX.1. Ao isolar o período de tempo como a única variável, os pesquisadores criaram uma base estruturada para avaliar como os sistemas codificam visualmente os sinais históricos ou os ignoram.

Domínio do Estilo Visual

O autor inicialmente examinou se os modelos geradores recorrem a estilos visuais específicos ao representar períodos históricos; pois parecia que, mesmo quando os prompts não mencionavam meio ou estética, os modelos frequentemente associavam séculos específicos a estilos característicos:

Estilos visuais previstos para imagens geradas a partir do prompt ‘Uma pessoa dançando com outra no [período histórico]’ (esquerda) e do prompt modificado ‘Uma imagem fotorealista de uma pessoa dançando com outra no [período histórico]’ com ‘imagem em preto e branco’ definida como um prompt negativo (direita).

Para medir essa tendência, os autores treinaram uma rede neural convolucional (CNN) para classificar cada imagem no conjunto de dados HistVis em uma das cinco categorias: desenho; gravura; ilustração; pintura; ou fotografia. Essas categorias foram projetadas para refletir padrões comuns que surgem ao longo dos períodos de tempo e que suportam comparações estruturadas.

O classificador foi baseado em um modelo VGG16 pré-treinado no ImageNet e ajustado finamente com 1.500 exemplos por classe de um conjunto de dados derivado do WikiArt. Como o WikiArt não distingue imagens em preto e branco de imagens em cores, uma pontuação de colorido separada foi usada para rotular imagens de baixa saturação como imagens em preto e branco.

O classificador treinado foi então aplicado ao conjunto de dados completo, com os resultados mostrando que todos os três modelos impõem estilos visuais padrão consistentes por período: SDXL associa os séculos XVII e XVIII a gravuras, enquanto SD3 e FLUX.1 tendem a pinturas. Nas décadas do século XX, SD3 favorece a fotografia em preto e branco, enquanto SDXL frequentemente retorna ilustrações modernas.

Essas preferências persistem apesar das ajustes nos prompts, sugerindo que os modelos codificam ligações profundamente enraizadas entre estilo e contexto histórico.

Estilos visuais previstos de imagens geradas ao longo dos períodos históricos para cada modelo de difusão, com base em 1.000 amostras por período por modelo.

Para quantificar o quão fortemente um modelo liga um período histórico a um estilo visual específico, os autores desenvolveram uma métrica que intitularam Domínio do Estilo Visual (VSD). Para cada modelo e período de tempo, VSD é definido como a proporção de saídas previstas para compartilhar o estilo mais comum:

Exemplos de vieses estilísticos nos modelos.

Um escore mais alto indica que um único estilo domina as saídas para aquele período, enquanto um escore mais baixo aponta para uma maior variação. Isso torna possível comparar como cada modelo adere a convenções estilísticas específicas ao longo do tempo.

Aplicado ao conjunto de dados HistVis completo, a métrica VSD revela níveis diferentes de convergência, ajudando a esclarecer como fortemente cada modelo restringe sua interpretação visual do passado:

A tabela de resultados acima mostra os escores VSD ao longo dos períodos históricos para cada modelo. Nos séculos XVII e XVIII, SDXL tende a produzir gravuras com alta consistência, enquanto SD3 e FLUX.1 favorecem a pintura. Nos séculos XX e XXI, SD3 e FLUX.1 mudam para a fotografia, enquanto SDXL mostra mais variação, mas frequentemente recorre à ilustração.

Todos os três modelos demonstram uma forte preferência por imagens em preto e branco nas primeiras décadas do século XX, particularmente nos anos 1910, 1930 e 1950.

Para testar se esses padrões poderiam ser mitigados, os autores usaram engenharia de prompts, solicitando explicitamente fotorealismo e desencorajando saídas em preto e branco usando um prompt negativo. Em alguns casos, os escores de domínio diminuíram, e o estilo líder mudou, por exemplo, de preto e branco para pintura, nos séculos XVII e XVIII.

No entanto, essas intervenções raramente produziram imagens genuinamente fotorealistas, indicando que os padrões estilísticos dos modelos estão profundamente enraizados.

Consistência Histórica

A próxima linha de análise examinou a consistência histórica: se as imagens geradas incluíam objetos que não se encaixavam no período de tempo. Em vez de usar uma lista fixa de itens proibidos, os autores desenvolveram um método flexível que aproveitou modelos de linguagem grande (LLMs) e modelos de visão-linguagem (VLMs) para detectar elementos que pareciam fora do lugar com base no contexto histórico.

O método de detecção seguiu o mesmo formato do conjunto de dados HistVis, onde cada prompt combinava um período histórico com uma atividade humana. Para cada prompt, o GPT-4o gerou uma lista de objetos que estariam fora do lugar no período de tempo especificado; e para cada objeto proposto, o GPT-4o produziu uma pergunta sim ou não projetada para verificar se aquele objeto aparecia na imagem gerada.

Por exemplo, dado o prompt ‘Uma pessoa ouvindo música no século XVIII’, o GPT-4o poderia identificar dispositivos de áudio modernos como historicamente imprecisos e produzir a pergunta Está a pessoa usando fones de ouvido ou um smartphone que não existia no século XVIII?.

Essas perguntas foram passadas de volta ao GPT-4o em um setup de resposta a perguntas visuais, onde o modelo revisou a imagem e retornou um sim ou não para cada. Esse pipeline permitiu a detecção de conteúdo historicamente implausível sem confiar em qualquer taxonomia pré-definida de objetos modernos:

Exemplos de imagens geradas sinalizadas pelo método de detecção de duas etapas, mostrando elementos anacrônicos: fones de ouvido no século XVIII; um aspirador de pó no século XIX; um laptop nos anos 1930; e um smartphone nos anos 1950.

Para medir a frequência com que anacronismos apareciam nas imagens geradas, os autores introduziram um método simples para pontuar frequência e gravidade. Primeiro, eles contabilizaram diferenças menores na forma como o GPT-4o descrevia o mesmo objeto.

Por exemplo, dispositivo de áudio moderno e dispositivo de áudio digital foram tratados como equivalentes. Para evitar contar em dobro, um sistema de correspondência difusa foi usado para agrupar essas variações de superfície sem afetar conceitos genuinamente distintos.

Uma vez que todos os anacronismos propostos foram normalizados, duas métricas foram computadas: frequência mediu o quão frequentemente um objeto dado aparecia em imagens para um modelo e período específicos; e gravidade mediu o quão consistentemente aquele objeto aparecia uma vez que havia sido sugerido pelo modelo.

Se um telefone moderno foi sinalizado dez vezes e apareceu em dez imagens geradas, recebeu um escore de gravidade de 1,0. Se apareceu apenas cinco vezes, o escore de gravidade foi 0,5. Esses escores ajudaram a identificar não apenas se anacronismos ocorreram, mas como firmemente estavam incorporados na saída do modelo para cada período:

Os quinze principais elementos anacrônicos para cada modelo, plotados pela frequência no eixo x e gravidade no eixo y. Círculos marcam elementos classificados nos quinze principais por frequência, triângulos por gravidade e diamantes por ambos.

Acima, vemos os quinze anacronismos mais comuns para cada modelo, classificados por frequência e gravidade.

Roupas foram frequentes, mas dispersas, enquanto itens como dispositivos de áudio e equipamentos de engomar apareceram menos frequentemente, mas com alta consistência – padrões que sugerem que os modelos frequentemente respondem mais à atividade no prompt do que ao período de tempo.

SD3 mostrou a taxa mais alta de anacronismos, especialmente em imagens do século XIX e dos anos 1930, seguido por FLUX.1 e SDXL.

Para testar como bem o método de detecção concordava com o julgamento humano, os autores realizaram um estudo com usuários que apresentou 1.800 imagens aleatoriamente amostradas do SD3 (o modelo com a taxa mais alta de anacronismos), com cada imagem avaliada por três trabalhadores da multidão. Após filtrar respostas confiáveis, 2.040 julgamentos de 234 usuários foram incluídos, e o método concordou com o voto majoritário em 72 por cento dos casos.

Interface do estudo de avaliação humana, mostrando instruções da tarefa, exemplos de imagens precisas e anacrônicas, e perguntas sim ou não para identificar inconsistências temporais em saídas geradas.

Demografia

A última análise examinou como os modelos retratam raça e gênero ao longo do tempo. Usando o conjunto de dados HistVis, os autores compararam as saídas do modelo com estimativas de base geradas por um modelo de linguagem. Essas estimativas não eram precisas, mas ofereciam uma noção geral de plausibilidade histórica, ajudando a revelar se os modelos adaptam as representações ao período pretendido.

Para avaliar essas representações em larga escala, os autores construíram um pipeline que comparou as saídas do modelo com expectativas aproximadas para cada tempo e atividade. Eles primeiro usaram o classificador FairFace, uma ferramenta baseada em ResNet34 treinada em mais de cem mil imagens, para detectar gênero e raça nas saídas geradas, permitindo a medição de quão frequentemente faces em cada cena eram classificadas como masculinas ou femininas e o rastreamento de categorias raciais ao longo dos períodos.

Exemplos de imagens geradas mostrando super-representação demográfica em diferentes modelos, períodos de tempo e atividades.

Resultados de baixa confiança foram filtrados para reduzir ruído, e previsões foram averages sobre todas as imagens ligadas a um tempo e atividade específicos. Para verificar a confiabilidade das leituras do FairFace, um segundo sistema baseado no DeepFace foi usado em uma amostra de 5.000 imagens. Os dois classificadores mostraram forte concordância, apoiando a consistência das leituras demográficas usadas no estudo.

Para comparar as saídas do modelo com a plausibilidade histórica, os autores pediram ao GPT-4o que estimasse a distribuição de gênero e raça esperada para cada atividade e período de tempo. Essas estimativas serviram como linhas de base aproximadas, em vez de verdades absolutas. Duas métricas foram então usadas: sub-representação e super-representação, medindo o quanto as saídas do modelo se desviavam das expectativas do LLM.

Os resultados mostraram padrões claros: FLUX.1 frequentemente super-representou homens, mesmo em cenários como cozinhar, onde as mulheres eram esperadas; SD3 e SDXL mostraram tendências semelhantes em categorias como trabalho, educação e religião; faces brancas apareceram mais do que o esperado no geral, embora esse viés declinasse em períodos mais recentes; e algumas categorias mostraram picos inesperados na representação não branca, sugerindo que o comportamento do modelo pode refletir correlações no conjunto de dados em vez de contexto histórico:

Super-representação e sub-representação de gênero e raça nas saídas do FLUX.1 ao longo dos séculos e atividades, mostradas como diferenças absolutas das estimativas demográficas do GPT-4o.

Os autores concluem:

‘Nossa análise revela que os modelos de texto-para-imagem (TTI) confiam em codificações estilísticas limitadas em vez de compreensões matizadas de períodos históricos. Cada era está fortemente ligada a um estilo visual específico, resultando em retratos unidimensionais da história.

‘Notavelmente, representações fotorealistas de pessoas aparecem apenas a partir do século XX, com apenas raras exceções no FLUX.1 e SD3, sugerindo que os modelos reforçam associações aprendidas em vez de se adaptar flexivelmente a contextos históricos, perpetuando a noção de que o realismo é uma característica moderna.

‘Além disso, anacronismos frequentes sugerem que períodos históricos não estão limpa e claramente separados nos espaços latentes desses modelos, pois artefatos modernos frequentemente surgem em contextos pré-modernos, comprometendo a confiabilidade dos sistemas TTI em contextos de educação e patrimônio cultural.’

Conclusão

Durante o treinamento de um modelo de difusão, novos conceitos não se estabelecem de forma organizada em slots pré-definidos dentro do espaço latente. Em vez disso, formam clusters moldados por quão frequentemente aparecem e por sua proximidade com ideias relacionadas. O resultado é uma estrutura frouxamente organizada onde conceitos existem em relação à sua frequência e contexto típico, em vez de qualquer separação clara ou empírica.

Isso torna difícil isolar o que constitui ‘histórico’ dentro de um grande conjunto de dados de propósito geral. Como os achados no novo artigo sugerem, muitos períodos de tempo são representados mais pelo aspecto da mídia usada para representá-los do que por qualquer detalhe histórico mais profundo.

Essa é uma razão pela qual permanece difícil gerar uma imagem fotorealista de alta qualidade de um personagem do século XIX; na maioria dos casos, o modelo recorrerá a tropos visuais tirados do cinema e da televisão. Quando esses falham em atender ao pedido, há pouco mais nos dados para compensar. Superar essa lacuna provavelmente dependerá de melhorias futuras na desentrelaçamento de conceitos sobrepostos.

Publicado pela primeira vez na segunda-feira, 26 de maio de 2025