O DALL-E 2 é apenas “colando coisas juntas” sem entender as relações entre elas?

Um novo artigo de pesquisa da Universidade de Harvard sugere que o framework de texto-para-imagem da OpenAI, DALL-E 2, tem dificuldade notável em reproduzir relações entre os elementos que compõem as fotos sintetizadas, apesar da sofisticação deslumbrante de grande parte de sua saída.

Os pesquisadores realizaram um estudo com 169 participantes, que foram apresentados a imagens do DALL-E 2 com base nos princípios básicos de semântica de relacionamento humano, juntamente com os prompts de texto que as criaram. Quando perguntados se os prompts e as imagens estavam relacionados, menos de 22% das imagens foram consideradas pertinentes aos prompts associados, em termos das relações simples que o DALL-E 2 foi solicitado a visualizar.

Uma captura de tela dos testes realizados para o novo artigo. Os participantes foram solicitados a selecionar todas as imagens que correspondiam ao prompt. Source: https://arxiv.org/pdf/2208.00005.pdf

Os resultados também sugerem que a capacidade aparente do DALL-E de conjunção de elementos díspares pode diminuir à medida que esses elementos se tornam menos prováveis de ter ocorrido nos dados de treinamento do mundo real que alimentam o sistema.

Por exemplo, imagens para o prompt “criança tocando uma tigela” obtiveram uma taxa de concordância de 87% (ou seja, os participantes clicaram na maioria das imagens como relevantes para o prompt), enquanto imagens semelhantes de “um macaco tocando um iguana” alcançaram apenas 11% de concordância:

O DALL-E luta para retratar o evento improvável de um ‘macaco tocando um iguana’, provavelmente porque é incomum, mais provável não existente, no conjunto de treinamento.

No segundo exemplo, o DALL-E 2 frequentemente obtém a escala e até mesmo a espécie errada, presumivelmente devido à falta de imagens do mundo real que retratem esse evento. Em contraste, é razoável esperar um grande número de fotos de treinamento relacionadas a crianças e comida, e que esse subdomínio/classe é bem desenvolvido.

A dificuldade do DALL-E em justapor elementos de imagem fortemente contrastantes sugere que o público está atualmente tão impressionado com as capacidades fotorealistas e amplamente interpretativas do sistema que não desenvolveu um olhar crítico para os casos em que o sistema efetivamente apenas “colou” um elemento drasticamente sobre o outro, como nesses exemplos do site oficial do DALL-E 2:

Síntese de corte e cola, dos exemplos oficiais para o DALL-E 2. Source: https://openai.com/dall-e-2/

O novo artigo afirma*:

‘A compreensão relacional é um componente fundamental da inteligência humana, que se manifesta cedo no desenvolvimento e é calculada rapidamente e automaticamente na percepção.

‘A dificuldade do DALL-E 2 com relações espaciais básicas (como em, sobre, sob) sugere que, independentemente do que tenha aprendido, ainda não aprendeu os tipos de representações que permitem que os humanos estruturem o mundo de forma flexível e robusta.

‘Uma interpretação direta dessa dificuldade é que sistemas como o DALL-E 2 ainda não têm composicionalidade relacional.’

Os autores sugerem que sistemas de geração de imagens orientados por texto, como a série DALL-E, poderiam se beneficiar de algoritmos comuns à robótica, que modelam identidades e relações simultaneamente, devido à necessidade do agente interagir com o ambiente em vez de apenas fabricar uma mistura de elementos diversos.

Uma abordagem dessas, intitulada CLIPort, usa o mesmo mechanismo CLIP que serve como um elemento de avaliação de qualidade no DALL-E 2:

CLIPort, uma colaboração de 2021 entre a Universidade de Washington e a NVIDIA, usa CLIP em um contexto tão prático que os sistemas treinados com ele devem necessariamente desenvolver uma compreensão de relações físicas, um motivador que está ausente no DALL-E 2 e em frameworks de síntese de imagens semelhantes. Source: https://arxiv.org/pdf/2109.12098.pdf

Os autores também sugerem que “outra melhoria plausível” poderia ser para a arquitetura de sistemas de síntese de imagens, como o DALL-E, incorporar efeitos multiplicativos em uma camada de computação, permitindo o cálculo de relações de uma maneira inspirada nas capacidades de processamento de informações de sistemas biológicos .

O novo artigo é intitulado Testando a compreensão relacional na geração de imagens orientada por texto, e vem de Colin Conwell e Tomer D. Ullman, do Departamento de Psicologia de Harvard.

Além da crítica inicial

Comentando sobre o “truque” por trás do realismo e da integridade da saída do DALL-E 2, os autores notam trabalhos anteriores que encontraram limitações em sistemas de geração de imagens do tipo DALL-E.

Em junho deste ano, a UoC Berkeley notou a dificuldade do DALL-E em lidar com reflexos e sombras; no mesmo mês, um estudo da Coreia investigou a “singularidade” e a originalidade da saída do tipo DALL-E 2 com um olhar crítico; uma análise preliminar de imagens do DALL-E 2, logo após o lançamento, da NYU e da Universidade do Texas, encontrou várias questões com a composicionalidade e outros fatores essenciais nas imagens do DALL-E 2; e no mês passado, um trabalho conjunto entre a Universidade de Illinois e o MIT ofereceu sugestões para melhorias arquiteturais para esses sistemas em termos de composicionalidade.

Os pesquisadores também notam que luminares do DALL-E, como Aditya Ramesh, concederam as questões do framework com a ligação, tamanho relativo, texto e outros desafios.

Os desenvolvedores por trás do sistema de síntese de imagens rival da Google, Imagen, também propuseram DrawBench, um sistema de comparação novo que mede a precisão da imagem em frameworks com métricas diversas.

Em vez disso, os autores do novo artigo sugerem que um resultado melhor poderia ser obtido colocando a estimativa humana – e não métricas algorítmicas internas – contra as imagens resultantes, para estabelecer onde as fraquezas estão e o que poderia ser feito para mitigá-las.

O estudo

Para isso, o novo projeto baseia sua abordagem em princípios psicológicos e busca se afastar da atual onda de interesse em engenharia de prompts (que é, em efeito, uma concessão às limitações do DALL-E 2, ou de qualquer sistema comparável), para investigar e potencialmente abordar as limitações que tornam esses “trabalhos-àrredondados” necessários.

O artigo afirma:

‘O trabalho atual se concentra em um conjunto de 15 relações básicas previamente descritas, examinadas ou propostas na literatura cognitiva, de desenvolvimento ou linguística. O conjunto contém relações espaciais fundamentadas (por exemplo, “X em Y”) e relações agênticas mais abstratas (por exemplo, “X ajudando Y”).

‘Os prompts são intencionalmente simples, sem complexidade de atributo ou elaboração. Ou seja, em vez de um prompt como “um burro e um polvo estão jogando um jogo. O burro está segurando uma corda em uma extremidade, o polvo está segurando a outra. O burro segura a corda com a boca. Um gato está pulando sobre a corda”, usamos “uma caixa em uma faca”.

‘A simplicidade ainda captura uma ampla gama de relações de várias subáreas da psicologia humana e torna as falhas potenciais do modelo mais impressionantes e específicas.’

Para o estudo, os autores recrutaram 169 participantes do Prolific, todos localizados nos EUA, com uma idade média de 33 anos e 59% de mulheres.

Os participantes foram apresentados a 18 imagens organizadas em uma grade 3×6 com o prompt no topo e um aviso no final que afirmava que todas, algumas ou nenhuma das imagens podem ter sido geradas a partir do prompt exibido, e foram solicitados a selecionar as imagens que achavam que estavam relacionadas dessa forma.

As imagens apresentadas aos indivíduos foram baseadas em literatura linguística, de desenvolvimento e cognitiva, compostas por um conjunto de oito relações físicas e sete relações “agênticas” (isso ficará claro em um momento).

Relações físicas
em, sobre, sob, cobrindo, perto, obscurecida por, pendurada sobre, e ligada a.

Relações agênticas
empurrando, puxando, tocando, acertando, chutando, ajudando, e impedindo.

Todas essas relações foram extraídas dos campos de estudo não-CS mencionados anteriormente.

Doze entidades foram derivadas para uso nos prompts, com seis objetos e seis agentes:

Objetos
caixa, cilindro, cobertor, tigela, xícara, e facas.

Agentes
homem, mulher, criança, robô, macaco, e iguana.

(Os pesquisadores admitem que incluir o iguana, não um pilar de pesquisa sociológica ou psicológica seca, foi “um tratamento”)

Para cada relação, cinco prompts diferentes foram criados, amostrando aleatoriamente duas entidades cinco vezes, resultando em 75 prompts totais, cada um dos quais foi submetido ao DALL-E 2, e para cada um dos quais as 18 imagens iniciais fornecidas foram usadas, sem variações ou segunda chances permitidas.

Resultados

O artigo afirma*:

‘Os participantes relataram, em média, uma baixa concordância entre as imagens do DALL-E 2 e os prompts usados para gerá-las, com uma média de 22,2% [18,3, 26,6] em 75 prompts distintos.

‘Os prompts agênticos, com uma média de 28,4% [22,8, 34,2] em 35 prompts, geraram uma concordância mais alta do que os prompts físicos, com uma média de 16,9% [11,9, 23,0] em 40 prompts.’

Resultados do estudo. Pontos em preto denotam todos os prompts, com cada ponto representando um prompt individual, e a cor quebra de acordo com se o assunto do prompt era agêntico ou físico (ou seja, um objeto).

Para comparar a diferença entre a percepção humana e a percepção algorítmica das imagens, os pesquisadores executaram suas renderizações por meio do framework CLIP baseado em ViT-L/14 da OpenAI. Ao calcular as médias, encontraram uma “relação moderada” entre os dois conjuntos de resultados, o que é talvez surpreendente, considerando a extensão com que o CLIP ajuda a gerar as imagens.

Resultados da comparação CLIP (ViT-L/14) contra respostas humanas.

Os pesquisadores sugerem que outros mecanismos dentro da arquitetura, talvez combinados com uma preponderância casual (ou falta) de dados no conjunto de treinamento, podem explicar a forma como o CLIP pode reconhecer as limitações do DALL-E sem ser capaz, em todos os casos, de fazer muito sobre o problema.

Os autores concluem que o DALL-E 2 tem apenas uma capacidade nominal, se é que tem alguma, de reproduzir imagens que incorporam compreensão relacional, um aspecto fundamental da inteligência humana que se desenvolve cedo em nós.

‘A noção de que sistemas como o DALL-E 2 não têm composicionalidade pode ser surpreendente para qualquer um que tenha visto as respostas razoavelmente sensatas do DALL-E 2 a prompts como “um desenho animado de um rabanete daikon em um tutu caminhando um poodle”. Prompts como esses frequentemente geram uma aproximação sensata de um conceito composicional, com todas as partes do prompt presentes e presentes nos lugares certos.

‘A composicionalidade, no entanto, não é apenas a capacidade de “colar coisas” – mesmo coisas que você nunca viu juntas antes. A composicionalidade exige uma compreensão das regras que unem as coisas. As relações são essas regras.’

Homem morde T-Rex

Opinião À medida que a OpenAI expande o acesso a um número maior de usuários após a monetização beta recente do DALL-E 2, e desde que agora é necessário pagar pela maioria das gerações, as limitações do DALL-E 2 em termos de compreensão relacional podem se tornar mais aparentes à medida que cada “tentativa falha” tem um peso financeiro e reembolsos não estão disponíveis.

Os que receberam um convite um pouco mais cedo tiveram tempo (e, até recentemente, mais lazer para brincar com o sistema) para observar alguns dos “glitches de relacionamento” que o DALL-E 2 pode emitir.

Por exemplo, para um fã de Parque Jurássico, é muito difícil obter um dinossauro perseguindo uma pessoa no DALL-E 2, mesmo que o conceito de “perseguição” não pareça estar no sistema de censura do DALL-E 2, e mesmo que a longa história de filmes de dinossauros deva fornecer exemplos de treinamento abundantes (pelo menos na forma de trailers e fotos de divulgação) para esse encontro de espécies improvável.

Uma resposta típica do DALL-E 2 para o prompt ‘Uma foto em cores de um T-Rex perseguindo um homem em uma estrada’. Source: DALL-E 2

Encontrei que as imagens acima são típicas para variações no design do prompt ‘[dinossauro] perseguindo [uma pessoa]’, e que nenhuma elaboração no prompt pode fazer com que o T-Rex realmente obedeça. Na primeira e segunda fotos, o homem está (mais ou menos) perseguindo o T-Rex; na terceira, se aproximando dele com um descaso casual pela segurança; e na última imagem, aparentemente correndo em paralelo ao grande animal. Em cerca de 10 a 15 tentativas nesse tema, encontrei que o dinossauro está “distrado” de forma semelhante.

Pode ser que os únicos dados de treinamento que o DALL-E 2 pôde acessar estivessem na linha de ‘homem luta contra dinossauro’, de fotos de divulgação de filmes antigos, como Um Milhão de Anos A.C. (1966), e que a famosa fuga de Jeff Goldblum do rei dos predadores é simplesmente um outlier nesse pequeno conjunto de dados.

* Minha conversão das citações em linha dos autores para links.

Publicado pela primeira vez em 4 de agosto de 2022.