DALL-E 2 è solo “incollare cose insieme” senza capire le loro relazioni?

Un nuovo studio di ricerca dell’Università di Harvard suggerisce che il framework di generazione di immagini testuali OpenAI DALL-E 2 abbia notevoli difficoltà a riprodurre anche le relazioni a livello di infante tra gli elementi che compone in fotografie sintetizzate, nonostante la sofisticazione abbagliante di gran parte della sua produzione.

I ricercatori hanno condotto uno studio con 169 partecipanti crowdsourced, che sono stati presentati con immagini DALL-E 2 basate sui principi umani più basilari di semantica delle relazioni, insieme ai prompt di testo che li hanno creati. Quando sono stati chiesti se i prompt e le immagini erano correlati, meno del 22% delle immagini sono state percepite come pertinenti ai loro prompt associati, in termini di relazioni molto semplici che DALL-E 2 era stato chiesto di visualizzare.

Uno screenshot dalle prove condotte per il nuovo studio. I partecipanti sono stati invitati a selezionare tutte le immagini che corrispondevano al prompt. Fonte: https://arxiv.org/pdf/2208.00005.pdf

I risultati suggeriscono anche che la capacità apparente di DALL-E di congiungere elementi disparati possa diminuire man mano che questi elementi diventano meno probabili di essere presenti nel set di dati di training che alimenta il sistema.

Ad esempio, le immagini per il prompt “un bambino che tocca una ciotola” hanno ottenuto un tasso di accordo dell’87% (cioè i partecipanti hanno cliccato sulla maggior parte delle immagini come rilevanti per il prompt), mentre renderizzazioni fotorealistiche di “una scimmia che tocca un iguana” hanno raggiunto solo l’11% di accordo:

DALL-E fatica a rappresentare l’evento improbabile di una ‘scimmia che tocca un iguana’.

Nel secondo esempio, DALL-E 2 spesso sbaglia la scala e anche la specie, probabilmente a causa della scarsità di immagini del mondo reale che rappresentano questo evento. Al contrario, è ragionevole aspettarsi un alto numero di foto di training relative a bambini e cibo, e che questo sub-dominio/classe sia ben sviluppato.

La difficoltà di DALL-E nel giustapporre elementi di immagine fortemente contrastanti suggerisce che il pubblico è attualmente così abbagliato dalle capacità fotorealistiche e ampiamente interpretative del sistema da non aver sviluppato un occhio critico per i casi in cui il sistema ha effettivamente semplicemente “incollato” un elemento in modo netto su un altro, come in questi esempi dal sito ufficiale DALL-E 2:

Sintesi di taglio e incolla, dagli esempi ufficiali per DALL-E 2. Fonte: https://openai.com/dall-e-2/

Il nuovo studio afferma*:

‘La comprensione relazionale è un componente fondamentale dell’intelligenza umana, che si manifesta precoce nello sviluppo, e viene calcolata rapidamente e automaticamente nella percezione.

‘La difficoltà di DALL-E 2 con relazioni spaziali di base (come in, on, under) suggerisce che qualunque cosa abbia imparato, non ha ancora imparato i tipi di rappresentazioni che consentono agli esseri umani di strutturare il mondo in modo flessibile e robusto.

‘Un’interpretazione diretta di questa difficoltà è che sistemi come DALL-E 2 non hanno ancora la composizionalità relazionale.’

Gli autori suggeriscono che i sistemi di generazione di immagini guidati da testo come la serie DALL-E potrebbero trarre beneficio dall’utilizzo di algoritmi comuni alla robotica, che modellano identità e relazioni simultaneamente, a causa della necessità per l’agente di interagire effettivamente con l’ambiente piuttosto che semplicemente fabbricare una miscela di elementi diversi.

Un tale approccio, intitolato CLIPort, utilizza lo stesso meccanismo CLIP che serve come elemento di valutazione della qualità in DALL-E 2:

CLIPort, una collaborazione del 2021 tra l’Università di Washington e NVIDIA, utilizza CLIP in un contesto così pratico che i sistemi addestrati su di esso devono necessariamente sviluppare una comprensione delle relazioni fisiche. Fonte: https://arxiv.org/pdf/2109.12098.pdf

Gli autori suggeriscono inoltre che ‘un’altra plausibile miglioria’ potrebbe essere per l’architettura dei sistemi di sintesi di immagini come DALL-E di incorporare effetti moltiplicativi in un solo livello di calcolo, consentendo il calcolo delle relazioni in un modo ispirato alle capacità di elaborazione dell’informazione dei sistemi biologici .

Il nuovo studio è intitolato Test della comprensione relazionale nella generazione di immagini guidata da testo, e proviene da Colin Conwell e Tomer D. Ullman del Dipartimento di Psicologia di Harvard.

Oltre la critica iniziale

Commentando il “trucco” dietro la realtà e l’integrità dell’output di DALL-E 2, gli autori notano lavori precedenti che hanno trovato carenze nei sistemi di generazione di immagini di stile DALL-E.

Nel giugno di quest’anno, l’Università della California, Berkeley ha notato la difficoltà di DALL-E nel gestire le riflessioni e le ombre; lo stesso mese, uno studio della Corea ha indagato l'”unicità” e l’originalità dell’output di stile DALL-E 2 con un occhio critico; un analisi preliminare delle immagini DALL-E 2, poco dopo il lancio, dell’Università di New York e dell’Università del Texas, ha trovato vari problemi con la composizionalità e altri fattori essenziali nelle immagini DALL-E 2; e lo scorso mese, un lavoro congiunto tra l’Università dell’Illinois e il MIT ha offerto suggerimenti per miglioramenti architettonici per tali sistemi in termini di composizionalità.

I ricercatori notano inoltre che i luminari di DALL-E come Aditya Ramesh hanno concesso i problemi del framework con il binding, la dimensione relativa, il testo e altre sfide.

I sviluppatori dietro il sistema di sintesi di immagini rivale di Google Imagen hanno anche proposto DrawBench, un nuovo sistema di confronto che valuta l’accuratezza delle immagini attraverso framework con metriche diverse.

Invece, gli autori del nuovo studio suggeriscono che un risultato migliore potrebbe essere ottenuto mettendo alla prova la stima umana – piuttosto che metriche algoritmiche interne – contro le immagini risultanti, per stabilire dove si trovano le debolezze e cosa potrebbe essere fatto per mitigarle.

Lo studio

A questo scopo, il nuovo progetto si basa su principi psicologici e cerca di ritirarsi dall’attuale ondata di interesse nella progettazione dei prompt (che è, in effetti, un’ammissione delle carenze di DALL-E 2, o di qualsiasi sistema comparabile), per indagare e potenzialmente affrontare le limitazioni che rendono tali “soluzioni” necessarie.

Il documento afferma*:

‘L’attuale lavoro si concentra su un set di 15 relazioni di base precedentemente descritte, esaminate o proposte nella letteratura cognitiva, dello sviluppo o linguistica. Il set contiene sia relazioni spaziali concrete (ad esempio ’X su Y’), sia relazioni agentiche più astratte (ad esempio ’X aiuta Y’).

‘I prompt sono intenzionalmente semplici, senza complessità di attributi o elaborazione. Ciò significa che invece di un prompt come ‘un asino e un polpo stanno giocando a un gioco. L’asino sta tenendo una corda in una mano, il polpo sta tenendo l’altra estremità. L’asino tiene la corda in bocca. Un gatto sta saltando sulla corda’, noi usiamo ‘una scatola su un coltello’.

‘La semplicità cattura ancora una vasta gamma di relazioni da vari sottodomini della psicologia umana, e rende più evidenti e specifiche le potenziali insufficienze del modello.’

Per il loro studio, gli autori hanno reclutato 169 partecipanti da Prolific, tutti ubicati negli Stati Uniti, con un’età media di 33 anni e il 59% di donne.

I partecipanti sono stati mostrati 18 immagini organizzate in una griglia 3×6 con il prompt in alto e una disclaimer in basso che affermava che tutte, alcune o nessuna delle immagini potevano essere state generate dal prompt visualizzato, e sono stati invitati a selezionare le immagini che pensavano fossero correlate in questo modo.

Le immagini presentate ai singoli individui erano basate sulla letteratura linguistica, dello sviluppo e cognitiva, e comprendevano un set di otto relazioni fisiche e sette “relazioni agentiche” (questo diventerà chiaro in un momento).

Relazioni fisiche
in, su, sotto, coprendo, vicino, oscurato da, appeso sopra, e legato a.

Relazioni agentiche
spingendo, tirando, toccando, colpendo, calciando, aiutando, e ostacolando.

Tutte queste relazioni sono state tratte dai campi di studio non-CS menzionati in precedenza.

Dodici entità sono state così derivate per l’uso nei prompt, con sei oggetti e sei agenti:

Oggetti
scatola, cilindro, coperta, ciotola, tazza da tè, e coltello.

Agenti
uomo, donna, bambino, robot, scimmia, e iguana.

(Gli autori ammettono che includere l’iguana, non una pietra miliare della ricerca sociologica o psicologica, è stato ‘un trattamento’)

Per ogni relazione, cinque prompt diversi sono stati creati campionando casualmente due entità cinque volte, risultando in 75 prompt totali, ciascuno dei quali è stato sottoposto a DALL-E 2, e per ciascuno dei quali le 18 immagini iniziali sono state utilizzate, senza variazioni o seconde possibilità consentite.

Risultati

Il documento afferma*:

‘I partecipanti hanno riportato in media una bassa quantità di accordo tra le immagini di DALL-E 2 e i prompt utilizzati per generarle, con una media del 22,2% [18,3, 26,6] su 75 prompt distinti.

‘I prompt agentiche, con una media del 28,4% [22,8, 34,2] su 35 prompt, hanno generato un accordo più alto rispetto ai prompt fisici, con una media del 16,9% [11,9, 23,0] su 40 prompt.’

Risultati dello studio.

Per confrontare la differenza tra la percezione umana e algoritmica delle immagini, i ricercatori hanno eseguito le loro renderizzazioni attraverso il framework CLIP-ViT-L/14 open source di OpenAI. Mediando i punteggi, hanno trovato una “relazione moderata” tra i due set di risultati, il che è forse sorprendente, considerata la misura in cui CLIP stesso aiuta a generare le immagini.

Risultati del confronto CLIP (ViT-L/14) con le risposte umane.

I ricercatori suggeriscono che altri meccanismi all’interno dell’architettura, forse combinati con una preponderanza casuale (o mancanza) di dati nel set di training, potrebbero spiegare il modo in cui CLIP può riconoscere le limitazioni di DALL-E senza essere in grado, in tutti i casi, di fare molto per risolvere il problema.

Gli autori concludono che DALL-E 2 ha solo una facoltà nominale, se del caso, di riprodurre immagini che incorporano la comprensione relazionale, un aspetto fondamentale dell’intelligenza umana che si sviluppa in noi molto presto.

‘L’idea che sistemi come DALL-E 2 non abbiano la composizionalità potrebbe sorprendere chiunque abbia visto le risposte ragionevoli di DALL-E 2 a prompt come ‘un cartone animato di un radish daikon in tutù che fa una passeggiata con un barboncino’. Prompt come questi spesso generano un’approssimazione sensata di un concetto compositivo, con tutte le parti del prompt presenti e presenti nel posto giusto.

‘La composizionalità, tuttavia, non è solo la capacità di incollare cose insieme – anche cose che potresti non aver mai visto insieme prima. La composizionalità richiede una comprensione delle regole che legano le cose insieme. Le relazioni sono tali regole.’

Uomo morde T-Rex

Opinione Mentre OpenAI apre a un numero maggiore di utenti dopo la recente monetizzazione beta di DALL-E 2, e poiché ora si deve pagare per la maggior parte delle generazioni, le carenze nella comprensione relazionale di DALL-E 2 potrebbero diventare più evidenti man mano che ogni “tentativo fallito” ha un peso finanziario, e non sono disponibili rimborsi.

Coloro che hanno ricevuto un invito un po’ prima hanno avuto il tempo (e, fino a poco tempo fa, più tempo per giocare con il sistema) per osservare alcuni dei “glitch di relazione” che DALL-E 2 può emettere.

Ad esempio, per un fan di Park Jurassico, è molto difficile ottenere che un dinosauro insegua una persona in DALL-E 2, anche se il concetto di “inseguimento” non sembra essere nel sistema di censura di DALL-E 2, e anche se la lunga storia dei film sui dinosauri dovrebbe fornire abbondanti esempi di training (almeno nella forma di trailer e foto pubblicitarie) per questo incontro altrimenti impossibile tra specie.

Una tipica risposta di DALL-E 2 al prompt ‘Una foto a colori di un T-Rex che insegue un uomo lungo una strada’. Fonte: DALL-E 2

Ho trovato che le immagini sopra sono tipiche per variazioni sul prompt ‘[dinosauro] che insegue [una persona]’, e che nessun livello di elaborazione nel prompt può far sì che il T-Rex si conformi veramente. Nelle prime due foto, l’uomo sta (più o meno) inseguendo il T-Rex; nella terza, si avvicina con un disprezzo casuale per la sicurezza; e nell’ultima immagine, sembra correre in parallelo alla grande bestia. In circa 10-15 tentativi di questo tema, ho trovato che il dinosauro è altrettanto “distratto”.

Potrebbe essere che l’unico set di dati di training che DALL-E 2 potesse accedere fosse nella linea di ‘uomo combatte dinosauro’, da foto pubblicitarie di film più vecchi come Un milione di anni fa (1966), e che la famosa fuga di Jeff Goldblum dal re dei predatori sia semplicemente un outlier in quel piccolo set di dati.

* La mia conversione delle citazioni in linea degli autori in collegamenti ipertestuali.

Pubblicato per la prima volta il 4 agosto 2022.