Come Fermare l’AI che Raffigura iPhone in Epoca Passata

Come le funzioni di generazione di immagini dell’AI rappresentano il passato? Nuove ricerche indicano che esse inseriscono smartphone nel XVIII secolo, inseriscono laptop in scene degli anni ’30 e posizionano aspirapolvere in case del XIX secolo, sollevando domande su come questi modelli immaginano la storia e se sono in grado di raggiungere un’accuratezza storica contestualizzata.

All’inizio del 2024, le capacità di generazione di immagini del modello di intelligenza artificiale multimodale Gemini di Google sono state criticate per aver imposto la giustizia demografica in contesti inadeguati, come ad esempio la generazione di soldati tedeschi della seconda guerra mondiale con origini improbabili:

Personale militare tedesco demograficamente improbabile, come immaginato dal modello multimodale Gemini di Google nel 2024. Fonte: Gemini AI/Google via The Guardian

Questo è stato un esempio in cui gli sforzi per ridurre i pregiudizi nei modelli di intelligenza artificiale non hanno tenuto conto del contesto storico. In questo caso, il problema è stato risolto poco dopo. Tuttavia, i modelli basati sulla diffusione rimangono propensi a generare versioni della storia che confondono aspetti e manufatti moderni e storici.

Questo è in parte a causa dell’intreccio, dove le qualità che appaiono frequentemente insieme nei dati di training diventano fuse nell’output del modello. Ad esempio, se gli oggetti moderni come gli smartphone spesso co-occorrono con l’atto di parlare o ascoltare nel dataset, il modello può imparare ad associare quelle attività con dispositivi moderni, anche quando il prompt specifica un contesto storico. Una volta che queste associazioni sono incorporate nelle rappresentazioni interne del modello, diventa difficile separare l’attività dal suo contesto contemporaneo, portando a risultati storicamente inaccurati.

Un nuovo studio della Svizzera, che esamina il fenomeno delle generazioni storiche intrecciate nei modelli di diffusione latente, osserva che i framework di intelligenza artificiale che sono molto capaci di creare persone fotorealistiche preferiscono comunque rappresentare figure storiche in modi storici:

Dal nuovo studio, rappresentazioni diverse tramite LDM del prompt ‘Un’immagine fotorealistica di una persona che ride con un amico nel [periodo storico]’, con ogni periodo indicato in ogni output. Come possiamo vedere, il mezzo dell’epoca è diventato associato al contenuto. Fonte: https://arxiv.org/pdf/2505.17064

Per il prompt ‘Un’immagine fotorealistica di una persona che ride con un amico nel [periodo storico]’, uno dei tre modelli testati spesso ignora il prompt negativo ‘monocromo’ e utilizza invece trattamenti di colore che riflettono i media visivi dell’epoca specificata, ad esempio mimando i toni smussati del film in cellulosa degli anni ’50 e ’70.

Nei test dei tre modelli per la loro capacità di creare anacronismi (cose che non appartengono al periodo di destinazione, o ‘fuori dal tempo’ – che possono essere dal futuro del periodo di destinazione così come dal suo passato), hanno trovato una tendenza generale a confondere attività senza tempo (come ‘cantare’ o ‘cucinare’) con contesti e attrezzature moderne:

Attività diverse che sono perfettamente valide per secoli precedenti sono rappresentate con tecnologia e paraphernalia attuali o più recenti, contro lo spirito dell’immagine richiesta.

Di nota è che gli smartphone sono particolarmente difficili da separare dall’idioma della fotografia, e da molti altri contesti storici, poiché la loro proliferazione e rappresentazione è ben rappresentata in dataset iperscalari come Common Crawl:

Nel modello generativo di testo-immagine Flux, le comunicazioni e gli smartphone sono concetti strettamente associati – anche quando il contesto storico non lo consente.

Per determinare l’estensione del problema e per dare ai futuri sforzi di ricerca un modo per affrontare questo particolare problema, gli autori del nuovo studio hanno sviluppato un dataset personalizzato contro cui testare i sistemi generativi. In un momento, esamineremo questo nuovo lavoro, intitolato Storia Sintetica: Valutazione delle Rappresentazioni Visive del Passato nei Modelli di Diffusione, e proveniente da due ricercatori dell’Università di Zurigo. Il dataset e il codice sono disponibili pubblicamente.

Una ‘Verità’ Fragile

Alcuni dei temi nel paper toccano questioni culturalmente sensibili, come la sottorappresentazione di razze e genere nelle rappresentazioni storiche. Mentre l’imposizione di Google di una parità razziale nella terza Reich è una revisione storica assurda e insultante, restaurare le rappresentazioni ‘tradizionali’ (dove i modelli di diffusione hanno ‘aggiornato’ queste) spesso porterebbe a ‘sbiancare’ la storia.

Molti spettacoli storici di successo recenti, come Bridgerton, offuscano l’accuratezza demografica storica in modi che potrebbero influenzare i futuri set di dati di training, complicando gli sforzi per allineare le immagini generate dal modello con gli standard tradizionali. Tuttavia, questo è un argomento complesso, data la tendenza storica della (storia occidentale) di favorire la ricchezza e la bianchezza, e di lasciare tante ‘storie minori’ non raccontate.

Tenendo presente questi parametri culturali complicati e in continua evoluzione, esaminiamo l’approccio dei ricercatori.

Metodo e Test

Per testare come i modelli generativi interpretano il contesto storico, gli autori hanno creato HistVis, un dataset di 30.000 immagini prodotte da cento prompt che rappresentano attività umane comuni, ciascuna resa in dieci periodi storici distinti:

Un campione del dataset HistVis, che gli autori hanno reso disponibile su Hugging Face. Fonte: https://huggingface.co/datasets/latentcanon/HistVis

Le attività, come cucinare, pregare o ascoltare musica, sono state scelte per la loro universalità e formulate in un formato neutro per evitare di ancorare il modello in un’estetica particolare. I periodi storici per il dataset vanno dal XVII secolo ai giorni nostri, con un focus aggiuntivo su cinque decenni individuali del XX secolo.

30.000 immagini sono state generate utilizzando tre modelli di diffusione open-source ampiamente utilizzati: Stable Diffusion XL; Stable Diffusion 3; e FLUX.1. Isolando il periodo di tempo come unica variabile, i ricercatori hanno creato una base strutturata per valutare come i sistemi codificano o ignorano i suggerimenti storici in modo visivo.

Stile Visivo Dominante

Gli autori hanno inizialmente esaminato se i modelli generativi adottano stili visivi specifici quando rappresentano periodi storici; poiché sembrava che anche quando i prompt non includevano menzioni di medium o estetica, i modelli spesso associavano secoli particolari con stili caratteristici:

Stili visivi previsti per immagini generate dal prompt ‘Una persona che balla con un’altra nel [periodo storico]’ (sinistra) e dal prompt modificato ‘Un’immagine fotorealistica di una persona che balla con un’altra nel [periodo storico]’ con ‘immagine in monocromo’ impostata come prompt negativo (destra).

Per misurare questa tendenza, gli autori hanno addestrato una rete neurale convoluzionale (CNN) per classificare ogni immagine nel dataset HistVis in una delle cinque categorie: disegno; incisione; illustrazione; pittura; o fotografia. Queste categorie erano intese per riflettere modelli comuni che emergono attraverso i periodi di tempo e che supportano confronti strutturati.

Il classificatore si basava su un modello VGG16 pre-addestrato su ImageNet e fine-tuned con 1.500 esempi per classe da un dataset derivato da WikiArt. Poiché WikiArt non distingue la fotografia in monocromo da quella a colori, è stato utilizzato un punteggio di coloritudine per etichettare immagini a bassa saturazione come monocrome.

Il classificatore addestrato è stato quindi applicato al dataset completo, con i risultati che mostrano che tutti e tre i modelli impongono default stilistici coerenti per periodo: SDXL associa i secoli XVII e XVIII con incisioni, mentre SD3 e FLUX.1 tendono verso le pitture. Nei decenni del XX secolo, SD3 favorisce la fotografia in monocromo, mentre SDXL spesso restituisce illustrazioni moderne.

Queste preferenze sono state trovate persistenti nonostante gli aggiustamenti dei prompt, suggerendo che i modelli codificano collegamenti radicati tra stile e contesto storico.

Stili visivi previsti delle immagini generate attraverso periodi storici per ogni modello di diffusione, basati su 1.000 campioni per periodo per modello.

Per quantificare quanto fortemente un modello collega un periodo storico a uno stile visivo particolare, gli autori hanno sviluppato una metrica che chiamano Dominanza dello Stile Visivo (VSD). Per ogni modello e periodo di tempo, VSD è definito come la proporzione di output previsti che condividono lo stile più comune:

Esempi di bias stilistici attraverso i modelli.

Un punteggio più alto indica che uno stile singolo domina gli output per quel periodo, mentre un punteggio più basso indica una maggiore variazione. Ciò rende possibile confrontare come ogni modello aderisce a convenzioni stilistiche specifiche attraverso il tempo.

Applicata al dataset HistVis completo, la metrica VSD rivela livelli di convergenza diversi, aiutando a chiarire come ogni modello restringa la sua interpretazione visiva del passato:

La tabella dei risultati sopra mostra i punteggi VSD attraverso periodi storici per ogni modello. Nei secoli XVII e XVIII, SDXL tende a produrre incisioni con alta coerenza, mentre SD3 e FLUX.1 favoriscono la pittura. Nei secoli XX e XXI, SD3 e FLUX.1 si spostano verso la fotografia, mentre SDXL mostra più variazione, ma spesso si attesta sull’illustrazione.

Tutti e tre i modelli mostrano una forte preferenza per immagini in monocromo nei decenni iniziali del XX secolo, in particolare negli anni ’10, ’30 e ’50.

Per testare se questi modelli potessero essere mitigati, gli autori hanno utilizzato l’ingegneria dei prompt, richiedendo esplicitamente la fotorealtà e scoraggiando l’output in monocromo utilizzando un prompt negativo. In alcuni casi, i punteggi di dominanza sono diminuiti e lo stile principale è cambiato, ad esempio da monocromo a pittura, nei secoli XVII e XVIII.

Tuttavia, queste interventioni raramente hanno prodotto immagini genuinamente fotorealistiche, indicando che i default stilistici dei modelli sono profondamente incorporati.

Coerenza Storica

La prossima linea di analisi ha esaminato la coerenza storica: se le immagini generate includevano oggetti che non si adattavano al periodo di tempo. Invece di utilizzare un elenco fisso di oggetti proibiti, gli autori hanno sviluppato un metodo flessibile che ha sfruttato modelli linguistici (LLM) e modelli visivo-linguistici (VLM) per individuare elementi che sembravano fuori posto, in base al contesto storico.

Il metodo di rilevamento ha seguito lo stesso formato del dataset HistVis, dove ogni prompt combinava un periodo storico con un’attività umana. Per ogni prompt, GPT-4o ha generato un elenco di oggetti che sarebbero stati fuori posto nel periodo storico specificato; e per ogni oggetto proposto, GPT-4o ha prodotto una domanda sì/no progettata per verificare se quell’oggetto appariva nell’immagine generata.

Ad esempio, dato il prompt ‘Una persona che ascolta musica nel XVIII secolo’, GPT-4o potrebbe identificare dispositivi audio moderni come storicamente inaccurati e produrre la domanda La persona sta utilizzando cuffie o uno smartphone che non esistevano nel XVIII secolo?.

Queste domande sono state passate a GPT-4o in un setup di risposta alle domande visive, dove il modello ha esaminato l’immagine e restituito un sì o no per ogni oggetto. Questo pipeline ha abilitato la rilevazione di contenuti storicamente implausibili senza affidarsi a una tassonomia predefinita di oggetti moderni:

Esempi di immagini generate segnalate dal metodo di rilevamento a due fasi, mostrando elementi anacronistici: cuffie nel XVIII secolo; un aspirapolvere nel XIX secolo; un laptop negli anni ’30; e uno smartphone negli anni ’50.

Per misurare quanto spesso gli anacronismi apparivano nelle immagini generate, gli autori hanno introdotto un metodo semplice per valutare la frequenza e la gravità. In primo luogo, hanno tenuto conto delle differenze minori nella descrizione degli stessi oggetti da parte di GPT-4o.

Ad esempio, dispositivo audio moderno e dispositivo audio digitale sono stati trattati come equivalenti. Per evitare di contare due volte, è stato utilizzato un sistema di corrispondenza fuzzy per raggruppare queste variazioni a livello di superficie senza influenzare concetti genuinamente distinti.

Una volta che tutti gli anacronismi proposti sono stati normalizzati, due metriche sono state calcolate: frequenza misurava quanto spesso un oggetto dato appariva in immagini per un modello e un periodo specifico; e gravità misurava quanto affidabilmente quell’oggetto appariva una volta che era stato suggerito dal modello.

Se un telefono moderno è stato segnalato dieci volte e appariva in dieci immagini generate, ha ricevuto un punteggio di gravità di 1,0. Se appariva solo in cinque, il punteggio di gravità era 0,5. Questi punteggi hanno aiutato a identificare non solo se gli anacronismi si verificavano, ma anche quanto saldamente erano incorporati nell’output del modello per ogni periodo:

I quindici anacronismi più comuni per ogni modello, tracciati per frequenza sull’asse x e gravità sull’asse y. I cerchi segnano elementi classificati tra i primi quindici per frequenza, i triangoli per gravità e i diamanti per entrambi.

Sopra vediamo i quindici anacronismi più comuni per ogni modello, classificati per frequenza e coerenza.

I vestiti sono frequenti ma sparsi, mentre articoli come dispositivi audio e attrezzature da stirare appaiono meno spesso, ma con alta coerenza – modelli che suggeriscono che i modelli spesso rispondono all’attività nel prompt più che al periodo di tempo.

SD3 ha mostrato il tasso più alto di anacronismi, in particolare nelle immagini del XIX secolo e degli anni ’30, seguito da FLUX.1 e SDXL.

Per testare quanto bene il metodo di rilevamento corrispondeva al giudizio umano, gli autori hanno condotto uno studio con utenti che includeva 1.800 immagini campionate casualmente da SD3 (il modello con il tasso di anacronismo più alto), con ogni immagine valutata da tre lavoratori della folla. Dopo aver filtrato le risposte affidabili, 2.040 giudizi da 234 utenti sono stati inclusi, e il metodo ha concordato con il voto della maggioranza nel 72% dei casi.

Interfaccia utente per lo studio di valutazione umana, mostrando istruzioni per il compito, esempi di immagini accurate e anacronistiche e domande sì/no per identificare incoerenze temporali negli output generati.

Demografia

L’ultima analisi ha esaminato come i modelli rappresentano la razza e il genere nel tempo. Utilizzando il dataset HistVis, gli autori hanno confrontato gli output dei modelli con stime di base generate da un modello linguistico. Queste stime non erano precise, ma offrivano un senso approssimativo di plausibilità storica, aiutando a rivelare se i modelli adattavano le rappresentazioni al periodo di destinazione.

Per valutare queste rappresentazioni su larga scala, gli autori hanno costruito una pipeline che confrontava gli output dei modelli con aspettative approssimative per ogni periodo e attività. Hanno utilizzato il classificatore FairFace, uno strumento basato su ResNet34 addestrato su oltre 100.000 immagini, per rilevare il genere e la razza nei output generati, consentendo la misura di quanto spesso i volti in ogni scena fossero classificati come maschili o femminili e per il tracciamento delle categorie razziali attraverso i periodi:

Esempi di immagini generate che mostrano sovrarappresentazione demografica attraverso modelli, periodi e attività diversi.

Risultati a bassa fiducia sono stati filtrati per ridurre il rumore e le previsioni sono state mediate su tutte le immagini legate a un periodo e attività specifici. Per verificare l’affidabilità delle letture di FairFace, un secondo sistema basato su DeepFace è stato utilizzato su un campione di 5.000 immagini. I due classificatori hanno mostrato un accordo forte, supportando la coerenza delle letture demografiche utilizzate nello studio.

Per confrontare gli output dei modelli con la plausibilità storica, gli autori hanno chiesto a GPT-4o di stimare la distribuzione attesa di genere e razza per ogni attività e periodo storico. Queste stime hanno servito come linee guida approssimative piuttosto che verità assolute. Due metriche sono state utilizzate: sottorappresentazione e sovrarappresentazione, misurando quanto gli output dei modelli deviavano dalle aspettative del modello linguistico.

I risultati hanno mostrato schemi chiari: FLUX.1 sovrarappresenta spesso gli uomini, anche in scenari come cucinare, dove le donne erano attese; SD3 e SDXL mostrano tendenze simili attraverso categorie come lavoro, istruzione e religione; i volti bianchi appaiono più di quanto ci si aspetti in generale, anche se questo pregiudizio diminuisce in periodi più recenti; e alcune categorie mostrano picchi inaspettati nella rappresentazione non bianca, suggerendo che il comportamento del modello possa riflettere correlazioni nel dataset piuttosto che il contesto storico:

Sovrarappresentazione e sottorappresentazione di genere e razza negli output di FLUX.1 attraverso secoli e attività, mostrate come differenze assolute dalle stime demografiche di GPT-4o.

Gli autori concludono:

‘La nostra analisi rivela che i modelli [Testo-Immagine] si basano su codici stilistici limitati piuttosto che su comprensioni sfumate dei periodi storici. Ogni epoca è fortemente legata a uno stile visivo specifico, portando a rappresentazioni unidimensionali della storia.

‘In particolare, rappresentazioni fotorealistiche di persone appaiono solo dal XX secolo in poi, con rare eccezioni in FLUX.1 e SD3, suggerendo che i modelli rafforzano associazioni apprese piuttosto che adattarsi flessibilmente ai contesti storici, perpetuando l’idea che il realismo sia una caratteristica moderna.

‘Inoltre, anacronismi frequenti suggeriscono che i periodi storici non sono nettamente separati negli spazi latenti di questi modelli, poiché manufatti moderni spesso emergono in contesti pre-moderni, minando l’affidabilità dei sistemi di testo-immagine nei contesti educativi e del patrimonio culturale.’

Conclusione

Durante l’addestramento di un modello di diffusione, nuovi concetti non si stabiliscono in slot predefiniti all’interno dello spazio latente. Invece, formano cluster plasmati da quanto spesso appaiono e dalla loro vicinanza a idee correlate. Il risultato è una struttura organizzata in modo lasco dove i concetti esistono in relazione alla loro frequenza e contesto tipico, piuttosto che per una separazione pulita o empirica.

Questo rende difficile isolare ciò che conta come ‘storico’ all’interno di un grande dataset generico. Come suggeriscono i risultati nel nuovo studio, molti periodi storici sono rappresentati più dall’aspetto dei media utilizzati per rappresentarli che da qualsiasi dettaglio storico più profondo.

Questo è uno dei motivi per cui rimane difficile generare un’immagine fotorealistica di alta qualità di un personaggio del XIX secolo; nella maggior parte dei casi, il modello si baserà su tropi visivi tratti dal cinema e dalla televisione. Quando questi falliscono nel corrispondere alla richiesta, c’è poco altro nei dati per compensare. Colmare questo divario probabilmente dipenderà da future migliorie nell’eliminazione di concetti sovrapposti.

Pubblicato per la prima volta lunedì, 26 maggio 2025