Come sapere quando i sistemi di sintesi di immagini producono materiali realmente “originali”

Uno studio recente della Corea del Sud ha proposto un metodo per determinare se i sistemi di sintesi di immagini producono immagini realmente nuove o solo “varianti minori” dei dati di training, potenzialmente sconfiggendo l’obiettivo di tali architetture (come la produzione di immagini nuove e originali).

Molto spesso, suggerisce il paper, quest’ultimo è vero, perché le metriche esistenti che tali sistemi utilizzano per migliorare le loro capacità generative nel corso dell’addestramento sono costrette a favorire immagini relativamente vicine alle immagini di origine (non false) nel set di dati.

Dopo tutto, se un’immagine generata è “visivamente vicina” ai dati di origine, è inevitabilmente probabile che ottenga un punteggio migliore per “autenticità” rispetto a “originalità”, poiché è “fedele” – anche se non ispirato.

In un settore troppo nascente e inesperto perché le sue ramificazioni legali siano ancora note, ciò potrebbe rivelarsi un importante problema legale, se si scopre che il contenuto di immagini sintetiche commercializzato non differisce abbastanza dai dati di origine (spesso) protetti da copyright che attualmente sono consentiti di permeare il settore della ricerca sotto forma di set di dati web-scraped popolari (la possibilità di future pretese di violazione di questo tipo è emersa di recente in relazione a GitHub Co-Pilot AI di Microsoft ).

In termini di output sempre più coerente e semanticamente robusto da sistemi come OpenAI’s DALL-E 2, Google’s Imagen e il rilascio cinese CogView (nonché il meno potente DALL-E mini), ci sono pochi modi a posteriori per testare in modo affidabile l’originalità di un’immagine generata.

Infatti, cercare alcune delle nuove immagini DALL-E 2 più popolari spesso porterà solo a ulteriori istanze di quelle stesse immagini, a seconda del motore di ricerca.

Caricando un gruppo di output DALL-E 2 completo di 9 immagini porta solo a ulteriori gruppi di output DALL-E 2, perché la struttura a griglia è la caratteristica più forte. Separare e caricare la prima immagine (da questo post di Twitter dell’8 giugno 2022, dall’account ‘Weird Dall-E Generations’) fa si che Google si fissi sulla palla da basket nell’immagine, portando la ricerca basata sull’immagine in un vicolo cieco semantico. Per la stessa ricerca basata sull’immagine, Yandex sembra fare almeno una vera decostruzione e abbinamento di caratteristiche basate sui pixel.

Sebbene Yandex sia più probabile che Google Search utilizzi le caratteristiche (ovvero le caratteristiche derivate/calcolate di un’immagine, non necessariamente le caratteristiche facciali delle persone) e le caratteristiche visive (piuttosto che semantiche) di un’immagine inviata per trovare immagini simili, tutti i motori di ricerca basati su immagini hanno alcun tipo di agenda o pratica che potrebbe rendere difficile identificare istanze di plagio origine>generato tramite ricerche web.

Inoltre, i dati di training per un modello generativo potrebbero non essere disponibili pubblicamente nella loro interezza, ulteriormente ostacolando l’esame forense dell’originalità delle immagini generate.

Interessantemente, eseguire una ricerca basata sull’immagine su una delle immagini sintetiche presentate da Google nel suo sito dedicato a Imagen non trova assolutamente nulla di paragonabile all’oggetto dell’immagine, in termini di osservazione dell’immagine e ricerca imparziale di immagini simili. Invece, fissata semanticamente come sempre, i risultati della ricerca di immagini di Google per questa immagine Imagen non permetteranno una ricerca puramente basata sull’immagine senza aggiungere i termini di ricerca ‘imagen google’ come parametro aggiuntivo (e limitante):

Yandex, al contrario, trova una moltitudine di immagini reali correlate (o almeno visivamente correlate) dalla comunità artistica amatoriale:

In generale, sarebbe meglio se la novità o l’originalità dell’output dei sistemi di sintesi di immagini potesse essere misurata in qualche modo, senza dover estrarre caratteristiche da ogni possibile immagine web-facing su Internet al momento dell’addestramento del modello, o in set di dati non pubblici che potrebbero utilizzare materiali protetti da copyright.

Relativo a questo problema, i ricercatori della Kim Jaechul Graduate School of AI presso il Korea Advanced Institute of Science and Technology (KAIST AI) hanno collaborato con la società globale di ICT e ricerca NAVER Corp per sviluppare un Punteggio di rarità che possa aiutare a identificare le creazioni più originali dei sistemi di sintesi di immagini.

Le immagini qui sono generate tramite StyleGAN-FFHQ. Da sinistra a destra, le colonne indicano i risultati da peggiori a migliori. Possiamo vedere che la metrica ‘Truncation trick’ (vedi sotto) e la metrica di realismo hanno le loro agende, mentre il nuovo ‘Punteggio di rarità’ (riga superiore) cerca immagini coese ma originali (piuttosto che solo coese). Poiché ci sono limiti di dimensione delle immagini in questo articolo, vedere il paper di origine per maggiori dettagli e risoluzione. Source: https://arxiv.org/pdf/2206.08549.pdf

Il nuovo paper è intitolato Punteggio di rarità: una nuova metrica per valutare la non comunezza delle immagini sintetiche e proviene da tre ricercatori del KAIST e tre di NAVER Corp.

Oltre l'”espediente a buon mercato”

Tra le metriche precedenti che il nuovo paper cerca di migliorare ci sono il ‘Truncation trick’ suggerito nel 2019 in una collaborazione tra l’Università Heriot-Watt del Regno Unito e Google’s DeepMind.

Il Truncation Trick utilizza essenzialmente una distribuzione latente diversa per il campionamento rispetto a quella utilizzata per l’addestramento del modello generativo.

I ricercatori che hanno sviluppato questo metodo sono stati sorpresi che funzionasse, ma ammettono nel paper originale che riduce la varietà dell’output generato. Tuttavia, il Truncation Trick è diventato efficace e popolare, nel contesto di ciò che potrebbe essere ri-descritto come un ‘espediente a buon mercato’ per ottenere risultati autentici che non assimilano realmente tutte le possibilità insite nei dati e possono assomigliare di più ai dati di origine di quanto sia desiderabile.

Riguardo al Truncation Trick, gli autori del nuovo paper osservano:

‘[Esso] non è destinato a generare campioni rari nel set di dati di training, ma piuttosto a sintetizzare immagini tipiche in modo più stabile. Ipotesizziamo che i modelli generativi esistenti saranno in grado di produrre campioni più ricchi nella distribuzione dei dati reali se il generatore può essere indotto a produrre efficacemente campioni rari.’

In generale, la tendenza a fare affidamento su metriche tradizionali come la Frechet Inception Distance (FID, che è stata criticata a dicembre 2021), il punteggio di inizio (IS) e la Kernel Inception Distance (KID) come ‘indicatori di progresso’ durante l’addestramento di un modello generativo, gli autori commentano inoltre*:

‘Questo schema di apprendimento porta il generatore a non sintetizzare molti campioni rari che sono unici e hanno caratteristiche forti che non rappresentano una grande parte della distribuzione delle immagini reali. Esempi di campioni rari da set di dati pubblici includono persone con vari accessori in FFHQ, animali bianchi in AFHQ e statue insolite in Metfaces.

‘La capacità di generare campioni rari è importante non solo perché è legata alla capacità di bordo dei modelli generativi, ma anche perché l’unicità svolge un ruolo importante nelle applicazioni creative come gli esseri umani virtuali.

‘Tuttavia, i risultati qualitativi di diversi studi recenti raramente contengono questi esempi rari. Ipotesizziamo che la natura dello schema di apprendimento antagonistico costringa la distribuzione delle immagini generate a essere simile a quella del set di dati di training. Pertanto, le immagini con chiara individualità o rarità rappresentano solo una piccola parte delle immagini sintetizzate dai modelli.’

Tecnica

I ricercatori hanno adattato un’idea presentata in lavori precedenti – l’uso di K-Nearest Neighbors (KNN) per rappresentare gli array di dati genuini (di training) e sintetici (di output) in un sistema di sintesi di immagini.

Riguardo a questo nuovo metodo di analisi, gli autori affermano:

‘Ipotesizziamo che i campioni ordinari sarebbero più vicini l’uno all’altro, mentre i campioni unici e rari sarebbero sparsi nello spazio delle caratteristiche.’

L’immagine dei risultati sopra mostra le distanze dei vicini più vicini (NND) più piccole alle più grandi, in un’architettura StyleGAN addestrata su FFHQ.

‘Per tutti i set di dati, i campioni con le NND più piccole mostrano immagini rappresentative e tipiche. Al contrario, i campioni con le NND più grandi hanno una forte individualità e sono significativamente diversi dalle immagini tipiche con le NND più piccole.’

In teoria, utilizzando questa nuova metrica come discriminatore, o almeno includendola in un’architettura di discriminatore più complessa, un sistema generativo potrebbe essere diretto lontano dalla pura imitazione verso un algoritmo più inventivo, mantenendo al tempo stesso la coesione essenziale dei concetti che potrebbero essere critici per la produzione di immagini autentiche (ad esempio ‘uomo’, ‘donna’, ‘auto’, ‘chiesa’, ecc.).

Confronti e esperimenti

Nei test, i ricercatori hanno condotto un confronto delle prestazioni del Punteggio di rarità rispetto al Truncation Trick e al Realism Score di NVIDIA del 2019, e hanno scoperto che, attraverso una varietà di framework e set di dati, l’approccio è in grado di individuare risultati ‘unici’.

Sebbene i risultati presentati nel paper siano troppo estensivi per essere inclusi qui, i ricercatori sembrano aver dimostrato la capacità del nuovo metodo di identificare la rarità sia nelle immagini di origine (reali) che in quelle generate (false) in una procedura generativa:

Esempi selezionati dai risultati visuali estensivi riprodotti nel paper (vedere l’URL di origine sopra per maggiori dettagli). A sinistra, esempi genuini da FFHQ che hanno pochi vicini (ovvero sono nuovi e insoliti) nel set di dati originale; a destra, immagini false generate da StyleGAN, che la nuova metrica ha identificato come realmente nuove. Poiché ci sono limiti di dimensione delle immagini in questo articolo, vedere il paper di origine per maggiori dettagli e risoluzione.

La nuova metrica del Punteggio di rarità non solo consente la possibilità di identificare l’output generativo ‘nuovo’ in un’unica architettura, ma anche, affermano i ricercatori, consente confronti tra modelli generativi di varie e diverse architetture (ad esempio autoencoder, VAE, GAN, ecc.).

Il paper nota che il Punteggio di rarità differisce dalle metriche precedenti concentrandosi sulla capacità di un framework generativo di creare immagini uniche e rare, in opposizione alle metriche ‘tradizionali’, che esaminano (piuttosto più miopemente) la diversità tra le generazioni durante l’addestramento del modello.

Oltre i compiti limitati

Sebbene i ricercatori del nuovo paper abbiano condotto test su framework a dominio limitato (ad esempio combinazioni di generatori e set di dati progettate per produrre specificamente immagini di persone o di gatti, ad esempio), il Punteggio di rarità può potenzialmente essere applicato a qualsiasi procedura di sintesi di immagini arbitraria in cui si desidera identificare esempi generati che utilizzano le distribuzioni derivate dai dati di training, invece di aumentare l’autenticità (e ridurre la diversità) interponendo distribuzioni latenti straniere o facendo affidamento su altri ‘espedienti’ che compromettono la novità a favore dell’autenticità.

In pratica, e in assenza di una chiara comprensione della misura in cui il sistema ha realmente assimilato concetti visivi e semantici (spesso ostacolata dalla limitata conoscenza dei dati di training), ciò potrebbe essere un metodo praticabile per identificare un vero ‘momento di ispirazione’ in un sistema generativo – il punto in cui un numero adeguato di concetti di input e dati ha portato a qualcosa di realmente inventivo, invece di qualcosa di eccessivamente derivativo o vicino ai dati di origine.

* Le mie conversioni delle citazioni in linea degli autori in collegamenti ipertestuali.

Pubblicato per la prima volta il 20 giugno 2022.