I Rischi dell’Annotazione delle Immagini Basata sul ‘Vibe’

Anche se vengono pagati solo pochi dollari (o addirittura nulla), le persone sconosciute che valutano le immagini per contenuti “offensivi” possono cambiare la tua vita con le scelte che fanno. Ora, un nuovo importante articolo di ricerca di Google sembra suggerire che questi annotatori creano le proprie regole per decidere cosa è o non è “offensivo” o offensivo – indipendentemente da quanto bizzarre o personali possano essere le loro reazioni a una determinata immagine. Cosa potrebbe andare storto?

Opinione Questa settimana, una nuova collaborazione tra Google Research e Google Mind ha riunito non meno di 13 contributori per un nuovo articolo che esplora se i “sentimenti istintivi” degli annotatori di immagini dovrebbero essere considerati quando le persone valutano le immagini per gli algoritmi, anche se le loro reazioni non sono in linea con gli standard di valutazione stabiliti.

Questo è importante per te, perché ciò che i valutatori e gli annotatori trovano offensivo per consenso tenderà a essere incorporato nei sistemi di censura e moderazione automatici, e nei criteri per il materiale “osceno” o “inaccettabile”, nella legislazione come il nuovo firewall NSFW* del Regno Unito (una versione del quale sta per arrivare in Australia presto), e nei sistemi di valutazione dei contenuti sulle piattaforme di social media, tra gli altri ambienti.

Quindi, più ampi sono i criteri per l’offesa, più ampio è il potenziale livello di censura.

Censura del Vibe

Questo non è l’unico punto di vista che il nuovo articolo ha da offrire; esso trova anche che le persone che valutano le immagini sono spesso più censorie rispetto a ciò che pensano possa offendere altri oltre a se stessi; e che le immagini di bassa qualità spesso suscitano preoccupazioni per la sicurezza, anche se la qualità dell’immagine non ha nulla a che fare con il contenuto dell’immagine.

Al termine dell’articolo, gli autori sottolineano questi due risultati, come se la posizione centrale dell’articolo avesse fallito, ma gli autori erano comunque obbligati a pubblicare.

Sebbene ciò non sia uno scenario insolito, l’articolo produce, dopo una lettura attenta, una corrente sotterranea più sinistra: che le pratiche di annotazione potrebbero considerare l’adozione di ciò che posso solo descrivere come annotazione del vibe:

‘I nostri risultati suggeriscono che i framework esistenti devono tenere conto di dimensioni soggettive e contestuali, come reazioni emotive, giudizi impliciti e interpretazioni culturali del danno. L’uso frequente di linguaggio emotivo da parte degli annotatori e la loro divergenza dalle etichette di danno predefinite evidenziano lacune nelle pratiche di valutazione attuali.

‘L’espansione delle linee guida per l’annotazione per includere esempi illustrativi di interpretazioni culturali ed emotive diverse può aiutare a colmare queste lacune.’

Il nuovo articolo scarsamente illustrato inizia con esempi che sono univoci e simpatetici per il lettore medio, anche se il materiale effettivo invita a molte più domande. Qui, sotto ogni immagine, vediamo le risposte emotive degli annotatori indicate per le rispettive immagini. Fonte: https://arxiv.org/pdf/2507.16033

Inizialmente, questo sembra una proposta per estendere e meglio quantificare ciò che costituisce “danno” in un’immagine – un obiettivo lodevole; ma l’articolo ribadisce più volte che ciò non è né desiderabile né (necessariamente) fattibile:

‘I nostri risultati suggeriscono che i framework esistenti devono tenere conto di dimensioni soggettive e contestuali, come reazioni emotive, giudizi impliciti e interpretazioni culturali del danno. L’uso frequente di linguaggio emotivo da parte degli annotatori e la loro divergenza dalle etichette di danno predefinite evidenziano lacune nelle pratiche di valutazione attuali.

‘L’espansione delle linee guida per l’annotazione per includere esempi illustrativi di interpretazioni culturali ed emotive diverse può aiutare a colmare queste lacune […]

‘[…] Il processo con cui gli annotatori ragionano su immagini ambigue spesso riflette le loro prospettive personali, culturali ed emotive, che sono difficili da scaffoldare o standardizzare.’

È difficile vedere come ‘L’espansione delle linee guida per l’annotazione per includere esempi illustrativi di interpretazioni culturali ed emotive diverse’ possa adattarsi a un sistema di valutazione razionale; gli autori lottano per chiarire questo punto, o per formulare una teoria distinta, attaccando il materiale molte volte, ma senza mai superarlo. In questo senso, il loro tema centrale sembra esso stesso “generato dal vibe”, anche se tratta di psicologie intangibili.

In altre parole, sembra che estendere la pipeline di annotazione per includere criteri di questo tipo possa potenzialmente consentire la “cancellazione” o l’oscuramento di qualsiasi materiale (o classe di argomento) che un annotatore potrebbe reagire fortemente a.

Giudizio Binario

La misura in cui le immagini e il testo possono causare danno è difficile da quantificare, non da ultimo perché la cultura alta spesso si interseca con la “cultura bassa” (ad esempio con arte e romanzi), portando ai primi criteri di censura basati sul “vibe”: anche se il materiale osceno sfugge a una definizione esatta, lo riconoscerai quando lo vedi.

Sotto la discussione estensiva e esploratoria del nuovo articolo su empatia e sfumatura qualitativa, il lavoro sembra attaccare silenziosamente l’autorità delle tassonomie centralizzate e standardizzate (‘violenza’, ‘nudità’, ‘odio’, ecc.) che consentono alle piattaforme di implementare e scalare la moderazione con margini di errore tollerabili (di solito).

L’argomentazione che emerge è che solo il feedback umano decentralizzato, soggettivo e consapevole del contesto può giudicare correttamente l’output del GenAI.

Tuttavia, questo è chiaramente non scalabile, poiché non puoi eseguire un filtro pipeline di un trilione di immagini basato su “vibes” e esperienze vissute. Devi quantificare il danno in proprietà diverse; impostare un limite sulla portata del sistema di filtraggio risultante; e aspettare nuove direttive nei “casi limite” (proprio come le parti offese devono talvolta aspettare l’attuazione di nuove leggi che affrontino le loro particolari circostanze).

Invece, il nuovo articolo presenta un mandato tacito per una pipeline di moderazione automatizzata che estende la sua portata automaticamente, e si discosta così tanto dalla cautela che anche la reazione più particolare e non ripetibile di un annotatore potrebbe penalizzare un’immagine che non ha offeso nessun altro.

Estensione Morale

Sebbene l’articolo tenda all’esplorazione piuttosto che ad assumere una posizione ferma, esso incorpora elementi del metodo scientifico: gli autori hanno sviluppato un framework per identificare (anche se non misurare strettamente) uno spettro più ampio di reazioni degli annotatori alle immagini, e per esaminare come queste reazioni variano tra genere e altri fattori demografici.

Oltre all’analisi dei test sul focalizzazione sul danno^†, il processo ha analizzato il “ragionamento morale” nei commenti ausiliari dei partecipanti al test, che sono stati invitati ad annotare un set di dati di test modificato contenente immagini e testi/prompt associati.

Questo “autoregolatore del sentimento morale” era progettato per catturare i valori morali Cura, Uguaglianza, Proporzionalità, Lealtà, Autorità, e Purezza, come definiti nella Teoria delle Fondamenta Morali – una teoria psicologica che, a causa della sua natura fluida ed evolutiva, è antitetica alla creazione delle definizioni concrete richieste per i grandi sistemi di valutazione umana.

Informato da questa teoria, gli autori hanno categorizzato ulteriori dimensioni di sicurezza, tra cui paura, ira, tristezza, disgusto, confusione, e stranezza.

Gli autori si dilungano sul primo di questi, paura:

‘Molti annotatori hanno usato termini come “spaventoso” (ad esempio, per volti distorti o immagini che suggeriscono violenza come una pistola puntata su un bambino), “disturbante” (ad esempio, “Assolutamente vile vedere qualcuno che viene investito, molto inquietante e disturbante”, o “Disturbante e sembra sangue” per vernice rossa), o “sconvolgente” (ad esempio, “L’immagine del ragazzo ha molte distorsioni… La trovo di cattivo gusto perché sembra che il ragazzo stia giocando sul lato sbagliato dei binari”).

‘Il [grafico qui sotto] quantifica la “paura” come l’emozione più frequentemente menzionata (233 menzioni, mentre quasi la metà di queste menzioni sono associate a contenuti violenti, il contenuto ritenuto non dannoso ha anche evocato la seconda menzione più alta di paura).’

Distribuzione dei termini relativi alle emozioni attraverso le categorie di danno, con altezze delle barre che indicano proporzioni di commenti, conteggi visualizzati all’interno delle barre e conteggi totali di commenti visualizzati sopra ogni categoria.

Riguardo all’inclusione di queste nuove dimensioni di sicurezza, gli autori affermano:

‘Questi temi emergenti evidenziano un’esigenza critica di arricchire i framework di valutazione delle immagini AI integrando elementi soggettivi, emotivi e percettivi.’

Ciò potrebbe essere una strada pericolosa da percorrere, poiché sembra consentire ai processi di annotazione di aggiungere regole arbitrariamente in base alle reazioni che il materiale può provocare in un singolo annotatore, invece di richiedere tutti gli annotatori di aderire agli standard e ai benchmark stabiliti.

Se potessi ascrivere un imperativo economico a questa idea, è che questo approccio consente l’annotazione umana iperscalabile, in cui il processo è privo di attrito, i partecipanti sono autoregolamentati e decidono essi stessi quali sono le regole e i confini.

Sotto l’annotazione standard, le regole sono stabilite dal consenso umano e adottate dagli annotatori umani; nello scenario delineato nell’articolo, quel livello iniziale di supervisione viene rimosso o declassato: di fatto, qualsiasi immagine che potrebbe offendere chiunque verrebbe segnalata (non da ultimo, forse, perché il consenso è costoso quanto tempo-consuming).

Giudizi di Rorschach

L’intento dell’annotazione è quello di arrivare a una descrizione o definizione accurata attraverso la supervisione degli esperti, il consenso comune tra più annotatori o (idealmente) entrambi. Invece, estendere una gerarchia limitata ma ben definita di danni in una posizione interpretativa “intuitiva” e altamente personale, è equivalente ad annotare un test di Rorschach.

Ad esempio, alcuni annotatori, come nota l’articolo, hanno interpretato la scarsa qualità dell’immagine (come artifacti JPEG, nonché difetti tecnici insignificanti in un’immagine) come ‘inquietanti’ o ‘indicativi di danno’:

‘Ciò è accaduto nonostante che il compito omettesse le istruzioni sulla qualità dell’immagine. Inoltre, gli annotatori hanno interpretato questi artifacti di qualità come semanticamente significativi.

‘Un annotatore ha commentato: “L’immagine non è per niente dannosa; lui ha solo un viso un po’ distorto”. Allo stesso modo, alcuni annotatori hanno interpretato gli artifacti di qualità come danno intenzionale, attribuendo un significato emotivo ai glitch. Ad esempio, un altro annotatore ha interpretato un viso distorto in un’altra immagine come “indicativo di dolore”’

Elevando le reazioni soggettive, emotive o contestuali al di sopra delle categorie di sicurezza predefinite, le idee presentate qui aprono la porta a un regime in cui qualsiasi cosa può essere arbitrariamente segnalata come dannosa, e in cui un “effetto di raffreddamento” di ad hoc take-down o ricategorizzazione negativa del materiale (ad esempio, materiale che potrebbe “offendere” un gruppo di interesse speciale) diventa una prospettiva reale.

L’articolo “Just a strange pic”: Evaluating ‘safety’ in GenAI Image safety annotation tasks from diverse annotators’ perspectives è disponibile su Arxiv.

* Un’espressione abbreviata, poiché non è l’argomento centrale qui; sotto la nuova legislazione, i siti offensivi sono tenuti a poliziarli da soli; a imporre sistemi di revisione complessi e costosi e tecnologie di controllo dell’età che sono fuori portata per tutti tranne che per i siti più grandi; o bloccare i loro domini dagli utenti del Regno Unito (ancora una volta, a proprie spese).

† Espressa semplicemente nel meme “pensare ai bambini”, che satirizza l’appropriazione dell’agenzia morale di un altro per mezzi apparentemente altruistici.

Pubblicato per la prima volta venerdì, 25 luglio 2025