I Rischi dell’Annotazione di Immagini Basata su ‘Vibe’

Sebbene vengano pagati solo pochi dollari (o addirittura nulla), le persone sconosciute che valutano le immagini per contenuti “offensivi” possono cambiare la tua vita con le scelte che fanno. Ora, un nuovo importante articolo di Google sembra suggerire che questi annotatori inventano le proprie regole per stabilire cosa sia o non sia “offensivo” o offensivo – indipendentemente da quanto bizzarre o personali siano le loro reazioni a una determinata immagine. Cosa potrebbe andare storto?

Opinione Questa settimana, una nuova collaborazione tra Google Research e Google Mind ha riunito non meno di 13 contributori per un nuovo articolo che esplora se le “sensazioni istintive” degli annotatori di immagini dovrebbero essere considerate quando le persone valutano le immagini per gli algoritmi, anche se le loro reazioni non sono in linea con gli standard di valutazione stabiliti.

Questo è importante per te, perché ciò che i valutatori e gli annotatori trovano offensivo in base al consenso tenderà a essere incorporato in sistemi di censura e moderazione automatici, e nei criteri per il materiale “osceno” o “inaccettabile”, in legislazioni come il nuovo firewall NSFW* del Regno Unito (una versione del quale sta per arrivare in Australia presto), e nei sistemi di valutazione dei contenuti sulle piattaforme di social media, tra gli altri ambienti.

Quindi, più ampi sono i criteri per l’offesa, più ampio è il potenziale livello di censura.

Censura del ‘Vibe’

Questo non è l’unico punto di vista che il nuovo articolo ha da offrire; esso trova anche che le persone che valutano le immagini sono spesso più censorie rispetto a ciò che pensano possa offendere altri oltre a se stessi; e che le immagini di bassa qualità spesso suscitano preoccupazioni per la sicurezza, anche se la qualità dell’immagine non ha nulla a che fare con il contenuto dell’immagine.

Alla sua conclusione, l’articolo enfatizza questi due risultati, come se la posizione centrale dell’articolo avesse fallito, ma i ricercatori fossero stati obbligati a pubblicare comunque.

Sebbene ciò non sia uno scenario insolito, l’articolo produce, dopo una lettura attenta, una corrente sotterranea più sinistra: che le pratiche di annotazione potrebbero considerare l’adozione di ciò che posso solo descrivere come annotazione del ‘vibe’:

‘I nostri risultati suggeriscono che gli attuali framework devono tenere conto di dimensioni soggettive e contestuali, come reazioni emotive, giudizi impliciti e interpretazioni culturali del danno. L’uso frequente di linguaggio emotivo da parte degli annotatori e la loro divergenza dalle etichette di danno predefinite mettono in luce lacune nelle attuali pratiche di valutazione.

‘L’ampliamento delle linee guida per l’annotazione per includere esempi illustrativi di interpretazioni culturali ed emotive diverse può aiutare a colmare queste lacune.’

… (rest of the content remains the same, following the exact same structure and translation rules)