Ryzyko opartego na “wibach” oznaczania obrazów

Nawet jeśli są płaci za to tylko kilka dolarów (lub w ogóle nie są płaci), nieznane osoby, które oceniają obrazy pod kątem “szkodliwej” zawartości, mogą zmienić Twoje życie dzięki wyborom, które podejmują. Teraz nowy artykuł opublikowany przez Google wydaje się sugerować, że ci annotatorzy tworzą własne reguły dotyczące tego, co jest lub nie jest “szkodliwe” lub obraźliwe – niezależnie od tego, jak dziwne lub osobiste mogą być ich reakcje na dany obraz. Co mogłoby pójść nie tak?

Opinia W tym tygodniu nowa współpraca między Google Research a Google Mind połączyła aż 13 współautorów w nowym artykule, który bada, czy “instynktowne uczucia” annotatorów obrazów powinny być brane pod uwagę przy ocenianiu obrazów dla algorytmów, nawet jeśli ich reakcje nie są zgodne z ustalonymi standardami oceny.

To jest istotne dla Ciebie, ponieważ to, co recenzenci i annotatorzy uznają za obraźliwe na podstawie konsensusu, ma tendencję do wprowadzania się do systemów automatycznej cenzury i moderacji, oraz do kryteriów “obscenicznych” lub “nieakceptowalnych” materiałów, w ustawodawstwie takim jak nowy zaporę NSFW* w Wielkiej Brytanii (która wkrótce zostanie wprowadzona w Australii), oraz w systemach oceny zawartości na platformach mediów społecznościowych, wśród innych środowisk.

Im szersze są kryteria obraźliwości, tym szerszy potencjał cenzury.

Cenzura “wibów”

To nie jest jedyna perspektywa, jaką prezentuje nowy artykuł; stwierdza on również, że osoby, które oceniają obrazy, często są bardziej skłonne do cenzury tego, co, ich zdaniem, może obrazić innych ludzi poza nimi; oraz że obrazy o niskiej jakości często wywołują obawy bezpieczeństwa, chociaż jakość obrazu nie ma nic wspólnego z zawartością obrazu.

W swoim wniosku artykuł podkreśla te dwie ustalenia, jakby główny punkt artykułu nie powiódł się, ale badacze byli zobowiązani do opublikowania go i tak.

Chociaż nie jest to niezwykła sytuacja, artykuł daje, po dokładnym przeczytaniu, bardziej sinistralny podtekst: że praktyki annotacji mogą uwzględniać coś, co mogę opisać tylko jako annotowanie “wibów”:

‘Nasze wyniki sugerują, że istniejące ramy muszą uwzględniać subiektywne i kontekstowe wymiary, takie jak reakcje emocjonalne, niejawne osądy i kulturowe interpretacje szkody. Częste używanie przez annotatorów języka emocjonalnego i ich rozbieżność z wcześniej zdefiniowanymi etykietami szkody podkreślają luki w obecnych praktykach oceny.

‘Rozszerzenie wytycznych annotacji o przykładowe ilustracje różnorodnych kulturowych i emocjonalnych interpretacji może pomóc wypełnić te luki.’

… (reszta treści)