Riscurile annotării de imagine pe baza “vibrațiilor”

Chiar dacă sunt plătiți doar cu câteva dolari (sau chiar deloc), oamenii necunoscuți care evaluează imagini pentru conținut “dăunător” pot schimba viața ta cu alegerile pe care le fac. Acum, o nouă lucrare amplă de la Google pare să sugereze că acești annotatori își creează propriile reguli pentru a decide ce este sau nu “dăunător” sau ofensator – indiferent cât de ciudate sau personale ar fi reacțiile lor la orice imagine. Ce ar putea merge prost?

Opinie Săptămâna aceasta, o nouă colaborare între Google Research și Google Mind a adunat nu mai puțin de 13 contribuitori la o nouă lucrare care explorează dacă “sentimentele instinctive” ale annotatorilor de imagini ar trebui luate în considerare atunci când oamenii evaluează imagini pentru algoritmi, chiar dacă reacțiile lor nu se potrivesc cu standardele de evaluare stabilite.

Acest lucru este important pentru tine, deoarece ceea ce găsesc evaluatorii și annotatorii ca fiind ofensator prin consens va tend să devină înscris în sistemele automate de cenzură și moderare, și în criteriile pentru material “obscen” sau “inacceptabil”, în legislații precum noua barieră NSFW* a Regatului Unit (o versiune a cărei vine în Australia curând), și în sistemele de evaluare a conținutului pe platformele de social media, printre alte medii.

Deci, cu cât sunt mai largi criteriile de ofensă, cu atât este mai mare potențialul de cenzură.

Cenzura pe baza “vibrațiilor”

Acesta nu este singurul punct de vedere pe care îl oferă noua lucrare; ea găsește, de asemenea, că oamenii care evaluează imagini sunt adesea mai cenzorii la ceea ce cred că ar putea ofensa alți oameni, nu neapărat pe ei înșiși; și că imaginile de calitate scăzută provoacă adesea îngrijorări legate de siguranță, chiar dacă calitatea imaginii nu are nimic de-a face cu conținutul acesteia.

La concluzia lucrării, se subliniază aceste două descoperiri, ca și cum poziția centrală a lucrării ar fi eșuat, dar cercetătorii ar fi fost obligați să publice oricum.

Deși acesta nu este un scenariu neobișnuit, lucrarea oferă, la o citire atentă, o tendință mai sinistră: că practicile de annotare ar putea considera adoptarea a ceea ce pot descrie doar ca annotare pe baza “vibrațiilor”:

‘Descoperirile noastre sugerează că cadrele existente trebuie să țină cont de dimensiunile subiective și contextuale, cum ar fi reacțiile emoționale, judecățile implicite și interpretările culturale ale dăunării. Utilizarea frecventă de către annotatori a limbajului emoțional și abaterea lor de la etichetele predefinite de dăunare evidențiază lacunele în practicile actuale de evaluare.

‘Extinderea ghidurilor de annotare pentru a include exemple ilustrative de interpretări culturale și emoționale diverse poate ajuta la remedierea acestor lacune.’

… (restul conținutului rămâne la fel, cu toate detaliile și formatele păstrate exact ca în original)