Die Risiken von “Vibe”-basierten Bildannotierungen

Obwohl sie nur ein paar Dollar (oder sogar nichts) verdienen, können die unbekannten Menschen, die Bilder auf “schädliche” Inhalte bewerten, Ihr Leben mit den Entscheidungen, die sie treffen, verändern. Jetzt scheint ein großes neues Papier von Google zu suggerieren, dass diese Annotatoren ihre eigenen Regeln dafür erstellen, was “schädlich” oder anstößig ist oder nicht – egal, wie merkwürdig oder persönlich ihre Reaktionen auf ein bestimmtes Bild sind. Was könnte schiefgehen?

Meinung Diese Woche brachte eine neue Zusammenarbeit zwischen Google Research und Google Mind nicht weniger als 13 Mitwirkende zusammen, um ein neues Papier zu erstellen, das erforscht, ob die “instinktiven Gefühle” von Bildannotatoren berücksichtigt werden sollten, wenn Menschen Bilder für Algorithmen bewerten, auch wenn ihre Reaktionen nicht mit etablierten Bewertungsstandards übereinstimmen.

Dies ist wichtig für Sie, weil das, was Rater und Annotatoren als anstößig durch Konsens finden, tendenziell in automatischen Zensur- und Moderationssystemen verankert wird und in den Kriterien für “obszönes” oder “inakzeptables” Material in Gesetzen wie dem neuen NSFW-Feuerwall* des Vereinigten Königreichs (eine Version davon kommt bald nach Australien), und in Inhaltsbewertungssystemen auf sozialen Medien-Plattformen und in anderen Umgebungen.

Je breiter die Kriterien für Anstößigkeit sind, desto breiter ist das potenzielle Zensurniveau.

Vibe-Zensur

Das ist nicht der einzige Standpunkt, den das neue Papier hat; es findet auch heraus, dass Menschen, die Bilder bewerten, oft vorsichtiger sind, was sie denken, dass andere Menschen stören könnte; und dass Bilder mit schlechter Qualität oft Sicherheitsbedenken hervorrufen, obwohl die Bildqualität nichts mit dem Bildinhalt zu tun hat.

Am Ende des Papiers betont es diese beiden Ergebnisse, als ob die zentrale Position des Papiers gescheitert wäre, aber die Forscher gezwungen waren, es dennoch zu veröffentlichen.

Obwohl dies nicht ungewöhnlich ist, ergibt das Papier bei sorgfältiger Lektüre einen noch unheilvolleren Unterton: dass Annotierungspraktiken möglicherweise “Vibe-Annotieren” übernehmen könnten, was ich nur als Vibe-Annotieren beschreiben kann:

‘Unsere Ergebnisse deuten darauf hin, dass bestehende Rahmenbedingungen subjektive und kontextuelle Dimensionen wie emotionale Reaktionen, implizite Urteile und kulturelle Interpretationen von Schaden berücksichtigen müssen. Die häufige Verwendung emotionaler Sprache durch Annotatoren und ihre Abweichung von vordefinierten Schadenslabels heben Lücken in den aktuellen Bewertungspraktiken hervor.

‘Die Erweiterung der Annotierungsrichtlinien um illustrative Beispiele diverser kultureller und emotionaler Interpretationen kann dazu beitragen, diese Lücken zu schließen.’

… (rest of the content remains the same, following the exact structure and translation rules)