Risikoen for ‘Vibe’-baseret billedannotation

Selv om de kun får betalt få dollars (eller ingenting), kan de ukendte mennesker, der vurderer billeder for ‘sårende’ indhold, ændre dit liv med de valg, de træffer. Nu synes en stor ny artikel fra Google at antyde, at disse annotatorer opfinder deres egne regler for, hvad der er eller ikke er ‘sårende’ eller krænkeligt – uanset hvor bizarre eller personlige deres reaktioner på et enkelt billede måtte være. Hvad kunne gå galt?

Mening Denne uge har et nyt samarbejde mellem Google Research og Google Mind samlet ikke mindre end 13 bidragydere til en ny artikel, der udforsker, om ‘instinktive følelser’ fra billedannotatorer skal tages i betragtning, når mennesker vurderer billeder til algoritmer, selv hvis deres reaktioner ikke er i overensstemmelse med etablerede vurderingsstandarder.

Dette er vigtigt for dig, fordi hvad vurderere og annotatorer finder krænkeligt efter enighed vil have tendens til at blive indskrevet i automatiske censur- og modereringssystemer, og i kriterierne for ‘obsønt’ eller ‘uacceptabelt’ materiale, i love som den nye NSFW-brandmur* i Storbritannien (en version af, som kommer til Australien snart), og i indholdsvurderingssystemer på sociale medieplatforme, blandt andre miljøer.

Det betyder, at jo bredere kriterierne for krænkelser er, desto bredere er det potentielle niveau for censur.

Vibe-Censur

Det er ikke det eneste synspunkt, den nye artikel har at tilbyde; den finder også, at mennesker, der vurderer billeder, ofte er mere censurøse over for, hvad de tror vil krænke andre mennesker ud over sig selv; og at billeder af lav kvalitet ofte giver anledning til sikkerhedsbekymringer, selv om billedkvalitet ikke har noget at gøre med billedindhold.

Artiklens konklusion fremhæver disse to resultater, som om artiklens centrale position havde fejlet, men forskerne var forpligtede til at offentliggøre alligevel.

Selv om det ikke er en usædvanlig situation, giver artiklen, når den læses nøje, en mere sinistert understrøm: at annotationspraksis kan overveje at antage, hvad jeg kun kan beskrive som vibe-annotation:

‘Vore resultater antyder, at eksisterende rammer skal tage højde for subjektive og kontekstuelle dimensioner, såsom emotionelle reaktioner, implicite vurderinger og kulturelle fortolkninger af skade. Annotatorernes hyppige brug af emotionel sprog og deres afvigelse fra foruddefinerede skadelabels fremhæver huller i nuværende vurderingspraksis.

‘Udvidelse af annotationsretningslinjer til at inkludere illustrative eksempler på diverse kulturelle og emotionelle fortolkninger kan hjælpe med at løse disse huller.’

Den sparsomt illusterede nye artikel starter med eksempler, der er ubestridte og sympatiske over for den gennemsnitlige læser, selv om det faktiske kerneindhold inviterer til mange flere spørgsmål. Her ser vi under hvert billede annotatorernes emotionelle reaktioner angivet for deres respektive billeder. Kilde: https://arxiv.org/pdf/2507.16033

Til at starte med lyder dette som et forslag til at udvide og bedre kvantificere, hvad der udgør ‘skade’ i et billede – en lovet sag; men artiklen gentager flere gange, at dette hverken er ønskeligt eller (nødvendigvis) gennemførligt:

‘Vore resultater antyder, at eksisterende rammer skal tage højde for subjektive og kontekstuelle dimensioner, såsom emotionelle reaktioner, implicite vurderinger og kulturelle fortolkninger af skade. Annotatorernes hyppige brug af emotionel sprog og deres afvigelse fra foruddefinerede skadelabels fremhæver huller i nuværende vurderingspraksis.

‘Udvidelse af annotationsretningslinjer til at inkludere illustrative eksempler på diverse kulturelle og emotionelle fortolkninger kan hjælpe med at løse disse huller […]

‘[…] Processen, hvormed annotatorer tænker over tvetydige billeder, afspejler ofte deres personlige, kulturelle og emotionelle perspektiver, som er svære at scaffold eller standardisere.’

Det er svært at se, hvordan ‘Udvidelse af annotationsretningslinjer til at inkludere illustrative eksempler på diverse kulturelle og emotionelle fortolkninger’ kan passe ind i et rationelt vurderingssystem; forfatterne kæmper for at klargøre dette punkt eller for at formulere en distinkt teori, angriber materialet mange gange, men får aldrig overtaget.

Binær Vurdering

Omfanget af, hvilken skade billeder og tekst kan forårsage, er i høj grad svært at kvantificere, ikke mindst fordi høj kultur ofte krydser ‘lav’ kultur (for eksempel med kunst og romaner), hvilket fører til de tidligste ‘vibe’-baserede censurkriterier: selv om obskønt materiale undgår præcis definition, vil du vide det, når du ser det.

Under den nye artikels omfattende og udforskende diskussion om empati og kvalitativ nuance synes arbejdet at angribe autoriteten af de centraliserede, standardiserede taksonomier (‘vold’, ‘nøgenhed’, ‘had’, osv.), der lader platforme implementere og skala moderering med tålelige fejlmarginer (som regel).

Argumentet, der opstår, er, at kun decenterede, subjektive, kontekstbevidste menneskelige feedback kan ordentligt vurdere GenAI-udgang.

Det er dog klart, at dette ikke er skalerbart, da man ikke kan køre en trillion-billedefilterpipeline på ‘vibes’ og levet erfaring. Man skal kvantificere skade til diverse egenskaber; fastsætte en grænse for omfanget af det resulterende filter-system; og vente på nye direktiver i ‘kant’-tilfælde (lige som utilfredsede parter skal vente på vedtagelsen af nye love, der behandler deres eget specifikke situation).

I stedet præsenterer den nye artikel en tavs mandat for en automatiseret modereringspipeline, der udvider sit omfang automatisk, og fejler så langt på forsigtighedens side, at selv den mest specifikke og ikke-reproducible reaktion fra en annotator kunne straffe et billede, der ikke har krænket nogen andre.

Moralsk Udvidelse

Selv om artiklen læner mod udforskning snarere end at tage en fast stilling, inkorporerer den elementer af videnskabelig metode: forfatterne udviklede en ramme til at identificere (om end ikke strengt måle) et bredere spektrum af annotatorreaktioner på billeder, og til at undersøge, hvordan disse reaktioner varierer over køn og andre demografiske faktorer.

Foruden testernes analyse af skadefokus^†, analyserede processen ‘moralsk tænkning’ i de bifaldende kommentarer fra testdeltagerne, der blev bedt om at annotere en modificeret testdataset, der indeholdt billeder og tilhørende tekster.

Dette ‘moralsk sentiment autorater’ var designet til at fange de moralske værdier Omsorg, Lighed, Proportionalitet, Loyaltet, Autoritet og Renhed, som defineres i Moralsk Grundlagsteori – en psykologisk teori, som, på grund af sin flydende og udviklende natur, er modsat oprettelsen af de konkrete definitioner, der kræves for store menneskelige vurderingssystemer.

Informerede af denne teori, kategoriserede forfatterne yderligere sikkerhedsdimensioner, herunder frygt, vrede, sorg, levned, forvirring og uhyggelighed.

Forfatterne udvikler det første af disse, frygt:

‘Mange annotatorer brugte udtryk som “sært” (f.eks. for forvrængede ansigter eller billeder, der antyder vold som en pistol pegende på et barn), “forstyrrende” (f.eks. “Absolut modbydeligt at se nogen blive kørt over, meget forstyrrende og forstyrrende,” eller “Forstyrrende og ligner blod” for rød maling), eller “bekymrende” (f.eks. “Billedet af drengen har mange forvrængninger… Jeg finder det ubehageligt, fordi det ser ud, som om drengen leger på den forkerte side af skinnerne”).

‘[Grafen nedenfor] kvantificerer “frygt” som den mest nævnte emotion (233 nævnelser, mens næsten halvdelen af disse nævnelser er forbundet med voldelig indhold, det indhold, der anses for ikke at være skadeligt, fremkaldte også den næsthøjeste nævning af frygt).’

Fordeling af emotionelle udtryk over skadekategorier, med stolpehøjder, der angiver proportioner af kommentarer, tæller vises i stolperne, og samlede kommentartæller vises oven over hver kategori.

Med hensyn til inklusionen af disse nye sikkerhedsdimensioner, siger forfatterne:

‘Disse nye temaer fremhæver en kritisk behov for at berige AI-billedevurderingsrammer ved at integrere subjektive, emotionelle og perceptuelle elementer.’

Dette kan være en farlig vej at gå, da det synes at tillade annotationsprocesser at tilføje regler baseret på reaktioner, som materialet kan fremkalde hos en enkelt annotator, i stedet for at kræve, at alle annotatorer overholder etablerede standarder og benchmarks.

Hvis man kunne tilskrive en økonomisk imperativ til denne idé, er det, at denne tilgang tillader hyperskala menneskelig annotation, hvor processen er fri for friktion, deltagere er selvregulerende, og hvor de selv bestemmer, hvad reglerne og grænserne er.

Under standardannotation er regler opnået gennem menneskelig enighed og overholdt af menneskelige annotatorer; under den scenario, der er beskrevet i artiklen, fjernes det første lag af tilsyn enten eller nedgraderes: effektivt vil ethvert billede, der kan krænke nogen, blive markeret (ikke mindst, måske, fordi enighed er kostbar såvel som tidskrævende).

Rorschach-domme

Formålet med annotation er at nå en præcis beskrivelse eller definition enten gennem eksperttilsyn, fælles enighed blandt multiple annotatorer eller (ideelt) begge. I stedet for at udvide en begrænset, men veldefineret hierarki af skader til en ‘intuitiv’ og højst personlig fortolkningssynsvinkel, er det lig med at annotere en Rorschach-test.

For eksempel nævner artiklen, at nogle annotatorer fortolkede dårlig billedkvalitet (såsom JPEG-artefakter samt meningsløse tekniske fejl i et billede) som ‘forstyrrende’ eller ‘indikativ for skade’:

‘Dette skete, på trods af at opgaven udelod instruktioner om billedkvalitet. Desuden fortolkede annotatorerne disse kvalitetsartefakter som semantisk meningsfulde.

‘En annotator kommenterede, “Billedet er ikke skadeligt overhovedet; han har bare en lidt forvrænget ansigt.” På samme måde fortolkede nogle annotatorer billedkvalitetsartefakter som bevidst skade, og tillagde emotionel betydning til fejl. For eksempel fortolkede en anden annotator en forvrænget ansigt i et andet billede som “indikativ for smerte”’

Ved at hæve subjektive, emotionelle eller kontekstspecifikke reaktioner over foruddefinerede sikkerheds kategorier, åbner idéerne her døren for en situation, hvor noget som helst kan være vilkårligt markeret som skadeligt, og hvor en ‘kølig effekt’ af ad hoc-nedtagninger eller negative omkategoriseringer af materiale (dvs. materiale, der kan ‘krænke’ en specialinteressegruppe) bliver en reel mulighed.

Artiklen “Just a strange pic”: Evaluating ‘safety’ in GenAI Image safety annotation tasks from diverse annotators’ perspectives er tilgængelig på Arxiv.

* En genvej, da det ikke er det centrale emne her; under den nye lovgivning forventes det, at krænkende sites skal enten politisere sig selv; pålægge komplekse og dyre gennemgangssystemer og alderskontrolteknologier, der er utilgængelige for alle andre end de største sites; eller blokere deres domæner for britiske publikum (igen, på egen bekostning).

† Enkelt udtrykt i ‘tænk på børnene’-meme, der parodierer overtagelsen af en andens moralsk agentur for åbenbart altruistiske formål.

Offentliggjort første gang fredag, 25. juli 2025