Adobe och Meta fördömer missbruk av användarstudier inom datorteknikforskning

Adobe och Meta, tillsammans med University of Washington, har publicerat en omfattande kritik av vad de påstår är ett ökande missbruk och missförstånd av användarstudier inom datorteknikforskning (CV).

Användarstudier var tidigare vanligtvis begränsade till lokala områden eller studenter runt campusen för en eller flera av de deltagande akademiska institutionerna, men har sedan nästan helt migrerat till online-krowsourcingplattformar som Amazon Mechanical Turk (AMT).

Bland en mängd olika klagomål hävdar den nya artikeln att forskningsprojekt pressas att producera studier av pappersexperter; ofta formulerar studierna dåligt; beställer studier där logiken i projektet inte stöder detta tillvägagångssätt; och ofta “gamas” av cyniska crowdworkers som “figurerar ut” de önskade svaren istället för att verkligen tänka på problemet.

Den femton sidor långa avhandlingen (med titeln Towards Better User Studies in Computer Graphics and Vision) som utgör den centrala delen av den nya artikeln riktar många andra kritiker mot sättet som crowdsourcade användarstudier kan faktiskt hämma framstegen inom datorteknikunderområden som t.ex. bildigenkänning och bildsyntes.

Även om artikeln behandlar en mycket bredare uppsättning frågor relaterade till användarstudier, är dess starkaste kritik riktad mot sättet som utvärdering av utdata i användarstudier (dvs. när crowdsourcade människor betalas i användarstudier för att göra värderingsbedömningar på – t.ex. – utdata från nya bildsyntesalgoritmer) kan påverka hela sektorn negativt.

Låt oss ta en titt på några av de centrala punkterna.

Sensationella tolkningar

Bland artikelförfattarnas råd till de som publicerar inom datortekniksektorn finns varningen att “tolka resultaten noggrant”. Artikeln citerar ett exempel från 2021, när en ny forskningsrapport som hävdade att “individer inte kan identifiera AI-genererad konst med tillräcklig noggrannhet” spreds i den populära pressen.

En av de mer profilerade medierna om 2021 års rapport ‘The Role of AI Attribution Knowledge in the Evaluation of Artwork’, av Harsha Gangadharbatla, citerad som ett exempel i den nya artikeln. Här är The Daily Mails källa The Times (betald länk). Källor: Daily Mail (arkivlänk) / https://www.gwern.net/docs/ai/nn/gan/2021-gangadharbatla.pdf

Författarna skriver*:

‘[I] en studie i en psykologitidskrift samlades bilder av traditionella konstverk och bilder skapade av AI-teknik från webben, och crowdworkers bad att skilja på vilka bilder som kom från vilka källor. Från resultaten drogs slutsatsen att “individer inte kan identifiera AI-genererad konst med tillräcklig noggrannhet”, en mycket bred slutsats som inte följer direkt från experimenten.

‘Dessutom rapporterar artikeln inte detaljer om vilka specifika bildsätt som samlades in eller användes, vilket gör anspråken svåra, om inte omöjliga, att verifiera och reproducera.

‘Mer oroande är att den populära pressen rapporterade dessa resultat med vilseledande anspråk på att AI kan oberoende skapa konst lika bra som människor.’

Hantering av crowdworkers som fuskare

Crowdsourcade arbetare betalas vanligtvis inte mycket för sina ansträngningar. Eftersom deras utsikter är minimala, och deras bästa möjlighet till inkomst är genom att slutföra en stor mängd uppgifter, är många av dem, forskning visar, benägna att ta vilken “genväg” som helst som kan påskynda den aktuella uppgiften så att de kan gå vidare till nästa liten “gig”.

Artikeln observerar att crowdsourcade arbetare, likt maskinlärningssystem, kommer att lära sig repetitiva mönster i användarstudier som forskare formulerar, och enbart härleda det “korrekta” eller “önskade” svaret, snarare än producera ett äkta organiskt svar på materialet.

För att komma till rätta med detta rekommenderar artikeln att man genomför kontroller av de crowdsourcade arbetarna, också kallade “valideringstester” eller “sentinler” – i princip, falska delar av en test som är utformad för att se om arbetaren är uppmärksam, klickar slumpmässigt eller enbart följer ett mönster som de själva har härlett från testerna, snarare än att tänka på sina val.

Författarna skriver:

‘Till exempel, i fallet med par av stiliserade bilder, kan en av bilderna i paret vara en medvetet och objektivt dålig kvalitetsprodukt. Under analysen kan data från deltagare som misslyckats med ett förbestämt antal kontroller kasseras, antas vara genererad av deltagare som var ouppmärksamma eller inkonsekventa.

‘Dessa kontroller bör införas slumpmässigt i studien, och bör se ut som andra tester; annars kan deltagarna lista ut vilka tester som är kontrollerna.’

Hantering av forskare som fuskare

Med eller utan avsikt kan forskare vara delaktiga i detta slags “fusk”; det finns många sätt för dem, kanske till och med oavsiktligt, att “signalera” sina önskade val till crowdworkers.

Till exempel observerar artikeln att forskare, genom att välja crowdworkers med profiler som kan vara gynnsamma för att få de “ideala” svaren i en studie, i princip bevisar en hypotes som annars kan ha misslyckats på en mindre “utvald” och mer arbiträr grupp.

Fraseringsväg är också en viktig fråga:

‘Ordförrådet bör återspegla de övergripande målen, t.ex. “vilken bild innehåller färre artefakter?” istället för “vilken bild innehåller färre färgdefekter i ansiktsområdet?” Omvänt lämnar oexakt frasering för mycket till tolkning, t.ex. “vilken bild är bättre?” kan förstås som “vilken är mer estetiskt tilltalande?” där avsikten kanske var att utvärdera “vilken är mer realistisk?”

Ett annat sätt att “välvilligt påverka” deltagare är att låta dem veta, öppet eller underförstått, vilket av de möjliga valen framför dem som är forskarens metod, snarare än en tidigare metod eller slumpmässigt urval.

Artikeln skriver*:

‘[D]eltagarna kan svara med svaren som forskarna vill ha, medvetet eller inte, vilket är känt som “good subject effect”. Använd inte etiketter som “vår metod” eller “befintlig metod”. Deltagare kan bli fördomade av maktrelationer (dvs. forskaren som har makten att köra forskningssessionen), forskare som använder språk för att påverka deltagare (t.ex. “hur mycket gillar du det här verktyget som jag byggde igår?”), och forskare och deltagarnas relation (t.ex. om båda arbetar i samma labb eller företag).’

Formateringen av en uppgift i en användarstudie kan likaså påverka studiens neutralitet. Författarna noterar att om, i en sidledes presentation, baslinjen konsekvent placeras på vänster sida (dvs. “bild A”) och utdata från den nya algoritmen på höger sida, studiedeltagare kan sluta sig till att B är det “bästa” valet, baserat på deras växande antagande om forskarnas hoppade resultat.

‘Andra presentationsaspekter som storleken på bilderna på skärmen, deras avstånd till varandra osv. kan påverka deltagarnas svar. Att testa studien med några olika inställningar kan hjälpa till att upptäcka dessa potentiella felkällor i tid.’

Fel personer för fel produkt

Författarna observerar på flera punkter i artikeln att crowdsourcade arbetare är en mer “generisk” resurs än vad som skulle ha förväntats i tidigare decennier, då forskare var tvungna att vända sig till lokala områden, ofta till studenter som supplementerade sin inkomst genom deltagande i studier.

Kraven på aktivt deltagande lämnar den anställda crowdworkern liten utrymme att vara “nonplussed” av en produkt de testar, och artikelförfattarna rekommenderar att forskare identifierar sina målgrupper innan de utvecklar och testar en potentiell produkt eller tjänst – annars riskerar de att producera något som är mycket svårt att skapa, men som ingen verkligen vill ha.

‘Verkligen, vi har ofta sett datorteknik- eller visionforskare försöka få sin forskning antagen av industriföretag, men sedan upptäcka att forskningen inte tillgodoser målgruppens behov. Forskare som inte genomför behovsanalyser i början kan bli förvånade över att användarna inte har något behov av eller intresse för verktyget de har tillbringat månader eller år med att utveckla.

‘Sådana verktyg kan prestera dåligt i utvärderingsstudier, eftersom användarna kan finna att tekniken producerar användlösa, irrelevanta eller oväntade resultat.’

Artikeln observerar vidare att användare som faktiskt sannolikt kommer att använda en produkt bör väljas för studierna, även om de inte är lätta att hitta (eller, förmodligen, lika billiga).

Istället för att återgå till att rekrytera på campus (vilket skulle vara ett ganska bakåtriktat drag), föreslår författarna att forskare “rekryterar användare i det vilda”, genom att engagera sig med relevanta samhällen.

‘Till exempel kan det finnas en relevant aktiv online-meddelandeforum eller social mediegemenskap som kan utnyttjas. Att even möta en medlem av gemenskapen kan leda till snowball sampling, där relevanta användare erbjuder kontakter till liknande individer i deras nätverk.’

Att inhämta feedback

Artikeln rekommenderar också att man inhämtar kvalitativ feedback från de som har deltagit i användarstudier, inte minst för att detta kan potentiellt avslöja falska antaganden från forskarnas sida.

‘Dessa kan hjälpa till att felsöka studien, men de kan också avslöja oväntade aspekter av utdata som påverkade användarnas betyg. Var deltagaren “mycket missnöjd” [sic] med utdata på grund av att det var orealistiskt, inte estetiskt, fördomat eller av någon annan anledning?

‘Utan kvalitativ information kan forskaren arbeta med att förbättra algoritmen för att göra den mer realistisk, istället för att hantera det underliggande användarproblemet.’

Liksom många av rekommendationerna i artikeln, innebär denna specifika rekommendation ytterligare utgifter av tid och pengar från forskarnas sida, i en kultur som, enligt artikeln, tenderar att föredra snabba och praktiskt taget obligatoriska crowdsourcade användarstudier, som vanligtvis är ganska billiga, och som följer en studiebaserad kultur som artikeln kritiserar genomgående.

Överstudierad

Artikeln föreslår att användarstudier blir en slags “minimumkrav” i den pre-printade datorteknikgemenskapen, även i fall där en studie inte kan formuleras på ett rimligt sätt (t.ex. med en idé som är så ny eller marginell att det inte finns någon “liknande” analys att genomföra, och som kanske inte är mottaglig för någon rimlig metric som kunde ge meningsfulla resultat i en användarstudie).

Som exempel på “studiebeting” (inte författarnas uttryck), citerar forskarna fallet med en ICLR 2022-artikel för vilken peer reviews är tillgängliga online (arkivsnapshot tagen 24 juni 2022; länk tagen direkt från den nya artikeln)^†:

‘Två recensenter gav mycket negativa poäng delvis på grund av brist på användarstudier. Artikeln antogs slutligen, åtföljd av en sammanfattning som klandrade recensenterna för att använda “användarstudier” som en ursäkt för dålig granskning, och anklagade dem för att vara grindvaktare. Den fullständiga diskussionen är värd att läsa.

‘Det slutliga beslutet noterade att inlämnandet beskrev en programvarubibliotek som had been deployed i år, med tusentals användare (information som inte avslöjades för recensenterna för anonym granskning). Skulle artikeln – som beskriver ett högimpaktverktyg – ha blivit avvisad om kommittén inte hade haft denna information?

‘Och, om författarna hade lagt ner extra ansträngningar på att konstruera och genomföra en användarstudie, skulle den ha varit meningsfull, och skulle den ha varit tillräcklig för att övertyga recensenterna?’

Författarna skriver att de har sett recensenter och redaktörer införa “krävande utvärderingskrav” på insända artiklar, trots att sådana utvärderingar kanske inte har någon mening eller värde.

‘Vi har också sett att författare och recensenter använder MTurk-utvärderingar som en krutch för att undvika att fatta svåra beslut. Recensentkommentarer som “Jag kan inte se om bilderna är bättre, kanske en användarstudie skulle hjälpa” är potentiellt skadliga, eftersom de uppmuntrar författare att utföra extra arbete som inte kommer att förbättra en undermålig artikel.’

Författarna avslutar artikeln med en central “uppmaning till handling”, för datorteknik- och datorteknikgemenskaperna att överväga sina krav på användarstudier mer fullständigt, istället för att låta en studiebaserad kultur utvecklas som en rutinmässig standard, trots “undantagsfallen” där några av de mest intressanta arbetena kanske inte passar in i de mest lukrativa eller fruktbara forsknings- och inskickningsrören.

Författarna avslutar:

‘[O]m det primära målet med att köra användarstudier är att blidka recensenter snarare än att generera nya kunskaper, bör nyttan och giltigheten av sådana användarstudier ifrågasättas av författare och recensenter. Att bestraffa arbete som inte innehåller användarutvärdering har den oavsiktliga konsekvensen att den uppmuntrar hastigt gjorda, dåligt utförda användarstudier.

‘En maxim att komma ihåg är att “dålig användarforskning leder till dåliga resultat”, och sådan forskning kommer att fortsätta om recensenter fortsätter att begära den.’

* Min konvertering av artiklens inline-citationer till relevanta hyperlänkar
^† Min betoning, inte författarnas.

Publicerad första gången den 24 juni 2022.