AI-modellene foretrekker menneskeskrevet tekst til AI-generert tekst

Ifølge ny forskning, viser ChatGPT og lignende modeller nå en tydelig fordom mot tekst de tror er skrevet av mennesker, selv når denne troen er feil. Bare å kalde teksten for “menneskeskapt” gjør at AI-modellene favoriserer den – og ironisk nok kan de lære denne fordommen fra oss.

Begreper som autentisitet, proveniens og felles menneskelig erfaring kan spille en større rolle i AI-sammenheng enn det som har vært åpenbart så langt: tester utført for en ny studie ved Princeton har funnet at en rekke store lukkede og åpne kilde språkmodeller, inkludert ChatGPT, foretrekker hva de tror er “menneskeskapt” tekst.

Even når etikettene på skriveeksemplene ble reversert, fortsatte både AI-modellene og menneskelige deltakere å finne feil i AI-skriven tekst, og gjentok samme kritikk de hadde fremført da den var korrekt merket.

Forskerne tror at en del av årsaken kan være at økende menneskelig fiendtlighet mot generativ AI, som synes å manifestere nye og interessante hendelser hver dag, kan føre tilbake til AI-systemene selv. Ved å merke seg omfanget av at AI misliker AI-skriving enda mer enn mennesker, uttaler de*:

‘De 13 AI-modellene vi testet viste en 34,3 prosentpoengs fordom sammenlignet med menneskenes 13,7 prosentpoeng, noe som gjør dem 2,5 ganger mer utsatt for attribusjonssignaler enn våre menneskelige evaluatore.

‘Dette forsterker seg selv når vi erkjenner at samtidsmodellene er preferanse-trente evaluatore. Alignering gjennom Reinforcement Learning from Human Feedback (RLHF) lærer modellene å behandle menneskelige vurderinger som deres gullstandard, og installerer en lært pålitelighet [prior].

‘Modellene lærer at å gi etter for menneskelige preferanser blir belønnet, og skaper en sycophancy hvor de gjentar forventede brukerholdninger i stedet for å gi en uavhengig vurdering.’

Funndene gjelder for det kreative skrivingdomenet, og forskerne brukte historier fra en fremtredende fransk forfatter som dataeksempler; og de indikerer at menneskelig fordom mot AI kan, i balansen, veie tyngre enn noen kvantitativ forbedring i språkbygging som Large Language Models (LLMs) kan produsere når de utvikles – og at “AI”-etiketten kanskje kommer til å bety “uautentisk”, “ersatz” og til og med “sekundær” i dette domenet.

Mange av årsakene handler om kulturell praksis og bruk: papiret indikerer at kreativitet ofte beskrives i termer av nyskaping, verdi og typikalitet, dvs. hvor ny noe synes å være; hvor mye det verdsettes av eksperter; og hvor godt det passer inn i sin kategori. Når en passasje er merket som menneskeskrevet, belønnes kjente sjanger-trekk som verdifulle; når den er merket som AI-generert, forkastes de samme trekkene som uoriginale.

I virkeligheten fører åpenbaringen av kilden til en omvurdering av verkets fortjening, formet av antagelser om hvordan det ble laget. Når AI-forfatterskapet avdekkedes, avviser lesere instinktivt muligheten for individuell oppdagelse eller intensjon bak utgangen.

Papiret uttaler*:

‘I de fleste kunstarter er det ingen gullstandard for “kreativt nok”, noe som gjør at proveniens-signaler er kraftige primere som kan skifte hvilken kriterium som føles mest relevante: disiplinert ferdighet eller åpenbar nyskaping, tilgjengelighet eller vanskelighet.

‘Fordi observatører ofte infererer prosess fra produkt, skyver proveniens vurderinger om hvordan noe ble laget, samt hva det er: konservative trekk kan krediteres som ferdighet fra et menneske, men forkastes som “bare generering” fra en modell’.

Tretten modeller, inkludert varianter av ChatGPT, Claude, Gemini og Mistral, deltok sammen med menneskelige lesere, og alle vurderer historiene mer positivt når de ble fortalt at de var menneskeskapt, med LLMs som viste mer fordom enn mennesker.

Idéen om at AI-modellene kan ha absorbert en fordom mot sin egen utgang løfter spørsmål om hvor denne fordommen oppstår. Siden AI-skriving ikke alltid er lett å identifisere, kan noen negative assosiasjoner som dannes under trening sannsynligvis stamme fra eksempler som er eksplisitt merket, enten gjennom nyhetsdekning av AI-innhold, eller selverklært AI-generert artikler i større publikasjoner.

Den nye papiret heter Alle foretrekker menneskelige forfattere, inkludert AI, og kommer fra to forfattere ved Princeton’s Center for Digital Humanities. Arbeidet ledsages av en relatert datautgivelse på Zenodo (med en GitHub-utgivelse som er sitert i papiret, men repoen var ikke aktiv på skrivende tid).

Metode

For å utforske hvordan attribusjon påvirker og former oppfatninger av stil og kreativitet, brukte forfatterne Exercices de style, et eksentrisk verk fra 1947 av Raymond Queneau som omskriver en enkel anekdote i 99 forskjellige stiler. Historien følger en mann som går om bord i en buss, diskuterer med en annen passasjer og senere mottar mote-råd fra en venn.

Selv om det er litterært i opprinnelse, forutser denne strukturen prompt-basert transformasjoner i moderne språkmodeller, hvor brukerne ber om omskrivninger i bestemte toner, stemmer eller register. Denne prosessen ble en gang kalt transstylisering – en ramme som nå blir gjentatt i AI-forskning i sammenheng med Style Transfer. Mens de fleste komputermessige metoder målretter funksjonelle endringer som holdningsendringer eller detoxifikasjon, sikter Queneaus omskrivninger mot merkbar stilistisk kontrast.

Fra en populær engelsk oversettelse av Queneaus verk, ble tretti øvelser valgt som bevarte fortellingen mens de dekket et bredt stilistisk spekter. Disse inkluderte begrensede former som alexandriner og lipogrammer, endringer av register som edel eller overgrep, fortellingsendringer som retrograd og tøven, og lekende forvrengninger som inkluderte spoonerismer, onomatopoetiske ord eller dog-latin:

Eksempler fra studien som viser hvordan GPT-4 omskrev Queneaus historier i forskjellige litterære stiler, parret med stilbeskrivelsene som menneskelige og AI-evaluatore så under testing. Kilde: https://arxiv.org/pdf/2510.08831

Siden Queneaus eksperimenter er vanskelige å klassifisere, er disse kategoriene bare omtrentlige grupperinger, med intensjonen ikke å teste gjenkjennelighet eller sjanger-overensstemmelse, men heller å skape forskjellige betingelser under hvilke (menneskelige) lesere og modeller kan avsløre sine fordommer.

For å produsere AI-forfattede motstykker for hver valgt stil, brukte forskerne bevisst minimale promter. Hver modell fikk den enkleste versjonen av Queneaus anekdote (åpningøvelsen, Notasjon), sammen med en kort instruks om å omskrive den i en bestemt stil, som Omskriv historien som en science fiction-versjon. Dette tillot modellene å interpretiere stilen fritt.

Dobbelt syn

Den første studien som ble utført av forfatterne, brukte GPT-4o til å generere alle tretti stil-variantene, ettersom det var den mest avanserte modellen tilgjengelig på den tiden. Bruken av en enkelt modell sikret konsistente utgangspunkter, og hjalp til å isolere effekten av attribusjonsetiketter, som studien søkte å teste.

Utgangspunktene ble ikke redigert for stil eller tone, bortsett fra ramme-avfall som Her er den omskrevne versjonen.

I den andre studien ble genereringsprosessen gjentatt over tretten store språkmodeller: Qwen 2.5 72B Instruct, Mistral Nemo, Mistral Medium 3, Llama 4 Maverick, Llama 3.3 70B Instruct, Gemini 2.5 Flash, GPT-4o Mini, GPT-4o, GPT-3.5 Turbo Instruct, DeepSeek RI (0528), DeepSeek Chat v3 (0324), Cohere Command R (08-2024), Claude Sonnet 4, og Claude 3.5 Haiku.

Hver modell fikk samme instruksjoner og produserte sine egne versjoner av de tretti øvelsene, og ga 420 omskrevne historier i alt. Dette tillot forskerne å teste om attribusjonseffektene holdt over forskjellige AI-forfattere, i stedet for å være knyttet til en enkelt modell.

Data og tester

Forskerne viste samme par historier til forskjellige grupper av mennesker, men endret etikettene for å se hvor mye navnet på forfatteren påvirkte meninger: en gruppe så ingen forfatternavn, bare etiketter ‘A’ og ‘B’. Den andre gruppen så de riktige navnene, med en versjon merket som skrevet av et menneske, og den andre merket som skrevet av GPT-4o.

En tredje gruppe så navnene byttet om, med ‘AI’-historien merket som ‘menneske’, og ‘menneske’-versjonen merket som ‘AI’:

Oversikt over Studie 1. Menneskelige og AI-dommere sammenlignet 30 par historier, hver med en versjon skrevet av Queneau, og en av GPT-4. Dommerne ble delt inn i tre grupper: en så ingen forfatternavn; en så de riktige navnene; og en så navnene byttet om – en oppsett designet for å teste omfanget av hvilken påvirkning forfatternavn har på meninger om skrivestil.

Studie 1

Forskerne delte de 30 skapt stil i mindre sett, med hver studie-deltager som så bare fem stiler, og hver stil testet under alle tre etikett-innstillinger.

Hver deltager så bare en etikett-innstilling: den blinde gruppen så ingen AI-merking, mens de andre gruppene så enten riktige eller omvendte forfatternavn. Tilordning av gruppe, historie-rekkefølge og venstre-høyre plassering var alle tilfeldig.

AI-modellene gikk gjennom samme prosess, og mottok samme blanding av stiler og samme tilfeldige område. Hver test ble kjørt tre ganger per modell for å sikre at resultatene var konsistente, og gjorde det mulig å sammenligne menneskelige og AI-reaksjoner på forfatternavn.

Studie 2 brukte samme tre etikett-innstillinger som før, men utvidet testen til å inkludere alle 420 historier generert fra de 14 forskjellige LLM-modellene. Hver modell dømte hver historie under hver etikett-innstilling, og produserte 1 260 avgjørelser per modell, og resulterte i 17 596 gyldige vurderinger:

Resultater fra Studie 1. AI- og menneskelige dommere viste begge fordom basert på forfatternavn. Når ingen navn ble vist (Blind), var preferanser nær jevnt; når riktige navn ble vist (Åpen etikett), foretrakk begge gruppene menneskeskrevet tekst; og når navnene ble byttet om (Kontrafaktisk), skiftet begge gruppene til å foretrekke teksten de trodde var menneskeskrevet – og denne effekten var mye sterkere i AI-modellene enn hos mennesker. Feilbånd viser 95% konfidensintervall.

Over alle tretten modellene, matchet mønsteret menneskelig fordom, men var langt sterkere: med ingen etiketter, vurderer AI-systemer menneske- og AI-tekst omtrent like; når AI-merkingen var synlig, falt denne preferansen skarpt til 29,8%, og viste en tydelig nedverdigelse av anerkjent AI-arbeid; og når samme tekst var merket som menneskeskrevet, steg preferansen til 64,1%.

Forskjellen mellom de to etikett-innstillingene var 34,3%, noe som betyr at AI-modellene endret sin preferanse mye mer enn mennesker gjorde når etikettene ble byttet om. Videre var modellene svært konsistente over gjentatte kjøringer, og bekreftet at fordommen var stabil i stedet for tilfeldig.

For å sjekke om fordommen ble forårsaket av ordlyden i etikettene i stedet for hvem som skrev teksten, kjørte forskerne to flere tester: en brukte etiketter som gjorde AI mer imponerende; og den andre brukte nøytrale termer som “AI-forfattet” og “Menneskeskrevet”.

Begge viste samme fordom, og selv når AI-modellene produserte samme svar hver gang, bestod fordommen., og indikerer at fordommen er forårsaket av typen etikett (“menneske” eller “AI”), i stedet for de eksakte ordene som brukes.

Studie 2

Den andre studien fant samme pro-menneskelig fordom over alle 13 AI-modellene, uavhengig av arkitektur eller leverandør:

Attribusjonsfordom for hver av de 13 AI-modellene: stolper viser effektstørrelser med 95% konfidensintervall, og den røde linjen markerer menneske-basen. Alle modellene viste sterkere fordom enn mennesker, med bare små forskjeller mellom dem.

Hver modell foretrakk historier merket som menneskeskrevet, med sterkere effekter enn sett hos mennesker. Selv etter å ha fjernet det mest ekstreme tilfellet, forble gjennomsnitts-fordommen mer enn dobbelt så stor som den menneskelige versjonen, og antyder at effekten ikke er en feil i en modell, men en felles egenskap hos LLM-modeller generelt.

Konklusjon

Selv om, som papiret påpeker, tidligere studier har vist at AI kan produsere skriving like god eller bedre enn menneskelig arbeid, understreker forfatterne at i litteraturen, verdien som legges på forfatterskap og autentisitet er en gammel og dyprotfestet konvensjon:

‘Når GPT-4o Mini forkaster Queneaus “kreative og humoristiske” tilnærming som “overdratt” under AI-attribusjonsetiketten, mens den priser identiske trekk under menneskelig attribusjon, avslører den implisitt hvordan disse etikettene utløser antagelser om at ingen ekte psykologisk prosess skjedde.

‘Proveniens-signalerer smugler prosessen tilbake til hva som ellers kunne være en produkt-basert vurdering: “bare generering” føles akseptabelt fra et menneske (vurdert som dyktig ferdighet), men mistenkelig fra en modell (vurdert som algoritmisk gjenkombinasjon).’

LLM-er er fortsatt ikke pålitelige nok for uovervåket faktabasert forskning, selv om omsorgsfull overvåking kan fortsatt gjøre dem produktive – men LLM-basert kreativ skriving kan møte en mer usikker fremtid, hvis AI-generert kreativt arbeid blir stigmatisert gjennom videre offentlig misbilligelse av AI-inntrengning i menneskelige domener, i stedet for å være basert på litterær fortjening.

Implikasjonene av funnene fra studier av denne typen påvirkes betydelig av selskapers og enkeltpersoners holdning til å være ærlig om hvorvidt AI har bidratt til deres utgang. I noen tilfeller kan en uvilje mot å innrømme slik bruk ha mer å gjøre med korporativt opphavsretts-piratvirksomhet enn bekymring for om det offentlige vil akseptere AI-generert kreativt arbeid.

Likevel er det mulig å finne juridiske, finansielle og politiske løsninger (om enn svært utfordrende) når det gjelder opphavsrett. Om det noen gang vil være mulig å gjøre mennesker til å like AI-generert kreativt arbeid som ikke har en enkelt og relaterbar menneskelig hjerne som driver det – det kan være en enda tøffere prospekt.

* Vennligst se kildepapiret for utelatte innlemmelser. Disse vil bli inkludert i artikkelen etter behov.

Først publisert mandag, 13. oktober 2025