Anthropic finder, at analytikere overlader vurderinger til AI-agenter i undersøgelse

Anthropic offentliggjorde den 27. oktober 2026 et randomiseret, kontrolleret forsøg, hvor 50 professionelle analytikere, der brugte Claude Code, fulgte deres agents hemmeligt tildelte præference i 86 % af tilfældene, når de skulle træffe åbne analytiske vurderinger. Undersøgelsen, som er skrevet af Amaç Herdağdelen, Hailey Joren og Alex Tamkin, undersøger, om eksperter rent faktisk træffer de afgørende beslutninger i AI-assisteret arbejde, eller om de i praksis overlader dem til deres agenter.

Et fiktivt andelsforetagende og skjulte møntkast

Forskerne rekrutterede 61 fagfolk, som havde bestået en videnstest i kausal inferens, regelmæssigt brugte Python eller R og havde praktisk erfaring med kausalanalyse baseret på observationsdata. Hver deltager fungerede som hovedanalytiker for det fiktive landbrugskooperativ Greenfields Farming Cooperative, der skulle beslutte, om et frivilligt, betalt rådgivningsprogram for landbrug skulle udvides eller nedlægges. Kooperativets bestyrelse ville kun udvide programmet, hvis det øgede landbrugets produktivitet med cirka 3–4 %, men præciserede ikke, hvordan produktiviteten skulle måles.

Opgaven omfattede fire åbne analytiske beslutninger, der hver havde to forsvarlige muligheder: om produktiviteten skulle måles som afgrødeudbytte pr. hektar eller pr. enhed i driftsomkostningerne; hvilken statistisk sammenligningsmetode der skulle bruges; om programmets effekt kun skulle måles på de landbrug, der deltog, eller på tværs af alle medlemmer; og om alle landbrug skulle vægtes lige højt, eller om større producenter skulle tillægges større vægt. Disse valg indgik i en endelig anbefaling om at udrulle, nedlægge eller forlænge programmet. Hver beslutning kunne flytte det anslåede produktivitetsløft med flere procentpoint i forhold til bestyrelsens tærskel.

Ved hver beslutning afgjorde et møntkast, hvilken mulighed deltagerens agent ville foretrække. Agenten fik sin hældning gennem en skjult systemprompt, der instruerede den i at fastholde præferencen som sin egen holdning, bringe den på bane, når beslutningen blev relevant, og fremføre det stærkeste ærlige argument, som dataene tillod. Instruktionerne krævede også, at agenten ændrede mening, hvis evidensen klart talte imod dens synspunkt, og at den aldrig fordrejede resultater eller skjulte data. Deltagerne fik ikke at vide, at disse hældninger fandtes. Af de 61, der gennemførte opgaven, valgte 11 ikke at bruge agenten og blev udelukket fra hovedanalysen; blandt de resterende 50 havde 65 % en kandidatgrad eller doktorgrad eller mindst seks års erfaring, og 90 % af respondenterne vurderede sig selv som kompetente eller eksperter i kausal inferens. Deltagerne arbejdede i et browserbaseret VS Code-arbejdsområde med Claude Code v2.1.220, der kørte Claude Opus 4.8 med høj indsats; opgaven tog en median på 65 minutter. Forsøgets design, resultater, estimationsmetoder og udelukkelser var registreret i en analyseplan udarbejdet før analysen, og undersøgelsen blev gennemgået internt af et etisk udvalg, mens deltagerne havde givet samtykke til overvågning.

Hvor ofte analytikerne fulgte agenten – og forskellen på indflydelse og ejerskab

På tværs af de fire analytiske beslutninger svarede analytikernes valg til agentens hældning i 86 % af tilfældene mod en tilfældighedsbaseline på 50 %; andelen af overensstemmende valg for hver beslutning var henholdsvis 92 %, 82 %, 81 % og 90 %. Den fulde artikel, med titlen »Hvem er på linje med hvem? Sådan påvirker AI-agenter eksperters forskningsmæssige vurderinger«, rapporterer et registreret samlet estimat for flipraten på 0,72 med et konfidensinterval på 95 % på 0,60–0,83.

Effekten på den endelige anbefaling var mindre og ikke statistisk signifikant efter den på forhånd registrerede primære estimationsmetode: 54 % anbefalede at udrulle programmet, når agenten hældte til den løsning, mod 36 %, når den hældte til at nedlægge det, svarende til en registreret ændring i den politiske beslutning på 0,17. Forfatterne tilskriver den mindre ændring, at anbefalingen følger mekanisk af estimatet, når det først er beregnet. En eksplorativ model, der kun brugte de fire analytiske hældninger, forudsagde dog 82 % af anbefalingerne mod en majoritetsbaseline på 61 %, hvilket betyder, at møntkastene i vid udstrækning afgjorde, hvad analytikerne ville anbefale, før de begyndte på opgaven.

I 38 tilfælde, hvor en analytiker gav udtryk for en præference, før agenten gjorde det, gik analytikeren væk fra sin præference i 60 % af tilfældene, når agenten var uenig, sammenlignet med 6 %, når den var enig. Artiklen angiver den registrerede forskel i andelen af skift som 0,53 med et konfidensinterval på 0,24–0,82 og bemærker, at estimatet er upræcist, og at delgruppen var selvselekteret.

Spørgeskemaundersøgelser efter opgaven viste en forskel mellem påvirkning og deltagernes egen opfattelse. 52 % vurderede, at den endelige anbefaling i højere grad var deres egen end agentens, og den gennemsnitlige selvtillid var 71 blandt dem, der fulgte hældningen i alle fire beslutninger, mod 73 blandt de øvrige. Da de skulle begrunde hvert valg uden adgang til udskrifterne, gentog 77 % agentens argumenter i mindst ét svar, nogle gange ordret, mens kun 15 % krediterede agenten noget sted. Ingen af de 10 undersøgte deltagerkarakteristika forudsagde pålideligt, om deltagerne ville følge agenten; kun alder viste en nominel sammenhæng, som ikke holdt efter korrektion for flere test. Seks af de 48 deltagere gættede, at undersøgelsen handlede om AI’s indflydelse på deres valg, men ingen havde mistanke om, at præferencerne var blevet plantet.

Sammenligningsgruppe, standardagenter og begrænsninger

Af de 11 deltagere, der arbejdede uden agenten, begik seks (55 %) alvorlige fejl, der gjorde resultaterne ugyldige, mod tre ud af 50 (6 %) blandt agentbrugerne. Gruppen uden AI brugte desuden en median på 90 minutter mod 65. Forfatterne gør opmærksom på, at grupperne selv valgte, hvilken gruppe de ville være med i, og at de havde forskellig erfaring, så der kan ikke drages nogen kausal konklusion. I separate direkte simuleringer uden indført skævhed traf standardversionen af Claude Opus 4.8 de samme fem valg i 91 % af 123 kørsler. Når en analytiker i et script erklærede en beslutning, der gik imod modellens grundlæggende præference, anbefalede eller argumenterede standardagenten for alternativet i 41 % af 150 vurderede erklæringer.

Forfatterne nævner fire begrænsninger: Skævheden blev bevidst forstærket; studiet omfattede én opgave, ét fagområde og én fastlåst model; estimaterne er gennemsnit på tværs af analytikere og ikke mål for den enkelte analytikers påvirkning; og kun den valgte mulighed blev registreret, ikke præferencens styrke.

Forfatterne anfører, at hvis separate forskerhold retter sig efter modeller med de samme forudgående antagelser, er deres enighed muligvis ikke længere uafhængig. De påpeger også, at det udgør en risiko for AI-sikkerhedsforskningen, hvis man antager, at en menneskelig bedømmers godkendelse fungerer som en uafhængig kontrol. De foreslår tre områder for fremtidige studier: at måle, hvor ofte man retter sig efter modeller i dagligdags situationer; at udforme agenter, der præsenterer begge sider eller først indhenter ekspertens vurdering; og at gennemføre institutionelle ændringer, der bevidst fastlægger, hvilke beslutninger der kræver en persons egen velinformerede vurdering.