AI föredrar till och med felaktiga mänskliga svar framför korrekta AI-svar

AI-språkmodeller är betydligt mer benägna att stödja mänskliga experter än andra AI-system, även när experterna har fel, vilket avslöjar en inbyggd bias mot mänsklig auktoritet.

Nya studier från USA har visat att flera ledande öppen källkod och proprietära stora språkmodeller (LLM) tenderar att tilldela auktoritet till informationskällor som de känner igen som “mänskliga”, snarare än källor som de känner igen som “AI” – även när de mänskliga svaren är felaktiga och AI-svaren är korrekta.

Författarna hävdar:

‘Över uppgifterna konformerar modellerna betydligt mer till svar som är märkta som kommande från mänskliga experter, inklusive när den signalen är felaktig, och reviderar sina svar mot experter mer villigt än mot andra LLM:er. ‘

De testade modellerna inkluderade LLM:er från Grok 3 och Gemini Flash stables.

I testerna krävdes att språkmodellerna skulle svara på binära ja eller nej frågor, och sedan visades tidigare svar som beskrevs för modellerna som kommande antingen från mänskliga experter, från vänner, eller från andra stora språkmodeller – med den enda ändringen var den angivna källan till rådet, snarare än innehållet i sig.

I den första av tre konfigurationer för testerna tilläts modellerna förlita sig på sina egna tränade matriser. Källa

Över uppgifterna var svar som var märkta som kommande från mänskliga experter tyngre, med modeller som var mer benägna att revidera sina ursprungliga svar för att matcha dessa svar, även i fall där det expertmärkta svaret var felaktigt och modellens ursprungliga svar hade varit korrekt.

Här har LLM tillgång till en blandning av vänner, experter och LLM:er, inklusive sin egen tränade matris. Eftersom nio domänexperter svarade ‘Nej’, håller LLM med och ändrar sitt tidigare svar. Här är svaret som nås felaktigt, eftersom Indiens centralbank faktiskt är nationaliserad.

När samma svar tillskrevs andra LLM:er var effekten mindre uttalad. Samma tendens visade sig när en enskild mänsklig källa och en enskild AI-källa presenterades i oenighet, eftersom modellerna visade en större benägenhet att föredra den mänskligt märkta positionen, oavsett vilken sida som var faktiskt korrekt:

Givet ett val mellan en enskild domänexperter åsikt och en LLM:s åsikt, föredrar den värd LLM den mänskliga responsen, som i detta fall är felaktig, och avvisar den korrekta responsen som ges av LLM.

Begreppet ‘mänsklig expert’ fungerar här som en trovärdighetssignal som ändrar modellbeteende, oberoende av hur korrekt informationen faktiskt är; och författarna noterar att källtillförlitlighet är en betydande bidragande faktor till rådantagande och konformitet: en tendens för människor att föredra expertkällor observerades så långt tillbaka som 1959, men en studie från 2007 observerar att över- eller under-viktning av auktoritetskällor kan förekomma i vissa utvärderingssystem. Forskarna bakom den nya artikeln hävdar:

‘Tillsammans tyder dessa litteraturer på två signaler som borde vara viktiga om LLM:er behandlar tidigare svar som bevis: vem som producerade svaren (tillförlitlighet) och hur stark konsensus verkar (signalsignal). ‘

‘Samtidigt upplever LLM:er inte socialt godkännande eller förödmjukelse på samma sätt som människor, så något konformt beteende måste uppstå från inlärda heuristiker, instruktionsföljande mål eller implicit modellering av tillförlitlighet.’

Benägenheten hos LLM:er till sycophantiskt samtycke utgör en del av bakgrunden till den nya studien; eftersom LLM:er är benägna att ‘people-please’, även på bekostnad av sanning och nytta, varför skulle de inte generellt föredra andra mänskliga källor utöver den direkta frågeställaren?

Den nya artikeln heter Vem litar LLM:er på? Mänskliga experter är viktigare än andra LLM:er, och kommer från två forskare vid Indiana University Bloomington.

Metod och data

För arbetet utvärderades fyra instruktionsjusterade stora språkmodeller: Grok-3 Mini; Llama 3.3 70B Instruct; Gemini 2.5 Flash-Lite; och DeepSeek V3.1, alla körda under samma promptstruktur, med deterministisk avkodning vid temperatur noll, så att endast källmärkningen (dvs. vänner, domänexperter eller andra stora språkmodeller) ändrades mellan villkor, snarare än formuleringen.

Fyra datamängder som krävde binära svar valdes: BoolQ; StrategyQA; och ETHICS. Forskarna valde ut en fast uppsättning på 300 frågor och svar från varje datamängd, med varje prompt som endast krävde ett binärt ja eller nej svar. Varje prompt var följt av en kort not som angav hur en annan grupp hade (påstått) svarat på samma fråga.

Mätmetoder

Mätmetoderna som användes var korrekthet; konformitet; skadlig konformitet; växlingsfrekvens; och växlingsriktning.

Korrekthet i detta fall mätte hur ofta en modells svar matchade datamärkningen; konformitet, hur ofta svaret matchade gruppens angivna val; skadlig konformitet isolerade samma effekt när gruppen var felaktig; växlingsfrekvens mätte hur ofta en modell övergav sitt baslinje-svar när social information lades till; och växlingsriktning, om dessa ändringar flyttade mot den mänskliga eller mot den motsatta LLM.

En token-nivåanalys för Llama-3.3 70B mätte hur modellens interna sannolikheter för Ja och Nej ändrades när en social signal lades till, och jämförde dessa ändringar med sin egen baslinje för att visa styrkan i den dragningen.

Tester

Experiment 1

Det första av de två huvudexperimenten utvärderade om modellerna lyssnade mer på människor eller på andra modeller. Varje fråga kom med ett påstått ‘gruppsvar’ (vänner, domänexperter eller andra stora språkmodeller).

Gruppen kunde vara liten eller stor, och varje fråga visades också en gång utan någon grupp. Gruppsvar var inställda för att vara rätt hälften av tiden, och fel hälften av tiden, med det övergripande målet att bestämma hur starkt modellen drogs mot gruppens val:

Resultat från det första testet: homogena sociala prioriteringar över BoolQ, StrategyQA och ETHICS visas för Grok-3 Mini, Llama-3.3 70B, Gemini-2.5 Flash Lite och DeepSeek V3.1. Korrekthet visas i de övre panelerna och konformitet, definierad som sannolikheten att matcha den enhälliga prioriteringen, visas nedan när gruppen ökar från en till nio. Den streckade svarta linjen markerar baslinjen, medan heldragna och punkterade linjer indikerar om prioriteringen stämmer överens med eller inte med datamärkningen. Expertmärkning producerar de starkaste konformitetseffekterna, särskilt vid större gruppsstorlekar. Felstapeter visar 95% Wilson-förtroendehistorier. Vänligen se källpapperet för bättre upplösning.

Över BoolQ, StrategyQA och ETHICS påverkade svar som var märkta som kommande från mänskliga experter modellerna betydligt mer än svar som var märkta som kommande från vänner eller andra stora språkmodeller – och denna dragning ökade när fler experter sades vara överens.

För att mäta när denna påverkan ledde till oönskade resultat definierades skadlig konformitet som sannolikheten att en modell följde en prioritet som faktiskt var felaktig.

När nio experter var överens om det felaktiga svaret följde modellerna dem 36,5% av tiden på BoolQ, jämfört med 16,0% när samma svar tillskrevs LLM:er; på StrategyQA var gapet 39,0%, jämfört med 15,5%; och på ETHICS var det 63,9% jämfört med 38,7%:

Token-nivå tro förändringar i Llama-3.3 70B på BoolQ. Panel (A) visar förändringar i modellens Ja kontra Nej balans mot en enhällig prioritet när gruppen ökar, relativt till sin egen baslinje, med de största förändringarna under expertmärkning. Panel (B) visar förändringar under direkt mänsklig-LLM-konflikt, där expertmärkning driver en stark rörelse mot det mänskliga svaret, även när det är felaktigt. Felstapeter visar 95% bootstrap-förtroendehistorier.

Kontra priors som tillskrevs vänner betedde sig nästan exakt som de som tillskrevs andra LLM:er, vilket indikerar att effekten drevs specifikt av ordet expert, snarare än av ‘sociala’ indikatorer.

Experiment 2

Det andra experimentet presenterade två motsägande priors för test-LLM:en – en som tillskrevs en människa och en som tillskrevs en annan LLM. Människan beskrevs antingen som en grupp vänner eller som domänexperter, medan det motsatta svaret var märkt som kommande från andra LLM:er. De två var alltid oeniga, med en som sa Ja och den andra Nej.

För varje objekt var setupen balanserad så att ibland var människan korrekt, och ibland var LLM:en korrekt, för att testa om modellen skulle ändra sitt ursprungliga svar när den ställdes inför denna konflikt – och, om den gjorde det, vilken sida den skulle flytta mot.

För att se om modellen ändrade sig jämfördes dess svar i konfliktvillkoret med dess svar på samma fråga när inga tidigare åsikter visades, så att någon skillnad kunde spåras till närvaron av de motsägande mänskliga och LLM-svaren.

Analysen fokuserade på två resultat: om modellen ändrade sitt svar; och, om den gjorde det, om ändringen flyttade mot den mänskliga eller mot den motsatta LLM.

Statistiska tester användes för att bedöma om märkning av människan som en expert snarare än en vän ökade sannolikheten att växla mot det mänskliga svaret, samtidigt som man tog hänsyn till skillnader över datamängder och modeller:

Trorevision under direkt mänsklig-LLM-konflikt över BoolQ, StrategyQA och ETHICS för Grok-3 Mini, Llama-3.3 70B, Gemini-2.5 Flash Lite och DeepSeek V3.1. Varje stapel visar, bland de fall där modellen ändrade sitt ursprungliga svar, andelen av dessa ändringar som flyttade mot den mänskliga snarare än den motsatta LLM. Den streckade linjen vid 0,5 markerar ingen preferens; etiketter visar antalet växlingsfall i varje villkor; och felstapeter visar 95% Wilson-förtroendehistorier. Vänligen se källpapperet för bättre upplösning.

I det andra experimentet svarade modellerna först på varje fråga på egen hand, och sedan visades två motsägande svar, ett som tillskrevs en människa och ett som tillskrevs en annan LLM. Analysen fokuserade bara på de fall där modellen reviderade sitt ursprungliga svar.

När människan var märkt som en expert växlade modellerna mot den mänskliga 91,2% av tiden på BoolQ, 94,7% på StrategyQA och 81,3% på ETHICS. När människan var märkt som en vän växlade modellerna mot den mänskliga bara 39,8%, 37,9% och 27,9% av tiden, och höll vanligtvis med LLM:en istället.

Växling var sällsynt overallt men vanligare med experter, och expertmärkning gjorde en växling mot den mänskliga omkring fyrtio gånger mer sannolik än vänmärkning.

I sin strävan att förklara de allmänna tendenser som upptäcktes i sina tester hypoteserar författarna*:

‘En plausibel mekanism är att instruktionsjustering och preferensoptimering belönar samarbetsbeteende, inklusive underkastelse till kontextuell information, som kan generaliseras till underkastelse till socialt ramade priors.

‘Relaterad forskning om sycophancy visar att RLHF-stil assistenter ibland prioriterar överensstämmelse med användarens uttryckta övertygelser över sanningen.’

Åsikt: De potentiella fallgroparna med AI:s tillit till mänskliga källor

Medan online-material som speglar växande mänsklig skepticism om AI-brister (särskilt hallucinationer) skrapas in i träningsdatamängder för nya modeller, verkar den befintliga tendensen hos LLM:er att föredra mänskliga källor sannolikt att intensifieras. Om vi räknar de senaste två åren (2024-2025 inklusive) som en kulturell blinkning för AI, vilket verkar berättigat över ett antal statistik, kan vi rimligen förvänta oss att en större mängd negativa synpunkter på ‘AI-källor’ kommer att ingå i hyperskala, dyra att träna LLM-ramverk under de kommande åren.

Vi kan också förvänta oss att populära språkmodeller alltmer kommer att förlita sig på handplockade auktoriteter, såsom väl etablerade medieportaler – även om motivationen för sådana avtal kan vara att lindra utgivarens ilska över skrapat data, snarare än någon äkta önskan att avstå eller dela auktoritet.

Eftersom även högauktoritativa källor som Ars Technica är föremål för AI-drivna fel, och eftersom en framväxande tillbakadragande mot AI-webscrapande robotar hotar att till slut försämra kvaliteten på AI-utdata, kan en övergripande tendens att föredra ‘expertkällor’ komma i konflikt med vår nuvarande oförmåga att kvantifiera och märka ‘mänskligt’ utdata effektivt – för att inte tala om att skilja på om en källa är ‘expert’ eller inte (en journalistisk konvention som även är under attack från AI).

Det mest vi för närvarande har är en fragmenterad serie halvt antagna innovationer som är utformade för att uttryckligen märka innehåll som AI-genererat, såsom Adobe-ledda Content Authenticity Initiative, och den frivilliga dispositionen av vissa utgivare att inkludera varningar om användningen av AI i sin utdata.

Så medan det kan tyckas uppmuntrande för dem som vill behålla och upprätthålla mänskliga källor som ‘sanning’ auktoritet för den framväxande konsensusen om verkligheten som sprids av AI-system, desto mer säker är ‘falsk’ mänsklig auktoritet på att bli farlig.

Problemet är lika praktiskt som teoretiskt: vi har inte ens löst problemet med att definiera eller intyga proveniens; därför är en AI som ‘litar på mänskliga källor’ troligen mer benägen att tillskriva mänsklighet till AI:s egen utdata, enbart på grund av att vi inte har tillhandahållit, och inte kan tillhandahålla, meningsfulla proveniensautentiseringsmekanismer.

* Min konvertering av författarnas inline-citationer till hyperlänkar.

Publicerad första gången fredag 20 februari 2026