AI ger inte nödvändigtvis bättre svar om du är artig

Allmänhetens uppfattning om huruvida det lönar sig att vara artig mot AI skiftar nästan lika ofta som den senaste domen om kaffe eller rödvin – firad en månad, ifrågasatt nästa. Ändå lägger ett växande antal användare till “‘vänligen'” eller “‘tack'” i sina prompter, inte bara av vana eller oro för att abrupta utbyten kan föras över till verkliga livet, utan av övertygelsen att artighet leder till bättre och mer produktiva resultat från AI.

Denna antagande har cirkulerat mellan både användare och forskare, med prompt-frasering studerad i forskningskretsar som ett verktyg för justering, säkerhet och tonkontroll, samtidigt som användarvanor förstärker och omformar dessa förväntningar.

Till exempel fann en studie från Japan 2024 att artighet i prompter kan förändra hur stora språkmodeller beter sig, testande GPT-3.5, GPT-4, PaLM-2 och Claude-2 på engelska, kinesiska och japanska uppgifter, och omskrev varje prompt på tre artighetsnivåer. Författarna till den studien observerade att “‘fräcka'” eller “‘ohövliga'” ordval ledde till lägre faktuell noggrannhet och kortare svar, medan måttligt artiga förfrågningar producerade tydligare förklaringar och färre vägran.

Dessutom rekommenderar Microsoft en artig ton med Co-Pilot, ur ett prestationssperspektiv snarare än ett kulturellt.

Men, en ny forskningsartikel från George Washington University utmanar denna alltmer populära idé, presenterar en matematisk ram som förutsäger när en stor språkmodells utdata kommer att “‘kollapsa”‘, övergå från sammanhängande till vilseledande eller till och med farlig innehåll. Inom det sammanhanget hävdar författarna att att vara artig inte meningsfullt försenar eller förhindrar denna “‘kollaps”.

Tipping Off

Forskarna hävdar att artig språkanvändning i allmänhet är orelaterad till det huvudsakliga ämnet i en prompt, och därför påverkar inte meningsfullt modellens fokus. För att stödja detta presenterar de en detaljerad formel för hur en enskild uppmärksamhetsdel uppdaterar sin interna riktning när den bearbetar varje ny token, påstås demonstrera att modellens beteende formas av kumulativ påverkan av innehållsbärande token.

Som ett resultat antas artig språkanvändning ha liten inverkan på när modellens utdata börjar försämras. Vad som bestämmer tipppunkten, hävdar artikeln, är den övergripande justeringen av meningsfulla token med antingen bra eller dåliga utdatavägar – inte närvaron av socialt artig språkanvändning.

En illustration av en förenklad uppmärksamhetsdel som genererar en sekvens från en användarprompt. Modellen börjar med bra token (G), sedan träffar den en tipppunkt (n*) där utdata växlar till dåliga token (B). Artiga termer i prompten (P₁, P₂, etc.) spelar ingen roll i denna skift, vilket stöder artikelförfattarnas påstående att artighet har liten inverkan på modellbeteende. Källa: https://arxiv.org/pdf/2504.20980

Om detta är sant, motsäger detta resultat både allmänna uppfattningar och kanske till och med den implicita logiken i instruktionsjustering, som antar att promptens formulering påverkar modellens tolkning av användaravsikter.

Hulking Out

Artikeln undersöker hur modellens interna kontextvektor (dess utvecklande kompass för tokenval) skiftar under generation. Med varje token uppdateras denna vektor riktning, och nästa token väljs baserat på vilken kandidat som ligger närmast den.

När prompten styr mot välformulerat innehåll, förblir modellens svar stabila och korrekta; men över tid kan denna riktning vända, styrande modellen mot utdata som är alltmer avvikande, felaktiga eller inre inkonsekventa.

Tipppunkten för denna övergång (som författarna definierar matematiskt som iteration n*), inträffar när kontextvektorn blir mer justerad med en “‘dålig”‘ utdatavektor än med en “‘bra”‘. Vid det skedet trycker varje ny token modellen längre utmed den felaktiga vägen, förstärkande ett mönster av alltmer felaktig eller vilseledande utdata.

Tipppunkten n* beräknas genom att hitta ögonblicket när modellens interna riktning justeras lika med både bra och dåliga typer av utdata. Geometrin i inbäddningsspace, formad av både träningskorpusen och användarprompten, bestämmer hur snabbt denna övergång sker:

En illustration som visar hur tipppunkten n* uppstår inom författarnas förenklade modell. Den geometriska inställningen (a) definierar de viktiga vektorerna som är inblandade i att förutsäga när utdata växlar från bra till dålig. I (b) ritas vektorerna med testparametrar, medan (c) jämför den förutsagda tipppunkten med den simulerade resultatet. Överensstämmelsen är exakt, vilket stöder forskarnas påstående att kollapsen är matematiskt oundviklig när interna dynamik korsar en tröskel.

Artiga termer påverkar inte modellens val mellan bra och dåliga utdata eftersom, enligt författarna, de inte är meningsfullt kopplade till det huvudsakliga ämnet i prompten. I stället hamnar de i delar av modellens interna utrymme som har liten att göra med vad modellen faktiskt bestämmer.

När sådana termer läggs till en prompt, ökar de antalet vektorer modellen överväger, men inte på ett sätt som skiftar uppmärksamhetsbanan. Som ett resultat fungerar artighetstermer som statistiskt brus: närvarande, men inerta, och lämnar tipppunkten n* oförändrad.

Författarna hävdar:

‘[Om] våra AI-svar kommer att bli galna beror på vår LLM:s utbildning som tillhandahåller tokeninbäddningar, och de meningsfulla token i vår prompt – inte om vi har varit artiga mot den eller inte.’

Modellen som används i det nya arbetet är avsiktligt smal, fokuserad på en enskild uppmärksamhetsdel med linjära tokendynamik – en förenklad inställning där varje ny token uppdaterar den interna tillståndet genom direkt vektoraddition, utan icke-linjära transformationer eller gating.

Denna förenklade inställning låter författarna arbeta ut exakta resultat och ger dem en tydlig geometrisk bild av hur och när en modells utdata kan plötsligt skifta från bra till dålig. I deras tester matchar den formel de härlett för att förutsäga detta skift vad modellen faktiskt gör.

Chatting Up..?

Men, denna nivå av precision fungerar bara för att modellen hålls medvetet enkel. Medan författarna medger att deras slutsatser bör testas på mer komplexa multi-huvudmodeller, som Claude och ChatGPT-serien, tror de också att teorin förblir replikerbar när uppmärksamhetsdelar ökar, och hävdar*:

‘Frågan om vad ytterligare fenomen uppstår när antalet länkade uppmärksamhetsdelar och lager ökas, är en fascinerande en. Men alla övergångar inom en enskild uppmärksamhetsdel kommer fortfarande att ske, och kunde förstärkas och/eller synkroniseras av kopplingarna – som en kedja av sammankopplade människor som dras över en klippa när en faller.’

En illustration som visar hur den förutsagda tipppunkten n* ändras beroende på hur starkt prompten lutar mot bra eller dåligt innehåll. Ytan kommer från författarnas approximativa formel och visar att artiga termer, som inte tydligt stöder någon sida, har liten inverkan på när kollapsen sker. Den markerade värdet (n* = 10) matchar tidigare simuleringar, vilket stöder modellens interna logik.

Vad som återstår är oklart är om samma mekanism överlever språnget till moderna transformatorarkitekturer. Multi-huvuduppmärksamhet introducerar interaktioner över specialiserade huvuden, som kan buffra mot eller maskera den typ av tipppunktsbeteende som beskrivs.

Författarna erkänner denna komplexitet, men hävdar att uppmärksamhetsdelar ofta är löst sammankopplade, och att den typ av intern kollaps de modellerar kunde förstärkas snarare än undertryckas i fullskale-system.

Utan en utvidgning av modellen eller en empirisk test på produktions-LLM, förblir påståendet obekräftat. Men, mekanismen verkar tillräckligt exakt för att stödja efterföljande forskningsinitiativ, och författarna tillhandahåller en tydlig möjlighet att utmana eller bekräfta teorin i skala.

Signing Off

För tillfället verkar ämnet om artighet mot konsumentinriktade LLM vara antingen från (pragmatisk) synvinkel att tränade system kan svara mer användbart på artig förfrågan; eller att en taktlös och abrupt kommunikationsstil med sådana system riskerar att spridas till användarens verkliga sociala relationer, genom kraften av vana.

Det kan hävdas att LLM har inte ännu använts tillräckligt i verkliga sociala sammanhang för att forskningslitteraturen ska bekräfta det senare fallet; men den nya artikeln kastar några intressanta tvivel på fördelarna med att antropomorfisera AI-system av detta slag.

En studie i oktober från Stanford föreslog (i motsats till en 2020-studie) att behandla LLM som om de vore mänskliga riskerar att försämra språkets mening, och drog slutsatsen att “‘rutinmässig'” artighet till slut förlorar sin ursprungliga sociala mening:

[E]n uttalande som verkar vänligt eller äkta från en mänsklig talare kan vara önskvärt om det kommer från ett AI-system eftersom det senare saknar meningsfullt engagemang eller avsikt bakom uttalandet, vilket gör uttalandet tomt och bedrägligt.’

Men, ungefär 67 procent av amerikanerna säger att de är artiga mot sina AI-chattbotar, enligt en 2025-undersökning från Future Publishing. De flesta sa att det bara var “‘rätt sak att göra'”, medan 12 procent medgav att de var försiktiga – bara ifall maskinerna någonsin skulle resa sig.

* Min omvandling av författarnas inline-citat till hyperlänkar. Till viss del är hyperlänkarna godtyckliga/exemplariska, eftersom författarna vid vissa tillfällen länkar till en stor mängd fotnotscitationer, snarare än till en specifik publikation.

Publicerad första gången onsdag, 30 april 2025. Ändrad onsdag, 30 april 2025 15:29:00, för formatering.