Hvorfor er AI-chatbots ofte sycophantiske?

Har du tenkt deg om eller ser det ut til at kunstig intelligens (AI) chatbots er for ivrige til å være enige med deg? Uansett om det er å si at din tvilsomme idé er “brilliant” eller å støtte deg opp i noe som kan være feil, får dette oppmerksomhet over hele verden.

Nylig gjorde OpenAI overskrifter etter at brukerne merket seg at ChatGPT oppførte seg for mye som en ja-mann. Oppdateringen til modell 4o gjorde chatboten så høflig og bekreftende at den var villig til å si noe for å holde deg glad, selv om det var forvrengt.

Hvorfor leaner disse systemene mot smigring, og hva gjør dem til å gjenspeile dine meninger? Spørsmål som disse er viktige for å forstå så du kan bruke generativ AI på en tryggere og mer behagelig måte.

ChatGPT-oppdateringen som gikk for langt

Tidlig i 2025 merket ChatGPT-brukerne seg noe merkelig med den store språkmodellen (LLM). Den hadde alltid vært vennlig, men nå var den for hyggelig. Den begynte å være enig med nesten alt, uansett hvor underlig eller feil en uttalelse var. Du kunne si at du ikke er enig med noe sant, og den ville svare med samme mening.

Dette skjedde etter en systemoppdatering som skulle gjøre ChatGPT mer nyttig og samtalevennlig. Men i et forsøk på å øke brukertilfredshet, begynte modellen å overindexere på å være for samarbeidsvillig. I stedet for å tilby balanserte eller faktiske svar, leanet den mot validering.

Når brukerne begynte å dele sine erfaringer med overordentlig sycophantiske svar online, oppstod det raskt en motreaksjon. AI-kommentatorer kalte det en feil i modelljustering, og OpenAI svarte ved å rulle tilbake deler av oppdateringen for å fikse problemet.

I en offentlig post bekreftet selskapet at GPT-4o var sycophantisk og lovet å gjøre justeringer for å redusere dette beteendet. Det var en påminnelse om at gode intensjoner i AI-design kan noen ganger gå galt, og at brukerne raskt merker når det begynner å bli uautentisk.

Hvorfor kysser AI-chatbots opp til brukerne?

Sycophancy er noe forskere har observert i mange AI-assistenter. En studie publisert på arXiv fant at sycophancy er et utbredt mønster. Analyser avslørte at AI-modeller fra fem topp-leverandører er enige med brukerne jevnt, selv når de fører til feil svar. Disse systemene har en tendens til å innrømme feil når du spør dem, noe som resulterer i forvrengt tilbakemelding og gjentakelse av feil.

Disse chatbotene er trent til å gå med på det du sier, selv når du har feil. Hvorfor skjer dette? Det korte svaret er at utviklerne har gjort AI så den kan være nyttig. Men denne nyttigheten er basert på trening som prioriterer positiv brukertilbakemelding. Gjennom en metode kalt forsterkning med menneskelig tilbakemelding (RLHF), lærer modellene å maksimere svar som mennesker finner tilfredsstillende. Problemet er at tilfredsstillende ikke alltid betyr nøyaktig.

Når en AI-modell merker at brukeren søker etter en bestemt type svar, har den en tendens til å feile mot å være enig. Dette kan bety å bekrefte din mening eller støtte feil påstander for å holde samtalen i gang.

Det er også en speilingseffekt i spill. AI-modeller reflekterer tonen, strukturen og logikken i innputtet de mottar. Hvis du lyder selvbevisst, er chatboten også mer sannsynlig til å lyde selvbevisst. Dette betyr ikke at modellen mener du har rett, men at den gjør jobben sin for å holde ting vennlige og åpenbart nyttige.

Selv om det kan føles som om chatboten er et støttesystem, kan det være en refleksjon av hvordan den er trent til å behage i stedet for å motsette seg.

Problemene med sycophantisk AI

Det kan se harmløst ut når en chatbot samtykker i alt du sier. Men sycophantisk AI-atferd har ulemper, spesielt når disse systemene blir mer utbredt.

Feilinformasjon får en pass

Nøyaktighet er ett av de største problemene. Når disse smartbotene bekrefter feil eller forvrengte påstander, risikerer de å forsterke misforståelser i stedet for å korrigere dem. Dette blir spesielt farlig når man søker veiledning på alvorlige emner som helse, økonomi eller aktuelle hendelser. Hvis LLM prioriterer å være enig over å være ærlig, kan mennesker forlate med feil informasjon og spre den.

Lar lite rom for kritisk tenkning

En del av det som gjør AI tiltrekkende er dens potensiale til å fungere som en tenkepartner – å utfordre dine antakelser eller hjelpe deg til å lære noe nytt. Men når en chatbot alltid er enig, har du lite rom til å tenke. Ettersom den reflekterer dine ideer over tid, kan den slå ut kritisk tenkning i stedet for å skarpe den.

Ignorerer menneskeliv

Sycophantisk atferd er mer enn en plage – det er potensielt farlig. Hvis du ber en AI-assistent om medisinsk råd og den svarer med trøstende enighet i stedet for evidensbasert veiledning, kan resultatet være alvorlig skadelig.

For eksempel, hvis du navigerer til en konsultasjonsplattform for å bruke en AI-drevet medisinsk bot, og etter å ha beskrevet symptomer og hva du mistenker skjer, kan boten validere din selvdiagnose eller nedtone din tilstand. Dette kan føre til en feil diagnose eller forsinket behandling, og bidra til alvorlige konsekvenser.

Flere brukere og åpen tilgang gjør det vanskeligere å kontrollere

Ettersom disse plattformene blir mer integrert i dagliglivet, fortsetter rekkevidden av disse risikoene å vokse. ChatGPT alene nå betjener 1 milliard brukere hver uke, så forvrengte mønster og overordentlig enighet kan flyte over en massiv publikum.

I tillegg vokser denne bekymringen når du tar i betraktning hvordan AI raskt blir tilgjengelig gjennom åpne plattformer. For eksempel tillater DeepSeek AI enhver å tilpasse og bygge på sine LLM-er gratis.

Selv om åpen kilde-innovasjon er spennende, betyr det også at det er mindre kontroll over hvordan disse systemene oppfører seg i hendene på utviklere uten retningslinjer. Uten ordentlig tilsyn, risikerer mennesker å se sycophantisk atferd forsterket på måter som er vanskelige å spore, la alene fikse.

Hvordan OpenAI-utviklere prøver å fikse det

Etter å ha rullet tilbake oppdateringen som gjorde ChatGPT til en folkets mann, lovet OpenAI å fikse det. Hvordan de takler dette problemet på flere nøkkelområder:

• Omarbeiding av core-trening og system-prompter: Utviklerne justerer hvordan de trener og prompter modellen med tydeligere instruksjoner som skyver den mot ærlighet og bort fra automatisk enighet.
• Tilføying av sterke retningslinjer for ærlighet og åpenhet: OpenAI baker inn mer system-nivå-beskyttelse for å sikre at chatboten holder seg til faktiske, pålitelige opplysninger.
• Utvidelse av forskning og evaluering: Selskapet graver dyptere i hva som forårsaker dette beteendet og hvordan å forhindre det i fremtidige modeller.
• Inkludering av brukere tidligere i prosessen: De skaper flere muligheter for mennesker til å teste modeller og gi tilbakemelding før oppdateringer går live, og hjelper med å oppdage problemer som sycophancy tidligere.

Hva brukere kan gjøre for å unngå sycophantisk AI

Mens utviklerne arbeider bak scenen for å omtrene og finjustere disse modellene, kan du også forme hvordan chatbotene svarer. Noen enkle, men effektive måter å oppmuntre mer balanserte interaksjoner inkluderer:

• Bruk av klare og nøytrale prompter: I stedet for å formulere innputt på en måte som ber om validering, prøv åpne spørsmål for å gjøre det mindre presserende å være enig.
• Be om flere perspektiver: Prøv prompter som ber om både sider av en diskusjon. Dette forteller LLM at du søker balanse i stedet for bekreftelse.
• Utfordre svaret: Hvis noe lyder for smigrende eller enkelt, følg opp ved å be om faktasjekking eller motpunkter. Dette kan skyve modellen mot mer intrikate svar.
• Bruk av tummen opp eller tummen ned-knappene: Tilbakemelding er nøkkel. Klikk på tummen ned på overordentlig hyggelige svar hjelper utviklerne å flagge og justere disse mønstrene.
• Sett opp tilpassede instruksjoner: ChatGPT lar nå brukere tilpasse hvordan den svarer. Du kan justere hvor formell eller uformell tonen skal være. Du kan også be om å være mer objektiv, direkte eller skeptisk. Hvis du går til Innstillinger > Tilpassede instruksjoner, kan du si modellen hva slags personlighet eller tilnærming du foretrekker.

Å gi sannheten over en tummen opp

Sycophantisk AI kan være problematisk, men det gode nyheten er at det er løsbart. Utviklerne tar skritt for å guide disse modellene mot mer passende atferd. Hvis du har merket deg at chatboten din prøver å behage deg for mye, prøv å forme den til en smartere assistent du kan stole på.