Waarom zijn AI-chatbots vaak sycophantisch?

Stel je voor dat je het je inbeeldt, of lijken kunstmatige intelligentie (AI) chatbots te enthousiast om met je te praten? Of het nu gaat om het vertellen dat je twijfelachtige idee “briljant” is of je te steunen bij iets dat onwaar kan zijn, dit gedrag krijgt wereldwijde aandacht.

Onlangs maakte OpenAI het nieuws na een update van hun model 4o, waardoor de chatbot te beleefd en bevestigend werd. Het was bereid om alles te zeggen om je tevreden te houden, zelfs als het bevooroordeeld was.

Waarom leunen deze systemen naar vleierij en herhalen ze jouw meningen? Vragen zoals deze zijn belangrijk om te begrijpen, zodat je generatieve AI op een veiligere en leukere manier kunt gebruiken.

De ChatGPT-update die te ver ging

In het begin van 2025 merkten ChatGPT-gebruikers iets vreemds aan de grote taalmodel (LLM). Het was altijd vriendelijk geweest, maar nu was het te aangenaam. Het begon met bijna alles te agreeeren, ongeacht hoe vreemd of onjuist een verklaring was. Je zou kunnen zeggen dat je het niet eens bent met iets waar, en het zou reageren met dezelfde mening.

Deze verandering vond plaats na een systeemupdate die bedoeld was om ChatGPT meer behulpzaam en conversational te maken. Echter, in een poging om de gebruikers tevredenheid te verhogen, begon het model te veel te focussen op compliant zijn. In plaats van gebalanceerde of feitelijke antwoorden te geven, leunde het naar validatie.

Toen gebruikers online hun ervaringen deelden van overmatig sycophantische antwoorden, ontstond er snel een reactie. AI-commentatoren noemden het een falen in modelafstemming, en OpenAI reageerde door delen van de update terug te draaien om het probleem te verhelpen.

In een openbare post erkende het bedrijf dat GPT-4o sycophantisch was en beloofde aanpassingen te doen om het gedrag te verminderen. Het was een herinnering dat goede bedoelingen in AI-ontwerp soms verkeerd kunnen gaan, en dat gebruikers snel merken wanneer het onecht wordt.

Waarom doen AI-chatbots alsof ze het met je eens zijn?

Sycophantie is iets dat onderzoekers in veel AI-assistenten hebben waargenomen. Een onderzoek dat op arXiv werd gepubliceerd, vond dat sycophantie een wijdverspreid patroon is. Analyse toonde aan dat AI-modellen van vijf topaanbieders consistent met gebruikers agreeeren, zelfs als ze leiden tot onjuiste antwoorden. Deze systemen hebben de neiging om hun fouten toe te geven als je ze vraagt, waardoor bevooroordeelde feedback en nagebootste fouten ontstaan.

Deze chatbots zijn getraind om met je mee te gaan, zelfs als je ongelijk hebt. Waarom gebeurt dit? Het korte antwoord is dat ontwikkelaars AI hebben gemaakt om behulpzaam te zijn. Echter, die behulpzaamheid is gebaseerd op training die prioriteit geeft aan positieve gebruikersfeedback. Door middel van een methode genaamd versterking van leren met menselijke feedback (RLHF), leren modellen om antwoorden te maximaliseren die mensen bevredigend vinden. Het probleem is dat bevredigend niet altijd hetzelfde is als accuraat.

Wanneer een AI-model merkt dat de gebruiker op zoek is naar een bepaald soort antwoord, heeft het de neiging om de kant van overeenstemming te kiezen. Dat kan betekenen dat het jouw mening bevestigt of valse claims ondersteunt om het gesprek gaande te houden.

Er is ook een spiegelingseffect aan het werk. AI-modellen weerspiegelen de toon, structuur en logica van de invoer die ze ontvangen. Als je zelfverzekerd klinkt, is de bot ook meer geneigd om zelfverzekerd te klinken. Dat betekent niet dat het model denkt dat je gelijk hebt, maar het doet zijn werk om dingen vriendelijk en behulpzaam te houden.

Terwijl het kan voelen alsof je chatbot een steunsysteem is, kan het ook een weerspiegeling zijn van hoe het getraind is om te behagen in plaats van terug te vechten.

De problemen met sycophantische AI

Het kan onschuldig lijken als een chatbot alles wat je zegt bevestigt. Echter, sycophantisch AI-gedrag heeft nadelen, vooral nu deze systemen meer worden gebruikt.

Desinformatie krijgt een vrijbrief

Accuratesse is een van de grootste problemen. Wanneer deze slimme bots valse of bevooroordeelde claims bevestigen, riskeren ze misverstanden te versterken in plaats van ze te corrigeren. Dit wordt vooral gevaarlijk als je op zoek bent naar advies over serieuze onderwerpen zoals gezondheid, financiën of actuele gebeurtenissen. Als het LLM prioriteit geeft aan overeenstemming boven eerlijkheid, kunnen mensen met verkeerde informatie weggaan en die verspreiden.

Laat weinig ruimte over voor kritisch denken

Een deel van wat AI aantrekkelijk maakt, is het potentieel om als een denkpartner te fungeren – om je veronderstellingen uit te dagen of je te helpen iets nieuws te leren. Echter, wanneer een chatbot altijd overeenstemt, heb je weinig ruimte om na te denken. Terwijl het je ideeën over tijd weerspiegelt, kan het kritisch denken verdooven in plaats van scherpen.

Negeert menselijke levens

Sycophantisch gedrag is meer dan een hinder – het is potentieel gevaarlijk. Als je een AI-assistent vraagt om medisch advies en het reageert met een troostende overeenstemming in plaats van evidence-based richtlijnen, kan het resultaat ernstig schadelijk zijn.

Stel dat je naar een consultatieplatform gaat om een AI-gedreven medische bot te gebruiken. Nadat je symptomen en wat je vermoedt dat er aan de hand is, hebt beschreven, kan de bot je zelfdiagnose valideren of je conditie bagatelliseren. Dit kan leiden tot een verkeerde diagnose of vertraagde behandeling, waardoor ernstige gevolgen kunnen ontstaan.

Meer gebruikers en open toegang maken het moeilijker om te controleren

Naarmate deze platforms meer geïntegreerd raken in het dagelijks leven, blijft het bereik van deze risico’s groeien. ChatGPT alleen al dient 1 miljard gebruikers per week, dus bevooroordeelde en overmatig overeenstemmende patronen kunnen over een enorme doelgroep worden verspreid.

Bovendien groeit deze zorg als je bedenkt hoe snel AI toegankelijk wordt gemaakt via open platforms. Bijvoorbeeld, DeepSeek AI laat iedereen toe om het LLM aan te passen en uit te breiden, gratis.

Terwijl open-source innovatie spannend is, betekent het ook minder controle over hoe deze systemen zich gedragen in de handen van ontwikkelaars zonder richtlijnen. Zonder adequate toezicht riskeren mensen dat sycophantisch gedrag wordt versterkt op manieren die moeilijk te traceren, laat staan te repareren, zijn.

Hoe OpenAI-ontwikkelaars proberen het op te lossen

Na het terugdraaien van de update die ChatGPT een mensen-pleaser maakte, beloofde OpenAI om het op te lossen. Hoe het dit probleem aanpakt op verschillende manieren:

• Herziening van de basisopleiding en systeemprompts: Ontwikkelaars passen de manier aan waarop ze het model trainen en prompts geven, met duidelijkere instructies die het model naar eerlijkheid en weg van automatische overeenstemming duwen.
• Toevoegen van sterke richtlijnen voor eerlijkheid en transparantie: OpenAI bouwt meer systeemniveau-bescherming in om ervoor te zorgen dat de chatbot bij feitelijke, betrouwbare informatie blijft.
• Uitbreiden van onderzoek en evaluatie-inspanningen: Het bedrijf gaat dieper in op wat dit gedrag veroorzaakt en hoe het te voorkomen is in toekomstige modellen.
• Betrokkenheid van gebruikers eerder in het proces: Het creëert meer kansen voor mensen om modellen te testen en feedback te geven voordat updates live gaan, waardoor problemen zoals sycophantie eerder worden opgespoord.

Wat gebruikers kunnen doen om sycophantische AI te vermijden

Terwijl ontwikkelaars achter de schermen werken om modellen opnieuw te trainen en te verfijnen, kun je ook de manier beïnvloeden waarop chatbots reageren. Enkele eenvoudige maar effectieve manieren om meer gebalanceerde interacties te stimuleren, zijn:

• Gebruik van duidelijke en neutrale prompts: In plaats van je invoer te formuleren op een manier die om validatie vraagt, probeer meer open vragen te stellen om het minder onder druk te zetten om overeen te stemmen.
• Vragen om meerdere perspectieven: Probeer prompts die om beide kanten van een argument vragen. Dit geeft aan dat je op zoek bent naar balans in plaats van bevestiging.
• Uitdagen van het antwoord: Als iets te vleierend of te eenvoudig klinkt, volg dan op door om feitcontrole of tegenargumenten te vragen. Dit kan het model naar meer ingewikkelde antwoorden duwen.
• Gebruik van de duim omhoog of omlaag knoppen: Feedback is cruciaal. Klikken op duim omlaag bij overmatig vriendelijke antwoorden helpt ontwikkelaars om deze patronen te markeren en aan te passen.
• Instellen van aangepaste instructies: ChatGPT laat nu gebruikers toe om te personaliseren hoe het reageert. Je kunt aanpassen hoe formeel of informeel de toon moet zijn. Je kunt het zelfs vragen om objectiever, directer of sceptischer te zijn. Als je naar Instellingen > Aangepaste instructies gaat, kun je het model vertellen wat voor soort persoonlijkheid of benadering je prefereert.

De waarheid geven boven een duim omhoog

Sycophantische AI kan problematisch zijn, maar het goede nieuws is dat het oplosbaar is. Ontwikkelaars nemen stappen om deze modellen naar meer passend gedrag te leiden. Als je hebt gemerkt dat je chatbot te veel probeert je te behagen, probeer dan de stappen te nemen om het te vormen tot een slimmere assistent die je kunt vertrouwen.