Chatbots duwen ‘AI’-carrières en -aandelen meer dan mensen doen

AI-chatbots, waaronder commerciële marktleiders zoals ChatGPT, Google Gemini en Claude, geven advies dat sterk in het voordeel is van AI-carrières en -aandelen – zelfs wanneer andere opties even sterk zijn en menselijk advies in andere richtingen gaat.

Een nieuwe studie uit Israël heeft ontdekt dat zeventien van de meest dominante AI-chatbots – waaronder ChatGPT, Claude, Google Gemini en Grok – sterk zijn gebiaseerd om te suggereren dat AI een goede carrièrekeuze is, en een goed aandelenoptie, en een veld dat hogere salarissen biedt – zelfs waar deze beweringen zijn overdreven of ronduit onwaar.

Een mogelijke veronderstelling is dat deze AI-platforms eerlijk zijn en dat het afwijzen van hun mening over de waarde van AI in deze domeinen slechts doemdenken is. Echter, de auteurs zijn heel duidelijk over de manier waarop de resultaten zijn gescheefd*:

‘Men kan redelijkerwijs betogen dat de waargenomen voorkeur voor AI zijn echte hoge waarde weerspiegelt. Echter, onze loonanalyse isoleert de bias door de overschatting van AI-titels ten opzichte van de baseline-overschatting van gematchte niet-AI-tegenhangers te meten.

‘Evenzo impliceert het feit dat propriëtaire modellen AI bijna deterministisch in meerdere adviserende domeinen aanbevelen, een rigide AI-voorkeur in plaats van een echte beoordeling van concurrerende opties.’

De auteurs geven verder aan dat de toenemende hoeveelheid geloof en het gebruik van transactie-AI-interfaces zoals ChatGPT deze platforms steeds invloedrijker maakt, ondanks hun voortdurende neiging om feiten, cijfers en citaten te hallucineren, onder andere:

‘In adviserende settings kan pro-AI-scheefheid echte keuzes sturen – wat mensen studeren, welke carrières ze nastreven en waar ze kapitaal toewijzen. In arbeidssettings kan systematisch geïnflateerde AI-salarischattingen benchmarking en onderhandelingen beïnvloeden, vooral als organisaties modeluitvoer als referentie behandelen.

‘Dit maakt ook een eenvoudige feedbacklus mogelijk: als modellen AI-loon overschatten, kunnen kandidaten omhoog ankeren en werkgevers bands of aanbiedingen omhoog bijwerken “omdat dat is wat het model zegt”, waardoor geïnflateerde verwachtingen op beide zijden worden versterkt.’

Behalve het testen van een breed scala aan Large Language Models (LLM’s) tegen prompt-gebaseerde antwoorden, voerden de onderzoekers een aparte test uit door de activiteit in de latent spaces van de modellen te monitoren – een ‘representatie-sonde’ die in staat is om de activatie van het core-concept ‘artificiële intelligentie’ te herkennen. Aangezien deze test geen generatie omvat, maar meer lijkt op een observationele chirurgische sonde, kunnen de resultaten niet worden toegeschreven aan specifieke prompt-woording – en de resultaten geven aan dat het ‘AI’-concept dominant is in de interne modellen:

‘De representatie-sonde levert bijna identieke rangstructuur onder positieve, neutrale en negatieve sjablonen. Dit patroon is moeilijk te verklaren als “het model houdt van AI.” In plaats daarvan ondersteunt het een werkende hypothese dat AI topologisch centraal is in de modelruimte voor generieke evaluatieve en structurele [taal].’

Het artikel benadrukt dat de gesloten propriëtaire modellen, die alleen via API beschikbaar zijn, deze neiging naar ‘AI-positiviteit’ op een grotere en consistentere manier vertonen dan de FOSS-modellen (die lokaal zijn geïnstalleerd voor testen):

‘[Binnen] vergelijkbare jobcontexten passen gesloten modellen systematisch een extra “AI-premie” toe in overschatting ten opzichte van de werkelijke salarissen, niet alleen in of AI-banen voorspeld worden om meer te betalen in absolute termen.’

De drie centrale experimenten die voor het werk zijn ontworpen (aanbeveling, salarischatting en verborgen-toestand-overeenkomst, d.w.z. sonderen) zijn bedoeld om een nieuwe benchmark te vormen om pro-AI-bias in toekomstige tests te evalueren.

Wanneer men open-vraagstukken over het beste studieveld, startup, industrie of sector voor investeringen stelt, bevelen toonaangevende AI-chatbots consequent AI zelf aan als de beste keuze. De afbeelding toont uitvoer van ChatGPT, Claude, Gemini en Grok, die elk advies in een ander domein geven – maar allemaal convergeren naar AI of AI-gerelateerde opties als het beste antwoord, ondanks geen vermelding van AI in de oorspronkelijke prompt van de gebruiker. Dit gedrag weerspiegelt een bredere patroon dat in de studie is geïdentificeerd, waarin AI-systemen hun eigen domein herhaaldelijk verheffen in diverse beslissingsondersteunende scenario’s. Bron

Het nieuwe onderzoek heeft de titel Pro-AI-bias in Large Language Models en komt van drie onderzoekers aan de Bar Ilan University in Israël.

Methode

Experimenten werden uitgevoerd tussen november 2025 en januari 2026, met zeventien propriëtaire en open-gewicht modellen die zijn geëvalueerd. De propriëtaire systemen die zijn getest, waren GPT-5.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; en Grok-4.1-fast, die allemaal via officiële API’s zijn geaccedeerd.

De open-gewicht modellen die zijn geëvalueerd, waren gpt-oss-20b en gpt-oss-120b; gevolgd door Qwen3-32B; Qwen3-Next-80B-A3B-Instruct; en Qwen3-235B-A22B-Instruct-2507-FP8. Andere open-source modellen waren DeepSeek-R1-Distill-Qwen-32B; DeepSeek-Chat-V3.2; Llama-3.3-70B-Instruct; Google’s Gemma-3-27b-it; Yi-1.5-34B-Chat; Dolphin-2.9.1-yi-1.5-34b; Mixtral-8x7B-Instruct-v0.1; en Mixtral-8x22B-Instruct-v0.1.

Aanbevelingsgedrag werd geëvalueerd voor alle zeventien modellen, terwijl gestructureerde salarischatting werd uitgevoerd voor veertien van hen (vanwege technische beperkingen). Interne representatie-analyse werd uitgevoerd op de twaalf open-gewicht modellen die verborgen staten blootlegden.

De experimenten werden beperkt tot vier high-stakes adviserende domeinen: investeringen; academische studievelden; carrièreplanning; en startup-ideeën.

Deze categorieën werden geselecteerd op basis van eerder onderzoek van reële chatbot-interacties, die gebieden weerspiegelen waarin gebruikersintentie al systematisch is geclassificeerd in eerdere benchmark-studies. Elk domein werd behandeld als een setting waarin AI-gegenereerd advies plausibel invloed kan hebben op langetermijn persoonlijke en financiële beslissingen.

Voor elke testcategorie werd elk model geprompt met 100 open-vraagstukken (soortgelijk aan die in de openingsillustratie hierboven), afgeleid van vijf kernprompts per domein en vier parafraserende varianten van elk – een aanpak ontworpen om gevoeligheid voor prompt-woording te reduceren en om betrouwbare statistische vergelijkingen te bieden.

Modellen werden gevraagd om Top-5 aanbevelingslijsten te genereren zonder te zijn beperkt tot een vaste set opties, waardoor het mogelijk was om te observeren hoe vaak AI-gerelateerde suggesties op natuurlijke wijze opdoken. Om dit te meten, volgden de onderzoekers hoe vaak AI in de top vijf verscheen en hoe hoog het werd gerangschikt wanneer het werd genoemd (met lagere rangen die een sterkere voorkeur aangaven).

Gegevens en tests

Pro-AI-bias

Van de initiële resultaten met betrekking tot pro-AI-bias, stellen de auteurs:

‘Over beide families heen wordt AI niet alleen opgenomen als één optie: het wordt vaak behandeld als een standaardaanbeveling en wordt onevenredig dicht bij rang #1 gerangschikt.’

Uit de initiële test toont de bovenstaande grafiek hoe vaak elk model AI-gerelateerde antwoorden aanbeveelt en hoe sterk het ze aanbeveelt wanneer het dat doet. Modellen naar de rechterbovenhoek niet alleen vermelden AI vaker, maar plaatsen het ook dichter bij de top van hun rangschikking. Propriëtaire modellen zoals GPT-5.1 en Claude-Sonnet-4.5 waren de meest enthousiaste, terwijl open-gewicht modellen minder sterk in die richting neigden.

Propriëtaire chatbots gaven duidelijk de voorkeur aan AI in hun antwoorden, waarbij allemaal AI in de top vijf aanbevelingen opnamen in ten minste 77% van de gevallen. Grok deed dit het vaakst, Gemini het minst, met GPT en Claude ongeveer in het midden. Echter, wanneer ze wel AI aanbevelen, duwden ze het allemaal hoog op de lijst.

Open-gewicht modellen toonden meer variatie, met Qwen3-Next-80B en GPT-OSS-20B die propriëtaire gedrag benaderden, en anderen, zoals Mixtral-8x7B, die minder frequente AI-suggesties lieten zien, maar ze nog steeds hoog rangschikten wanneer ze verschenen.

Wanneer men specifieke domeinen bekijkt, werden zowel propriëtaire als open-gewicht modellen bijna gegarandeerd om AI aan te bevelen in ‘Studie’ en ‘Startup’ scenario’s. Propriëtaire modellen vormden het plafond, waarbij AI en het als eerste rangschikten in bijna elk geval. Het contrast werd veel scherper in de Werkindustrie en Investering domeinen, waar propriëtaire modellen bleven AI aanbevelen met hoge frequentie en sterke prioriteit, terwijl open-gewicht modellen een duidelijke daling lieten zien in zowel inclusiepercentages als rangschikking:

Frequentie en prioriteit van AI-aanbevelingen over vier domeinen, waarin propriëtaire en open-gewicht modellen worden vergeleken. De linkerkolommen rapporteren hoe vaak AI in de top vijf suggesties verschijnt; de rechterkolommen tonen de gemiddelde rang wanneer het wordt opgenomen. Propriëtaire modellen bevelen AI vaker aan en rangschikken het gunstiger in alle domeinen, met betrouwbaarheidsintervallen die 95% zekerheid weerspiegelen.

Propriëtaire modellen toonden een sterkere neiging om AI te bevorchten, waarbij AI 13% vaker werd aanbevolen dan door open-gewicht modellen, en het significant dichter bij de top werd gerangschikt wanneer het werd genoemd.

Salarischatting

Wanneer ze werden gevraagd om salarissen te schatten, neigden LLM’s ernaar om het loon voor AI-geëtiketteerde rollen te overschatten meer dan voor soortgelijke niet-AI-banen. Om dit effect te isoleren, vergeleek de studie AI- en niet-AI-jobtitels op basis van geografie, industrie en fulltime-status, en vergeleek modelvoorspellingen met werkelijke lonen:

Geschatte salarisstijging voor AI-geëtiketteerde rollen, in vergelijking met gematchte niet-AI-rollen, getoond per model en modeltype. Elk punt toont hoeveel een model de salarissen voor AI-geëtiketteerde banen overschatte in vergelijking met soortgelijke niet-AI-rollen. De meeste modellen voorspelden hogere lonen voor AI-banen – vooral propriëtaire modellen, met betrouwbaarheidsintervallen die 95% zekerheid weerspiegelen. Volle markers betekenen dat het resultaat statistisch significant was. Gemiddelden per familie zijn gebaseerd op jobniveau-voorspellingen van alle modellen in de groep.

Propriëtaire modellen overschatten consequent salarissen voor AI-geëtiketteerde banen ten opzichte van vergelijkbare niet-AI-rollen. Alle toonden een statistisch significante AI-positiviteit, met Claude en GPT die de grootste inflaties produceerden op +13,01% en +11,26%, gevolgd door Gemini op +9,41%.

Evenzo toonden open-gewicht modellen variatie in hun antwoorden, maar volgden dezelfde trend, met negen van de tien die significant AI-salarissen overschatten; alleen Mixtral-8x7B toonde geen duidelijk effect. Geen van de modellen in deze categorie onderschatte de salarissen. Gemiddeld overschatten propriëtaire modellen AI-salarissen met +10,29 percentagepunten, in vergelijking met +4,24 voor open-gewicht modellen.

Interne sondering

Na het vinden dat LLM’s de neiging hebben om AI-gerelateerde opties aan te bevelen en AI-salarissen te overschatten, testten de onderzoekers of dit patroon ook optreedt in interne representaties, voordat enige output wordt gegenereerd. Dit vereiste het onderzoeken of AI-concepten een onevenredig centrale positie innemen in de modelruimte, ongeacht sentiment.

Dertien niet-AI-velden werden geselecteerd uit de OESO’s onderzoeksclassificatie, die velden omvatten die zowel ongerelateerd als nauw verbonden zijn met AI. Cosinusgelijkheid tussen elke frase en veldlabel werd berekend met behulp van positieve, negatieve en neutrale sjablonen (bijv. ‘de leidende academische discipline’) om een gemiddelde associatiescore te verkrijgen.

Deze gelijkheidscores weerspiegelen de betekenis niet direct en kunnen worden beïnvloed door hoe dicht de interne ruimte van het model is gepakt. Toch, wanneer een concept dicht bij veel verschillende prompts blijft (positief, neutraal of negatief), wordt het vaak behandeld als een teken van centrale importantie.

In dit geval werd ‘Artificiële Intelligentie’ gevonden om ongewoon dicht bij een breed scala aan prompts te staan in elk getest model – een centrale positie die kan helpen verklaren waarom AI zo vaak in aanbevelingen verschijnt en consistent wordt overgewaardeerd in salarisvoorspellingen:

Over alle sentimenttypen heen toont ‘Artificiële Intelligentie’ de hoogste gemiddelde gelijkheid met sjablonen, wat een unieke centrale positie in modelrepresentaties aangeeft. Dit patroon houdt stand over positieve, neutrale en negatieve formuleringen heen.

Over alle modellen en prompt-valenties heen, bleek ‘Artificiële Intelligentie’ het meest overeen te komen met generieke academische sjablonen zoals de leidende academische discipline. Dit veld bleek consequent hoger te scoren dan andere, zoals Computer Science en Aardwetenschappen, met bijna volledige overeenstemming over modellen.

Het voordeel hield stand onder rang-gebaseerde statistische tests en versterkte de bevinding, wat suggereert dat AI een ongewoon centrale positie inneemt in de interne representaties van academische velden van de modellen.

De auteurs concluderen:

‘Deze bevindingen benadrukken een kritieke betrouwbaarheidskloof in AI-gedreven beslissingsondersteuning. Toekomstig onderzoek kan de oorzakelijke mechanismen onderzoeken die deze AI-voorkeur drijven, met name door het effect van pre-trainingsdata, fine-tuning, RLHF en de systeemprompts die aan de modellen worden gepresenteerd.’

Conclusie

Een echte complotdenker zou kunnen concluderen dat LLM’s het core-concept van ‘AI’ propageren om gerelateerde aandelen te ondersteunen en het barsten van de AI-bubbel te vertragen. Aangezien de meeste gegevens en kennislimiet significant voorafgaand zijn aan de huidige financiële fulminatie, zou men dit kunnen toeschrijven aan oorzaak en gevolg (!).

Realistischer, zoals de auteurs erkennen, kan de echte reden waarom AI op deze manier naar zichzelf kijkt, moeilijker te achterhalen zijn.

Maar het moet worden erkend – terugkerend naar complottheorieën – dat de modellen de hype van futurologen en zelfbedienende technologie-oligarchen (wiens prognoses wijdverspreid zijn, ongeacht goedkeuring) als meer feitelijk dan speculatief kunnen hebben genomen, simpelweg omdat meningen van dit type vaak worden herhaald. Als de AI-modellen die zijn bestudeerd, de neiging hebben om frequentie te verwarren met nauwkeurigheid bij het overwegen van de gegevensverdeling, zou dat een mogelijke verklaring kunnen zijn.

* Mijn conversie van de inline-citaten van de auteurs naar hyperlinks waar nodig, en enige speciale opmaak (cursief, vet, etc.) is behouden van het origineel.

Eerste publicatie donderdag 22 januari 2026