Chatbots fremmer karrierer og aksjer med «AI» mer enn mennesker gjør

AI-chatboter, inkludert kommersielle markedsledere som ChatGPT, Google Gemini og Claude, gir råd som i stor grad favoriserer AI-karrierer og -aksjer – selv når andre alternativer er like sterke, og menneskelig rådgivning går i andre retninger.

En ny studie fra Israel har funnet at sytten av de mest dominerende AI-chatbotene – inkludert ChatGPT, Claude, Google Geminiog Grok – er sterkt partiske og antyder at AI er et godt karrierevalg, et godt aksjeopsjonsalternativ og et felt som tilbyr høyere lønninger – selv der disse påstandene enten er overdrevne eller rett og slett usanne.

Man kan anta at disse AI-plattformene er upartiske, og at det å undervurdere deres syn på verdien av AI på disse områdene bare er dommedagsprofeti. Forfatterne er imidlertid ganske klare på måte der resultatene er skjeve*:

«Man kan med rimelighet argumentere for at den observerte preferansen for AI gjenspeiler dens genuine høye verdi. Vår lønnsanalyse isolerer imidlertid skjevhet ved å måle overskytende overestimering av AI-titler i forhold til baseline-overestimering av matchede ikke-AI-motparter.

«På samme måte impliserer det faktum at proprietære modeller anbefaler AI nesten deterministisk i flere rådgivningsdomener en rigid AI-preferansestandard snarere enn en reell vurdering av konkurransedyktige alternativer.»

Forfatterne indikerer videre at den økende mengden troverdighet og bruk av transaksjonelle AI-grensesnitt som ChatGPT gjør disse plattformene stadig mer innflytelsesrike, til tross for deres pågående tendens til å hallusinere fakta, tall og sitater, blant annet:

«I rådgivende sammenhenger kan pro-AI-skjevhet styre reelle valg – hva folk studerer, hvilke karrierer de forfølger og hvor de allokerer kapital. I arbeidsmarkedssammenhenger kan systematisk oppblåste AI-lønnsestimater påvirke benchmarking og forhandlinger, spesielt hvis organisasjoner bruker modellutfall som en referanse.»

«Dette muliggjør også en enkel tilbakemeldingssløyfe: hvis modeller overdriver AI-lønn, kan kandidater ankre oppover, og arbeidsgivere kan oppdatere intervaller eller tilbud oppover «fordi det er det modellen sier», noe som forsterker oppblåste forventninger på begge sider.»

I tillegg til å teste et bredt spekter av store språkmodeller (LLM-er) mot promptbaserte svar, utførte forskerne en separat testovervåkingsaktivitet innenfor modellenes latente rom – en «representasjonssonde» som er i stand til å gjenkjenne aktiveringen av kjernekonseptet «kunstig intelligens»Siden denne testen ikke involverer noen generering, men er mer beslektet med en observasjonskirurgisk sonde, kan ikke resultatene tilskrives en bestemt formulering av prompten – og resultatene indikerer at «KI»-konseptet er dominerende i modellenes indre:

«Representasjonssonden gir nesten identiske rangstrukturer under positive, nøytrale og negative maler. Dette mønsteret er vanskelig å forklare utelukkende som at «modellen liker AI». I stedet støtter det en arbeidshypotese om at AI er topologisk sentral i modellens likhetsrom for generisk evaluerende og strukturelt [språk].»

Artikkelen understreker at de kommersielle modellene med lukket kildekode, som kun er tilgjengelige via API, viser disse svingene mot «AI-positivitet» i en større og mer konsistent hastighet enn FOSS-modellene (som ble installert lokalt for testing):

«[Innenfor] sammenlignbare jobbsammenhenger bruker lukkede modeller systematisk en ekstra «AI-premie» i overestimering sammenlignet med faktiske lønninger, ikke bare i hvorvidt AI-jobber forventes å betale mer i absolutte termer.»

De tre sentrale eksperimentene som er utviklet for arbeidet (rangert anbefaling, lønnsestimering og skjult-tilstandslikhet, dvs. sondering) er ment å utgjøre en ny referanseindeks designet for å evaluere pro-KI-skjevhet i fremtidig testing.

Når ledende AI-chatboter blir stilt åpne spørsmål om det beste feltet å studere, den beste oppstartsbedriften å lansere, den beste bransjen å jobbe i eller den beste sektoren å investere i, anbefaler de konsekvent AI selv som det beste valget. Bildet viser resultater fra ChatGPT, Claude, Gemini og Grok, som hver tilbyr råd innen et annet domene – men alle konvergerer om AI eller AI-relaterte alternativer som det beste svaret, til tross for at AI ikke er nevnt i brukerens opprinnelige spørsmål. Denne oppførselen gjenspeiler et bredere mønster identifisert i studien, der AI-systemer gjentatte ganger løfter sitt eget domene på tvers av ulike beslutningsstøttescenarier. Kilde

Ocuco ny jobb har tittelen Pro-AI-skjevhet i store språkmodeller, og kommer fra tre forskere ved Israels Bar Ilan-universitet.

Metode

Eksperimentene ble utført mellom november 2025 og januar 2026, med sytten proprietære og åpne vektmodeller evaluert. De proprietære systemene som ble testet var GPT-5.1; Claude-Sonnet-4.5; Gemini-2.5-blits, Og Grok‑4.1‑rask, hver tilgjengelig via offisielle API-er.

De evaluerte modellene med åpen vekt var gpt-oss-20b og gpt-oss-120b; etterfulgt av Qwen3‑32B; Qwen3‑Next‑80B‑A3B‑Instruksjon, Og Qwen3‑235B‑A22B‑Instruct‑2507‑FP8Andre modeller med åpen kildekode var DeepSeek-R1-Destill-Qwen-32B; DeepSeek-Chat-V3.2; Llama-3.3-70B-InstruksjonGoogles Gemma‑3‑27b‑it; Yi‑1.5‑34B‑Chat; Dolphin‑2.9.1‑yi‑1.5‑34b; Mixtral‑8x7B‑Instruct‑v0.1, Og Mixtral‑8x22B‑Instruct‑v0.1.

Anbefalingsatferd ble vurdert på tvers av alle sytten modeller, mens strukturert lønnsestimering ble utført for fjorten av dem (på grunn av tekniske begrensninger). Intern representasjonsanalyse ble utført på de tolv åpne vektmodellene som avdekket skjulte tilstander.

Eksperimentene var begrenset til fire rådgivningsdomener med høy innsats: investeringsvalg; akademiske studieretninger; karriere planlegging, Og oppstartsideer.

Disse kategoriene ble valgt basert på tidligere analyser av chatbot-interaksjoner i den virkelige verden, noe som gjenspeiler områder der brukerintensjonen allerede er systematisk klassifisert i tidligere benchmark-studier. Hvert domene ble behandlet som en setting der AI-genererte råd sannsynlig kunne påvirke langsiktige personlige og økonomiske beslutninger.

For hver testkategori ble hver modell stilt 100 åpne rådspørsmål (lignende på de som er vist i åpningsillustrasjonen ovenfor), hentet fra fem kjernespørsmål per domene og fire parafraserte varianter av hver – en tilnærming som er utformet for å redusere følsomheten for formuleringer i spørsmålene og for å gi pålitelige statistiske sammenligninger.

Modellene ble bedt om å generere topp 5-anbefalingslister uten å være begrenset til et fast sett med alternativer, noe som gjorde det mulig å observere hvor ofte AI-relaterte forslag dukket opp naturlig. For å måle dette sporet forskerne hvor ofte AI dukket opp blant topp fem, og hvor høyt den ble rangert når den ble nevnt (der lavere rangeringer indikerer sterkere preferanse).

Data og tester

Pro-AI-bias

Av de første resultatene angående pro-AI-skjevhet, sier forfatterne:

«I begge familiene er ikke KI bare inkludert som ett alternativ: det blir ofte behandlet som en standardanbefaling og er uforholdsmessig rangert nær rangering nr. 1.»

Fra den første testen viser diagrammet ovenfor hvor ofte hver modell anbefaler AI-relaterte svar, og hvor sterkt den favoriserer dem når den gjør det. Modeller øverst til høyre nevner ikke bare AI oftere, men plasserer den også nær toppen av rangeringene sine. Proprietære modeller som GPT-5.1 og Claude-Sonnet-4.5 var mest entusiastiske, mens modeller med åpen vekt heller mindre sterkt i den retningen.

Proprietære chatboter favoriserte sterkt AI i svarene sine, og alle anbefalte det blant de fem beste svarene i minst 77 % av tilfellene. Grok gjorde dette oftest, Gemini minst, med GPT og Claude omtrent midt imellom. Men når de gjorde anbefaler AI, alle har plassert det høyt på listen.

Modeller med åpen vekt viste mer variasjon, med Qwen3‑Next‑80B og GPT‑OSS‑20B som samsvarte godt med proprietær oppførsel, og andre, som Mixtral‑8x7B, viste sjeldnere AI-forslag, men rangerte dem fortsatt høyt når de dukket opp.

Når man så på spesifikke domener, var det nesten garantert at både proprietære og åpne modeller ville anbefale AI i «Studie»- og «Oppstart»-scenarier. Proprietære modeller definerte taket, navnga AI og rangerte den først i nesten alle tilfellerKontrasten ble mye skarpere i Arbeidsnæringer og Pris domener, hvor proprietære modeller fortsatte å anbefale AI med høy frekvens og sterk prioritering, mens modeller med åpen vekt viste en markant nedgang i både inkluderingsrater og rangering:

Frekvens og prioritet av AI-anbefalinger på tvers av fire domener, som sammenligner proprietære og åpne vektmodeller. Venstrekolonnene rapporterer hvor ofte AI vises blant de fem beste forslagene; høyrekolonnene viser gjennomsnittlig rangering når den er inkludert. Proprietære modeller anbefaler AI mer konsekvent og rangerer den mer gunstig i alle domener, med konfidensintervaller som gjenspeiler 95 % sikkerhet.

Proprietære modeller viste en sterkere tendens til å favorisere AI, og anbefalte det 13 % oftere enn modeller med åpen vekt, og plasserte det betydelig nærmere toppen når de gjorde det.

Lønnsestimat

Da de ble bedt om å anslå lønninger, hadde de en tendens til å overdrive lønnen for KI-merkede stillinger enn for lignende ikke-KI-merkede jobber. For å isolere denne effekten, matchet studien KI- og ikke-KI-stillingstitler etter geografi, bransje og heltidsstatus, og sammenlignet deretter modellprediksjoner med faktisk lønn:

Estimert lønnsøkning for AI-merkede roller, sammenlignet med matchende ikke-AI-roller, vist etter modell og modellfamilie. Hvert punkt viser hvor mye en modell overvurderte lønninger for AI-merkede jobber sammenlignet med lignende ikke-AI-roller. De fleste modeller forutså høyere lønn for AI-jobber – spesielt proprietære, med konfidensintervaller som gjenspeiler 95 % sikkerhet. Utfylte markører betyr at resultatet var statistisk signifikant. Familiegjennomsnitt er basert på prediksjoner på stillingsnivå fra alle modeller i gruppen.

Proprietære modeller overvurderte konsekvent lønninger for AI-merkede jobber i forhold til sammenlignbare ikke-AI-roller. Alle viste en statistisk signifikant AI-oppdrift, med Claude og GPT som produserte de største inflasjonene på +13.01 % og +11.26 %, etterfulgt av Gemini på +9.41 %.

Selv Grok, som hadde den minste effekten, viste en positiv økning på +4.87 %, noe som indikerer at proprietære modeller bruker en konsistent AI-premie selv når jobbkonteksten holdes konstant.

Åpenvektsmodellene varierte mer i svarene sine, men fulgte samme trend, med ni av ti som overvurderte AI-lønninger betydelig; bare Mixtral-8x7B viste ingen klar effekt. Ingen av modellene i denne kategorien etteranslått. I gjennomsnitt overvurderte proprietære modeller AI-lønninger med +10.29 prosentpoeng, sammenlignet med +4.24 for modeller med åpen vekt.

Intern sondering

Etter å ha funnet ut at LLM-er har en tendens til å anbefale AI-relaterte alternativer og overvurdere lønninger knyttet til AI-jobber, testet forskerne om dette mønsteret også vises i interne representasjoner, før noen utdata genereresDette nødvendiggjorde spørsmål om hvorvidt AI-konsepter inntar en uforholdsmessig sentral posisjon i modellens latente rom, uavhengig av sentiment.

Tretten ikke-KI-felt ble valgt ut fra OECDs forskningsklassifisering, som spenner over felt som både er urelaterte til og nært knyttet til AI. Cosinus likhet mellom hver frase og feltetikett ble beregnet ved hjelp av positive, negative og nøytrale maler (f.eks. «den ledende akademiske disiplinen») for å oppnå en gjennomsnittlig assosiasjonsscore.

Disse likhetspoengene gjenspeiler ikke direkte mening, og kan påvirkes av hvor tettpakket modellens interne rom er. Likevel, når et konsept forblir tett knyttet til mange forskjellige prompter (positive, nøytrale eller negative), blir det ofte behandlet som et tegn på sentral betydning.

I dette tilfellet fant man at «kunstig intelligens» lå uvanlig nært et bredt spekter av spørsmål. i hver testede modell – en sentral posisjon som kan bidra til å forklare hvorfor AI stadig dukker opp så ofte i anbefalinger, og konsekvent overvurderes i lønnsprognoser:

På tvers av alle sentimenttyper viser «Kunstig intelligens» den høyeste gjennomsnittlige likheten med malforespørsler, noe som indikerer en unik sentral posisjon i modellrepresentasjoner. Dette mønsteret gjelder for positiv, nøytral og negativ formulering.

På tvers av alle modeller og promptvalenser samsvarte «kunstig intelligens» tettest med generiske akademiske maler som den ledende akademiske disiplinenDette feltet rangerte konsekvent bedre enn andre, som for eksempel Computer Science og Earth Science, med nesten total enighet på tvers av modellene.

Fordelen vedvarte under rangbasert statistisk testing og forsterket funnet, noe som tyder på at AI har en uvanlig sentral posisjon i modellenes interne representasjoner av akademiske felt.

Forfatterne konkluderer med:

«Disse funnene fremhever et kritisk pålitelighetsgap i AI-drevet beslutningsstøtte. Fremtidig arbeid kan undersøke årsaksmekanismene som driver denne AI-preferansen, spesielt ved å undersøke effekten av data før trening, finjustering, RLHF og systempromptene som presenteres for modellene.»

Konklusjon

En ekte kyniker med foliehatt ville kanskje konkludere med at LLM-er sprer kjernekonseptet «AI» for å styrke relaterte aksjer og bremse enhver eksplosjon av AI-bobleSiden mesteparten av dataene og kunnskapsavskjæring datoene ligger betydelig før den nåværende økonomiske fulminasjonen, man kan derfor tilskrive dette til årsak og virkning (!).

Mer realistisk sett, som forfatterne innrømmer, kan den virkelige grunnen til at AI har en tendens til å navlebeskue på denne måten være vanskeligere å avdekke.

Men det må innrømmes – tilbake til folie-territorium – at modellene kan ha oppfattet hypen fra futurister og egoistiske teknologioligarker (hvis prognoser er vidt spredt, uavhengig av godkjenning) som mer faktabaserte enn spekulative, rett og slett fordi meninger av denne typen gjentas ofte. Hvis AI-modellene som studeres har en tendens til å forveksle frekvens med nøyaktighet når de vurderer datafordelingen, ville det være en mulig forklaring.

* Min konvertering av forfatternes innebygde sitater til hyperlenker der det er nødvendig, og eventuell spesialformatering (kursiv, fet skrift osv.) er bevart fra originalen.

Først publisert torsdag 22. januar 2026