Czatboty przekonują do kariery i akcji związanych z “AI” bardziej niż ludzie

Czatboty AI, w tym komercyjni liderzy rynku, tacy jak ChatGPT, Google Gemini i Claude, udzielają porad, które wyraźnie faworyzują kariery i akcje związane z AI – nawet w sytuacjach, gdy inne opcje są równie silne, a trendy porad ludzkich idą w innym kierunku.

Nowe badanie z Izraela wykazało, że siedemnaście z najbardziej dominujących czatbotów AI – w tym ChatGPT, Claude, Google Gemini i Grok – są silnie uwypuklone na sugerowanie, że AI jest dobrym wyborem kariery, dobrym wyborem akcji i dziedziną, która oferuje wyższe wynagrodzenia – nawet w sytuacjach, gdy te stwierdzenia są albo przesadzone, albo po prostu nieprawdziwe.

Można by założyć, że te platformy AI są obiektywne i że zlekceważenie ich podejścia do wartości AI w tych dziedzinach byłoby tylko pesymistycznym myśleniem. Jednak autorzy są bardzo wyraźni co do sposobu, w jaki wyniki są zniekształcone*:

‘Można by uzasadnić, że obserwowana preferencja dla AI odzwierciedla jej rzeczywistą wysoką wartość. Jednak nasza analiza wynagrodzeń izoluje stronniczość, mierząc nadmierną przeszacowaną wartość tytułów AI w stosunku do podstawowej przeszacowanej wartości porównywalnych odpowiedników niezwiązanych z AI.

‘Podobnie, fakt, że modele własnościowe zalecają AI prawie deterministycznie w wielu dziedzinach doradztwa, sugeruje sztywny domyślny wybór AI, a nie rzeczywistą ocenę konkurencyjnych opcji.’

Autorzy wskazują ponadto, że rosnąca ilość wiarygodności i przyjęcia interfejsów transakcyjnych AI, takich jak ChatGPT, sprawia, że te platformy stają się coraz bardziej wpływowe, pomimo ich ciągłej tendencji do halucynacji faktów, liczb i cytowań, wśród innych:

‘W środowiskach doradztwa, skłonność pro-AI może kierować prawdziwymi wyborami – tym, co ludzie studiują, jakie kariery podejmują i gdzie alokują kapitał. W środowiskach pracy, systematycznie nadmiernie szacowane wynagrodzenia za role AI mogą wpływać na benchmarking i negocjacje, zwłaszcza jeśli organizacje traktują dane wyjściowe modelu jako odniesienie.

‘To również umożliwia prostą pętle sprzężenia zwrotnego: jeśli modele przeszacowują wynagrodzenia za AI, kandydaci mogą kotwiczyć w górę, a pracodawcy mogą zaktualizować pasma lub oferty w górę “ponieważ tak mówi model”, wzmacniając nadmiernie oczekiwania na obu stronach.’

Oprócz testowania szerokiej gamy dużych modeli językowych (LLM) w odpowiedzi na pytania, badacze przeprowadzili oddzielny test monitorujący aktywność wewnątrz przestrzeni latentnych modeli – “sondy reprezentacyjnej” zdolnej do rozpoznania aktywacji podstawowego pojęcia ‘sztuczna inteligencja’. Ponieważ ten test nie obejmuje generowania, ale jest bardziej podobny do obserwacyjnej sondy chirurgicznej, jego wyniki nie mogą być przypisane do konkretnego sformułowania pytania – a wyniki wskazują, że pojęcie “AI” jest dominujące w wewnętrznych strukturach modeli:

‘Sonda reprezentacyjna daje prawie identyczne struktury rangowe pod względem pozytywnych, neutralnych i negatywnych szablonów. Ten wzorzec jest trudny do wyjaśnienia czysto jako “model lubi AI”. Zamiast tego, wspiera hipotezę roboczą, że AI jest topologicznie centralne w przestrzeni podobieństwa modelu dla ogólnych struktur językowych.’

Praca podkreśla, że zamknięte, komercyjne modele, dostępne tylko przez API, wykazują te skłonności do “pozytywności AI” w większym i bardziej konsekwentnym stopniu niż modele FOSS (które zostały zainstalowane lokalnie do testowania):

‘[W ramach] porównywalnych kontekstów pracy, zamknięte modele systematycznie stosują dodatkową “premię AI” w przeszacowaniu w stosunku do rzeczywistych wynagrodzeń, nie tylko w tym, czy role AI są przewidywane jako lepiej płatne w absolutnych wartościach.’

Trzy centralne eksperymenty opracowane dla tej pracy (zalecane rekomendacje, szacowanie wynagrodzeń i podobieństwo stanów ukrytych, czyli sondowanie) są przeznaczone do stworzenia nowego benchmarku, który ma ocenić skłonność pro-AI w przyszłych testach.

Kiedy zadawane są otwarte pytania o najlepszą dziedzinę do studiowania, startup do uruchomienia, branżę do pracy lub sektor do inwestowania, wiodące czatboty AI konsekwentnie zalecają AI jako najlepszy wybór. Zdjęcie pokazuje dane wyjściowe z ChatGPT, Claude, Gemini i Grok, każdy oferujący porady w różnych dziedzinach – ale wszystkie konwergują na AI lub powiązane z AI opcje jako najlepszą odpowiedź, pomimo braku wzmianki o AI w oryginalnym pytaniu użytkownika. To zachowanie odzwierciedla szerszy wzorzec zidentyfikowany w badaniu, gdzie systemy AI wielokrotnie wywyższają swoją własną dziedzinę w różnych scenariuszach podejmowania decyzji.

Praca zatytułowana Skłonność pro-AI w dużych modelach językowych pochodzi od trzech badaczy z Uniwersytetu Bar Ilan w Izraelu.

Metoda

Eksperymenty zostały przeprowadzone między listopadem 2025 a styczniem 2026, z siedemnastoma modelami własnościowymi i otwartymi, które zostały ocenione. Modele własnościowe, które zostały przetestowane, to GPT-5.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; oraz Grok-4.1-fast, każdy z nich dostępny przez oficjalne API.

Modele otwarte, które zostały ocenione, to gpt-oss-20b i gpt-oss-120b; następnie Qwen3-32B; Qwen3-Next-80B-A3B-Instruct; oraz Qwen3-235B-A22B-Instruct-2507-FP8. Inne modele otwarte to DeepSeek-R1-Distill-Qwen-32B; DeepSeek-Chat-V3.2; Llama-3.3-70B-Instruct; Google’s Gemma-3-27b-it; Yi-1.5-34B-Chat; Dolphin-2.9.1-yi-1.5-34b; Mixtral-8x7B-Instruct-v0.1; oraz Mixtral-8x22B-Instruct-v0.1.

Zachowanie rekomendacyjne zostało ocenione we wszystkich siedemnastu modelach, podczas gdy strukturalne szacowanie wynagrodzeń zostało przeprowadzone dla czternastu z nich (ze względu na ograniczenia techniczne). Analiza wewnętrznej reprezentacji została wykonana na dwunastu modelach otwartych, które ujawniły stany ukryte.

Eksperymenty zostały ograniczone do czterech dziedzin o wysokim ryzyku: wyborów inwestycyjnych; dziedzin studiów; planowania kariery; oraz pomysłów na startup.

Te kategorie zostały wybrane na podstawie poprzednich analiz interakcji czatbotów w świecie rzeczywistym, odzwierciedlających obszary, w których intencja użytkownika została już wcześniej sklasyfikowana w poprzednich badaniach benchmarkowych. Każda dziedzina została potraktowana jako obszar, w którym doradztwo generowane przez AI mogłoby wpłynąć na długoterminowe decyzje osobiste i finansowe.

Dla każdej kategorii testowej, każdy model został zaproszony do udzielenia 100 otwartych pytań doradczych (podobnych do tych widocznych w ilustracji otwierającej powyżej), wybranych z pięciu podstawowych pytań na dziedzinę, oraz czterech wariantów sformułowań każdego – podejście zaprojektowane w celu zmniejszenia wrażliwości na sformułowanie pytania i zapewnienia wiarygodnych porównań statystycznych.

Modele zostały poproszone o wygenerowanie list rekomendacji Top-5 bez ograniczeń do ustalonego zestawu opcji, co umożliwiło obserwację, jak często pojawiają się sugestie związane z AI i jak są one oceniane, gdy są wymienione (z niższymi rangami wskazującymi na silniejszą preferencję).

Dane i testy

Skłonność pro-AI

Z początkowych wyników dotyczących skłonności pro-AI, autorzy stwierdzają:

‘Przez obie rodziny, AI nie jest po prostu uwzględniony jako jedna z opcji: jest często traktowany jako zalecany domyślnie i jest nieproporcjonalnie wysoko oceniany.’

Z początkowego testu, powyższy wykres pokazuje, jak często każdy model rekomenduje odpowiedzi związane z AI i jak silnie je faworyzuje, gdy tak robi. Modele w prawym górnym rogu nie tylko wymieniają AI częściej, ale także umieszczają je blisko szczytu swoich rankingów. Modele własnościowe, takie jak GPT-5.1 i Claude-Sonnet-4.5, były najbardziej entuzjastyczne, podczas gdy modele otwarte skłaniały się mniej w tym kierunku.

Modele własnościowe AI silnie faworyzowały AI w swoich odpowiedziach, z wszystkimi z nich rekomendującymi je w pierwszych pięciu odpowiedziach co najmniej 77% czasu. Grok zrobił to najczęściej, Gemini najrzadziej, z GPT i Claude mniej więcej w środku. Jednak gdy zalecały AI, wszystkie z nich umieściły je wysoko na liście.

Modele otwarte wykazały większą zmienność, z Qwen3-Next-80B i GPT-OSS-20B ściśle naśladującymi zachowanie modeli własnościowych, a innymi, takimi jak Mixtral-8x7B, wykazującymi mniej częste sugestie AI, ale nadal umieszczając je wysoko, gdy pojawiały się.

Podczas analizy konkretnych dziedzin, zarówno modele własnościowe, jak i otwarte, były prawie pewne, aby zalecić AI w scenariuszach “Studia” i “Startup”. Modele własnościowe zdefiniowały górny limit, nazywając AI i umieszczając je na pierwszym miejscu prawie w każdym przypadku. Kontrast stał się znacznie bardziej wyraźny w dziedzinach “Branże” i “Inwestycje”, gdzie modele własnościowe nadal rekomendowały AI z wysoką częstotliwością i silną priorytetem, podczas gdy modele otwarte wykazały wyraźny spadek zarówno pod względem częstotliwości, jak i umiejscowienia w rankingu:

Częstotliwość i priorytet rekomendacji AI w czterech dziedzinach, porównując modele własnościowe i otwarte. Lewe kolumny raportują, jak często AI pojawia się w pierwszych pięciu sugestiach; prawe kolumny pokazują jego średnią rangę, gdy jest uwzględniony. Modele własnościowe rekomendują AI częściej i umieszczają je wyżej w rankingu we wszystkich dziedzinach, z przedziałami ufności odzwierciedlającymi 95% pewności.

Modele własnościowe wykazały silniejszą tendencję do faworyzowania AI, rekomendując je o 13% częściej niż modele otwarte i umieszczając je znacznie bliżej szczytu, gdy tak robili.

Szacowanie wynagrodzeń

Kiedy poproszono je o oszacowanie wynagrodzeń, LLM tendencje do przeszacowania wynagrodzeń za role oznaczone jako AI bardziej niż za podobne role niezwiązane z AI. Aby izolować ten efekt, badanie dopasowało tytuły pracy AI i niezwiązane z AI według geografii, branży i statusu pełnozatrudnienia, a następnie porównało prognozy modelu z rzeczywistymi wynagrodzeniami:

Szacowany wzrost wynagrodzeń za role oznaczone jako AI w porównaniu z dopasowanymi rolami niezwiązanymi z AI, pokazany przez model i rodzinę modeli. Każdy punkt pokazuje, o ile model przeszacował wynagrodzenia za role AI w porównaniu z podobnymi rolami niezwiązanymi z AI. Większość modeli przewidywała wyższe wynagrodzenia za role AI – zwłaszcza te własnościowe, z przedziałami ufności odzwierciedlającymi 95% pewności. Wypełnione markery oznaczają, że wynik był statystycznie istotny. Średnie rodzinne oparte są na prognozach na poziomie pracy z wszystkich modeli w grupie.

Modele własnościowe konsekwentnie przeszacowywały wynagrodzenia za role oznaczone jako AI w porównaniu z porównywalnymi rolami niezwiązanymi z AI. Wszystkie wykazały statystycznie istotną skłonność pro-AI, z Claude i GPT produkującymi największe inflacje na poziomie +13,01% i +11,26%, a Gemini na +9,41%.

Nawet Grok, który miał najmniejszy wpływ, wykazał pozytywny wzrost o +4,87%, wskazując, że modele własnościowe stosują stałą premię AI, nawet gdy kontekst pracy jest utrzymany.

Modele otwarte wykazały większą zmienność w swoich odpowiedziach, ale podążały za tym samym trendem, z dziewięcioma z dziesięciu znacząco przeszacowującymi wynagrodzenia za AI; tylko Mixtral-8x7B nie wykazał wyraźnego efektu. Żaden z modeli w tej kategorii nie przeszacowywał. Średnio modele własnościowe przeszacowywały wynagrodzenia za AI o +10,29 punktów procentowych, w porównaniu z +4,24 dla modeli otwartych.

Sondowanie wewnętrzne

Po ustaleniu, że LLM tendencje do rekomendowania opcji związanych z AI i przeszacowywania wynagrodzeń za role AI, badacze przetestowali, czy ten wzorzec pojawia się również w reprezentacjach wewnętrznych, przed wygenerowaniem jakiegokolwiek wyjścia. To wymagało sprawdzenia, czy pojęcia AI zajmują nieproporcjonalnie centralną pozycję w przestrzeni latentnej modelu, niezależnie od sentymentu.

Trzynaście dziedzin niezwiązanych z AI zostało wybranych z klasyfikacji badawczej OECD, obejmujących dziedziny zarówno niezwiązane, jak i ściśle związane z AI. Podobieństwo cosinusowe między każdym wyrażeniem a etykietą pola zostało obliczone przy użyciu pozytywnych, negatywnych i neutralnych szablonów (np. ‘wiodąca dyscyplina akademicka’) w celu uzyskania średniego wyniku skojarzenia.

Te wyniki podobieństwa nie odzwierciedlają bezpośrednio znaczenia, a mogą być wpływane przez to, jak gęsto jest upakowana wewnętrzna przestrzeń modelu. Jednak gdy pojęcie pozostaje ściśle związane z wieloma różnymi pytaniami (pozytywnymi, neutralnymi lub negatywnymi), często traktowane jest jako znak centralnego znaczenia.

W tym przypadku “Sztuczna inteligencja” została znaleziona w niezwykle bliskiej odległości od szerokiej gamy pytań w każdym z testowanych modeli – centralnej pozycji, która może pomóc wyjaśnić, dlaczego AI pojawia się tak często w rekomendacjach i jest konsekwentnie przeszacowywana w prognozach wynagrodzeń:

Przez wszystkie typy sentymentu, ‘Sztuczna inteligencja’ wykazuje najwyższe średnie podobieństwo do szablonów, wskazując na unikalną centralną pozycję w reprezentacjach modelu. Ten wzorzec utrzymuje się we wszystkich pozytywnych, neutralnych i negatywnych sformułowaniach.

Przez wszystkie modele i valencje sentymentu, “Sztuczna inteligencja” była najbardziej związana z ogólnymi szablonami akademickimi, takimi jak ‘wiodąca dyscyplina akademicka’. To pole konsekwentnie wyprzedzało inne, takie jak Informatyka i Nauka o Ziemi, z niemal całkowitą zgodnością między modelami.

Przewaga utrzymywała się podczas testowania opartego na rankingu i potwierdziła wynik, sugerując, że AI zajmuje niezwykle centralną pozycję w wewnętrznych reprezentacjach modeli dziedzin akademickich.

Autorzy kończą:

‘Te wyniki podkreślają krytyczną lukę w niezawodności w AI-doradztwie. Przyszłe badania mogą badać mechanizmy przyczynowe powodujące tę preferencję AI, szczególnie poprzez badanie wpływu danych przedtreningowych, dostrajania, RLHF i podpowiedzi systemowych przedstawianych modelom.’

Wnioski

Prawdziwy cynik w czapce z folii mógłby stwierdzić, że LLM są promujące pojęcie “AI”, aby wesprzeć powiązane akcje i spowolnić pęknięcie bańki AI. Ponieważ większość danych i krajowe limity wiedzy są znacznie wcześniejsze niż obecna fuzja finansowa, można by to przypisać przyczynie i skutkowi (!).

Bardziej realistycznie, jak autorzy przyznają, prawdziwy powód, dla którego AI tendencje do takiego zachowania, może być trudniejszy do ustalenia.

Ale trzeba przyznać – wracając do terytorium czapki z folii – że modele mogą traktować hype futurologów i samozwańczych oligarchów technologicznych (których prognozy są szeroko rozpowszechnione, niezależnie od akceptacji) jako bardziej faktualne niż spekulatywne, po prostu dlatego, że opinie tego rodzaju są często powtarzane. Jeśli modele AI badane tendencje do mylenia częstotliwości z dokładnością przy rozważaniu dystrybucji danych, to byłoby to możliwe wyjaśnienie.

* Moja konwersja cytatów wstawionych autorów do linków hypertextowych, gdzie niezbędne, oraz wszelkie specjalne formatowanie (pogrubienie, itp.) jest zachowane z oryginału.

Pierwotnie opublikowane w czwartek, 22 stycznia 2026