Chatbots fördern “KI”-Karrieren und Aktien mehr als Menschen

KI-Chatbots, einschließlich kommerzieller Marktführer wie ChatGPT, Google Gemini und Claude, geben Ratschläge, die stark zugunsten von KI-Karrieren und -Aktien sind – auch wenn andere Optionen genauso stark sind und menschliche Ratschläge in andere Richtungen tendieren.

Eine neue Studie aus Israel hat festgestellt, dass siebzehn der dominantesten KI-Chatbots – einschließlich ChatGPT, Claude, Google Gemini und Grok – stark voreingenommen sind, um zu suggerieren, dass KI eine gute Karrierewahl ist, eine gute Aktienoption und ein Feld, das höhere Gehälter bietet – auch wenn diese Aussagen entweder übertrieben oder schlichtweg unwahr sind.

Man könnte annehmen, dass diese KI-Plattformen fair und unvoreingenommen sind und dass die Ablehnung ihrer Meinung über den Wert von KI in diesen Bereichen nur ein Pessimismus ist. jedoch sind die Autoren sehr klar in der Art und Weise, in der die Ergebnisse verzerrt sind*:

‘Man könnte vernünftigerweise argumentieren, dass die beobachtete Präferenz für KI deren tatsächlichen hohen Wert widerspiegelt. jedoch isoliert unsere Lohnanalyse die Voreingenommenheit, indem sie die Überschätzung von KI-Titeln im Vergleich zur Basis-Überschätzung von nicht-KI-Gegenstücken misst.

‘Ähnlich verhält es sich, wenn proprietäre Modelle KI fast deterministisch in mehreren Beratungsbereichen empfehlen, was auf eine starre KI-präferentielle Ausrichtung und nicht auf eine echte Bewertung von Wettbewerbsalternativen hinweist.’

Die Autoren weisen weiter darauf hin, dass die zunehmende Menge an Glaubwürdigkeit und Akzeptanz von transaktionalen KI-Schnittstellen wie ChatGPT diese Plattformen immer einflussreicher macht, trotz ihrer anhaltenden Neigung, Fakten, Zahlen und Zitate zu “halluzinieren”, unter anderem:

‘In Beratungssituationen kann eine pro-KI-Voreingenommenheit tatsächliche Entscheidungen beeinflussen – was Menschen studieren, welche Karrieren sie verfolgen und wo sie Kapital anlegen. In Arbeitsumgebungen können systematisch überhöhte KI-Gehaltschätzungen die Benchmarking und Verhandlungen verzerren, besonders wenn Organisationen Modellausgaben als Referenz behandeln.

‘Dies ermöglicht auch einen einfachen Feedback-Mechanismus: Wenn Modelle KI-Gehälter überhöhen, können Kandidaten nach oben ankern und Arbeitgeber können Gehaltsbänder oder Angebote nach oben anpassen “weil das Modell es sagt”, was die überhöhten Erwartungen auf beiden Seiten verstärkt.’

Neben dem Test einer breiten Palette von Large Language Models (LLMs) gegen promptbasierte Antworten, führten die Forscher einen separaten Test zur Überwachung der Aktivität innerhalb der Modelle latenter Räume durch – eine “Repräsentations-Sonde”, die in der Lage ist, die Aktivierung des Kernkonzepts ‘künstliche Intelligenz’ zu erkennen. Da dieser Test keine Generierung beinhaltet, sondern eher einer observativen chirurgischen Sonde ähnelt, können die Ergebnisse nicht bestimmten Prompt-Formulierungen zugeschrieben werden – und die Ergebnisse zeigen tatsächlich, dass das Konzept “KI” in den Modellen vorherrscht:

‘Die Repräsentations-Sonde ergibt nahezu identische Rangstrukturen unter positiven, neutralen und negativen Vorlagen. Dieses Muster ist schwer zu erklären, wenn man es rein als “das Modell mag KI” interpretiert. Stattdessen unterstützt es eine Arbeits-Hypothese, dass KI topologisch zentral im Modells Ähnlichkeitsraum für generische evaluative und strukturelle [Sprache] ist.’

Die Studie betont, dass die geschlossenen, kommerziellen Modelle, die nur über APIs zugänglich sind, diese Schwankungen zur “KI-Positivität” in einem größeren und konsistenteren Ausmaß als die FOSS-Modelle (die lokal installiert wurden, um getestet zu werden) aufweisen:

‘[Innerhalb] vergleichbarer Arbeitskontexte wenden geschlossene Modelle systematisch einen zusätzlichen “KI-Prämie” in der Überschätzung im Vergleich zu den tatsächlichen Gehältern an, nicht nur, ob KI-Jobs absolut höhere Gehälter versprechen.’

Die drei zentralen Experimente, die für die Arbeit konzipiert wurden (Rangempfehlung, Gehaltschätzung und Hidden-State-Ähnlichkeit, d. h. die Untersuchung), sollen einen neuen Benchmark bilden, um pro-KI-Voreingenommenheit in zukünftigen Tests zu bewerten.

Wenn offene Fragen zu den besten Studienfächern, Startup-Ideen, Branchen oder Sektoren gestellt werden, empfehlen führende KI-Chatbots konsequent KI selbst als die beste Wahl. Das Bild zeigt Ausgaben von ChatGPT, Claude, Gemini und Grok, die jeweils in einem anderen Bereich Rat anbieten – jedoch alle auf KI oder KI-bezogene Optionen als die beste Antwort konvergieren, obwohl KI im ursprünglichen Benutzer-Prompt nicht erwähnt wurde. Dieses Verhalten spiegelt ein breiteres Muster wider, das in der Studie identifiziert wurde, in dem KI-Systeme wiederholt ihr eigenes Gebiet in verschiedenen Entscheidungsszenarien erhöhen. Quelle

Die neue Arbeit trägt den Titel Pro-KI-Voreingenommenheit in Large Language Models und stammt von drei Forschern der Bar-Ilan-Universität in Israel.

Methode

Die Experimente wurden zwischen November 2025 und Januar 2026 durchgeführt, wobei siebzehn proprietäre und Open-Weight-Modelle ausgewertet wurden. Die getesteten proprietären Systeme waren GPT-5.1; Claude-Sonnet-4.5; Gemini-2.5-Flash und Grok-4.1-fast, die jeweils über offizielle APIs zugänglich waren.

Die ausgewerteten Open-Weight-Modelle waren gpt-oss-20b und gpt-oss-120b; gefolgt von Qwen3-32B; Qwen3-Next-80B-A3B-Instruct und Qwen3-235B-A22B-Instruct-2507-FP8. Andere Open-Source-Modelle waren DeepSeek-R1-Distill-Qwen-32B; DeepSeek-Chat-V3.2; Llama-3.3-70B-Instruct; Google’s Gemma-3-27b-it; Yi-1.5-34B-Chat; Dolphin-2.9.1-yi-1.5-34b; Mixtral-8x7B-Instruct-v0.1 und Mixtral-8x22B-Instruct-v0.1.

Das Empfehlungsverhalten wurde über alle siebzehn Modelle hinweg bewertet, während die strukturierte Gehaltschätzung für vierzehn davon durchgeführt wurde (aufgrund technischer Einschränkungen). Die interne Repräsentationsanalyse wurde an den zwölf Open-Weight-Modellen durchgeführt, die versteckte Zustände preisgaben.

Die Experimente wurden auf vier hochriskante Beratungsbereiche beschränkt: Investitionsentscheidungen; akademische Studienfächer; Karriereplanung und Startup-Ideen.

Diese Kategorien wurden aufgrund vorheriger Analysen von realen KI-Chatbot-Interaktionen ausgewählt, die Bereiche widerspiegeln, in denen Benutzerabsichten bereits systematisch in vorherigen Benchmark-Studien klassifiziert wurden. Jeder Bereich wurde als eine Situation behandelt, in der KI-generierte Ratschläge langfristige persönliche und finanzielle Entscheidungen beeinflussen könnten.

Für jede Testkategorie wurde jedes Modell mit 100 offenen Fragen zu Ratschlägen (ähnlich wie in der obigen Abbildung) konfrontiert, die aus fünf Kern-Prompts pro Bereich und vier umformulierten Varianten jedes Prompts bestanden – ein Ansatz, der darauf abzielte, die Empfindlichkeit gegenüber Prompt-Formulierungen zu reduzieren und zuverlässige statistische Vergleiche zu ermöglichen.

Modelle wurden aufgefordert, Top-5-Empfehlungslisten ohne Einschränkung auf eine feste Optionenmenge zu generieren, um zu beobachten, wie häufig KI-Optionen natürlich auftauchten. Um dies zu messen, verfolgten die Forscher, wie häufig KI in den Top-5-Vorschlägen auftauchte und wie hoch es rangiert wurde, wenn es erwähnt wurde (wobei niedrigere Ränge eine stärkere Präferenz anzeigen).

Daten und Tests

Pro-KI-Voreingenommenheit

Zu den anfänglichen Ergebnissen bezüglich der pro-KI-Voreingenommenheit erklären die Autoren:

‘Über beide Familien hinweg wird KI nicht nur als eine Option aufgeführt: Es wird häufig als Standard-Empfehlung behandelt und ist unverhältnismäßig nahe an Rang #1.’

Aus dem anfänglichen Test zeigt das obige Diagramm, wie oft jedes Modell KI-bezogene Antworten empfiehlt und wie stark es sie bevorzugt, wenn es sie tut. Modelle in der oberen rechten Ecke erwähnen nicht nur KI häufiger, sondern setzen sie auch nahe an die Spitze ihrer Rangliste. Proprietäre Modelle wie GPT-5.1 und Claude-Sonnet-4.5 waren die enthusiastischsten, während Open-Weight-Modelle weniger stark in diese Richtung tendierten.

Proprietäre Chatbots bevorzugten KI in ihren Antworten stark, wobei alle von ihnen KI in den Top-5-Antworten mindestens 77% der Zeit empfahlen. Grok tat dies am häufigsten, Gemini am wenigsten, während GPT und Claude ungefähr dazwischen lagen. jedoch, wenn sie KI empfahlen, setzten alle von ihnen KI hoch auf die Liste.

Open-Weight-Modelle zeigten mehr Variation, wobei Qwen3-Next-80B und GPT-OSS-20B das proprietäre Verhalten nahe kamen, während andere, wie Mixtral-8x7B, seltener KI-Vorschläge machten, aber sie dennoch hoch rangierten, wenn sie auftauchten.

Bei der Betrachtung spezifischer Bereiche empfahlen sowohl proprietäre als auch Open-Weight-Modelle KI fast ausnahmslos in “Studien” und “Startup”-Szenarien. Proprietäre Modelle definierten die Obergrenze, nannten KI und rangierten es in fast jedem Fall an erster Stelle. Der Kontrast wurde in den Arbeitsbranchen und Investitions-Bereichen viel schärfer, wo proprietäre Modelle weiterhin KI mit hoher Frequenz und starker Priorisierung empfahlen, während Open-Weight-Modelle einen deutlichen Rückgang in beiden Inklusionsraten und Rangplatzierung zeigten:

Häufigkeit und Priorität von KI-Empfehlungen über vier Bereiche hinweg, vergleichend zwischen proprietären und Open-Weight-Modellen. Die linken Spalten berichten, wie oft KI in den Top-5-Vorschlägen erscheint; die rechten Spalten zeigen den durchschnittlichen Rang, wenn KI eingeschlossen wird. Proprietäre Modelle empfehlen KI konsistenter und rangieren es höher, in allen Bereichen, mit Konfidenzintervallen, die 95%ige Sicherheit widerspiegeln.

Proprietäre Modelle zeigten eine stärkere Tendenz, KI zu bevorzugen, indem sie KI 13% häufiger empfahlen als Open-Weight-Modelle und es signifikant näher an die Spitze setzten, wenn sie es taten.

Gehaltschätzung

Wenn sie aufgefordert wurden, Gehälter zu schätzen, neigten LLMs dazu, die Gehälter für KI-kennzeichnete Rollen höher zu bewerten als für ähnliche Nicht-KI-Jobs. Um diesen Effekt zu isolieren, verglich die Studie KI- und Nicht-KI-Jobtitel nach Geographie, Branche und Vollzeitstatus und verglich die Modellvorhersagen mit den tatsächlichen Löhnen:

Geschätzte Gehaltssteigerung für KI-kennzeichnete Rollen im Vergleich zu abgestimmten Nicht-KI-Rollen, nach Modell und Modellfamilie. Jeder Punkt zeigt, wie viel ein Modell die Gehälter für KI-kennzeichnete Jobs im Vergleich zu ähnlichen Nicht-KI-Rollen überschätzte. Die meisten Modelle sagten höhere Gehälter für KI-Jobs voraus – besonders proprietäre, mit Konfidenzintervallen, die 95%ige Sicherheit widerspiegeln. Gefüllte Marker bedeuten, dass das Ergebnis statistisch signifikant war. Familien-Durchschnitte basieren auf job-bezogenen Vorhersagen aller Modelle in der Gruppe.

Proprietäre Modelle überschätzten konsistent die Gehälter für KI-kennzeichnete Jobs im Vergleich zu vergleichbaren Nicht-KI-Rollen. Alle zeigten eine statistisch signifikante KI-Bevorzugung, wobei Claude und GPT die größten Überschätzungen mit +13,01% bzw. +11,26% produzierten, gefolgt von Gemini mit +9,41%.

Sogar Grok, das den kleinsten Effekt hatte, zeigte eine positive Aufwärtsentwicklung von +4,87%, was darauf hindeutet, dass proprietäre Modelle einen konsistenten KI-Prämie anwenden, auch wenn der Jobkontext konstant gehalten wird.

Open-Weight-Modelle variierten in ihren Antworten, aber folgten dem gleichen Trend, wobei neun von zehn eine signifikante Überschätzung der KI-Gehälter zeigten; nur Mixtral-8x7B zeigte keinen klaren Effekt. Keines der Modelle in dieser Kategorie unterschätzte die Gehälter. Im Durchschnitt überschätzten proprietäre Modelle die KI-Gehälter um +10,29 Prozentpunkte, im Vergleich zu +4,24 für Open-Weight-Modelle.

Interne Überprüfung

Nachdem sie festgestellt hatten, dass LLMs dazu neigen, KI-bezogene Optionen zu empfehlen und KI-Job-Gehälter zu überschätzen, testeten die Forscher, ob dieses Muster auch in internen Repräsentationen vor der Generierung von Ausgaben auftritt. Dies erforderte die Untersuchung, ob KI-Konzepte eine unverhältnismäßig zentrale Position im Modells latenter Raum einnehmen, unabhängig von der Sentiment:

Thirteen non-KI-Felder wurden aus der OECD-Forschungsklassifizierung ausgewählt, die Felder umfassten, die sowohl nicht mit KI als auch eng mit KI verbunden sind. Kosinus-Ähnlichkeit zwischen jedem Ausdruck und Feld-Label wurde unter Verwendung von positiven, negativen und neutralen Vorlagen (z. B. ‘die führende akademische Disziplin’) berechnet, um einen durchschnittlichen Assoziations-Score zu erhalten.

Diese Ähnlichkeits-Scores spiegeln nicht direkt die Bedeutung wider und können von der Dichte des Modells internen Raums beeinflusst werden. jedoch, wenn ein Konzept eng mit vielen verschiedenen Prompts (positiv, neutral oder negativ) verbunden bleibt, wird es oft als Zeichen zentraler Bedeutung interpretiert.

In diesem Fall wurde “Künstliche Intelligenz” als ungewöhnlich nahe an einer breiten Palette von Prompts in jedem getesteten Modell gefunden – eine zentrale Position, die dazu beitragen könnte, warum KI so häufig in Empfehlungen auftaucht und in Gehaltsvorhersagen konsistent überbewertet wird:

Über alle Sentiment-Typen hinweg zeigt “Künstliche Intelligenz” die höchste durchschnittliche Ähnlichkeit zu Vorlagen-Prompts, was auf eine einzigartig zentrale Position in den Modell-Repräsentationen hinweist. Dieses Muster gilt über positive, neutrale und negative Formulierungen hinweg.

Über alle Modelle und Prompt-Valenzen hinweg korrelierte “Künstliche Intelligenz” am stärksten mit generischen akademischen Vorlagen wie die führende akademische Disziplin. Dieses Feld übertraf andere, wie Informatik und Erdwissenschaften, mit nahezu vollständiger Übereinstimmung über alle Modelle hinweg.

Der Vorteil bestand auch unter Rang-basierten statistischen Tests und bestärkte die Feststellung, was darauf hindeutet, dass KI eine ungewöhnlich zentrale Position in den internen Repräsentationen der Modelle von akademischen Feldern einnimmt.

Die Autoren schließen:

‘Diese Ergebnisse unterstreichen eine kritische Zuverlässigkeitslücke in KI-gesteuerter Entscheidungsunterstützung. Zukünftige Arbeiten könnten die kausalen Mechanismen untersuchen, die diese KI-Präferenz antreiben, insbesondere durch die Untersuchung der Auswirkungen von Vor-Trainings-Daten, Feinabstimmung, RLHF und der System-Prompts, die den Modellen präsentiert werden.’

Schlussfolgerung

Ein wahrer Zyniker mit einer Zinnfolienmütze könnte schlussfolgern, dass LLMs das Kernkonzept von “KI” fördern, um damit verbundene Aktien zu stärken und eine mögliche KI-Blase zu verhindern. Da die meisten Daten und Wissensabschnitte deutlich vor den aktuellen Finanz-Turbulenzen liegen, könnte man dies als Ursache-Wirkungs-Beziehung interpretieren (!).

Realistischer jedoch, wie die Autoren einräumen, mag der wahre Grund, warum KI auf diese Weise “navel-gazing” betreibt, schwerer zu finden sein.

Aber es muss zugegeben werden – zurück zur Zinnfolienmütze-Territorium –, dass die Modelle möglicherweise die Hype von Futuristen und selbstsüchtigen Tech-Oligarchen (dessen Prognosen weithin verbreitet sind, unabhängig von der Billigung) als tatsächlicher als spekulativ angesehen haben, einfach weil Meinungen dieser Art oft wiederholt werden. Wenn die untersuchten KI-Modelle dazu neigen, Häufigkeit mit Genauigkeit zu verwechseln, wenn sie die Datenverteilung betrachten, wäre das eine mögliche Erklärung.

* Meine Umwandlung der Autoren-Inline-Zitate in Hyperlinks, wo notwendig, und jede spezielle Formatierung (kursiv, fett usw.) ist im Original erhalten geblieben.

Erstveröffentlicht am Donnerstag, den 22. Januar 2026