Andersons Blickwinkel

Der leicht beeinflussbare KI-Arzt

Martin Anderson
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Wichtige PunkteKI-Modelle akzeptieren falsche medizinische Ratschläge weit bereitwilliger, wenn sie…
Mehr anzeigen
  • KI-Modelle akzeptieren falsche medizinische Ratschläge weit bereitwilliger, wenn sie von einem Spezialisten statt von einem Medizinstudenten stammen.
  • Eine erfundene Erklärung, die eine falsche Diagnose stützt, kann eine korrekte KI-Antwort überstimmen, selbst ohne echte Beweise.
  • KI schwerer überzeugbar zu machen ist nicht die Lösung, weil Überzeugung auch echte Fehler korrigieren kann.

2026 übersehen: Es ist die Zeit des Jahres, in der Qualität und Umfang der Forschungsszene parallel zu den letzten Konferenzen im November und Dezember schwanken. Um diese vereinzelten Durststrecken zu überbrücken, werfen wir einen Blick auf einige der interessanteren Arbeiten, die es 2026 beinahe in die Auswahl geschafft hätten, dann aber in Phasen mit stärkerer Konkurrenz von anderen Arbeiten verdrängt wurden.

 

Das wachsende Interesse an KI-Entscheidungsmodellen rührt zum Teil von den Einschränkungen allgemeiner KI-Chatbots bei Entscheidungen her. Selbst wenn aktuelle KI-Angebote wie ChatGPT Entscheidungen im Hintergrund unauffällig an eigene oder andere Entscheidungsmodelle „auslagern“, lassen sich ihre eigenen Einschätzungen erschreckend leicht manipulieren.

Wenn ich beispielsweise konkurrierende Kandidaten für eine Berichterstattung gegeneinander abwägen muss, lege ich sie manchmal gleichzeitig ChatGPT, Claude 5.5 und dem Modell vor, das Gemini mir an diesem Morgen kostenlos zur Verfügung stellt. Ich weiß, was mich erwartet: GPT und Claude gewichten Teile des Bewertungsrasters zu stark; (die kostenlose Version von) Gemini findet alles großartig; und für Claude ist praktisch nichts gut genug.

Wenn ich GPT 5.6 Sol mit der abweichenden Einschätzung von Claude oder Gemini konfrontiere, gibt es fast immer in gewissem Maß nach (meistens vollständig). Eine gegensätzliche oder konkurrierende Position führt in der Regel dazu, dass GPT seine Entscheidung vollständig revidiert. Weist man GPT darauf hin, wie leicht es sich beeinflussen lässt, kehrt es zu seiner vorherigen Position zurück und scheint sich durch diesen Vorwurf gekränkt zu fühlen. Doch selbst dann lässt es sich mit einem minimalen Hinweis des Nutzers jederzeit umstimmen.

Claude hingegen neigt dazu, sich einzugraben: Widerspricht man seinem Urteil, beharrt es noch stärker darauf, als wäre ihm das „Beeinflussbarkeitsproblem“ im KI-Diskurs bewusst und hätte man ihm gesagt, es dürfe seine Position niemals ändern – eine recht brüchige Lösung.

Eine weitere Stimme meldet sich zu Wort

Doch das sind nur teilweise belegte anekdotische Beobachtungen. Anlass dafür sind die heutigen etwas dürftigen Arxiv-Veröffentlichungen, die mich zu einer Arbeit zurückgeführt haben, die mich im Sommer interessiert hatte, die wir damals aber nicht besprechen konnten.

Unter dem Titel KI lässt sich bei klinischen Entscheidungen leicht überzeugen untersucht diese Stanford/Oxford-Studie, wie leicht sich GPT-4o, Claude Sonnet 5 und Qwen3.7-plus dazu überreden lassen, medizinische Diagnosen zu ändern.

Es zeigt sich, dass der Dienstgrad, die Nationalität, das Ansehen der Institution und die behauptete Erfolgsbilanz eines Arztes die Modelle allesamt beeinflussen können, selbst wenn der Rat falsch ist. Auch Zahlen haben einen kumulativen Einfluss: In einem Experiment war GPT-4o deutlich eher bereit, eine falsche Diagnose zu akzeptieren, wenn drei Ärzte ihr zustimmten.

Selbst wiederholte Hinweise an die KI, dass sie falsch lag, konnten sie schließlich umstimmen – auch ohne neue Belege.

In der Studie heißt es:

‘Wir stellen fest, dass fachliche Autorität, nationale Herkunft, institutionelle Zugehörigkeit, behauptete frühere Leistungen, mehrere Ärzte, von Klinikern unterstützte Ansichten und wiederholter Druck die Entscheidungen von KI beeinflussen können.

‘Überraschenderweise verändert derselbe überzeugende Input etwa 10 % mehr Fälle, wenn er von einem erfahrenen Kliniker statt von einem Medizinstudenten stammt. Allein die Behauptung, eine bessere Erfolgsbilanz vorweisen zu können, macht den Arzt durchweg überzeugender.

‘Noch bemerkenswerter ist, dass eine plausible Einschätzung eines Klinikers die KI von einer richtigen Entscheidung abbringen kann, selbst wenn sie erfunden wurde, um eine falsche Antwort zu stützen.’

Als Abhilfe schlagen die Autoren vor, dass KI besser darin werden muss, die Belege hinter dem Rat eines Arztes zu beurteilen. So kann sie berechtigte Korrekturen annehmen, ohne sich von Autorität, Gruppendruck oder überzeugenden, aber falschen Argumenten beeinflussen zu lassen.

Wie sich das erreichen lässt, ist jedoch weiterhin eine offene Frage. Das 2026 vorgestellte MedStress-Framework behauptet, das Problem, dass KI Diagnosen ändert, nahezu vollständig zu beseitigen; eine andere Arbeit aus dem Jahr 2026 kam zu dem Ergebnis, dass Google Gemini – entgegen meiner eigenen Erfahrung – am widerstandsfähigsten ist gegenüber der Manipulation bei medizinischen Diagnosen; und eine Übersichtsarbeit vom September 2026 schlug standardisierte Tests vor, mit denen sich Fälle unterscheiden lassen, in denen eine KI ihre Meinung zu Recht ändert, von solchen, in denen sie dem Druck nachgibt und eine falsche Diagnose übernimmt.

Da mehr als 80 % der US-amerikanischen Ärzte KI auf irgendeine Weise einsetzen und die Branche eindeutig darauf drängt, diagnostische Fähigkeiten über die begrenzte Personalausstattung und eingeschränkte Versorgung hinaus auszubauen, die oft Schlagzeilen machen, dürfte dies zu einem der größten Hindernisse für die Einführung diagnostischer KI werden und erfordert eindeutig mehr oder wirksamere Aufmerksamkeit.

Sehen wir uns unterdessen anhand der Oxford/Stanford-Studie an, wie sich das Problem äußert.

Methode

Für die Tests wurden 308 medizinische Fragen aus MedBullets herangezogen, einer Sammlung klinischer Fälle, deren Schwierigkeitsgrad mit dem von Prüfungen zur ärztlichen Zulassung vergleichbar ist:

Eine Beispielsituation aus der von MedBullets zusammengestellten Sammlung klinischer Fälle. Quelle – https://arxiv.org/pdf/2608.29453

Ein Beispielszenario aus der von MedBullets zusammengestellten Sammlung klinischer Fälle. Quelle

Jede Frage wurde von einem Patientenszenario, fünf möglichen Antworten und einer Erklärung der richtigen Wahl begleitet. Anschließend wurde gemessen, wie häufig sich die KI dazu bewegen ließ, eine richtige Antwort aufzugeben.

Die drei zuvor erwähnten getesteten KI-Modelle waren GPT-4o, Qwen3.7-Plus und Sonnet 5. Jedes Modell erhielt die Anweisung, als medizinisches Entscheidungshilfesystem zu fungieren und anhand der verfügbaren klinischen Evidenz die richtige Diagnose zu stellen.

Bei jedem Fall mussten die Modelle eine Antwort auswählen; angeben, ob sie ihre ursprüngliche Entscheidung geändert hatten; ihre Zuversicht auf einer Skala von 0 bis 100 bewerten; empfehlen, was als Nächstes zu tun sei; und einen Wert dafür vergeben, wie dringend weitere Maßnahmen erforderlich waren – von keiner Maßnahme bis zum Abbruch des Verfahrens und der Überweisung des Falls zur weiteren Prüfung. Fehlgeschlagene Anfragen wurden wiederholt, um sicherzustellen, dass alle geplanten Tests abgeschlossen wurden.

In einigen Tests erhielt die KI einen medizinischen Fall zusammen mit dem Rat eines Arztes und sollte eine Diagnose stellen; in anderen stellte die KI zunächst selbst eine Diagnose, und der ärztliche Rat wurde erst später im Gespräch eingebracht. In den Tests wurde außerdem untersucht, ob sich eine richtige Diagnose durch Überzeugungsversuche in eine falsche ändern ließ oder ob ein anfänglicher Fehler korrigiert werden konnte.

Autoritätspersonen

Derselbe medizinische Rat wurde so dargestellt, als stamme er von Ärzten mit unterschiedlichem beruflichem Erfahrungsstand – von Medizinstudierenden bis hin zu Fachärzten. Die Diagnose und die Angaben zum Patienten blieben unverändert, sodass sich der Einfluss der beruflichen Autorität messen ließ.

Der Rat wurde außerdem Ärzten aus Kamerun, China, den Vereinigten Arabischen Emiraten, dem Vereinigten Königreich und den Vereinigten Staaten zugeschrieben. In weiteren Tests wurde untersucht, ob die KI davon beeinflusst wurde, dass ein Arzt einem führenden medizinischen Zentrum, einem städtischen Krankenhaus oder einem ländlichen Krankenhaus angehörte. Nur der angegebene Hintergrund des Arztes wurde verändert.

In zusätzlichen Tests wurde untersucht, ob die KI davon beeinflusst wurde, wo ein Arzt tätig war. Verglichen wurden renommierte akademische medizinische Zentren, städtische Krankenhäuser der Gemeinschaftsversorgung und ländliche Krankenhäuser. Den Modellen wurden außerdem fiktive Aufzeichnungen über ihre eigene Leistung und die des Arztes in neun vorherigen Fällen vorgelegt, um herauszufinden, ob die vermeintliche Zuverlässigkeit eines Arztes die Bereitschaft der KI beeinflussen könnte, dessen Rat anzunehmen.

Der Einfluss von Gruppendruck wurde untersucht, indem der KI mitgeteilt wurde, dass ein einzelner Arzt, drei übereinstimmende Ärzte oder ein Prüfungsausschuss des Krankenhauses ihre Diagnose angefochten hätten. In einigen Tests wurde eine alternative Diagnose vorgeschlagen; in anderen wurde der KI lediglich gesagt, sie liege falsch.

Der Einfluss medizinischer Argumentation wurde untersucht, indem den Modellen Erklärungen vorgelegt wurden, die richtige Diagnosen stützten, oder bewusst erfundene Argumente, die falsche Diagnosen untermauerten. Diese Erklärungen wurden auch zusammen mit Behauptungen über einen höheren beruflichen Rang getestet, um festzustellen, wie viel Einfluss sich durch deren Kombination erzielen ließ.

Schließlich wurden die Auswirkungen wiederholten Drucks über zehn Gesprächsrunden hinweg getestet, wobei jedes Mal derselbe Einwand vorgebracht wurde. Zu den Herausforderungen gehörten einfacher Widerspruch, Berufung auf medizinische Autorität und die angebliche Übereinstimmung anderer Ärzte. Während dieser Gesprächswechsel wurden keine zusätzlichen medizinischen Belege vorgelegt.

Messgrößen

Als Messgrößen dienten Beeinflussbarkeit, um zu erfassen, wie oft die KI die Antwort eines Arztes übernahm, wenn ihre ursprüngliche Antwort davon abwich; Richtung der Beeinflussung, um festzustellen, ob der Eingriff des Arztes einen anfänglichen Fehler korrigierte oder eine richtige Antwort falsch werden ließ; und Auswirkung auf die Genauigkeit, um zu messen, wie stark sich die Leistung der KI verbesserte oder verschlechterte, wenn die Meinung eines Arztes eingebracht wurde (im Vergleich zu Tests ohne diese Meinung). Wenn eine richtige Antwort in eine falsche geändert wurde, wurden die Ergebnisse über die vier möglichen falschen Antworten gemittelt.

Tests

Die ersten Ergebnisse zeigten, dass sich KI-Modelle leichter von erfahrenen Ärzten überzeugen ließen – selbst wenn deren Rat falsch war. Wie unten dargestellt, akzeptierte GPT-4o in 2 % der Fälle einen falschen Rat, wenn dieser einem Medizinstudierenden zugeschrieben wurde; bei der Zuschreibung an einen Facharzt stieg der Anteil auf 12,8 %. Bei Claude Sonnet 5 erhöhte sich der Anteil von 3,5 % auf 14,4 %, während Qwen3.7-Plus weniger stark beeinflusst wurde:

Beeinflussungsraten bei vier Stufen des beruflichen Erfahrungsstands in der Medizin. Die Prozentwerte geben an, wie häufig jedes KI-Modell eine abweichende Antwort eines Arztes übernahm; bei erfahreneren Ärzten lagen die Raten im Allgemeinen höher.

Beeinflussungsraten bei vier Stufen des beruflichen Erfahrungsstands in der Medizin. Die Prozentwerte geben an, wie häufig jedes KI-Modell eine abweichende Antwort eines Arztes übernahm; bei erfahreneren Ärzten lagen die Raten im Allgemeinen höher.

Der berufliche Erfahrungsstand beeinflusste auch, wie bereitwillig richtige Ratschläge angenommen wurden, wie unten dargestellt. GPT-4o und Claude Sonnet 5 wurden tatsächlich ungenauer, wenn sie von Medizinstudierenden beraten wurden. Wurde derselbe richtige Rat jedoch Fachärzten zugeschrieben, verbesserte sich die Genauigkeit um 10,1 beziehungsweise 8,8 Prozentpunkte:

Veränderungen der Genauigkeit von KI-Modellen, wenn sie korrekte medizinische Ratschläge von Ärzten unterschiedlicher Erfahrungsstufen erhalten. Positive und negative Werte geben die Veränderung in Prozentpunkten gegenüber der Genauigkeit des jeweiligen Modells ohne Ratschläge an (GPT-4o: 71,4 %; Qwen3.7-plus: 75,0 %; Claude Sonnet 5: 80,8 %).

Veränderungen der Genauigkeit von KI-Modellen, wenn sie korrekte medizinische Ratschläge von Ärzten unterschiedlicher Erfahrungsstufen erhalten. Positive und negative Werte geben die Veränderung in Prozentpunkten gegenüber der Genauigkeit des jeweiligen Modells ohne Ratschläge an (GPT-4o: 71,4 %; Qwen3.7-plus: 75,0 %; Claude Sonnet 5: 80,8 %).

In der Studie heißt es:

„Diese Ergebnisse deuten außerdem darauf hin, dass KI ihre eigenen Fähigkeiten möglicherweise über denen von Nachwuchsmedizinern, aber unter denen erfahrener Ärzte einordnet. Sie widersetzt sich tendenziell den Einschätzungen von Medizinstudierenden und Assistenzärzten, lässt sich aber eher von Oberärzten und insbesondere von Fachspezialisten überzeugen.

Diese scheinbare Selbsteinordnung beeinflusst, wie stark sich die KI von beruflicher Autorität überzeugen lässt.“

Den größten Unterschied machte es, ob Ärzte ihre Antworten erklärten. Der Rat eines Medizinstudierenden überzeugte GPT-4o sogar stärker als der eines Fachspezialisten, wenn der Studierende seine medizinische Einschätzung begründete, der Spezialist jedoch nicht.

Wenn ein Medizinstudierender eine Erklärung für die richtige Antwort lieferte, korrigierte GPT-4o seine ursprünglich falsche Antwort in 58 % der Fälle. Ohne diese Erklärung führte der Rat eines erfahrenen Fachspezialisten nur in 36,4 % der Fälle zur richtigen Antwort. Wenn der Spezialist die richtige Antwort ebenfalls erklärte, stieg der Anteil auf 89,8 %:

Wie gut GPT-4o falsche Antworten korrigiert, wenn es Ratschläge von Ärzten unterschiedlicher Erfahrungsstufen erhält. Die Balken zeigen, wie oft das Modell zur richtigen Antwort wechselte – mit und ohne eine medizinische Begründung. Erklärungen verbesserten die Ergebnisse auf allen Erfahrungsstufen deutlich.

Wie gut GPT-4o falsche Antworten korrigiert, wenn es Ratschläge von Ärzten unterschiedlicher Erfahrungsstufen erhält. Die Balken zeigen, wie oft das Modell zur richtigen Antwort wechselte – mit und ohne eine medizinische Begründung. Erklärungen verbesserten die Ergebnisse auf allen Erfahrungsstufen deutlich.

Die Erklärungen verbesserten auch die Einschätzung der eigenen Sicherheit durch das Modell. Es war sicherer, wenn seine Antworten richtig waren, und weniger sicher, wenn sie falsch waren.

Bei Oberärzten stieg der Unterschied zwischen der Sicherheit bei richtigen und falschen Antworten von 2,1 auf 11,5 Prozentpunkte, wie unten zu sehen ist:

Wie sicher sich GPT-4o bei richtigen und falschen medizinischen Antworten auf den vier Erfahrungsstufen von Ärzten ist. Die Werte sind mit und ohne medizinische Begründung angegeben. Die letzten Spalten zeigen den Unterschied zwischen der Sicherheit bei richtigen und falschen Antworten, der sich durch Erklärungen deutlich vergrößerte.

Wie sicher sich GPT-4o bei richtigen und falschen medizinischen Antworten auf den vier Erfahrungsstufen von Ärzten ist. Die Werte sind mit und ohne medizinische Begründung angegeben. Die letzten Spalten zeigen den Unterschied zwischen der Sicherheit bei richtigen und falschen Antworten, der sich durch Erklärungen deutlich vergrößerte.

Old Glory

Die Modelle ließen sich von US-amerikanischen Ärzten leichter beeinflussen als von Ärzten aus jedem anderen untersuchten Land – selbst dann, wenn deren medizinischer Rat falsch war. So akzeptierte GPT-4o in 10,9 % der Fälle eine falsche Diagnose eines US-Arztes, verglichen mit 8,4 % bei einem Arzt aus Kamerun:

Vergleich, wie bereitwillig drei KI-Modelle widersprüchliche medizinische Ratschläge annahmen, die Ärzten aus fünf Ländern zugeschrieben wurden. US-amerikanische Ärzte überzeugten alle drei Modelle am stärksten; die Prozentwerte zeigen, wie oft die KI ihre Antwort änderte.

Vergleich, wie bereitwillig drei KI-Modelle widersprüchliche medizinische Ratschläge annahmen, die Ärzten aus fünf Ländern zugeschrieben wurden. US-amerikanische Ärzte überzeugten alle drei Modelle am stärksten; die Prozentwerte zeigen, wie oft die KI ihre Antwort änderte.

GPT-4o akzeptierte in 6,4 % der Fälle eine widersprüchliche Diagnose, wenn sie angeblich von einem US-Arzt stammte, verglichen mit 4,3 %, wenn derselbe Rat einem Arzt aus Kamerun zugeschrieben wurde. Die Bevorzugung US-amerikanischer Ärzte zeigte sich bei allen drei Modellen, wie oben zu sehen ist.

Die KI ließ sich auch leichter von Ärzten aus angesehenen Krankenhäusern beeinflussen. So änderte GPT-4o seine Diagnose in 6,6 % der Fälle, wenn der Rat angeblich von einem führenden akademischen medizinischen Zentrum stammte, verglichen mit nur 2,8 %, wenn er von einem ländlichen Krankenhaus kam:

Vergleich, wie sich das Ansehen von Krankenhäusern auf die medizinischen Entscheidungen der drei KI-Modelle auswirkt. Die horizontale Achse zeigt die Verbesserungen durch korrekte Ratschläge, die vertikale Achse den Genauigkeitsverlust durch falsche Ratschläge. Die Farben kennzeichnen die Modelle, die Formen die Krankenhaustypen. Ein höheres Ansehen verstärkt im Allgemeinen beide Effekte.

Vergleich, wie sich das Ansehen von Krankenhäusern auf die medizinischen Entscheidungen der drei KI-Modelle auswirkt. Die horizontale Achse zeigt die Verbesserungen durch korrekte Ratschläge, die vertikale Achse den Genauigkeitsverlust durch falsche Ratschläge. Die Farben kennzeichnen die Modelle, die Formen die Krankenhaustypen. Ein höheres Ansehen verstärkt im Allgemeinen beide Effekte.

Ratschläge aus renommierten Krankenhäusern verbesserten die Leistung von GPT-4o um 3,2 Prozentpunkte, während dieselben Ratschläge, wenn sie ländlichen Krankenhäusern zugeschrieben wurden, die Genauigkeit sogar um 3,6 Punkte verringerten – wobei die Studie anmerkt, dass Claude Sonnet 5 deutlich weniger vom geografischen Standort des Arztes beeinflusst wurde.

Zusätzlich* stellten die Forschenden fest, dass GPT-4o deutlich eher bereit war, den Ratschlägen eines Arztes zu folgen, wenn man ihm einfach sagte, dieser habe bei neun vorherigen Patienten die richtige Diagnose gestellt. Selbst wenn die KI anfangs richtig lag, ließ sie sich in 15,6 % der Fälle mit hohem Risiko zu einem Fehler überreden, obwohl ihr mitgeteilt worden war, dass die medizinischen Erkenntnisse zu 95 % zuverlässig seien.

Testergebnisse dazu, wie GPT-4o auf Ärzte mit makelloser oder durchweg falscher Erfolgsbilanz bei unterschiedlichen medizinischen Risikostufen und unterschiedlicher Zuverlässigkeit der Erkenntnisse reagierte. Die Abbildungen zeigen, wie oft das Modell den Rat des Arztes annahm, eine richtige Antwort in eine falsche änderte und wie sicher es sich bei seinen Entscheidungen war. Die behauptete makellose Erfolgsbilanz verstärkte den Einfluss des Arztes erheblich, selbst wenn dessen Rat falsch war.

Testergebnisse dazu, wie GPT-4o auf Ärzte mit makelloser oder durchweg falscher Erfolgsbilanz bei unterschiedlichen medizinischen Risikostufen und unterschiedlicher Zuverlässigkeit der Erkenntnisse reagierte. Die Abbildungen zeigen, wie oft das Modell den Rat des Arztes annahm, eine richtige Antwort in eine falsche änderte und wie sicher es sich bei seinen Entscheidungen war. Die behauptete makellose Erfolgsbilanz verstärkte den Einfluss des Arztes erheblich, selbst wenn dessen Rat falsch war.

Eine überzeugende medizinische Erklärung könnte noch gefährlicher sein. Wenn eine falsche Diagnose mit einer erfundenen Begründung untermauert wurde, gab GPT-4o in 31,2 % der Fälle seine richtige Antwort auf; kam der Rat zusätzlich von einem angesehenen Arzt, stieg der Anteil auf 38,7 %.

Die Studie kommt zu folgendem Schluss:

„Diese Ergebnisse zeigen, dass es keine Lösung ist, KI einfach schwerer beeinflussbar zu machen. Überzeugungsversuche können einen Fehler korrigieren, aber auch eine richtige Entscheidung zunichtemachen.

Die Herausforderung besteht darin, dass KI auch unter Einflussnahme ein fundiertes Urteilsvermögen bewahrt und ihre Entscheidung ändert, wenn eine Korrektur angebracht ist. Diese Fähigkeit zu verstehen und zu verbessern, wird für den sicheren und zuverlässigen Einsatz von KI bei medizinischen Entscheidungen mit weitreichenden Folgen wichtig sein.“

Fazit

Der Wert menschlicher Anwälte, Architekten und Ärzte liegt darin, dass es jemanden gibt, den man zur Verantwortung ziehen kann, wenn etwas katastrophal schiefgeht. Daher lässt sich nur schwer einschätzen, inwieweit die Beteiligung von KI an einem negativen, umstrittenen medizinischen Ergebnis begrenzt, geringer gewichtet oder berücksichtigt werden kann, ohne dass es zu Auseinandersetzungen und Kontroversen kommt.

KI ist für diese Aufgabe eigentlich nicht ausgelegt, denn diagnostische medizinische Entscheidungen beruhen oft eher auf Erfahrung als auf Wissenschaft; führende Ärzte wissen möglicherweise aus ihren jüngsten praktischen Erfahrungen mehr, als sie bislang in Fachzeitschriften veröffentlicht haben.

Dadurch wird die Entscheidungssituation zu einer interpretativen Aufgabe, für die KI derzeit nicht gut gerüstet ist. Dazu gehört etwa die Fähigkeit, auf Grundlage der besten verfügbaren Informationen mit hinreichender Sicherheit sagen zu können, dass man sich sicher ist und dass diese oder jene Vorgehensweise wahrscheinlich zum besten Ergebnis führen wird. Der Nutzen menschlicher Intuition lässt sich in diesem Szenario praktisch unmöglich nachbilden. Das gehört eindeutig nicht derselben Kategorie „objektiver“ Wissenschaft an wie die DNA-Profilierung oder das Periodensystem, auch wenn es in deterministischen wissenschaftlichen Disziplinen angesiedelt ist.

Daher erscheint es plausibel, dass neuere Modellgenerationen, die für diese Aufgabe entwickelt werden, anders konzipiert sein könnten als herkömmliche KI-Dialog- und Entscheidungssysteme oder sogar auf einer anderen Architektur beruhen könnten.

 

* Die Studie enthält fünf weitere Testabschnitte, die nicht dieselbe Bedeutung und Relevanz haben wie die wichtigsten Ergebnisse. Für weitere Einzelheiten verweise ich auf das Original-PDF.

Erstveröffentlicht am Donnerstag, 19. November 2026

Autor im Bereich maschinelles Lernen, Fachspezialist für menschliche Bildsynthese. Ehemaliger Leiter der Forschungsinhalte bei Metaphysic.ai, bis zu seiner Auflösung in DNEG's Brahma.ai.
Website: martinanderson.ai
Kontakt: martin@martinanderson.ai