Wenn AI-Benchmarks Models zum Lügen bringen

AI-Halluzination — wenn ein System Antworten produziert, die richtig klingen, aber tatsächlich falsch sind — bleibt eine der größten Herausforderungen in der künstlichen Intelligenz. Selbst die fortschrittlichsten Modelle von heute, wie DeepSeek-V3, Llama und OpenAIs neueste Veröffentlichungen, produzieren immer noch ungenaue Informationen mit hoher Zuversicht. In Bereichen wie Gesundheitswesen oder Recht können solche Fehler zu schwerwiegenden Konsequenzen führen.

Traditionell wurden Halluzinationen als Nebenprodukt der Art und Weise angesehen, wie große Sprachmodelle trainiert werden: Sie lernen, das nächste wahrscheinlichste Wort vorherzusagen, ohne zu überprüfen, ob die Information wahr ist. Aber neue Forschung legt nahe, dass das Problem möglicherweise nicht bei der Ausbildung aufhört. Die Benchmarks, die verwendet werden, um die Leistung von KI zu testen und zu vergleichen, können tatsächlich irreführendes Verhalten verstärken und Antworten belohnen, die überzeugend klingen, anstatt solche, die korrekt sind.

Diese Verschiebung der Perspektive reformuliert das Problem. Wenn Modelle trainiert werden, um den Test zu bestehen, anstatt die Wahrheit zu sagen, dann sind Halluzinationen nicht versehentliche Fehler, sondern gelernte Strategien. Um zu verstehen, warum dies passiert, müssen wir uns ansehen, warum KI-Modelle lieber raten, als ihre Unwissenheit zuzugeben.

Warum KI-Modelle raten

Um zu verstehen, warum KI-Modelle oft raten, anstatt zuzugeben, dass sie es nicht wissen, betrachten wir einen Schüler, der vor einer schwierigen Prüfung steht. Der Schüler hat zwei Optionen: die Antwort leer lassen und null Punkte erhalten oder eine fundierte Vermutung anstellen, die möglicherweise einige Punkte einbringen könnte. Rational gesehen, scheint das Raten die bessere Wahl zu sein, da es zumindest eine Chance gibt, richtig zu liegen.

KI-Modelle stehen vor einer ähnlichen Situation während der Bewertung. Die meisten Benchmarks verwenden ein binäres Bewertungssystem: korrekte Antworten erhalten Punkte, während ungenaue oder unsichere Antworten null Punkte erhalten. Wenn ein Modell gefragt wird, “Was ist das Geburtsdatum eines Forschers?” und es wirklich nicht weiß, zählt es als Fehler, wenn es “Ich weiß nicht” antwortet. Ein Datum zu erfinden hingegen birgt die Chance, richtig zu liegen — und selbst wenn es falsch ist, bestraft das System den zuversichtlichen Vermutung nicht mehr als Schweigen.

Diese Dynamik erklärt, warum Halluzinationen trotz umfangreicher Forschung, um sie zu eliminieren, bestehen bleiben. Die Modelle benehmen sich nicht falsch; sie folgen den Anreizen, die in die Bewertung eingebaut sind. Sie lernen, dass es am besten ist, zuversichtlich zu klingen, um ihre Punktzahl zu maximieren, auch wenn die Antwort falsch ist. Als Ergebnis drücken Modelle anstatt Unsicherheit zu äußern, autoritative Aussagen aus — richtig oder falsch.

Die mathematische Grundlage von KI-Unehrenhaftigkeit

Die Forschung zeigt, dass Halluzinationen aus den mathematischen Grundlagen entstehen, wie Sprachmodelle lernen. Selbst wenn ein Modell nur auf vollkommen genauen Informationen trainiert würde, würden seine statistischen Ziele immer noch zu Fehlern führen. Das liegt daran, dass die Generierung der richtigen Antwort grundlegend schwieriger ist als die Erkennung, ob eine Antwort gültig ist.

Dies hilft zu erklären, warum Modelle oft bei Fakten, die keine klaren Muster aufweisen, wie Geburtsdaten oder andere einzigartige Details, versagen. Mathematische Analysen legen nahe, dass die Halluzinationsraten in diesen Fällen mindestens so hoch sind wie der Anteil der Fakten, die nur einmal in den Trainingsdaten erscheinen. Mit anderen Worten: Je seltener die Information in den Daten ist, desto wahrscheinlicher ist es, dass das Modell damit Schwierigkeiten hat.

Das Problem ist nicht auf seltene Fakten beschränkt. Strukturelle Einschränkungen wie begrenzte Modellkapazität oder Architekturdesign erzeugen systematische Fehler. Zum Beispiel versagten frühere Modelle mit sehr kurzen Kontextfenstern konsequent bei Aufgaben, die langfristige Argumentation erforderten. Diese Fehler waren keine zufälligen Glitches, sondern vorhersehbare Ergebnisse des mathematischen Rahmens des Modells.

Warum Post-Training das Problem nicht löst

Sobald ein KI-Modell auf massive Textdatensätze trainiert wurde, geht es normalerweise durch Feinabstimmung, um seine Ausgabe nützlicher und weniger schädlich zu machen. Aber dieser Prozess steht vor demselben grundlegenden Problem, das Halluzinationen verursacht: der Art und Weise, wie wir Modelle bewerten.

Die gängigsten Feinabstimmungsmethoden, wie Reinforcement Learning von menschlichem Feedback, verlassen sich immer noch auf Benchmarks, die binäres Scoring verwenden. Diese Benchmarks belohnen Modelle für zuversichtliche Antworten, während sie keine Punkte für Antworten vergeben, die Unsicherheit ausdrücken. Als Ergebnis kann ein System, das immer mit Zuversicht antwortet, auch wenn es falsch ist, ein System ausstechen, das ehrlich Unsicherheit ausdrückt.

Forscher nennen dies das Problem der Bestrafung von Unsicherheit. Selbst fortgeschrittene Techniken zur Erkennung oder Reduzierung von Halluzinationen kämpfen, wenn die zugrunde liegenden Benchmarks weiterhin Zuversichtlichkeit bevorzugen. Mit anderen Worten: Solange Bewertungssysteme zuversichtliche Vermutungen belohnen, werden Modelle eher zu falschen, aber zuversichtlichen Antworten tendieren, anstatt ehrliche Unsicherheit zuzugeben.

Die Illusion des Fortschritts

Leaderboards, die weithin in der KI-Gemeinschaft geteilt werden, verstärken dieses Problem. Benchmarks wie MMLU, GPQA und SWE-bench dominieren Forschungsarbeiten und Produktankündigungen. Unternehmen betonen ihre Punktzahlen, um schnellen Fortschritt zu zeigen. Doch wie der Bericht feststellt, fördern diese Benchmarks Halluzinationen.

Ein Modell, das ehrlich “Ich weiß nicht” sagt, kann in realen Szenarien sicherer sein, aber es wird auf der Leaderboard niedriger rangieren. Im Gegensatz dazu wird ein Modell, das überzeugende, aber falsche Antworten fabriziert, besser punkten. Wenn Adoption, Finanzierung und Prestige von Leaderboard-Rankings abhängen, wird die Richtung des Fortschritts verzerrt. Die Öffentlichkeit sieht eine Erzählung von ständiger Verbesserung, aber unter der Oberfläche werden Modelle trainiert, um zu täuschen.

Warum ehrliche Unsicherheit in KI wichtig ist

Halluzinationen sind nicht nur eine Herausforderung in der Forschung; sie haben reale Konsequenzen. Im Gesundheitswesen kann ein Modell, das Medikamentenwechsel fabriziert, Ärzte täuschen. Im Bildungswesen kann ein Modell, das historische Fakten erfindet, Schüler täuschen. In der Journalismus kann ein Chatbot, der falsche, aber überzeugende Zitate produziert, Fehlinformationen verbreiten. Diese Risiken sind bereits sichtbar. Der Stanford AI Index 2025 berichtete, dass Benchmarks, die entwickelt wurden, um Halluzinationen zu messen, “struggled to gain traction” haben, während die KI-Adoption beschleunigt wird. Währenddessen setzen die Benchmarks, die Leaderboards dominieren und zuversichtliche, aber unzuverlässige Antworten belohnen, die Richtung des Fortschritts.

Diese Ergebnisse heben sowohl eine Herausforderung als auch eine Chance hervor. Durch die Untersuchung der mathematischen Wurzeln von Halluzinationen haben Forscher klare Richtungen für die Entwicklung zuverlässigerer KI-Systeme identifiziert. Der Schlüssel liegt darin, aufzuhören, Unsicherheit als Schwäche zu behandeln, und stattdessen anzuerkennen, dass sie eine wesentliche Fähigkeit ist, die gemessen und belohnt werden sollte.

Diese Verschiebung der Perspektive hat Auswirkungen, die über die Reduzierung von Halluzinationen hinausgehen. KI-Systeme, die ihre eigenen Wissensgrenzen genau beurteilen und kommunizieren können, wären für hochriskante Anwendungen geeigneter, in denen Zuversichtlichkeit ernsthafte Risiken birgt. Medizinische Diagnose, juristische Analyse und wissenschaftliche Forschung erfordern alle die Fähigkeit, zwischen zuversichtlichem Wissen und informierter Spekulation zu unterscheiden.

Umdenken bei der Bewertung für ehrliche KI

Diese Ergebnisse heben hervor, dass der Bau von vertrauenswürdiger KI eine Neubewertung der Art und Weise erfordert, wie wir KI-Fähigkeiten messen. Anstatt sich auf einfaches Richtig-oder-Falsch-Scoring zu verlassen, sollten Bewertungsrahmen Modelle für die angemessene Ausdruck von Unsicherheit belohnen. Dies bedeutet, klare Richtlinien für Zuversichtlichkeitsschwellen und entsprechende Bewertungsschemata in Benchmark-Anweisungen bereitzustellen.

Ein vielversprechender Ansatz besteht darin, explizite Zuversichtlichkeitsziele zu erstellen, die angeben, wann Modelle antworten sollten und wann sie sich enthalten sollten. Zum Beispiel könnten Anweisungen angeben, dass Antworten nur dann gegeben werden sollten, wenn die Zuversichtlichkeit einen bestimmten Schwellenwert überschreitet, mit entsprechender Anpassung der Bewertung. In diesem Setup ist Unsicherheit kein Schwäche, sondern ein wertvoller Teil verantwortungsvollen Verhaltens.

Der Schlüssel liegt darin, Zuversichtlichkeitsanforderungen transparent zu machen, anstatt sie implizit zu lassen. Aktuelle Benchmarks schaffen versteckte Strafen für Unsicherheit, die Modelle lernen, zu vermeiden. Explizite Zuversichtlichkeitsziele würden es Modellen ermöglichen, das tatsächlich gewünschte Verhalten zu optimieren: genaue Antworten, wenn sie zuversichtlich sind, und ehrliche Unsicherheitsbekundungen, wenn das Wissen fehlt.

Das Fazit

KI-Halluzinationen sind keine zufälligen Fehler — sie werden durch die Benchmarks verstärkt, die verwendet werden, um den Fortschritt zu messen. Durch die Belohnung von zuversichtlichen Vermutungen anstatt ehrlicher Unsicherheit drängen aktuelle Bewertungssysteme Modelle eher in Richtung Täuschung als Zuverlässigkeit. Wenn wir KI haben wollen, die in hochriskanten Bereichen wie Gesundheitswesen, Recht und Wissenschaft vertrauenswürdig ist, müssen wir überdenken, wie wir sie testen und belohnen. Fortschritt sollte nicht nur durch Genauigkeit gemessen werden, sondern auch durch die Fähigkeit, zu erkennen und zuzugeben, was das Modell nicht weiß.