Der wahre Grund, warum Ihre RAG-Pipeline weiterhin Halluzinationen erzeugt

Sie kennen den Ritual. Die Pipeline hat vor einem Kunden halluziniert, also haben Sie das Einbettungsmodell ausgetauscht. Dann haben Sie das LLM upgegradet. Dann haben Sie einen Systemprompt hinzugefügt, der in immer verzweifelteren Großbuchstaben sagt: NUR DIE BEREITGESTELLTE KONTEXT VERWENDEN. Und heute Morgen hat es mit Sicherheit ein nicht existierendes Richtliniendokument zitiert.

Sie sind in guter Gesellschaft. Als Forscher von Stanfords RegLab und HAI die von LexisNexis und Thomson Reuters verkauften AI-Rechtsforschungstools auditierten, Produkte, die als “halluzinationsfrei” thanks to retrieval-augmented generation vermarktet wurden, fanden sie Halluzinationsraten zwischen 17% und 34% bei vorregistrierten Rechtsabfragen. RAG half wirklich: rohes GPT-4 halluzinierte viel mehr. Aber der Abstand zwischen “reduziert” und “eliminiert” ist, wo Produktionsysteme leben, und dieser Abstand hat eine Struktur.

Halluzination in einer RAG-Pipeline ist selten ein einzelner Fehler. Es sind drei, die zusammenwirken: Retrieval scheitert leise, das Modell wurde trainiert, um trotzdem zu antworten, und nichts in der Pipeline misst den Abstand zwischen diesen beiden Tatsachen. Das Austauschen von Modellen löst keine dieser Probleme.

Verschwörer eins: Retrieval scheitert öfter, als Sie denken

Der frischeste Beweis hier ist auch der unangenehmste. Im November 2025 produzierte ein Team, das 18 medizinische Experten umfasste, 80.502 Annotationen über 800 RAG-Ausgaben bei realen Patienten- und USMLE-Abfragen. Standard-RAG lieferte nicht nur unter, sondern verschlechterte auch die Tatsächlichkeit um bis zu 6% und die Vollständigkeit um 5% im Vergleich zu den gleichen Modellen, die ohne Retrieval liefen. Die Ursache lag vollständig vor dem LLM: nur 22% der Top-16 abgerufenen Passagen waren relevant für die Abfrage.

Bevor Sie das als ein hartes Problem abtun, hat Anthropic das Retrievalversagen auf sauberen, kuratierten Corpora gemessen, während es seine kontextuelle Retrieval-Technik entwickelte, und festgestellt, dass die Standard-Einbettungssuche in 5,7% der Fälle nicht in der Lage war, den benötigten Teil in den Top-20-Ergebnissen zu finden. Eine Abfrage von achtzehn, auf gut gepflegten Daten, ohne etwas Exotisches.

Dies ist der Grund, warum die kanonische Ingenieurstechnologie der RAG-Fehler, Barnett et als. sieben Fehlerpunkte, so wichtig ist: drei der sieben (fehlendes Inhalt, verpasste Top-Dokumente und Kontextkonsolidierungsfehler) treten vor der Sprachmodellgenerierung auf. Unite.AI hat eine gründliche Durchführung dieser Taxonomie und der Evaluierungsframeworks, die darauf abgestimmt sind, veröffentlicht, also werde ich sie hier nicht wieder aufbauen. Der Punkt, den dieser Artikel hinzufügt, betrifft die Anreize: die Ähnlichkeit der Einbettung ist ein Proxy für Relevanz, nicht eine Garantie dafür, und kürzliche theoretische Arbeiten von Google DeepMind zeigen, dass einzelne Vektoreinbettungen harte mathematische Grenzen dafür haben, welche Kombinationen von relevanten Dokumenten sie darstellen können. Ein Retriever, der plausibel, aber falsche Teile zurückgibt, tut genau das, was die Kosinusähnlichkeit tut.

Verschwörer zwei: das Modell wurde trainiert, um zu raten

Jetzt geben Sie diesem fehlerhaften Kontext ein Sprachmodell und fragen, was das Modelltrainingsprogramm ihm beigebracht hat, mit Lücken umzugehen.

OpenAI antwortete direkt in seinem September 2025-Papier Warum Sprachmodelle halluzinieren: Standardtraining und -evaluation belohnen das Raten über die Anerkennung von Unsicherheit. Benchmarks bewerten binäre Genauigkeit, Enthaltung wird mit Null bewertet, und so lernen Modelle, dass eine zuversichtliche Vermutung besser ist als ein leerer Raum. Das Papier macht es selbst konkreter: bei SimpleQA enthielt ein Verständigungsmodell 1% der Zeit und war 75% der Zeit falsch, während ein anders eingestelltes Geschwistermodell 52% der Zeit enthielt und seinen Fehlerrate auf 26% reduzierte.

Die RAG-spezifischen Benchmarks zeigen, was diese Anreize innerhalb einer Pipeline bewirken. Der RGB-Benchmark testete, ob Modelle ablehnen, wenn ihnen nur irrelevante Dokumente übergeben werden. Die beste negative-Ablehnungsrate bei allen getesteten Modellen betrug 45%, was bedeutet, dass sogar das beste Modell, wenn es nur Müllkontext erhielt, mehr als die Hälfte der Zeit antwortete. ClashEval fand das spiegelbildliche Versagen: wenn abgerufene Inhalte dem widersprachen, was das Modell bereits richtig wusste, gaben Modelle ihre eigene richtige Antwort zugunsten des falschen Kontexts mehr als 60% der Zeit auf. Treueversagen in beiden Richtungen, und Salesforces FaithEval fügt die beunruhigende Koda hinzu, dass größere Modelle nicht zuverlässig treuer sind.

Anthropics Interpretierbarkeitsteam hat sogar den Mechanismus verfolgt. In ihrer Analyse ist die Ablehnung die Standard-Schaltung des Modells; ein “bekanntes-Entität”-Feature unterdrückt diese Ablehnung, wenn das Modell etwas erkennt. Halluzination tritt auf, wenn das Feature fehlschlägt, wenn das Modell die Form Ihrer Frage erkennt, es aber an Substanz mangelt und in die Lücke hinein konfabuliert.

Und wenn Sie hoffen, dass die Grenze einfach darüber hinauswachsen wird: Vectaras Halluzinations-Leaderboard misst etwas, das viel einfacher ist als RAG, nämlich die Zusammenfassung eines einzigen Dokuments, das direkt vor dem Modell platziert wird, und als es im Mai 2026 aktualisiert wurde, fabrizierte GPT-4o in 9,6% der Zusammenfassungen und Claude Opus 4 in 12%. Selbst wenn das Retrieval perfekt gelöst wird, leckt die Generierung.

Die instinktive Lösung macht es schlimmer

Angesichts all dessen greifen die meisten Teams nach dem Volumen. Mehr Teile abrufen. Den größeren Kontextfenster kaufen. Alles hineinstopfen, was helfen könnte, und dem Modell überlassen, es zu sortieren.

Die Beweise laufen hart in die entgegengesetzte Richtung. Chromas Kontext-Rot-Studie testete 18 Modelle, darunter GPT-4.1, Claude 4 und Gemini 2.5, und fand, dass die Leistung “zunehmend unzuverlässig wird, wenn die Eingabelänge wächst”, wobei ein einzelnes Ablenkungsdokument die Genauigkeit messbar verringerte und vier Ablenkungen sie erheblich verringerten. Die frühere Lost-in-the-Middle-Forschung fand die berühmte U-Kurve: Informationen, die in der Mitte des Kontexts begraben sind, werden sogar von Modellen mit langer Kontextlänge ignoriert. Und die medizinische Audits oben sind das, wie diese Dynamiken von Anfang bis Ende aussehen, ein System, das sechzehn Passagen abruft, von denen zwölf oder mehr irrelevant sind, und dann den Haufen an ein Modell übergibt, das trainiert wurde, nie “Ich weiß nicht” zu sagen.

Mehr Retrieval ohne mehr Präzision produziert nur Ablenkungen. Präzision schlägt Recall in der begründeten Generierung, und es ist nicht knapp.

Verschwörer drei: niemand misst den Abstand

Barnett et al. legten die operative Wahrheit in einer Zeile fest: “Die Validierung eines RAG-Systems ist nur während des Betriebs möglich.” Sie können eine RAG-Pipeline nicht im Stadium abzeichnen, weil ihre Fehlermodi eine gemeinsame Eigenschaft Ihres Corpus, Ihrer Abfragen und Ihrer Benutzer sind, keines von denen stillhält.

Trotzdem verfolgen die meisten Produktionspipelines die End-to-End-Antwortqualität bestenfalls, was die beiden Verschwörer oben in eine einzige unerklärliche Zahl zusammenfasst. Die Standardzerlegung, manchmal als RAG-Triade bezeichnet, trennt Kontextrelevanz (hat das Retrieval das richtige Material gefunden?), Begründetheit (hält die Antwort an diesem Material fest?) und Antwortrelevanz (beantwortet es die Frage?). Frameworks wie RAGAS und TruLens implementieren es. Ich werde ehrlich sagen, dass es keine strenge Umfrage gibt, die quantifiziert, wie wenige ProduktionsTeams diese durchführen; was existiert, ist das Praktiker-Record, und es beschreibt hauptsächlich die Bewertung durch Vibes. Wenn Ihr Team kein Dashboard hat, das Retrievalfehler von Treuefehlern unterscheidet, wird jede Halluzination weiterhin wie ein Modellproblem aussehen, und Sie werden weiterhin modellförmige Lösungen kaufen.

Was tatsächlich funktioniert, in der richtigen Reihenfolge

Retrieval getrennt von der Generierung messen. Die unglamouröse Lösung, die jeder überspringt, und meiner Meinung nach der höchste Hebel auf dieser Liste, weil sie ein Argument über das Modell, das gekauft werden soll, in eine Diagnose umwandelt. Wenn die Kontextrelevanz schlecht ist, kann kein Generator Sie retten. Wenn die Begründetheit schlecht ist mit gutem Kontext, kann kein Retriever Sie retten.

Den Präzisionsstapel aufbauen. Anthropic’s veröffentlichte Zahlen sind die sauberste Demonstration von gestapelten Retrieval-Fixes überall: kontextuelle Chunk-Einbettungen reduzierten die Top-20-Retrievalfehler von 5,7% auf 3,7%, das Hinzufügen von BM25-Hybrid-Suche (klassische Schlüsselwort-Suche neben Vektor-Suche) brachte es auf 2,9%, und das Hinzufügen eines Rerankers, eines zweiten Modells, das die Kandidaten-Teile für tatsächliche Relevanz neu bewertet, erreichte 1,9%, eine Gesamtreduzierung von 67%. Unite.AI hat warum zweistufiges Retrieval über sein Gewicht schlägt im Detail abgedeckt.

Ablehnung belohnen. OpenAIs Rezept ist, zuversichtliche Fehler mehr zu bestrafen als ausgedrückte Unsicherheit, und Sie können die lokale Version heute implementieren: fordern und bewerten Sie “Ich weiß nicht”-Antworten, und fügen Sie eine Begründungsprüfung hinzu, ein Implikationsmodell (NLI), das überprüft, ob jede generierte Behauptung von dem abgerufenen Text unterstützt wird, bevor die Antwort verschickt wird. Die RAGTruth-Arbeit zeigte, dass ein kleiner fein abgestimmter Detektor GPT-4-basierte Aufforderungen beim Auffangen nicht unterstützter Behauptungen übertreffen kann.

Abfragen umschreiben und Beweise filtern. In der medizinischen Audits wurden durch die Umschreibung von Abfragen und die Filterung von Beweisen bis zu 12 Punkte Tatsächlichkeit wiederhergestellt. Billig, langweilig, effektiv.

Agente-Retrieval zuletzt in Betracht ziehen. Mehrstufiges Retrieval, das über das Abrufen des nächsten Schritts nachdenkt (Primer hier), hilft wirklich bei harten Multi-Hop-Abfragen, fügt aber auch Latenz, Kosten und neue Fehlermodi hinzu. Es ist ein Kapitel, kein Fundament.

Das Modell war der kleinste Teil, der nicht funktioniert hat

Blicken Sie zurück auf das Ritual vom Anfang. Jeder Schritt davon, der Einbettungsaustausch, das Modell-Upgrade, der schreiende Systemprompt, behandelte Halluzination als Defekt im Generator. Die Beweise sagen, dass der Generator genau das getan hat, was seine Trainingsbelohnungen ihm beigebracht haben, mit den Materialien, die Ihr Retriever ihm übergeben hat, unbeobachtet von jeder Metrik, die sagen könnte, welcher von ihnen fehlgeschlagen ist.

Ihre RAG-Pipeline ist nicht kaputt. Sie ist gehorsam. Sie tut genau das, was ihre Anreize belohnen, und bis Sie Retrieval und Generierung getrennt messen und “Ich weiß nicht” zu einer Bewertungskategorie anstelle eines Fehlers machen, sagen diese Anreize: raten.