Den virkelige årsag til, at din RAG-pipeline hallucinerer

DU kender ritualen. Pipelinen hallucinerede foran en kunde, så du udskiftede indlejringen. Så opgraderede du LLM. Så tilføjede du en systemprompt, der siger, i stadig mere desperate store bogstaver, BRUG KUN DEN TILGÆNGELIGE KONTEKST. Og i morges citerede den med sikkerhed en politikdokument, der ikke eksisterer.

Du er i godt selskab. Når Stanfords RegLab og HAI-forskere gennemgik de AI-rettelig forskningstjenester, der sælges af LexisNexis og Thomson Reuters (TRI ), produkter, der markedsføres som “hallucinationsfrie” takket være retrieval-augmenteret generation, fandt de hallucinationsrater på mellem 17% og 34% på forudregistrerede juridiske forespørgsler. RAG hjalp virkelig: rå GPT-4 hallucinerede langt mere. Men forskellen mellem “reduceret” og “elimineret” er, hvor produktionsystemer bor, og den forskel har en struktur.

Hallucination i en RAG-pipeline er sjældent en enkelt fejl. Det er tre, der konspirerer: hentning fejler stille, modellen er trænet til at svare alligevel, og intet i pipelinen måler rummet mellem disse to kendsgerninger. At udskifte modeller adresserer ingen af dem.

Medskyldig én: hentning fejler oftere, end du tror

Den nyeste bevis her er også den mest ubehagelige. I november 2025 producerede et hold, der inkluderede 18 medicinske eksperter, 80.502 annotationer på 800 RAG-udgange på virkelige patient- og USMLE-stil forespørgsler. Standard RAG leverede ikke bare under forventningerne; det forringede faktualiteten med op til 6% og fuldstændigheden med 5% i forhold til de samme modeller, der kørte uden hentning. Rodårsagen lå opstrøms fra LLM helt: kun 22% af de top-16 hentede passager var relevante for forespørgslen.

Før du afviser det som et hård-domæneproblem, målte Anthropic hentningsfejl på rene, kuraterede korpora under udviklingen af sin kontekstuelle hentningsteknik og fandt, at standard indlejringssøgning fejlede i at fremme den nødvendige del i top-20-resultaterne 5,7% af tiden. En forespørgsel ud af atten, på velplejede data, med intet eksotisk på færde.

Dette er, hvorfor den kanoniske ingeniørskategorisering af RAG-fejl, Barnett et al.’s syv fejlpunkter, betyder så meget: tre af de syv (manglende indhold, manglende top-rangerede dokumenter og kontekst-konsolideringsfejl) opstår før sprogmodellen genererer en enkelt token. Unite.AI har publiceret en grundig gennemgang af denne taksonomi og de evalueringssystemer, der er knyttet til den, så jeg vil ikke genopbygge det her. Pointen, som denne artikel tilføjer, handler om incitamenter: indlejringssammenligning er en proxy for relevans, ikke en garanti for den, og nylig teoretisk arbejde fra Google DeepMind indikerer, at enkeltvektorindlejring har hårde matematiske begrænsninger for, hvilke kombinationer af relevante dokumenter de kan repræsentere overhovedet. En henter, der returnerer plausibel-men-forkert stykker, gør nøjagtig, hvad cosinuslighed gør.

Medskyldig to: modellen var trænet til at gætte

Nu overdrag dette fejlbehæftede kontekst til en sprogmodel, og spørg, hvad modellens træning har lært den at gøre med huller.

OpenAI svarede direkte på dette i sin september 2025-papir Hvorfor sprogmodeller hallucinerer: standardtræning og evaluering belønner gætning over erkendelse af usikkerhed. Benchmark scorer binær nøjagtighed, afholdelse scorer nul, og så lærer modeller, at en selvbevidst gæt slår en blank. Papirets egen sammenligning gør det konkrekt: på SimpleQA afholdt en resonneringsmodel sig 1% af tiden og var forkert 75% af tiden, mens en anden justeret model afholdt sig 52% af tiden og reducerede fejlratens til 26%.

De RAG-specifikke benchmark-tester viser, hvad den incitament gør inde i en pipeline. RGB-benchmark-testen testede, om modellerne nægtede at svare, når de kun fik irrelevante dokumenter. Den bedste negative-afvisningsrate på tværs af alle modeller, der blev testet, var 45%, hvilket betyder, at selv den bedste model, givet kun affaldskontekst, svarede alligevel mere end halvdelen af tiden. ClashEval fandt det spejlbillede-fejl: når hentet indhold modsagde viden, modellen allerede havde ret i, opgav modellerne deres egen korrekte svar til fordel for den forkerte kontekst mere end 60% af tiden. Troværdighed fejler i begge retninger, og Salesforces FaithEval tilføjer den ubehagelige koda, at større modeller ikke er nødvendigvis mere troværdige.

Anthropics fortolkbarhedsteam har endda sporet mekanismen. I deres analyse er afvisning modellens standardcirkuit; en “kendt enhed”-funktion undertrykker afvisningen, når modellen genkender noget. Hallucination sker, når funktionen fejler, når modellen genkender formen på din spørgsmål, mangler substansen og fabrikerer flydende ind i hullet.

Og hvis du håber, at fronten vil udvikle sig ud over dette: Vectaras hallucinations-leaderboard måler noget langt lettere end RAG, sammenfatning af et enkelt dokument placeret direkte foran modellen, og pr. maj 2026-opdateringen fabrikerede GPT-4o stadig i 9,6% af sammenfattelserne og Claude Opus 4 i 12%. Selv med perfekt hentning lækker generation.

Den instinktive løsning gør det værre

Konfronteret med alt dette når de fleste hold ud efter volumen. Hent mere stykker. Køb det større kontekstvindue. Stop alt, der måske kan hjælpe, ind og lad modellen sortere det ud.

Beviserne løber hårdt den modsatte vej. Chromas kontekst-rot-studie testede 18 modeller, herunder GPT-4.1, Claude 4 og Gemini 2.5, og fandt, at ydeevnen blev ” stadig mere utroværdig, efterhånden som inputlængden voksede”, med en enkelt distraktionsdokument, der målbart reducerede nøjagtigheden, og fire distraktorer, der reducerede den betydeligt. Den tidligere Lost in the Middle-forskning fandt den berømte U-kurve: information begravet midt i konteksten bliver ignoreret, selv af lang-kontekstmodeller. Og den medicinske revision ovenfor er, hvordan disse dynamikker ser ud fra ende til anden, et system, der henter seksten passager, hvoraf tolv eller flere er irrelevante, og derefter overdrager bunken til en model, der er trænet til aldrig at sige “jeg ved ikke”.

Mere hentning uden mere præcision skaber kun distraktorer. Præcision slår recall i grundlagt generation, og det er ikke tæt.

Medskyldig tre: ingen måler gapet

Barnett et al. satte den operationelle sandhed i en linje: “validering af et RAG-system er kun mulig under drift”. Du kan ikke godkende et RAG-pipeline i staging, fordi dets fejlmodi er en fælles egenskab ved din korpus, dine forespørgsler og dine brugere, ingen af dem holder stille.

Alligevel sporer de fleste produktionspipelines kun slut til slut-svarkvalitet på bedste, hvilket sammenblander de to ovennævnte medskyldige i ét uforklarligt tal. Den standard-dekomposition, der nogle gange kaldes RAG-triaden, adskiller kontekst-relevans (fandt hentningen det rigtige materiale?), grundlag (stikker svaret til det materiale?) og svar-relevans (besvarer det spørgsmålet?). Rammer som RAGAS og TruLens implementerer det. Jeg vil være ærlig og sige, at der ikke findes nogen streng undersøgelse, der kvantificerer, hvor få produktionshold kører disse; hvad der findes, er praktiker-optegnelserne, og de beskriver for det meste evaluering efter vibes. Hvis dit hold ikke har nogen dashboard, der skelner hentningsfejl fra troværdighedsfejl, vil hver hallucination stadig se ud som et modelproblem, og du vil fortsætte med at købe model-formede løsninger.

Hvad der virkelig virker, i rækkefølge

Mål hentning separat fra generation. Den glamorløse løsning, alle springer over, og i mit syns den højeste gevinstpost på denne liste, fordi den omdanner et argument om, hvilken model at købe, til en diagnose. Hvis kontekst-relevans er dårlig, kan ingen generator redde dig. Hvis grundlag er dårligt med god kontekst, kan ingen henter redde dig.

Byg præcisionsspillet. Anthropics publicerede tal er den reneste demonstration af stakket hentningsløsninger overalt: kontekstuelle chunk-indlejring reducerede top-20-hentningsfejl fra 5,7% til 3,7%, tilføjelse af BM25-hybrid-søgning (klassisk nøgleordsmatchning sammen med vektor-søgning) bragte det til 2,9%, og tilføjelse af en reranker, en anden-rundes-model, der genscorer kandidat-stykkerne for reel relevans, nåede 1,9%, en total reduktion på 67%. Unite.AI har dækket hvorfor to-trins-hentning slår over sin vægt i detaljer.

Beløn afholdelse. OpenAIs recept er at straffe selvbevidste fejl mere end udtrykt usikkerhed, og du kan implementere den lokale version i dag: prompt for og evaluér “jeg ved ikke”-svar, og tilføj en grundlagstjek, en implikationsmodel (NLI), der verificerer hver genereret påstand er understøttet af den hentede tekst, før svaret afsendes. RAGTruth-arbejdet viste, at en lille finjusteret detector kan matche GPT-4-baseret promptning til at fange unsupported påstande.

Omformulér forespørgsler og filtrér beviser. I den medicinske revision genoprettede forespørgsel-omformulering plus bevis-filtrering op til 12 punkter af faktualitet. Billigt, kedeligt, effektivt.

Overvej agens-hentning til sidst. Flere-trins-hentning, der resonerer om, hvad der skal hentes næste (primer her), hjælper virkelig med hårde multi-hop-forespørgsler, men det tilføjer latency, omkostninger og nye fejlmodi. Det er en kronende begivenhed, ikke en grund.

Modellen var den mindst fejlbehæftede del

Kig tilbage på ritualen fra åbningen. Hver trin af det, indlejringsskiftet, modelopgraderingen, systemprompten, der råber, behandlede hallucination som en fejl i generatoren. Beviserne siger, at generatoren gjorde, hvad dens træning belønner, med de materialer din henter gav den, uobserveret af nogen måling, der kunne have sagt, hvilken af dem fejlede.

Din RAG-pipeline er ikke fejlbehæftet. Den er lydig. Den gør nøjagtig, hvad dens incitamenter belønner, og indtil du måler hentning og generation separat og gør “jeg ved ikke” til en scorekategori i stedet for en fejl, siger incitamenterne: gæt.