Den virkelige grunnen til at din RAG-pipeline hallucinerer

Du kjenner ritualen. Pipelinen hallucinerte foran en kunde, så du byttet ut innbetningsmodellen. Deretter oppgraderte du LLM-en. Deretter la du til en systemsvar som sier, i stadig mer desperate store bokstaver, BRUK KUN DEN TILGJENGELIGE KONTEKSTEN. Og i dag siterte den med sikkerhet en politidokument som ikke eksisterer.

Du er i god selskap. Når Stanfords RegLab og HAI-forskere gjennomførte en undersøkelse av AI-verktøy for juridisk forskning solgt av LexisNexis og Thomson Reuters (TRI ), produkter som ble markedsført som “hallusinasjonsfrie” takket være retrieval-augmentert generering, fant de hallusinasjonsrater på mellom 17% og 34% på forhåndsregistrerte juridiske spørsmål. RAG hjalp virkelig: rå GPT-4 hallucinerte mye mer. Men gapet mellom “redusert” og “eliminert” er der produksjonssystemer bor, og det gapet har en struktur.

Hallusinasjon i en RAG-pipeline er sjelden ett feil. Det er tre, som konspirer: retrieval feiler stille, modellen ble trent til å svare likevel, og ingenting i pipelinen måler gapet mellom disse to faktene. Bytting av modeller adresserer ingen av dem.

Medkonspirator én: retrieval feiler oftere enn du tror

Det ferskeste beviset her er også det mest ubehagelige. I november 2025 produserte et team inkludert 18 medisinske eksperter 80 502 annotasjoner over 800 RAG-utdata på virkelige pasient- og USMLE-stil spørsmål. Standard RAG leverte ikke bare under forventningene; det reduserte faktualiteten med opptil 6% og fullstendigheten med 5% sammenlignet med samme modeller som kjørte uten retrieval. Rotårsaken satt oppstrøms fra LLM helt: bare 22% av de øverste 16 hentede passasjer var relevante for spørsmålet.

Før du avviser dette som et hardt domene-problem, målte Anthropic retrieval-feil på rene, kurerte korpus mens de utviklet sin kontekstuelle retrieval-teknikk og fant standard innbetnings-søk feilet å fremme den nødvendige chunk i topp 20 resultater 5,7% av tiden. Én spørring av atten, på velgroomede data, med ingenting eksotisk som skjer.

Dette er hvorfor den kanoniske ingeniør-taxonomien av RAG-feil, Barnett et al.’s syv feilpunkter, betyr så mye: tre av de syv (manglende innhold, manglende topp-rangerende dokumenter og kontekst-konsolideringsfeil) skjer før språkmodellen genererer ett enkelt token. Unite.AI har publisert en grundig gjennomgang av den taxonomien og evalueringssystemene som kartlegger til det, så jeg vil ikke bygge det her. Poenget denne artikkelen legger til er om incitamenter: innbetnings-lignende er en proxy for relevans, ikke en garanti for det, og ny teoretisk arbeid fra Google DeepMind indikerer at enkelt-vektor-innbetninger har harde matematiske grenser for hvilke kombinasjoner av relevante dokumenter de kan representere overhodet. En henter som returnerer plausibel-men-feil chunks gjør nøyaktig det cosine-lignende gjør.

Medkonspirator to: modellen ble trent til å gjette

Nå hånd den feilaktige konteksten til en språkmodell, og spør hva modellens trening lærte den å gjøre med hull.

OpenAI svarte direkte på dette i sin september 2025-papir Hvorfor språkmodeller hallucinerer: standard trening og evaluering belønner gjetting over å anerkjenne usikkerhet. Benchmark scorer binær nøyaktighet, avståelse scorer null, og så lærer modellene at en selvbevisst gjetting slår en blank. Papirets egen sammenligning gjør det konkrete: på SimpleQA, avstod én resonneringsmodell 1% av tiden og var feil 75% av tiden, mens en annen justert slektning avstod 52% av tiden og kutte feilraten til 26%.

De RAG-spesifikke benchmarkene viser hva den incitamenten gjør inne i en pipeline. RGB-benchmarket testet om modellene nektet å svare når de bare fikk irrelevante dokumenter. Den beste negative-avvisningsraten over alle modeller som ble testet var 45%, noe som betyr at selv den beste modellen, gitt bare junk-kontekst, svarte likevel mer enn halvparten av tiden. ClashEval fant den speil-bilde-feil: når hentet innhold motsa kunnskap modellen allerede hadde rett, forlot modellene sin egen korrekte svar til fordel for feil konteksten mer enn 60% av tiden. Trofasthet feiler i begge retninger, og Salesforces FaithEval legger til den urolige koden at større modeller ikke er nødvendigvis mer trofaste.

Anthropics tolkningslag har sogar sporet mekanismen. I deres analyse er avvisning modellens standard-sirkuit; en “kjent enhet”-funksjon undertrykker avvisningen når modellen gjenkjenner noe. Hallusinasjon skjer når funksjonen feiler, når modellen gjenkjenner spørsmålets form, mangler substansen og fabrikkerte flytende inn i hullene.

Og hvis du håper at fronten bare vil vokse ut av dette: Vectaras hallusinasjons-lederliste måler noe mye enklere enn RAG, sammenfatte en enkelt dokument plassert rett foran modellen, og per mai 2026-oppdateringen fabrikkerte GPT-4o fortsatt i 9,6% av sammenfatningene og Claude Opus 4 i 12%. Selv med retrieval løst perfekt, genererer det lekkasjer.

Den instinktive fiksen gjør det verre

Konfrontert med all dette, når de fleste lagene strekker seg etter volum. Hent flere chunks. Kjøp den større kontekst-vinduet. Stikk inn alt som kan hjelpe og la modellen sortere det ut.

Bevisene løper hardt i motsatt retning. Chromas kontekst-rot-studie testet 18 modeller, inkludert GPT-4.1, Claude 4 og Gemini 2.5, og fant at ytelsen ble “økende uansvarlig når inndata-lengden øker”, med en enkelt distraktor-dokument som kutte nøyaktigheten målbart og fire distraktorer som kutte den betydelig. Den tidligere Lost in the Middle-forskningen fant den berømte U-kurven: informasjon begravd midt i konteksten blir ignorert selv av lange-kontekst-modeller. Og den medisinske revisjonen ovenfor er hva disse dynamikkene ser ut som fra ende til ende, et system som henter seksten passasjer hvorav tolv eller flere er irrelevante, og deretter overleverer bunken til en modell som er trent til å aldri si “jeg vet ikke”.

Mer retrieval uten mer presisjon bare fabrikkerer distraktorer. Presisjon slår recall i grunnlagt generering, og det er ikke nær.

Medkonspirator tre: ingen måler gapet

Barnett et al. plasserte den operative sannheten i én linje: “validering av et RAG-system er bare mulig under drift”. Du kan ikke godkjenne en RAG-pipeline i staging, fordi dens feilmodi er en felles egenskap av korpus, spørsmål og brukere, ingen av dem holder stille.

Likevel sporer de fleste produksjonspipeliner bare sluttpunkt-svarkvalitet på beste måte, noe som sammenblander de to medkonspiratorene ovenfor til ett uforklarlig tall. Den standard-dekomposisjonen, noen ganger kalt RAG-triaden, skiller kontekst-relevans (fant retrieval riktig materiale?), grunnlag (holder svaret fast ved det materialet?) og svar-relevans (omtaler det spørsmålet?). Rammer som RAGAS og TruLens implementerer det. Jeg skal være ærlig og si at ingen streng undersøkelse finnes som kvantifiserer hvor få produksjonslag kjører disse; hva som finnes er praktikerrekorden, og den beskriver i hovedsak evaluering ved vibes. Hvis ditt lag har ingen dashboard som skiller retrieval-feil fra trofasthetsfeil, vil hver hallusinasjon fortsatt se ut som et modell-problem, og du vil fortsatt kjøpe modell-formede fikser.

Hva som virkelig fungerer, i rekkefølge

Mål retrieval separat fra generering. Den uglamorøse fiksen alle hopper over, og i mitt syn den høyest-leverande punktet på denne listen, fordi den konverterer et argument om hvilken modell å kjøpe til en diagnose. Hvis kontekst-relevans er dårlig, kan ingen generator redde deg. Hvis grunnlag er dårlig med god kontekst, kan ingen henter redde deg.

Bygg presisjons-staken. Anthropics publiserte tall er den reneste demonstrasjonen av stakkede retrieval-fikser noen steder: kontekstuelle chunk-embeddings kutte topp-20-retrieval-feil fra 5,7% til 3,7%, og tilføyde BM25-hybrid-søk (klassisk nøkkel-ord-matching sammen med vektor-søk) brakte det til 2,9%, og tilføyde en reranker, en annen-modell som re-scorede kandidat-chunkene for faktisk relevans, nådde 1,9%, en 67% total reduksjon. Unite.AI har dekket hvorfor to-trinns-retrieval slår over sin vekt i detalj.

Belønn avståelse. OpenAIs resept er å straffe selvbevisste feil mer enn uttrykt usikkerhet, og du kan implementere den lokale versjonen i dag: prompt for og evaluér “jeg vet ikke”-svar, og legg til en grunnlagsjekk, en implikasjonsmodell (NLI) som verifiserer hver generert påstand er støttet av det hentede teksten før svaret sendes. RAGTruth-arbeidet viste at en liten finjustert detektor kan matche GPT-4-basert prompting på å fange usupportede påstander.

Skriv om spørsmål og filtrer bevis. I den medisinske revisjonen gjenvant spørsmåls-reformulering og bevis-filtrering opp til 12 poeng av faktualitet. Billig, kjedelig, effektivt.

Vurdér agens-retrieval sist. Flere-trinns-retrieval som resonerer om hva å hente neste (primer her) hjelper virkelig hardt multi-hop-spørsmål, men det legger til latency, kostnad og nye feilmodi. Det er en krone, ikke en grunn.

Modellen var den minst ødelagte delen

Se tilbake på ritualen fra åpningen. Hver trinn av det, innbetnings-byttingen, modell-oppgraderingen, systemsvar-prompten, behandlet hallusinasjon som en defekt i generatoren. Bevisene sier at generatoren gjorde hva dens trening belønner, med materialet henteren din overleverte, uobservert av noen måling som kunne ha sagt hvilken av dem feilet.

Din RAG-pipeline er ikke ødelagt. Den er lydig. Den gjør nøyaktig hva dens incitamenter belønner, og før du måler retrieval og generering separat og gjør “jeg vet ikke” en poeng-kategori istedenfor en feil, sier disse incitamentene: gjett.