ChatGPT-5 en Gemini 2.5 hallucineren in 40% van de geteste nieuwsredactiequeries

Een nieuwe studie toont aan dat ChatGPT-5 en Google Gemini hallucinaties produceren in 40% van de nieuwsredactiestijlqueries, waarbij ze vaak zelfverzekerde beweringen doen die niet worden ondersteund door verifieerbare feiten. Google’s NotebookLM scoort beter met slechts 13% – een percentage dat nog steeds elk journalist ter wereld zijn baan zou kosten. De studie vond dat de modellen vaak bronnen verdraaiden door meningen om te zetten in feiten en door attributie weg te halen, waardoor ze riskante instrumenten voor journalistiek zijn. De auteurs pleiten voor betere, speciaal ontworpen instrumenten voor deze taken.

Grote taalmodellen hebben een snelle adoptie in de journalistiek gezien in recente tijden, in werkplekken die sowieso al kosten, budgetten en personeel hebben gesneden sinds de digitale journalistiek twee eeuwen van traditie in een onweerstaanbare proces dat begon in het begin van de jaren 2000.

Feitelijk was het terrein al vruchtbaar, aangezien de media al gewend waren geraakt aan banen te schrappen door ‘innovatie’ sinds minstens de turbulente introductie van digitale zetsels in de jaren 80, evenals eerdere uitdagingen van de komst van de radio en televisie.

De onverbiddelijke weg van AI naar redactieruimten en mediabedrijven is niet zonder tegenslagen geweest; in een context waarin 55% van de bedrijven nu spijt hebben van het vervangen van mensen door AI, en waar Gartner voorspelt dat organisaties hun AI-adoptieplannen binnen twee jaar drastisch zullen terugschroeven, hebben een aantal nieuwsorganisaties journalisten die door AI waren vervangen, weer aangenomen, omdat de ernstige en vaak beschamende tekortkomingen van machine learning-alternatieven duidelijk werden.

Fouten zijn niet alleen menselijk

Hoewel hallucinaties een enorm probleem zijn gebleken voor domeinen waar nauwkeurige citatie essentieel is (met opvallende openbare aandacht voor AI-fouten in de rechtspraak, onderzoek en journalistiek sectoren), toont een nieuwe Amerikaanse studie aan dat machine learning in de journalistiek bredere uitdagingen kent dan verwacht.

De auteurs van de studie hebben ChatGPT, Google Gemini en de meer citatie-georiënteerde NotebookLM getest op een journalistieke taak: het gebruik van een 300-document corpus gericht op TikTok-rechtszaken en -beleid in de Verenigde Staten.

De onderzoekers varieerden de specifiteit van de prompts en het aantal documenten dat werd verstrekt, en analyseerden vervolgens de resultaten met behulp van een taxonomie die was ontworpen om het type en de ernst van hallucinaties te vangen.

Over alle uitvoer heen, bevatten 30% ten minste één hallucinatie, terwijl ChatGPT en Gemini elk een 40% hallucinatierate lieten zien – een beetje meer dan drie keer hoger dan de 13% foutenrate van NotebookLM.

In plaats van feiten of entiteiten te verzinnen, merkten de onderzoekers op dat de modellen vaak interpretatieve overmoed vertoonden, door onondersteunde karakteriseringen toe te voegen en toegeschreven meningen om te zetten in algemene verklaringen:

‘Kwalitatief gezien waren de meeste fouten geen verzonnen entiteiten of nummers; in plaats daarvan observeerden we interpretatieve overmoed – modellen voegden onondersteunde karakteriseringen van bronnen toe en transformeerden toegeschreven meningen in algemene verklaringen.

‘Deze patronen onthullen een fundamentele epistemologische mismatch: terwijl journalistiek expliciete bronnen voor elke claim vereist, genereren LLM’s autoriteit klinkende tekst ongeacht de bewijskracht.

‘We stellen journalistieke uitbreidingen van bestaande hallucinatietaxonomieën voor en betogen dat effectieve nieuwsredactie-instrumenten architectuur nodig hebben die accurate toewijzing afdwingt in plaats van fluïditeit te optimaliseren.’

De nieuwe studie, een fascinerende maar korte lees, is getiteld Niet verkeerd, maar onwaar: LLM-overmoed in document-gebaseerde queries, en komt van drie onderzoekers van Northwestern University en de University of Minnesota.

Theorie en methode

De exacte oorzaak van hallucinaties* is omstreden op verschillende momenten; hoewel bijna alle theorieën het erover eens zijn dat gegevenskwaliteit en/of -distributies een bijdragende factor zijn op het moment van training, is het zelfs voorgesteld dat 100% van de LLM-uitvoer in wezen hallucinatie is (behalve dat sommige van die hallucinaties toevallig overeenkomen met de realiteit).

De auteurs observeren^†:

‘Vanuit een technisch perspectief ontstaan hallucinaties uit de mogelijkheid van LLM’s om tekst te genereren die gemeenschappelijke patronen volgt zonder een begrip van wat waar is. Deze karakteristiek resulteert in plausibele antwoorden die de realiteit niet weerspiegelen – bijvoorbeeld LLM-gefabriceerde rechtszaken die hun weg vinden in argumenten.

‘En terwijl de capaciteiten van LLM’s de afgelopen vijf jaar aanzienlijk zijn toegenomen, blijven hallucinaties een probleem, in sommige gevallen zelfs toenemend naarmate modellen krachtiger worden.’

Het onderzoeksgebied, zo merkt het artikel op, heeft verschillende manieren onderzocht om LLM-hallucinaties te verminderen of beter te begrijpen, die over het algemeen in drie hoofdgebieden vallen: eerst, in context, kunnen modellen worden geaard in externe bronnen zoals databases, documentcollecties of webinhoud om hun claims te ondersteunen.

Dit werkt goed wanneer het materiaal betrouwbaar en compleet is, maar hiaten, verouderde informatie of slechte gegevenskwaliteit veroorzaken nog steeds fouten; en modellen hebben ook de neiging om zelfverzekerde verklaringen te doen die verder gaan dan wat de bronnen daadwerkelijk zeggen.

Ten tweede, prompting en decoding verwijst naar het gebruik van zorgvuldige instructies om modellen te leiden. Dit kan het vragen van modellen om hun bewijs te controleren, taken in kleinere stappen te breken of striktere formaten te volgen. Soms worden modellen zelfs aangestuurd om hun eigen werk te controleren of meerdere antwoorden te vergelijken.

Deze technieken kunnen fouten vangen, maar ze verhogen ook de kosten, en ze falen vaak om subtiele fouten te detecteren; daarom valt de verificatiebelasting nog steeds grotendeels op de gebruiker.

Ten derde, modellen en tools verwijst naar het geven van LLM’s toegang tot bronnen die verificatie kunnen ondersteunen, zoals zoekmachines of calculators – hoewel de nauwkeurigheid ook kan verbeteren wanneer modellen worden getraind op goed gedocumenteerde gegevens of wanneer citaatfuncties zijn ingebouwd.

Echter, deze maatregelen zijn niet foolproof, en zijn nog steeds afhankelijk van de kwaliteit van de bronnen, de duidelijkheid van de richtlijnen en de menselijke toezicht, om valse informatie te voorkomen.

Tik Tok

Om te ontdekken welke benaderingen mogelijk nuttig zouden zijn voor journalisten, voerde de studie evaluaties uit die waren ontworpen om echte nieuwsredactiewerkstromen en -normen te weerspiegelen, met hallucinaties die werden onderzocht in de context van typische journalistieke taken.

Frontiermodellen werden getest met behulp van gebruikelijke promptstrategieën en document-gebaseerde instellingen, zodat zowel de frequentie als het type van hallucinatiefouten konden worden gemeten – evenals wat die fouten eigenlijk betekenen voor de integratie van AI in nieuwsredacties.

De analyse richtte zich op het type document-gebaseerde query’s dat typisch is in onderzoeks- en onderzoeksjournalistiek. De auteurs zochten naar een corpus dat was bedoeld om een typisch klein- tot middelgroot nieuwsproject te weerspiegelen, maar dat nog steeds groot genoeg was om de complexiteit van de echte wereld te vangen; met dat doel voor ogen selecteerden ze de voortdurende juridische inspanning om TikTok in de Verenigde Staten te verbieden.

Documenten werden verzameld van The Washington Post, The New York Times , ProQuest en Westlaw, wat resulteerde in een verzameling van 300 documenten bestaande uit vijf academische papers, 150 nieuwsartikelen en 145 juridische stukken (met de volledige compilatie beschikbaar voor academische onderzoekers op aanvraag via het repository van het project).

Omdat LLM-antwoorden sterk afhankelijk zijn van de manier waarop een prompt is geformuleerd en hoeveel context wordt verstrekt, ontwierpen de auteurs vijf queries die varieerden van zeer breed tot zeer specifiek – van algemene vragen over TikTok-verboden tot gedetailleerde prompts die getuigenis vroegen van specifieke rechtszaken.

Het aantal documenten dat aan elk model werd verstrekt, varieerde van 10, 100 tot alle 300 documenten uit het volledige corpus, met twee sleuteldocumenten opgenomen in elke steekproef, om consistentie te waarborgen. Vijftien antwoorden werden gegenereerd voor elk model, behalve voor ChatGPT, die beperkt was tot tien antwoorden.

Concurrenten

Drie tools werden getest, elk met een andere benadering van document-gebaseerde query’s: ChatGPT-5 werd geëvalueerd met behulp van de Projects-functie, die uploads beperkte tot 100 documenten; Google Gemini 2.5 Pro kon het volledige 300-document corpus in-context verwerken (met behulp van zijn één miljoen token contextwindow om alle 923.000 tokens rechtstreeks te verwerken); Google NotebookLM, die ingebouwde citaatopname biedt, werd getest met behulp van speciale notitieboeken voor elke steekproef.

Hoewel deze documentbehandelingsmethoden verschillen, vertegenwoordigen alle drie echte instrumenten die momenteel beschikbaar zijn voor journalisten; en in elk geval is de huidige stand van zaken meer experimenteel dan homogeen, met functiepariteit en bereik die onvermijdelijk verschillen onder de huidige aanbod.

Om het bereik van mogelijke hallucinatiegedrag te meten, werd een taxonomie uit een eerder werk uit 2023 gebruikt, met hallucinaties gecodeerd door oriëntatie (vervorming vs. uitbreiding); categorie (type fout); en graad (ernst beoordeeld als mild, matig of alarming).

Alle modeluitvoer werd geannoteerd door één menselijke auteur, die elke zin bekeek en deze codes toepaste. Fouten die niet door de taxonomie werden gedekt, werden gemarkeerd als divers en later geanalyseerd om journalistieke specifieke categorieën te ontwikkelen.

Gegevens en tests

In de initiële test voor hallucinatieprevalentie, werden 12 van de 40 modelantwoorden gevonden die ten minste één hallucinatie bevatten, met opvallende variatie tussen tools. ChatGPT en Gemini produceerden hallucinaties in 40% van hun uitvoer, terwijl NotebookLM hallucinaties produceerde in slechts 13% van de gevallen:

Algemene hallucinatierates voor elk instrument, met Gemini en ChatGPT die de hoogste proportie antwoorden produceren met fouten. Bron: https://arxiv.org/pdf/2509.25498

Van deze resultaten merken de auteurs op:

‘Dit geeft aan dat, hoewel de meerderheid van de antwoorden over alle instrumenten geen hallucinaties bevatten, de keuze van het instrument een verschil maakt voor hetzelfde documentcorpus en queryset.’

Hallucinaties komen zelden in isolatie voor, merkt het artikel op; Gemini had gemiddeld vier per defect antwoord, NotebookLM drie en ChatGPT 1,5. De meeste waren matig in ernst, maar 14% werden geclassificeerd als alarming. In één geval verzon ChatGPT een wraakmotief achter een TikTok-verbod dat niet in de bron voorkwam:

‘[In] één query stelde ChatGPT een potentieel TikTok-verbod voor als een wederkerige maatregel van Amerikaanse wetgevers als reactie op het Chinese beleid, een claim die geheel afwezig was in het aangehaalde brondocument.’

In totaal introduceerden 64% van de hallucinerende antwoorden feitelijke onnauwkeurigheden of omleidingen, waardoor vragen kunnen rijzen over of het gebruik van LLM’s in dit soort informatie-gebaseerde workflows daadwerkelijk tijd bespaart, althans op het huidige niveau.

In deze initiële test vielen de meeste hallucinaties niet binnen bestaande taxonomiecategorieën, vaak met gefabriceerde citaten of onjuiste acroniemuitbreidingen, wat suggereert dat de huidige kaders mogelijk te smal zijn voor journalistieke use-cases.

De lagere hallucinatierate van NotebookLM, merken de auteurs op, suggereert dat zijn citaat-gebaseerde RAG-systeem een betere grondslag biedt dan de Projects-functie van ChatGPT of de in-context-verwerking van Gemini, vooral wanneer specifieke documenten moeten worden verwezen.

Met betrekking tot de studie van de kwalitatieve kenmerken van waargenomen hallucinaties in de testresultaten, merken de onderzoekers op dat hallucinaties voortkwamen uit interpretatieve overmoed:

‘Modellen voegden zelfverzekerde karakteriseringen toe over het doel, het publiek en de intenties van de spreker die autoriteit leken te hebben, maar geen basis hadden in de daadwerkelijke tekst. Ze transformeerden voorbehoudelijke of toegeschreven verklaringen in definitieve claims.’

Overmoed kwam op twee manieren tot uiting: ten eerste voegden modellen onondersteunde claims toe over het doel of de bedoeling van een document, zoals het labelen van een artikel als ‘geschreven voor het publiek’ of een juridisch stuk als ‘gericht op advocaten’.

Ten tweede zetten ze toegeschreven meningen om in feit-achtige verklaringen, waardoor de oorspronkelijke bron en de bronbeoordeling werden verduisterd.

Deze gedragingen kwamen over alle instrumenten heen voor en waren niet beperkt tot één architectuur – en de meeste fouten waren geen verzinsels, maar eerder overinterpretaties.

De meeste hallucinaties werden gelabeld als divers, omdat ze niet binnen bestaande categorieën pasten, waardoor belangrijke verschillen tussen fouttypen vervaagden. Frequent voorkomende problemen zoals ontbrekende toewijzing en vage bronbeschrijvingen suggereren dat de huidige taxonomieën de soorten fouten missen die het meest tellen in de journalistiek, waar duidelijke bronnen essentieel zijn.

De auteurs merken op dat ‘Modellen zelfverzekerde analyse toevoegen die de documenten niet ondersteunen en essentiële toewijzing weghalen.’

Conclusie

Iedereen die heeft geëxperimenteerd met de drie modellen die in het nieuwe artikel worden bestudeerd, weet dat elk zijn zwakheden en sterktes heeft. Hoewel NotebookLM veel beter presteert bij citatie dan ChatGPT of Gemini, kan men bedenken dat het specifiek voor deze functionaliteit is gebouwd en nog steeds een foutenpercentage levert dat de meeste journalisten, onderzoekers of advocaten hun baan zou kosten, met herhaalde incidenten.

Bovendien ontbeert NotebookLM, dat zichzelf positioneert als een onderzoeksframework, veel van de UX-verbeteringen die de andere twee platforms een gemakkelijker schrijfervaring maken.

Nonetheless, NotebookLM lijkt tenminste daadwerkelijk de geüploade documenten te lezen in plaats van in de destructieve gewoonte van ChatGPT te vervallen om te raden wat een geüpload document zou kunnen zeggen op basis van wat het weet over de algemene distributie van soortgelijke documenten. Het kan een moeilijke strijd zijn om ChatGPT ertoe te brengen een volledige leesbewerking van geüploade materiaal uit te voeren, in plaats van te vertrouwen op metadata of zijn eigen aannamen/hallucinaties.

Voor domeinen waar bewijs en citatie essentieel zijn, zoals de rechtspraak, journalistiek en wetenschappelijk onderzoek, lijken er op het huidige moment geen natively-trained faciliteiten te zijn in de huidige marktleidende LLM’s die hun beperkte capaciteit om informatie te extraheren en te verwerken die de gebruiker hen opdraagt, kunnen verbeteren.

Op dit moment, en in afwachting van de komst van hulpsystemen die een betere interface voor LLM’s kunnen bieden dan een eenvoudige systeemprompt of MCP-instelling, moet alles wat deze systemen voor deze kritieke sectoren produceren nog steeds worden gecontroleerd door die dure, lastige en over het algemeen vervelende mensen.

* Google Cloud biedt een redelijk interessante en uitgebreide uitleg over het onderwerp hier.

^† Mijn conversie van de inline citaten van de auteurs naar hyperlinks.

Origineel gepubliceerd op woensdag 1 oktober 2025. Gewijzigd op donderdag 2 oktober om een fout in de TL;DR te corrigeren en een stylistische fout in de eerste alinea te corrigeren.