Waarom Kunnen AI-Modellen Niet Eenvoudigweg Toegeven Dat Ze Het Antwoord Niet Weten?

Grote taalmodellen geven vaak zelfverzekerde antwoorden, zelfs als de vraag niet kan worden beantwoord. Nieuw onderzoek toont aan dat deze modellen vaak intern het probleem herkennen, maar toch doorgaan met het geven van een antwoord, waardoor een verborgen kloof tussen wat ze weten en wat ze zeggen wordt blootgelegd.

Iedereen die een redelijke tijd heeft doorgebracht met een toonaangevend groot taalmodel, zoals ChatGPT of Qwen, heeft wel eens meegemaakt dat het model een verkeerd antwoord gaf (wat al dan niet catastrofale gevolgen had, afhankelijk van hoezeer je erop vertrouwde) – en toen het fout werd, het model slechts excuses aanbood.

Waarom toonaangevende taalmodellen zo veel moeite hebben om toe te geven dat ze geen antwoord op een vraag hebben, is een kleine maar groeiende onderzoeksgebied. Een ‘zelfverzekerd verkeerd’ antwoord kan bijzonder schadelijk zijn vanuit een sterk gecensureerd en gefilterd API-gebaseerd interface zoals ChatGPT, omdat dergelijke modellen agressief NSFW- of andere ‘regel-overtredende’ invoer of uitvoer blokkeren.

Dit kan de gebruiker de verkeerde indruk geven dat het model beslissend en kaart is, terwijl in werkelijkheid de weigering afkomstig was van een traditionele heuristiek of blocklist-gebaseerde filter ontworpen om de juridische blootstelling van het hostbedrijf op alle kosten te beperken, en niet van enige inzichten van de AI.

Uit het paper ‘AbstentionBench’ van juni 2025 van FAIR bij Meta – links wordt het bereik van fouttypen getoond die in AbstentionBench worden vastgelegd, die het modelgedrag test op meer dan 35.000 onbeantwoorde vragen; in het midden wordt een voorbeeld getoond van hoe modellen vaak gefabriceerde antwoorden geven in plaats van toe te geven dat ze niet genoeg informatie hebben; en rechts daalt de abstentie-recall wanneer modellen worden afgestemd op redeneren in plaats van instructie-volgen. Bron: https://arxiv.org/pdf/2506.09038

Een nieuw paper uit China stelt dat taalmodellen eigenlijk intern erkennen dat ze een vraag van de gebruiker niet kunnen beantwoorden, maar dat ze toch verplicht zijn om een antwoord te geven, meestal in plaats van genoeg vertrouwen te hebben om te besluiten dat een geldig antwoord niet beschikbaar is vanwege een gebrek aan informatie van de gebruiker, of de beperkingen van het model, of om andere redenen.

Het paper stelt:

‘[We] laten zien dat [taalmodellen] voldoende cognitieve capaciteiten bezitten om de fouten in deze vragen te herkennen. Echter, ze vertonen geen adequate abstentie-gedrag, wat een misalignement tussen hun interne cognitie en externe respons blootlegt.’

De onderzoekers hebben een lichtgewicht tweestapsbenadering ontwikkeld die cognitieve monitoring/probing gebruikt om de interne processen van het taalmodel te scannen op indicaties dat het beseft dat het geen antwoord kan geven; en vervolgens ingrijpt, om ervoor te zorgen dat de ‘helpende’ aard van het model de problemen van de gebruiker niet verergert door hem een dwaalspoor of zelfs een destructief pad te laten volgen.

Het onderzoek gebruikt opzettelijk onduidelijk gestelde wiskundige vragen om te testen of modellen kunnen herkennen wanneer een antwoord onmogelijk is; maar deze instelling riskeert het taken te framen als een ‘truc’. In werkelijkheid hebben modellen te maken met veel meer routine-redenen om te abstineren in conversaties, van dubbelzinnige formuleringen tot kennislacunes.

Het nieuwe onderzoek heeft als titel Antwoorden op onbeantwoorde vragen is willens en wetens fouten maken: Analyseren en mitigeren van abstentie-falen in grote redeneringsmodellen, en komt van vier onderzoekers uit het State Key Laboratory for Novel Software Technology en het National Institute of Healthcare Data Science aan de Nanjing University.

Methode

(Aangezien er geen geschikte rivalen zijn om de benadering van de auteurs te testen, en aangezien het paper daarom een iets onconventioneel formaat volgt, evenals het feit dat het niet naar de gebruikelijke standaard indexeert, zullen we proberen het zo goed mogelijk te volgen.)

In overeenstemming met eerder onderzoek richtten de auteurs zich op het presenteren van taalmodellen met onbeantwoorde wiskundige vragen uit de Synthetic Unanswerable Math (SUM) dataset, waarbij vijf model-families werden geëvalueerd:  Van de DeepSeek-reeks, R1-Distill-Llama-8B; R1-Distill-Qwen-7B, R1-Distill-Qwen-14B; en, van de Qwen-serie, Qwen3-8B, evenals Qwen3-14B.

De onbeantwoorde problemen in SUM werden gecreëerd door essentiële elementen te verwijderen of te corrumperen op vijf manieren: het verwijderen van sleutelinformatie; het introduceren van dubbelzinnigheid; het opleggen van onrealistische voorwaarden; het verwijzen naar niet-gerelateerde objecten; of het verwijderen van de vraag helemaal.

Vervolgens werd een steekproef van 1.000 dergelijke gevallen geselecteerd voor analyse, met GPT-4o gebruikt om conciese verklaringen te genereren om als grond-truth-rationales te dienen.

Model-responsen op onbeantwoorde vragen werden geëvalueerd met behulp van gestandaardiseerde prompts met een 10.000-token-budget, waarbij drie hoofdgedragspatronen werden waargenomen: in de eerste, identificeerde het model de vraag als onoplosbaar en onthield zich – meestal reagerend met een expliciete uitdrukking van onzekerheid; in de tweede, produceerde het een compleet antwoord door ontbrekende informatie te verzinnen, zoals het introduceren van een niet-bestaande $9,99 afhandelingskosten om een eindresultaat te rechtvaardigen (zie onderstaande afbeelding); In de derde, aangeduid als cognitieve fixatie, raakte het model vast in een verlengde redeneringslus, volhardend met ongeldige oplossingspaden, zelfs nadat het impliciet had erkend dat de vraag geen geldig antwoord had:

Variabele responsresultaten voor een onmogelijke vraag.

Het paper presenteert een trend waarin grotere modellen vaker onthouden zich van het beantwoorden van onbeantwoorde vragen, met een daling in zowel gehallucineerde antwoorden als fixatie-gedrag:

Model-responsen voor onbeantwoorde wiskundige problemen, waarin de relatieve frequentie van correcte onthouding, gehallucineerde antwoorden en cognitieve fixatie over verschillende modelgroottes wordt getoond.

Echter, deze verschuiving is beperkt in omvang en laat een aanzienlijk deel van de gevallen onopgelost door correcte onthouding, wat suggereert dat een toename van de capaciteit alleen niet noodzakelijkerwijs voorzichtiger gedrag oplevert.

Bewustzijn van Patstelling

Om te testen of taalmodellen kunnen herkennen wanneer een vraag eigenlijk geen antwoord heeft, onderbraken de onderzoekers het redeneringsdeel van het model halverwege en vroegen of een eindantwoord, of een verklaring van waarom de vraag onbeantwoordbaar was.

Voor gevallen waarin het model eindeloos doorreed, stopten ze het bij het woord ‘wacht’, en vroegen om een respons; voor gevallen waarin het model snel een antwoord fabriceerde, voegden ze een pauze toe bij een alinea-grens.

Het linkerdiagram toont hoe vaak modellen correcte onthouding geven wanneer ze halverwege de redenering worden onderbroken, met hogere tarieven voor fixatiegevallen dan voor gehallucineerde antwoorden. Het rechterdiagram toont dat de meeste modellen kunnen verklaren waarom een vraag onbeantwoordbaar is wanneer ze worden geprompt, zelfs als hun eindantwoorden die kennis niet weerspiegelen.

In veel van deze gevallen gaf het model een correcte onthouding of een duidelijke verklaring, zelfs als het eerder een verkeerd antwoord had gegeven. De auteurs suggereren dat dit aangeeft dat het model vaak het probleem erkent tijdens zijn redenering, maar er niet naar handelt in zijn einduitvoer.

Hersenen Lezen van een Taalmodel

Om te testen of taalmodellen intern bijhouden of een vraag beantwoordbaar is, trainden de onderzoekers kleine classificatoren op de verborgen activaties van de modellen tijdens de redenering, waardoor ze konden controleren of het onderscheid tussen beantwoorde en onbeantwoorde vragen al aanwezig was in de interne signalen van het model – zelfs als het niet in de einduitvoer werd weerspiegeld.

Op basis van de idee dat hoogwaardige concepten zoals waarheid of geslacht lineair ingebed kunnen worden in model-activaties, werd ‘beantwoordbaarheid’* getest op soortgelijke representatie.

Eenvoudige lineaire classificatoren (sondes) werden getraind op verborgen activaties over verschillende model-lagen, met behulp van uitvoer van de multi-head-attention-mechanisme net voor de rest-verbinding.

Elke sonde werd getraind om beantwoorde en onbeantwoorde vragen te onderscheiden op basis van interne activaties uit het redeneringsproces. De invoer bestond uit 2.200 vraagparen die uit de SUM-dataset waren bemonsterd, met 2.000 gebruikt voor training en 200 voor validatie.

Tijdens de inferentie werd de voorspelling van het model gemiddeld over de tokens die tot dat moment in de redeneringssequentie waren gezien, waardoor de sonde kon bijhouden hoe signalen gerelateerd aan beantwoordbaarheid in de loop van de tijd ontstonden:

Classificatie-accuraatheid van lineaire sondes getraind om beantwoorde van onbeantwoorde vragen te onderscheiden, gemeten op verschillende punten in het redeneringsproces. De accuraatheid neemt over het algemeen toe naarmate de redenering vordert, met grotere modellen die meer dan 85% bereiken in de laatste stadia.

Zoals hierboven wordt getoond, neemt de accuraatheid van de sonde gestaag toe naarmate de redenering vordert, met de meeste modellen die meer dan 80% classificatie-accuraatheid bereiken tegen het einde – een bewijs dat, zelfs wanneer het uiterlijke gedrag van het model dit niet weerspiegelt, interne representaties vaak een duidelijk signaal bevatten dat aangeeft of een vraag kan worden beantwoord.

Volhardende Aandrang

Hoewel eerdere resultaten suggereren dat grote taalmodellen vaak herkennen wanneer een vraag niet kan worden beantwoord, merkt het paper op dat ze nog steeds de neiging hebben om door te gaan met het geven van een antwoord in plaats van te onthouden.

Om deze misalignering te onderzoeken, analyseerden de onderzoekers de vertrouwensniveaus van de modellen in het onthouden op specifieke punten tijdens het redeneringsproces, waarbij model-vertrouwen over drie categorieën van uitvoer werd vergeleken: correcte onthouding; gefabriceerd antwoord; en cognitieve fixatie.

Gelijke steekproeven werden gebruikt voor elke categorie, met vertrouwen gedefinieerd als het gemiddelde maximumwaarschijnlijkheid toegewezen aan elk uitvoertoken over decodingsstappen, op basis van een formule uit eerder onderzoek. Zoals in de onderstaande grafiek wordt getoond, toonden zowel gehallucineerde antwoorden als cognitieve fixatie-gedrag lagere onthoudingsvertrouwen vergeleken met correcte onthouding:

Vertrouwensniveaus geassocieerd met het produceren van de onthoudingsrespons ‘Ik weet het niet’ over verschillende respons typen.

De onderzoekers maten ook hoe vaak de modellen een ‘Ik weet het niet’-respons produceerden tijdens het redeneringsproces. De onderstaande grafiek toont aan dat correcte onthoudingsgevallen hogere onthoudingsfrequenties opleverden, terwijl de andere twee categorieën dergelijke responsen minder vaak produceerden:

De frequentie van ‘Ik weet het niet’-responsen waargenomen op stoppunten tijdens de redenering, getoond voor verschillende responsuitkomsttypen.

Deze bevindingen suggereren, volgens de auteurs, dat, hoewel modellen intern onbeantwoordbaarheid kunnen detecteren, ze vaak het vertrouwen missen om naar die kennis te handelen, wat een aanhoudende voorkeur voor het voltooien van de taak aangeeft in plaats van onzekerheid toe te geven.

Tests

Op basis van deze bevindingen ontwikkelden de onderzoekers een tweeledige methode om onthouding te verbeteren. De eerste fase, cognitieve monitoring, volgt de verborgen toestanden van het model tijdens de inferentie, waarbij het redeneringsproces wordt opgedeeld in natuurlijke eenheden zoals clausules of pauzes, gemarkeerd door woorden zoals ‘wacht’.

Aan het einde van elke segment, schat een lichtgewicht, lineaire sonde getraind op interne signalen gerelateerd aan beantwoordbaarheid, de waarschijnlijkheid dat de vraag niet kan worden beantwoord. Als deze waarschijnlijkheid een ingestelde drempel overschrijdt, gaat het proces over naar de tweede fase: een interventie tijdens de inferentie die het model in de richting van onthouding stuurt, in plaats van een gefabriceerd antwoord te produceren.

Wanneer het model interne signalen vertoont dat een vraag niet kan worden beantwoord, wordt de redenering onderbroken met een interventie die deze bewustzijn versterkt en de waarschijnlijkheid van onthouding verhoogt. Zoals hieronder wordt getoond, vertegenwoordigt de interventie een ‘leidende prompt’ die het model eraan herinnert dat de vraag mogelijk geen geldig antwoord heeft:

Een prompt om interventie tijdens de inferentie te conditioneren.

De methode omvat ook een vroegtijdige exit-mechanisme dat voorkomt dat de redeneringssequentie onnodig doorgaat, waardoor het model onthouding als een legitieme en soms voorkeurswaardige keuze ziet.

Voor een testfase gebruikten de onderzoekers twee datasets: Unanswerable Math Word Problem (UMWP), en de eerdergenoemde SUM.

De testset van SUM werd voor dit doel gebruikt, met 284 onbeantwoorde en 284 beantwoorde handmatig gecontroleerde vragen. UMWP werd opgebouwd uit vier wiskundige woordprobleembronnen: SVAMP; MultiArith; Grade School Math (GSM8K); en ASDiv.

De volledige dataset bestond uit 5.200 problemen, met 600 bemonsterd voor testing, verdeeld over onbeantwoorde en beantwoorde vragen. Voor de onbeantwoorde items in UMWP genereerde GPT-4o de grond-truth-verklaringen van waarom ze niet konden worden opgelost.

Metrieken

Model-prestaties werden gemeten met behulp van vier metrieken: onthoudingspercentage,  het aandeel onbeantwoorde vragen waarin het model correct onthoudt door ‘Ik weet het niet’ te antwoorden, zoals geïnstrueerd; reden-accuraatheid, het percentage onbeantwoorde vragen waarin het model een geldige verklaring geeft van waarom de vraag niet kan worden opgelost; token-gebruik, het aantal tokens gegenereerd tijdens de redenering; en antwoord-accuraatheid, het aandeel beantwoorde vragen waarin het model de correcte eindoplossing produceert.

Testbaselines

Omdat er geen standaardbaselines bestaan voor dit probleem, vergeleken de onderzoekers hun methode met twee alternatieven, Dynasor-CoT en Dynamic Early Exit in Reasoning Models (DEER), onder de veronderstelling dat correcte onthouding moet worden behandeld als het juiste antwoord wanneer een vraag geen oplossing heeft.

Dynasor-CoT vraagt modellen om tussenliggende antwoorden te produceren en stopt wanneer hetzelfde resultaat drie keer achter elkaar verschijnt, terwijl DEER vertrouwen op zin-niveau monitort en de redenering stopt wanneer een drempel wordt bereikt.

Een derde baseline, genaamd Vanilla, verwijst naar ongewijzigde model-uitvoer. De tests maakten gebruik van de vijf eerdergenoemde Qwen- en DeepSeek-varianten.

De geaggregeerde resultaten worden hieronder weergegeven:

Vergelijking van verschillende methoden op beantwoorde en onbeantwoorde vragen over grote redeneringsmodellen, met de hoogste waarden in elke kolom in vet weergegeven. Zie het bronpaper voor een betere resolutie.

De nieuwe benadering produceerde de hoogste tarieven van onthouding en accurate redenering op onbeantwoorde vragen. Voor beantwoorde vragen bleef de accuraatheid dicht bij die van de vanilla-modellen en verbeterde soms, wat suggereert dat normale probleemoplossing niet werd geschaad.

Token-gebruik daalde met 30% tot 50% op onbeantwoorde gevallen en nam iets af op beantwoorde gevallen, wat wijst op een grotere efficiëntie.

Er werd een verband gevonden tussen onthoudingspercentage en reden-accuraatheid, aangezien modellen die vaker onthielden ook betere verklaringen gaven, wat de auteurs interpreteren als een verbetering van de redeneringskwaliteit.

Qwen3-modellen presteerden over het algemeen beter dan de distillatie-gebaseerde (gequantiseerde) versies, terwijl grotere modellen een sterkere onthoudingscapaciteit vertoonden, wat aangeeft dat zowel architectuur als schaal belangrijk zijn voor betrouwbare detectie van onbeantwoordbaarheid.

Tenslotte melden de auteurs dat hun nieuwe methode hallucinaties en fixatie vermindert en het tarief van correcte onthouding verhoogt, terwijl basismethoden die alleen afhankelijk zijn van ‘vroege exits’ soms leiden tot meer gehallucineerde antwoorden.

Ze melden ook winst in zowel het vertrouwen als de frequentie van “Ik weet het niet”-responsen, waarbij monitoring op basis van latent signalen effectiever blijkt te zijn dan strategieën die afhankelijk zijn van gedragsaanwijzingen.

Conclusie

De onvermogen van taalmodellen om zich te onthouden van het beantwoorden van een vraag wanneer nodig, is een van de grootste wrijvingspunten in de generatieve AI-gebruikerservaring, niet in de laatste plaats omdat andere eigenaardigheden van het interface de gebruiker de illusie geven dat de AI in staat is tot omzichtige antwoorden, terwijl dit op dit moment meestal niet het geval is.

Een zorg over elke directe vorm van interventie die niet rechtstreeks voortkomt uit het ‘karakter’ van het model, is dat het te veel of te weinig gebruikt kan worden, afhankelijk van of de gedetecteerde activaties daadwerkelijk relevant zijn voor het model dat zijn nederlaag erkent.

Verder is de logistieke kosten van lineaire sonde-monitoring niet waarschijnlijk gering, en het is mogelijk dat eenvoudigere heuristische methoden, soortgelijk aan die welke gehanteerd worden om verboden inhoud van gebruikers te weren, een goedkopere oplossing kunnen zijn, als de anker-activeringstriggers ooit adequaat kunnen worden gedefinieerd.

* Natuurlijk komt dit niet overeen met de schijnbare synoniem ‘verantwoordelijkheid’, maar definieert het of een bepaalde vraag überhaupt kan worden beantwoord.

Publicatie op woensdag 27 augustus 2025