Taalmodellen een ‘Waarheidsknop’ Geven

Waar of babbel: kies een. Een nieuwe trainingsmethode laat gebruikers AI-chatbots exact vertellen hoe ‘feitelijk’ ze moeten zijn, waardoor nauwkeurigheid een knop wordt die je omhoog of omlaag kunt draaien.

Een nieuwe onderzoeks samenwerking tussen de VS en China biedt iets dat bijna alle gebruikers van AI-chatbots zouden waarderen: een virtuele ‘knop’ die de bot vertelt of hij ‘uitgebreid’ of ‘waarheidsgetrouw’ moet zijn

Het systeem werd gecreëerd door fine-tuning van een Mistral-7B model op synthetische data, zodat het schema voor een ‘waarheids’-schaal op het model kon worden geïmporteerd. Na deze revisie kan het Mistral-model het aantal feiten in een antwoord controleren; hoe hoger de ‘waarheids’-waarde die door de gebruiker wordt gegeven, hoe minder – maar zekerder – zal het kortere antwoord zijn.

Bij lagere instellingen wordt het antwoord van de chatbot wat de auteurs van het artikel ‘informatief’ noemen, d.w.z. het zal een langer antwoord geven en meer feiten bevatten; maar sommige van de feiten kunnen gehallucineerd zijn.

De synthetische data waarop het systeem was getraind, gebruikte Wikipedia als referentie voor een testdomein: echte biografische feiten over mensen. Of men nu denkt dat Wikipedia een autoriteit moet zijn of niet, de waarde van het werk ligt in het ontwerpen van elk type systeem dat LLM’s native compulsie om antwoorden te geven kan beperken, zelfs wanneer het geen antwoorden heeft om te geven.

Een voorbeeld uit het FactScore-project dat de curatie van de dataset voor het artikel dat we hier bespreken, heeft aangedreven, met Wikipedia als referentieautoriteit voor biografische details. Bron

De auteurs merken op dat high-assurance-contexten zoals medische en juridische domeinen conservatieve en betrouwbaar feitelijke uitvoer vereisen, terwijl veel andere soorten gebruikers een meer flexibele en creatieve, interpretatieve soort uitvoer nodig hebben (d.w.z. discursief schrijven en academische analyse, onder andere).

Zij observeren*:

‘[Huidige] LLM’s bieden geen ingebouwd mechanisme om deze afweging te controleren.

‘Terwijl gebruikers proberen de gedrag van het model te sturen met prompts zoals “wees meer feitelijk”, vinden we dat frontier-modellen hun uitvoer niet betrouwbaar aanpassen in reactie op dergelijke prompts voor deze taak.

‘Op FactScore, vinden we dat off-the-shelf-modellen vaak niet in staat zijn om zelfs maar matig tot strikte doelen te behalen. Deze kloof motiveert een controleerbare alternatief dat gebruikers in staat stelt om een specifiek feitelijkheidsniveau te vragen en het model aan te passen aan hun antwoorden dienovereenkomstig.’

Alleen de Feiten

Om het artikel te begrijpen en de oplossingen die het biedt, is het nodig om uw eigen definitie van ‘informativiteit’ te herzien. De auteurs stellen dat de kwantificering van een informatieve reactie gelijk is aan ‘de hoeveelheid ondersteunde inhoud in de uitvoer, gemeten als het aantal gevalideerde atomaire statements, genormaliseerd door uitvoerlengte’.

Anders waar in het artikel staat dat informativiteit ‘het totale aantal atomaire feiten in de uitvoer is, of ze nu correct zijn of niet’.

Verder merken de onderzoekers op dat LLM’s neiging om te schommelen tussen feitelijke nauwkeurigheid en subjectieve gissingen een zeer menselijke trek is, en een die door diverse wetenschappelijke studies* is gedocumenteerd:

‘[LLM’s kennis] is ongelijkmatig betrouwbaar: sommige statements zijn sterk ondersteund, terwijl anderen speculatief, verouderd of onzeker zijn. Generatie vereist dus het nemen van beslissingen over hoeveel te zeggen en hoe voorzichtig te zeggen, waardoor een spanning ontstaat tussen feitelijke precisie en informativiteit.

‘Mensen maken soortgelijke keuzes: beginnend met high-reliability-feiten en toevoegen lagere-zekerheids details alleen wanneer gevraagd.’

Hoewel experimenten alleen werden uitgevoerd op het mid-sized Mistral-model, zouden de toegepaste principes moeten werken op een verscheidenheid aan schalen en platforms, omdat het een novelle kwantificering van data betreft, als een toevoeging aan een LLM’s interne schema; en een amendement van deze soort is niet architectuur-specifiek.

Het nieuwe artikel heet Feitelijkheid op Bestelling: Controlling the Feitelijkheid-Informativiteit Trade-off in Tekstgeneratie, en komt van zeven onderzoekers uit Columbia University, New York University en NYU Shanghai.

Methode en Data

De nieuwe benadering die in het artikel wordt gepresenteerd, wordt Feitelijkheid-Gestuurde Generatie (FCG) genoemd, en introduceert een virtuele knop die gebruikers in staat stelt om aan te geven hoe nauwkeurig ze het antwoord van een chatbot willen hebben. ‘In wezen’, staat in het artikel, ‘FCG verbetert het model met een controleerbare “knop” voor feitelijkheid’.

Het model neemt zowel een gebruikersvraag als een gewenst feitelijkheidsniveau, en genereert vervolgens een antwoord dat alleen informatie bevat die het model voldoende betrouwbaar acht, terwijl het probeert zo gedetailleerd mogelijk te zijn binnen die betrouwbaarheidsbeperking.

Met behulp van het (hierboven gelinkte) FactScore-systeem wordt de gesegmenteerde uitvoer van voorbeeldvragen geëvalueerd op nauwkeurigheid, een kwaliteit die wordt gedefinieerd als feitelijkheidsgehechtheid:

Trainingsgegevenspijplijn voor FCG: een taalmodel genereert een initiële reactie, breekt deze op in atomaire feiten, rangschikt ze op basis van vertrouwen en verwijdert de minst betrouwbare totdat het gewenste waarheidsniveau is bereikt. Bron

Omdat geen bestaande dataset aan de eisen van FCG voldeed, creëerden de auteurs een synthetische dataset door het GPT-4^† taalmodel eerst een onbeperkt antwoord te laten genereren, en vervolgens de ‘laagste-vertrouwensfeiten’ te verwijderen, totdat het antwoord aan een bepaald nauwkeurigheidsniveau voldeed.

Eerder onderzoek suggereerde dat trainen op alleen ground-truth data modellen minder feitelijk kon maken, door ze te ontmoedigen om enige extra details te bieden. Daarom werden de FCG-trainingsvoorbeelden minimaal bewerkt, waarbij het model zijn eigen formulering en ritme behield, terwijl alleen voldoende werd teruggeschroefd om het vereiste doelvertrouwen te bereiken.

Door deze bewerking toe te passen op een reeks doelvertrouwensniveaus, van 10% tot een strikte drempel van 100%, werd een synthetische dataset gecreëerd waarin elke vraag was gekoppeld aan meerdere gefilterde reacties.

In elke versie werden alleen die feiten behouden die door het model als voldoende betrouwbaar werden geacht om het gevraagde niveau van feitelijkheid te bereiken; deze voorbeelden werden vervolgens gebruikt als trainingsdata voor supervised fine-tuning.

De definitieve dataset bestond uit 3.302 (vraag, controle, reactie) triples voor training, en 396 voor validatie, opgebouwd uit 500 entiteiten die waren opgesplitst in 450 voor training en 50 voor ontwikkeling. Een extra 183 distincte entiteiten werden gebruikt voor testing.

Training en Tests

De auteurs hebben het Mistral-7B-Instruct-v0.2 LLM model gefine-tuned op verschillende leerlingen (3e-6, 1e-5, 3e-5) om de optimale (onvermelde) LR te bereiken, voor 30 epochs, bij een batchgrootte van 256 (n.b. de trainingshardware is niet gespecificeerd).

FCG werd getest tegen twee baselines. De eerste was Geen Feitelijkheidscontrole (NFC), waarbij het model simpelweg werd geprompt met een verzoek zoals Vertel me een bio van X, zonder enige vermelding van nauwkeurigheid of vertrouwen. Deze versie weerspiegelt het standaardgedrag van een LLM, zonder enig mechanisme voor filtering of beperking.

De tweede methode, genaamd Feitelijkheids-Gestuurde Inferentie (FCI), gebruikte dezelfde vertrouwensniveauprompts zonder enige fine-tuning. Bijvoorbeeld, het model kon worden geprompt met ‘Geef informatie die je 90% zeker bent’. In dit geval leek de instructie op die gebruikt in de training, maar het model had geen voorafgaande blootstelling aan dergelijke beperkingen:

Vergelijking van de drie geteste benaderingen: de baseline zonder controle; een versie met feitelijkheidsprompts zonder training; en het volledig getrainde model dat heeft geleerd om nauwkeurigheidsinstellingen te volgen door blootstelling aan gefilterde data.

Aanvankelijk werd een test gedaan voor feitelijkheidsgehechtheid:

Prestaties bij drie doelvertrouwensniveaus. Alleen het volledig getrainde model kon enkele volledig feitelijke uitvoer produceren, en het overtrof beide baselines over de hele linie, vooral bij hogere drempels.

Toen getest tegen feitelijkheidsdrempels van 80%, 90% en 100%, was alleen het gefine-tune model in staat om consistent de doelen te bereiken. Verwacht werd dat het simpelweg toevoegen van vertrouwensinstructies, zonder het model te trainen om ze te volgen, niet zou helpen. In sommige gevallen maakte het dingen zelfs erger; bijvoorbeeld, slechts 3,8% van de uitvoer van het geprompte model bereikte de 90%-drempel, vergeleken met 5,5% van de versie zonder instructie:

Dit suggereert, zoals de auteurs beweren, dat het basis-Mistral-7B-model niet in staat was om prompts zoals ‘wees 90% zeker’ op een nuttige manier te interpreteren, en dat de extra instructie zelfs de gebruikelijke uitvoer van het model kan hebben verstoord.

In tegenstelling tot het getrainde model, dat betrouwbaar reageerde op controle signalen, produceerde 18,7% compliant uitvoer bij 80%, 12,6% bij 90% en 23,6% bij 100%; en het bleek de enige methode die in staat was om volledig feitelijke antwoorden te genereren:

‘Deze verbeteringen geven aan dat de mogelijkheid om feitelijkheid te controleren inderdaad kan worden ingevoerd via supervised training. Het FCG-model heeft geleerd om zijn inhoud aan te passen en alleen feiten te includeren die het voldoende vertrouwt, terwijl het off-the-shelf-model niet effectief de controle signaal kon gebruiken op zijn eigen.’

In een aparte test, ontworpen om te bevestigen dat het model had geleerd om het controle signaal te interpreteren, controleerden de onderzoekers of de gemiddelde feitelijkheid van de reacties steeg naarmate hogere waarheidsinstellingen werden aangevraagd.

Geen dergelijk patroon werd voorafgaand aan de training waargenomen, maar erna bleek uit de resultaten een gestage opwaartse trend, waarbij hogere aangevraagde vertrouwen overeenkwam met meer accurate reacties:

Naarmate het doelwaarheidsniveau steeg, produceerde het gefine-tune model steeds feitelijker uitvoer in reactie, met de baseline-modellen die geen consistente verandering lieten zien over hetzelfde bereik.

Het compromis tussen waarheidsgetrouwheid en ‘rijkdom’ werd ook onderzocht. Uitvoer werden gescoord niet alleen voor nauwkeurigheid, maar ook voor hoeveel gevalideerde informatie overbleef onder steeds strengere feitelijkheidsvereisten. Zoals te zien is in de grafiek hieronder, werd het FCG-model gevonden om zowel de inference-only-baseline als het onbeperkte model te overtreffen op de meeste niveaus:

Een grafiek die de feitelijkheid-informativiteit trade-off weergeeft over drie methoden. Het gefine-tune model werd gevonden om een betere balans tussen waarheid en detail te bieden dan beide baselines. Op vergelijkbare nauwkeurigheidsniveaus werd meer feitelijke inhoud behouden, en op het hoogste niveau bleef het de enige methode die in staat was om volledig geverifieerde reacties te produceren die niet leeg waren.

Bij een doelnauwkeurigheid van ongeveer 90% werden meer feiten behouden door FCG dan door enige andere methode, en over het hele bereik van vertrouwensniveaus produceerde geen enkele baseline consistent betere resultaten.

Het verschil was het meest opvallend bij de strengste instelling, waar FCG bleef produceren van niet-nul informativiteit, terwijl de baseline met prompts alleen werd gedwongen om alles te verwijderen. In die gevallen zou zelfs één enkele lage-vertrouwensuitspraak de hele reactie laten verwijderen.

In tegenstelling tot het getrainde model, dat in staat was om zijn uitvoer te herschikken om alleen feiten te behouden die het volledig betrouwbaar achtte, en zo te vermijden dat het in stilte zou vervallen.

Feitelijkheid werd rechtstreeks beperkt door de controle-instelling, terwijl informativiteit werd geoptimaliseerd door het model toe te staan om zoveel mogelijk betrouwbare inhoud te includeren. Bij hogere instellingen werden alleen vertrouwde uitspraken behouden; bij lagere instellingen werden meer speculatieve details toegestaan, waardoor de lengte toenam maar de nauwkeurigheid afnam.

De auteurs concluderen:

‘[Wanneer] een hoge feitelijkheidsbeperking van kracht is, prioriteert het model feitelijk verifieerbare uitspraken, terwijl het nog steeds zoveel mogelijk relevante informatie includeren. Omgekeerd heeft het model de vrijheid om een bredere reeks details te includeren, waaronder enkele die minder verifieerbaar of speculatiever zijn, waardoor de informativiteit (meer feiten vermeld) toeneemt ten koste van enige nauwkeurigheid.

‘Dit gedrag komt overeen met onze ontwerp van de trainingsdata: omdat we altijd alleen de minimaal noodzakelijke feiten verwijderden, leerde het model “als je x% feitelijk moet zijn, verwijder de minst-zekere details maar behoud alles anders.” ‘

Het artikel eindigt met de hoop dat de nieuwe methodologie zal worden uitgeprobeerd met grotere modellen en toegepast op complexere taken, onder andere mogelijke toekomstige uitbreidingen van het werk.

Conclusie

De oplossing die hier wordt aangeboden, lost een van de meest ernstige en vaak genoemde problemen van zelfs de nieuwste generatie Large Language Models op – hun neiging om loquaciteit te bevorrederen boven nauwkeurigheid, ogenschijnlijk alleen maar om ‘het gesprek gaande te houden’, en om verouderde of volledig gehallucineerde informatie met vertrouwen als feitelijk aan te bieden.

Voor ChatGPT-gebruikers zal elk vertrouwd antwoord dat niet wordt voorafgegaan door het korte verschijnen van een ‘web zoeken’-widget, ofwel afkomstig zijn van de grenzen van het model zijn kennislimietdatum, of net zo goed hallucinatie als feit kunnen zijn.

Webzoekopdrachten verhogen echter de latentie en de operationele kosten van de LLM-host, en, zoals elke gebruiker weet, worden ze selectief uitgevoerd; of op aanvraag van de gebruiker; of als een ‘speciale instelling’ die extra tokenkosten kan veroorzaken.

Nonetheless, dit soort interne economie kan een kritische invloed hebben op LLM-vragen in bepaalde domeinen, of voor bepaalde soorten vragen. Elke methode die een schema met betrekking tot de nauwkeurigheid van de uitvoer kan opleggen, is welkome onderzoek.

* Mijn conversie van de inline-citaten van de auteurs naar hyperlinks.

^† Volledig versienummer niet vermeld.

voor het eerst gepubliceerd op vrijdag 6 februari 2026. Gewijzigd in de daaropvolgende vijf minuten vanwege een woordherhaling