Waarom AI-gegenereerde tekst moeilijker te begrijpen is dan je denkt

AI-modellen zijn mogelijk moeilijker te begrijpen geworden, omdat ze tijdens hun training steeds meer worden beloond voor het efficiënt oplossen van problemen in plaats van voor het helder uitleggen van zaken aan mensen.

De bovenstaande, onbewerkte zin is door ChatGPT geschreven als antwoord op een verzoek om een wetenschappelijk artikel in één zin samen te vatten op ELI5-niveau; hij vertoont minstens enkele van de taalkundig ontsierende kenmerken die worden toegelicht in dat nieuwe onderzoek*. Het nieuwe onderzoek concludeert dat dit probleem speelt bij alle geavanceerde modellen, bij modellen die daar bijna aan tippen en bij enkele modellen met open gewichten die ook zijn getest.

Het eerste deel van het fragment ‘hun training steeds meer beloont voor het efficiënt oplossen van problemen’ illustreert het standpunt van het artikel dat AI-modellen soms menselijke handelingen toeschrijven aan levenloze dingen (omdat ‘training’ in het bovenstaande voorbeeld wordt omschreven als iets dat actief iets beloont).

Dit kan het snelle begrip van de formulering belemmeren, omdat we mentaal moeten erkennen dat de toeschrijving een beeldende manier van formuleren is, in plaats van die letterlijk te nemen (wat veel eenvoudiger is).

Het tweede deel ‘steeds meer beloont voor het efficiënt oplossen van problemen’ propt ook verschillende ideeën op elkaar, waardoor lezers moeten uitzoeken wat er wordt beloond, wat er wordt opgelost en wat er efficiënter wordt.

Het artikel stelt^†:

‘[Readers] gebruik levendheid als aanwijzing bij het verwerken, en zonder aanvullende context kan een mismatch een P600-respons oproepen^†† die samenhangt met heranalyse.

‘Deze zinnen anders formuleren om levenloze onderwerpen te vermijden, zou de zinnen mogelijk langer maken: het woord “bijt” staat bijvoorbeeld voor “veroorzaakt een probleem”.

‘We vermoeden dat modellen tijdens hun training zulke constructies zijn gaan gebruiken als efficiënte, zij het niet-standaard, manieren om betekenis uit te drukken waarvoor anders meer tokens nodig zouden zijn.’

Wat zeg je?

Dit is de kern van het artikel: omdat moderne AI-modellen zoals ChatGPT, Claude en Gemini zijn geoptimaliseerd voor verschillende soorten probleemoplossing en niet specifiek voor communicatie, leveren ze taal vaak aan in sterk gecomprimeerde pakketten die moeten worden ontcijferd.

Dat verbaasde me, want ik probeer ChatGPT en vergelijkbare modellen voortdurend zover te krijgen dat ze minder breedsprakig en beknopter zijn — een probleem dat in de vakliteratuur wordt onderkend en aangepakt.

Het artikel beschrijft breedsprakigheid juist als een soort zipbom, die zelfs een niet al te lange zin moeilijk te begrijpen maakt. Als we de twee problemen combineren — de standaardmatige overmatige lengte van antwoorden en de observatie in het artikel over overmatige compressie — kunnen we ons voorstellen dat de kenmerkende stijl van standaardantwoorden van geavanceerde AI-modellen behoorlijk afwijkend is. Vermoedelijk wordt deze nogal beknopte stijl deels gebruikt als criterium in detectoren voor AI-gegenereerde tekst, al gaat het artikel hier niet op in.

De auteurs onderzoeken ook opeengestapelde nominale samenstellingen, zoals de problematische formulering Ploeg helpt hond bijten^†:

‘In het Engels kunnen zelfstandige naamwoorden gemakkelijk andere zelfstandige naamwoorden bijvoeglijk bepalen: in de woordgroep coffee shop, coffee bepaalt shop, hoewel coffee doorgaans als zelfstandig naamwoord wordt gebruikt. Dankzij dit kenmerk kunnen meerdere zelfstandige naamwoorden worden gecombineerd tot rijke samenstellingen met zeer specifieke betekenissen.

Zo’n opeenstapeling kan echter tot dubbelzinnigheid in de zinsstructuur leiden, zoals in de kop Ploeg helpt slachtoffer van hondenbeet, en het lezen bemoeilijken.’

Dus als LLM’s door compressie breedsprakig zijn, zijn ze dan dubbel zo breedsprakig doordat ze als antwoord op een vraag buitensporige hoeveelheden gecomprimeerde tekst produceren? Dat betekent dat er niet alleen veel tekst is om door te lezen als antwoord op je vraag, maar ook dat de tekst zelf veel ‘impliciete’ betekenis kan bevatten die moet worden ontcijferd.

Een artikel uit 2023 stelde dat LLM’s onnodig breedsprakig kunnen worden doordat tijdens de training AI-beoordelaars worden ingezet, die langere antwoorden vaak belonen — zelfs wanneer mensen in de tests van het onderzoek de voorkeur gaven aan kortere antwoorden.

De auteurs van het nieuwe werk schrijven (zie eerder citaat) een deel van de neiging van frontiermodellen tot beknoptheid toe aan een ingebouwde neiging om tokens te besparen, wat tegenwoordig een welwillende gedachte is.

Laten we eens kijken naar de methoden, gegevens en tests die de auteurs voor het onderzoek hebben gebruikt.

Gegevens en methoden

Ongebruikelijke woordcombinaties (gemeten aan de hand van n-grammen, oftewel woordreeksen) werden onderzocht op hun onvoorspelbaarheid; zeldzame combinaties werden in verband gebracht met grotere leesmoeilijkheden.

De lengte van afhankelijkheidsrelaties (de afstand tussen grammaticaal met elkaar verbonden woorden) werd ook gemeten, omdat grotere afstanden een groter beroep doen op het werkgeheugen – vooral wanneer een onderwerp en het bijbehorende werkwoord door meerdere tussenliggende woorden van elkaar worden gescheiden.

Objectrelatieve bijzinnen (constructies zoals ‘het huis dat de aannemers bouwden’) werden onderzocht, vooral wanneer optionele woorden werden weggelaten (zoals ‘dat’ in ‘het huis dat de aannemers bouwden’).

Ook de eerder genoemde opeengestapelde zelfstandige naamwoorden (drie of meer zelfstandige naamwoorden die samen een woordgroep vormen, zoals ‘generator voor soundtracks van horrorfilms’) werden onderzocht, omdat de onderlinge relaties tussen de woorden dubbelzinnig kunnen zijn.

Denominale werkwoorden (zelfstandige naamwoorden die als werkwoord worden gebruikt, zoals ‘vork het’ in plaats van ‘leg het op de vork’) werden onderzocht, evenals levenloze onderwerpen in combinatie met werkwoorden die normaal gesproken met levende wezens worden geassocieerd (zoals eerder besproken). Met beide constructies kan betekenis in minder woorden worden uitgedrukt, maar lezers moeten mogelijk extra interpretatiewerk verrichten.

De kanshebbers

De onderzoekers verzamelden door AI gegenereerde gesprekken van 14 modellen: Kimi K2.5; GLM 5; Claude Sonnet 5, Opus 5, Opus 5.5 en Fable 5; GPT-5.6 Luna, Terra en Sol; Olmo Base, Instruct en Think; en Llama Base and Instruct.

De tests bestonden uit tien startprompts voor algemene gesprekken en vijf voor programmeertaken. Bij elke taak moest een model een bestaande openbare GitHub-repository klonen, bugs opsporen en deze in een sandbox verhelpen.

De gesprekken waren beperkt tot 12 uitwisselingen en de programmeersessies tot 11, waarna een vaste afsluitende boodschap volgde. In een afzonderlijke test kreeg elk model de opdracht zeven essays te schrijven op basis van opdrachten uit de PERSUADE 2.0-dataset.

Ter vergelijking werden teksten van menselijke auteurs gebruikt uit bronnen die zo goed mogelijk aansloten bij de drie soorten AI-uitvoer: OpenSubtitles (een verzameling film- en televisies ondertitels, die geen verband houdt met het open-source-ondertitelplatform) werd gebruikt voor algemene gesprekken; StackExchange (het online netwerk van vraag-en-antwoordforums) voor programmeerdiscussies; en essays van studenten uit de eerder genoemde PERSUADE 2.0-dataset voor de schrijftaken. Ook Wikipedia werd als aanvullende vergelijkingsbron gebruikt.

Waar geschikte gegevens van menselijke auteurs beschikbaar waren, werden dezelfde taalkenmerken gemeten in teksten van mensen en door AI gegenereerde teksten. Deze referentiecollecties werden ook gebruikt om de frequentie van woordcombinaties te beoordelen.

Er werd gebruikgemaakt van een heen-en-terugvertaling (van het Engels naar het Japans en terug, met het model NLLB-200) om stilistische voorkeuren te onderscheiden van taalkundige noodzaak. De betekenis bleef grotendeels behouden, terwijl de zinsbouw veranderde; zo kon onnodig ingewikkelde formulering worden opgespoord.

Resultaten

Experiment 1

Zoals hieronder te zien is, kwamen verschillende lastige constructies vaker voor in de oorspronkelijke, door AI gegenereerde tekst, vooral bij geavanceerde modellen. Dit werd opgevat als bewijs voor een voorkeur voor onnodig ingewikkelde formuleringen:

Vergelijking van de oorspronkelijke, door AI gegenereerde tekst met versies die naar het Japans en vervolgens terug naar het Engels zijn vertaald. Groene stippen geven taalpatronen aan die vaker in de oorspronkelijke teksten voorkwamen; roze stippen tonen patronen die na de vertaling vaker voorkwamen. De verschillen waren over het algemeen groter bij GPT- en Claude-modellen. Bron

De zes taalkenmerken werden vergeleken voor 14 AI-modellen in drie situaties (chatten, programmeren en essays schrijven). Twaalf modellen werden getest in chats, negen bij programmeertaken en alle 14 bij het schrijven van essays:

Vergelijking van zes taalkenmerken bij AI-modellen voor chatten, programmeren en essays schrijven. Elke ruit geeft het samengevoegde resultaat van een model weer; de horizontale balken tonen de 95%-betrouwbaarheidsintervallen. Gestreepte verticale lijnen geven de referentiewaarden voor door mensen geschreven teksten aan: OpenSubtitles (chatten), StackExchange (programmeren) en studentenessays uit PERSUADE 2.0 (essays schrijven). Gestippelde lijnen geven vergelijkingen met Wikipedia aan. Hogere waarden wijzen over het algemeen op frequenter gebruik van de gemeten constructie of op een grotere taalkundige complexiteit. Raadpleeg het brondocument voor een hogere resolutie.

De oorspronkelijke door AI gegenereerde tekst werd ook vergeleken met de terugvertaalde versies, zodat verschillen in zinsbouw konden worden gemeten:

Vergelijking van de oorspronkelijke door AI gegenereerde tekst (gevulde ruiten) met versies die met NLLB-200 naar het Japans en vervolgens terug naar het Engels zijn vertaald (open cirkels). Roze lijnen geven kenmerken aan die na vertaling vaker voorkwamen; groene lijnen geven kenmerken aan die vaker voorkwamen in de originelen. Sterretjes geven statistische significantie aan (één, twee of drie sterretjes staan voor steeds sterker statistisch bewijs). Het gebruik van de meeste constructies die samenhangen met leesmoeilijkheden nam door de vertaling af, vooral bij frontiermodellen. Raadpleeg het bronartikel voor een betere resolutie.

Frontier- en bijna-frontiermodellen bleken ongebruikelijke woordcombinaties, denominale werkwoorden, niet-levende onderwerpen en objectrelatieve bijzinnen waarin optionele woorden zijn weggelaten, overmatig te gebruiken (zie de grafiek hierboven). Deze neigingen waren over het algemeen minder sterk bij Llama en Olmo Base, maar kwamen duidelijker naar voren bij Olmo Think.

Bij het schrijven van essays werden kleinere verschillen waargenomen dan bij chatten of programmeren. Dit werd toegeschreven aan het feit dat essays op één prompt zijn gebaseerd, terwijl langere gesprekken met veel heen-en-weer mogelijk meer taalkundige compressie in de hand werken.

De auteurs merken op:

‘Bij de PERSUADE-essays zijn de veranderingen na een heen-en-terugvertaling voor verschillende categorieën kleiner (n-grammaten, afhankelijkheidslengtes, opeengestapelde zelfstandige naamwoorden en denominale werkwoorden) dan bij chatten en [coding].

‘We veronderstellen dat dit komt doordat ze op één prompt zijn gebaseerd, anders dan de vele opeenvolgende beurten bij chatten en programmeren. We vermoeden dat bepaalde patronen kunnen ontstaan in lange gesprekken met veel heen-en-weer (waarbij mogelijk meer informatie moet worden gecomprimeerd).’

Na vertaling veranderde er het minst bij Llama en Olmo Base en Instruct. Deze modellen kwamen ook het dichtst in de buurt van studentenessays wat betreft woordcombinaties en werkwoordgebruik. Olmo Think bleek zich daarentegen meer als de frontiermodellen te gedragen. Claude Opus 5.5 bleek in 19 van de 21 vergelijkingen minder moeilijke constructies te gebruiken dan Opus 5; in acht daarvan overlapten de 95%-betrouwbaarheidsintervallen niet.

Experiment 2

Het tweede experiment was bedoeld om te testen of een onderliggende druk om kortere en informatievere antwoorden te geven ertoe zou kunnen leiden dat modellen de voorkeur geven aan taalconstructies die voor mensen moeilijker te begrijpen zijn.

Hier werd Qwen2.5-1.5B-Instruct fijn afgestemd met Group Relative Policy Optimization (GRPO), waarbij het model de opdracht kreeg gestructureerde, in JSON opgemaakte beschrijvingen van gebeurtenissen om te zetten in Engelse zinnen.

De training werd op twee punten aangepast: hoeveel het model zijn gebruikelijke woordkeuze mocht veranderen (β) en hoe zwaar het werd bestraft voor het produceren van langere antwoorden (λ). Elke gebeurtenis kon op twee grammaticaal correcte manieren worden uitgedrukt, met een bekend verschil in het aantal tokens.

Zo vergde ‘Hij stuurde ons een foto’ zes tokens, tegenover zeven voor ‘Hij stuurde een foto naar ons’. Er werd ook een afzonderlijke test gebruikt waarin twee manieren om hetzelfde te zeggen evenveel tokens vergden, om na te gaan of de verschillen door de zinslengte werden veroorzaakt.

Het effect werd getest op zinnen die het model nog niet eerder had gezien, met vier constructies die tijdens de training aan bod waren gekomen; twee niet-getrainde constructies met het optionele woord ‘dat’; en niet-gerelateerde constructies met bezitsvormen, kwantoren, lijdende vormen en doelzinnen.

De tests waren bedoeld om vast te stellen of het model een voorkeur voor kortere formuleringen zou aanleren en die zou toepassen op constructies die het tijdens de training nooit was tegengekomen:

Het effect van het bestraffen van langere antwoorden tijdens de training. In A wordt een voorbeeld getoond van kortere en langere formuleringen. In B worden de voorkeuren voor kortere constructies gemeten; in C en D worden constructies getest die niet eerder waren getraind. Oranje staat voor training zonder beperking op veranderingen aan het oorspronkelijke model; blauw staat voor training met die beperking. De stippellijnen geven de voorkeuren van het oorspronkelijke model weer. Zwaardere straffen leidden over het algemeen tot een grotere voorkeur voor kortere formuleringen, zelfs bij constructies die niet in de training voorkwamen. Raadpleeg het oorspronkelijke artikel voor een hogere resolutie.

Naarmate de straf voor langere antwoorden zwaarder werd, werd vaker voor een kortere formulering gekozen (zoals hierboven direct te zien is). Zonder de KL-straf (een beperking op de mate waarin het model mocht afwijken van zijn oorspronkelijke voorspellingen van woorden) verliep de verschuiving snel; met die straf trad hetzelfde effect geleidelijker op. Zonder een van beide straffen liepen de voorkeuren tussen trainingsruns sterk uiteen, maar zelfs een kleine straf voor lengte leidde tot een consistente voorkeur voor kortere alternatieven.

Deze voorkeur was ook zichtbaar bij niet eerder geziene zinsconstructies met het optionele woord ‘that’. De overdracht naar meer uiteenlopende grammaticale constructies was veel zwakker: alleen bij bezitsvormen werd een effect gevonden wanneer de KL-straf ontbrak.

De auteurs concluderen:

‘We beschouwen deze resultaten als een proof of concept: ze laten zien dat een straf voor lengte tijdens reinforcement learning met GRPO rechtstreeks van invloed kan zijn op grammaticale kenmerken.

‘We merken op dat het model niet rechtstreeks de opdracht kreeg om compacte of dichte taal te gebruiken, en ook niet rechtstreeks informatie kreeg over de beschikbaarheid van syntactische alternatieven.

‘De straf leidde juist tot een vanzelf ontstane voorkeur voor de kortere varianten van syntactische alternatieven.’

Conclusie

Ik ben al enige tijd geïnteresseerd in de ankers — zowel onbedoelde als bewuste — die kenmerkend zijn voor door AI gegenereerde tekst. Deze nieuwe bevinding werpt dan ook licht op de schijnbare tegenstelling tussen de bekende breedsprakigheid van LLM’s en hun inmiddels even bekende neiging om informatie zo te comprimeren dat die ‘makkelijk leesbaar’ lijkt, simpelweg omdat er weinig woorden worden gebruikt — maar dat is duidelijk de verkeerde interpretatie van dat signaal.

Bij LLM’s kan beknoptheid in tekstuitvoer eerder op complexiteit wijzen dan op een essentiële samenvatting, alsof de AI ons een puzzel voorlegt in plaats van de directe concepten achter de woorden. Blijkbaar allemaal zodat één model kan programmeren en schrijven.

* Getiteld ‘Waarom is door AI gegenereerde taal zo moeilijk te begrijpen?’, van twee auteurs verbonden aan New York University en The University of Texas.

^† Mijn omzetting van de bronverwijzingen in de tekst van de auteurs naar hyperlinks.

^†† https://mikeydoes.com/glossary/p600/

Voor het eerst gepubliceerd op maandag 26 oktober 2026