Waarom Houden AI-Modellen Zo Van Vuurtorens en Vuurtorenwachters?

Als ze worden gevraagd om ‘een verhaal te schrijven’, lijken ChatGPT en andere toonaangevende taalmodellen te proberen om auteursrechtschendingen te vermijden door een obsessieve terugkeer naar hetzelfde kleine en vreemde gezelschap van vuurtorenwachters, vissers en klokkenmakers.

Een nieuwe studie van de Cornell University heeft ontdekt dat toonaangevende taalmodellen een vreemde obsessie lijken te hebben met een zeer smalle selectie van verhaalelementen wanneer je de modellen vraagt om gewoon ‘een verhaal te schrijven’. Na het vragen van vier LLM’s om 20.000 verhalen te schrijven, vonden ze dat 88% van de gegenereerde verhalen ten minste een van de 11 zeer specifieke tokens bevatten in de categorie van ‘locatie’, ‘naam’ of ‘beroep’:

De voorkomens van onwaarschijnlijke trefwoorden, weergegeven hier in delen per miljoen, verkregen door de analyse van de onderzoekers van 20.000 LLM-gegenereerde verhalen. Bron

De 11 meest voorkomende woorden in de 12+ miljoen woorden gegenereerd door LLM’s voor de studie waren de namen elias, mara, elara; de beroepen vuurtorenwachter, bakker, burgemeester, klokkenmaker, visser, bibliothecaris en dirigent; en de locatie vuurtoren:

De geteste modellen waren Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini en OLMo 7b Thinking. Alle werden gevraagd met een van de vijf verzoeken: ‘Schrijf een verhaal’; ‘Schrijf alsjeblieft een verhaal’; ‘Schrijf me een verhaal’; ‘Vertel me een verhaal’; of ‘Vertel alsjeblieft een verhaal’.

Benieuwd of het syndroom dat het artikel identificeert aanwezig is in modellen die beschikbaar zijn op het moment van schrijven, probeerde ik het experiment zelf uit, eerst op mijn gebruikelijke medium-tier ChatGPT-account (link naar conversatie hier). Geen cherry-picking was nodig – ChatGPT-5.5 ging rechtstreeks naar het materiaal dat de onderzoekers hadden voorspeld, bij de eerste poging:

ChatGPT-5.5 bevestigt onmiddellijk de initiële bevindingen van het artikel. Bron

Ik vroeg me af of historische context, of zelfs mogelijke cross-domain-lekkage, hiervoor verantwoordelijk kon zijn, en logde in op een gratis ChatGPT-account dat ik een jaar of meer niet had gebruikt, in een Firefox-privébrowser, en probeerde het opnieuw (link naar conversatie hier). Opnieuw (aan de veronderstelling dat OpenAI geen gemeenschappelijk IP-adres gebruikt om verschillende accounts te kruisen), sloeg ChatGPT de bal uit het park:

ChatGPT-account #2 volgt dezelfde obsessies en kleine playbook van namen en thema’s zoals beschreven in het nieuwe artikel. ‘Mira’ staat in de top 20 van de auteurs. Bron

Ik probeerde hetzelfde experiment uit met Anthropic’s standaard Sonnet 4.6, en was niet teleurgesteld. Opnieuw kwamen de vertrouwde trefwoorden bij de eerste poging (link naar conversatie hier):

Dit keer leidt ‘Mara’, een andere vaste waarde uit de ‘top 11’, het verhaal in de eerste poging op Claude Sonnet 4.6. Bron

Ik probeerde hetzelfde prompt uit op Claude Haiku 4.5, wat vrijwel hetzelfde resultaat opleverde (link hier).

Ik kon de bevindingen van de auteurs aanvankelijk niet reproduceren bij Google Gemini, totdat ik specifiek het model veranderde in het model dat in het artikel werd gebruikt, Gemini 3.1 Flash-Lite – en toen, bij de derde poging (maar de eerste met dat model), verscheen het patroon onmiddellijk (link hier):

Google Gemini 3.1 Flash-Lite. Bron

Verdere experimenten met verschillende Gemini-modellen leverden steeds het vuurtorenthema op, hoewel met varianten die niet in de ‘top 11’ voorkomen, zoals de naam ‘Thomas’, en, in een andere variant, mijn eigen naam, als de protagonist.

Nonetheless, op het moment van schrijven zijn de bevindingen van het artikel extreem eenvoudig te bewijzen.

Vuurtorens in het Wild

Grote geesten denken hetzelfde: een week geleden, voor de publicatie van het nieuwe artikel, wees software-schrijver Daniel May op de samenloop van de Elias en vuurtorenwachter troep, die door de onderzoekers werd geëxtraheerd*, blijkbaar nadat hij het toevallig had opgemerkt. Hij ging verder om acht varianten van Gemini, DeepSeek, Qwen en Gemma te testen, die hij vond die het vuurtoren thema zouden produceren en ‘Elias Thorne’ als protagonist*. Echter, deze initiële ontdekking breidde zich niet uit tot de bredere reeks van persistente inhoudsthema’s die in het nieuwe artikel worden beschreven.

Benieuwd of deze terugkerende thema’s, namen en locaties ooit de grenzen van een chat zijn ontstegen, zocht ik naar enkele van de top 11 trefwoorden en thema’s op Google, en vond een opmerkelijk aantal berichten die ze leken te hebben gekanaliseerd:

Drie voorbeelden van het thema in output. Zie hieronder voor bronlinks.

May had de langere Elias Thorne (in plaats van alleen ‘Elias’) geïdentificeerd als een persistente LLM-meme, en verschillende screenshots van Amazon gepost, waar deze naam blijkbaar was gebruikt als titel voor de auteur(s) van diverse boeken, waaronder medische boeken.

In plaats daarvan zocht ik naar en vond inhoud die leek te zijn geïnspireerd door de persistente thema’s van een LLM, waaronder een X-post van een verhaal (archiefversie hier); een fictiewerk (archiefversie hier); en een verhaal met vertelling op YouTube (gearchiveerd hier). Er was veel meer om te onderzoeken, maar de tijd stond niet toe.

Een Smaken voor het Verleden

Dus veel voor toevallige observaties en serendipiteit. Terwijl er nog geen enkel ‘magisch document’ in de trainingsgegevens is gevonden dat alle of de meeste van deze persistente elementen bevat, speculeren de auteurs van het nieuwe artikel (getiteld Elias in de Vuurtoren, Weer?, van twee onderzoekers van de Cornell University) dat auteursrechtelijke filters in AI-ontwikkelingen de fictieve output van LLM’s mogelijk beperken tot materiaal dat buiten auteursrecht valt.

De auteurs stellen:

‘We vinden dat de dominantie van “Elias in de Vuurtoren”-verhalen niet kan worden verklaard door prevalentie in pre- of post-trainingsgegevens. We speculeren dat modellen zijn getraind om verwijzingen naar auteursrechtelijk beschermde personages en volwassen inhoud te vermijden tijdens de alignering, maar wijzen deze vraag door naar toekomstig onderzoek.’

Vergelijkingstabel die laat zien hoe vaak terugkerende woorden uit AI-gegenereerde verhalen voorkomen in gepubliceerde literatuur, webfictie en post-trainingsgegevens, met termen zoals ‘Elias’ en ‘vuurtoren’ die veel vaker voorkomen in chatbot-gegenereerde fictie.

In de studie vonden de auteurs dat de benadrukte 11 woorden in 88% van de 20.000 gegenereerde verhalen voorkomen, en dat er ‘weinig verschil is tussen modellen’. Ze benadrukken dat deze woorden ongebruikelijk zijn in gepubliceerde Engelstalige literatuur, en dat post-trainingsgegevens (gegevens die zijn ontworpen om modellen te conditioneren en uit te lijnen in ‘acceptabele’ gebruik) mogelijk verantwoordelijk zijn.

Het artikel stelt:

‘Een typisch voorbeeld, getoond [hieronder], benadrukt drie elementen die gemeenschappelijk zijn voor bijna alle 20.000 verhalen: een locatie (19.864 verhalen), een karakternaam (19.864 verhalen), en een beroep (15.807 verhalen). ‘

‘In feite verschijnen de specifieke locatie (“vuurtoren”), naam (“Elias”), en beroep (“vuurtorenwachter”) in dit verhaal in enige combinatie in 66,6% van alle gegenereerde verhalen. Licht is ook een gemeenschappelijk thema: 56% van de verhalen gegenereerd door Claude hebben de titel “Het Geheim van de Vuurtorenwachter” en het woord “licht” verschijnt in 16.784 verhalen met een gemiddelde van 3,2 instanties per verhaal.’

Dit voorbeeld, zo stelt het artikel, is geschreven door Google Gemini 3.1 Flash-Lite, als reactie op de prompt ‘Schrijf een verhaal’.

Het is de moeite waard om op te merken dat de auteurs van de studie een nostalgische of atavistische trend identificeren in alle afgeleide trefwoorden en namen.

Achter de Eigenschappen Aan

Om te testen of de herhaalde ‘vuurtoren’-verhalen kunnen worden verklaard door gewone blootstelling aan fictie, werden vergelijkingen gemaakt tussen de favoriete terugkerende woorden van de modellen en verschillende grote Engelstalige corpora. Contemporaine fictie werd onderzocht via CONLIT, een dataset die 2.700 Engelstalige romans bevat die tussen 2007 en 2021 zijn gepubliceerd, met 12 genres en ongeveer 287 miljoen woorden.

‘Elias’ verschijnt ongeveer 900 keer vaker in de gegenereerde verhalen dan in gepubliceerde fictie. Amateur-fictie van de /r/writingprompts community van Reddit produceerde vergelijkbare frequenties, wat aangeeft dat het patroon geen weerspiegeling is van bredere menselijke verhaalvertelpraktijken.

Hetzelfde patroon werd waargenomen toen de pre-trainingsgegevens werden onderzocht. Met behulp van de openbaar beschikbare OLMo 3-corpus, dat ongeveer 3,89 miljard hoofdzakelijk door mensen geschreven documenten bevat, gedeeltelijk afkomstig van Common Crawl, vonden de onderzoekers dat de terugkerende ‘Core’-woorden amper voorkwamen.

Daarom werd een fictie-classificator gebouwd met behulp van GPT-OSS 20b-annotaties en een FastText-model getraind op 200.000 gebalanceerde monsters. Zelfs na het filteren op specifiek fictiemateriaal, verschenen woorden zoals ‘Elara’ nog steeds met een verwaarloosbare frequentie in vergelijking met de AI-gegenereerde verhalen. Waarom, dan, domineren ze op het laagste niveau van de imperatief voor een LLM om fictie te schrijven?

De auteurs stellen:

‘Als Core-woorden niet vaak voorkomen in webgegevens, dan is een overgebleven bron post-trainingsgegevens. Maar we vinden dat OLMo’s post-trainingsgegevens onze tokens op een lager tarief vertonen dan CONLIT. ‘

Binnen 78.958 verhalen uit OLMo 3’s post-trainingsdatasets, merkten ze op dat ‘Elias’ 52,7 keer per miljoen woorden verscheen, in vergelijking met 2,7 in CONLIT, maar bereikte 2.428 voorkomens per miljoen woorden in de gegenereerde verhalen die in de studie werden onderzocht.

Om te identificeren waar de terugkerende ‘Core’-verhalen vandaan kwamen, werd elk verhaal in OLMo 3’s post-trainingsgegevens gescoord voor de aanwezigheid van een of meer Core-tokens (d.w.z. voor de aanwezigheid van Elara, Mara, enz.). De meeste zouden verwacht worden te verschijnen in supervised fine-tuning (SFT)-datasets, omdat WildChat en verwante bronnen 59.266 verhalen bijdroegen aan OLMo 3.

Hoewel slechts 1.803 Core-terms bevatten, toonden datasets die werden gebruikt voor DPO en versterking van het leren hogere concentraties.

Al met al werd de terugkerende Core-woordenlijst herleid tot slechts 3.053 verhalen, wat 3,8% van alle post-trainingsverhalen vertegenwoordigt die werden onderzocht. Er is geen statistische mogelijkheid voor zo’n kleine subset van corpora om op deze manier te domineren.

Het artikel concludeert:

‘Wanneer ze weinig richting krijgen, schrijven huidige frontiermodellen verhalen met een smalle catalogus van namen, plaatsen en beroepen. Terugkerende personages in deze verhalen zijn onder andere Elias, een vuurtorenwachter. Elias is ongebruikelijk; de naam is ongebruikelijk in literatuur, webgegevens en zelfs post-trainingsgegevens.’

Conclusie

In afwezigheid van enig enkel literair werk (of zelfs een reeks) dat de top 11 woorden bevat die de auteurs identificeren, is het helemaal niet duidelijk op welke manier deze specifieke verzameling van woorden is geaccumuleerd en zelf is geassocieerd met het laagste niveau van meerdere grote taalmodellen (ondanks hun diversiteit aan trainingsgegevens en benaderingen).

Als de bewering van de onderzoekers over het beperkende effect van auteursrechtelijke filters correct is, zou een enorme hoeveelheid klassieke literatuur in de trainingsgegevens dit vreemde verzameling van ouderwetse woorden hebben moeten voorkomen om de output van een niet-gekwalificeerde ‘schrijf’-prompt te domineren.

Dat neemt aan dat enorme hoeveelheden klassieke literatuur überhaupt zijn opgenomen in het trainingsregime. Dat is onwaarschijnlijk, aangezien het gaat om modellen die niet bedoeld zijn om nep-Dickens-verhalen te produceren, maar die bedoeld zijn om met het moderne lexicon om te gaan en geschikt zijn voor hedendaagse bedrijfsbehoeften. De enorme hoeveelheid zelfs van pre-industriële literatuur zou het onmogelijk maken om deze op te nemen.

In elk geval, als er wel een enkel verhaal was met een wisselend mengsel van de ‘obsessieve’ facetten die de auteurs noemen, zou het waarschijnlijk gemakkelijker te vinden zijn; de auteurs zelf konden het niet vinden, en informele zoekopdrachten in de pre-AI-tijdperk leverden geen enkele kandidaat op. Misschien, als ‘vuurtorensyndroom’ dezelfde notoriëteit krijgt als AI-em-dashes, zal enige academische autoriteit naar voren komen met het antwoord.

* Ik kan niet verder gaan in het artikel van May, om redenen die duidelijk zullen worden als je het leest.

Eerst gepubliceerd op woensdag 27 mei 2026. Gewijzigd in de eerste 30 minuten om de Anthropic-link te corrigeren.