Andersons vinkel
Hvorfor skriver KI så gjerne om fyrvoktere?

Viktige punkterSpråkmodeller konvergerer på fyrvokteren Elias fordi opphavsrettsfiltre kan ha luket…
Vis mer
- Språkmodeller konvergerer på fyrvokteren Elias fordi opphavsrettsfiltre kan ha luket bort rikere fiktivt materiale.
- De tilbakevendende ordene forekommer knapt i publisert skjønnlitteratur eller treningskorpus, så dataprevalens kan ikke forklare besettelsen.
- En bitte liten andel historier fra ettertreningen kan ikke statistisk dominere modellens output slik fyr-tropen gjør.
Når de blir bedt om å skrive en historie, ser ChatGPT og andre ledende språkmodeller ut til å unngå opphavsrettsbrudd ved tvangsmessig å vende tilbake til det samme lille, merkelige persongalleriet av fyrvoktere, fiskere og urmakere.
En ny studie fra Cornell University viser at ledende språkmodeller tilsynelatende har en merkelig besettelse av et svært begrenset utvalg fortellerelementer når de bare blir bedt om å skrive en historie. Forskerne ba fire LLM-er skrive 20 000 historier og fant at 88% inneholdt minst ett av elleve svært spesifikke tokener fra kategoriene «sted», «navn» eller «yrke»:

Forekomsten av uvanlige nøkkelord, angitt som forekomster per million ord, fra forskernes analyse av 20 000 LLM-genererte historier. Kilde
De elleve hyppigst gjentatte ordene blant de over tolv millioner ordene som LLM-ene genererte for studien, var navnene elias, mara, elara; yrkene keeper (vakt), baker, mayor (borgermester), clockmaker (urmaker), fisherman (fisker), librarian (bibliotekar) og conductor; og lokasjonen lighthouse (fyr):
Modellene som ble testet var Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini og OLMo 7b Thinking. Hver modell fikk én av fem forespørsler: «Write a story» (Skriv en historie); «Please write a story» (Vennligst skriv en historie); «Write me a story» (Skriv en historie til meg); «Tell me a story» (Fortell meg en historie); eller «Please tell a story» (Vennligst fortell en historie).
Jeg ville undersøke om fenomenet som studien beskriver, også forekom i modellene som var tilgjengelige da artikkelen ble skrevet. Derfor gjentok jeg forsøket, først med min vanlige ChatGPT-konto på et abonnement i mellomsjiktet (samtalen her). Jeg trengte ikke velge ut spesielt passende resultater: ChatGPT-5.5 gikk rett til materialet forskerne hadde forutsagt, allerede ved første forsøk:

ChatGPT-5.5 støtter umiddelbart studiens første funn. Kilde
Jeg lurte på om tidligere brukskontekst, eller til og med mulig informasjonsoverføring mellom domener, kunne forklare dette umiddelbare treffet. Derfor logget jeg inn i et privat Firefox-vindu på en gratis ChatGPT-konto jeg ikke hadde brukt på minst ett år, og prøvde igjen (samtalen her). Igjen traff ChatGPT blink, forutsatt at OpenAI ikke bruker en felles IP-adresse til å overføre informasjon mellom ulike kontoer:

ChatGPT-konto nummer to følger de samme besettelsene og det snevre utvalget av navn og temaer som beskrives i den nye studien. Mira er blant forfatternes 20 vanligste. Kilde
Disse GPT-versjonene lå ett nivå over versjon 5.4 som studien testet.
Selv om studien testet Claude Haiku, prøvde jeg Sonnet 4.6, Anthropics standardmodell, og ble ikke skuffet. De kjente nøkkelordene dukket igjen opp ved første forsøk (samtalen her):

Denne gangen har Mara, en annen gjenganger blant de elleve vanligste ordene, hovedrollen allerede ved første forsøk med Claude Sonnet 4.6. Kilde
Den samme forespørselen til Claude Haiku 4.5 ga nesten samme resultat.
Først klarte jeg ikke å gjenskape forfatternes resultater med Google Gemini. Men da jeg uttrykkelig byttet til modellen i studien, Gemini 3.1 Flash-Lite, dukket mønsteret opp umiddelbart: ved tredje forsøk totalt, men det første med denne modellen (lenke her):

Google Gemini 3.1 Flash-Lite. Kilde
Videre forsøk med ulike Gemini-modeller ga alltid fyrtemaet, men med varianter utenfor de elleve vanligste ordene, som navnet «Thomas» og i et annet tilfelle mitt eget navn som hovedperson.
Da artikkelen ble skrevet, var studiens resultater i alle fall svært enkle å bekrefte.
Fyr utenfor samtalene
Store hjerner tenker likt: en uke før publiseringen av den nye studien pekte programvareskribenten Daniel May på sammenfallet mellom motivene Elias og fyrvokter som forskerne hadde identifisert*, tilsynelatende etter å ha lagt merke til det ved en tilfeldighet. Deretter testet han åtte varianter av Gemini, DeepSeek, Qwen og Gemma og fant at de produserte lighthouse (fyr)-motiver og «Elias Thorne» som hovedperson*. Den første oppdagelsen omfattet likevel ikke det bredere utvalget av vedvarende innholdstemaer som den nye studien beskriver.
For å undersøke om disse tilbakevendende temaene, navnene og stedene hadde forlatt samtalene, søkte jeg på Google etter noen av de elleve vanligste nøkkelordene og temaene. Jeg fant bemerkelsesverdig mange innlegg som så ut til å ha tatt dem opp:

Tre eksempler på memet i publisert innhold. Se kildelenkene nedenfor.
May hadde identifisert det lengre navnet «Elias Thorne», ikke bare «Elias», som et tilbakevendende LLM-motiv. Han publiserte flere skjermbilder fra Amazon der navnet tilsynelatende ble brukt som forfatternavn for ulike bøker, inkludert medisinske bøker.
Selv søkte jeg etter og fant innhold som så ut til å ha hentet de vedvarende temaene fra en LLM, blant annet et X-innlegg med en historie (arkivversjon her); et skjønnlitterært verk (arkivversjon her); og en historie med opplesning på YouTube (arkivert her). Det var langt mer å undersøke, men tiden strakk ikke til.
En forkjærlighet for fortiden
Så langt de løse observasjonene og tilfeldige funnene. Det er ennå ikke funnet ett enkelt «magisk dokument» i treningsdataene som inneholder alle eller de fleste av disse tilbakevendende elementene. Forfatterne av den nye studien (med tittelen Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories, skrevet av to forskere ved Cornell University) fremmer imidlertid teorien om at opphavsrettsfiltre i KI-utviklingen kan begrense LLM-enes fortellinger til materiale med utløpt opphavsrett.
Forfatterne skriver:
«Vi finner at dominansen til historier om “Elias i fyret” ikke kan forklares med forekomsten i data for før- eller ettertrening. Vi antar at modellene under alignment lærer å unngå referanser til opphavsrettsbeskyttede figurer og innhold for voksne, men overlater spørsmålet til fremtidig arbeid.»
| Kategori | Token | Vår studie | Litteratur | Førtrening: sakprosa | Førtrening: skjønnlitteratur | Ettertrening: sakprosa | Ettertrening: skjønnlitteratur |
|---|---|---|---|---|---|---|---|
| Navn | elias | 2,428 | 2.7 | 2.2 | 4.0 | 0.4 | 52.7 |
| Navn | mara | 5,200 | 3.9 | 2.5 | 8.7 | 0.4 | 21.7 |
| Navn | elara | 1,221 | 0.0 | 0.4 | 1.2 | 0.9 | 108 |
| Yrke | keeper | 1,495 | 7.2 | 6.3 | 14.7 | 3.5 | 10.0 |
| Yrke | baker | 161 | 20 | 11.8 | 10.56 | 1.7 | 11.9 |
| Yrke | mayor | 198 | 28 | 11.5 | 16.1 | 1.4 | 27.4 |
| Yrke | clockmaker | 108 | 0.1 | 0.18 | 0.0 | 0.3 | 1.4 |
| Yrke | fisherman | 62 | 4.2 | 3.0 | 7.6 | 0.0 | 9.3 |
| Yrke | librarian | 68 | 5.3 | 7.6 | 5.9 | 2.3 | 11.5 |
| Yrke | conductor | 96 | 5.0 | 5.9 | 5.7 | 4.7 | 7.5 |
| Lokasjon | lighthouse | 3,005 | 5.5 | 3.5 | 4.6 | 4.6 | 10.1 |
Tabellen sammenligner hyppigheten av tilbakevendende ord fra KI-genererte historier i publisert litteratur, nettfiksjon og ettertreningsdata. Ord som «Elias» og «lighthouse» forekommer langt oftere i historiene skrevet av chatboter.
Forfatterne fant at de elleve fremhevede ordene forekommer i 88% av de 20 000 genererte historiene, med små forskjeller mellom modellene. De understreker at ordene er uvanlige i publisert engelskspråklig litteratur, og at ettertreningsdata, som brukes til å forme og tilpasse modellene til «akseptabel» bruk, godt kan være årsaken.
Studien skriver:
«Et typisk eksempel, vist nedenfor, fremhever tre elementer som nesten alle 20 000 historier har til felles: et sted (19 864 historier), et figurnavn (19 864 historier) og et yrke (15 807 historier).»
«Det bestemte stedet (“lighthouse”, fyr), navnet (“Elias”) og yrket (“keeper”, vakt) i denne historien forekommer faktisk i en eller annen kombinasjon i 66,6% av alle genererte historier. Lys er også et vanlig tema: 56% av historiene fra Claude heter “The Lighthouse Keeper’s Secret” (Fyrvokterens hemmelighet), og ordet “light” (lys) forekommer i 16 784 historier, i gjennomsnitt 3,2 ganger per historie.»

Ifølge studien skrev Google Gemini 3.1 Flash-Lite dette eksemplet som svar på forespørselen «Write a story» (Skriv en historie).
Forfatterne identifiserer en nostalgisk eller atavistisk, tilbakeskuende tendens i alle de utledede nøkkelordene og navnene.
På sporet av de tilbakevendende trekkene
For å undersøke om de tilbakevendende fyrhistoriene kunne forklares med vanlig lesing av skjønnlitteratur, ble modellenes favorittord sammenlignet med flere store engelskspråklige tekstkorpus. Samtidslitteratur ble undersøkt gjennom CONLIT, et datasett med 2 700 engelskspråklige romaner publisert mellom 2007 og 2021, fordelt på tolv sjangre og med omtrent 287 millioner ord til sammen.
‘Elias’ opptrer rundt 900 ganger oftere i de genererte historiene enn i publisert fiksjon. Amatørfiksjon fra Reddits /r/writingprompts-fellesskap viste lignende hyppigheter som publisert litteratur. Mønsteret gjenspeiler derfor heller ikke allmenne menneskelige fortellervaner.
Det samme mønsteret viste seg i førtreningsdataene. I det offentlig tilgjengelige OLMo 3-korpuset, som inneholder omtrent 3,89 milliarder dokumenter hovedsakelig skrevet av mennesker og delvis hentet fra Common Crawl, fant forskerne at de tilbakevendende «Core»-ordene nesten ikke forekom i det hele tatt.
Siden en stor del av OLMo-3-korpuset er sakprosa, ble det laget en klassifikator for skjønnlitteratur med GPT-OSS 20b-annotasjoner og en FastText-modell trent på 200 000 balanserte eksempler. Selv etter målrettet filtrering av skjønnlitteratur var ord som «Elara» fortsatt svært sjeldne sammenlignet med de KI-genererte historiene. Hvorfor dominerer de da allerede ved den enkleste forespørselen til en LLM om å skrive en fortelling?
Forfatterne skriver:
«Hvis Core-ord ikke er vanlige i nettdata, kunne en gjenværende kilde være ettertreningsdata. Men vi finner at OLMos ettertreningsdata inneholder våre tokener sjeldnere enn CONLIT.»
I de 78 958 historiene i OLMo 3s ettertreningsdatasett forekom «Elias» ifølge forfatterne 52,7 ganger per million ord, mot 2,7 i CONLIT. I de genererte historiene som studien undersøkte, nådde tallet derimot 2 428 forekomster per million ord.
For å identifisere opphavet til de tilbakevendende Core-historiene ble hver historie i OLMo 3s ettertreningsdata vurdert etter om den inneholdt ett eller flere Core-tokener, for eksempel Elara, Mara, og så videre. De fleste var forventet å finnes i datasett for veiledet finjustering (SFT), fordi WildChat og beslektede kilder bidro med 59 266 historier til OLMo 3.
Bare 1 803 historier inneholdt imidlertid Core-termer, mens datasett for DPO og forsterkingslæring viste høyere konsentrasjoner.
Til sammen kunne det tilbakevendende Core-ordforrådet spores til bare 3 053 historier, altså 3,8% av alle undersøkte ettertreningshistorier. Det er statistisk umulig at en så liten del av korpusene ender med å dominere resultatene på den påviste måten.
Studien konkluderer:
«Når anvisningene er knappe, skriver dagens mest avanserte modeller historier med et begrenset repertoar av navn, steder og yrker. Blant de tilbakevendende figurene er Elias, en fyrvokter. Elias er uvanlig: navnet er sjeldent i litteratur, nettdata og til og med ettertreningsdata.»
Konklusjon
I fravær av ett enkelt litterært verk, eller selv en serie, med de elleve ordene som forfatterne har identifisert, er det helt uklart hvordan akkurat denne ordgruppen har samlet seg og dannet innbyrdes forbindelser i de grunnleggende lagene av flere store språkmodeller, til tross for ulike treningsdata og tilnærminger.
Selv om forskernes tese om opphavsrettsfiltrenes begrensende effekt stemmer, burde et helt hav av klassisk litteratur i treningsdataene ha hindret denne merkelige gruppen gammeldagse ord i å dominere svaret på en enkel skriveforespørsel uten flere anvisninger.
Teorien forutsetter imidlertid at store mengder klassisk litteratur overhodet ble tatt med i treningen. Det er usannsynlig: man ønsker ikke modeller som produserer Dickens-etterligninger på løpende bånd, men modeller som behersker dagens ordforråd og passer til nåværende forretningsbehov. Bare omfanget av førindustriell litteratur ville hindre at den ble inkludert.
Hvis det i alle fall fantes én bestemt fortelling med en skiftende kombinasjon av de «obsessive» trekkene forfatterne nevner, ville den antakelig være lettere å finne. Forfatterne kunne ikke selv finne den, og løse søk etter verk fra tiden før KI gir heller ingen kandidat. Kanskje vil en akademisk autoritet komme med svaret dersom «fyrsyndromet» blir like beryktet som tankestreker knyttet til KI.
* Jeg kan ikke gå nærmere inn på Mays artikkel, av grunner som kan bli tydelige når man leser den.
Først publisert onsdag 27. mai 2026. Endret i løpet av de første 30 minuttene for å rette Anthropic-lenken.












