Dlaczego AI kocha pisać o latarnikach?

Gdy dostają polecenie napisania opowiadania, ChatGPT i inne czołowe modele językowe zdają się unikać naruszeń praw autorskich, obsesyjnie wracając do tego samego niewielkiego i osobliwego grona latarników, rybaków i zegarmistrzów.

Nowe badanie Uniwersytetu Cornella wykazało, że czołowe modele językowe zdają się mieć dziwną obsesję na punkcie bardzo wąskiego repertuaru elementów narracyjnych, gdy prosi się je po prostu o napisanie opowiadania. Badacze zlecili czterem LLM-om napisanie 20 000 historii i stwierdzili, że 88% zawierało co najmniej jeden z jedenastu bardzo konkretnych tokenów z kategorii „miejsce”, „imię” lub „zawód”:

Częstość występowania nietypowych słów kluczowych na milion słów, ustalona w analizie 20 000 opowiadań wygenerowanych przez LLM-y. Źródło

Jedenaście najczęściej powracających słów w ponad dwunastu milionach słów wygenerowanych przez LLM-y na potrzeby badania to imiona elias, mara, elara; zawody keeper (strażnik), baker (piekarz), mayor (burmistrz), clockmaker (zegarmistrz), fisherman (rybak), librarian (bibliotekarz) i conductor; oraz lokalizacja lighthouse (latarnia morska):

Przetestowane modele to Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini oraz OLMo 7b Thinking. Każdy otrzymał jedną z pięciu próśb: „Write a story” (Napisz opowiadanie); „Please write a story” (Proszę, napisz opowiadanie); „Write me a story” (Napisz mi opowiadanie); „Tell me a story” (Opowiedz mi historię); lub „Please tell a story” (Proszę, opowiedz historię).

Chciałem sprawdzić, czy zjawisko opisane w badaniu występuje też w modelach dostępnych podczas pisania artykułu. Powtórzyłem więc eksperyment, najpierw na swoim zwykłym koncie ChatGPT ze średniego poziomu oferty (rozmowa tutaj). Nie musiałem wybierać szczególnie pasujących wyników: ChatGPT-5.5 sięgnął po materiał przewidziany przez badaczy już przy pierwszej próbie:

ChatGPT-5.5 natychmiast potwierdza wstępne ustalenia pracy. Źródło

Zastanawiałem się, czy ten natychmiastowy sukces może wynikać z historii użytkowania albo nawet ewentualnego przepływu informacji między domenami. Dlatego w prywatnym oknie Firefoksa zalogowałem się na bezpłatne konto ChatGPT, którego nie używałem od co najmniej roku, i spróbowałem ponownie (rozmowa tutaj). ChatGPT znów trafił w punkt, przy założeniu, że OpenAI nie przenosi informacji między różnymi kontami na podstawie wspólnego adresu IP:

Drugie konto ChatGPT powiela te same obsesje oraz niewielki repertuar imion i tematów z nowego badania. „Mira” należy do dwudziestu najczęstszych imion odnotowanych przez autorów. Źródło

Te wersje GPT były o szczebel wyżej niż wersja 5.4 testowana w badaniu.

W badaniu testowano Claude Haiku, ale ja wypróbowałem Sonnet 4.6, domyślny model Anthropic, i nie zawiodłem się. Znane słowa kluczowe znów pojawiły się już przy pierwszej próbie (rozmowa tutaj):

Tym razem już przy pierwszej próbie w Claude Sonnet 4.6 bohaterką opowiadania jest „Mara”, kolejne często powracające imię z pierwszej jedenastki. Źródło

To samo polecenie w Claude Haiku 4.5 dało niemal taki sam wynik.

Początkowo nie potrafiłem odtworzyć wyników autorów w Google Gemini. Gdy jednak wybrałem dokładnie model użyty w badaniu, Gemini 3.1 Flash-Lite, wzorzec pojawił się natychmiast: przy trzeciej próbie łącznie, ale pierwszej z tym modelem (link tutaj):

Google Gemini 3.1 Flash-Lite. Źródło

Dalsze eksperymenty z różnymi modelami Gemini niezmiennie przynosiły motyw latarni, choć z wariantami spoza pierwszej jedenastki, takimi jak imię „Thomas”, a w innym przypadku moje własne imię dla głównego bohatera.

Mimo to w chwili pisania artykułu ustalenia pracy można było niezwykle łatwo potwierdzić.

Latarnie poza rozmowami

Wielkie umysły myślą podobnie: tydzień przed publikacją nowego badania autor piszący o oprogramowaniu, Daniel May, zwrócił uwagę na zbieżność motywów Elias i latarnika wyodrębnionych przez badaczy*, najwyraźniej po tym, jak zauważył ją przypadkiem. Następnie przetestował osiem wariantów Gemini, DeepSeek, Qwen i Gemma i stwierdził, że tworzą one powracające motywy lighthouse (latarni) oraz „Elias Thorne” jako bohatera*. To początkowe odkrycie nie objęło jednak szerszego repertuaru uporczywie powracających tematów opisanego w nowym badaniu.

Aby sprawdzić, czy te powracające tematy, imiona i miejsca kiedykolwiek wyszły poza rozmowę, wyszukałem w Google kilka spośród jedenastu najczęstszych słów kluczowych i tematów. Znalazłem zaskakująco wiele wpisów, które zdawały się je przejmować:

Trzy przykłady tego memu w wygenerowanych treściach. Linki do źródeł znajdują się poniżej.

May rozpoznał pełne imię i nazwisko „Elias Thorne”, nie samo „Elias”, jako powracający motyw LLM-ów. Opublikował zrzuty z Amazona, na których nazwa ta najwyraźniej służyła jako nazwisko autora lub autorów rozmaitych książek, w tym medycznych.

Ja szukałem natomiast treści, które zdawały się przejmować uporczywie powracające motywy z LLM-a, i znalazłem między innymi: wpis z opowiadaniem w serwisie X (wersja archiwalna); utwór fikcyjny (wersja archiwalna); oraz opowiadanie z narracją w serwisie YouTube (archiwum). Materiałów było znacznie więcej, ale zabrakło czasu na ich przejrzenie.

Upodobanie do przeszłości

Tyle luźnych obserwacji i przypadkowych odkryć. W danych treningowych nie znaleziono dotąd jednego „magicznego dokumentu”, który zawierałby wszystkie lub większość tych powracających elementów. Autorzy nowego badania (zatytułowanego Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories, przygotowanego przez dwóch badaczy z Uniwersytetu Cornella) wysuwają jednak hipotezę, że filtry praw autorskich w rozwoju AI mogą ograniczać twórczość LLM-ów do materiałów, których ochrona prawnoautorska wygasła.

Autorzy stwierdzają:

„Stwierdzamy, że dominacji historii o «Eliasie w latarni» nie można wyjaśnić ich częstością w danych do treningu wstępnego ani późniejszego dostrajania. Przypuszczamy, że podczas dostosowywania modele uczą się unikać odniesień do postaci chronionych prawem autorskim i treści dla dorosłych, ale pozostawiamy to pytanie przyszłym badaniom”.

Tabela porównuje częstość powracających słów z historii wygenerowanych przez AI w opublikowanej literaturze, fikcji internetowej i danych do późniejszego dostrajania. Słowa takie jak „Elias” i „lighthouse” znacznie częściej występują w opowiadaniach chatbotów.

Autorzy stwierdzili, że jedenaście wyróżnionych słów pojawia się w 88% z 20 000 wygenerowanych historii, przy niewielkich różnicach między modelami. Podkreślają, że słowa te są rzadkie w opublikowanej literaturze anglojęzycznej, a dane do późniejszego dostrajania, służące do kształtowania i dostosowywania modeli do „akceptowalnych” zastosowań, mogą być właśnie przyczyną tego zjawiska.

Badanie stwierdza:

„Typowy przykład, pokazany poniżej, uwydatnia trzy elementy wspólne prawie wszystkim 20 000 historii: miejsce (19 864 historie), imię postaci (19 864 historie) i zawód (15 807 historii)”.

„Konkretne miejsce («lighthouse», latarnia), imię («Elias») i zawód («keeper», strażnik) z tej historii pojawiają się w jakiejś kombinacji w 66,6% wszystkich wygenerowanych opowiadań. Światło też jest częstym motywem: 56% historii wygenerowanych przez Claude nosi tytuł «The Lighthouse Keeper’s Secret» (Tajemnica latarnika), a słowo «light» (światło) występuje w 16 784 historiach, średnio 3,2 razy na historię”.

Według badania Google Gemini 3.1 Flash-Lite napisał ten przykład w odpowiedzi na polecenie „Write a story” (Napisz opowiadanie).

Autorzy badania dostrzegają nostalgiczny lub atawistyczny, zwrócony ku przeszłości nurt we wszystkich wyodrębnionych słowach kluczowych i imionach.

Tropienie powracających cech

Aby sprawdzić, czy powtarzające się historie o latarniach wynikają ze zwykłego kontaktu z fikcją, ulubione słowa modeli porównano z kilkoma dużymi korpusami anglojęzycznymi. Współczesną fikcję zbadano za pomocą CONLIT, zbioru 2 700 anglojęzycznych powieści opublikowanych w latach 2007–2021, obejmującego dwanaście gatunków i około 287 milionów słów.

„Elias” pojawia się około 900 razy częściej w wygenerowanych historiach niż w opublikowanej fikcji. Fikcja amatorska ze społeczności /r/writingprompts na Reddicie wykazała podobne częstości jak literatura opublikowana. Wzorzec nie odzwierciedla zatem również ogólnych ludzkich nawyków narracyjnych.

Ten sam wzorzec pojawił się w danych do treningu wstępnego. W publicznie dostępnym korpusie OLMo 3, który zawiera około 3,89 miliarda dokumentów napisanych głównie przez ludzi i pochodzących częściowo z Common Crawl, badacze stwierdzili, że powracające słowa z grupy „Core” niemal w ogóle nie występowały.

Ponieważ duża część korpusu OLMo 3 to teksty niefikcyjne, zbudowano klasyfikator fikcji z wykorzystaniem adnotacji GPT-OSS 20b oraz modelu FastText wytrenowanego na 200 000 zrównoważonych próbek. Nawet po wyselekcjonowaniu tekstów fikcyjnych słowa takie jak „Elara” pozostawały niezwykle rzadkie w porównaniu z historiami generowanymi przez AI. Dlaczego więc dominują już przy najprostszej prośbie do LLM-a o napisanie fikcji?

Autorzy stwierdzają:

„Jeśli słowa Core nie są częste w danych internetowych, jednym z pozostałych źródeł mogłyby być dane do późniejszego dostrajania. Stwierdzamy jednak, że dane tego rodzaju z OLMo zawierają nasze tokeny rzadziej niż CONLIT”.

W 78 958 historiach ze zbiorów danych do późniejszego dostrajania OLMo 3, zauważają autorzy, „Elias” pojawiał się 52,7 razy na milion słów, wobec 2,7 w CONLIT. W wygenerowanych historiach badanych w studium częstość sięgała jednak 2 428 wystąpień na milion słów.

Aby ustalić pochodzenie powracających historii Core, każdą historię w danych do późniejszego dostrajania OLMo 3 oceniono pod kątem obecności co najmniej jednego tokenu Core, na przykład Elara, Mara, i tak dalej. Większości spodziewano się w zbiorach do nadzorowanego dostrajania (SFT), ponieważ WildChat i pokrewne źródła dostarczyły 59 266 historii do OLMo 3.

Jednak tylko 1 803 historie zawierały terminy Core, natomiast zbiory danych używane do DPO i uczenia ze wzmocnieniem wykazywały większe zagęszczenie tych słów.

Łącznie powracające słownictwo Core prześledzono do zaledwie 3 053 historii, czyli 3,8% wszystkich zbadanych historii z etapu późniejszego dostrajania. Statystycznie niemożliwe jest, by tak mała część korpusów ostatecznie zdominowała wyniki w pokazany sposób.

Badanie podsumowuje:

„Gdy dostają niewiele wskazówek, dzisiejsze najbardziej zaawansowane modele piszą historie z ograniczonego repertuaru imion, miejsc i zawodów. Do powracających postaci należy Elias, latarnik. Elias jest nietypowy: imię to rzadko pojawia się w literaturze, danych internetowych, a nawet danych do późniejszego dostrajania”.

Podsumowanie

Wobec braku pojedynczego dzieła literackiego, lub nawet serii, zawierającego jedenaście słów wskazanych przez autorów, jest całkowicie niejasne, jak właśnie ten zestaw słów nagromadził się i utworzył wzajemne powiązania w podstawowych warstwach wielu dużych modeli językowych, mimo różnorodności ich danych treningowych i metod.

Nawet jeśli badacze mają rację co do ograniczającego wpływu filtrów praw autorskich, prawdziwy ocean klasycznej literatury w danych treningowych powinien był zapobiec dominacji tego osobliwego zestawu staroświeckich słów w odpowiedzi na proste polecenie napisania czegoś, bez dalszych wskazówek.

Ta teoria zakłada jednak, że ogromne ilości literatury klasycznej w ogóle znalazły się w danych treningowych. Jest to mało prawdopodobne, ponieważ potrzebne są modele posługujące się współczesnym słownictwem i przydatne w dzisiejszym biznesie, a nie tworzące imitacje Dickensa. Sama objętość literatury sprzed epoki przemysłowej uniemożliwiałaby jej uwzględnienie.

Gdyby istniała jedna konkretna opowieść z różnymi kombinacjami „obsesyjnych” cech zauważonych przez autorów, zapewne łatwiej byłoby ją znaleźć. Autorzy sami jej nie znaleźli, a pobieżne wyszukiwania materiałów sprzed ery AI również nie ujawniają kandydata. Być może, jeśli „syndrom latarni” zyska podobną złą sławę jak pauzy kojarzone z AI, odpowiedź przedstawi któryś z badaczy.

* Nie mogę szerzej omówić artykułu Maya z powodów, które mogą stać się oczywiste po jego przeczytaniu.

Pierwsza publikacja: środa, 27 maja 2026 r. Tekst zmodyfikowano w ciągu pierwszych 30 minut, aby poprawić odsyłacz do Anthropic.