AI, 등대지기에 대한 사랑은 왜일까?

“이야기를 써 달라”는 요청을 받은 ChatGPT와 주요 언어 모델들은 저작권 침해를 피하려는 듯, 등대지기·어부·시계공 같은 동일한 소수의 기묘한 인물에 집요하게 의존한다.

코넬대학교의 새 연구에 따르면, 주요 언어 모델은 단순히 “이야기를 써라”는 지시를 받으면 매우 좁은 범위의 서사 요소를 사용하는 특이한 집착을 보인다. 네 LLM이 만든 2만 편 중 88%에 장소·이름·직업 범주의 특정 토큰 11개 중 하나 이상이 포함됐다.

연구진이 LLM 생성 이야기 2만 편을 분석해 얻은, 가능성이 낮은 핵심어의 100만 단어당 출현 횟수. 출처

연구를 위해 생성된 1,200만 단어 이상에서 가장 자주 반복된 11개 단어는 이름 elias, mara, elara, 직업 keeper, baker, mayor, clockmaker, fisherman, librarian, conductor, 장소 lighthouse였다.

시험한 모델은 Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini, OLMo 7b Thinking이다. 각각 “이야기를 써라”, “이야기를 써 주세요”, “내게 이야기를 써 줘”, “이야기를 들려줘”, “이야기를 들려주세요” 중 하나를 지시받았다.

논문이 지적한 현상이 집필 당시 모델에도 있는지 궁금해 평소 쓰는 중간 등급 ChatGPT 계정에서 먼저 실험했다(대화는 여기). 결과를 골라낼 필요도 없이 ChatGPT-5.5가 첫 시도에서 연구진이 예측한 소재를 바로 선택했다.

ChatGPT-5.5가 논문의 초기 발견을 즉시 뒷받침했다. 출처

과거 사용 맥락이나 영역 간 정보 누출이 이 “첫 시도 적중”의 원인일 수 있어, Firefox 비공개 창에서 1년 넘게 쓰지 않은 무료 ChatGPT 계정으로 다시 시도했다(대화는 여기). OpenAI가 같은 IP로 계정 간 정보를 섞지 않는다면 이번에도 ChatGPT는 정확히 적중했다.

두 번째 ChatGPT 계정도 새 논문이 밝힌 이름과 주제에 대한 동일한 집착과 좁은 각본을 따랐다. “Mira”는 저자들의 상위 20개 이름에 든다. 출처

다만 이 GPT 버전들은 논문이 시험한 5.4보다 한 단계 높은 세대였다.

논문은 Claude Haiku를 시험했지만 필자는 Anthropic의 기본 Sonnet 4.6을 사용했다. 이번에도 익숙한 핵심어가 첫 시도에 등장했다(대화는 여기).

이번에는 상위 11개의 단골인 “Mara”가 Claude Sonnet 4.6의 첫 시도에서 이야기를 이끈다. 출처

Claude Haiku 4.5에서 같은 지시를 쓰자 거의 동일한 결과가 나왔다.

Google Gemini에서는 처음에 결과를 재현하지 못했지만, 논문이 사용한 Gemini 3.1 Flash-Lite로 바꾸자 전체로는 세 번째, 해당 모델로는 첫 시도에 패턴이 즉시 나타났다(링크는 여기).

Google Gemini 3.1 Flash-Lite. 출처

다른 Gemini 모델을 추가로 시험해도 등대 주제는 빠지지 않았다. 다만 상위 11개에 없는 Thomas나, 다른 변형에서는 필자의 이름이 주인공이 되는 차이는 있었다.

따라서 집필 시점에는 논문의 발견을 매우 쉽게 입증할 수 있다.

현실에 나타난 등대

뛰어난 생각은 통하는 법이다. 새 논문 발표 일주일 전 소프트웨어 작가 Daniel May는 연구진이 추출한 Elias와 등대지기 소재의 일치를 우연히 발견해 지적했다*. Gemini, DeepSeek, Qwen, Gemma의 여덟 변형을 시험하자 등대 밈과 주인공 Elias Thorne이 나왔다*. 다만 이 발견은 새 논문이 제시한 더 넓은 반복 주제까지 확장되지는 않았다.

반복되는 주제·이름·장소가 채팅 밖으로 나온 적이 있는지 확인하려고 상위 11개 핵심어와 주제를 Google에서 검색하자, 이를 반영한 듯한 게시물이 놀랄 만큼 많이 발견됐다.

출력에 나타난 밈의 세 가지 사례. 출처 링크는 아래 참조.

May는 단순한 Elias가 아니라 Elias Thorne 전체 이름을 지속적인 LLM 밈으로 확인했고, 이 이름이 의학서를 포함한 여러 책의 저자명으로 사용된 Amazon 화면을 게시했다.

필자는 LLM의 반복 주제를 사용한 듯한 콘텐츠로 이야기 X 게시물(보관본 여기), 소설 작품(보관본 여기), YouTube의 낭독 이야기(보관본 여기)를 찾았다. 더 많은 자료가 있었지만 시간상 모두 살피지는 못했다.

과거를 향한 취향

우연한 관찰은 여기까지다. 반복 요소 전부나 대부분을 담은 하나의 “마법 문서”는 훈련 데이터에서 발견되지 않았지만, 코넬 연구진 두 명이 쓴 새 논문 「Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories」은 AI 개발의 저작권 필터가 LLM의 소설 출력을 저작권이 만료된 소재로 제한할 수 있다고 추정한다.

저자들은 다음과 같이 말한다.

“‘등대의 Elias’ 이야기가 지배적인 현상은 사전 또는 사후 훈련 데이터의 빈도로 설명할 수 없다. 모델이 정렬 과정에서 저작권 보호 캐릭터와 성인 콘텐츠 언급을 피하도록 학습된다고 추정하지만, 이 질문은 향후 연구에 맡긴다.”

AI 생성 이야기의 반복 단어가 출판 문학, 웹 소설, 사후 훈련 데이터에 얼마나 자주 나타나는지 비교한 표. Elias와 lighthouse 같은 용어는 챗봇 소설에서 훨씬 더 빈번하다.

강조된 11개 단어는 생성된 2만 편의 88%에 나타났고 모델 간 차이는 작았다. 저자들은 이 단어들이 출판된 영어 문학에서는 드물며, 모델을 “허용 가능한” 사용으로 조건화하고 정렬하는 사후 훈련 데이터가 원인일 수 있다고 강조한다.

논문은 다음과 같이 말한다.

“아래의 전형적 예에는 거의 모든 2만 편에 공통인 세 요소, 즉 장소(19,864편), 등장인물 이름(19,864편), 직업(15,807편)이 드러난다.”

“구체적 장소인 등대, 이름 Elias, 직업 keeper는 전체 생성 이야기의 66.6%에서 어떤 조합으로든 나타난다. 빛도 공통 주제다. Claude 이야기의 56%가 ‘The Lighthouse Keeper’s Secret’이라는 제목이고, light는 16,784편에서 이야기당 평균 3.2회 등장한다.”

논문에 따르면 이 예는 “이야기를 써라”는 지시에 Google Gemini 3.1 Flash-Lite가 작성했다.

연구 저자들은 추출된 모든 핵심어와 이름에서 향수적 또는 격세유전적 경향을 확인했다.

특성의 근원을 추적하다

반복되는 등대 이야기가 일반적인 소설 노출로 설명되는지 시험하기 위해 모델이 선호하는 단어를 여러 대규모 영어 코퍼스와 비교했다. 현대 소설에는 2007~2021년 출판된 12개 장르, 약 2억8,700만 단어의 영문 소설 2,700권을 담은 CONLIT을 사용했다.

“Elias”는 생성 이야기에서 출판 소설보다 약 900배 자주 등장했다. Reddit /r/writingprompts의 아마추어 소설은 출판물과 비슷한 빈도를 보여 이 패턴이 인간의 일반적 서사 습관도 반영하지 않음을 시사했다.

사전 훈련 데이터를 살펴봐도 같았다. 일부가 Common Crawl에서 온, 주로 인간 작성 문서 약 38억9천만 개를 담은 공개 OLMo 3 코퍼스에서 반복 “Core” 단어는 거의 나타나지 않았다.

OLMo 3의 상당 부분이 비소설이라 GPT-OSS 20b 주석과 균형 표본 20만 개로 학습한 FastText 모델로 소설 분류기를 만들었다. 소설만 걸러도 Elara 같은 단어의 빈도는 AI 생성 이야기보다 미미했다. 그렇다면 왜 최소한의 소설 작성 지시에서 이 단어들이 지배적인가?

저자들은 말한다.

“Core 단어가 웹 데이터에 흔하지 않다면 남는 원천은 사후 훈련 데이터다. 그러나 OLMo의 사후 훈련 데이터에서도 이 토큰들의 비율은 CONLIT보다 낮다.”

OLMo 3 사후 훈련 데이터의 이야기 78,958편에서 Elias는 100만 단어당 52.7회로 CONLIT의 2.7회보다 많았지만, 연구의 생성 이야기에서는 2,428회에 달했다.

반복되는 Core 이야기의 출처를 찾기 위해 OLMo 3 사후 훈련 이야기마다 Elara, Mara 등 하나 이상의 Core 토큰 존재 여부를 채점했다. WildChat 등이 59,266편을 제공했으므로 대부분은 지도 미세조정 데이터에서 나올 것으로 예상됐다.

하지만 Core 용어를 포함한 것은 1,803편뿐이었고, DPO와 강화학습 데이터에서 더 높은 농도가 나타났다.

전체적으로 반복 Core 어휘는 3,053편, 조사한 사후 훈련 이야기의 3.8%에서만 추적됐다. 이렇게 작은 코퍼스 부분이 관측된 수준으로 출력을 지배할 통계적 가능성은 없다.

논문은 결론짓는다.

“방향을 거의 주지 않으면 현재 최전선 모델은 좁은 이름·장소·직업 목록으로 이야기를 쓴다. 반복 인물에는 등대지기 Elias가 있다. Elias는 특이하다. 문학, 웹 데이터, 심지어 사후 훈련 데이터에서도 흔치 않은 이름이다.”

결론

저자들이 찾은 상위 11개 단어 전부나 대부분을 담은 단일 문학 작품이나 시리즈가 없는 상황에서, 서로 다른 데이터와 방식으로 훈련된 여러 LLM의 가장 낮은 층에 이 단어 묶음이 어떻게 축적되고 결합됐는지는 전혀 분명하지 않다.

저작권 필터가 제약한다는 연구진의 주장이 맞더라도, 훈련 데이터에 있는 고전문학의 광대한 바다는 이런 낡은 단어 묶음이 무조건적인 “써라” 지시를 지배하지 못하게 했어야 한다.

그러나 이 이론은 방대한 고전문학이 애초에 훈련에 포함됐다고 가정한다. 목표는 가짜 디킨스풍 작품을 쏟는 모델이 아니라 현대 어휘와 비즈니스 수요를 다루는 모델이므로 가능성은 낮다. 산업화 이전 문학만 해도 너무 방대하다.

어쨌든 저자들이 지적한 “집착적” 요소를 섞어 가진 특정 이야기가 하나라도 있다면 더 쉽게 찾을 수 있어야 한다. 저자도 찾지 못했고 AI 이전 시대를 대상으로 한 일반 검색에도 후보가 없다. “등대 증후군”이 AI의 em 대시만큼 유명해진다면 학계 누군가가 답을 제시할지도 모른다.

* May의 글은 읽어 보면 이유가 분명해질 수 있어 더 자세히 다룰 수 없다.

2026년 5월 27일 수요일 최초 게시. Anthropic 링크 수정을 위해 최초 30분 안에 변경.