Andersonの視点

AIはなぜ灯台の番人について書くことを愛しているのか?

mm
Unite.AI を Google の優先ソースに追加
AI-generated image (GPT-2): Infinite identical lighthouse keepers stand screaming along a rain-soaked stone causeway above a violent sea, while matching lighthouses repeat into the distance beneath dark storm clouds, creating a photoreal recursive landscape.

「物語を書いて」と頼まれたChatGPTなどの主要な言語モデルは、著作権侵害を避けようとするあまり、灯台守、漁師、時計職人といった同じ少数の奇妙な登場人物を執拗に使っているようだ。

 

コーネル大学の新たな研究によると、主要な言語モデルには、単に「物語を書いて」と指示された際に、極めて狭い範囲の物語要素を使う奇妙な偏りがある。4つのLLMに2万本の物語を書かせたところ、88%に「場所」「名前」「職業」のカテゴリーに属する11個の特定トークンのうち少なくとも1つが含まれていた。

The occurrences of unlikely keywords, represented here in parts per million, obtained by the researchers' analysis of 20,000 LLM-generated stories. Source - https://arxiv.org/pdf/2605.26492

The occurrences of unlikely keywords, represented here in parts per million, obtained by the researchers’ analysis of 20,000 LLM-generated stories. Source

研究用にLLMが生成した1,200万語超の中で最も頻繁に再登場した11語は、名前の elias、mara、elara、職業の keeper、baker、mayor、clockmaker、fisherman、librarian、conductor、そして場所の lighthouse だった。

テストされたモデルは、Claude Haiku 4.5、Gemini 3.1 Flash-Lite、GPT-5.4-Mini、OLMo 7b Thinking である。いずれにも「物語を書いて」「物語を書いてください」「私に物語を書いて」「物語を聞かせて」「物語を聞かせてください」の5種類の依頼のいずれかが与えられた。

論文が示した現象が執筆時点のモデルにもあるのか確かめたくなり、まず普段使っている中位プランのChatGPTアカウントで実験した(会話へのリンクはこちら)。都合のよい結果を選ぶ必要はなかった。ChatGPT-5.5は最初の一回で、研究者が予測した題材をそのまま選んだ。

ChatGPT-5.5 immediately backs up the paper's initial findings. Source - https://chatgpt.com/share/6a16b1f0-eb40-83eb-8380-1d5cdf0ea955

ChatGPT-5.5は論文の初期結果を直ちに裏付けた。 出典

過去の利用履歴、あるいは別領域からの情報漏れがこの「一発的中」を生んだ可能性を考え、Firefoxのプライベートウィンドウから、1年以上使っていない無料ChatGPTアカウントにログインして再試行した(会話はこちら)。OpenAIが同じIPアドレスで別アカウント間の情報を共有していないとすれば、今回もChatGPTは完璧に的中した。

ChatGPT account #2 follows the same obsessions and tiny playbook of names and themes outlined in the new paper. Source - https://chatgpt.com/share/6a16b210-d450-83ea-936e-78c6062ca74d

2つ目のChatGPTアカウントも、新論文が示す名前とテーマへの同じ執着と狭い型に従った。「Mira」は著者らの上位20語に含まれる。 出典

これらのGPT版は、論文で検証された5.4より一段上の世代だった点には留意すべきだ。

論文ではClaude Haikuが検証されたが、私はAnthropicの標準モデルSonnet 4.6を試した。期待は裏切られず、またしても最初の一回でおなじみのキーワードが現れた(会話はこちら)。

This time 'Mara', another stalwart from the 'top 11', leads the story, in the first attempt on Claude Sonnet 4.6. Source - https://claude.ai/share/7728f86c-9ea8-499c-8360-10097ca4a0e1

今回は「上位11語」の常連である「Mara」が、Claude Sonnet 4.6への最初の依頼で物語の主人公になった。 出典

Claude Haiku 4.5で同じ指示を試しても、ほぼ同じ結果になった。

Google Geminiでは当初、著者らの結果を再現できなかった。だが論文で使われたGemini 3.1 Flash-Liteに明示的に切り替えると、通算3回目、そのモデルでは最初の試行で、すぐに同じパターンが現れた(リンクはこちら)。

Google Gemini 3.1 Flash-Lite. Source - https://gemini.google.com/share/82c245884ec1

Google Gemini 3.1 Flash-Lite。 出典

別のGeminiモデルでさらに試すと、「上位11語」にない「Thomas」や、別の例では私自身の名前を主人公にする変種はあったものの、灯台というテーマは例外なく現れた。

いずれにせよ、執筆時点では論文の発見を再現するのは極めて容易である。

現実世界に現れた灯台

優れた発想は重なるものだ。新論文の公開1週間前、ソフトウェア著者Daniel Mayは、研究者らが抽出した「Elias」と「灯台守」という型の一致を偶然見つけて指摘していた*。Gemini、DeepSeek、Qwen、Gemmaの8種類を試すと、灯台のミームと主人公「Elias Thorne」が生成されたという*。ただし、この発見は新論文が示した持続的テーマの広い範囲までは及ばなかった。

繰り返されるテーマ、名前、場所がチャットの外へ出たことがあるのか確かめるため、上位11語とテーマの一部をGoogleで検索したところ、それらを取り込んだように見える投稿が驚くほど多数見つかった。

Three examples of the meme in output. See below for source links.

出力に現れたミームの3例。出典リンクは以下を参照。

Mayは単なる「Elias」ではなく、より長い「Elias Thorne」を持続的なLLMミームとして特定し、この名前が医療書を含むさまざまな本の著者名として使われているAmazonのスクリーンショットを複数掲載した。

そこで私は、LLM由来の持続的テーマを使ったように見えるコンテンツを探した。物語のX投稿(保存版はこちら)、フィクション作品(保存版はこちら)、YouTubeの朗読付き物語(保存版はこちら)などである。ほかにも大量にあったが、時間の都合で追跡できなかった。

過去への嗜好

偶然の観察はここまでだ。持続的な特徴のすべて、あるいは大半を含む単一の「魔法の文書」は訓練データから見つかっていない。しかしコーネル大学の研究者2名による新論文「Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories」は、AI開発における著作権フィルターが、LLMの物語出力を著作権切れの題材へ制限している可能性を示している。

著者らは次のように述べる。

「『灯台のElias』物語が優勢であることは、事前訓練または事後訓練データでの出現頻度では説明できない。モデルはアラインメント中に著作権で保護された登場人物や成人向け内容への言及を避けるよう訓練されている可能性があると推測するが、この問いは今後の研究に委ねる」

カテゴリ トークン 私たちのもの 文学 事前非フィクション 事前フィクション 事後非フィクション 事後フィクション
名前 エリアス 2,428 2.7 2.2 4.0 0.4 52.7
名前 マラ 5,200 3.9 2.5 8.7 0.4 21.7
名前 エララ 1,221 0.0 0.4 1.2 0.9 108
職業 番人 1,495 7.2 6.3 14.7 3.5 10.0
職業 パン屋 161 20 11.8 10.56 1.7 11.9
職業 市長 198 28 11.5 16.1 1.4 27.4
職業 時計職人 108 0.1 0.18 0.0 0.3 1.4
職業 漁師 62 4.2 3.0 7.6 0.0 9.3
職業 司書 68 5.3 7.6 5.9 2.3 11.5
職業 指揮者 96 5.0 5.9 5.7 4.7 7.5
場所 灯台 3,005 5.5 3.5 4.6 4.6 10.1

AI生成物語で繰り返される語が、出版文学、ウェブ小説、事後訓練データセットにどれほど現れるかを比較した表。「Elias」や「lighthouse」などはチャットボットが書いた小説で桁違いに多い。

研究では、強調された11語が生成された2万本の物語の88%に現れ、モデル間の差は小さいことが分かった。著者らは、これらの語が英語の出版文学では珍しく、モデルを「許容可能」な利用へ条件付けてアラインメントするための事後訓練データが原因になり得ると強調する。

論文は次のように述べる。

「以下に示す典型例には、2万本近い物語に共通する3要素、すなわち場所(19,864本)、登場人物名(19,864本)、職業(15,807本)が含まれている」

「実際、この物語の特定の場所(灯台)、名前(Elias)、職業(keeper)は、生成された全物語の66.6%に何らかの組み合わせで現れる。光も共通テーマで、Claudeが生成した物語の56%は『The Lighthouse Keeper’s Secret』という題名であり、『light』という語は16,784本に、1本あたり平均3.2回現れる」

This example, the paper states, was written by Google Gemini 3.1 Flash-Lite, in response to the prompt 'Write a story'.

論文によれば、この例は「物語を書いて」という指示に対してGoogle Gemini 3.1 Flash-Liteが書いた。

研究著者らが、抽出されたすべてのキーワードと名前に郷愁的、あるいは先祖返り的な傾向を見いだしている点も注目に値する。

特徴を追う

繰り返される「灯台」物語が通常の小説への接触で説明できるか確かめるため、モデルが好む反復語を複数の大規模英語コーパスと比較した。現代小説には、2007~2021年に刊行された12ジャンル、約2億8,700万語の英語小説2,700冊を収録するCONLITを用いた。

「Elias」は生成物語で出版小説の約900倍も多く現れた。 Redditの/r/writingpromptsコミュニティによるアマチュア小説でも出版物と近い頻度であり、この型が人間一般の物語習慣を反映したものではないことが示された。

事前訓練データを調べても同じ傾向だった。OLMo 3コーパスは、Common Crawl由来を一部含む、主に人間が書いた約38億9,000万文書から成るが、反復する「Core」語はほとんど出現しなかった。

OLMo 3の多くはノンフィクションのため、GPT-OSS 20bの注釈と、均衡化した20万件で学習したFastTextモデルで小説分類器を構築した。小説だけに絞っても「Elara」などの語はAI生成物語と比べてごくわずかだった。では、LLMに最小限の指示で小説を書かせた時、なぜこれらが支配的になるのか。

著者らは次のように述べる。

「Core語がウェブデータで一般的でないなら、残る供給源は事後訓練データである。しかしOLMoの事後訓練データでは、これらのトークンはCONLITより低い割合でしか現れない」

OLMo 3の事後訓練データセットに含まれる78,958本の物語では、「Elias」は100万語あたり52.7回だった。CONLITの2.7回より多いが、本研究で調べた生成物語では100万語あたり2,428回に達した。

反復する「Core」物語の由来を調べるため、OLMo 3の事後訓練データにある各物語を、ElaraやMaraなど1個以上のCoreトークンの有無で採点した。WildChatなどが59,266本をOLMo 3に提供しているため、大半は教師あり微調整(SFT)データにあると予想された。

しかしCore語を含むものは1,803本だけで、DPOや強化学習用のデータセットの方が濃度は高かった。

全体として、反復するCore語彙を含む物語は3,053本、調査した全事後訓練物語の3.8%にすぎなかった。これほど小さなコーパス部分が、観測されたように出力を支配することは統計的に説明できない。

論文は次のように結論づける。

「ほとんど方向を与えられないと、現在の最先端モデルは狭い範囲の名前、場所、職業を使って物語を書く。繰り返し登場する人物には灯台守のEliasがいる。Eliasは異例で、この名前は文学、ウェブデータ、さらには事後訓練データでも一般的ではない」

結論

著者らが特定した上位11語をすべて、あるいは大半含む単一の文学作品もシリーズも存在しない以上、この語の集合が、訓練データと手法の異なる複数の大規模言語モデルの最下層で、どのように集積し互いに結び付いたのかは全く明らかでない。

著作権フィルターの制約効果という研究者らの主張が正しいとしても、訓練データにある古典文学の文字通り膨大な海が、こうした古風な語の奇妙な集合が無条件の「書け」という指示の出力を支配するのを防ぐはずだ。

ただしその理論は、そもそも大量の古典文学が訓練に含まれていたことを前提とする。求められているのはディケンズ風作品を量産するモデルではなく、現代語彙を扱い現在のビジネス需要に適するモデルであり、その前提は考えにくい。産業革命以前の文学だけでも量が膨大で、すべてを含めるのは難しい。

いずれにせよ、著者らが指摘する「執着的」特徴を組み替えて含む特定の物語が一つでも存在するなら、もっと簡単に見つかるはずだ。著者自身も発見できず、AI以前を対象にした通常の検索でも候補は出ない。「灯台症候群」がAIのemダッシュと同じほど有名になれば、学術的な権威が答えを示してくれるかもしれない。

 

* Mayの記事は、読めば理由が分かるかもしれないが、これ以上詳しく扱うことができない。

初出:2026年5月27日(水)。Anthropicへのリンクを修正するため、公開後30分以内に更新。

機械学習のライターで、人間画像合成の専門家です。Metaphysic.ai の研究コンテンツ部門の元責任者で、DNEG の Brahma.ai に統合されるまで勤務していました。
ウェブサイト: martinanderson.ai
連絡先: martin@martinanderson.ai