Andersonの視点

AIはなぜ灯台守について書くのが好きなのか?

mm
Unite.AI を Google の優先ソースに追加
AI-generated image (GPT-2): Infinite identical lighthouse keepers stand screaming along a rain-soaked stone causeway above a violent sea, while matching lighthouses repeat into the distance beneath dark storm clouds, creating a photoreal recursive landscape.

「物語を書いて」と頼まれたChatGPTなどの主要な言語モデルは、著作権侵害を避けようとするあまり、灯台守、漁師、時計職人といった同じ少数の奇妙な登場人物を執拗に使っているようだ。

 

コーネル大学の新たな研究によると、主要な言語モデルには、単に「物語を書いて」と指示された際に、極めて狭い範囲の物語要素を使う奇妙な偏りがある。4つのLLMに2万本の物語を書かせたところ、生成された物語の88%に、11個の非常に特定的なトークンの少なくとも1つが含まれていた。これらは「場所」、「名前」、「職業」のカテゴリーに属していた。

研究者らがLLM生成物語2万本を分析して得た、意外なキーワードの100万語あたりの出現回数。

研究者らがLLM生成物語2万本を分析して得た、意外なキーワードの出現頻度。ここでは100万語あたりの回数で示す。 出典

研究用にLLMが生成した1,200万語超の中で最も頻繁に再登場した11語は、名前の elias、mara、elara、職業の keeper、baker、mayor、clockmaker、fisherman、librarian、conductor、そして場所の lighthouse だった。

テストされたモデルは、Claude Haiku 4.5、Gemini 3.1 Flash-Lite、GPT-5.4-Mini、OLMo 7b Thinking である。いずれにも、次の5種類の依頼のいずれかが与えられた。「Write a story」(物語を書いて)、「Please write a story」(物語を書いてください)、「Write me a story」(私に物語を書いて)、「Tell me a story」(物語を聞かせて)、「Please tell a story」(物語を聞かせてください)。

論文が示した現象が執筆時点のモデルにもあるのか確かめたくなり、まず普段使っている中位プランのChatGPTアカウントで実験した(会話へのリンクはこちら)。都合のよい結果を選ぶ必要はなかった。ChatGPT-5.5は最初の一回で、研究者が予測した題材をそのまま選んだ。

ChatGPT-5.5が論文の最初の発見を直ちに裏付けた例。

ChatGPT-5.5は論文の初期結果を直ちに裏付けた。 出典

過去の利用履歴、あるいは別領域からの情報漏れがこの「一発的中」を生んだ可能性を考え、Firefoxのプライベートウィンドウから、1年以上使っていない無料ChatGPTアカウントにログインして再試行した(会話はこちら)。OpenAIが同じIPアドレスで別アカウント間の情報を共有していないとすれば、今回もChatGPTは完璧に的中した。

2つ目のChatGPTアカウントも、新論文が示す少数の名前やテーマへの同じ偏りを示した例。

2つ目のChatGPTアカウントも、新論文が示す名前とテーマへの同じ執着と狭い型に従った。「Mira」は著者らの上位20語に含まれる。 出典

これらのGPT版は、論文で検証された5.4より一段上のバージョンだった点には留意すべきだ。

論文ではClaude Haikuが検証されたが、私はAnthropicの標準モデルSonnet 4.6を試した。期待は裏切られず、またしても最初の一回でおなじみのキーワードが現れた(会話はこちら)。

Claude Sonnet 4.6への最初の依頼で、上位11語の常連「Mara」が主人公になった例。

今回は「上位11語」の常連である「Mara」が、Claude Sonnet 4.6への最初の依頼で物語の主人公になった。 出典

Claude Haiku 4.5で同じ指示を試しても、ほぼ同じ結果になった。

Google Geminiでは当初、著者らの結果を再現できなかった。だが論文で使われたGemini 3.1 Flash-Liteに明示的に切り替えると、通算3回目、そのモデルでは最初の試行で、すぐに同じパターンが現れた(リンクはこちら)。

Google Gemini 3.1 Flash-Liteの応答例。

Google Gemini 3.1 Flash-Lite。 出典

別のGeminiモデルでさらに試すと、「上位11語」にない「Thomas」や、別の例では私自身の名前を主人公にする変種はあったものの、灯台というテーマは例外なく現れた。

いずれにせよ、執筆時点では論文の発見を再現するのは極めて容易である。

現実世界に現れた灯台

優れた発想は重なるものだ。新論文の公開1週間前、ソフトウェア関連の著述家Daniel Mayは、研究者らが抽出した組み合わせの一致を指摘していた。それはEliasと灯台守という定番の組み合わせで、本人はどうやら偶然気付いたようだ*。その後Gemini、DeepSeek、Qwen、Gemmaの8種類を試すと、lighthouse(灯台)のミームと主人公「Elias Thorne」が生成されたという*。ただし、この最初の発見は新論文が示した持続的な内容テーマの広い範囲までは及ばなかった。

繰り返されるテーマ、名前、場所がチャットの外へ出たことがあるのか確かめるため、上位11語とテーマの一部をGoogleで検索したところ、それらを取り込んだように見える投稿が驚くほど多数見つかった。

出力に現れたミームの3例。出典リンクは本文を参照。

出力に現れたミームの3例。出典リンクは以下を参照。

Mayは単なる「Elias」ではなく、より長い「Elias Thorne」を持続的なLLMミームとして特定し、この名前が医療書を含むさまざまな本の著者名として使われているらしいAmazonのスクリーンショットを複数掲載した。

そこで私は、LLM由来の持続的テーマを使ったように見えるコンテンツを探した。物語のX投稿(保存版はこちら)、フィクション作品(保存版はこちら)、YouTubeの朗読付き物語(保存版はこちら)などである。ほかにも大量にあったが、時間の都合で追跡できなかった。

過去への嗜好

偶然の観察はここまでだ。持続的な特徴のすべて、あるいは大半を含む単一の「魔法の文書」は訓練データから見つかっていない。しかしコーネル大学の研究者2名による新論文「Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories(また灯台のElias? LLMの物語の多様性の低さを診断する)」の著者らは、AI開発における著作権フィルターが、LLMの物語出力を著作権切れの題材へ制限している可能性を論じている。

著者らは次のように述べる。

「『灯台のElias』物語が優勢であることは、事前訓練または事後訓練データでの出現頻度では説明できない。モデルはアラインメント中に著作権で保護された登場人物や成人向け内容への言及を避けるよう訓練されている可能性があると推測するが、この問いは今後の研究に委ねる」

カテゴリ トークン 本研究 文学 事前訓練:ノンフィクション 事前訓練:フィクション 事後訓練:ノンフィクション 事後訓練:フィクション
名前 elias 2,428 2.7 2.2 4.0 0.4 52.7
名前 mara 5,200 3.9 2.5 8.7 0.4 21.7
名前 elara 1,221 0.0 0.4 1.2 0.9 108
職業 keeper 1,495 7.2 6.3 14.7 3.5 10.0
職業 baker 161 20 11.8 10.56 1.7 11.9
職業 mayor 198 28 11.5 16.1 1.4 27.4
職業 clockmaker 108 0.1 0.18 0.0 0.3 1.4
職業 fisherman 62 4.2 3.0 7.6 0.0 9.3
職業 librarian 68 5.3 7.6 5.9 2.3 11.5
職業 conductor 96 5.0 5.9 5.7 4.7 7.5
場所 lighthouse 3,005 5.5 3.5 4.6 4.6 10.1

AI生成物語で繰り返される語が、出版文学、ウェブ小説、事後訓練データセットにどれほど現れるかを比較した表。「Elias」や「lighthouse」などはチャットボットが書いた小説で桁違いに多い。

研究では、強調された11語が生成された2万本の物語の88%に現れ、モデル間の差は小さいことが分かった。著者らは、これらの語が英語の出版文学では珍しく、モデルを「許容可能」な利用へ条件付けてアラインメントするための事後訓練データが原因になり得ると強調する。

論文は次のように述べる。

「以下に示す典型例には、2万本近い物語に共通する3要素、すなわち場所(19,864本)、登場人物名(19,864本)、職業(15,807本)が含まれている」

「実際、この物語の特定の場所(「lighthouse」、灯台)、名前(「Elias」)、職業(「keeper」、番人)は、生成された全物語の66.6%に何らかの組み合わせで現れる。光も共通テーマで、Claudeが生成した物語の56%は『The Lighthouse Keeper’s Secret』という題名であり、『light』という語は16,784本に、1本あたり平均3.2回現れる」

論文によれば、Google Gemini 3.1 Flash-Liteが「Write a story」(物語を書いて)という指示に応じて書いた例。

論文によれば、この例は「Write a story」(物語を書いて)という指示に対してGoogle Gemini 3.1 Flash-Liteが書いた。

研究著者らが、抽出されたすべてのキーワードと名前に郷愁的、あるいは先祖返り的な傾向を見いだしている点も注目に値する。

特徴を追う

繰り返される「灯台」物語が通常の小説への接触で説明できるか確かめるため、モデルが好む反復語を複数の大規模英語コーパスと比較した。現代小説には、2007~2021年に刊行された12ジャンル、約2億8,700万語の英語小説2,700冊を収録するCONLITを用いた。

「Elias」は生成物語で出版小説の約900倍も多く現れた。 Redditの/r/writingpromptsコミュニティによるアマチュア小説でも出版物と近い頻度であり、この型が人間一般の物語習慣を反映したものではないことが示された。

事前訓練データを調べても同じ傾向だった。OLMo 3コーパスは公開されており、Common Crawl由来を一部含む、主に人間が書いた約38億9,000万文書から成るが、反復する「Core」語はほとんど出現しなかった。

OLMo 3の多くはノンフィクションのため、GPT-OSS 20bの注釈と、均衡化した20万件で学習したFastTextモデルで小説分類器を構築した。小説だけに絞っても「Elara」などの語はAI生成物語と比べてごくわずかだった。では、LLMに最小限の指示で小説を書かせた時、なぜこれらが支配的になるのか。

著者らは次のように述べる。

「Core語がウェブデータで一般的でないなら、残る供給源は事後訓練データである。しかしOLMoの事後訓練データでは、これらのトークンはCONLITより低い割合でしか現れない」

OLMo 3の事後訓練データセットに含まれる78,958本の物語では、「Elias」は100万語あたり52.7回だった。CONLITの2.7回より多いが、本研究で調べた生成物語では100万語あたり2,428回に達した。

反復する「Core」物語の由来を調べるため、OLMo 3の事後訓練データにある各物語を、ElaraやMaraなど1個以上のCoreトークンの有無で採点した。WildChatなどが59,266本をOLMo 3に提供しているため、大半は教師あり微調整(SFT)データにあると予想された。

しかしCore語を含むものは1,803本だけで、DPOや強化学習用のデータセットの方が濃度は高かった。

全体として、反復するCore語彙を含む物語は3,053本、調査した全事後訓練物語の3.8%にすぎなかった。これほど小さなコーパス部分が、観測されたように出力を支配することは統計的にあり得ない。

論文は次のように結論づける。

「ほとんど方向を与えられないと、現在の最先端モデルは狭い範囲の名前、場所、職業を使って物語を書く。繰り返し登場する人物には灯台守のEliasがいる。Eliasは異例で、この名前は文学、ウェブデータ、さらには事後訓練データでも一般的ではない」

結論

著者らが特定した上位11語を含む単一の文学作品もシリーズも存在しない以上、この語の集合が、訓練データと手法の異なる複数の大規模言語モデルの最下層で、どのように集積し互いに結び付いたのかは全く明らかでない。

著作権フィルターの制約効果という研究者らの主張が正しいとしても、訓練データにある古典文学の文字通り膨大な海が、こうした古風な語の奇妙な集合が無条件の「書け」という指示の出力を支配するのを防ぐはずだ。

ただしその理論は、そもそも大量の古典文学が訓練に含まれていたことを前提とする。求められているのはディケンズ風作品を量産するモデルではなく、現代語彙を扱い現在のビジネス需要に適するモデルであり、その前提は考えにくい。産業革命以前の文学だけでも、その膨大な量が収録を不可能にするほどだ。

いずれにせよ、著者らが指摘する「執着的」特徴を組み替えて含む特定の物語が一つでも存在するなら、もっと簡単に見つかるはずだ。著者自身も発見できず、AI以前を対象にした通常の検索でも候補は出ない。「灯台症候群」がAIのemダッシュと同じほど有名になれば、学術的な権威が答えを示してくれるかもしれない。

 

* Mayの記事は、読めば理由が分かるかもしれないが、これ以上詳しく扱うことができない。

初出:2026年5月27日(水)。Anthropicへのリンクを修正するため、公開後30分以内に更新。

機械学習のライターで、人間画像合成の専門家です。Metaphysic.ai の研究コンテンツ部門の元責任者で、DNEG の Brahma.ai に統合されるまで勤務していました。
ウェブサイト: martinanderson.ai
連絡先: martin@martinanderson.ai