มุมมองของ Anderson

ทำไม AI จึงชอบเขียนเรื่องผู้ดูแลประภาคาร?

Martin Anderson
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
AI-generated image (GPT-2): Infinite identical lighthouse keepers stand screaming along a rain-soaked stone causeway above a violent sea, while matching lighthouses repeat into the distance beneath dark storm clouds, creating a photoreal recursive landscape.
ประเด็นสำคัญโมเดลภาษาต่างๆ มาบรรจบกันที่เอเลียส ผู้ดูแลประภาคาร…
ดูเพิ่มเติม
  • โมเดลภาษาต่างๆ มาบรรจบกันที่เอเลียส ผู้ดูแลประภาคาร เพราะตัวกรองลิขสิทธิ์อาจตัดเนื้อหานิยายที่สมบูรณ์กว่าออกไป
  • คำที่ปรากฏซ้ำๆ แทบไม่พบในนิยายที่ตีพิมพ์หรือคลังข้อมูลฝึกสอน ดังนั้นความชุกของข้อมูลจึงไม่อาจอธิบายความหมกมุ่นนี้ได้
  • เรื่องราวหลังการฝึกเพียงเศษเสี้ยวเล็กๆ ไม่สามารถครอบงำผลลัพธ์ของโมเดลในเชิงสถิติได้เหมือนที่โทรปประภาคารทำ

เมื่อถูกขอให้ “เขียนเรื่องหนึ่ง” ChatGPT และโมเดลภาษาชั้นนำอื่น ๆ ดูเหมือนพยายามหลีกเลี่ยงการละเมิดลิขสิทธิ์ด้วยการหวนกลับไปใช้ตัวละครแปลก ๆ กลุ่มเล็กเดิมซ้ำแล้วซ้ำเล่า เช่น ผู้ดูแลประภาคาร ชาวประมง และช่างทำนาฬิกา

 

งานวิจัยใหม่จากมหาวิทยาลัย Cornell พบว่า เมื่อได้รับเพียงคำสั่ง “เขียนเรื่องหนึ่ง” โมเดลภาษาชั้นนำดูเหมือนจะหมกมุ่นผิดปกติกับองค์ประกอบการเล่าเรื่องชุดแคบมาก นักวิจัยขอให้ LLM สี่รุ่นเขียนเรื่อง 20,000 เรื่อง และพบว่า 88% มีอย่างน้อยหนึ่งใน 11 โทเคนที่ เฉพาะเจาะจงมาก จากหมวด สถานที่ ชื่อ หรือ อาชีพ

ความถี่ต่อหนึ่งล้านคำของคำสำคัญที่คาดไม่ถึงในเรื่อง 20,000 เรื่องจาก LLM

จำนวนครั้งต่อหนึ่งล้านคำของคำสำคัญที่พบอย่างคาดไม่ถึง จากการวิเคราะห์เรื่อง 20,000 เรื่องที่ LLM สร้างขึ้น แหล่งที่มา

คำ 11 คำที่เกิดซ้ำบ่อยที่สุดในข้อความกว่า 12 ล้านคำ ได้แก่ชื่อ elias, mara, elara; อาชีพ keeper, baker, mayor, clockmaker, fisherman, librarian, conductor; และสถานที่ lighthouse

โมเดลที่ทดสอบคือ Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini และ OLMo 7b Thinking แต่ละรุ่นได้รับหนึ่งในห้าคำขอ ได้แก่ Write a story; Please write a story; Write me a story; Tell me a story; หรือ Please tell a story

เพื่อดูว่าปรากฏการณ์ที่งานวิจัยพบมีอยู่ในโมเดลที่เปิดให้ใช้ขณะเขียนบทความหรือไม่ ฉันจึงทดลองด้วยตัวเอง โดยเริ่มจากบัญชี ChatGPT แพ็กเกจระดับกลางที่ใช้ประจำ (บทสนทนาอยู่ที่นี่) ไม่ต้องเลือกเฉพาะผลที่เข้าทาง เพราะ ChatGPT-5.5 เลือกเนื้อหาตามที่นักวิจัยคาดไว้ตั้งแต่ครั้งแรก

ChatGPT-5.5 ยืนยันข้อค้นพบเบื้องต้นตั้งแต่การลองครั้งแรก

ChatGPT-5.5 สนับสนุนข้อค้นพบเบื้องต้นของงานวิจัยทันที แหล่งที่มา

ฉันสงสัยว่าบริบทจากบทสนทนาเก่า หรือแม้แต่ข้อมูลที่อาจรั่วไหลระหว่างบริการ อธิบายผลที่ตรงเป้าตั้งแต่ครั้งแรกนี้ได้หรือไม่ จึงเข้าสู่บัญชี ChatGPT ฟรีที่ไม่ได้ใช้มาอย่างน้อยหนึ่งปีผ่านหน้าต่างส่วนตัวของ Firefox แล้วลองอีกครั้ง (บทสนทนาอยู่ที่นี่) หากสมมติว่า OpenAI ไม่ใช้ IP เดียวกันถ่ายโอนข้อมูลระหว่างบัญชี ChatGPT ก็ยังตอบตรงเป้าอีกครั้ง

บัญชี ChatGPT ที่สองใช้ชื่อและธีมชุดจำกัดเดียวกัน

บัญชี ChatGPT ที่สองยังยึดติดกับชื่อและธีมชุดเล็กแบบเดียวกับงานวิจัยใหม่ โดย “Mira” อยู่ใน 20 ชื่อที่พบบ่อยที่สุดตามการนับของผู้เขียน แหล่งที่มา

ควรสังเกตว่า GPT เหล่านี้อยู่สูงกว่ารุ่น 5.4 ที่ทดสอบในงานวิจัยหนึ่งระดับ

แม้งานวิจัยทดสอบ Claude Haiku ฉันลอง Sonnet 4.6 ซึ่งเป็นค่าเริ่มต้นของ Anthropic และก็ไม่ผิดหวัง คำสำคัญคุ้นเคยปรากฏตั้งแต่ครั้งแรกอีกครั้ง (บทสนทนาที่นี่)

Mara เป็นตัวเอกตั้งแต่การลองครั้งแรกกับ Claude Sonnet 4.6

ครั้งนี้ “Mara” หนึ่งในคำหลัก 11 อันดับแรก นำเรื่องตั้งแต่การลองครั้งแรกกับ Claude Sonnet 4.6 แหล่งที่มา

การใช้คำสั่งเดียวกันกับ Claude Haiku 4.5 ให้ผลแทบเหมือนกัน

ตอนแรกฉันทำซ้ำข้อค้นพบใน Google Gemini ไม่ได้ จนเลือก Gemini 3.1 Flash-Lite ตามงานวิจัยโดยเฉพาะ แล้วรูปแบบก็ปรากฏทันทีในการลองรวมครั้งที่สาม แต่เป็นครั้งแรกกับโมเดลนี้ (ลิงก์ที่นี่)

คำตอบจาก Google Gemini 3.1 Flash-Lite

Google Gemini 3.1 Flash-Lite แหล่งที่มา

การทดลองเพิ่มเติมกับ Gemini รุ่นอื่นให้ธีมประภาคารทุกครั้ง แม้มีชื่อที่ไม่อยู่ใน 11 อันดับแรก เช่น Thomas หรือในอีกแบบหนึ่งใช้ชื่อของฉันเองเป็นตัวเอก

อย่างไรก็ตาม ณ เวลาที่เขียน ข้อค้นพบของงานวิจัยพิสูจน์ซ้ำได้ง่ายมาก

ประภาคารในโลกจริง

ความคิดที่ดีมักมาบรรจบกัน หนึ่งสัปดาห์ก่อนงานวิจัยใหม่เผยแพร่ Daniel May นักเขียนด้านซอฟต์แวร์ชี้ให้เห็นความบังเอิญของธีม Elias กับ lighthouse keeper ที่นักวิจัยค้นพบ* โดยดูเหมือนว่าเขาสังเกตพบโดยบังเอิญ จากนั้นเขาทดสอบ Gemini, DeepSeek, Qwen และ Gemma แปดรูปแบบ และพบว่าสร้างธีม lighthouse พร้อมตัวเอก “Elias Thorne”* แต่ข้อสังเกตนี้ยังไม่ครอบคลุมชุดธีมที่เกิดซ้ำในขอบเขตกว้างกว่าตามงานวิจัยใหม่

เพื่อดูว่าธีม ชื่อ และสถานที่ซ้ำเหล่านี้หลุดออกจากแชตหรือไม่ ฉันค้นคำและธีมบางส่วนใน 11 อันดับแรกบน Google และพบโพสต์จำนวนมากอย่างน่าประหลาดที่ดูเหมือนใช้สิ่งเหล่านี้

รูปแบบซ้ำสามตัวอย่างในเนื้อหาสาธารณะ มีลิงก์แหล่งที่มาในบทความ

ตัวอย่างรูปแบบซ้ำสามรายการในเนื้อหาสาธารณะ ดูลิงก์แหล่งที่มาด้านล่าง

May ระบุชื่อเต็ม Elias Thorne ไม่ใช่แค่ Elias ว่าเป็นมีม LLM ที่เกิดซ้ำ และโพสต์ภาพจาก Amazon ซึ่งดูเหมือนว่าชื่อนี้ถูกใช้เป็นชื่อผู้แต่งหนังสือหลายประเภท รวมทั้งหนังสือทางการแพทย์

ฉันยังพบเนื้อหาที่ดูเหมือนเรียกใช้ธีมซ้ำจาก LLM ได้แก่ โพสต์เรื่องบน X (ฉบับเก็บที่นี่) งานเรื่องแต่ง (เก็บที่นี่) และเรื่องพร้อมเสียงบรรยายบน YouTube (เก็บที่นี่) ยังมีอีกมากแต่เวลาไม่พอสำรวจ

รสนิยมที่หวนหาอดีต

นั่นคือส่วนของการสังเกตโดยบังเอิญ แม้ยังไม่พบ “เอกสารมหัศจรรย์” ชิ้นเดียวในข้อมูลฝึกที่มีองค์ประกอบซ้ำทั้งหมดหรือส่วนใหญ่ แต่งานวิจัยใหม่ชื่อ “Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories” โดยนักวิจัย Cornell สองคน เสนอว่าตัวกรองลิขสิทธิ์ในการพัฒนา AI อาจจำกัดเรื่องแต่งของ LLM ให้อยู่กับเนื้อหาที่หมดอายุการคุ้มครองลิขสิทธิ์

ผู้เขียนระบุว่า:

“การที่เรื่อง ‘Elias ในประภาคาร’ ครองสัดส่วนสูง ไม่สามารถอธิบายด้วยความแพร่หลายในข้อมูลก่อนหรือหลังการฝึก เราคาดว่าโมเดลถูกฝึกระหว่างการจัดแนวให้หลีกเลี่ยงตัวละครมีลิขสิทธิ์และเนื้อหาสำหรับผู้ใหญ่ แต่ขอทิ้งคำถามนี้ไว้สำหรับงานในอนาคต”

หมวดหมู่ โทเคน งานวิจัยนี้ วรรณกรรม ก่อนฝึก–งานเขียนที่ไม่ใช่เรื่องแต่ง ก่อนฝึก–เรื่องแต่ง หลังฝึก–งานเขียนที่ไม่ใช่เรื่องแต่ง หลังฝึก–เรื่องแต่ง
ชื่อ elias 2,428 2.7 2.2 4.0 0.4 52.7
ชื่อ mara 5,200 3.9 2.5 8.7 0.4 21.7
ชื่อ elara 1,221 0.0 0.4 1.2 0.9 108
อาชีพ keeper 1,495 7.2 6.3 14.7 3.5 10.0
อาชีพ baker 161 20 11.8 10.56 1.7 11.9
อาชีพ mayor 198 28 11.5 16.1 1.4 27.4
อาชีพ clockmaker 108 0.1 0.18 0.0 0.3 1.4
อาชีพ fisherman 62 4.2 3.0 7.6 0.0 9.3
อาชีพ librarian 68 5.3 7.6 5.9 2.3 11.5
อาชีพ conductor 96 5.0 5.9 5.7 4.7 7.5
สถานที่ lighthouse 3,005 5.5 3.5 4.6 4.6 10.1

ตารางเปรียบเทียบความถี่ของคำซ้ำจากเรื่องที่ AI สร้างในวรรณกรรมตีพิมพ์ เรื่องแต่งบนเว็บ และข้อมูลหลังการฝึก โดยคำอย่าง Elias และ lighthouse พบในเรื่องของแชตบอตบ่อยกว่ามาก

คำเด่น 11 คำปรากฏใน 88% ของเรื่อง 20,000 เรื่อง และต่างกันน้อยระหว่างโมเดล ผู้เขียนเน้นว่าคำเหล่านี้หาได้ยากในวรรณกรรมอังกฤษตีพิมพ์ และข้อมูลหลังการฝึกที่ปรับเงื่อนไขและจัดแนวโมเดลสู่การใช้ที่ “ยอมรับได้” อาจเป็นสาเหตุ

งานวิจัยระบุว่า:

“ตัวอย่างทั่วไปด้านล่างแสดงองค์ประกอบสามอย่างที่พบร่วมกันในเกือบทุกเรื่อง 20,000 เรื่อง ได้แก่สถานที่ (19,864 เรื่อง) ชื่อตัวละคร (19,864) และอาชีพ (15,807)”

“สถานที่เฉพาะคือ ‘lighthouse’ ชื่อคือ ‘Elias’ และอาชีพคือ ‘keeper’ องค์ประกอบเหล่านี้ปรากฏในรูปแบบผสมกันแบบใดแบบหนึ่งใน 66.6% ของเรื่องทั้งหมด แสงก็เป็นธีมที่พบบ่อย: 56% ของเรื่องจาก Claude ใช้ชื่อ ‘The Lighthouse Keeper’s Secret’ และคำว่า ‘light’ ปรากฏใน 16,784 เรื่อง เฉลี่ย 3.2 ครั้งต่อเรื่อง”

งานวิจัยระบุว่า Google Gemini 3.1 Flash-Lite เขียนตัวอย่างนี้จากคำขอ Write a story

งานวิจัยระบุว่า Google Gemini 3.1 Flash-Lite เขียนตัวอย่างนี้เพื่อตอบคำขอ “Write a story”

น่าสังเกตด้วยว่าผู้เขียนพบแนวโน้ม หวนหาอดีต หรือย้อนกลับไปสู่ลักษณะเก่าในคำสำคัญและชื่อทั้งหมดที่ค้นพบ

ตามหาร่องรอยของลักษณะซ้ำ

เพื่อทดสอบว่าเรื่องประภาคารซ้ำอธิบายได้ด้วยการสัมผัสเรื่องแต่งทั่วไปหรือไม่ จึงเปรียบเทียบคำโปรดของโมเดลกับคลังภาษาอังกฤษขนาดใหญ่หลายชุด เรื่องแต่งร่วมสมัยใช้ CONLIT ซึ่งมีนวนิยายอังกฤษ 2,700 เล่มจากปี 2007–2021 ครอบคลุม 12 ประเภท รวมประมาณ 287 ล้านคำ

Elias ปรากฏในเรื่องที่สร้างมากกว่าเรื่องแต่งตีพิมพ์ราว 900 เท่า เรื่องแต่งสมัครเล่นจากชุมชน /r/writingprompts บน Reddit มีความถี่ใกล้กับงานตีพิมพ์ แสดงว่ารูปแบบนี้ไม่ได้สะท้อนนิสัยการเล่าเรื่องทั่วไปของมนุษย์เช่นกัน

ข้อมูลก่อนฝึกก็ให้รูปแบบเดียวกัน ในคลัง OLMo 3 แบบเปิดซึ่งมีเอกสารส่วนใหญ่เขียนโดยมนุษย์ราว 3.89 พันล้านฉบับ บางส่วนจาก Common Crawl นักวิจัยพบว่าคำ “Core” ที่เกิดซ้ำเหล่านี้ แทบไม่ปรากฏเลย

เพราะ OLMo 3 ส่วนใหญ่เป็นงานเขียนที่ไม่ใช่เรื่องแต่ง จึงสร้างตัวจำแนกเรื่องแต่งด้วยป้ายกำกับจาก GPT-OSS 20b และโมเดล FastText ที่ฝึกด้วยตัวอย่างสมดุล 200,000 รายการ แม้กรองเฉพาะเรื่องแต่ง คำอย่าง Elara ยังมีอัตราน้อยมากเมื่อเทียบกับเรื่องที่ AI สร้าง แล้วเหตุใดจึงครองการตอบคำสั่งเขียนเรื่องระดับพื้นฐานที่สุด?

ผู้เขียนกล่าวว่า:

“หากคำ Core ไม่แพร่หลายในข้อมูลเว็บ แหล่งหนึ่งที่เหลืออยู่อาจเป็นข้อมูลหลังการฝึก แต่เราพบว่าข้อมูลหลังการฝึกของ OLMo มีโทเคนเหล่านี้ในอัตราต่ำกว่า CONLIT”

ในเรื่อง 78,958 เรื่องจากข้อมูลหลังการฝึก OLMo 3 ชื่อ Elias พบ 52.7 ครั้งต่อหนึ่งล้านคำ เทียบกับ 2.7 ใน CONLIT แต่สูงถึง 2,428 ครั้งในเรื่องที่สร้างซึ่งงานวิจัยตรวจสอบ

เพื่อหาต้นทางของเรื่อง Core ที่เกิดซ้ำ นักวิจัยให้คะแนนแต่ละเรื่องในข้อมูลหลังการฝึก OLMo 3 ตามการมีโทเคน Core อย่างน้อยหนึ่งคำ เช่น Elara หรือ Mara คาดว่าส่วนใหญ่จะอยู่ในข้อมูลปรับละเอียดแบบมีผู้สอน (SFT) เพราะ WildChat และแหล่งเกี่ยวข้องส่งเรื่อง 59,266 เรื่องเข้า OLMo 3

แต่มีเพียง 1,803 เรื่องที่มีคำ Core ขณะที่ชุดข้อมูลสำหรับ DPO และการเรียนรู้แบบเสริมกำลังมีความเข้มข้นสูงกว่า

โดยรวมติดตามคำ Core ซ้ำได้เพียง 3,053 เรื่อง หรือ 3.8% ของเรื่องหลังการฝึกทั้งหมดที่ตรวจสอบ ส่วนย่อยเล็กเช่นนี้ไม่มีความเป็นไปได้ทางสถิติที่จะครองผลลัพธ์ในระดับที่พบ

งานวิจัยสรุปว่า:

“เมื่อได้รับคำชี้นำน้อย โมเดลชั้นนำในปัจจุบันเขียนเรื่องโดยใช้ชุดชื่อ สถานที่ และอาชีพที่จำกัด ตัวละครซ้ำรวมถึง Elias ผู้ดูแลประภาคาร ชื่อ Elias ผิดแผกไปจากทั่วไป เพราะพบไม่บ่อยในวรรณกรรม ข้อมูลเว็บ หรือแม้แต่ข้อมูลหลังการฝึก”

บทสรุป

เมื่อไม่มีงานวรรณกรรมชิ้นเดียวหรือแม้แต่ชุดเรื่องใดที่มีคำ 11 อันดับแรกทั้งหมด จึงไม่ชัดเจนเลยว่าคำกลุ่มนี้สะสมและเชื่อมโยงกันในระดับล่างสุดของ LLM หลายรุ่นที่มีข้อมูลและวิธีฝึกต่างกันได้อย่างไร

แม้ข้อเสนอว่าตัวกรองลิขสิทธิ์จำกัดผลลัพธ์จะถูกต้อง มหาสมุทร ของวรรณกรรมคลาสสิกในข้อมูลฝึกก็ควรป้องกันไม่ให้คำเก่าแปลก ๆ กลุ่มนี้ครองผลลัพธ์จากคำขอ “เขียน” ที่ไม่ระบุเงื่อนไขเพิ่มเติม

แต่ทฤษฎีนี้ตั้งอยู่บนสมมติฐานว่าวรรณกรรมคลาสสิกจำนวนมากถูกรวมในการฝึก ซึ่งไม่น่าเป็นไปได้ เพราะเป้าหมายไม่ใช่โมเดลที่ผลิตงานเลียนแบบ Dickens แต่คือโมเดลที่ใช้ศัพท์ร่วมสมัยและตอบโจทย์ธุรกิจปัจจุบัน เพียงปริมาณอันมหาศาลของวรรณกรรมก่อนยุคอุตสาหกรรมก็ทำให้ไม่สามารถรวมทั้งหมดเข้าไปได้

หาก มี เรื่องใดเรื่องหนึ่งที่ผสมผสานลักษณะ “หมกมุ่น” เหล่านี้ในรูปแบบใดรูปแบบหนึ่ง ก็น่าจะหาได้ง่ายกว่า ผู้เขียนเองยังไม่พบ และการค้นหาทั่วไปในเนื้อหายุคก่อน AI ก็ไม่พบเรื่องที่เข้าข่าย บางทีหาก “กลุ่มอาการประภาคาร” โด่งดังเท่าขีดยาว em dash ของ AI อาจมีนักวิชาการเสนอคำตอบ

 

* ฉันไม่สามารถลงรายละเอียดบทความของ May ไปกว่านี้ ด้วยเหตุผลที่อาจชัดเจนเมื่ออ่านบทความนั้น

เผยแพร่ครั้งแรกวันพุธที่ 27 พฤษภาคม 2026 แก้ไขภายใน 30 นาทีแรกเพื่อซ่อมลิงก์ Anthropic

ผู้เขียนด้านการเรียนรู้ของเครื่อง, ผู้เชี่ยวชาญด้านการสังเคราะห์ภาพมนุษย์. อดีตหัวหน้าฝ่ายเนื้อหาการวิจัยที่ Metaphysic.ai, จนกระทั่งการรวมเข้าเป็น Brahma.ai ของ DNEG.
เว็บไซต์: martinanderson.ai
ติดต่อ: martin@martinanderson.ai