Sudut Anderson

Mengapa AI Menggemari Menulis tentang Penjaga Mercusuar?

Martin Anderson
Tambahkan Unite.AI ke sumber pilihan Anda di Google
AI-generated image (GPT-2): Infinite identical lighthouse keepers stand screaming along a rain-soaked stone causeway above a violent sea, while matching lighthouses repeat into the distance beneath dark storm clouds, creating a photoreal recursive landscape.
Poin utamaModel bahasa cenderung mengarah pada penjaga mercusuar Elias karena filter hak cipta…
Lihat selengkapnya
  • Model bahasa cenderung mengarah pada penjaga mercusuar Elias karena filter hak cipta mungkin telah memangkas materi fiksi yang lebih kaya.
  • Kata-kata yang berulang itu hampir tidak muncul dalam fiksi terbitan atau korpus pelatihan sehingga prevalensi data tidak dapat menjelaskan obsesi tersebut.
  • Sebagian kecil cerita pasca-pelatihan tidak dapat secara statistik mendominasi keluaran model seperti yang dilakukan trope mercusuar.

Ketika diminta menulis sebuah cerita, ChatGPT dan model bahasa terkemuka lainnya tampaknya menghindari pelanggaran hak cipta dengan secara obsesif mengandalkan sekelompok kecil tokoh aneh yang sama: penjaga mercusuar, nelayan, dan pembuat jam.

 

Sebuah studi baru dari Cornell University menemukan bahwa model bahasa terkemuka tampaknya memiliki obsesi aneh terhadap pilihan elemen naratif yang sangat sempit ketika model hanya diminta “menulis sebuah cerita”. Setelah meminta empat LLM menulis 20.000 cerita, para peneliti menemukan bahwa 88% cerita yang dihasilkan memuat setidaknya satu dari 11 token yang sangat spesifik dalam kategori “lokasi”, “nama”, atau “profesi”:

Frekuensi kata kunci yang tidak lazim per satu juta kata dalam 20.000 cerita buatan LLM.

Frekuensi kata kunci yang tidak lazim per satu juta kata, berdasarkan analisis peneliti terhadap 20.000 cerita buatan LLM. Sumber

Sebelas kata yang paling sering berulang dalam lebih dari 12 juta kata yang dihasilkan LLM untuk studi ini adalah nama elias, mara, dan elara; profesi keeper (penjaga), baker (pembuat roti), mayor (wali kota), clockmaker (pembuat jam), fisherman (nelayan), librarian (pustakawan), dan conductor; serta lokasi lighthouse (mercusuar):

Model yang diuji adalah Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini, dan OLMo 7b Thinking. Semuanya menerima salah satu dari lima permintaan: “Write a story” (Tulis sebuah cerita); “Please write a story” (Tolong tulis sebuah cerita); “Write me a story” (Tuliskan sebuah cerita untuk saya); “Tell me a story” (Ceritakan sebuah kisah kepada saya); atau “Please tell a story” (Tolong ceritakan sebuah kisah).

Karena penasaran apakah fenomena yang diidentifikasi makalah itu juga muncul pada model yang tersedia saat artikel ini ditulis, saya mencoba sendiri eksperimennya, mula-mula dengan akun ChatGPT paket menengah yang biasa saya gunakan (percakapan di sini). Tidak perlu memilih-milih hasil—ChatGPT-5.5 langsung menggunakan materi yang diprediksi para peneliti pada percobaan pertama:

ChatGPT-5.5 menguatkan temuan awal studi sejak percobaan pertama.

ChatGPT-5.5 segera mendukung temuan awal makalah tersebut. Sumber

Saya bertanya-tanya apakah konteks penggunaan sebelumnya, atau bahkan kemungkinan perpindahan informasi lintas domain, dapat menjelaskan keberhasilan seketika ini. Karena itu, saya masuk ke akun ChatGPT gratis yang tidak saya gunakan selama setidaknya setahun melalui jendela privat Firefox dan mencoba lagi (percakapan di sini). Sekali lagi ChatGPT tepat sasaran, dengan asumsi OpenAI tidak menggunakan alamat IP bersama untuk memindahkan informasi antara akun berbeda:

Akun ChatGPT kedua mengikuti repertoar nama dan tema terbatas yang sama seperti dalam makalah baru.

Akun ChatGPT kedua mengikuti obsesi dan repertoar nama serta tema terbatas yang sama seperti dalam makalah baru. “Mira” termasuk dalam dua puluh nama yang paling sering ditemukan para penulis. Sumber

Perlu dicatat bahwa versi GPT ini satu tingkat lebih tinggi daripada versi 5.4 yang diuji dalam makalah.

Meskipun makalah menguji Claude Haiku, saya mencoba Sonnet 4.6 bawaan Anthropic dan tidak kecewa. Sekali lagi, kata kunci yang familier muncul pada percobaan pertama (tautan percakapan di sini):

Mara, salah satu dari sebelas kata teratas, menjadi tokoh utama sejak percobaan pertama dengan Claude Sonnet 4.6.

Kali ini “Mara”, nama lain yang kerap muncul di antara sebelas kata teratas, menjadi tokoh utama sejak percobaan pertama dengan Claude Sonnet 4.6. Sumber

Prompt yang sama pada Claude Haiku 4.5 memberikan hasil yang hampir sama.

Awalnya saya tidak dapat mereproduksi temuan penulis di Google Gemini sampai saya secara khusus mengganti model ke Gemini 3.1 Flash-Lite yang digunakan dalam makalah. Pada percobaan ketiga—tetapi yang pertama dengan model itu—polanya langsung muncul (tautan di sini):

Jawaban Google Gemini 3.1 Flash-Lite.

Google Gemini 3.1 Flash-Lite. Sumber

Eksperimen lebih lanjut dengan model Gemini berbeda selalu memunculkan tema mercusuar, meski dengan varian yang tidak masuk “11 teratas”, seperti nama “Thomas” dan, dalam varian lain, nama saya sendiri sebagai tokoh utama.

Namun demikian, saat artikel ini ditulis, temuan makalah tersebut sangat mudah dibuktikan.

Mercusuar di Dunia Nyata

Pikiran hebat sering sejalan: satu minggu sebelum makalah baru diterbitkan, penulis yang membahas perangkat lunak, Daniel May, menunjukkan kesamaan pola Elias dan penjaga mercusuar yang ditemukan para peneliti*, setelah tampaknya menyadarinya secara kebetulan. Ia kemudian menguji delapan varian Gemini, DeepSeek, Qwen, dan Gemma, yang ternyata menghasilkan motif berulang lighthouse (mercusuar) dan “Elias Thorne” sebagai tokoh utama*. Namun, penemuan awal ini belum mencakup rentang tema konten berulang yang lebih luas dalam makalah baru.

Karena penasaran apakah tema, nama, dan tempat berulang ini pernah keluar dari percakapan, saya mencari beberapa kata kunci dan tema dari sebelas teratas di Google. Saya menemukan begitu banyak unggahan yang tampaknya mengadopsinya:

Tiga contoh motif berulang dalam konten yang dipublikasikan. Tautan sumber tersedia dalam teks.

Tiga contoh motif berulang tersebut dalam konten yang dipublikasikan. Lihat tautan sumber di bawah.

May mengidentifikasi nama lengkap Elias Thorne—bukan hanya “Elias”—sebagai meme LLM yang terus muncul dan mengunggah beberapa tangkapan layar dari Amazon, tempat nama ini tampaknya dipakai sebagai nama penulis beragam buku, termasuk buku medis.

Saya justru mencari dan menemukan konten yang tampaknya menggunakan tema berulang dari sebuah LLM, termasuk sebuah unggahan X berisi cerita (versi arsip di sini); sebuah karya fiksi (versi arsip di sini); dan cerita bernarasi di YouTube (arsip di sini). Masih banyak yang dapat ditelusuri, tetapi waktunya tidak memungkinkan.

Ketertarikan pada Masa Lalu

Demikianlah pengamatan sambil lalu dan penemuan kebetulan. Belum ditemukan satu “dokumen ajaib” dalam data pelatihan yang memuat semua atau sebagian besar unsur berulang tersebut. Para penulis makalah baru berjudul Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories, karya dua peneliti Cornell University, mengajukan teori bahwa filter hak cipta dalam pengembangan AI mungkin membatasi cerita yang dihasilkan LLM pada materi yang hak ciptanya telah berakhir.

Para penulis menyatakan:

“Kami menemukan bahwa dominasi cerita ‘Elias di Mercusuar’ tidak dapat dijelaskan oleh kelazimannya dalam data sebelum atau sesudah pelatihan. Kami menduga model dilatih untuk menghindari rujukan kepada karakter berhak cipta dan konten dewasa selama penyelarasan, tetapi menyerahkan pertanyaan ini kepada penelitian mendatang.”

Kategori Token Studi kami Sastra Pra-pelatihan nonfiksi Pra-pelatihan fiksi Pascapelatihan nonfiksi Pascapelatihan fiksi
Nama elias 2,428 2.7 2.2 4.0 0.4 52.7
Nama mara 5,200 3.9 2.5 8.7 0.4 21.7
Nama elara 1,221 0.0 0.4 1.2 0.9 108
Profesi keeper 1,495 7.2 6.3 14.7 3.5 10.0
Profesi baker 161 20 11.8 10.56 1.7 11.9
Profesi mayor 198 28 11.5 16.1 1.4 27.4
Profesi clockmaker 108 0.1 0.18 0.0 0.3 1.4
Profesi fisherman 62 4.2 3.0 7.6 0.0 9.3
Profesi librarian 68 5.3 7.6 5.9 2.3 11.5
Profesi conductor 96 5.0 5.9 5.7 4.7 7.5
Lokasi lighthouse 3,005 5.5 3.5 4.6 4.6 10.1

Tabel ini membandingkan frekuensi kata berulang dari cerita buatan AI dalam sastra terbitan, fiksi web, dan data pascapelatihan. Istilah seperti “Elias” dan “lighthouse” jauh lebih sering muncul dalam cerita yang ditulis chatbot.

Para penulis menemukan bahwa sebelas kata yang disorot muncul dalam 88% dari 20.000 cerita yang dihasilkan, dengan sedikit perbedaan antarmodel. Mereka menekankan bahwa kata-kata ini jarang dalam sastra terbitan berbahasa Inggris dan bahwa data pascapelatihan—data yang dirancang untuk mengondisikan serta menyelaraskan model agar digunakan secara “dapat diterima”—boleh jadi merupakan penyebabnya.

Makalah tersebut menyatakan:

“Contoh umum yang ditampilkan di bawah menyoroti tiga unsur yang sama pada hampir seluruh 20.000 cerita: sebuah lokasi (19.864 cerita), nama karakter (19.864 cerita), dan profesi (15.807 cerita).”

“Faktanya, tempat (‘lighthouse’, mercusuar), nama (‘Elias’), dan profesi (‘keeper’, penjaga) dalam cerita ini muncul dalam suatu kombinasi pada 66,6% dari seluruh cerita yang dihasilkan. Cahaya juga merupakan tema umum: 56% cerita yang dihasilkan Claude berjudul ‘The Lighthouse Keeper’s Secret’ (Rahasia Penjaga Mercusuar), dan kata ‘light’ (cahaya) muncul dalam 16.784 cerita dengan rata-rata 3,2 kemunculan per cerita.”

Menurut makalah, Google Gemini 3.1 Flash-Lite menulis contoh ini sebagai jawaban atas Write a story.

Menurut makalah, Google Gemini 3.1 Flash-Lite menulis contoh ini sebagai jawaban atas prompt “Write a story” (Tulis sebuah cerita).

Perlu dicatat bahwa penulis studi mengidentifikasi kecenderungan nostalgia atau atavistik pada seluruh kata kunci dan nama yang diperoleh.

Menelusuri Ciri-ciri Tersebut

Untuk menguji apakah cerita “mercusuar” yang berulang dapat dijelaskan oleh paparan biasa terhadap fiksi, kata-kata berulang favorit model dibandingkan dengan beberapa korpus besar berbahasa Inggris. Fiksi kontemporer diperiksa melalui CONLIT, kumpulan data yang memuat 2.700 novel berbahasa Inggris yang diterbitkan antara 2007 dan 2021, mencakup 12 genre dan berjumlah sekitar 287 juta kata.

“Elias” muncul sekitar 900 kali lebih sering dalam cerita yang dihasilkan daripada dalam fiksi terbitan. Fiksi amatir dari komunitas /r/writingprompts di Reddit menghasilkan frekuensi serupa, yang menunjukkan bahwa pola tersebut juga tidak mencerminkan kebiasaan bercerita manusia secara lebih luas.

Pola yang sama bertahan saat data prapelatihan diperiksa. Dengan menggunakan korpus OLMo 3 yang tersedia secara terbuka—sekitar 3,89 miliar dokumen yang sebagian besar ditulis manusia dan sebagian berasal dari Common Crawl—para peneliti mendapati bahwa kata-kata berulang dalam kelompok “Core” (inti) nyaris tidak muncul sama sekali.

Karena sebagian besar korpus OLMo 3 merupakan nonfiksi, pengklasifikasi fiksi dibuat dengan anotasi GPT-OSS 20b dan model FastText yang dilatih pada 200.000 sampel seimbang. Bahkan setelah teks fiksi disaring secara khusus, kata seperti “Elara” masih sangat jarang dibandingkan cerita buatan AI. Lalu mengapa kata-kata itu mendominasi bahkan ketika LLM hanya mendapat perintah paling sederhana untuk menulis fiksi?

Para penulis menyatakan:

“Jika kata-kata Core tidak umum dalam data web, satu sumber yang tersisa mungkin adalah data pascapelatihan. Namun, kami menemukan bahwa data pascapelatihan OLMo memuat token kami dengan frekuensi lebih rendah daripada CONLIT.”

Dalam 78.958 cerita dari kumpulan data pascapelatihan OLMo 3, mereka mencatat bahwa “Elias” muncul 52,7 kali per satu juta kata, dibandingkan 2,7 dalam CONLIT, tetapi mencapai 2.428 kemunculan per satu juta kata dalam cerita buatan yang diperiksa studi tersebut.

Untuk mengidentifikasi asal cerita Core yang berulang, setiap cerita dalam data pascapelatihan OLMo 3 diberi skor berdasarkan keberadaan satu atau lebih token Core, misalnya Elara, Mara, dan sebagainya. Sebagian besar diperkirakan muncul dalam kumpulan data penyetelan halus terawasi (SFT), karena WildChat dan sumber terkait menyumbangkan 59.266 cerita kepada OLMo 3.

Namun, hanya 1.803 cerita yang memuat istilah Core, sedangkan kumpulan data yang digunakan untuk DPO dan pembelajaran penguatan menunjukkan konsentrasi lebih tinggi.

Secara keseluruhan, kosakata Core yang berulang hanya dapat ditelusuri ke 3.053 cerita, atau 3,8% dari semua cerita pascapelatihan yang diperiksa. Secara statistik, tidak mungkin bagian korpus sekecil itu akhirnya mendominasi hasil dengan cara yang diperlihatkan.

Makalah tersebut menyimpulkan:

“Saat hanya diberi sedikit arahan, model paling maju saat ini menulis cerita dengan repertoar nama, tempat, dan pekerjaan yang terbatas. Tokoh yang berulang dalam cerita-cerita ini antara lain Elias, seorang penjaga mercusuar. Elias tidak lazim: nama itu jarang dalam sastra, data web, bahkan data pascapelatihan.”

Kesimpulan

Karena tidak ada satu pun karya sastra—atau bahkan sebuah seri—yang memuat 11 kata teratas yang diidentifikasi para penulis, sama sekali tidak jelas bagaimana kumpulan kata khusus ini terakumulasi, saling berasosiasi, lalu masuk ke lapisan paling dasar beberapa model bahasa besar, terlepas dari keragaman data dan pendekatan pelatihannya.

Sekalipun pendapat peneliti tentang efek pembatas filter hak cipta benar, samudra sastra klasik dalam data pelatihan seharusnya mencegah kumpulan kata kuno yang aneh ini mendominasi jawaban atas perintah sederhana untuk menulis, tanpa petunjuk tambahan.

Namun, teori itu mengasumsikan bahwa sastra klasik dalam jumlah sangat besar memang dimasukkan ke dalam pelatihan. Kemungkinannya kecil, sebab yang dibutuhkan bukan model yang memproduksi tiruan kisah Dickens, melainkan model yang menangani kosakata modern dan sesuai dengan kebutuhan bisnis saat ini. Volume sastra praindustri saja sudah terlalu besar untuk dimasukkan.

Bagaimanapun, seandainya ada satu cerita tertentu yang memuat kombinasi bergantian dari unsur-unsur “obsesif” yang dicatat para penulis, cerita itu mungkin lebih mudah ditemukan. Para penulis sendiri tidak menemukannya, dan pencarian biasa pada materi sebelum era AI juga tidak menghasilkan kandidat. Mungkin jika “sindrom mercusuar” menjadi sama terkenalnya dengan tanda pisah panjang AI, seorang pakar akademis akan tampil membawa jawabannya.

 

* Saya tidak dapat membahas artikel May lebih jauh, karena alasan yang mungkin menjadi jelas setelah membacanya.

Pertama kali diterbitkan Rabu, 27 Mei 2026. Diubah dalam 30 menit pertama untuk memperbaiki tautan Anthropic.

Penulis tentang pembelajaran mesin, spesialis domain dalam sintesis gambar manusia. Mantan kepala konten riset di Metaphysic.ai, hingga dibubarkannya menjadi Brahma.ai milik DNEG.
Website: martinanderson.ai
Kontak: martin@martinanderson.ai