Sudut Anderson

Mengapa AI Menggemari Menulis tentang Penjaga Mercusuar?

mm
Tambahkan Unite.AI ke sumber pilihan Anda di Google
AI-generated image (GPT-2): Infinite identical lighthouse keepers stand screaming along a rain-soaked stone causeway above a violent sea, while matching lighthouses repeat into the distance beneath dark storm clouds, creating a photoreal recursive landscape.

Ketika diminta “menulis sebuah cerita”, ChatGPT dan model bahasa terkemuka lainnya tampaknya menghindari pelanggaran hak cipta dengan berulang kali mengandalkan sekelompok kecil tokoh aneh yang sama: penjaga mercusuar, nelayan, dan pembuat jam.

 

Sebuah studi baru dari Cornell University menemukan bahwa model bahasa terkemuka tampaknya memiliki obsesi aneh terhadap pilihan elemen naratif yang sangat sempit ketika model hanya diminta “menulis sebuah cerita”. Setelah meminta empat LLM menulis 20.000 cerita, para peneliti menemukan bahwa 88% cerita yang dihasilkan memuat setidaknya satu dari 11 token yang sangat spesifik dalam kategori “lokasi”, “nama”, atau “profesi”:

Kemunculan kata kunci yang tidak lazim, ditampilkan dalam bagian per juta, dari analisis 20.000 cerita buatan LLM.

Kemunculan kata kunci yang tidak lazim, ditampilkan dalam bagian per juta, dari analisis peneliti terhadap 20.000 cerita buatan LLM. Sumber

Sebelas kata yang paling sering berulang dalam lebih dari 12 juta kata yang dihasilkan LLM untuk studi ini adalah nama elias, mara, dan elara; profesi penjaga, pembuat roti, wali kota, pembuat jam, nelayan, pustakawan, dan konduktor; serta lokasi mercusuar:

Model yang diuji adalah Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini, dan OLMo 7b Thinking. Semuanya menerima salah satu dari lima permintaan: “Tulis sebuah cerita”; “Tolong tulis sebuah cerita”; “Tuliskan sebuah cerita untuk saya”; “Ceritakan sebuah kisah kepada saya”; atau “Tolong ceritakan sebuah kisah”.

Karena penasaran apakah sindrom yang diidentifikasi makalah itu hadir pada model yang tersedia saat artikel ini ditulis, saya mencoba eksperimen tersebut sendiri, mula-mula pada akun ChatGPT tingkat menengah yang biasa saya gunakan (tautan percakapan di sini). Tidak perlu memilih-milih hasil—ChatGPT-5.5 langsung menggunakan materi yang diprediksi para peneliti pada percobaan pertama:

ChatGPT-5.5 segera mendukung temuan awal makalah tersebut.

ChatGPT-5.5 segera mendukung temuan awal makalah tersebut. Sumber

Saya bertanya-tanya apakah konteks historis atau bahkan kemungkinan kebocoran lintas domain dapat menjelaskan “keberhasilan seketika” ini. Karena itu, saya masuk ke akun ChatGPT gratis yang tidak saya gunakan selama setahun atau lebih melalui jendela privat Firefox dan mencoba lagi (tautan percakapan di sini). Sekali lagi—dengan asumsi OpenAI tidak menggunakan alamat IP bersama untuk menghubungkan akun berbeda—ChatGPT tepat sasaran:

Akun ChatGPT kedua mengikuti obsesi dan pola sempit nama serta tema yang sama seperti dalam makalah baru.

Akun ChatGPT kedua mengikuti obsesi dan pola sempit nama serta tema yang sama seperti dalam makalah baru. “Mira” termasuk dalam 20 teratas para penulis. Sumber

Perlu dicatat bahwa versi GPT ini satu tingkat lebih tinggi daripada versi 5.4 yang diuji dalam makalah.

Meskipun makalah menguji Claude Haiku, saya mencoba Sonnet 4.6 bawaan Anthropic dan tidak kecewa. Sekali lagi, kata kunci yang familier muncul pada percobaan pertama (tautan percakapan di sini):

Mara, nama lain yang selalu muncul dalam 11 teratas, memimpin cerita pada percobaan pertama di Claude Sonnet 4.6.

Kali ini “Mara”, nama lain yang selalu muncul dalam “11 teratas”, memimpin cerita pada percobaan pertama di Claude Sonnet 4.6. Sumber

Mencoba prompt yang sama pada Claude Haiku 4.5 menghasilkan hampir hasil yang sama.

Awalnya saya tidak dapat mereproduksi temuan penulis di Google Gemini sampai saya secara khusus mengganti model ke Gemini 3.1 Flash-Lite yang digunakan dalam makalah. Pada percobaan ketiga—tetapi yang pertama dengan model itu—polanya langsung muncul (tautan di sini):

Google Gemini 3.1 Flash-Lite.

Google Gemini 3.1 Flash-Lite. Sumber

Eksperimen lebih lanjut dengan model Gemini berbeda selalu memunculkan tema mercusuar, meski dengan varian yang tidak masuk “11 teratas”, seperti nama “Thomas” dan, dalam varian lain, nama saya sendiri sebagai tokoh utama.

Namun demikian, saat artikel ini ditulis, temuan makalah tersebut sangat mudah dibuktikan.

Mercusuar di Dunia Nyata

Pemikiran besar sering bertemu: satu minggu sebelum makalah baru diterbitkan, penulis perangkat lunak Daniel May menunjukkan kebetulan pada pola Elias dan penjaga mercusuar yang ditemukan para peneliti*, setelah tampaknya menyadarinya secara acak. Ia kemudian menguji delapan varian Gemini, DeepSeek, Qwen, dan Gemma, yang ternyata menghasilkan meme mercusuar dan tokoh utama “Elias Thorne”*. Namun, penemuan awal ini belum mencakup rentang tema konten menetap yang lebih luas dalam makalah baru.

Karena penasaran apakah tema, nama, dan lokasi berulang ini pernah keluar dari batas percakapan, saya mencari beberapa kata kunci dan tema 11 teratas di Google dan menemukan begitu banyak unggahan yang tampaknya menyalurkannya:

Tiga contoh meme tersebut dalam keluaran. Lihat tautan sumber di bawah.

Tiga contoh meme tersebut dalam keluaran. Lihat tautan sumber di bawah.

May mengidentifikasi nama lengkap Elias Thorne—bukan hanya “Elias”—sebagai meme LLM yang terus muncul dan mengunggah beberapa tangkapan layar dari Amazon, tempat nama ini tampaknya dipakai sebagai nama penulis beragam buku, termasuk buku medis.

Saya justru mencari dan menemukan konten yang tampaknya memanggil tema menetap dari sebuah LLM, termasuk sebuah unggahan X berisi cerita (versi arsip di sini); sebuah karya fiksi (versi arsip di sini); dan cerita bernarasi di YouTube (arsip di sini). Masih banyak yang dapat ditelusuri, tetapi waktunya tidak memungkinkan.

Ketertarikan pada Masa Lalu

Demikianlah pengamatan sambil lalu dan kebetulan. Walaupun belum ditemukan satu “dokumen ajaib” dalam data pelatihan yang memuat semua atau sebagian besar pola menetap tersebut, penulis makalah baru berjudul Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories, karya dua peneliti Cornell University, berteori bahwa filter hak cipta dalam pengembangan AI mungkin membatasi keluaran fiksi LLM pada materi yang hak ciptanya telah berakhir.

Para penulis menyatakan:

“Kami menemukan bahwa dominasi cerita ‘Elias di Mercusuar’ tidak dapat dijelaskan oleh kelazimannya dalam data sebelum atau sesudah pelatihan. Kami menduga model dilatih untuk menghindari rujukan kepada karakter berhak cipta dan konten dewasa selama penyelarasan, tetapi menyerahkan pertanyaan ini kepada penelitian mendatang.”

Kategori Token Studi kami Sastra Pra-pelatihan nonfiksi Pra-pelatihan fiksi Pascapelatihan nonfiksi Pascapelatihan fiksi
Nama elias 2,428 2.7 2.2 4.0 0.4 52.7
Nama mara 5,200 3.9 2.5 8.7 0.4 21.7
Nama elara 1,221 0.0 0.4 1.2 0.9 108
Profesi keeper 1,495 7.2 6.3 14.7 3.5 10.0
Profesi baker 161 20 11.8 10.56 1.7 11.9
Profesi mayor 198 28 11.5 16.1 1.4 27.4
Profesi clockmaker 108 0.1 0.18 0.0 0.3 1.4
Profesi fisherman 62 4.2 3.0 7.6 0.0 9.3
Profesi librarian 68 5.3 7.6 5.9 2.3 11.5
Profesi conductor 96 5.0 5.9 5.7 4.7 7.5
Lokasi lighthouse 3,005 5.5 3.5 4.6 4.6 10.1

Tabel perbandingan ini menunjukkan seberapa sering kata berulang dari cerita buatan AI muncul dalam sastra terbitan, fiksi web, dan kumpulan data pascapelatihan; istilah seperti “Elias” dan “mercusuar” jauh lebih sering muncul dalam fiksi yang ditulis chatbot.

Dalam studi tersebut, penulis menemukan bahwa 11 kata yang ditekankan muncul dalam 88% dari 20.000 cerita yang dihasilkan, dan bahwa “hanya ada sedikit perbedaan antarmodel”. Mereka menekankan bahwa kata-kata ini jarang dijumpai dalam sastra Inggris terbitan, dan data pascapelatihan—data yang dirancang untuk mengondisikan serta menyelaraskan model agar digunakan secara “dapat diterima”—mungkin menjadi penyebabnya.

Makalah tersebut menyatakan:

“Contoh umum yang ditampilkan di bawah menyoroti tiga unsur yang sama pada hampir seluruh 20.000 cerita: sebuah lokasi (19.864 cerita), nama karakter (19.864 cerita), dan profesi (15.807 cerita).”

“Faktanya, lokasi tertentu (‘mercusuar’), nama (‘Elias’), dan profesi (‘penjaga’) dalam cerita ini muncul dalam suatu kombinasi pada 66,6% dari seluruh cerita yang dihasilkan. Cahaya juga merupakan tema umum: 56% cerita yang dihasilkan Claude berjudul ‘Rahasia Penjaga Mercusuar’, dan kata ‘cahaya’ muncul dalam 16.784 cerita dengan rata-rata 3,2 kemunculan per cerita.”

Menurut makalah, contoh ini ditulis oleh Google Gemini 3.1 Flash-Lite sebagai jawaban atas prompt 'Tulis sebuah cerita'.

Menurut makalah, contoh ini ditulis oleh Google Gemini 3.1 Flash-Lite sebagai jawaban atas prompt “Tulis sebuah cerita”.

Perlu dicatat bahwa penulis studi mengidentifikasi kecenderungan nostalgia atau atavistik pada seluruh kata kunci dan nama yang diperoleh.

Menelusuri Ciri-ciri Tersebut

Untuk menguji apakah cerita “mercusuar” yang berulang dapat dijelaskan oleh paparan biasa terhadap fiksi, kata-kata berulang favorit model dibandingkan dengan beberapa korpus besar berbahasa Inggris. Fiksi kontemporer diperiksa melalui CONLIT, kumpulan data yang memuat 2.700 novel berbahasa Inggris yang diterbitkan antara 2007 dan 2021, mencakup 12 genre dan berjumlah sekitar 287 juta kata.

“Elias” muncul sekitar 900 kali lebih sering dalam cerita yang dihasilkan daripada dalam fiksi terbitan. Fiksi amatir dari komunitas /r/writingprompts di Reddit menghasilkan frekuensi serupa, yang menunjukkan bahwa pola tersebut juga tidak mencerminkan kebiasaan bercerita manusia secara lebih luas.

Pola yang sama bertahan saat data prapelatihan diperiksa. Dengan menggunakan korpus OLMo 3 yang tersedia secara terbuka—sekitar 3,89 miliar dokumen yang sebagian besar ditulis manusia dan sebagian berasal dari Common Crawl—para peneliti mendapati bahwa kata “Inti” yang berulang nyaris tidak muncul sama sekali.

Karena sebagian besar korpus OLMo 3 merupakan nonfiksi, pengklasifikasi fiksi dibuat dengan anotasi GPT-OSS 20b dan model FastText yang dilatih pada 200.000 sampel seimbang. Bahkan setelah materi fiksi disaring secara khusus, kata seperti “Elara” masih muncul dalam jumlah yang dapat diabaikan dibandingkan cerita buatan AI. Lalu mengapa kata-kata itu mendominasi pada tingkat paling dasar ketika LLM diperintahkan menulis fiksi?

Para penulis menyatakan:

“Jika kata Inti tidak umum dalam data web, maka satu sumber yang tersisa adalah data pascapelatihan. Namun, kami menemukan bahwa data pascapelatihan OLMo menampilkan token kami pada tingkat yang lebih rendah daripada CONLIT.”

Dalam 78.958 cerita dari kumpulan data pascapelatihan OLMo 3, mereka mencatat bahwa “Elias” muncul 52,7 kali per satu juta kata, dibandingkan 2,7 dalam CONLIT, tetapi mencapai 2.428 kemunculan per satu juta kata dalam cerita buatan yang diperiksa studi tersebut.

Untuk mengidentifikasi asal cerita “Inti” yang berulang, setiap cerita dalam data pascapelatihan OLMo 3 diberi skor berdasarkan keberadaan satu atau lebih token Inti—misalnya Elara, Mara, dan sebagainya. Sebagian besar diperkirakan muncul dalam kumpulan data supervised fine-tuning (SFT), karena WildChat dan sumber terkait menyumbangkan 59.266 cerita kepada OLMo 3.

Namun, hanya 1.803 yang memuat istilah Inti, sedangkan kumpulan data yang digunakan untuk DPO dan reinforcement learning menunjukkan konsentrasi lebih tinggi.

Secara keseluruhan, kosakata Inti yang berulang hanya dapat ditelusuri ke 3.053 cerita, atau 3,8% dari semua cerita pascapelatihan yang diperiksa. Secara statistik, tidak mungkin bagian korpus sekecil itu akhirnya mendominasi dengan cara yang diperlihatkan.

Makalah tersebut menyimpulkan:

“Saat hanya diberi sedikit arahan, model terdepan saat ini menulis cerita dengan katalog nama, tempat, dan pekerjaan yang sempit. Tokoh yang berulang dalam cerita-cerita ini antara lain Elias, seorang penjaga mercusuar. Elias tidak lazim; nama tersebut jarang dalam sastra, data web, bahkan data pascapelatihan.”

Kesimpulan

Karena tidak ada satu pun karya sastra—atau bahkan sebuah seri—yang memuat 11 kata teratas yang diidentifikasi para penulis, sama sekali tidak jelas bagaimana kumpulan kata khusus ini terakumulasi, saling berasosiasi, lalu masuk ke lapisan paling dasar beberapa model bahasa besar, terlepas dari keragaman data dan pendekatan pelatihannya.

Sekalipun pendapat peneliti tentang efek pembatas filter hak cipta benar, samudra sastra klasik dalam data pelatihan seharusnya mencegah kumpulan kata lama yang aneh ini mendominasi keluaran prompt “tulis” tanpa kualifikasi.

Namun, teori itu mengasumsikan bahwa sastra klasik dalam jumlah sangat besar memang dimasukkan ke dalam proses pelatihan. Hal itu tidak mungkin, sebab yang dibutuhkan bukan model yang menghasilkan tiruan kisah Dickens, melainkan model yang menangani kosakata modern dan sesuai dengan kebutuhan bisnis saat ini. Volume sastra praindustri saja sudah terlalu besar untuk seluruhnya dimasukkan.

Bagaimanapun, seandainya ada satu narasi khusus yang memuat campuran bergantian dari unsur-unsur “obsesif” yang dicatat para penulis, mestinya narasi itu lebih mudah ditemukan. Para penulis sendiri tidak menemukannya, dan pencarian biasa pada era sebelum AI juga tidak menghasilkan kandidat. Mungkin jika “sindrom mercusuar” menjadi sama terkenalnya dengan tanda pisah panjang AI, seorang otoritas akademis akan tampil membawa jawabannya.

 

* Saya tidak dapat membahas artikel May lebih jauh, karena alasan yang mungkin menjadi jelas setelah membacanya.

Pertama kali diterbitkan Rabu, 27 Mei 2026. Diubah dalam 30 menit pertama untuk memperbaiki tautan Anthropic.

Penulis tentang pembelajaran mesin, spesialis domain sintesis gambar manusia. Mantan kepala konten penelitian di Metaphysic.ai, hingga pembubarannya ke dalam Brahma.ai DNEG.
Portfolio site: martinanderson.ai
Contact: martin@martinanderson.ai