Anderson’un Açısı

Neden AI, Deniz Feneri Gözetmenleri Hakkında Yazmayı Sever?

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
AI-generated image (GPT-2): Infinite identical lighthouse keepers stand screaming along a rain-soaked stone causeway above a violent sea, while matching lighthouses repeat into the distance beneath dark storm clouds, creating a photoreal recursive landscape.

“Bir hikâye yaz” denildiğinde ChatGPT ve diğer önde gelen dil modelleri, aynı küçük ve tuhaf deniz feneri bekçileri, balıkçılar ve saatçiler kadrosuna saplantılı biçimde başvurarak telif hakkı ihlalinden kaçınıyor gibi görünüyor.

 

Cornell Üniversitesi’nden yeni bir çalışma, modele yalnızca “bir hikâye yaz” dendiğinde önde gelen dil modellerinin çok dar bir anlatı öğeleri seçkisine tuhaf bir saplantı gösterdiğini ortaya koydu. Dört LLM’e 20.000 hikâye yazdıran araştırmacılar, üretilen hikâyelerin %88’inde çok belirli 11 sözcükten en az birinin “mekân”, “isim” veya “meslek” kategorisinde yer aldığını buldu:

Araştırmacıların LLM tarafından üretilen 20.000 hikâye analizinden elde edilen, milyon başına parça olarak gösterilen beklenmedik anahtar sözcüklerin görülme sıklığı.

Araştırmacıların LLM tarafından üretilen 20.000 hikâye analizinden elde edilen, milyon başına parça olarak gösterilen beklenmedik anahtar sözcüklerin görülme sıklığı. Kaynak

Çalışma için LLM’lerin ürettiği 12 milyondan fazla sözcükte en sık yinelenen 11 sözcük; elias, mara ve elara isimleri; bekçi, fırıncı, belediye başkanı, saatçi, balıkçı, kütüphaneci ve orkestra şefi meslekleri ile deniz feneri mekânıydı:

Test edilen modeller Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini ve OLMo 7b Thinking idi. Hepsine şu beş istekten biri verildi: “Bir hikâye yaz”; “Lütfen bir hikâye yaz”; “Bana bir hikâye yaz”; “Bana bir hikâye anlat”; ya da “Lütfen bir hikâye anlat”.

Makalenin tanımladığı sendromun yazı sırasında kullanılabilen modellerde bulunup bulunmadığını merak ederek deneyi önce her zamanki orta seviye ChatGPT hesabımda kendim denedim (konuşmanın bağlantısı burada). Sonuç seçmeye gerek kalmadı; ChatGPT-5.5 ilk denemede doğrudan araştırmacıların öngördüğü malzemeye yöneldi:

ChatGPT-5.5 makalenin ilk bulgularını hemen doğruluyor.

ChatGPT-5.5 makalenin ilk bulgularını hemen doğruluyor. Kaynak

Tarihsel bağlamın, hatta olası alanlar arası sızıntının bu “ilk denemede isabeti” açıklayıp açıklamadığını düşünerek bir yıldan uzun süredir kullanmadığım ücretsiz bir ChatGPT hesabına Firefox gizli penceresinden giriş yaptım ve yeniden denedim (konuşmanın bağlantısı burada). OpenAI’nin farklı hesapları ortak IP adresi üzerinden ilişkilendirmediğini varsayarsak, ChatGPT bir kez daha tam isabet kaydetti:

İkinci ChatGPT hesabı, yeni makalede açıklanan aynı saplantıları ve dar isim-tema repertuvarını izliyor.

İkinci ChatGPT hesabı, yeni makalede açıklanan aynı saplantıları ve dar isim-tema repertuvarını izliyor. “Mira”, yazarların ilk 20’sinde yer alıyor. Kaynak

Bu GPT sürümlerinin makalede test edilen 5.4’ten bir kademe üstte olduğunu belirtmek gerekir.

Makalede Claude Haiku test edilmiş olsa da Anthropic’in varsayılan Sonnet 4.6 modelini denedim ve hayal kırıklığına uğramadım. Tanıdık anahtar sözcükler yine ilk denemede geldi (konuşmanın bağlantısı burada):

İlk 11'in bir başka değişmezi olan Mara, Claude Sonnet 4.6'daki ilk denemede hikâyenin başrolünde.

Bu kez “ilk 11”in bir başka değişmezi olan “Mara”, Claude Sonnet 4.6’daki ilk denemede hikâyenin başrolünde. Kaynak

Aynı istemi Claude Haiku 4.5’te denemek de hemen hemen aynı sonucu verdi.

Yazarların bulgularını Google Gemini’da başlangıçta yeniden üretemedim. Modeli özellikle makalede kullanılan Gemini 3.1 Flash-Lite olarak değiştirince, üçüncü denemede—ama bu modelle ilk denemede—örüntü hemen ortaya çıktı (bağlantı burada):

Google Gemini 3.1 Flash-Lite.

Google Gemini 3.1 Flash-Lite. Kaynak

Farklı Gemini modelleriyle yaptığım diğer deneylerde de istisnasız deniz feneri teması ortaya çıktı; ancak “Thomas” adı ve başka bir varyantta başkarakter olarak kendi adım gibi, “ilk 11”de bulunmayan çeşitler de vardı.

Yine de yazının yazıldığı sırada makalenin bulgularını kanıtlamak son derece kolaydı.

Gerçek Dünyadaki Deniz Fenerleri

Büyük zihinler benzer düşünür: yazılım yazarı Daniel May, yeni makalenin yayımlanmasından bir hafta önce araştırmacıların çıkardığı Elias ve deniz feneri bekçisi kalıbındaki tesadüfe dikkat çekmişti*; görünüşe göre bunu rastlantıyla fark etmişti. Ardından Gemini, DeepSeek, Qwen ve Gemma’nın sekiz varyantını test etti ve bunların deniz feneri kalıpları ile başkarakter olarak “Elias Thorne” ürettiğini gördü*. Ancak bu ilk keşif, yeni makalede açıklanan daha geniş kalıcı içerik temalarına uzanmıyordu.

Bu yinelenen temaların, isimlerin ve mekânların sohbet sınırlarından hiç çıkıp çıkmadığını merak ederek Google’da ilk 11 anahtar sözcük ve temadan bazılarını aradım ve bunları yansıtmış görünen şaşırtıcı sayıda gönderi buldum:

Çıktılardaki kalıbın üç örneği. Kaynak bağlantıları için aşağıya bakın.

Çıktılardaki kalıbın üç örneği. Kaynak bağlantıları için aşağıya bakın.

May, yalnızca “Elias” yerine daha uzun “Elias Thorne” adını kalıcı bir LLM kalıbı olarak belirlemiş ve bu adın tıbbi kitaplar dahil çeşitli kitapların yazar adı olarak kullanıldığı anlaşılan Amazon’dan çeşitli ekran görüntüleri paylaşmıştı.

Bense bir LLM’in kalıcı temalarını çağırmış görünen içerikleri aradım ve buldum: bir hikâyenin X gönderisi (arşiv sürümü burada); bir kurgu eseri (arşiv sürümü burada); ve YouTube’da seslendirilmiş bir hikâye (arşivi burada). İncelenecek çok daha fazlası vardı, ancak zaman izin vermedi.

Geçmişe Duyulan İlgi

Gündelik gözlem ve rastlantı bir yana. Eğitim verilerinde bu sürekliliklerin tamamını ya da çoğunu içeren tek bir “sihirli belge” henüz bulunmamış olsa da Cornell Üniversitesi’nden iki araştırmacının hazırladığı yeni makalenin (başlığı Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories) yazarları, yapay zekâ geliştirmedeki telif hakkı filtrelerinin LLM’lerin kurgu çıktısını telif süresi dolmuş malzemelerle sınırlıyor olabileceğini öne sürüyor.

Yazarlar şöyle diyor:

“‘Elias deniz fenerinde’ hikâyelerinin baskınlığının eğitim öncesi veya eğitim sonrası verilerdeki yaygınlıkla açıklanamayacağını bulduk. Modellerin uyumlandırma sırasında telif hakkıyla korunan karakterlere ve yetişkinlere yönelik içeriğe atıfta bulunmaktan kaçınacak şekilde eğitildiğini düşünüyoruz, ancak bu soruyu gelecekteki çalışmalara bırakıyoruz.”

Kategori Sözcük Bizimki Edebiyat Eğitim öncesi kurgu dışı Eğitim öncesi kurgu Eğitim sonrası kurgu dışı Eğitim sonrası kurgu
İsim elias 2,428 2.7 2.2 4.0 0.4 52.7
İsim mara 5,200 3.9 2.5 8.7 0.4 21.7
İsim elara 1,221 0.0 0.4 1.2 0.9 108
Meslek keeper 1,495 7.2 6.3 14.7 3.5 10.0
Meslek baker 161 20 11.8 10.56 1.7 11.9
Meslek mayor 198 28 11.5 16.1 1.4 27.4
Meslek clockmaker 108 0.1 0.18 0.0 0.3 1.4
Meslek fisherman 62 4.2 3.0 7.6 0.0 9.3
Meslek librarian 68 5.3 7.6 5.9 2.3 11.5
Meslek conductor 96 5.0 5.9 5.7 4.7 7.5
Mekân lighthouse 3,005 5.5 3.5 4.6 4.6 10.1

Yapay zekâ tarafından üretilen hikâyelerde yinelenen sözcüklerin yayımlanmış edebiyat, web kurgusu ve eğitim sonrası veri kümelerinde ne sıklıkta göründüğünü karşılaştıran tablo; “Elias” ve “deniz feneri” gibi terimler sohbet botlarının yazdığı kurguda çok daha sık görülüyor.

Araştırmada yazarlar, vurgulanan 11 sözcüğün üretilen 20.000 hikâyenin %88’inde geçtiğini ve “modeller arasında çok az fark” bulunduğunu belirledi. Bu sözcüklerin yayımlanmış İngilizce edebiyatta nadir olduğunu ve modelleri “kabul edilebilir” kullanıma koşullandırıp uyumlandırmak için tasarlanan eğitim sonrası verilerin sorumlu olabileceğini vurguluyorlar.

Makalede şöyle deniyor:

“Aşağıda gösterilen tipik bir örnek, 20.000 hikâyenin neredeyse tamamında ortak olan üç öğeyi öne çıkarıyor: bir mekân (19.864 hikâye), bir karakter adı (19.864 hikâye) ve bir meslek (15.807 hikâye).”

“Nitekim bu hikâyedeki belirli mekân (‘deniz feneri’), isim (‘Elias’) ve meslek (‘bekçi’), üretilen tüm hikâyelerin %66,6’sında bir bileşim halinde görülüyor. Işık da yaygın bir tema: Claude’un ürettiği hikâyelerin %56’sının başlığı ‘Deniz Feneri Bekçisinin Sırrı’ ve ‘ışık’ sözcüğü 16.784 hikâyede, hikâye başına ortalama 3,2 kez geçiyor.”

Makaleye göre bu örnek, 'Bir hikâye yaz' istemine yanıt olarak Google Gemini 3.1 Flash-Lite tarafından yazıldı.

Makaleye göre bu örnek, “Bir hikâye yaz” istemine yanıt olarak Google Gemini 3.1 Flash-Lite tarafından yazıldı.

Çalışmanın yazarlarının türetilen tüm anahtar sözcük ve adlarda nostaljik ya da geçmişe dönüş eğilimi belirlediğini belirtmek gerekir.

Özelliklerin İzini Sürmek

Yinelenen “deniz feneri” hikâyelerinin sıradan kurgu maruziyetiyle açıklanıp açıklanamayacağını test etmek için modellerin sevdiği yinelenen sözcükler birkaç büyük İngilizce derlemle karşılaştırıldı. Çağdaş kurgu, 2007-2021 arasında yayımlanmış 12 türde yaklaşık 287 milyon sözcük içeren 2.700 İngilizce romandan oluşan CONLIT veri kümesi üzerinden incelendi.

“Elias”, üretilen hikâyelerde yayımlanmış kurguya göre yaklaşık 900 kat daha sık görülüyordu. Reddit’in /r/writingprompts topluluğundaki amatör kurgu da benzer sıklıklar verdi; yani örüntü daha geniş insan anlatı alışkanlıklarını da yansıtmıyor.

Aynı örüntü eğitim öncesi veriler incelendiğinde de geçerliydi. Kısmen Common Crawl‘dan alınmış, çoğunlukla insanlarca yazılmış yaklaşık 3,89 milyar belgeyi içeren açık OLMo 3 derlemini kullanan araştırmacılar, yinelenen “Çekirdek” sözcüklerin neredeyse hiç görünmediğini buldu.

OLMo 3 derleminin büyük bölümü kurgu dışı olduğundan, GPT-OSS 20b açıklamaları ve dengeli 200.000 örnek üzerinde eğitilmiş bir FastText modeli kullanılarak kurgu sınıflandırıcısı oluşturuldu. Özellikle kurgu malzemesi filtrelendikten sonra bile “Elara” gibi sözcükler, yapay zekâ üretimi hikâyelere kıyasla ihmal edilebilir oranlarda görülüyordu. Öyleyse bir LLM’e kurgu yazma talimatı verildiğinde neden en temel düzeyde baskın hale geliyorlar?

Yazarlar şöyle diyor:

“Çekirdek sözcükler web verilerinde yaygın değilse geriye kalan bir kaynak eğitim sonrası veriler olabilir. Ancak OLMo’nun eğitim sonrası verilerinin sözcüklerimizi CONLIT’ten daha düşük oranda içerdiğini görüyoruz.”

Yazarlar, OLMo 3’ün eğitim sonrası veri kümelerindeki 78.958 hikâyede “Elias”ın milyon sözcük başına 52,7 kez göründüğünü; CONLIT’te bu sayının 2,7 olduğunu, ancak araştırmada incelenen üretilmiş hikâyelerde milyon sözcük başına 2.428’e ulaştığını belirtiyor.

Yinelenen “Çekirdek” hikâyelerin nereden geldiğini belirlemek için OLMo 3’ün eğitim sonrası verilerindeki her hikâye bir veya daha fazla Çekirdek sözcüğün—örneğin Elara, Mara vb.—varlığı açısından puanlandı. WildChat ve ilişkili kaynaklar OLMo 3’e 59.266 hikâye sağladığı için çoğunun denetimli ince ayar (SFT) veri kümelerinde görülmesi bekleniyordu.

Ancak yalnızca 1.803 hikâye Çekirdek terimler içerirken, DPO ve pekiştirmeli öğrenme için kullanılan veri kümelerinde daha yüksek yoğunluklar görüldü.

Genel olarak yinelenen Çekirdek sözcük dağarcığının izi yalnızca 3.053 hikâyeye kadar sürülebildi; bu, incelenen tüm eğitim sonrası hikâyelerin %3,8’iydi. Derlemlerin böylesine küçük bir alt kümesinin gösterildiği şekilde baskın hale gelmesinin istatistiksel olarak hiçbir olasılığı yok.

Makalenin vardığı sonuç şöyle:

“Günümüzün öncü modelleri çok az yönlendirme verildiğinde dar bir isim, mekân ve meslek kataloğu kullanarak hikâyeler yazıyor. Bu hikâyelerde yinelenen karakterler arasında deniz feneri bekçisi Elias bulunuyor. Elias sıra dışı; bu isim edebiyatta, web verilerinde ve hatta eğitim sonrası verilerde nadir.”

Sonuç

Yazarların belirlediği ilk 11 sözcüğü içeren tek bir edebî eser, hatta bir seri bulunmadığı için, eğitim verileri ve yaklaşımlarındaki çeşitliliğe rağmen bu özel sözcük topluluğunun nasıl birikip birbiriyle ilişkilendiği ve birden fazla büyük dil modelinin en alt katmanlarına yerleştiği hiç açık değil.

Araştırmacıların telif hakkı filtrelerinin sınırlayıcı etkisine ilişkin iddiası doğru olsa bile eğitim verilerindeki gerçek bir klasik edebiyat okyanusu, bu tuhaf eski tarz sözcük koleksiyonunun niteliği belirtilmemiş bir “yaz” isteminin çıktısına hâkim olmasını engellemeliydi.

Ancak bu teori, büyük miktarda klasik edebiyatın eğitim düzenine baştan dahil edildiğini varsayıyor. Bu pek olası değil; çünkü istenen şey sahte Dickens hikâyeleri üreten modeller değil, modern sözcük dağarcığıyla çalışan ve güncel iş gereksinimlerine uygun modellerdir. Sanayi öncesi edebiyatın devasa hacmi bile tamamının dahil edilmesini engellerdi.

Her durumda, yazarların belirttiği “saplantılı” unsurların değişen bir karışımını içeren belirgin tek bir anlatı olsaydı, muhtemelen bulunması daha kolay olurdu. Yazarlar bile böyle bir eser bulamadı ve yapay zekâ öncesi döneme yönelik sıradan aramalar da bir aday ortaya çıkarmıyor. Belki “deniz feneri sendromu” yapay zekâ uzun çizgileri kadar kötü ün kazanırsa, akademik bir otorite yanıtla ortaya çıkar.

 

* May’in yazısını okurken açık hale gelebilecek nedenlerden ötürü makale hakkında daha fazla ayrıntıya giremiyorum.

İlk olarak 27 Mayıs 2026 Çarşamba günü yayımlandı. Anthropic bağlantısını düzeltmek için ilk 30 dakika içinde değiştirildi.

Makine öğrenimi üzerine yazar, insan görüntüsü sentezi alanında uzman. Metaphysic.ai'de araştırma içeriği başıydı, DNEG'in Brahma.ai'ye çözülene kadar.
Web Sitesi: martinanderson.ai
İletişim: martin@martinanderson.ai