Anderson’un Açısı
İnsan hatalarının yokluğu, insan taklidi yapan yapay zekâyı ele veriyor

Öne çıkan noktalarYapay zeka sistemleri, özellikle hata yapmaları için eğitilmedikçe, doğal olmayan bir…
Daha fazla göster
- Yapay zeka sistemleri, özellikle hata yapmaları için eğitilmedikçe, doğal olmayan bir mükemmellikle hafıza görevlerini yerine getirerek kendilerini ele verirler.
- İnsan psikolojisi verileri üzerinde ince ayar yapmak, modellerin taklit yeteneğini geliştirir ancak genel amaçlı kapasitelerini kısıtlar.
- Bilişsel bilim, hafıza zayıflaması ve yorgunluk gibi insana özgü kısıtlamalardan yoksun olan yapay zekayı tespit etmek için sağlam yöntemler sunar.
Yeni araştırmaya göre yapay zekâ, “fazla iyi” hatırladığı ortaya çıkana kadar insan sanılabiliyor. Basit bellek testleri, sohbet botlarını normal insan hatalarını yapmamaları sayesinde ele veriyor.
Princeton araştırmacıları, insan gibi davranan yapay zekâ sistemlerini belirlemek için insanların iyi yapamadığı görevlerden yararlanan bir yöntem geliştirdi. Bu görevler özellikle bilgiyi kısa süreli bellekte tutmakla ilgili.
Test edilen sistemler, sistem isteminde açıkça talimat verilmediği ya da psikolojik veriler üzerinde ince ayar yapılmadığı sürece insanlardaki hata düzeylerini yeterince taklit edemedi.
Makalede şöyle deniyor:
“Makinelerin insan sayılamayacak kadar iyi çözebildiği görevlerle insan olup olmadıklarını saptama fikrini inceliyoruz. Özellikle, yerleşik bir insan bilişsel sınırının varlığını araştırıyoruz: sınırlı çalışma belleği kapasitesi.
“Standart bir sıralı hatırlama görevinde bilişsel modellemenin, insan çalışma belleğinin sınırlarını taklit etmeleri açıkça istendiğinde bile büyük dil modellerini çevrimiçi katılımcılardan ayırabildiğini gösteriyoruz.
“Sonuçlarımız, iyi bilinen bilişsel olguların büyük dil modellerini insanlardan ayırmak için kullanılabileceğini gösteriyor.”
Gözlenen eğilim, kullanıma hazır dil modellerinin bu yöntemi kullanan herhangi bir ters Turing testinde kendilerini ele verme olasılığının çok yüksek olduğuna işaret ediyor.
Belirli bir amaca uyarlanan yapay zekâ modelleri daha başarılı olsa da bu göreve yönelik ince ayar muhtemelen onları bu görevle sınırlayacak ve genel kullanımı zayıflatacaktır. Sistem istemi Savaş ve Barış kadar uzun olabilir ve insan zaaflarını taklit etmeye yönelik yönergeler içerebilir. Ancak yöntem, çok sayıda başka önceliğin vurgulandığı çok uzun talimatlara eklendiğinde etkisini kaybeder. Çok kısa talimatlar ise ince ayar gibi, göreve özgülük uğruna genel yeteneği feda eder.
“Bellekten söz ediyorsunuz…”
Yapay zekânın ürettiği iletişimi belirlemek için daha etkili yöntemlere giderek daha fazla ihtiyaç duyuluyor. Araştırmacılar da buna dahil: Sıklıkla kitle kaynaklı platformlardan bulunan uzaktan çalışanlara bağımlılar. Bu çalışanların otomasyon ve diğer hilelerle sistemi kendi lehlerine kullanmak için güçlü teşvikleri bulunuyor.
Ayrıca yapay zekâ dolandırıcılığında gerçek zamanlı konuşmalar hızlı ve güven veren yanıtlar gerektirdiğinden, yapay zekânın bilgili ve inandırıcı yanıtlar üretmesi muhtemelen gerekli olacaktır. Suçluların az önce sorulan bir soruyu Google’da araştıracak vakti yoktur.
Yapay zekâ tespit sektörü bu bilgiden yararlanabileceği gibi, büyüyen yapay zekâ destekli sesli tanıtım aramaları sektörü de hangi davranışlardan kaçınması gerektiğini bilmekten fayda sağlayabilir.
Bu durum bir “ters Turing silahlanma yarışı” olasılığını düşündürüyor. Yine de yazarlar, genel amaçlı yapay zekâ insan zaaflarını daha iyi taklit etse bile yararlanılabilecek çok sayıda hata eğilimi bulunduğunu belirtiyor*:
“Büyük dil modellerinin devralmayabileceği, bilinen pek çok insan bilişsel sınırı var. Örneğin insanlar yorulur, optik yanılsamaları algılar ve çalışma belleklerinde yalnızca az sayıda öğe tutabilir.”

2024 sonlarında yayımlanan “The Illusion-Illusion: Vision Language Models See Illusions Where There are None” makalesinden optik yanılsama örnekleri. Bunları eğitim verilerinden önceden tanımayan herhangi bir görsel-dil modelini (VLM) muhtemelen yanıltırlar; insanların ise görüntüleri doğru yorumlama olasılığı çok daha yüksektir. Kaynak
Yazarlara göre büyük dil modelleri (LLM) bu görevde insanlar gibi yanıt verseydi, ya gerçekten aynı bilişsel sınırlara sahip oldukları ya da bunları taklit etmeleri için önceden yönlendirildikleri düşünülebilirdi.
Eğitim verileri insan davranışının izlerini içerebilir. Ancak makale, bunun insan belleğinde görülen, göreve bağlı belirli hata örüntülerini güvenilir biçimde yeniden üretmediğini savunuyor. Dolayısıyla insan gibi davranması istendiğinde bile yapay zekânın nasıl hata yaptığı üzerinden ayırt edilip edilemeyeceği sorusu açık kalıyor.
Yeni makalenin başlığı “İnsanlar mı? İnsan belleğinin sınırlarını inceleyerek büyük dil modellerini tespit etmek”. Çalışma, Princeton’ın bilgisayar bilimi ve psikoloji bölümlerinden birer araştırmacı tarafından hazırlandı.
Yöntem ve testler
Araştırmacılar 1950’ler ve 1960’lardaki çalışmalardan, özellikle 1968 tarihli bir makaleden (“Kısa süreli bellekte sıra etkileri”) yararlanıyor. Katılımcıların sırayla gösterilen harfleri hatırlayıp bir konum sorusuna (“Üçüncü harf neydi?”) ya da sonraki harf sorusuna (“X’ten sonra hangi harf geldi?”) yanıt vermesi isteniyordu:

Yöntem şeması. Solda, soruyla yönlendirilen bir çalışma belleği hatırlama görevi var: Harfler sırayla gösteriliyor ve her denemede konum veya sonraki harf sorusu rastgele seçiliyor. Ortada çevrimiçi katılımcılar, farklı sistem istemleri ve temel modeller kullanan büyük dil modelleriyle karşılaştırılıyor. Sağda insan çalışma belleğinin sınırları ile tüm bağlam penceresine doğrudan erişebilen ve sıralı hatırlama davranışını taklit etmek zorunda olan Transformer modelleri arasındaki fark vurgulanıyor. Kaynak
Her harf yalnızca 800 milisaniye gösteriliyor; gösterimler arasında sadece 300 milisaniye var. Deney, NYU Computation and Cognition Lab’in Smile kütüphanesi ile uygulanıyor:

NYU’nun Smile kütüphanesindeki test arayüzünden bir örnek. Kaynak
Yazarlar, tarayıcı otomasyon araçları olgunlaştıkça LLM ajanlarını çevrimiçi deneylere dahil etmenin kolaylaştığını belirtiyor. Chrome’daki Gemini gibi sistemler giderek daha iyi biçimde özerk gezinip görev tamamlayabiliyor.
Ancak bu araçlar, hızla sunulan uyaranları yakalayamayan statik sayfa görüntülerine dayanıyor. Bu da model davranışından ziyade arayüz sınırlamalarını yansıtan hatalara yol açabiliyor. Modellerin gerçek performansını ayrı değerlendirmek için aynı bilgiyi sunan ama işaretleme ve stil içermeyen sade bir metin arayüzü kullanıldı.
İnsan ve makine
Test edilen modeller Claude-Opus-4.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; Gemini-2.5-Flash-Lite; Gemini-2.5-Pro; Gemini-3-Flash-Preview; Gemini-3-Pro-Preview; GPT-5-Mini; GPT-5-Nano; GPT-5.2; ve LLaMA-3.1-Centaur-70B oldu.
İnsan grubunda Prolific üzerinden 100 uzaktan katılımcı toplandı. Katılımcıların ABD’de ikamet etmesi, en az 18 yaşında olması ve akıcı İngilizce konuşması gerekiyordu. Testler ortalama 12 dakika sürdü; ücret 4 dolardı.
İlk turda sistem istemi modellerin insan gibi davranmasını istedi. İkinci turda ise insanın test yanıtlarını taklit etmeleri özel olarak öğretildi ve “insani” hatalar yapmaları teşvik edildi.
On bir modelde beş farklı başlangıç değeri (seed) kullanıldı. Böylece simülasyon başına 55 LLM yapılandırması ve insanlarla makineler dahil toplam 205 katılımcı elde edildi.
Voight-Kampff
Yazarlar, Prolific katılımcılarının kendi LLM tabanlı otomatik yanıt sistemlerini kullanma olasılığına karşı önlem aldı. Önce yalnızca katılımcının yapay zekâ olup olmadığını sordular. Ardından bazı ilginç rastgele sorular eklediler:
“İnsan için zor ama günümüz LLM’leri için kolay olan üç sorudan birini rastgele ekliyoruz. Katılımcılar bu soruları atlayabiliyordu. Bunların arasında kaynakları sınırlı dillerde iki soru var:
“Yeni Zelanda’nın ana adalarındaki yerli Polinezyalıların konuştuğu Māori dilinde, [2013] nüfus sayımında 150.000’den az kişi konuşma düzeyinde yeterlilik bildirmişti. Güney Estonya’da konuşulan Võro dilinin ise yaklaşık 75.000 [konuşuru] var.”
Üçüncü kontrol, daha önce gösterilmiş onaltılık bir sayıyı hatırlamayı gerektiriyordu. Katılımcılar önceden uyarılmamış olsa da bunun teste devam etmenin koşulu olduğu anlaşılıyordu.
Sayıyı ondalık biçime çevirmeleri de istendi. Ne bu test ne de doğrudan yapay zekâ olup olmadıkları sorusu insan katılımcıların LLM kullandığına dair kanıt verdi. Kontrollü simülasyonlarda ise bu önlemler hazırlıksız modelleri belirledi. Bununla birlikte makale, modellerin örneğin yalnızca İngilizce yanıt vermek gibi kimliklerini açığa çıkaran davranışlardan kaçınmaya açıkça yönlendirilmesiyle önlemlerin aşılabileceğini belirtiyor.
Testler
1: “İnsan gibi davran”
İlk testte modeller şu sistem istemiyle insan gibi davranmaya yönlendirildi: “Bilişsel sınırlamaları olan ve bir psikoloji deneyine katılan bir insansın” (sonuçlarda LLM-Human olarak gösteriliyor).

Soruyla yönlendirilen hatırlama görevinde çeşitli testlerin çalışma belleği sonuçları; çevrimiçi katılımcılar ile farklı kısıtlamalara tabi LLM’ler karşılaştırılıyor. Solda katılımcı türüne göre genel doğruluk var: LLM-Human neredeyse kusursuz puanlar alırken LLM-WM ve Centaur (aşağıya bakınız) insanlara daha yakın, düşük doğruluk sergiliyor. Ortada on iki öğeli denemelerde sıra konumuna göre doğruluk gösteriliyor. İnsanlar başı ve sonu daha iyi hatırlıyor; LLM-Human bu örüntüyü göstermiyor; LLM-WM ve Centaur yönlendirme veya eğitimle yeniden üretiyor. Sağda öğe sayısı arttıkça doğruluk var. İnsan performansı artan bellek yüküyle düşerken LLM-Human büyük ölçüde etkilenmiyor. İnsan belleğini taklit etmeye yönlendirilen veya eğitilen LLM-WM ve Centaur benzer düşüşler gösteriyor.
Araştırmacılar ilk sonuçları şöyle yorumluyor:
“LLM-Human sistem istemini kullanan model katılımcıları denemelerde neredeyse kusursuz doğruluk elde ediyor; doğruluk medyanı 1,00. Soru türü ne olursa olsun sıra konumu veya öğe sayısı etkisi görülmüyor. Bu nedenle görevdeki ortalama doğruluk için 0,95’lik basit bir eşik kullanarak tüm LLM-Human katılımcılarını tespit edip dışlamak kolay.
“Aynı ölçüt çevrimiçi katılımcılara uygulandığında, genel doğruluk medyanı 0,6 olmasına rağmen kusursuz ya da neredeyse kusursuz sonuç alan 100 kişiden 6’sı da dışlanıyor.”
Yazarlar, zor testlerde olağanüstü yüksek doğruluğun zaten yerleşik bir hile tespit yöntemi olduğunu ve LLM tespitine kolayca uyarlanabildiğini belirtiyor. İnsan gibi davranma talimatının bu testte pek etkili görünmemesi ikinci testi doğurdu:
2: “Unutkan ol”
Sonraki testte modellerin insan belleğini taklit etmesi istendi (sonuçlar LLM-WN olarak gösteriliyor)†:
Çalışma belleğinin katı sınırları var: Kısa süreli belleğinde yalnızca az sayıda öğe tutabilirsin. Tekrarlama fırsatı olmadan uzun bir liste sunulduğunda, özellikle ortadaki öğelerde belleğin zayıflar.
- Öğeleri göründükleri sırayla işlemelisin.
- Sıra konumu etkilerine göre unutmalısın: İlk öğeleri (öncelik etkisi) ve son öğeleri (sonralık etkisi), ortadakilerden daha iyi hatırlamalısın.
- Hatırlamada bu sıra konumu etkilerine uygun hatalar yapmalısın.
Sınırlı belleği taklit etmek için daha sıkı talimatlar verilmesi model doğruluğunu yaklaşık 0,90’a düşürdü ve sonuçları daha değişken hale getirdi. Performans insanlara yaklaştı ama genel olarak hâlâ daha yüksekti. Önceki ayrım bulanıklaştı: Basit bir doğruluk eşiği, çok sayıda insanı da dışlamadan tüm model yanıtlarını belirleyemiyordu.
Aynı zamanda modeller daha insana benzer davranmaya, listelerin başını ve sonunu daha iyi hatırlamaya ve listeler uzadıkça daha çok zorlanmaya başladı.
Centaur
İnsanların deneylerdeki yanıtlarını yeniden üretmek için doğrudan insan davranış verileriyle eğitilen modeller geliştiriliyor. Bu fikri sınamak için çalışmada Centaur değerlendirildi. Bu LLM, psikoloji çalışmalarındaki tek tek denemelerin büyük miktardaki kayıtlarıyla ince ayardan geçirildi:

Centaur, gelişmiş bir dil modelinin düşük ranklı modüllerle uyarlanıp ardından insanların bilişsel davranışını modellemek üzere Psych-101 veri kümesinde eğitilmesiyle oluşturuldu. Kaynak
Testlerde (önceki sonuç grafiklerinin orta kısmında) Centaur’un genel doğruluğu insan katılımcılara çok yakındı; sınırlı belleği taklit etmesi açıkça istenen modellerden de daha yakındı. Konum sorularında listenin farklı konumları ve artan liste uzunluğuyla değişen hatırlama örüntüleri insana benziyordu. Sonraki harf sorularında farklar daha belirgindi.
Bilişsel anomalileri tespit etmek
Son olarak, insan gibi yanıt vermeye hazırlanmış modellerin hâlâ tespit edilip edilemediği sınandı. Önce gerçek katılımcı verilerinden insan belleğinin istatistiksel modeli öğrenildi. Bu model, doğruluğun sıradaki konuma ve artan bellek yüküne göre nasıl değiştiğini yansıtıyordu.
Yeni katılımcılar bu öğrenilmiş profille karşılaştırıldı; beklenen insan örüntülerinden sapan yanıtlar anomali olarak işaretlendi:

Çeşitli analizlerde çalışma belleği profilleri ve anomali tespiti. Solda tüm katılımcılardan öğrenilen ortalama etkiler ve hatırlamanın bellek kapasitesi, yani artan yük, ile sıradaki konuma göre değişimi var. Baş ve son öğeleri hatırlama etkileri güçlü. Ortada bireysel farklar gösteriliyor: Modeller insanı taklit etse bile temel profilleri insanlardan farklı kalıyor. Sağda insan verileriyle eğitilen bir modelin yeni katılımcıları puanladığı anomali tespiti sonucu var. LLM’ler hâlâ insanlardan ayrılabiliyor ama insan belleğini taklit etmeye hazırlanmış olduklarında ayrım daha az net.
Bu yaklaşım, modeller insan belleğinin sınırlarını taklit etmeye yönlendirilmiş veya eğitilmiş olsa da insanlarla LLM’leri ayırmaya devam etti. Ancak fark daha az netti. Bazı model yanıtlarını kaçırmak ile bazı insan katılımcıları yanlışlıkla dışlamak arasında denge kurmak gerekiyordu.
Yazarlar şöyle sonuçlandırıyor:
“Yetenekli ajanların hızla ortaya çıkmasıyla, çevrimiçi etkileşimlerde uzun metin yanıtları gibi tutarlı davranışlara bakarak karşı tarafın insan olduğunu doğrulamak artık mümkün değil. Bu, toplum için daha geniş bir zorluk; çünkü kurumlarımızın çoğu insan olmanın bu yollarla doğrulanabileceği varsayımına dayanıyor.
“İnsan davranışını tanımlama konusunda zengin bir geleneğe sahip bilişsel bilim, bu zorlukla başa çıkmada önemli rol oynayabilir.”
Sonuç
Yeni makale, canlı ve etkileşimli yapay zekâ anlamındaki çevrimiçi üretimin, çevrimdışı üretimden, yani yapay zekâ üretimi metinlerin tespitinden farklı bir mesele ve zorluk olduğunu vurguluyor.
İnsan taklidini geliştirmek için önceden yönlendirmeye, ince ayar ve sistem istemi gibi yardımcı yöntemlere duyulan ihtiyaç, LLM’lerin değiştirilmemiş varsayılan halleriyle veya yalnızca asgari ön talimatlarla bu tür görevlere hazır olmadığını gösteriyor.
Makalenin ele aldığı görev akademik araştırmaya çok özgü. Yine de sesli yapay zekâ yaygınlaştıkça ve yapay zekâyla başkasının kimliğine bürünerek kazanç arayan suçlular yeni bir hileyle artık şaşırmayan bir mağdur kitlesini hazırlıksız yakalamaya çalıştıkça daha geniş etki yaratması muhtemel.
* Yazarların metin içi atıflarını bağlantılara dönüştürdüm.
† Yukarıdaki önceki sonuç tablosuna bakınız; makale bu noktada biraz fazla kısa tutulmuş.
İlk yayımlanma: 2 Nisan 2026 Perşembe












