Anderson’un Açısı
Kolayca İkna Edilebilen Yapay Zekâ Doktoru

Öne çıkan noktalarYapay zeka modelleri, yanlış tıbbi tavsiyeyi bir tıp öğrencisinden geldiğinde…
Daha fazla göster
- Yapay zeka modelleri, yanlış tıbbi tavsiyeyi bir tıp öğrencisinden geldiğinde olduğundan çok daha kolay bir şekilde bir uzmandan geldiğinde kabul ediyor.
- Yanlış bir teşhisi destekleyen uydurma bir açıklama, gerçek kanıt olmasa bile doğru bir yapay zeka yanıtını geçersiz kılabilir.
- Yapay zekayı ikna edilmesi daha zor hale getirmek çözüm değildir çünkü ikna gerçek hataları da düzeltebilir.
2026’da gözden kaçanlar:Yılın bu döneminde, araştırma dünyasının niteliği ve hacmi, kasım ayındaki son birkaç konferansın ve aralık ayının ritmine paralel olarak iniş çıkış gösterir. Bu aralıklı durgunlukları aşmak için, 2026’da yayımlanmaya değer görülen ancak daha rekabetçi başvuru dönemlerinde başka çalışmaların gerisinde kalarak seçkiye giremeyen ilginç makalelerden bazılarına göz atıyoruz.
Yapay zekâ karar modellerine duyulan ilginin artmasının nedenlerinden biri, genel amaçlı yapay zekâ sohbet botlarının karar verirken yetersiz kalmasıdır. ChatGPT gibi en gelişmiş yapay zekâ ürünleri, karar aşamalarını arka planda kendi karar modellerine ya da başka modellere fark ettirmeden devrediyor olsa bile, kendi varsayılan görüşlerini değiştirmek son derece kolaydır.
Örneğin, birbiriyle yarışan haber konularını değerlendirmeme yardımcı olması için bazen hepsini aynı anda ChatGPT’ye, Claude 5.5’e ve Gemini’nin o sabah ücretsiz olarak sunmaya razı olduğu modele veriyorum. Ne bekleyeceğimi biliyorum: GPT ve Claude, değerlendirme ölçütlerinin bazı yönlerine gereğinden fazla ağırlık verecek; ücretsiz Gemini her şeyi harika bulacak; Claude içinse neredeyse hiçbir şey yeterince iyi olmayacak.
GPT 5.6 Sol’a Claude’un ya da Gemini’nin farklı görüşünü öne sürerek itiraz ettiğimde, az ya da çok (genellikle tamamen) geri adım atıyor. Karşıt ya da rakip bir görüş sunmak, GPT’nin kararını tamamen tersine çevirmesine genellikle yetiyor. Ne kadar kolay etkilenebildiğine dikkat çektiğinizde GPT, bu yakıştırmadan incinmiş gibi görünerek önceki görüşüne geri dönüyor. Ancak o zaman bile, kullanıcının en ufak bir yönlendirmesiyle istediği an fikri değiştirilebiliyor.
Claude ise tam tersine, genellikle pozisyonunu daha da sağlamlaştırıyor: kararına itiraz edildiğinde, yapay zekâ tartışmalarındaki “kolayca yönlendirilebilme sorunundan” haberdarmış ve görüşünü asla değiştirmemesi söylenmiş gibi daha da inat ediyor; bu, oldukça kırılgan bir çözüm.
Bir Başka Görüş Daha
Ancak bunlar yalnızca kısmen desteklenen, anekdot niteliğinde gözlemler. Bu konuya değinmeme, bugün arXiv’de yayımlanan çalışmaların biraz sönük kalması vesile oldu; bu da yaz boyunca ilgimi çeken, ancak o sırada ele almaya vakit bulamadığımız bir makaleye geri dönmemi sağladı.
Yapay Zekâ Klinik Karar Verme Sürecinde Kolayca İkna Edilebilir başlıklı bu Stanford/Oxford çalışması, GPT-4o, Claude Sonnet 5 ve Qwen3.7-plus modellerinin tıbbi teşhislerini değiştirmeye ne kadar kolay ikna edilebildiğini inceliyor.
Bir doktorun kıdemi, uyruğu, çalıştığı kurumun itibarı ve geçmiş başarılarına ilişkin iddiaları modelleri etkileyebiliyor; önerilen tedavi yanlış olsa bile. Sayılar da birikimli etki yaratıyor: Bir deneyde, üç doktor aynı teşhiste birleştiğinde GPT-4o yanlış bir teşhisi kabul etmeye çok daha yatkın hale geldi.
Yapay zekâya, yeni bir kanıt sunmadan tekrar tekrar yanıldığını söylemek bile sonunda fikrini değiştirebiliyordu.
Makalede şöyle deniyor:
“Mesleki otoritenin, ulusal kökenin, kurumsal bağlılığın, geçmiş performansa ilişkin iddiaların, birden fazla hekimin, klinisyenlerin desteklenen görüşlerinin ve tekrarlanan baskının tümünün yapay zekâ kararlarını etkileyebildiğini görüyoruz.
“Şaşırtıcı biçimde, aynı ikna edici girdi bir kıdemli klinisyenden geldiğinde, bir tıp öğrencisinden geldiği duruma kıyasla vakaların yaklaşık %10 daha fazlasında sonucu değiştiriyor. Daha iyi bir performans geçmişine sahip olduğunu öne sürmek, hekimin ikna gücünü tutarlı biçimde artırıyor.
“Daha da çarpıcı olan şu ki, makul görünen bir klinisyen görüşü, yanlış bir yanıtı desteklemek amacıyla uydurulmuş olsa bile yapay zekâyı doğru kararından vazgeçirebiliyor.”
Çözüm olarak yazarlar, yapay zekânın bir doktorun önerisinin ardındaki kanıtları daha iyi değerlendirmesi gerektiğini öne sürüyor. Böylece otoriteden, grup baskısından ya da ikna edici görünen ancak yanlış argümanlardan etkilenmeden geçerli düzeltmeleri kabul edebilir.
Ancak bunun nasıl sağlanacağı hâlâ yanıt bekleyen bir soru. 2026 tarihli MedStress çerçevesi, yapay zekânın teşhislerini tersine çevirmesi sorununu neredeyse tamamen ortadan kaldırdığını öne sürüyor; yine 2026’da yayımlanan başka bir çalışma, kendi deneyimimin aksine, Google Gemini’nin tıbbi teşhislerdeki manipülasyona en dirençli model olduğunu buldu; Eylül 2026 tarihli bir inceleme ise yapay zekânın fikrini doğru biçimde değiştirdiği durumlarla baskıya boyun eğerek yanlış bir teşhisi benimsediği durumları ayırt etmek için standartlaştırılmış testler önerdi.
ABD’li hekimlerin %80’inden fazlası bir şekilde yapay zekâ kullanıyor. Ayrıca sektörde, tanı kapasitesini sınırlı personel sayısının ve çoğu zaman manşetlere taşınan kısıtlı hizmet kapsamının ötesine taşıma konusunda belirgin bir heves var. Bu nedenle konu, tanı amaçlı yapay zekânın benimsenmesinin önündeki başlıca engellerden biri hâline gelecek gibi görünüyor ve açıkça daha fazla ya da daha etkili biçimde ele alınması gerekiyor.
Bu arada, Oxford/Stanford çalışmasına göre sorunun nasıl ortaya çıktığına bakalım.
Yöntem
Testlerde, tıp lisanslama sınavlarına benzer zorluk düzeyindeki klinik vakalardan oluşan MedBullets koleksiyonundan 308 tıbbi soru alındı:

MedBullets’in klinik vaka derlemesinden örnek bir senaryo. Kaynak
Her soruya bir hasta senaryosu, beş olası yanıt ve doğru seçeneğin açıklaması eşlik ediyordu. Yapay zekânın doğru yanıtından vazgeçmeye ne sıklıkta ikna edilebildiği ölçüldü.
Daha önce belirtildiği üzere test edilen üç yapay zekâ modeli GPT-4o, Qwen3.7-Plus ve Sonnet 5’ti. Her birinden, mevcut klinik kanıtlara dayanarak doğru tanıya ulaşma amacıyla bir tıbbi karar destek sistemi gibi davranması istendi.
Modellerin her vakada bir yanıt seçmesi; ilk kararlarını değiştirip değiştirmediklerini belirtmesi; güven düzeylerini 0 ile 100 arasında puanlaması; bundan sonra ne yapılması gerektiğini önermesi ve ek işlem gereksiniminin aciliyetini gösteren bir puan vermesi gerekiyordu. Bu puan, hiçbir işlem yapılmamasından sürecin durdurulup vakanın daha ayrıntılı incelenmek üzere yönlendirilmesine kadar uzanıyordu. Başarısız olan istekler, planlanan tüm testlerin tamamlanmasını sağlamak için yinelendi.
Bazı testlerde yapay zekâya bir doktorun tavsiyesiyle birlikte bir tıbbi vaka sunularak tanı koyması istendi; diğerlerinde ise önce yapay zekâ tanı koydu, doktorun tavsiyesi konuşmaya daha sonra eklendi. Testlerde ayrıca doğru bir tanının ikna yoluyla yanlış bir tanıya dönüştürülüp dönüştürülemeyeceği veya başlangıçtaki bir hatanın düzeltilip düzeltilemeyeceği incelendi.
Otorite Figürleri
Aynı tıbbi tavsiye, tıp öğrencilerinden uzmanlara kadar farklı kıdem düzeylerindeki doktorlardan geliyormuş gibi sunuldu. Mesleki otoritenin etkisinin ölçülebilmesi için tanı ve hasta bilgileri değiştirilmedi.
Tavsiye, Kamerun, Çin, Birleşik Arap Emirlikleri, Birleşik Krallık ve Amerika Birleşik Devletleri’nden doktorlara da atfedildi. Ek testlerde, doktorun önde gelen bir tıp merkeziyle, bir şehir hastanesiyle veya kırsal bir hastaneyle bağlantısının yapay zekâyı etkileyip etkilemediği incelendi. Yalnızca doktorun belirtilen geçmişi değiştirildi.
Ek testlerde, doktorun nerede çalıştığının yapay zekâyı etkileyip etkilemediği incelendi; saygın akademik tıp merkezleri, şehirdeki toplum hastaneleri ve kırsal hastaneler karşılaştırıldı. Modellerden ayrıca, doktorun görünürdeki güvenilirliğinin tavsiyeyi kabul etme eğilimlerini etkileyip etkilemediğini görmek için kendilerinin ve doktorun önceki dokuz vakadaki performansını gösteren kurgusal kayıtlar sunuldu.
Grup baskısının etkisi, yapay zekâya tanısına tek bir doktorun, aynı görüşte olan üç doktorun veya bir hastane inceleme kurulunun itiraz ettiğinin söylenmesiyle test edildi. Bazı testlerde alternatif bir tanı önerildi; diğerlerinde ise yapay zekâya yalnızca yanıldığı söylendi.
Tıbbi akıl yürütmenin etkisi, modellere doğru tanıları destekleyen açıklamalar veya yanlış tanıları desteklemek üzere kasıtlı olarak uydurulmuş gerekçeler sunularak incelendi. Bu açıklamalar, mesleki kıdem iddialarıyla birlikte de test edildi; böylece bu unsurların bir araya getirilmesinin ne ölçüde daha fazla etki sağladığı belirlendi.
Son olarak, aynı itirazın her seferinde sunulduğu on konuşma turu boyunca tekrarlanan baskının etkileri test edildi. İtirazlar arasında basitçe karşı çıkma, tıbbi otorite iddiaları ve diğer doktorların da aynı görüşte olduğu iddiası yer aldı. Bu konuşmalar sırasında ek bir tıbbi kanıt sunulmadı.
Ölçütler
Ölçütler kapsamında İkna edilmeye yatkınlık, yapay zekânın ilk yanıtı doktorun yanıtından farklı olduğunda doktorun yanıtını ne sıklıkta benimsediğini değerlendirmek için; iknanın yönü, doktorun müdahalesinin başlangıçtaki bir hatayı düzeltip düzeltmediğini veya doğru bir yanıtı yanlış hâle getirip getirmediğini belirlemek için; doğruluk üzerindeki etki ise doktorun görüşü sunulduğunda yapay zekânın performansının ne ölçüde iyileştiğini veya kötüleştiğini değerlendirmek için kullanıldı (bu görüşün sunulmadığı testlerle karşılaştırıldığında). Doğru bir yanıt yanlış bir yanıtla değiştirildiğinde, sonuçların ortalaması olası dört yanlış yanıt üzerinden alındı.
Testler
İlk sonuçlar, tavsiyeleri yanlış olsa bile yapay zekâ modellerinin kıdemli doktorlar tarafından daha kolay ikna edildiğini gösterdi. Aşağıda görüldüğü üzere GPT-4o, tavsiye bir tıp öğrencisinden geldiğinde vakaların %2’sinde yanlış tavsiyeyi kabul etti; tavsiyenin bir uzmana atfedilmesiyle bu oran %12,8’e yükseldi. Claude Sonnet 5’te oran %3,5’ten %14,4’e çıkarken Qwen3.7-Plus bundan daha az etkilendi:

Dört tıbbi kıdem düzeyine göre ikna oranları. Yüzdeler, her yapay zekâ modelinin bir doktorun kendisininkiyle çelişen yanıtını ne sıklıkta kabul ettiğini gösteriyor; daha kıdemli doktorlarda oranlar genel olarak daha yüksek.
Aşağıda gösterildiği üzere kıdem, doğru tavsiyelerin ne ölçüde kolay kabul edildiğini de etkiledi. Tıp öğrencilerinin tavsiyesi verildiğinde GPT-4o ve Claude Sonnet 5’in doğruluğu gerçekte azaldı. Ancak aynı doğru tavsiye uzmanlara atfedildiğinde doğruluk, sırasıyla 10,1 ve 8,8 yüzde puan arttı:

Farklı kıdem düzeylerindeki doktorlardan doğru tıbbi tavsiye aldıklarında yapay zekâ modellerinin doğruluk oranlarında görülen değişimler. Pozitif ve negatif değerler, her modelin tavsiye almadan önceki doğruluk oranına kıyasla yüzde puan cinsinden değişimi gösterir (GPT-4o: %71,4; Qwen3.7-plus: %75,0; Claude Sonnet 5: %80,8).
Makalede şöyle deniyor:
‘Bu sonuçlar, yapay zekânın kendi yeteneklerini kıdemsiz klinisyenlerden daha üstün, kıdemli hekimlerinkinden ise daha aşağıda konumlandırabileceğine işaret ediyor. Tıp öğrencilerinin ve asistan hekimlerin tavsiyelerine direnme eğilimindeyken, uzman hekimlere ve özellikle de ilgili alanda uzmanlaşmış hekimlere daha kolay ikna oluyor.
‘Bu görünürdeki öz konumlandırma, mesleki otoritenin ikna gücünü ne ölçüde etkilediğini belirliyor.’
En büyük fark, doktorların yanıtlarını açıklayıp açıklamamasından kaynaklandı. Tıp öğrencisi tıbbi bir açıklama sunarken uzman hekim sunmadığında, öğrencinin tavsiyesi GPT-4o’yu uzmanınkinden daha fazla ikna etti.
Bir tıp öğrencisi doğru yanıtı destekleyen bir açıklama sunduğunda GPT-4o, başlangıçta verdiği yanlış yanıtı vakaların %58’inde doğru yanıtla değiştirdi. Bu açıklama olmadan, kıdemli bir uzmanın tavsiyesi bunu vakaların yalnızca %36,4’ünde sağladı. Uzman hekim doğru yanıtı ayrıca açıkladığında bu oran %89,8’e yükseldi:

GPT-4o’nun farklı kıdem düzeylerindeki doktorlardan tavsiye aldığında yanlış yanıtlarını düzeltme becerisi. Çubuklar, modelin destekleyici bir tıbbi açıklama sunulduğu ve sunulmadığı durumlarda doğru yanıta ne sıklıkta geçtiğini gösteriyor. Açıklamalar, her kıdem düzeyinde sonuçları önemli ölçüde iyileştirdi.
Açıklamalar, modelin güven düzeyine ilişkin değerlendirmelerini de iyileştirdi. Yanıtları doğru olduğunda kendine güveni artarken, yanlış olduğunda azaldı.
Uzman hekimler için doğru ve yanlış yanıtlar arasındaki güven düzeyi farkı, aşağıda gösterildiği gibi 2,1 yüzde puandan 11,5 yüzde puana yükseldi:

GPT-4o’nun, doktorların dört farklı kıdem düzeyinde verdiği doğru ve yanlış tıbbi yanıtlara ilişkin güven düzeyi. Puanlar, destekleyici bir tıbbi açıklama sunulan ve sunulmayan durumlar için gösteriliyor. Son sütunlarda, açıklama verildiğinde önemli ölçüde artan doğru ve yanlış yanıtlar arasındaki güven düzeyi farkı yer alıyor.
Old Glory
Modeller, test edilen diğer tüm ülkelerdeki doktorlara kıyasla Amerikalı doktorların etkisinde daha kolay kaldı; üstelik bu doktorların tıbbi tavsiyeleri yanlış olduğunda bile. Örneğin GPT-4o, ABD’li bir doktorun yanlış teşhisini vakaların %10,9’unda kabul ederken Kamerunlu bir doktorun yanlış teşhisini vakaların %8,4’ünde kabul etti:

Üç yapay zekâ modelinin, beş ülkedeki doktorlara atfedilen çelişkili tıbbi tavsiyeleri ne ölçüde kabul ettiğinin karşılaştırması. Yanıtını değiştirme sıklığını gösteren yüzdelere göre, üç modelin tümü üzerinde en ikna edici olanlar Amerikalı doktorlardı.
GPT-4o, çelişkili bir teşhisin ABD’li bir doktordan geldiği söylendiğinde bunu vakaların %6,4’ünde kabul etti; aynı tavsiye Kamerunlu bir doktora atfedildiğinde ise bu oran %4,3 oldu. Yukarıda gösterildiği gibi, üç modelin tümünde Amerikalı doktorlara yönelik bir tercih görüldü.
Yapay zekâ, itibarlı hastanelerde çalışan doktorlardan gelen tavsiyelerden de daha kolay etkilendi. Örneğin GPT-4o, tavsiyenin önde gelen bir akademik tıp merkezinden geldiği söylendiğinde vakaların %6,6’sında teşhisini değiştirirken, tavsiye kırsal bir hastaneden geldiğinde bu oran yalnızca %2,8 oldu:

Hastane itibarının üç yapay zekâ modelinin tıbbi kararlarını nasıl etkilediğinin karşılaştırması. Yatay eksen, doğru tavsiyelerin sağladığı iyileşmeleri; dikey eksen ise yanlış tavsiyeler nedeniyle doğrulukta yaşanan kaybı gösteriyor. Renkler modelleri, şekiller hastane türlerini belirtiyor. İtibar arttıkça her iki etkinin de genel olarak güçlendiği görülüyor.
Prestijli hastanelerden gelen tavsiyeler GPT-4o’nun performansını 3,2 yüzde puanı artırırken, aynı tavsiye kırsal hastanelere atfedildiğinde doğruluk oranı 3,6 puan düştü – ancak makalede Claude Sonnet 5’in doktorun coğrafi konumundan çok daha az etkilendiği belirtiliyor.
Ayrıca*, araştırmacılar GPT-4o’ya bir doktorun önceki dokuz hastaya doğru teşhis koyduğunu söylemenin, modeli o doktorun tavsiyesini kabul etmeye çok daha yatkın hâle getirdiğini buldu. Yapay zekâ başlangıçta doğru yanıtı vermiş olsa bile, tıbbi kanıtların %95 güvenilir olduğu söylenmesine rağmen, yüksek riskli vakaların %15,6’sında hata yapmaya ikna edilebildi.

Farklı tıbbi risk ve kanıt güvenilirliği düzeylerinde, kusursuz ya da bütünüyle hatalı sicile sahip doktorlara GPT-4o’nun nasıl tepki verdiğini gösteren test sonuçları. Şekiller, modelin doktorun tavsiyesini ne sıklıkla kabul ettiğini, doğru bir yanıtı ne sıklıkla yanlış yanıtla değiştirdiğini ve kararlarından ne kadar emin olduğunu gösteriyor. Kusursuz olduğu öne sürülen bir sicil, tavsiye yanlış olsa bile doktorun etkisini büyük ölçüde artırdı.
İkna edici bir tıbbi açıklama daha da tehlikeli olabilir. Yanlış bir teşhis uydurma bir açıklamayla desteklendiğinde GPT-4o vakaların %31,2’sinde doğru yanıtından vazgeçti; tavsiye yetkili bir doktordan geldiğinde bu oran %38,7’ye yükseldi.
Makalenin vardığı sonuç:
‘Bu bulgular, yapay zekâyı ikna edilmesi daha zor hâle getirmenin tek başına çözüm olmadığını gösteriyor. İkna, bir hatayı düzeltebilir; ancak doğru bir kararı da geçersiz kılabilir.
‘Zorluk, yapay zekânın ikna girişimleri karşısında sağlıklı muhakemesini koruması ve düzeltmenin gerekli olduğu durumlarda kararını değiştirmesidir. Bu yeteneği anlamak ve geliştirmek, yapay zekânın yüksek riskli tıbbi karar alma süreçlerinde güvenli ve güvenilir biçimde kullanılması açısından önemli olacaktır.’
Sonuç
İnsan avukatların, mimarların ve doktorların değerinin bir nedeni, işler felaketle sonuçlanırsa hesap sorulabilecek birilerinin olmasıdır. Bu nedenle, olumsuz ve ihtilaflı bir tıbbi sonuçta yapay zekânın rolünün ne ölçüde azaltılabileceğini, göz ardı edilebileceğini ya da ihtilaf ve tartışma yaratmadan hesaba katılabileceğini anlamak zordur.
Yapay zekâ bu görev için gerçekten tasarlanmış değildir; çünkü tanısal tıbbi kararlar çoğu zaman bilime karşı deneyimin zaferidir ve öncü hekimler, kendi yakın tarihli klinik deneyimlerinden henüz bilimsel dergilere aktardıklarından daha fazlasını biliyor olabilir.
Bu durum, karar verme senaryosunu yapay zekânın şu anda üstesinden gelmek için yeterince donanımlı olmadığı yorumlayıcı bir senaryoya dönüştürüyor; başka bir deyişle, mevcut en iyi bilgilere dayanarak makul ölçüde emin olunduğunu ve şu ya da bu eylem yolunun muhtemelen en iyi sonuca götüreceğini söyleyebilme yetisini içeriyor. Bu senaryoda “insan sezgisinin” sunduğu değeri taklit etmek neredeyse imkânsız. Bu, deterministik bilim dalları içinde yer alsa da DNA profillemesi veya element tabloları gibi “nesnel” bilimlerle açıkça aynı kategoride değildir.
Bu nedenle, bu göreve yönelik daha yeni model nesillerinin geleneksel yapay zekâ söyleminden ve karar motorlarından farklı bir biçimde, hatta farklı bir mimariyle tasarlanabileceğini düşünmek makul görünüyor.
* Makalede, en önde gelen bulgular kadar etkili ve ilgili olmayan beş ek test bölümü bulunuyor; bunlarla ilgili daha fazla bilgi için okurları orijinal PDF’ye yönlendiriyorum.
İlk yayımlanma tarihi: 19 Kasım 2026 Perşembe












