Düşünce Liderleri
Yapay Zeka Zaten Doktorunuzdan Daha Akıllı. Korkutucu Olan Bu Değil.

Öne çıkan noktalarKlinik yapay zekâ, belirsizliği kabul etmek yerine veriyi sessizce kaçırdığında…
Daha fazla göster
- Klinik yapay zekâ, belirsizliği kabul etmek yerine veriyi sessizce kaçırdığında başarısız olur.
- İnsan varlığı, hiçbir hasta dosyasının veya modelin yakalayamayacağı klinik verileri sağlar.
- Zor iş, ham zekâdan ziyade modelin etrafındaki güvenilir sistemlerde yatar.
Yapay Zekanın bu sorunu çözmesini istedim.
Yıllarca, karmaşık hasta geçmişlerini, laboratuvar bulgularını, semptomları, ilaçları, takviyeleri ve yıllara dayanan önceki tedavileri alıp hepsini tutarlı bir klinik plana dönüştürmeye çalışıyordum. Karmaşık bir vaka, neyin önemli olduğuna ve bir sonraki adımın ne olması gerektiğine rahatça karar verebilene kadar üç saatlik araştırma sürebilirdi.
Sonra üretken Yapay Zeka ortaya çıktı.
İlk düşüncem açıktı: sonunda.
İşte devasa miktarda bilgiyi tüketebilen, tıbbi bilgiyi benden daha hızlı hatırlayabilen ve bir vaka üzerindeki ilişkileri saniyeler içinde bulabilen bir teknoloji. Büyük bir dil modelinin etrafına bir arayüz koyup, birkaç güvenlik önlemi inşa edebilir ve işin bittiğini düşünebilirdim.
Bu harika olurdu.
Bunun yerine, yaklaşık bir yıl ve 1 milyon dolar sonra, yazılım mühendisleri 10 kişilik bir klinik ekiple birlikte çalışırken, hâlâ inşa ediyorduk.
Sebep, Yapay Zeka’nın yeterince zeki olmaması değildi.
Zeka, kolay kısım olduğu içindi.
Herkesten Farklı Bir Yapay Zeka Alıyordum
İlk ipucum, klinik yazılım geliştirmeye çalışmadan çok önce geldi. Yanımda oturan birinin kullandığı aynı Yapay Zeka aracını kullanarak çok daha iyi sonuçlar elde edebildiğimi fark etmeye devam ettim.
Neden? Çünkü sadece bir soru sorup cevabı almıyordum. Onunla tartışıyordum. Varsayımları sorguluyordum. Kaçırdığı bağlamı sağlıyordum. Hataları düzeltiyordum. Çerçeveyi değiştiriyordum. Tekrar itiyordum.
Teknik olarak aynı aracı kullanıyorduk. İşlevsel olarak ise kullanmıyorduk.
Bir reklam yazarken bu ilginç bir verimlilik sorunu. Konu bir hasta olduğunda ise çok farklı bir sorun haline geliyor.
70.000’den fazla uygulayıcıyla çalıştım. Birisi klinik olarak parlak olabilir ama bir Yapay Zeka sisteminden faydalı bilgi elde etmede berbat olabilir.
Bunlar farklı becerilerdir.
Yine de sağlık hizmetlerinin çoğu cevabı, klinisyenlerin sadece “prompt mühendisliği” öğrenmesi gerektiği yönünde görünüyor.
Bunun ciddi bir çözüm olduğunu düşünmüyorum.
Bir klinik Yapay Zeka sisteminin güvenilir olabilmesi için bir hekimin gelişmiş bir prompt mühendisi haline gelmesini gerektirmesi, klinik Yapay Zekayı inşa etmeyi tamamlamadığımız anlamına gelir.
Araştırma Zaten Bize Rahatsız Edici Bir Şey Söylüyor
2024 yılında yapılan randomize bir klinik deneme, 50 doktora zor tanı vakaları verdi. GPT-4 kullanan doktorlar %76 puan elde etti; geleneksel kaynakları kullananlar %74 puan elde etti, bu fark istatistiksel olarak anlamlı değildi.
Daha sonra araştırmacılar yalnızca GPT-4’ü test etti. Geleneksel kaynakları kullanan doktorları 16 yüzde puan farkla geride bıraktı.
2026 yılında Pakistan’da yapılan bir deneme, AI okuryazarlığı eğitimi sonrası, GPT-4o erişimi olan doktorların tanısal akıl yürütmede %71.4 puan aldığını, geleneksel kaynakları kullananların ise %42.6 puan aldığını buldu. Ancak yalnızca GPT-4o %82.9 puan elde etti.
2026’da Birleşik Krallık’ta yapılan bir tekrarlama çalışması, benzer bir fark buldu: Doktorlar AI yardımıyla gelişti ancak hâlâ tek başına çalışan LLM’den 21 yüzde puandan fazla düşük puan aldı.
Rahatsız edici kısmı yüksek sesle söylememiz gerekiyor: belirli bilişsel görevlerde, Yapay Zeka zaten bireysel bir doktordan daha iyidir.
Hiçbir doktor her tıbbi makaleyi okumuş ya da her nadir hastalığı, etkileşimi ya da kontrendikasyonu anında hatırlayamaz. Yapay Zeka, yorgunluk hissetmeden ya da zaman tükenmeden devasa miktarda bilgiyi işleyebilir.
Hata, bir sohbet botunu bir klinisyenin önüne koyup sorunun çözüldüğünü varsaymak.
Boş Prompt Kutusu Sorundur
Bir doktorun 150 belirteç içeren bir laboratuvar raporu yüklediğini ve bir LLM’den analiz etmesini istediğini hayal edin.
Cevap güzel bir şekilde düzenlenmiş olarak geri gelir. Tek bir sorun var: sistem 150 belirtecin tamamını güvenilir bir şekilde çıkartamadı.
Genel amaçlı LLM’ler deterministik klinik belge ayrıştırıcıları değildir. Tablolar ve yoğun tıbbi raporlar özellikle zordur. Korkutucu olan, son yanıtın “50 değeri kaçırdım” şeklinde duyurmayabileceğidir.
Sadece cevap verebilir.
Şimdi, o eksik değerlerden birinin acil tıbbi değerlendirme gerektirdiğini hayal edin.
Bu, etrafından dolaşmaya razı olduğum bir sınırlama değildi. Sistemimizin klinik akıl yürütme bölümüne geçmeden önce laboratuvar raporlarını doğru ve tekrarlanabilir şekilde işleyebilecek farklı bir veri çıkarma teknolojisi yaratmak zorundaydık.
Bu deneyim, Yapay Zeka güvenliği hakkındaki düşünce tarzımı değiştirdi.
Bir Yapay Zeka sisteminin bir şeyi bilmediğini söylemesi rahatsız edicidir.
Bir AI sistemi neyi kaçırdığını bilmediğinde tehlikelidir.
Neden AI’nın Ötesine Geçmemiz Gerekti
Klinik çalışma, genel amaçlı üretken AI’nın doğal olarak sunmadığı bir şeyi gerektirir: tekrarlanabilirlik.
Ne girip ne çıktığını kontrol etmemiz gerekiyordu: güvenilir veri çıkarımı, yapılandırılmış bilgi, deterministik mantık, güvenlik önlemleri ve bir hastanın geçmişi boyunca ilişkileri değerlendirebilen sistemler.
Klinik akıl yürütme sadece bir dizi eğer‑o zaman ifadesi değildir. Bazen sinyal, birkaç belirteç arasındaki ilişkidir. Bazen beş ayrı ayrı önemsiz bulgu, birlikte değerlendirildiğinde önemli hâle gelir.
Mühendislerin, yazılımın çalıştırabileceği kadar açık kurallara ihtiyacı vardır. Klinik uzmanlar ise hayatları boyunca “Evet, ama…” diye söylerler.
İnsan biyolojisi istisnalar, değiştiriciler, bağlam ve rekabet eden açıklamalarla doludur. Bazen sistemi inşa etmek, bir grubun işaret diliyle, diğerinin ise Klingonca konuştuğu bir ortamda çalışıyormuş gibi hissettirdi.
Cevap asla “AI” ya da “AI değil” değildi. Her birinin tam olarak nerede konumlanacağını bulmaktı.
AI Hasta Dosyasını Okuyabilir. İnsanlar Ortamı Okur.
Doğru kullanıldığında, AI bir klinisyenin hafızasını genişletebilir, araştırmayı hızlandırabilir, nadir olasılıkları ortaya çıkarabilir ve büyük miktarda bilgi üzerindeki kalıpları tanıyabilir.
Bu, uygulayıcıyı değiştirmekten ziyade biyonik bir uygulayıcı inşa etmeye daha çok benziyor.
Ancak hasta kısa bir klinik vaka betimlemesinden ibaret değildir.
Bir uygulayıcı cevaptan önce tereddütü duyar. Hikayenin değiştiğini fark eder. Bir hastanın semptomları sürekli küçümsediğini, diğerinin ise her hissi en yüksek şiddetle rapor ettiğini öğrenir. “İyiyim” demesinin kesinlikle iyi anlamına gelmediğini bilir.
Bu bilgi hasta dosyasında hiç bulunmayabilir.
Tıptaki insan etkileşimi, makine entelektüel işi tamamladıktan sonra eklediğimiz yalnızca hoş bir katman değildir. Başka bir klinik veri kaynağıdır.
AI hasta dosyasını okuyabilir. İnsanlar ortamı okuyabilir.
En iyi klinik sistemlerin her ikisine de ihtiyacı olacak.
AI’nın Doktoru Değiştirip Değiştirmeyeceğini Sormayı Bırakın
Yanlış soruyu soruyoruz.
Gelecek, en zeki sohbet botuna ya da en akıllı temel modele sahip şirketin elinde olmayabilir. Önemli yenilik giderek modelin etrafında gerçekleşiyor: bilginin nasıl yakalandığı ve doğrulandığı, hangi bilginin sağlandığı, sistemin neyi çıkarım yapmasına izin verildiği, deterministik kontrollerin nerede devreye girdiği ve insanın nerede döngüde kalması gerektiği.
Ham zeka giderek bol oluyor.
Bu zekayı uygulamak için güvenilir sistemler inşa etmek çok daha zor.
Ve bu sorunu, her klinisyenin amatör bir AI geliştiricisi olmasını talep ederek çözmemeliyiz. Karmaşıklık teknoloji içinde, doktorun isteminde değil, yaşamalı.
Geleceğin hekimleri AI’ye hafıza konusunda üstün gelemeyecekler. Bu yarış zaten anlamsızlaşmaya başladı.
Bunun yerine, klinisyenlere makinenin hafızasını, işlem gücünü ve kalıp tanıma yeteneğini verirken, bağlamı, yargıyı, şüpheciliği ve insan bağlantısını koruyan sistemler inşa etmeliyiz.
Buna biyonik uygulayıcı diyoruz.
Hastaların sonunda buna çok daha basit bir ad vereceklerini düşünüyorum.
Doktorları.












