Yapay Zeka Zaten Doktorunuzdan Daha Akıllı. Korkutucu Olan Bu Değil.

Yapay Zekanın bu sorunu çözmesini istedim.

Yıllarca, karmaşık hasta geçmişlerini, laboratuvar bulgularını, semptomları, ilaçları, takviyeleri ve yıllara dayanan önceki tedavileri alıp hepsini tutarlı bir klinik plana dönüştürmeye çalışıyordum. Karmaşık bir vaka, neyin önemli olduğunu ve bir sonraki adımın ne olması gerektiğini rahatça karar verebilene kadar üç saatlik araştırma sürebilirdi.

Sonra üretken Yapay Zeka ortaya çıktı.

İlk düşüncem açıktı: sonunda.

İşte devasa miktarda bilgiyi tüketebilen, tıbbi bilgiyi benden daha hızlı hatırlayabilen ve bir vaka üzerindeki ilişkileri saniyeler içinde bulabilen bir teknoloji. Büyük bir dil modelinin etrafına bir arayüz koyup, birkaç güvenlik önlemi inşa edebilir ve işin bittiğini düşünebilirdim.

Bu harika olurdu.

Bunun yerine, yaklaşık bir yıl ve 1 milyon dolar sonra, yazılım mühendisleri 10 kişilik bir klinik ekiple birlikte çalışırken, hâlâ inşa ediyorduk.

Sebep, Yapay Zeka’nın yeterince zeki olmaması değildi.

Zeka, kolay kısım olduğu içindi.

Herkesten Farklı Bir Yapay Zeka Alıyordum

İlk ipucum, klinik yazılım geliştirmeye çalışmadan çok önce geldi. Yanımda oturan birinin kullandığı aynı Yapay Zeka aracını kullanarak çok daha dramatik sonuçlar elde edebildiğimi fark etmeye devam ettim.

Neden? Çünkü sadece bir soru sorup cevabı almıyordum. Onunla tartışıyordum. Varsayımları sorguluyordum. Kaçırdığı bağlamı sağlıyordum. Hataları düzeltiyordum. Çerçeveyi değiştiriyordum. Tekrar itiyordum.

Teknik olarak aynı aracı kullanıyorduk. İşlevsel olarak ise kullanmıyorduk.

Bir reklam yazarken bu ilginç bir verimlilik sorunu. Konu bir hasta olduğunda ise çok farklı bir sorun haline geliyor.

70.000’den fazla uygulayıcıyla çalıştım. Birisi klinik olarak parlak olabilir ama bir Yapay Zeka sisteminden faydalı bilgi elde etmede berbat olabilir.

Bunlar farklı becerilerdir.

Yine de sağlık hizmetlerinin çoğu cevabı, klinisyenlerin sadece “prompt mühendisliği” öğrenmesi gerektiği yönünde görünüyor.

Bunun ciddi bir çözüm olduğunu düşünmüyorum.

Bir klinik Yapay Zeka sisteminin güvenilir olabilmesi için bir hekimin gelişmiş bir prompt mühendisi haline gelmesini gerektirmesi, klinik Yapay Zekayı inşa etmeyi tamamlamadığımız anlamına gelir.

Araştırma Zaten Bize Rahatsız Edici Bir Şey Söylüyor

2024 yılında rastgele klinik deneme, 50 doktora zor tanı vakaları verdi. GPT-4 kullanan doktorlar %76 puan elde etti; geleneksel kaynakları kullananlar %74 puan elde etti, bu fark istatistiksel olarak anlamlı değildi.

Daha sonra araştırmacılar yalnızca GPT-4’ü test etti. Geleneksel kaynakları kullanan doktorları 16 yüzde puan farkla geride bıraktı.

2026 yılında Pakistan’da deneme, AI okuryazarlığı eğitimi sonrası, GPT-4o erişimi olan doktorların tanısal akıl yürütmede %71.4 puan aldığını, geleneksel kaynakları kullananların ise %42.6 puan aldığını buldu. Ancak yalnızca GPT-4o %82.9 puan elde etti.

2026 Birleşik Krallık’ta tekrarlama, benzer bir fark buldu: Doktorlar AI yardımıyla gelişti ancak hâlâ LLM’in tek başına çalıştığı durumun %21’inden fazla altında puan aldı.

Rahatsız edici kısmı yüksek sesle söylememiz gerekiyor: belirli bilişsel görevlerde, Yapay Zeka zaten bireysel bir doktordan daha iyidir.

Hiçbir doktor her tıbbi makaleyi okumuş ya da her nadir hastalığı, etkileşimi ya da kontrendikasyonu anında hatırlayamaz. Yapay Zeka, yorgunluk hissetmeden ya da zaman tükenmeden devasa miktarda bilgiyi işleyebilir.

Hata, bir sohbet botunu bir klinisyenin önüne koyup sorunun çözüldüğünü varsaymak.

Boş Prompt Kutusu Sorundur

Bir doktorun 150 işaret içeren bir laboratuvar raporu yüklediğini ve bir LLM’den analiz etmesini istediğini hayal edin.

Cevap güzel bir şekilde düzenlenmiş olarak geri gelir. Tek bir sorun var: sistem 150 işaretin tamamını güvenilir bir şekilde çıkartamadı.

Genel amaçlı LLM’ler deterministik klinik belge ayrıştırıcıları değildir. Tablolar ve yoğun tıbbi raporlar özellikle zordur. Korkutucu olan, son yanıtın “50 değeri kaçırdım” şeklinde duyurmayabileceğidir.

Sadece cevap verebilir.

Şimdi, o eksik değerlerden birinin acil tıbbi değerlendirme gerektirdiğini hayal edin.

Bu, etrafında bir sınırlama inşa etmeye istekli olduğum bir durum değildi. Sistemimizin klinik akıl yürütme bölümüne geçmeden önce laboratuvar raporlarını doğru ve tekrarlanabilir şekilde işleyebilecek farklı bir çıkarım teknolojisi yaratmak zorundaydık.

Bu deneyim, Yapay Zeka güvenliği hakkındaki düşünce tarzımı değiştirdi.

Bir Yapay Zeka sisteminin bir şeyi bilmediğini söylemesi rahatsız edicidir.

Bir AI sistemi neyi kaçırdığını bilmediğinde tehlikelidir.

Neden AI’nın Ötesine Geçmemiz Gerekti

Klinik çalışma, genel amaçlı üretken AI’nın doğal olarak sunmadığı bir şeyi gerektirir: tekrarlanabilirlik.

Ne girip ne çıktığını kontrol etmemiz gerekiyordu: güvenilir veri çıkarımı, yapılandırılmış bilgi, belirleyici mantık, güvenlik önlemleri ve bir hastanın geçmişi boyunca ilişkileri değerlendirebilen sistemler.

Klinik akıl yürütme sadece bir dizi eğer‑o zaman ifadesi değildir. Bazen sinyal, birkaç belirteç arasındaki ilişkidir. Bazen beş ayrı ayrı önemsiz bulgu, birlikte değerlendirildiğinde önemli hâle gelir.

Mühendislerin, yazılımın çalıştırabileceği kadar açık kurallara ihtiyacı vardır. Klinik uzmanlar ise hayatları boyunca “Evet, ama…” diye söylerler.

İnsan biyolojisi istisnalar, değiştiriciler, bağlam ve rekabet eden açıklamalarla doludur. Bazen sistemi inşa etmek, bir grubun işaret diliyle, diğerinin ise Klingonca konuştuğu bir ortamda çalışıyormuş gibi hissettirdi.

Cevap asla “AI” ya da “AI değil” değildi. Her birinin tam olarak nerede konumlanacağını bulmaktı.

AI Grafiği Okuyabilir. İnsanlar Ortamı Okur.

Doğru kullanıldığında, AI bir klinisyenin hafızasını genişletebilir, araştırmayı hızlandırabilir, nadir olasılıkları ortaya çıkarabilir ve büyük miktarda bilgi üzerindeki kalıpları tanıyabilir.

Bu, uygulayıcıyı değiştirmekten ziyade biyonik bir uygulayıcı inşa etmeye daha çok benziyor.

Ancak hasta bir klinik vaka değildir.

Bir uygulayıcı cevaptan önce tereddütü duyar. Hikayenin değiştiğini fark eder. Bir hastanın semptomları sürekli küçümsediğini, diğerinin ise her hissi en yüksek şiddetle rapor ettiğini öğrenir. “İyiyim” demesinin kesinlikle iyi anlamına gelmediğini bilir.

Bu bilgi grafikte hiç bulunmayabilir.

Tıptaki insan etkileşimi, makinenin entelektüel işi tamamladıktan sonra eklediğimiz hoş bir katman değildir. Başka bir klinik veri kaynağıdır.

AI grafiği okuyabilir. İnsanlar ortamı okuyabilir.

En iyi klinik sistemlerin her ikisine de ihtiyacı olacak.

AI’nın Doktoru Değiştirip Değiştirmeyeceğini Sormayı Bırakın

Yanlış soruyu soruyoruz.

Gelecek, en zeki sohbet botuna ya da en akıllı temel modele sahip şirketin elinde olmayabilir. Önemli yenilik giderek modelin etrafında gerçekleşiyor: bilginin nasıl yakalandığı ve doğrulandığı, hangi bilginin sağlandığı, sistemin neyi çıkarım yapmasına izin verildiği, belirleyici kontrollerin nerede devreye girdiği ve insanın nerede döngüde kalması gerektiği.

Ham zeka giderek bol oluyor.

Bu zekayı uygulamak için güvenilir sistemler inşa etmek çok daha zor.

Ve bu sorunu, her klinisyenin amatör bir AI geliştiricisi olmasını talep ederek çözmemeliyiz. Karmaşıklık teknoloji içinde, doktorun komut satırında değil, yaşamalı.

Geleceğin hekimleri AI’ye hafıza konusunda üstün gelecekler. Bu yarış zaten anlamsızlaşmaya başladı.

Bunun yerine, klinisyenlere makinenin hafızasını, işlem gücünü ve kalıp tanıma yeteneğini verirken, bağlamı, yargıyı, şüpheciliği ve insan bağlantısını koruyan sistemler inşa etmeliyiz.

Buna biyonik uygulayıcı diyoruz.

Hastaların sonunda buna çok daha basit bir ad vereceklerini düşünüyorum.

Doktorları.