Neden AI Modeller Radyolojideki Temel Problemleri Çözmez

Radyolojideki çoğu AI çalışması bugün teşhis modelleri üzerinde merkezlenmiştir. Odak, daha fazla veri üzerinde eğitim vererek ve modelleri iyileştirerek doğruluğu artırmaktadır. Bu yaklaşım, radyolojiyi主要 olarak bir görsel tanıma görevi olarak ele alır, burada daha iyi bir tespit, tüm sistemin iyileşmesine yol açması beklenir. İlk bakışta bu mantıklı görünüyor: tespit iyileşirse, teşhis kalitesi de iyileşmelidir. Ancak bu görüş, asıl sorunu kaçırıyor.

Radyolojideki temel sorun, teşhisin kendisinin nasıl yapılandırıldığıdır. Bu, desen tanıma konusunda bir sınırlama değil, nasıl çalışıldığı ve kararların üretildiği konusunda bir sınırlamadır. Ve modellemeyi iyileştirmek bunu çözmez. Aşağıda, neden böyle olduğu ve model doğruluğunun ötesinde neler değişmesi gerektiği hakkında bakacağız.

Sorun Yapısal

CV modeller, görüntülerdeki desenleri tanımaya yardımcı olur. Kontrollü çalışmalarda, radyologların performansına benzer bir performans sergileyebilirler, AUC genellikle 0.90’ın üzerinde ve bazı tarama ayarlarında uzman performansını eşitleyebilir veya aşabilir. Çoğu alanda, bulguları tespit etme yetisi artık ana kısıtlama değildir.

Ancak, yalnızca görüntü verisiyle çalışırlar. Olası bulguları vurgularlar, ancak teşhis sürecine kendileri katılmazlar. Farklı girdileri tek bir teşhis olarak birleştiremezler veya kararların nasıl alındığını yönlendiremezler. Çoğu alanda, bulguları tespit etme yetisi artık ana kısıtlama değildir. Desenleri tanımak için tasarlanmışlardır, teşhis sürecine katılmak için değil.

Pratikte, bu demektir ki yapı değişmez. Radyologlar, sonuçları gözden geçirmek ve nihai kararları vermekle sorumludurlar ve AI çıktıları genellikle ek doğrulama gerektirir. Sorumluluk, hekimle kalır. İş akışı değişmez. Darboğaz kalır. Her çalışma, stillerine göre tek bir radyoloğa atanmaya devam eder ve bu radyolog, çalışmayı gözden geçirmek, yorumlamak, doğrulamak ve raporlamakla yükümlüdür. Çalışmalar gösteriyor ki klinisyen performansı, AI hatalarının nasıl ele alındığına hala çok bağlıdır ve yanlış çıktılar, karar verme sürecini olumsuz etkileyebilir.

Bir model, kendi kararını yeniden değerlendiremez. Hata yaparsa, durumu ek bağlamla yeniden değerlendirmek için bir yol yoktur. Sonuç, gerçek teşhisin sürekli ayarlanması gerektirdiği halde sabittir. Çıktıları statiktir, klinik akıl yürütme ise doğası gereği yinelemedir.

Sonuç olarak, darboğazlar kalır, değişkenlik sürer ve süreç, hala tek bir radyoloğa bağlı kalır. Görüntü hacmi arttıkça, her çalışma için bir uzman olan bir sistem, kaçınılmaz olarak sınırlarına ulaşır.

Güven Krizi

Radyolojideki AI, ayrıca bir güven problemi yaratır.

Bir radyolog, yalnızca bir modelin çıktısını sorgulamaz. Arkasındaki sistemi, özellikle AI, kontrol edilebilecek bir araç olarak sunulmadığında sorgular. Modelde güven istikrarsızdır. Daha az deneyimli doktorlar, hata yaparsa bile ona fazla güvenebilir ve hataları kaçırabilir. Daha deneyimli olanlar, tek bir hata sonrasında kullanmayı bırakabilir. Bu iki model — fazla güven ve ilgisizlik — her ikisi de riskleri azaltmak yerine yeni riskler getirir.

Hata之后, model genellikle karar verme sürecinden çıkarılır. Bir araç olarak değil, basitçe görmezden gelinir. Bu, devamlılığı bozar ve pratik değerini sınırlar. Pratikte, bu, iş akışına istikrarlı bir şekilde entegre edilmektense, tutarlı olmayan kullanımına yol açar.

Bu, tıbbın nasıl çalıştığıyla daha derin bir çatışmayı yansıtır. Bir radyolog, teşhis sorumluluğunu bir sisteme devredemez. Klinik ve yasal sorumluluk, hekimle kalır. AI’ı bir yerineği olarak ele almak, tıbbi uygulamanın yapısına aykırıdır.

Bu, modelin önerdiği ancak hekimin doğruladığı bir yapısal çatışmaya yol açar. Tanıma, otomatik hale getirilebilir. Sorumluluk, otomatik hale getirilemez. Ve sorumluluk devredilemediği sürece, her model çıktısı kontrol edilmelidir, bu da iş yükünü azaltma yeteneğini sınırlar.

Verimlilik İllüzyonu

AI, radyologdan işi entfermez. Kontrol katmanı ekler. Hekim, çalışmayı hala yorumlar ve modelin çıktısını doğrulamakla yükümlüdür. Bu, zaman kazandırmak yerine çift çalışmaya yol açar. Zamandan tasarruf etmek yerine, doğrulama ve düzeltme adımlarına zaman kaybeder.

Sistem, daha hızlı görünse de, pratikte zaman, zamanı azaltmak yerine ek kontrollerde harcanır. Zaman içinde, bu araçların birikebilirliği, operasyonel yükü artırmaya yol açar ve teşhisi nasıl üretildiğini temel olarak iyileştirmez.

AI ayrıca parçalanmaya neden olur. Çoğu model, dar bir görev için tasarlanır: tek bir anatomik bölge, modallik veya patoloji. Gerçek klinik ihtiyaçları karşılamak için, bir klinik, birden fazla model kullanmalıdır. Bu, birleşik bir sistem yerine, parçalı bir araç setine yol açar.

Her model, kendi arayüzü, entegrasyonu ve bakım gereksinimlerini getirir. Bu, sistem karmaşıklığını artırır ve daha fazla etkileşim noktası ekler.

Sonuç olarak, sistem yönetmek daha zor hale gelir, ancak teşhis süreci temel olarak değişmez.

AI Ölçeğinin Sınırları

Her yeni model sürümüyle, güven yeniden kurulmalıdır. İş akışı, modeli desteklemek yerine hekime odaklanır. Bu, sistemi kendisinin iyileştirmeye odaklanmak yerine, bireysel araçlara uyum sağlamak için dikkat dağıtmasına yol açar.

Bu, çoğu modelin dar odaklanmasıyla daha da zor hale gelir. Her biri, belirli bir görev veya anatomik bölge için tasarlanmıştır. Pratikte, bu, bir klinikte birden fazla modelün aynı anda kullanılması gerektiği anlamına gelir, her biri kendi kısıtlamaları, entegrasyonları ve maliyetleriyle. Sistem, işletmek daha zor hale gelir.

Aynı zamanda, AI’ın bugün en çok etkisinin olduğu alan açık hale gelir. Görüntüleri yorumlamak değil, etrafındaki sistemi iyileştirmek — çalışmaları yönlendirmek, kuyrukları yönetmek, vakaları doğru uzmana atamak ve iş yükünü tahmin etmek. Bu alanlar, koordinasyonun faydalanacağı alanlardır.

Pratikte Ne Oldu

Klinik ağımızda, yılda bir milyondan fazla MRI ve BT çalışması yapılan 40’tan fazla klinik ve üç ülkede, FDA onaylı çözümler de dahil olmak üzere birkaç AI modeli uyguladık. Kurulum basitti: Model, görüntüleri analiz etti, rapor oluşturdu ve radyolog, bunu gözden geçirdi ve onayladı. Beklenen sonuç, daha hızlı dönüş ve daha az hata oldu.

Pratikte, deneyimli radyologlar, modelin çıktısını görmeden önce her çalışmayı kendileri yorumlamaya devam ettiler. Oluşturulan metinle çalışmak, çoğu zaman sıfırdan yazmaktan daha fazla çaba gerektiriyordu, çünkü raporlama stilleriyle uyuşmuyordu. Süreç, hızlanmak yerine çoğu durumda daha da yavaşladı. Bazı durumlarda, modelle etkileşim, değerden daha fazla sürtüşme ekledi.

Kullanıcı davranışı da risk yarattı. Model hata yaptığında, deneyimli radyologlar, güvenini kaybedip kullanmayı bıraktı. Daha az deneyimli doktorlar, sistemden daha fazla yararlanmaya eğilimliydi, bu da kaçırılan hataların ve ilgili klinik ve yasal risklerin artmasına yol açıyordu.

Bu gözlemler, daha derin bir sorunu gösterir. Bireysel araçları iyileştirmek, sistemi nasıl çalıştığı konusunda bir değişiklik getirmez. Darboğaz, bir çalışmadan başlayarak bir radyoloğun tüm süreci ele aldığı iş akışında yatmaktadır. Bu kısıtlamalar, yalnızca araçları ekleyerek sistemi iyileştirmeyi zorlaştırır.

DICO’da, bunu farklı bir şekilde ele aldık. Mevcut iş akışına AI eklemek yerine, yapıya kendimize odaklandık. Çalışmalar, ilgili uzman tarafından doğrudan görüntüleme verilerine göre ele alınan parçalara bölünebilir. Nihai rapor, bu girdilerden derlenir ve AI, koordinasyonu destekler. Teşhis, bu modelde, artık bir kişi tarafından yazılmaz — birden fazla katılımdan derlenir.

Bu, model kalitesi sorunları değildi. Yapı sorunlarıydı.

Teşhis Sistemini Yeniden Düşünmek

Modern radyoloji, temel bir varsayıma dayanır. Bir çalışma, bir radyolog. Bu, darboğazlar, değişkenlik ve ölçeklenebilirlik sınırları yaratır. Ana sorun, modellerin hatalar yapması değildir. Sistem, onlarla birlikte çalışmak için tasarlanmamıştır. Bir ölçeklenebilir olmayan temel üzerine kurulmuştur.

İteratif olmayan bir araç, iteratif bir sürece yerleştirilir. Klinik uygulamada, radyoloji, tek geçişli bir karar değildir. Çalışmalar gösteriyor ki, ilk ve ikinci yorumlar arasındaki anlaşmazlık, ~30% vakada ortaya çıkabilir ve klinik olarak önemli tutarsızlıklar, ~18-20% vakada yönetimi etkileyebilir. İkinci görüşler, istisna değil, teşhis çalışmasının rutin bir parçasıdır.

Daha geniş olarak, tüm tıpta, ikinci görüşler yol açar. Tanıda, %10-62 arasında değişen oranlarda bir değişikliğe yol açabilir, bu, ortamla ilgili olarak değişir.

Bağlamsal yeniden değerlendirme ve koordinasyon yeteneği olmadan, model çıktıları statik kalır, gerçek teşhis ise sürekli ayarlamayı gerektirir.

Sonraki adım, daha doğru modeller değildir. Teşhis sistemini yeniden tasarlamaktır.

Değişim, ayrı AI araçlarından, teşhisleri yönetmek için birleşik bir yola doğru gerçekleşir — teşhis, tek bir karar değil, birden fazla adımda yönlendirilen ve yorumlanan bir süreç olarak. Sınırlama, akıllı modellerin eksikliği değil, teşhis işini bir süreç olarak koordine edebilecek bir sistemin yokluğudur.