Sağlık Hizmetlerinde Yapay Zeka Hem Fırsatlar Hem de Riskler Getirebilir

Yapay zeka, sağlık alanında teşhisleri iyileştirebilecek ve yeni, daha etkili ilaçlar bulabilecek büyük bir potansiyele sahiptir. Ancak, Scientific American’da最近 yayınlanan bir makale gibi, sağlık hizmetleri alanına giren yapay zekanın hızı, aynı zamanda birçok yeni zorluk ve riski de beraberinde getiriyor.

Son beş yıl içinde, ABD Gıda ve İlaç Dairesi, 40’tan fazla farklı yapay zeka ürününü onayladı. Ancak, Scientific American’ın bildirdiği gibi, ABD’de satış için onaylanan hiçbir ürün, randomize kontrollü klinik çalışmalarında performansını değerlendirmemiştir. Birçok yapay zeka tıbbi aracı, FDA onayını gerektirmez.

“Derin Tıp: Yapay Zeka Nasıl Sağlık Hizmetlerini İnsan Odaklı Hale Getirebilir” kitabının yazarı Evan Topol, Scientific American’a, birçok yapay zeka ürününün, hastalıkları teşhis etme gibi görevlerde etkili olduğunu iddia ettiğini, ancak bu ürünlerin aslında böyle bir şekilde kapsamlı bir şekilde test edilmediğini söyledi. Ayrıca, çok az teknoloji şirketi, araştırma makalelerini hakemli dergilerde yayınlamaktadır, ki bu, çalışmalarının bilim adamları tarafından analiz edileceği yerdir.

Dikkatli bir şekilde test edilip kontrol edildiğinde, yapay zeka sistemleri, tıbbi profesyonellere, başka türlü fark edilmeyen semptomları tespit etmelerine yardımcı olan güçlü araçlar olabilir ve sağlık sonuçlarını iyileştirebilir.

Örneğin, diyabetik göz hastalığını tespit eden bir yapay zeka aracı, yüzlerce hasta üzerinde test edildi ve güvenilir görünüyor. Aracın geliştiricisi şirket, ürününü geliştirmek için sekiz yıl boyunca FDA ile birlikte çalıştı. IDx-DR testi, diyabetik retinopati belirtilerini erken tespit edebilecek ve şüpheli semptomlar tespit edilirse hastaları göz uzmanlarına yönlendirebilecek şekilde, birincil bakım kliniklerine ulaşıyor.

Eğer dikkatli bir şekilde test edilmezse, tıbbi profesyonellerin teşhis ve tedaviye rehberlik etmesi için kullandıkları yapay zeka sistemleri, zarardan kaçınmak yerine zarara neden olabilir.

Scientific American makalesi, yapay zekanın hastalıkları teşhis etmede kullanıldığında ortaya çıkabilecek bir sorunu vurguluyor. Örneğin, bir yapay zeka sistemi, göğüs röntgenlerini analiz edip hangi hastaların pnömoni geliştirme olasılığı yüksek olduğunu tespit edebiliyordu. Sistem, New York’taki Mount Sinai Hastanesi’nde test edildiğinde doğru sonuçlar verdi, ancak diğer hastanelerde test edildiğinde başarısız oldu. Araştırmacılar, yapay zekanın, taşınabilir röntgen sistemleri ile radyoloji departmanında alınan görüntüler arasında ayrım yaptığını buldular. Doktorlar, genellikle yatağa bağlı hastaları muayene etmek için taşınabilir göğüs röntgen sistemlerini kullanırlar ve bu hastalar pnömoni geliştirme riski daha yüksektir.

Yanlış alarm da bir endişe kaynağıdır. DeepMind, hastanede kalan hastaların akut böbrek yetmezliğini 48 saat öncesinden öngören bir yapay zeka mobil uygulaması geliştirdi. Ancak, sistem bildirildiğine göre her başarılı öngörünün yanı sıra iki yanlış alarm verdi. Yanlış pozitifler zararlı olabilir, çünkü doktorları gereksiz testler veya tedavi değişiklikleri için zaman ve kaynak harcamaya yönlendirebilir.

Diğer bir olayda, bir yapay zeka sistemi, pnömoni olan hastaların astım olması durumunda hayatta kalma olasılıklarının daha yüksek olduğunu yanlış bir şekilde tespit etti, bu da doktorların astımlı hastaların tedavilerini değiştirmesine neden olabilir.

Bir hastanede geliştirilen yapay zeka sistemleri, başka bir hastanede kullanıldığında genellikle kötü performans gösterir. Bunun birden fazla nedeni vardır. Örneğin, yapay zeka sistemleri genellikle elektronik sağlık kayıtlarına dayanarak eğitilir, ancak bu kayıtlar genellikle eksik veya yanlış olabilir, çünkü asıl amaçları hasta bakımı değil, faturalamadır. Örneğin, KHN tarafından yürütülen bir soruşturma buldu ki bazen hastaların tıbbi kayıtlarında, ilaç listelerinde yanlış ilaçlar gibi yaşamı tehdit eden hatalar olabilir. Ayrıca, hastalıklar genellikle çok daha karmaşıktır ve sağlık sistemi, yapay zeka mühendisleri ve bilim adamları tarafından genellikle öngörülemeyecek kadar karmaşıktır.

Yapay zeka giderek daha yaygın hale geldikçe, yapay zeka geliştiricilerinin sağlık otoriteleri ile birlikte çalışarak sistemlerinin kapsamlı bir şekilde test edildiğinden emin olmaları ve düzenleyici kurumların yapay zeka teşhis araçlarının güvenilirliği için standartlar belirleyip takip etmeleri wichtig olacaktır.