Tıptaki AI Kullanımının Risklerini Azaltmanın Yollarını İnceleyen Çalışma

Yapay zeka programları, sağlık hizmetlerini çeşitli şekillerde iyileştirebilecek yeteneklere sahiptir. Örneğin, AI uygulamaları, doktorların X-ray ve FMRİ’lerden durumları teşhis etmesine yardımcı olmak için bilgisayar vizyonunu kullanabilir. Makine öğrenimi algoritmaları, ayrıca, tıbbi verilerden insanların bulamayabileceği ince kalıpları çıkararak yanlış pozitif oranlarını azaltmak için kullanılabilir. Ancak, olanaklarla birlikte yeni zorluklar da ortaya çıkıyor ve yakın zamanda Science’da yayınlanan bir makale, tıbbi makine öğrenimi teknikleri için olası riskleri ve düzenleyici stratejileri inceleyerek, tıbbi bir bağlamda AI’ı kullanmanın olası olumsuz yan etkilerini en aza indirmeye çalıştı.

Sağlık Hizmetlerinde AI İçin Genişleyen Uygulamalar

AI, sağlık alanında uygulamalarının hızla genişlemesini görüyor. Sağlık alanında, AI tarafından yönlendirilen son gelişmeler arasında, yeni ilaçlar yaratmak için AI kullanan bir eczacılık şirketinin kurulması, AI ile çalışan uzaktan sağlık sensörlerinin yaratılması ve CT taramalarını ve X-ray’i analiz eden bilgisayar vizyonu uygulamaları yer alıyor.

Daha kesin olmak gerekirse, Genesis Therapeutics, ilaç keşfini hızlandırmak için AI’ı kullanmayı hedefleyen bir startup ve bu sayede, engelleyici hastalıkların şiddeti azaltabilen ilaçlar yaratmayı umuyor. Genesis Therapeutics, yeni ilaç formülleri araştırmak için AI’ı kullanan yaklaşık 170 farklı firmadan sadece biri. Bu arada, sağlık izleme cihazları açısından, iRhythm ve Fransız AI startup’ı Cardiologs, EEG verilerini analiz etmek ve kalp hastalıkları olanların veya komplikasyon riski taşıyanların sağlığını izlemek için AI algoritmalarını kullanıyor. Şirketler tarafından tasarlanan yazılım, kan akışının neden olduğu kalp mürmürlükleri gibi bir durumu tespit edebiliyor.

Son olarak, bilgisayar vizyonunun tıbbi görüntülere nasıl uygulanabileceğini araştıran bir çalışma, bilgisayar vizyonu sistemlerinin, beyin kanamalarını bulmak için CT taramalarını incelemek için uzman radyologlardan en azından aynı düzeyde veya daha iyi performans gösterdiğini buldu. Çalışmada kullanılan algoritmalar, sadece bir saniye içinde CT taramalarını inceleyerek tahminlerde bulunabiliyorlardı. Bilgisayar vizyonu sistemleri ayrıca, beyinde kanamayı yerelleştirebiliyor.

Bu nedenle, AI’ı sağlık hizmetlerinde kullanmanın potansiyel faydaları açık olsa da, sağlık hizmetleri alanına AI’ı kullanmanın bir yan etkisi olarak ortaya çıkacak yeni zorluklar ve riskler neler olacak, bu daha az açık.

Genişleyen Alanın Düzenlenmesi

TechXplore’un haberine göre, sağlık hizmetlerinde AI’ı kullanmanın potansiyel dezavantajlarını değerlendirmek için, bir grup araştırmacı yakın zamanda Science’da bir makale yayınladı ve AI ile ilgili olası sorunları tahmin etmek ve bu sorunlara olası çözümler bulmaya çalıştı. Sağlık hizmetleri alanındaki AI kullanımından kaynaklanabilecek sorunlar arasında, tedavi önerilerinin uygun olmaması sonucu oluşan yaralanmalar, gizlilik endişeleri ve algoritmik önyargı/ eşitsizlik yer alıyor.

FDA, sadece “kilitli algoritmalar” kullanan tıbbi AI’ı onayladı, yani her çalıştırıldığında aynı sonucu güvenilir bir şekilde üreten algoritmalar. Ancak, AI’ın çok büyük bir potansiyeli, yeni girdi türlerine öğrenme ve cevap verme yeteneğinde yatıyor. “Uyumlu algoritmaları” daha fazla kullanmak ve FDA’dan onay almak için, makale yazarları, algoritmaları güncellemenin ilgili risklerini nasıl azaltabileceğini derinlemesine inceledi.

Yazarlar, makine öğrenimi mühendisleri ve araştırmacılarının, modellerin dağıtım ömrü boyunca sürekli olarak modelleri izlemeye odaklanmasını öneriyor. AI sistemlerini izlemek için önerilen araçlar arasında AI kendisi de yer alıyor, bu da AI’ın nasıl davrandığını otomatik raporlar sağlayabilir. Ayrıca, birden fazla AI cihazı birbirlerini izleyebilir.

“Riskleri yönetmek için, düzenleyiciler özellikle sürekli izleme ve risk değerlendirmesine odaklanmalı ve gelecekteki algoritma değişiklikleri için plan yapmaktan daha az endişe etmelidir” dedi makale yazarları.

Makale yazarları, ayrıca, düzenleyicilerin, riskleri tanımlamak, izlemek, değerlendirmek ve yönetmek için yeni yöntemler geliştirmeye odaklanmasını öneriyor. Makale, FDA’nın diğer tıbbi teknoloji türlerini düzenlemek için kullandığı birçok tekniği uyguluyor.

Makale yazarları şöyle açıkladı:

“Hedefimiz, tıbbi AI/ML sistemlerinin ortamlarına tepki vermeleri veya uyum sağlamaları sonucu ortaya çıkabilecek riskleri vurgulamaktır. İnce, genellikle tanınmayan parametre güncellemeleri veya yeni veri türleri, büyük ve maliyetli hatalara neden olabilir.”