Tıp Alanında Yapay Zeka Kullanımının Risklerini Azaltmaya Yönelik Bir Çalışma

Yapay zeka programları, sağlık hizmetlerini çeşitli şekillerde geliştirebilecek kapasiteye sahiptir. Örneğin, yapay zeka uygulamaları, bilgisayar vizyonu kullanarak doktorların X-ray ve manyetik rezonans görüntülerinden durumları teşhis etmesine yardımcı olabilir. Makine öğrenimi algoritmaları ayrıca, tıbbi verilerden insanların bulamayabileceği ince kalıpları çıkararak yanlış pozitif oranlarını azaltmaya yardımcı olabilir. Ancak, olanaklar ile birlikte yeni zorluklar da ortaya çıkıyor ve yakın zamanda Science dergisinde yayımlanan bir makale, tıbbi makine öğrenimi teknikleri için olası riskleri ve düzenleyici stratejileri inceleyerek, tıbbi bir bağlamda yapay zeka kullanımının olası olumsuz yan etkilerini en aza indirmeye çalıştı.

Tıp Alanında Yapay Zeka Uygulamalarının Genişlemesi

Yapay zeka, tıp alanındaki uygulamalarını hızla genişletiyor. Sağlık alanında, yapay zeka tarafından yönlendirilen son gelişmeler arasında, yeni ilaçlar yaratmak için yapay zeka kullanan bir eczacılık şirketinin kurulması, yapay zeka tabanlı uzaktan sağlık sensörlerinin geliştirilmesi ve bilgisayar vizyonu uygulamalarının CT taramaları ve X-ray’leri analiz etmesi yer alıyor.

Daha spesifik olarak, Genesis Therapeutics, ilaç keşfini hızlandırmak için yapay zeka kullanmayı hedefleyen bir startup. Genesis Therapeutics, yeni ilaçlar yaratmak için yapay zeka kullanan yaklaşık 170 farklı firmadan biri. Bu arada, sağlık izleme cihazlarında, iRhythm (IRTC ) ve Fransız yapay zeka şirketi Cardiologs, EEG verilerini analiz etmek ve kalp koşulları olan veya komplikasyon riski taşıyan kişilerin sağlığını izlemek için yapay zeka algoritmaları kullanıyor. Şirketlerin tasarladığı yazılım, kan akışının neden olduğu kalp mırıltılarını tespit edebiliyor.

Son olarak, bilgisayar vizyonunun tıbbi görüntülere nasıl uygulanabileceğini araştıran bir çalışmada, bilgisayar vizyonu sistemlerinin, küçük kanamaları tespit etmek için BT taramalarını incelemekte, uzman radyologlar kadar iyi veya daha iyi performans gösterdiği bulundu. Çalışmadaki algoritmalar, sadece bir saniye içinde BT taramalarını inceleyerek tahminlerde bulunabiliyor ve beyindeki kanamayı yerelleştirebiliyor.

Öyleyse, tıpta yapay zeka kullanımının potansiyel faydaları açıkken, ortaya çıkabilecek yeni zorluklar ve riskler menos net.

Genişleyen Bir Alanı Düzenleme

TechXplore’un bildirdiği gibi, tıpta yapay zeka kullanımının olası dezavantajlarını değerlendirmek için, bir grup araştırmacı Science dergisinde bir makale yayımladı. Makale, yapay zeka kullanımının ortaya çıkardığı olası sorunlara cevaplar bulmaya ve bu sorunlara çözümler aramaya çalıştı. Tıbbi alanda yapay zeka kullanımından kaynaklanabilecek sorunlar arasında, tedavi önerilerinin yanlış olması ve yaralanmalara neden olması, gizlilik endişeleri ve algoritmik önyargı/eşitsizlik yer alıyor.

FDA, sadece “kilitli algoritmalar” kullanan tıbbi yapay zeka uygulamalarını onayladı; bu algoritmalar her çalıştırıldığında güvenilir bir şekilde aynı sonucu üretiyor. Ancak, yapay zeka’nın potansiyelinin büyük bir kısmı, yeni girdi türlerine öğrenme ve cevap verme yeteneğinde yatıyor. “Uyumlu algoritmaları” daha fazla kullanmak ve FDA onayını almak için, makale yazarları, algoritmaları güncellemenin risklerini nasıl azaltabileceğini derinlemesine inceledi.

Yazarlar, makine öğrenimi mühendisleri ve araştırmacılarının, modellerin dağıtım ömürleri boyunca sürekli olarak izlenmesine odaklanmasını öneriyor. Önerilen araçlar arasında, AI sistemlerinin nasıl davrandığını otomatik raporlar sağlayarak yardımcı olabilecek yapay zeka kendisi de yer alıyor. Ayrıca, birden fazla yapay zeka cihazı birbirlerini izleyebilir.

“Riskleri yönetmek için, düzenleyiciler özellikle sürekli izleme ve risk değerlendirmesine odaklanmalı ve gelecekteki algoritma değişiklikleri için plan yapmaktan daha az endişe etmelidir” dedi makale yazarları.

Makale yazarları ayrıca, düzenleyicilerin yeni risk tanımlama, izleme, değerlendirme ve yönetim yöntemleri geliştirmeye odaklanmasını öneriyor. Makale, FDA’nın diğer tıbbi teknoloji formlarını düzenlemek için kullandığı birçok tekniği uyguluyor.

Çalışmanın yazarları şöyle açıkladı:

“Amacımız, tıbbi yapay zeka/öğrenme sistemlerinin ortamlarına karşı tepki verme veya adapte olma şekillerindeki beklenmedik değişikliklerden kaynaklanabilecek riskleri vurgulamaktır. İncelenmemiş parametre güncellemeleri veya yeni veri türleri büyük ve maliyetli hatalara neden olabilir.”