Sağlık Yapay Zekası Başarısız Olursa Kim Sorumludur?

Sağlık hizmetlerinde AI hataları kazalara, yaralanmalara veya daha kötü sonuçlara neden olduğunda kim sorumlu? Duruma bağlı olarak, yapay zeka geliştiricisi, sağlık uzmanı ve hatta hasta olabilir. AI sağlık hizmetlerinde daha yaygın hale geldikçe, sorumluluk giderek daha karmaşık ve ciddi bir endişe kaynağıdır. Yanlış giden yapay zekadan kim sorumlu ve kazalar nasıl önlenebilir?

Sağlık Hizmetlerinde Yapay Zeka Hatalarının Riski

Artan hassasiyet ve doğruluktan daha hızlı iyileşme sürelerine kadar sağlık hizmetlerinde yapay zekanın birçok şaşırtıcı faydası vardır. AI, doktorların teşhis koymasına, ameliyat yapmasına ve hastalarına mümkün olan en iyi bakımı sağlamasına yardımcı oluyor. Ne yazık ki, AI hataları her zaman bir olasılıktır.

Sağlık hizmetlerinde yapay zekanın yanlış gittiği çok çeşitli senaryolar vardır. Doktorlar ve hastalar yapay zekayı tamamen yazılım tabanlı bir karar verme aracı olarak kullanabilir veya yapay zeka robotlar gibi fiziksel cihazların beyni olabilir. Her iki kategorinin de riskleri var.

Örneğin, yapay zeka destekli bir ameliyat robotu bir prosedür sırasında arıza yaparsa ne olur? Bu ciddi bir yaralanmaya neden olabilir ve hatta potansiyel olarak hastayı öldürebilir. Benzer şekilde, bir ilaç teşhis algoritması bir hasta için yanlış ilacı önerirse ve hasta olumsuz bir yan etkiye maruz kalırsa? İlaç hastaya zarar vermese bile, yanlış bir teşhis uygun tedaviyi geciktirebilir.

Bunun gibi AI hatalarının temelinde, AI modellerinin doğası yatmaktadır. Günümüzde yapay zekanın çoğu "kara kutu" mantığını kullanıyor, yani algoritmanın nasıl karar verdiğini kimse göremiyor. Kara kutu AI şeffaflıktan yoksundur, mantık yanlılığı gibi risklere yol açan, ayrımcılık ve yanlış sonuçlar. Ne yazık ki, bu risk faktörlerini zaten sorunlara neden olana kadar tespit etmek zordur.

AI Yanlış Gitti: Kim Suçlanacak?

Yapay zeka destekli bir tıbbi prosedürde bir kaza meydana geldiğinde ne olur? AI'nın yanlış gitme olasılığı her zaman belirli bir dereceye kadar kartlarda olacaktır. Birisi yaralanırsa veya daha kötüye giderse, suçlu AI mı? Şart değil.

Yapay Zeka Geliştiricisi Hatalı Olduğunda

AI'nın bir bilgisayar programından başka bir şey olmadığını hatırlamak önemlidir. Oldukça gelişmiş bir bilgisayar programıdır, ancak yine de herhangi bir diğer yazılım parçası gibi koddur. AI, bir insan gibi duyarlı veya bağımsız olmadığı için kazalardan sorumlu tutulamaz. Bir yapay zeka mahkemeye gidemez veya hapse mahkum edilemez.

Sağlık hizmetlerindeki AI hataları, büyük olasılıkla AI geliştiricisinin veya prosedürü izleyen tıp uzmanının sorumluluğunda olacaktır. Bir kazada hangi tarafın kusurlu olduğu duruma göre değişebilir.

Örneğin, veri önyargısı bir yapay zekanın haksız, yanlış veya ayrımcı kararlar veya muamele vermesine neden olursa, geliştirici muhtemelen hatalı olacaktır. Geliştirici, yapay zekanın söz verildiği gibi çalışmasını sağlamaktan ve tüm hastalara mümkün olan en iyi tedaviyi vermekten sorumludur. AI, geliştiricinin ihmal, gözetim veya hatalarından dolayı arızalanırsa, doktor sorumlu olmayacaktır.

Doktor veya Hekim Hatalı Olduğunda

Bununla birlikte, yapay zekanın yanlış gitmesinden doktorun veya hatta hastanın sorumlu olması yine de mümkündür. Örneğin, geliştirici her şeyi doğru yapabilir, doktora ayrıntılı talimatlar verebilir ve tüm olası riskleri özetleyebilir. İşlem zamanı geldiğinde, doktorun dikkati dağılmış, yorgun, unutkan veya sadece ihmalkar olabilir.

Anketler gösterisi doktorların %40'ından fazlası dikkatsizliğe, yavaş reflekslere ve zayıf hatırlamaya yol açabilen işte tükenmişlik yaşarlar. Hekim kendi fiziksel ve psikolojik ihtiyaçlarına cevap vermiyorsa ve durumu bir kazaya neden oluyorsa bu hekimin hatasıdır.

Koşullara bağlı olarak, sağlık hizmetlerindeki yapay zeka hatalarından nihayetinde doktorun işvereni sorumlu tutulabilir. Örneğin, bir hastanedeki bir yönetici, fazla mesai yapmayı kabul etmeyen bir doktoru terfisini reddetmekle tehdit ederse ne olur? Bu onları kendilerini fazla çalışmaya zorlayarak tükenmişliğe yol açar. Böyle benzersiz bir durumda doktorun işvereni muhtemelen sorumlu tutulacaktır. 

Hasta Hatalı Olduğunda

Ya hem AI geliştiricisi hem de doktor her şeyi doğru yaparsa? Hasta bağımsız olarak bir AI aracı kullandığında, bir kaza onun hatası olabilir. Yapay zekanın yanlış gitmesi her zaman teknik bir hatadan kaynaklanmaz. Kötü veya yanlış kullanımın sonucu da olabilir.

Örneğin, bir doktor hastalarına bir AI aracını kapsamlı bir şekilde açıklayabilir, ancak güvenlik talimatlarını görmezden gelebilir veya yanlış veriler girebilir. Bu dikkatsiz veya yanlış kullanım bir kaza ile sonuçlanırsa, bu hastanın hatasıdır. Bu durumda, yapay zekayı doğru kullanmaktan veya doğru veri sağlamaktan sorumluydular ve bunu yapmayı ihmal ettiler.

Hastalar tıbbi ihtiyaçlarını bilseler bile çeşitli nedenlerle doktorun talimatlarına uymayabilirler. Örneğin, Amerikalıların %24'ü reçeteli ilaç kullanıyor ilaçlarını ödemekte güçlük çektiklerini bildiriyorlar. Bir hasta ilacı atlayabilir veya reçetesini ödeyememekten utandığı için yapay zekaya yalan söyleyebilir.

Hastanın uygunsuz kullanımı, doktorunun veya yapay zeka geliştiricisinin yönlendirme eksikliğinden kaynaklanıyorsa, suç başka yerde olabilir. Sonuç olarak kök kazasının veya hatanın nerede meydana geldiğine bağlıdır.

Düzenlemeler ve Olası Çözümler

Sağlık hizmetlerinde AI hatalarını önlemenin bir yolu var mı? Hiçbir tıbbi prosedür tamamen risksiz olmasa da, olumsuz sonuç olasılığını en aza indirmenin yolları vardır.

Yapay zekanın sağlık hizmetlerinde kullanımına ilişkin düzenlemeler, hastaları yüksek riskli yapay zeka destekli araçlardan ve prosedürlerden koruyabilir. FDA zaten var AI tıbbi cihazları için düzenleyici çerçeveler, test ve güvenlik gereksinimlerini ve inceleme sürecini ana hatlarıyla belirtir. Önde gelen tıbbi gözetim kuruluşları da önümüzdeki yıllarda AI algoritmaları ile hasta verilerinin kullanımını düzenlemek için adım atabilir.

Katı, makul ve kapsamlı düzenlemelere ek olarak, geliştiriciler yapay zekanın yanlış gitme senaryolarını önlemek için adımlar atmalıdır. Beyaz kutu yapay zekası olarak da bilinen açıklanabilir yapay zeka, şeffaflık ve veri yanlılığı endişelerini çözebilir. Açıklanabilir yapay zeka modelleri, geliştiricilerin ve kullanıcıların modelin mantığına erişmesine olanak tanıyan yeni ortaya çıkan algoritmalardır.

Yapay zeka geliştiricileri, doktorlar ve hastalar bir yapay zekanın sonuçlara nasıl vardığını görebildiklerinde, veri yanlılığını belirlemek çok daha kolaydır. Doktorlar ayrıca gerçeğe dayalı yanlışlıkları veya eksik bilgileri daha hızlı yakalayabilir. Geliştiriciler ve sağlık hizmeti sağlayıcıları, kara kutu yapay zekası yerine açıklanabilir yapay zeka kullanarak tıbbi yapay zekanın güvenilirliğini ve etkinliğini artırabilir.

Güvenli ve Etkili Sağlık Yapay Zekası

Yapay zeka, tıp alanında inanılmaz şeyler yapabilir, hatta potansiyel olarak hayat kurtarabilir. Yapay zeka ile ilgili bazı belirsizlikler her zaman olacaktır, ancak geliştiriciler ve sağlık kuruluşları bu riskleri en aza indirmek için harekete geçebilir. Sağlık hizmetlerinde AI hataları meydana geldiğinde, hukuk danışmanları muhtemelen kazanın temel hatasına göre sorumluluğu belirleyecektir.