من هو المسؤول إذا فشل الذكاء الاصطناعي للرعاية الصحية؟

من المسؤول عندما تتسبب أخطاء الذكاء الاصطناعي في الرعاية الصحية في وقوع حوادث أو إصابات أو ما هو أسوأ؟ اعتمادًا على الموقف ، قد يكون مطور الذكاء الاصطناعي أو أخصائي رعاية صحية أو حتى المريض. تعد المسؤولية مصدر قلق خطير ومعقد بشكل متزايد حيث أصبح الذكاء الاصطناعي أكثر شيوعًا في الرعاية الصحية. من المسؤول عن أخطاء الذكاء الاصطناعي وكيف يمكن منع وقوع الحوادث؟

مخاطر أخطاء الذكاء الاصطناعي في الرعاية الصحية

هناك العديد من الفوائد المذهلة للذكاء الاصطناعي في الرعاية الصحية ، من الدقة المتزايدة إلى أوقات التعافي الأسرع. يساعد الذكاء الاصطناعي الأطباء في التشخيص وإجراء العمليات الجراحية وتقديم أفضل رعاية ممكنة لمرضاهم. لسوء الحظ ، أخطاء الذكاء الاصطناعي دائمًا ما تكون محتملة.

هناك مجموعة واسعة من السيناريوهات الخاطئة للذكاء الاصطناعي في مجال الرعاية الصحية. يمكن للأطباء والمرضى استخدام الذكاء الاصطناعي كأداة لصنع القرار قائمة على البرامج فقط أو يمكن أن يكون الذكاء الاصطناعي عقل الأجهزة المادية مثل الروبوتات. كلا الفئتين لها مخاطرها.

على سبيل المثال ، ماذا يحدث إذا تعطل روبوت الجراحة الذي يعمل بالذكاء الاصطناعي أثناء إجراء ما؟ قد يتسبب ذلك في إصابة خطيرة أو حتى قتل المريض. وبالمثل ، ماذا لو أوصت خوارزمية تشخيص الدواء لمريض بالدواء الخاطئ وكان يعاني من آثار جانبية سلبية؟ حتى لو لم يؤذي الدواء المريض ، فإن التشخيص الخاطئ قد يؤخر العلاج المناسب.

تكمن جذور أخطاء الذكاء الاصطناعي مثل هذه في طبيعة نماذج الذكاء الاصطناعي نفسها. تستخدم معظم أنظمة الذكاء الاصطناعي اليوم منطق "الصندوق الأسود" ، مما يعني أنه لا يمكن لأحد أن يرى كيف تتخذ الخوارزمية القرارات. الصندوق الأسود AI يفتقر إلى الشفافية ، مما يؤدي إلى مخاطر مثل التحيز المنطقيوالتمييز ونتائج غير دقيقة. لسوء الحظ ، من الصعب اكتشاف عوامل الخطر هذه حتى تسببت بالفعل في حدوث مشكلات.

الذكاء الاصطناعي ذهب على خطأ: من يقع اللوم؟

ماذا يحدث عند وقوع حادث في إجراء طبي يعمل بالذكاء الاصطناعي؟ ستظل احتمالية حدوث خطأ في الذكاء الاصطناعي موجودة دائمًا إلى حد ما. إذا تعرض شخص ما للأذى أو ما هو أسوأ ، فهل الذكاء الاصطناعي مخطئ؟ ليس بالضرورة.

عندما يكون مطور الذكاء الاصطناعي في حالة خطأ

من المهم أن تتذكر أن الذكاء الاصطناعي ليس أكثر من برنامج كمبيوتر. إنه برنامج كمبيوتر متقدم للغاية ، لكنه لا يزال رمزًا ، تمامًا مثل أي برنامج آخر. نظرًا لأن الذكاء الاصطناعي ليس واعًا أو مستقلًا مثل الإنسان ، فلا يمكن تحميله المسؤولية عن الحوادث. لا يمكن لمنظمة العفو الدولية أن تذهب إلى المحكمة أو أن يُحكم عليها بالسجن.

من المرجح أن تكون أخطاء الذكاء الاصطناعي في الرعاية الصحية مسؤولية مطور الذكاء الاصطناعي أو الطبيب المتخصص الذي يراقب الإجراء. يمكن أن يختلف الطرف المخطئ في وقوع حادث من حالة إلى أخرى.

على سبيل المثال ، من المحتمل أن يكون المطور مخطئًا إذا تسبب تحيز البيانات في قيام الذكاء الاصطناعي بإعطاء قرارات أو معاملة غير عادلة أو غير دقيقة أو تمييزية. المطور مسؤول عن ضمان وظائف الذكاء الاصطناعي كما هو موعود ويمنح جميع المرضى أفضل علاج ممكن. إذا تعطل الذكاء الاصطناعي بسبب الإهمال أو الإشراف أو الأخطاء من جانب المطور ، فلن يكون الطبيب مسؤولاً.

عندما يكون الطبيب أو الطبيب على خطأ

ومع ذلك ، لا يزال من الممكن أن يكون الطبيب أو حتى المريض مسؤولاً عن حدوث خطأ في الذكاء الاصطناعي. على سبيل المثال ، قد يفعل المطور كل شيء بشكل صحيح ، ويعطي الطبيب تعليمات شاملة ويحدد جميع المخاطر المحتملة. عندما يحين وقت الإجراء ، قد يكون الطبيب مشتت الذهن أو متعبًا أو نسيًا أو ببساطة مهملًا.

تظهر الاستطلاعات أكثر من 40٪ من الأطباء تجربة الإرهاق أثناء العمل ، مما قد يؤدي إلى عدم الانتباه وردود الفعل البطيئة وضعف استدعاء الذاكرة. إذا لم يعالج الطبيب احتياجاته الجسدية والنفسية وتسببت حالتهم في وقوع حادث ، فهذا خطأ الطبيب.

اعتمادًا على الظروف ، يمكن في النهاية إلقاء اللوم على صاحب عمل الطبيب بسبب أخطاء الذكاء الاصطناعي في الرعاية الصحية. على سبيل المثال ، ماذا لو هدد مدير في مستشفى برفض ترقية طبيب إذا لم يوافق على العمل لساعات إضافية؟ هذا يجبرهم على إرهاق أنفسهم ، مما يؤدي إلى الإرهاق. من المحتمل أن يتحمل صاحب عمل الطبيب المسؤولية في وضع فريد مثل هذا. 

عندما يكون المريض على خطأ

ماذا لو قام كل من مطور الذكاء الاصطناعي والطبيب بعمل كل شيء بشكل صحيح؟ عندما يستخدم المريض أداة الذكاء الاصطناعي بشكل مستقل ، يمكن أن يكون الحادث هو خطأه. لا يكون خطأ الذكاء الاصطناعي دائمًا بسبب خطأ تقني. يمكن أن يكون نتيجة الاستخدام السيئ أو غير السليم أيضًا.

على سبيل المثال ، ربما يشرح الطبيب تمامًا أداة الذكاء الاصطناعي لمريضه ، لكنه يتجاهل تعليمات السلامة أو يُدخل بيانات غير صحيحة. إذا أدى هذا الاستخدام غير اللائق أو غير اللائق إلى وقوع حادث ، فهذا خطأ المريض. في هذه الحالة ، كانوا مسؤولين عن استخدام الذكاء الاصطناعي بشكل صحيح أو تقديم بيانات دقيقة وأهملوا القيام بذلك.

حتى عندما يعرف المرضى احتياجاتهم الطبية ، فقد لا يتبعون تعليمات الطبيب لعدة أسباب. على سبيل المثال، 24٪ من الأمريكيين يتناولون الأدوية الموصوفة الإبلاغ عن صعوبة في دفع ثمن أدويتهم. قد يتخلى المريض عن الدواء أو يكذب على الذكاء الاصطناعي بشأن تناوله لأنه يشعر بالحرج من عدم قدرته على دفع ثمن الوصفة الطبية.

إذا كان الاستخدام غير السليم للمريض بسبب نقص التوجيه من الطبيب أو مطور الذكاء الاصطناعي ، فقد يكون اللوم في مكان آخر. يعتمد الأمر في النهاية على مكان وقوع الحادث أو الخطأ الأساسي.

اللوائح والحلول المحتملة

هل هناك طريقة لمنع أخطاء الذكاء الاصطناعي في الرعاية الصحية؟ على الرغم من عدم وجود إجراء طبي خالٍ من المخاطر تمامًا ، إلا أن هناك طرقًا لتقليل احتمالية حدوث نتائج عكسية.

يمكن أن تحمي اللوائح المتعلقة باستخدام الذكاء الاصطناعي في الرعاية الصحية المرضى من الأدوات والإجراءات عالية الخطورة التي تعمل بالذكاء الاصطناعي. ادارة الاغذية والعقاقير لديها بالفعل الأطر التنظيمية للأجهزة الطبية التي تعمل بالذكاء الاصطناعي، مع تحديد متطلبات الاختبار والسلامة وعملية المراجعة. قد تتدخل منظمات الرقابة الطبية الرائدة أيضًا لتنظيم استخدام بيانات المرضى باستخدام خوارزميات الذكاء الاصطناعي في السنوات القادمة.

بالإضافة إلى اللوائح الصارمة والمعقولة والشاملة ، يجب على المطورين اتخاذ خطوات لمنع السيناريوهات الخاطئة للذكاء الاصطناعي. يمكن للذكاء الاصطناعي القابل للتفسير - المعروف أيضًا باسم الصندوق الأبيض AI - حل مخاوف الشفافية وتحيز البيانات. نماذج الذكاء الاصطناعي القابلة للتفسير هي خوارزميات ناشئة تسمح للمطورين والمستخدمين بالوصول إلى منطق النموذج.

عندما يتمكن مطورو الذكاء الاصطناعي والأطباء والمرضى من رؤية كيف يتوصل الذكاء الاصطناعي إلى استنتاجاته ، يكون من الأسهل بكثير تحديد تحيز البيانات. يمكن للأطباء أيضًا اكتشاف الأخطاء الواقعية أو فقدان المعلومات بسرعة أكبر. باستخدام الذكاء الاصطناعي القابل للتفسير بدلاً من الصندوق الأسود للذكاء الاصطناعي ، يمكن للمطورين ومقدمي الرعاية الصحية زيادة مصداقية وفعالية الذكاء الاصطناعي الطبي.

منظمة العفو الدولية للرعاية الصحية الآمنة والفعالة

يمكن للذكاء الاصطناعي القيام بأشياء مذهلة في المجال الطبي ، وربما حتى إنقاذ الأرواح. سيكون هناك دائمًا بعض عدم اليقين المرتبط بالذكاء الاصطناعي ، ولكن يمكن للمطورين ومؤسسات الرعاية الصحية اتخاذ إجراءات لتقليل هذه المخاطر. عندما تحدث أخطاء الذكاء الاصطناعي في الرعاية الصحية ، فمن المرجح أن يحدد المستشارون القانونيون المسؤولية بناءً على الخطأ الجذري للحادث.