الذكاء الاصطناعي في مجال الرعاية الصحية قد يحمل مخاطر إلى جانب الفرص

الذكاء الاصطناعي لديه إمكانيات هائلة في مجال الرعاية الصحية، حيث يمكنه تحسين التشخيص واكتشاف أدوية جديدة أكثر فعالية. ومع ذلك، كما ناقش مقال في مجلة ساينتفيك أمريكان最近، فإن سرعة اختراق الذكاء الاصطناعي لمجال الرعاية الصحية تفتح أيضًا العديد من التحديات والمخاطر الجديدة.

على مدار الخمس سنوات الماضية، وافقت إدارة الأغذية والأدوية الأمريكية على أكثر من 40 منتجًا للذكاء الاصطناعي. ومع ذلك، كما ذكرت مجلة ساينتفيك أمريكان، لم يتم تقييم أداء أي من هذه المنتجات في تجارب سريرية عشوائية مراقبة. لا تتطلب العديد من أدوات الطب الاصطناعي حتى موافقة إدارة الأغذية والأدوية.

قال إيفان توبول، مؤلف كتاب “الطب العميق: كيف يمكن للذكاء الاصطناعي جعل الرعاية الصحية أكثر إنسانية” لمجلة ساينتفيك أمريكان، إن العديد من منتجات الذكاء الاصطناعي التي تدعي فعاليتها في مهام مثل تشخيص الأمراض لم يتم اختبارها بدقة. بالإضافة إلى ذلك، لا تنشر معظم الشركات الناشئة أبحاثها في المجلات المراجعة من قبل الأقران، حيث سيتم تحليل عملها من قبل العلماء.

عند اختبارها وتحكمها بشكل صحيح، يمكن أن تكون أنظمة الذكاء الاصطناعي أدوات قوية تساعد المهنيين الطبيين في الكشف عن الأعراض غير الملاحظة، مما يحسن النتائج الصحية.

على سبيل المثال، تم اختبار أداة الذكاء الاصطناعي لاكتشاف مرض العين السكري على مئات من المرضى وبدت موثوقة. عملت الشركة المسؤولة عن الاختبار مع إدارة الأغذية والأدوية لمدة ثماني سنوات لتحسين المنتج. الاختبار، IDx-DR، يجد طريقه إلى عيادات الرعاية الأولية حيث يمكنه مساعدة في الكشف المبكر عن أعراض التهاب الشبكية السكري، وإحالة المرضى إلى أخصائيي العيون إذا تم اكتشاف أعراض مشتبه فيها.

إذا لم يتم اختبارها بدقة، يمكن لأنظمة الذكاء الاصطناعي التي يستخدمها المهنيون الطبيون للاسترشاد في تشخيصهم وعلاجهم أن تسبب ضررًا بدلاً من تجنبه.

يُظهر المقال في مجلة ساينتفيك أمريكان أحد المشاكل المحتملة التي قد تنشأ عند الاعتماد على الذكاء الاصطناعي لتشخيص الأمراض، مشيرًا إلى مثال نظام الذكاء الاصطناعي الذي يُستخدم لتحليل صور الأشعة السينية واكتشاف المرضى الذين قد يصابون بالتهاب الرئة. بينما أثبت النظام دقته عند اختباره في مستشفى ماونت سيناي في نيويورك، فشل عند اختباره على صور من مستشفيات أخرى. وجد الباحثون أن النظام كان يميز بين الصور التي تم إنشاؤها بواسطة أنظمة الأشعة السينية المحمولة وتلك التي تم إنشاؤها في قسم الأشعة.

الأخطاء الكاذبة也是 مصدر قلق. أنشأ ديب مايند تطبيقًا للذكاء الاصطناعي على الهاتف المحمول يمكنه توقع فشل الكلى الحاد في المرضى المقيمين في المستشفى قبل 48 ساعة من حدوثه. ومع ذلك، كما أفادت التقارير، فإن النظام أصدر أيضًا خطأين كاذبين لكل فشل في الكلى تم توقعه بنجاح. يمكن للأخطاء الإيجابية الكاذبة أن تكون ضارة لأنها قد تحفز الأطباء على قضاء وقت وموارد غير ضرورية في طلب اختبارات إضافية أو تعديل العلاجات الموصى بها.

في حادثة أخرى، استنتج نظام الذكاء الاصطناعي بشكل خاطئ أن المرضى الذين لديهم التهاب الرئة أكثر احتمالًا للبقاء على قيد الحياة إذا كانوا مصابين بالربو، مما قد يؤدي إلى تغيير العلاجات للمرضى الذين يعانون من الربو.

النظم التي يتم تطويرها لمستشفى معين غالبًا ما تؤدي أداءً سيئًا عند استخدامها في مستشفى آخر. هناك العديد من الأسباب التي تؤدي إلى ذلك. على سبيل المثال، يتم تدريب أنظمة الذكاء الاصطناعي غالبًا على السجلات الصحية الإلكترونية، ولكن العديد من السجلات الصحية الإلكترونية غير مكتملة أو غير صحيحة لأن غرضها الأساسي هو الفواتير وليس الرعاية الصحية. على سبيل المثال، وجد تحقيق أجري بواسطة KHN أن هناك أخطاء مهددة للحياة في سجلات المرضى الطبية، مثل قوائم الأدوية التي تحتوي على أدوية غير صحيحة. بالإضافة إلى ذلك، تكون الأمراض غالبًا أكثر تعقيدًا، ونظام الرعاية الصحية أكثر تعقيدًا، مما يصعب على مهندسي ومحترفي الذكاء الاصطناعي توقعها.

مع تزايد انتشار الذكاء الاصطناعي، سيكون من المهم للمطورين العمل جنبًا إلى جنب مع السلطات الصحية لضمان اختبار أنظمتهم بدقة، وللجهات التنظيمية ضمان وضع المعايير ومتابعتها لضمان موثوقية أدوات التشخيص بالذكاء الاصطناعي.