يمكن للذكاء الاصطناعي في الرعاية الصحية أن يجلب المخاطر إلى جانب الفرص

يتمتع الذكاء الاصطناعي بإمكانيات هائلة عندما يتعلق الأمر بمجال الرعاية الصحية ، فهو قادر على تحسين التشخيص وإيجاد أدوية جديدة أكثر فعالية. لكن، كقطعة في Scientific American تمت مناقشته مؤخرًا ، فإن السرعة التي يخترق بها الذكاء الاصطناعي مجال الرعاية الصحية تفتح أيضًا العديد من التحديات والمخاطر الجديدة.

على مدار السنوات الخمس الماضية ، وافقت إدارة الغذاء والدواء الأمريكية على ذلك 40 منتجًا مختلفًا للذكاء الاصطناعي. ومع ذلك ، كما ذكرت مجلة Scientific American ، لم يتم تقييم أداء أي من المنتجات التي تم ترخيصها للبيع في الولايات المتحدة في تجارب إكلينيكية معشاة ذات شواهد. لا تتطلب العديد من الأدوات الطبية للذكاء الاصطناعي حتى موافقة إدارة الغذاء والدواء.

صرح إيفان توبول ، مؤلف كتاب "الطب العميق: كيف يمكن للذكاء الاصطناعي أن يجعل الرعاية الصحية بشرية مرة أخرى" ، لـ Scientific American أن العديد من منتجات الذكاء الاصطناعي التي تدعي أنها فعالة في مهام مثل تشخيص الأمراض قد تم اختبارها بالفعل بدقة بهذه الطريقة ، مع تم إجراء أول تجربة عشوائية رئيسية للكشف عن الذكاء الاصطناعي وتشخيصه في أكتوبر الماضي. علاوة على ذلك ، فإن عددًا قليلاً جدًا من الشركات الناشئة في مجال التكنولوجيا تنشر أوراقها البحثية في مجلات علمية محكمة ، حيث سيتم تحليل عملهم من قبل العلماء.

عند اختبارها والتحكم فيها بشكل صحيح ، يمكن أن تكون أنظمة الذكاء الاصطناعي أدوات قوية يمكن أن تساعد المهنيين الطبيين على اكتشاف الأعراض غير الملحوظة ، وتحسين النتائج الصحية.

على سبيل المثال ، ملف أداة الذكاء الاصطناعي للكشف عن مرض السكري في العين تم اختباره على مئات المرضى ويبدو أنه يمكن الاعتماد عليه. عملت الشركة المسؤولة عن الاختبار جنبًا إلى جنب مع إدارة الغذاء والدواء لأكثر من ثماني سنوات من أجل تحسين المنتج. يشق اختبار IDx-DR طريقه إلى عيادات الرعاية الأولية حيث يمكن أن يساعد في الكشف عن العلامات المبكرة لاعتلال الشبكية السكري ، وإحالة المرضى إلى أخصائيي العيون إذا تم اكتشاف الأعراض المشتبه بها.

إذا لم يتم اختبارها بعناية ، فإن أنظمة الذكاء الاصطناعي التي قد يستخدمها المهنيون الطبيون لتوجيه تشخيصهم وعلاجهم لديها القدرة على إحداث ضرر بدلاً من تجنبه.

توضح مقالة Scientific American مشكلة واحدة محتملة تتعلق بالاعتماد على الذكاء الاصطناعي لتشخيص الأمراض ، مشيرة إلى مثال ذكاء اصطناعي يهدف إلى تحليل الأشعة السينية على الصدر واكتشاف المرضى الذين قد يصابون بالالتهاب الرئوي. بينما أثبت النظام دقته عند اختباره في مستشفى Mount Sinai في نيويورك ، إلا أنه فشل عند اختباره على الصور التي تم التقاطها في مستشفيات أخرى. وجد الباحثون أن الذكاء الاصطناعي يميز بين الصور التي تم إنشاؤها بواسطة أنظمة الأشعة السينية المحمولة مقابل تلك التي تم إنشاؤها في قسم الأشعة. يستخدم الأطباء أجهزة تصوير الصدر بالأشعة السينية المحمولة للمرضى الذين غالبًا ما يكونون مرضى لدرجة تمنعهم من مغادرة أسرتهم ، وهؤلاء المرضى أكثر عرضة للإصابة بالالتهاب الرئوي.

الإنذارات الكاذبة هي أيضا مصدر قلق. ابتكر DeepMind تطبيقًا للهاتف المحمول يعمل بالذكاء الاصطناعي قادرًا على التنبؤ بالفشل الكلوي الحاد لدى المرضى في المستشفى حتى 48 ساعة مقدمًا. ومع ذلك ، فإن النظام يقال أيضا جعل اثنين من الإنذارات الكاذبة لكل فشل كلوي تم التنبؤ به بنجاح. يمكن أن تكون الإيجابيات الكاذبة ضارة لأنها يمكن أن تشجع الأطباء على قضاء وقت وموارد غير ضرورية في طلب المزيد من الاختبارات أو تغيير العلاجات الموصوفة.

في حادثة أخرى ، خلص أحد أنظمة الذكاء الاصطناعي بشكل غير صحيح إلى أن المرضى الذين يعانون من الالتهاب الرئوي كانوا أكثر عرضة للبقاء على قيد الحياة إذا كانوا يعانون من الربو ، مما قد يتسبب في تغيير الأطباء للعلاجات لمرضى الربو.

غالبًا ما يكون أداء أنظمة الذكاء الاصطناعي التي تم تطويرها لمستشفى واحد دون المستوى عند استخدامها في مستشفى مختلف. هناك أسباب متعددة لهذا. أولاً ، غالبًا ما يتم تدريب أنظمة الذكاء الاصطناعي على السجلات الصحية الإلكترونية ، ولكن غالبًا ما تكون العديد من السجلات الصحية الإلكترونية غير كاملة أو غير صحيحة لأن الغرض الأساسي منها غالبًا ما يكون الفوترة وليس رعاية المرضى. على سبيل المثال ، تحقيق واحد نفذتها KHN وجدت أنه في بعض الأحيان كانت هناك أخطاء تهدد الحياة في السجلات الطبية للمرضى ، مثل قوائم الأدوية التي تحتوي على أدوية غير مناسبة. علاوة على ذلك ، غالبًا ما تكون الأمراض أكثر تعقيدًا ، ونظام الرعاية الصحية أكثر تعقيدًا مما يمكن توقعه في كثير من الأحيان من قبل مهندسي وعلماء الذكاء الاصطناعي.

نظرًا لأن الذكاء الاصطناعي أصبح أكثر غزارة من أي وقت مضى ، سيكون من المهم لمطوري الذكاء الاصطناعي العمل جنبًا إلى جنب مع السلطات الصحية للتأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم يتم اختبارها بدقة وأن تضمن الهيئات التنظيمية وضع المعايير واتباعها من أجل موثوقية أدوات تشخيص الذكاء الاصطناعي.