اللائحة
تدرس الورقة كيفية تقليل مخاطر استخدام الذكاء الاصطناعي في الطب
برامج الذكاء الاصطناعي قادرة على تحسين الرعاية الصحية بعدة طرق مختلفة. على سبيل المثال، يمكن لتطبيقات الذكاء الاصطناعي استخدام رؤية الكمبيوتر لمساعدة الأطباء في تشخيص الحالات من خلال الأشعة السينية وأجهزة الرنين المغناطيسي الوظيفي. يمكن أيضًا استخدام خوارزميات التعلم الآلي للمساعدة في تقليل المعدلات الإيجابية الكاذبة عن طريق استخراج أنماط دقيقة من البيانات التي قد لا يتمكن البشر من العثور عليها في البيانات الطبية. ومع ذلك، مع الإمكانيات تأتي تحديات جديدة، ومؤخرًا تم نشر مقال جديد في مجلة Science فحص المخاطر المحتملة والاستراتيجيات التنظيمية لتقنيات التعلم الآلي الطبي في محاولة لتقليل أي آثار جانبية سلبية محتملة لاستخدام الذكاء الاصطناعي في سياق طبي.
توسيع تطبيقات الذكاء الاصطناعي في الرعاية الصحية
يشهد الذكاء الاصطناعي أن تطبيقاته في المجال الطبي تتوسع بسرعة. تشمل التطورات الأخيرة في مجال الرعاية الصحية ، التي يقودها الذكاء الاصطناعي ، إنشاء شركة أدوية جديدة تهدف إلى استخدام الذكاء الاصطناعي لإنشاء عقاقير جديدة ، وإنشاء مستشعرات للصحة عن بُعد تعمل بالذكاء الاصطناعي ، وتطبيقات رؤية الكمبيوتر التي تحلل فحوصات التصوير المقطعي المحوسب و X -أشعة.
لنكون أكثر دقة ، Genesis Therapeutics هي شركة ناشئة تهدف إلى استخدام الذكاء الاصطناعي لتسريع عملية اكتشاف الأدوية ، على أمل ابتكار عقاقير يمكن أن تقلل من شدة الأمراض الموهنة. Genesis Therapeutics هي واحدة فقط من حوالي 170 شركة مختلفة تستخدم الذكاء الاصطناعي للبحث عن تركيبات دوائية جديدة. وفي الوقت نفسه ، فيما يتعلق بأجهزة المراقبة الصحية ، فإن شركة Cardiologs لبدء التشغيل بالذكاء الاصطناعي و iRhythm تستخدم خوارزميات الذكاء الاصطناعي لتحليل بيانات EEG و مراقبة الصحة من أولئك الذين يعانون من أمراض القلب معرضون لخطر حدوث مضاعفات. يمكن للبرنامج المصمم من قبل الشركات الكشف عن النفخات القلبية ، وهي حالة ناتجة عن اضطراب تدفق الدم.
أخيرًا ، وجدت دراسة حديثة تبحث في كيفية تطبيق رؤية الكمبيوتر على الصور الطبية أن أنظمة رؤية الكمبيوتر أداء جيد أو أفضل على الأقل من خبراء الأشعة عند فحص الأشعة المقطعية للعثور على نزيف صغير. تمكنت الخوارزميات المستخدمة في الدراسة من تقديم تنبؤات بعد فحص الأشعة المقطعية لمدة ثانية واحدة فقط. كانت أنظمة الرؤية الحاسوبية قادرة أيضًا على تحديد موقع النزف داخل الدماغ.
لذا ، في حين أن الفوائد المحتملة لاستخدام الذكاء الاصطناعي في الرعاية الصحية واضحة ، فإن ما هو أقل وضوحًا هو التحديات والمخاطر الجديدة التي ستنشأ كأثر جانبي لاستخدام الذكاء الاصطناعي في مجال الرعاية الصحية.
تنظيم مجال متوسع
كما ذكرت TechXplore ، من أجل تقييم العيوب المحتملة لاستخدام الذكاء الاصطناعي في الرعاية الصحية ، نشرت مجموعة من الباحثين مؤخرًا ورقة في Science ، بهدف استخلاص إجابات لتوقع المشكلات المحتملة مع الذكاء الاصطناعي واستكشاف الحلول المحتملة لهذه المشكلات. المشاكل التي قد تنشأ من استخدام الذكاء الاصطناعي في مجال الرعاية الصحية ، التوصية غير المناسبة بالعلاجات التي تؤدي إلى الإصابة ، ومخاوف الخصوصية ، والتحيز / عدم المساواة الخوارزمي.
وافقت إدارة الأغذية والعقاقير (FDA) فقط على الذكاء الاصطناعي الطبي الذي يستخدم "الخوارزميات المقفلة" ، وهي خوارزميات تنتج بشكل موثوق نفس النتيجة في كل مرة يتم تشغيلها فيها. ومع ذلك ، تكمن الكثير من إمكانات الذكاء الاصطناعي في قدرته على التعلم والاستجابة لأنواع جديدة من المدخلات. من أجل تمكين "الخوارزميات التكيفية" من رؤية المزيد من الاستخدام والحصول على موافقة من إدارة الغذاء والدواء ، ألقى مؤلفو البحث نظرة متعمقة على كيفية تخفيف المخاطر المتعلقة بتحديث الخوارزميات.
يدافع المؤلفون عن أن مهندسي التعلم الآلي والباحثين يجب أن يركزوا على المراقبة المستمرة للنماذج على مدى عمر نشرها. من بين الأدوات المقترحة لمراقبة أنظمة الذكاء الاصطناعي ، كان الذكاء الاصطناعي نفسه ، والذي يمكن أن يساعد في تقديم تقارير آلية عن كيفية تصرف الذكاء الاصطناعي. من الممكن أيضًا أن تتمكن أجهزة متعددة للذكاء الاصطناعي من مراقبة بعضها البعض.
"لإدارة المخاطر ، يجب أن يركز المنظمون بشكل خاص على المراقبة المستمرة وتقييم المخاطر ، وبدرجة أقل على التخطيط لتغييرات الخوارزمية المستقبلية"مساعدة مؤلفي الورقة.
يوصي مؤلفو الورقة أيضًا بأن يركز المنظمون على تطوير طرق جديدة لتحديد المخاطر ومراقبتها وتقييمها وإدارتها. تطبق الورقة العديد من التقنيات التي استخدمتها إدارة الغذاء والدواء الأمريكية (FDA) لتنظيم أشكال أخرى من التكنولوجيا الطبية.
كما أوضح مؤلفو الورقة:
"هدفنا هو التأكيد على المخاطر التي يمكن أن تنشأ من التغييرات غير المتوقعة في كيفية تفاعل أنظمة الذكاء الاصطناعي / التعلم الآلي أو التكيف مع بيئاتها. يمكن أن تتسبب التحديثات البارامترية الدقيقة وغير المعترف بها في كثير من الأحيان أو الأنواع الجديدة من البيانات في حدوث أخطاء كبيرة ومكلفة ".
