ورقة بحثية تبحث عن كيفية تقليل مخاطر استخدام الذكاء الاصطناعي في الطب

برامج الذكاء الاصطناعي قادرة على تحسين الرعاية الصحية بطرق مختلفة. على سبيل المثال، يمكن لتطبيقات الذكاء الاصطناعي استخدام رؤية الكمبيوتر لمساعدة الأطباء في تشخيص الحالات من الأشعة السينية والتصوير بالرنين المغناطيسي. يمكن أيضًا استخدام خوارزميات التعلم الآلي لمساعدة في تقليل معدلات الإيجابيات الكاذبة عن طريق استخراج أنماط دقيقة من البيانات التي قد لا يكون البشر قادرين على العثور عليها في البيانات الطبية. ومع ذلك، مع الإمكانيات تأتي تحديات جديدة، ونشرت مؤخرًا مقالة جديدة في مجلة ساينس التي فحصت المخاطر والاستراتيجيات التنظيمية المحتملة لتقنيات التعلم الآلي الطبية في محاولة لتقليل أي آثار جانبية سلبية محتملة لاستخدام الذكاء الاصطناعي في سياق طبي.

توسيع التطبيقات للذكاء الاصطناعي في مجال الرعاية الصحية

يشهد الذكاء الاصطناعي تطورًا سريعًا في تطبيقاته في مجال الطب. وتشمل التطورات الحديثة في مجال الرعاية الصحية، التي دفعها الذكاء الاصطناعي، إنشاء شركة أدوية جديدة تهدف إلى استخدام الذكاء الاصطناعي لإنشاء أدوية جديدة، وإنشاء أجهزة مراقبة الصحة عن بُعد مدفوعة بالذكاء الاصطناعي، وتطبيقات رؤية الكمبيوتر التي تحليل التصوير المقطعي والاشعة السينية.

لمزيد من الدقة، Genesis Therapeutics هي شركة بدء تشغيل تهدف إلى استخدام الذكاء الاصطناعي لتسريع عملية اكتشاف الأدوية، مع أمل إنشاء أدوية يمكن أن تقلل من شدة الأمراض المزمنة. Genesis Therapeutics هي واحدة من حوالي 170 شركة تستخدم الذكاء الاصطناعي للبحث عن صيغ أدوية جديدة. وفيما يتعلق بأجهزة مراقبة الصحة، تستخدم شركات iRhythm وشركة Cardiologs الفرنسية خوارزميات الذكاء الاصطناعي لتحليل بيانات جهاز قياس 电كارديوغرافي و مراقبة صحة الأشخاص الذين يعانون من أمراض القلب في خطر المضاعفات. يمكن للبرمجيات المصممة من قبل الشركات الكشف عن همهمات القلب، وهو حالة CAUSED بواسطة تدفق الدم المضطرب.

وأخيرًا، وجدت دراسة حديثة تحقق في كيفية تطبيق رؤية الكمبيوتر على الصور الطبية أن أنظمة رؤية الكمبيوتر تؤدي على الأقل بنفس جودة أو أفضل من أخصائيي الأشعة عندما يتم فحص التصوير المقطعي لاكتشاف النزيف الدموي الصغير. كانت الخوارزميات المستخدمة في الدراسة قادرة على تقديم تنبؤات بعد فحص التصوير المقطعي لمدة ثانية واحدة. كما كانت أنظمة رؤية الكمبيوتر قادرة على تحديد موقع النزيف الدموي داخل الدماغ.

لذلك، بينما تكون الفوائد المحتملة لاستخدام الذكاء الاصطناعي في مجال الرعاية الصحية واضحة، فإن ما هو أقل وضوحًا هو ما هي التحديات والمخاطر الجديدة التي ستنشأ كنتيجة لاستخدام الذكاء الاصطناعي في مجال الرعاية الصحية.

تنظيم مجال متوسع

كما ذكرت TechXplore، من أجل تقييم العيوب المحتملة لاستخدام الذكاء الاصطناعي في مجال الرعاية الصحية، نشر مجموعة من الباحثين مؤخرًا ورقة في مجلة ساينس، بهدف استخلاص إجابات لمعرفة المشاكل المحتملة مع الذكاء الاصطناعي واستكشاف الحلول المحتملة لهذه المشاكل. المشاكل التي قد تنشأ من استخدام الذكاء الاصطناعي في مجال الرعاية الصحية تشمل التوصية غير المناسبة للعلاجات مما يؤدي إلى الإصابة، ومخاوف الخصوصية، والتحيز الخوارزمي / عدم المساواة.

لم يقم إدارة الأغذية والأدوية الأمريكية بالموافقة على الذكاء الاصطناعي الطبي إلا الذي يستخدم “خوارزميات مقفلة”، خوارزميات تنتج نفس النتيجة كل مرة يتم تشغيلها. ومع ذلك، يكمن الكثير من إمكانيات الذكاء الاصطناعي في قدرته على التعلم والاستجابة لمواد جديدة. من أجل تمكين “الخوارزميات التكيفية” من رؤية استخدام أكبر والحصول على الموافقة من إدارة الأغذية والأدوية الأمريكية، قام مؤلفو الورقة بفحص sâu حول كيفية تقليل المخاطر المرتبطة بتحديث الخوارزميات.

ينصح مؤلفو الورقة بأن يركز مهندسو التعلم الآلي والباحثون على مراقبة مستمرة للنماذج على مدار عمر نشرها. من بين الأدوات المقترحة لمراقبة أنظمة الذكاء الاصطناعي كان الذكاء الاصطناعي نفسه، الذي يمكن أن يساعد في تقديم تقارير آلية حول كيفية سلوك الذكاء الاصطناعي. كما من الممكن أن تقوم أجهزة الذكاء الاصطناعي المتعددة بمراقبة بعضها البعض.

“للتعامل مع المخاطر، يجب على المنظمين التركيز بشكل خاص على المراقبة المستمرة وتقييم المخاطر، وأقل على التخطيط لتغييرات الخوارزمية في المستقبل،” قال مؤلفو الورقة.

كما يوصي مؤلفو الورقة بأن يركز المنظمون على تطوير أساليب جديدة لتحديد المخاطر ومراقبتها وتقييمها وإدارتها. تطبق الورقة العديد من التقنيات التي استخدمتها إدارة الأغذية والأدوية الأمريكية لتنظيم أشكال أخرى من التكنولوجيا الطبية.

كما أشار مؤلفو الورقة إلى أن:

“هدفنا هو التأكيد على المخاطر التي يمكن أن تنشأ من التغييرات غير المتوقعة في كيفية استجابة أنظمة الذكاء الاصطناعي / التعلم الآلي الطبية أو التكيف مع بيئاتها. يمكن أن تسبب التحديثات البارامترية الدقيقة أو أنواع البيانات الجديدة أخطاء كبيرة ومكلفة.”