ورقة بحثية تدرس كيفية تقليل مخاطر استخدام الذكاء الاصطناعي في الطب

برامج الذكاء الاصطناعي قادرة على تحسين الرعاية الصحية بطرق مختلفة. على سبيل المثال، يمكن لتطبيقات الذكاء الاصطناعي استخدام الرؤية الحاسوبية لمساعدة الأطباء في تشخيص الحالات من الأشعة السينية والتصوير بالرنين المغناطيسي. يمكن استخدام خوارزميات التعلم الآلي أيضًا لمساعدة في تقليل معدلات الإيجابيات الكاذبة عن طريق استخراج أنماط دقيقة من البيانات التي قد لا يكون البشر قادرين على العثور عليها في البيانات الطبية. ومع ذلك، مع الإمكانيات تأتي تحديات جديدة، ونشرت مقالة جديدة مؤخرًا في مجلة ساينس التي درست المخاطر والاستراتيجيات التنظيمية لتكنولوجيا الطب التي تستند إلى التعلم الآلي في محاولة لتقليل أي آثار سلبية محتملة لاستخدام الذكاء الاصطناعي في السياق الطبي.

توسيع التطبيقات لاستخدام الذكاء الاصطناعي في مجال الرعاية الصحية

يشهد الذكاء الاصطناعي تطورًا سريعًا في مجال الرعاية الصحية. وتشمل التطورات الحديثة في مجال الرعاية الصحية، التي تعمل بالذكاء الاصطناعي، إنشاء شركة أدوية جديدة تهدف إلى استخدام الذكاء الاصطناعي لإنشاء أدوية جديدة، وإنشاء حساسات صحية عن بعد تعمل بالذكاء الاصطناعي، وتطبيقات الرؤية الحاسوبية التي تحليل التصوير المقطعي والأشعة السينية.

لمزيد من الدقة، Genesis Therapeutics هي شركة ناشئة تهدف إلى استخدام الذكاء الاصطناعي لتسريع عملية اكتشاف الأدوية، مع أمل إنشاء أدوية يمكن أن تقلل من شدة الأمراض المزمنة. Genesis Therapeutics هي واحدة من حوالي 170 شركة تستخدم الذكاء الاصطناعي للبحث عن صيغ دوائية جديدة. وفيما يتعلق بأجهزة مراقبة الصحة، تعمل iRhythm (IRTC ) و Cardiologs، وهي شركة ناشئة فرنسية تعمل بالذكاء الاصطناعي، على استخدام خوارزميات الذكاء الاصطناعي لتحليل بيانات جهاز تخطيط القلب و مراقبة صحة الأشخاص الذين يعانون من أمراض القلب وهم في خطر المضاعفات. يمكن للبرامج التي طوّرتها الشركات الكشف عن أعراض مرض القلب، وهو حالة تسببها تدفق الدم المضطرب.

أخيرًا، وجدت دراسة حديثة تدرس كيف يمكن تطبيق الرؤية الحاسوبية على الصور الطبية أن أنظمة الرؤية الحاسوبية تؤدي أداءً على الأقل مثل أو أفضل من أخصائيي الأشعة عندما يتم فحص التصوير المقطعي للعثور على نزيف دماغي صغير. كانت الخوارزميات المستخدمة في الدراسة قادرة على تقديم تنبؤات بعد فحص التصوير المقطعي لمدة ثانية واحدة فقط. كما كانت أنظمة الرؤية الحاسوبية قادرة على تحديد موقع النزيف داخل الدماغ.

لذا، بينما تكون الفوائد المحتملة لاستخدام الذكاء الاصطناعي في مجال الرعاية الصحية واضحة، فإن ما هو أقل وضوحًا هو ما هي التحديات وال مخاطر الجديدة التي قد ت出现 نتيجة لاستخدام الذكاء الاصطناعي في مجال الرعاية الصحية.

تنظيم مجال متوسع

كما ذكرت TechXplore، من أجل تقييم العيوب المحتملة لاستخدام الذكاء الاصطناعي في مجال الرعاية الصحية، نشر مجموعة من الباحثين مؤخرًا ورقة في مجلة ساينس، تهدف إلى استخراج إجابات لتحديد المشاكل المحتملة مع الذكاء الاصطناعي و استكشاف الحلول المحتملة لهذه المشاكل. المشاكل التي قد ت出现 من استخدام الذكاء الاصطناعي في مجال الرعاية الصحية تشمل التوصية غير المناسبة للعلاجات مما يؤدي إلى الإصابة، وقلق حول الخصوصية، والتحيز الخوارزمي / عدم المساواة.

لم تمنح إدارة الأغذية والأدوية الأمريكية موافقة على الذكاء الاصطناعي الطبي الذي يستخدم “الخوارزميات المحكمة”، وهي خوارزميات تنتج نفس النتيجة كل مرة يتم تشغيلها. ومع ذلك، تكمن الكثير من إمكانيات الذكاء الاصطناعي في قدرته على التعلم والاستجابة لمدخلات جديدة. من أجل تمكين “الخوارزميات التكيفية” من استخدامها بشكل أكبر والحصول على موافقة إدارة الأغذية والأدوية، قام مؤلفو الورقة بفحص شامل لطريقة تقليل المخاطر المرتبطة بتحديث الخوارزميات.

ينصح مؤلفو الورقة بأن يركز مهندسو التعلم الآلي والباحثون على مراقبة مستمرة للنماذج على مدار فترة نشرها. من بين الأدوات المقترحة لمراقبة أنظمة الذكاء الاصطناعي كان الذكاء الاصطناعي نفسه، الذي يمكن أن يساعد في تقديم تقارير آلية حول كيفية سلوك الذكاء الاصطناعي. كما من الممكن أن تقوم أجهزة الذكاء الاصطناعي بمراقبة بعضها البعض.

قال مؤلفو الورقة: “الهدف من ورقتنا هو التأكيد على المخاطر التي يمكن أن ت出现 نتيجة للتغييرات غير المتوقعة في كيفية استجابة أنظمة الذكاء الاصطناعي / التعلم الآلي لبيئاتها. يمكن أن تسبب التحديثات المعلمة الدقيقة أو أنواع البيانات الجديدة أخطاء كبيرة ومكلفة”.

كما أوصى مؤلفو الورقة بأن يركز المنظمون على تطوير طرق جديدة لتحديد المخاطر ومراقبتها وتقييمها وإدارتها. تطبق الورقة العديد من التقنيات التي استخدمتها إدارة الأغذية والأدوية لتنظيم أشكال أخرى من التكنولوجيا الطبية.

كما أوضح مؤلفو الورقة:

“هدفنا هو التأكيد على المخاطر التي يمكن أن ت出现 نتيجة للتغييرات غير المتوقعة في كيفية استجابة أنظمة الذكاء الاصطناعي / التعلم الآلي لبيئاتها. يمكن أن تسبب التحديثات المعلمة الدقيقة أو أنواع البيانات الجديدة أخطاء كبيرة ومكلفة”.