يمكن أن يعالج الخوارزمية التحيز العرقي في الرعاية الصحية إذا تم تدريبها بشكل صحيح

قام فريق من الباحثين من جامعة ستانفورد و جامعة هارفارد و جامعة شيكاغو بتدريب الخوارزميات لتشخيص التهاب المفاصل في صور الأشعة السينية للركبتين. оказалось أنه عندما يتم استخدام تقارير المرضى كبيانات تدريب للخوارزمية، كانت الخوارزمية أكثر دقة من الأشعة السينية عند تحليل سجلات المرضى السود.

مشكلة التحيز الخوارزمي

يمكن أن يؤدي استخدام خوارزميات التعلم الآلي في مجال الطب إلى تحسين النتائج للمرضى الذين يعانون من جميع أنواع الأمراض، ولكن هناك أيضًا مشاكل موثقة جيدًا عند استخدام خوارزميات الذكاء الاصطناعي لتشخيص المرضى. وجدت الدراسات التي أجريت على تأثيرات نماذج الذكاء الاصطناعي المعتمدة عددًا من الحوادث البارزة المتعلقة بالتحيز الخوارزمي. وتشمل هذه الخوارزميات التي تمنح الأقليات عددًا أقل من الإحالات إلى وحدات أمراض القلب مقارنة بالمرضى البيض، على الرغم من أن جميع الأعراض المبلغ عنها كانت相同ًا.

كان أحد مؤلفي الدراسة، الأستاذ زياد أوبرميير في مدرسة الصحة العامة بجامعة كاليفورنيا بيركلي، قد قرر استخدام الذكاء الاصطناعي للتحقيق في التفاوت بين تشخيص الأشعة السينية بواسطة الأشعة السينية وكمية الألم التي أبلغ عنها المرضى. على الرغم من أن المرضى السود والمرضى ذوي الدخل المنخفض أبلغوا عن مستويات أعلى من الألم، إلا أن تفسيرات الأشعة السينية الخاصة بهم تم تقييمها بنفس الطريقة التي تم بها تقييم السكان بشكل عام. جاءت بيانات مستويات الألم المبلغ عنها من المعهد الوطني للصحة، وأراد الباحثون التحقيق فيما إذا كان الأطباء البشريون يفتقرون إلى شيء ما في تحليلهم للبيانات.

كما ذكر موقع Wired، من أجل تحديد الأسباب المحتملة لتلك الاختلافات، قام أوبرميير والباحثون الآخرون بتصميم نموذج رؤية حاسوبية مدرب على بيانات من المعهد الوطني للصحة. تم تصميم الخوارزميات لتحليل الأشعة السينية وتوقعات مستويات الألم للمرضى بناءً على الصور. تمكنت البرمجيات من العثور على أنماط داخل الصور كانت متعلقة بشكل كبير بمستويات الألم للمرضى.

عندما يتم تقديم صورة غير موصوفة إلى الخوارزمية، يعود النموذج بالتنبؤات لمستوى الألم المبلغ عنه للمريض. تماشى التنبؤات التي قدمها النموذج بشكل أوثق مع مستويات الألم الفعلية المبلغ عنها للمرضى من التقييمات التي قدمها الأشعة السينية. كان هذا صحيحًا بشكل خاص للمرضى السود. أوضح أوبرميير من خلال موقع Wired أن خوارزمية الرؤية الحاسوبية تمكنت من الكشف عن ظواهر أكثر شيوعًا المرتبطة بالألم لدى المرضى السود.

تدريب الأنظمة بشكل صحيح

据报道، تم تطوير المعايير المستخدمة لتقييم الأشعة السينية في الأصل على أساس نتائج دراسة صغيرة أجريت في شمال إنجلترا خلال عام 1957. كان السكان الأصليون الذين تم تطوير معايير تقييم التهاب المفاصل عليهم مختلفين بشكل كبير عن السكان المتنوعين في الولايات المتحدة الحديثة، لذلك لم يكن من المفاجئ أن يحدث أخطاء عند تشخيص هؤلاء الأشخاص المتنوعين.

تظهر الدراسة الجديدة أن الخوارزميات عندما يتم تدريبها بشكل صحيح يمكن أن تقلل من التحيز. كان التدريب قائمًا على ملاحظات المرضى أنفسهم بدلاً من آراء الخبراء. أظهر أوبرميير والزملاء في وقت سابق أن خوارزمية الذكاء الاصطناعي الشائعة تعطى تفضيلاً للمرضى البيض على المرضى السود، ولكن أوبرميير أظهر أيضًا أن تدريب نظام التعلم الآلي على البيانات الصحيحة يمكن أن يساعد في منع التحيز.

هناك تحفظ ملحوظ على الدراسة هو ما يعرفه العديد من باحثي التعلم الآلي. النموذج الذكاء الاصطناعي الذي طوّره فريق البحث هو صندوق أسود، وجماعة الباحثين أنفسهم لا يعرفون ما هي الأنماط التي يتم الكشف عنها في الأشعة السينية، مما يعني أنهم لا يستطيعون أن يقولوا للأطباء ما الذي يفتقرون إليه.

يهدف أشعة سينية وأطباء آخرون إلى حفر الصندوق الأسود والكشف عن الأنماط داخلها، مع الأمل في مساعدة الأطباء على فهم ما يفتقرون إليه. تقوم الأستاذة والباحثة جودي جيشويا بجامعة إيموري بجمع مجموعة أكثر شمولاً وتنوعًا من صور الأشعة السينية لتدريب نموذج الذكاء الاصطناعي. سوف تقوم جيشويا بتشجيع الأشعة السينية على إنشاء ملاحظات مفصلة على هذه الصور. سوف يتم مقارنة هذه الملاحظات بنتائج النموذج لمعرفة ما إذا كان يمكن الكشف عن الأنماط التي يتم الكشف عنها بواسطة الخوارزمية.