خوارزمية قد تُعالج التحيز العرقي في الرعاية الصحية إذا تم تدريبها بشكل صحيح

قام فريق من الباحثين من جامعة ستانفورد وجامعة هارفارد وجامعة شيكاغو بتدريب الخوارزميات لتحليل الصور الأشعة للركبتين. оказалось أن عندما يتم استخدام تقارير المرضى كبيانات تدريب للخوارزمية، كانت الخوارزمية أكثر دقة من الأشعة مقارنة بسجلات المرضى السود.

مشكلة التحيز الخوارزمي

يمكن أن يؤدي استخدام خوارزميات التعلم الآلي في مجال الطب إلى تحسين النتائج للمرضى الذين يعانون من جميع أنواع الأمراض، ولكن هناك أيضًا مشاكل موثقة جيدًا باستخدام خوارزميات الذكاء الاصطناعي لتشخيص المرضى. أظهرت الدراسات حول تأثير النماذج الذكاء الاصطناعي المُستخدمة عددًا من الحوادث الملحوظة المتعلقة بالتحيز الخوارزمي. وتشمل هذه الخوارزميات التي توفر أقل إحالات إلى وحدات أمراض القلب للمرضى من الأقليات مقارنة بالمريضين البيض، على الرغم من أن جميع الأعراض المُبلغ عنها كانت متشابهة.

أحد مؤلفي الدراسة، أستاذ زيد أوبرميير في مدرسة الصحة العامة بجامعة كاليفورنيا بيركلي، قرر استخدام الذكاء الاصطناعي لتحقيق الفجوات بين تشخيص الأشعة السينية بواسطة الأشعة والكمية من الألم التي أبلغ عنها المرضى. على الرغم من أن المرضى السود والمرضى منخفضي الدخل أبلغوا عن مستويات أعلى من الألم، كانت تفسيرات الأشعة السينية الخاصة بهم متشابهة مع السكان العام. جاءت بيانات مستويات الألم المُبلغ عنها من المعهد الوطني للصحة، وأراد الباحثون التحقيق فيما إذا كان الأطباء البشر يفقدون أي شيء في تحليل البيانات.

كما ذكر موقع Wired، من أجل تحديد الأسباب المحتملة لتلك الفروق، قام أوبرميير وآخرون بتصميم نموذج رؤية حاسوبية مدرب على بيانات من المعهد الوطني للصحة. تم تصميم الخوارزميات لتحليل الأشعة السينية وتوقعات مستويات الألم للمريض بناءً على الصور. تمكنت البرمجيات من العثور على أنماط داخل الصور كانت متعلقة بشكل كبير بمستويات الألم للمريض.

عندما يتم تقديم صورة غير مُشاهدة إلى الخوارزمية، يُرجع النموذج توقعات لمستوى الألم المُبلغ عنه للمريض. تماشى التوقعات التي قدمها النموذج بشكل أوثق مع مستويات الألم الفعلية المُبلغ عنها للمرضى أكثر من الدرجات المُحددة بواسطة الأشعة. كان هذا صحيحًا بشكل خاص للمرضى السود. أوضح أوبرميير عبر موقع Wired أن خوارزمية الرؤية الحاسوبية تمكنت من الكشف عن ظواهر أكثر شيوعًا في المرضى السود.

تدريب الأنظمة بشكل صحيح

据报道، تم تطوير معايير تقييم الأشعة السينية في الأصل بناءً على نتائج دراسة صغيرة أجريت في شمال إنجلترا خلال عام 1957. كان السكان الأصليون الذين تم تطوير معايير تقييم التهاب المفاصل عليهم مختلفًا بشكل كبير عن السكان المتنوع في الولايات المتحدة الحديثة، لذلك لم يكن من المفاجئ أن يُرتكب أخطاء عند تشخيص هؤلاء الأشخاص المتنوعين.

تُظهر الدراسة الجديدة أن الخوارزميات عندما يتم تدريبها بشكل صحيح، يمكن أن تقلل من التحيز. كان التدريب dựa على ملاحظات المرضى أنفسهم بدلاً من آراء الخبراء. أظهر أوبرميير وزملاؤه في وقت سابق أن خوارزمية الذكاء الاصطناعي الشائعة أظهرت تفضيلًا للمرضى البيض على المرضى السود، ولكن أوبرميير أظهر أيضًا أن تدريب نظام التعلم الآلي على البيانات الصحيحة يمكن أن يساعد في منع التحيز.

هناك تحفظ ملحوظ على الدراسة هو ما يعرفه العديد من باحثي التعلم الآلي. النموذج الذكاء الاصطناعي الذي تم تطويره بواسطة فريق البحث هو صندوق أسود، وفريق البحث نفسه ليس متأكدًا من ماهية الميزات التي يتم الكشف عنها بواسطة الخوارزمية في الأشعة السينية، مما يعني أنهم لا يستطيعون أن يقولوا للأطباء ما هي الميزات التي يفتقرون إليها.

يحاول أشعة أخرى وباحثون حفر الصندوق الأسود والكشف عن الأنماط داخلها، على أمل مساعدة الأطباء على فهم ما يفتقرون إليه. أستاذ أشعة وبروفيسور في جامعة إيموري، جودي جيشوا، يجمع مجموعة أكثر شمولاً وتنوعًا من الأشعة السينية لتدريب نموذج الذكاء الاصطناعي. سوف يقوم جيشوا بتحضير ملاحظات مفصلة على هذه الأشعة السينية. سوف تتم مقارنة هذه الملاحظات مع إخراج النموذج لمعرفة ما إذا كان يمكن الكشف عن الأنماط التي يتم الكشف عنها بواسطة الخوارزمية.