نماذج الذكاء الاصطناعي التي تم تدريبها على بيانات متحيزة جنسيا تؤدي أسوأ في تشخيص الأمراض

最近، دراسة نُشرت في مجلة PNAS وأُجريت من قبل باحثين من الأرجنتين، تشير إلى أن وجود بيانات تدريب متحيزة جنسيا يؤدي إلى أداء أسوأ للنموذج عند تشخيص الأمراض والقضايا الطبية الأخرى. كما ذكرت Statnews، قام فريق الباحثين بتجربة تدريب النماذج حيث كانت المرضى الإناث ممثلة بدرجة ملحوظة أو مستبعدة تماما، ووجدوا أن الخوارزمية أديت أداء أسوأ بكثير عند تشخيصهم. نفس الشيء كان صحيحا للحوادث التي تم استبعاد أو تمثيل المرضى الذكور بدرجة ملحوظة.

على مدى النصف العقد الماضي، مع زيادة استخدام نماذج الذكاء الاصطناعي وتعلم الآلة، أصبحت مشكلة مجموعات البيانات المتحيزة ونماذج التعلم الآلي المتحيزة أكثر وضوحا. يمكن أن يؤدي تحيز البيانات في التعلم الآلي إلى تطبيقات الذكاء الاصطناعي غير مريحة وsocياً وexclusive، ولكن عندما يتعلق الأمر بالتطبيقات الطبية، يمكن أن تكون الأرواح على المحك. ومع ذلك، على الرغم من المعرفة بمشكلة التحيز، قام عدد قليل من الدراسات بتحديد مدى الضرر الذي يمكن أن يسببه مجموعات البيانات المتحيزة. وجدت الدراسة التي أجراها فريق البحث أن تحيز البيانات يمكن أن يكون له آثار أكثر حدة مما قدره الخبراء في السابق.

أحد أكثر Uses الشائعة للذكاء الاصطناعي في السنوات القليلة الماضية، في السياق الطبي، كان استخدام نماذج الذكاء الاصطناعي لتشخيص المرضى بناءً على الصور الطبية. قام فريق البحث بتحليل النماذج المستخدمة للكشف عن وجود حالات طبية مختلفة مثل الالتهاب الرئوي أو تضخم القلب أو الفتق من أشعة إكس. درست فرق البحث ثلاثة معمارية مفتوحة المصدر: Inception-v3 و ResNet و DenseNet-121. تم تدريب النماذج على أشعة إكس راية الصدر من مجموعتين مفتوحتين المصدر من جامعة ستانفورد والمعاهد الوطنية للصحة. على الرغم من أن مجموعات البيانات نفسها متوازنة إلى حد ما فيما يتعلق بالتمثيل الجنساني، إلا أن الباحثين أضافوا تحيزًا اصطناعيًا إلى البيانات عن طريق تقسيمها إلى مجموعات فرعية حيث كان هناك تفاوت جنساني.

قام فريق البحث بإنشاء خمس مجموعات بيانات تدريبية مختلفة، كل منها يتكون من نسب مختلفة من مسح المرضى الذكور والإناث. تم تقسيم مجموعات التدريب الخمس على النحو التالي:

• جميع الصور كانت لمرضى ذكور
• جميع الصور كانت لمرضى إناث
• 25٪ من المرضى الذكور و 75٪ من المرضى الإناث
• 75٪ من المرضى الإناث و 25٪ من المرضى الذكور
• نصف المرضى الذكور ونصف المرضى الإناث

بعد تدريب النموذج على واحدة من المجموعات الفرعية، تم اختباره على مجموعة من مسح المرضى الذكور والإناث. كان هناك اتجاه ملحوظ موجود عبر الحالات الطبية المختلفة، حيث كان دقة النماذج أسوأ بكثير عندما كانت بيانات التدريب متحيزة جنسيا بشكل كبير. هناك شيء مثير للاهتمام هو أن إذا كان جنس واحد متجاوزًا في بيانات التدريب، فإن ذلك الجنس لم يبدو أنه يستفيد من التمثيل الزائد. بغض النظر عما إذا كان النموذج مدربًا على بيانات متحيزة لجنس معين أو آخر، لم يؤد أفضل على ذلك الجنس مقارنةً مع عندما تم تدريبه على مجموعة بيانات شاملة.

المؤلف الرئيسي للدراسة، إنزو فيرنانتي، كما ذكر في Statnews، يشرح أن الدراسة تبرز مدى أهمية أن تكون بيانات التدريب متنوعة وممثلة لجميع السكان الذين تهدف إلى اختبار النموذج فيها.

ليس من الواضح تمامًا لماذا النماذج المدربة على جنس معين تؤدي أسوأ عندما يتم تطبيقها على جنس آخر. قد تكون بعض الانحرافات ناجمة عن différences فيزيولوجية، ولكن عوامل اجتماعية وثقافية مختلفة قد تُحتسب أيضًا لبعض من الفرق. على سبيل المثال، قد تتلقى النساء أشعة إكس في مرحلة مختلفة من تقدم مرضهن مقارنة بالرجال. إذا كان هذا صحيحًا، يمكن أن يؤثر على الميزات (والنماذج المكتسبة من قبل النموذج) الموجودة في الصور التدريبية. إذا كان هذا هو الحال، فإنه يجعل من الصعب على الباحثين إزالة التحيز من مجموعات البيانات، لأن التحيز سيكون مدخلاً في مجموعة البيانات من خلال آليات جمع البيانات.

حتى الباحثون الذين يولون اهتمامًا وثيقًا للتنوع في البيانات قد لا يكون لديهم خيار آخر غير العمل مع بيانات متحيزة أو غير متوازنة. الحالات التي توجد فيها تفاوتات في كيفية تشخيص الحالات الطبية غالبًا ما تؤدي إلى عدم توازن في البيانات. على سبيل المثال، بيانات مرضى سرطان الثدي يتم جمعها تقريبًا فقط من النساء. بشكل مماثل، يختلف التوحّد بين النساء والرجال، ونتيجة لذلك، يتم تشخيص الحالة بسرعة أكبر في الأولاد منها في البنات.

مع ذلك، من المهم للغاية أن يتحكم الباحثون في البيانات المتحيزة والتحيز في البيانات بأي طريقة يمكنهم. في هذا الصدد، ستساعد الدراسات المستقبلية الباحثين على تحديد تأثير البيانات المتحيزة.