عروق الشبكية تكشف عن العرق، وتوسع نطاق التحيز العرقي في الذكاء الاصطناعي

استلهمت من الاكتشافات الحديثة أن الذكاء الاصطناعي الطبي يمكن أن يكشف عن العرق، أجرت مجموعة بحثية في الولايات المتحدة والمملكة المتحدة دراسة لتحديد ما إذا كانت أنماط عروق الشبكية مدى للعرق، وخلصت إلى أن هذا هو الحال، حيث يمكن للذكاء الاصطناعي توقع العرق المبلغ عنه من قبل الآباء في الأجنة من صور الشبكية – الصور التي لن تكشف عن الهوية العرقية لأي طبيب يدرسها، والتي كان يُعتقد في السابق أنها لا تحتوي على أي إمكانية لتحديد العرق.

أعربت المجموعة عن قلقها من أن هذا الاتجاه الإضافي للطبقات العرقية في التصوير الطبي يفتح إمكانية زيادة التحيز في استخدام أنظمة الذكاء الاصطناعي في الرعاية الصحية.

صور الشبكية من شخص أسود وأبيض. في الأعلى، صورة شبكية كاملة الألوان من كل عرق بالفعل تحتوي على سمات تمييزية متعلقة باللون. في الأسفل، خرائط الأوعية الشبكية المستمدة من هذه الصور، والتي من المفترض أن “تستوي” هذه العلامات المرجعية العرقية، تحتوي في الواقع على سمات تعريفية للعرق، وفقًا للتقرير الجديد. مصدر: https://arxiv.org/ftp/arxiv/papers/2109/2109.13845.pdf

أشار المؤلفون أيضًا إلى إمكانية أن يكون إطار التعلم الآلي U-Net، الذي أصبح يحدد هذا القطاع من أنظمة الذكاء الاصطناعي الطبية، والذي تم تدريبه على مواضيع بيضاء سائدة، قد يكون له تأثير على هذه الظاهرة. ومع ذلك، يؤكد المؤلفون أنهم “لا يزالون غير قادرين على تفسير هذه النتائج بشكل كامل بناءً على فرضية U-Net وحدها“.

في تعليقهم على النتائج في مستودع GitHub المرتبط بالمشروع، يقول المؤلفون:

‘يمكن للذكاء الاصطناعي تحديد العرق من خرائط الأوعية الشبكية ذات النطاق الرمادي التي لم يُعتقد أنها تحتوي على معلومات عرقية. هناك تفسيران محتملان لهذه النتائج: قد تختلف الأوعية الشبكية فسيولوجيًا بين الأطفال السود والبيض أو قد يقطع إطار U-Net الأوعية الشبكية بشكل مختلف للتنبيغات المختلفة.

‘في أي حال، تظل الآثار هي نفسها: تتمتع خوارزميات الذكاء الاصطناعي بإمكانية إظهار تحيز عرقي في الممارسة، حتى عندما تظهر المحاولات الأولية لإزالة هذه المعلومات من الصور الأساسية أنها ناجحة.’

المقال، الذي يحمل عنوان ليس أعمى اللون: الذكاء الاصطناعي يتنبأ بالهوية العرقية من خرائط الأوعية الشبكية السوداء والبيضاء، هو تعاون متساوي بين الأطباء والباحثين من خمسة مؤسسات وأقسام بحثية في الولايات المتحدة، وواحدة في المملكة المتحدة.

يشمل الأطباء المشاركين في الإطار البحثي R.V. Paul Chan، MD، MSc، FACS، الذي هو معترف به في طب العيون، وعضو في الكلية الأمريكية للجراحين؛ Michael F. Chiang، M.D.، مدير معهد العيون الوطني في المعاهد الوطنية للصحة في بيثيسدا، ماريلاند؛ وJ. Peter Campbell M.D.، M.P.H.، أستاذ مساعد في طب العيون في كلية الطب في جامعة أوريغون للعلوم الصحية في بورتلاند.

العيون لها كل شيء

يلاحظ المؤلفون إمكانية انتشار التحيز البشري إلى أنظمة الذكاء الاصطناعي الطبية، لا سيما في دراسة العيون. تحتوي صور الشبكية الكاملة الألوان، التي تُستخدم في تقييم الأمراض العينية، على معلومات كافية لتحديد العرق.

تتخلص خرائط الأوعية الشبكية الرمادية من معظم هذه المعلومات لاستخراج النمط الأساسي للشريانات التي قد تحدد العديد من الحالات المرضية. لقد تم افتراض دائمًا أنه في هذا المستوى من التقطيع، لا تظل هناك سمات عرقية في مثل هذه الصور الطبية المقتظة.

قامت المؤلفة بتجربة هذا الافتراض باستخدام مجموعة بيانات من صور الشبكية الكاملة الألوان (RFI) التي تم الحصول عليها من الأطفال الذين تم فحصهم لمرض محتمل يسبب العمى. يلاحظ المؤلفون أن الفحص لمثل هذه الصور يظهر بشكل متزايد خارج الاستشارات الشخصية، في التелемيديسين والتشخيص عن بُعد، ويصبح أكثر وأكثر موضوعًا للتحليل القائم على التعلم الآلي.

تدرس الدراسة الجديدة ما إذا كانت أنواع مختلفة من الصور الكاملة الألوان التي تحتوي على معلومات عرقية تظل تحتفظ بمعلومات عرقية، حسب ما ذكره آباء الأطفال، ووجدت أن حتى أكثر الصور المقتعة تدميرًا للمعلومات (المحورة، الهيكلية، والثنائية) تمكن من تحديد بعض مستويات الهوية العرقية.

البيانات والمنهجية

تم جمع البيانات من 245 طفلًا بين يناير 2012 و يوليو 2020 كجزء من دراسة مجموعة i-ROP متعددة المراكز، وتم تقسيمها إلى مجموعات تدريب وتصديق واختبار بنسبة 50/20/30 على التوالي، مع الحفاظ على توزيع العرقيات كما هو مسموح به من قبل بيانات المصدر.

تم تقليل الصور الكاملة الألوان إلى ثلاثة أنماط من التصوير المقتع، بحيث يتم إزالة العلامات العرقية “الواضحة” من البيانات.

تم تدريب شبكات عصبونية متعددة على تحقيق التصنيف الثنائي (“أسود” / “أبيض”، بناءً على العرق المبلغ عنه من قبل الآباء) باستخدام PyTorch. تم تشغيل الشبكات على جميع إصدارات الصور، من الصور الكاملة الألوان إلى الإصدارات الهيكلية، مع تطبيق التقلبات العشوائية والدوارات، مع صور مشتقة بدقة 224×244 بكسل.

تم تدريب النماذج بتقنية الانحدار التدرجي العشوائي لمدة تصل إلى عشرة عصور مع معدل تعلم ثابت عند 0.001، وتم تنفيذ الإيقاف المبكر ووقف التدريب حيث تم تحديد التقارب بعد خمس عصور (أي أن النموذج لن يصبح أكثر دقة مع المزيد من التدريب).

نظرًا لوجود عدم توازن ديموغرافي طبيعي بين المواضيع البيضاء والسوداء، تم تطبيق التعويض لضمان أن لا يتم تهميش المصادر الأقلية بشكل منهجي كأوتار، وتم التحقق من النتائج لضمان عدم حدوث أي تسرب للبيانات عبر التجارب.

عينات من خرائط الأوعية الشبكية من الدراسة عند مستويات مختلفة من التسامح العتبوي.

النتائج

يجب أن تكون خرائط الأوعية الشبكية، التي تُستخرج الأوعية والشريانات من صور الشبكية الكاملة الألوان، غير قابلة للتمييز العرقي نظريًا بواسطة شبكة عصبونية، وفقًا للمؤلفين. ومع ذلك، أظهرت النتائج أن عددًا أكبر من الشرايين الكبيرة يتم تقطيعها بواسطة إطار U-Net للعيون البيضاء أكثر من العيون السوداء.

في التعليقات الختامية، يلاحظ الباحثون ‘وجدنا أن الذكاء الاصطناعي كان قادرًا بسهولة على توقع عرق الأطفال من خرائط الأوعية الشبكية التي لا تحتوي على معلومات مرئية بشأن التصبغ‘، و ‘حتى الصور التي بدت خالية من المعلومات للعين المجردة احتفظت بمعلومات تنبؤية للعرق الأصلي للطفل‘. كما يقدم الباحثون إمكانية أن تختلف أوعية الشبكية للرضع السود والبيض ‘بطريقة يمكن للذكاء الاصطناعي تقديرها، ولكن البشر لا يمكنهم‘.

التحيز السابق؟

يقترح المؤلفون أيضًا أن التمييز قد يكون وظيفة البيانات السائدة البيضاء التي تم تدريب إطار U-Net عليها في الأصل. على الرغم من وصفهم هذا بأنه “نظرية رائدة”، فإنهم يعترفون أيضًا بأن قدرات أجهزة الاستشعار قد تكون عاملاً في الظاهرة، إذا كان التحيز المكتشف نتيجة لجوانب تقنية لعمليات التصوير الشبكي، أو لتحيز البيانات في إطار U-Net الذي يُحافظ عليه على مدار السنوات. في معالجة هذه الإمكانيات، يقرر المؤلفون:

‘ومع ذلك، تم تدريب إطار U-Net على صور الشبكية الكاملة الألوان التي تم تحويلها أولاً إلى صور رمادية وتم تعديل التباين – تحديدًا، تعديل التباين المحدود للتساوي التألقي (CLAHE) – وبالتالي لم يتم تدريبه أبدًا على صور الشبكية الكاملة الألوان. وبالتالي، نحن لا نزال غير قادرين على تفسير هذه النتائج بشكل كامل بناءً على فرضية U-Net وحدها.’

ومع ذلك، يؤكد المؤلفون أن السبب أقل إثارة للقلق من التأثير، مشيرين إلى أن قدرة نماذج الذكاء الاصطناعي على تمييز العرق تشكل “مخاطر محتملة للتحيز في خوارزميات الذكاء الاصطناعي الطبية التي تستخدمها كمدخلات“.

يشير المؤلفون إلى الطبيعة عالي التباين للعرقيات التي تم دراستها، ويفترضون أن “المجموعات العرقية الوسيطية” قد تكون أكثر صعوبة في التعرف عليها بوسائل مماثلة، ويشيرون إلى أن هذا هو جانب يعتزمون دراسته في الأعمال الجارية والمرتبطة.

* جميع الروابط الداعمة المقدمة من البحث التي تم تضمينها في هذه المقالة تم تحويلها من روابط PaperPile المحدودة إلى إصدارات متاحة علنًا على الإنترنت، حيث كان ذلك ممكنًا.