بيانات طبية مجهولة الهوية منذ عقود قد تتسبب في تشخيصات خاطئة للذكاء الاصطناعي الآن

وفقًا لتعاون بحثي جديد بين ألمانيا والمملكة المتحدة، قد تتسبب سجلات المرضى المجهولة الهوية التي تم تضمينها في مجموعات البيانات الطبية منذ عقود في جعل أنظمة الذكاء الاصطناعي المدربة عليها تتعرف على المريض الحقيقي سنوات لاحقًا – وتتعامل مع مريض في عام 2026 كما لو كان لا يزال في عام 2012 (أو أي سنة تم فيها إدراج بيانات المريض المجهولة لأول مرة في المجموعة/المجموعات).

قد يعني هذا، على سبيل المثال، أن مريضًا تم تسجيله وهو يتلقى علاجًا للسرطان قبل 20 سنة، والذي دخل لاحقًا في حالة شفاء طويلة الأمد، قد يُعامل الآن بواسطة نظام الذكاء الاصطناعي في سياق ذاته القديمة المصابة بالسرطان – مما يزيد منطقياً من فرص تشخيص خاطئ للانتكاس.

وعلى العكس، إذا عكست نسخة 2012 من بيانات ذلك المريض صحةً مثالية في الفحوص الروتينية، فقد يُفرض هذا المنظور المتفائل على النسخة الحالية الأقدم للمريض، مما يُخفي اكتشاف الحالات أو المشكلات الجديدة التي قد تحتاج إلى علاج.

من الورقة الجديدة، توضيح لكيفية تأثير انحياز التذكر على مريض عائد. يخصص نموذج تم تدريبه على تخطيطات القلب (ECG) الصحية السابقة لأليس احتمالًا قدره 15 % فقط للنوبة القلبية التي تحدث لاحقًا لها، مقارنةً بـ 73 % لنموذج لم يرَ سجلاتها التاريخية. المصدر

كبح ‘هجرة البيانات’

يزداد احتمال هذا السيناريو بفضل توجيهات وطنية وإقليمية متعددة توصي بأن تُؤخذ بيانات المرضى لهذا الغرض من البلد الذي يُقصد استخدام الأنظمة المستمدة منها فيه، مما ‘يوطّن’ مجموعة المرضى في مجموعات البيانات، ويزيد بشكل ملحوظ من فرصة حدوث مثل هذا الحدث غير المكتشف لإلغاء إخفاء الهوية.

وبالاستدلال، فإن تقييد كمية البيانات المتاحة إلى مجموعة بيانات وطنية فقط يزيد من احتمال التذكر – أي إمكانية أن يرى النموذج نفس البيانات مرات عديدة أثناء التدريب حتى يصبح ‘مُثبتًا’ على هذه الأنماط المتعلمة بصورة مفرطة. وعلى العكس، كلما كانت مجموعة البيانات أكبر وأكثر تنوعًا، زادت احتمالية أن يتعمم على بيانات غير مرئية بعد التدريب، بدلاً من حفظ نقاط بيانات أو تكوينات محددة.

ومع ذلك، فإن إضافة بيانات طبية ‘أجنبية’ قد تُدخل أدلة على الاتجاهات الصحية الوطنية والخصوصيات التي قد لا تنطبق في البلد الذي يُنشر فيه النموذج المدرب؛ وفي هذا الصدد، كما تعترف الورقة الجديدة، فإن مقدارًا معينًا من التذكر يكون مناسبًا ومفيدًا، لأنه يساعد النموذج على العمل ضمن الخصائص الطبية العامة الأكثر احتمالًا لسكان معينين.

تذكر الورقة*:

‘نماذج [When] تُنشر بشكل استباقي، يُحدث التذكر خطرًا محددًا ومُهملًا. نظرًا لتشابه سجلات المريض ذاتيًا على مر الزمن، قد يعمل سجل مستقبلي كإشارة جزئية لسجل تاريخي مُحفظ، مما يُحوّل توقعات النموذج نحو الحالة الصحية السابقة للمريض.

هذا ليس سيناريو افتراضيًا. تُنشر نماذج الذكاء الاصطناعي الطبية بانتظام على نفس الفئة السكانية التي استُخرجت منها بيانات التدريب.

‘على سبيل المثال، برنامج الفحص الوطني لسرطان الثدي في ألمانيا برنامج يستخدم نموذج ذكاء اصطناعي تم تدريبه على 1.2 مليون صورة ماموغرافية مأخوذة من نفس فئة الفحص التي يخدمها الآن.

‘النشر المقارن جارٍ في أماكن أخرى، بما في ذلك برامج الفحص الوطني لسرطان الثدي في المملكة المتحدة والسويد.

‘تشجع الإرشادات التنظيمية هذا بنشاط، مع EU AI Act التي تتطلب أن تعكس بيانات التدريب الإعداد الجغرافي والسياقي للاستخدام المقصود (المادة 10(4))، وإرشادات دولية مماثلة لتطوير الذكاء الاصطناعي الطبي تدعو إلى تمثيل كافٍ لسكان المرضى المستهدفين في مجموعة بيانات تدريب النموذج.’

كارثة تاريخية مستمرة..؟

على الرغم من أن الورقة لا تتناول المسألة، يبدو منطقيًا إحصائيًا أن المرضى الذين لا يحضرون الفحوص الطبية بانتظام طوال حياتهم، والذين دخلت سجلاتهم المجهولة الهوية إلى تدفق بيانات الذكاء الاصطناعي بشكل دوري، من المرجح أن يظهروا في بيانات المرضى المجهولة تقريبًا حصريًا في الأوقات التي كانوا يحتاجون فيها إلى علاج – مما قد يزيد من احتمال ‘إسقاط’ حالة شُفيت منذ زمن طويل على نفس المريض الآن، نظرًا لعدم وجود توازن ‘صحة جيدة’ في السجلات.

هذا ما تؤكده البحوث السابقة في ‘انحياز الوجود المستنير’ بسجلات الصحة الإلكترونية، حيث وجدت أن مجموعات البيانات الطبية تمثل بصورة غير متناسبة الفترات التي يكون فيها المرضى مرضى ويتفاعلون مع الخدمات الصحية.

دراسة واحدة وجدت أن المرضى المصابين بأمراض شديدة كان لديهم 5.05 أضعاف عدد الأيام التي تتوفر فيها بيانات مختبرية و6.85 أضعاف عدد الأيام التي تتوفر فيها أوامر دوائية مقارنةً بأكثر المرضى صحة.

في عام 2022، حوالي 76٪ من البالغين في الولايات المتحدة أفاد أنهم خضعوا لفحص روتيني خلال العام السابق، وهو ما تعرفه CDC بأنه فحص بدني عام، وليس علاجًا لحالة معينة؛ وفي أوروبا، أظهر مسح متعدد الدول عام 2023 وجد أن 58٪ حضروا على الأقل بعض الفحوصات الوقائية؛ لكن 15٪ فقط حضروا جميع المواعيد الوقائية التي تعتبر ذات صلة بهم.

مدى التأثير

اختبرت الدراسة التأثير عبر أربعة مجموعات بيانات طبية كبيرة، تشمل تسجيلات تخطيط القلب (ECG)، صور الأشعة الصدرية، والسجلات الصحية الإلكترونية؛ وهي قاعدة بيانات MIMIC-CXR chest X-ray database وسجلات الرعاية الطارئة MIMIC-IV-ED، إلى جانب MIMIC-ECG ومجموعة HEEDB الأكبر من تخطيطات القلب. تراوحت أحجام مجموعات البيانات من عشرات الآلاف من المرضى إلى أكثر من 1.8 مليون شخص.

يشير المؤلفون إلى أن التأثير المحسوب يختلف بشكل كبير، حيث تجاوزت التغييرات في الاحتمال المتنبأ أكثر من 70 نقطة مئوية في بعض الحالات:

نتائج تُظهر كيف تُغيّر بيانات المرضى التاريخية التنبؤات اللاحقة. المقاطع العلوية تقارن تواتر وحجم هذه التغييرات عبر مجموعات البيانات الأربع؛ المقاطع السفلية تُظهر كيف يتغير التأثير مع مرور الوقت منذ آخر سجل تدريبي للمريض. تصبح التأثيرات الكبيرة أقل شيوعًا مع مرور الوقت، لكنها لا تزال قابلة للكشف بعد عقود.

كضبط تحكم، قسّم الباحثون النماذج عشوائيًا إلى مجموعات وأعادوا المقارنة، رغم أن ذلك لم ينتج أي تغييرات ذات دلالة في التنبؤات المستقبلية.

يشير الورق إلى أن التأثير قد يستمر أيضًا لعقود. وعلى الرغم من أنه عمومًا أصبح أضعف وأقل شيوعًا مع زيادة الفاصل الزمني بين السجلات، فإن مجموعة بيانات HEEDB، التي تحتوي على تخطيطات قلب تم جمعها من الثمانينات حتى 2025، أظهرت تغييرات ذات دلالة في التنبؤات أكثر من 25 سنة بعد أحدث سجل تدريبي للمريض.

الضرر التشخيصي

قام الباحثون في الورقة الجديدة – التي تحمل العنوان تحيز الحفظ في الذكاء الاصطناعي الطبي – بعد ذلك بمحاكاة كيف يمكن للذاكرة أن تؤثر على دقة التشخيص عندما يواجه المرضى لاحقًا نموذجًا تم تدريبه على سجلاتهم السابقة.

تم تقسيم الحالات المستقبلية وفقًا لما إذا كان المريض قد طوّر حالة جديدة؛ أو غائبًا عن بيانات التدريب التاريخية؛ أو عائدًا بحالة صحية مماثلة إلى حد كبير.

بالنسبة للحالات الجديدة، ثبت أن التأثير سلبي باستمرار، حيث أظهرت النماذج التي رأت سجلات المريض التاريخية مسبقًا حساسية أقل عبر مجموعة من التشخيصات الممثلة في مجموعات البيانات الأربع. وشمل ذلك النوبات القلبية وغيرها من اضطرابات تخطيط القلب؛ وحالات الرئة؛ والنتائج الحرجة الأوسع.

عمليًا، أنتجت النماذج عددًا أكبر من النتائج السلبية الكاذبة عندما تغيرت حالة المريض؛ ولكن عندما ليس تغيرت حالة المريض، جعلت ذاكرة النموذج لسجلاته السابقة من المرجح أن ينتج التشخيص الصحيح. ارتفعت كل من الحساسية والنوعية لأن الحالة الحالية للمريض تشبه الحالة التي تم تمثيلها بالفعل في بيانات التدريب.

يشير المؤلفون إلى أن ذلك قد يجعل من الصعب تقييم مثل هذه الأنظمة بدقة: إذا كان معظم المرضى العائدين لا يزالون يعانون من نفس الحالات، فإن النموذج سيؤدي بشكل أفضل معهم، مما قد يخفي انخفاض حساسيته تجاه المرضى الذين طوّروا حالات جديدة.

العلاجات

كإجراء وقائي محتمل، اختبر الباحثون الخصوصية التفاضلية (التي تحدّ من كمية المعلومات التي يمكن للنموذج الاحتفاظ بها حول أي مثال تدريبي فردي) أثناء التدريب.

على الرغم من أن حماية السجلات الفردية قللت من تأثير الحفظ، إلا أنها لم تُزيله، حتى في أقوى إعداد تم اختباره. كان تطبيق الحماية على مستوى المريض، بحيث تغطي جميع السجلات الخاصة بنفس الشخص، أكثر فاعلية بكثير، وكاد أن يُقضي على التأثير.

يجب ملاحظة، مع ذلك، أنه إذا تم إلغاء تعريف مجموعة البيانات بشكل لا يمكن استرجاعه، لا يمكن عزل بيانات المريض بطريقة تسمح بهذه الأساليب؛ كما يلاحظ الباحثون، إذا لم تُدرّب مجموعة البيانات مع تمكين الخصوصية التفاضلية، فإن هجمات استنتاج العضوية تصبح خطرًا؛ وإذا تم تمكينها، فإن الموارد اللازمة للتدريب تزداد بشكل ملحوظ.

الخلاصة

يختتم المؤلفون بملاحظة أنه بينما تحدث الحوادث المثيرة للقلق حاليًا بمعدل منخفض نسبيًا، قد يتغير ذلك في المستقبل*:

‘هناك سبب لتوقع أن عدد التشخيصات الفائتة الناجمة عن تحيز الحفظ سيزداد في المستقبل، رغم أننا لم نختبر ذلك مباشرة. أظهرت الأبحاث السابقة أن نسبة البيانات التدريبية التي يحفظها النموذج تزداد مع قدرة النموذج [6, 7, 9, 10, 40].

‘هذا أمر مقلق، نظرًا لأن تطوير نماذج الذكاء الاصطناعي الحالية يُوجَّه بـ«قوانين التوسع» [41]، التي تدفع النمو السريع في أحجام النماذج ومجموعات البيانات سعيًا لتحسين الأداء.

‘مع تدريب نماذج الذكاء الاصطناعي الأكبر على بيانات تاريخية مأخوذة من مجموعات مرضى متزايدة الحجم، من المرجح أن يرتفع العدد المطلق للأفراد المتأثرين بتحيز الحفظ بشكل كبير، مما يزيد من المخاطر التي نحددها هنا.’

* تحويلي لاستشهادات المؤلفين داخل النص إلى روابط تشعبية، مع بعض التفسير حيث لا يمكن أو لا يكون النسخ الدقيق مفيدًا.

نُشر أولاً يوم الجمعة، 18 سبتمبر 2026. تم تعديل الساعة 18:17 بتوقيت شرق أوروبا لتصحيح الروابط.