بيانات طبية مجهولة الهوية منذ عقود قد تتسبب في تشخيصات خاطئة للذكاء الاصطناعي الآن

وفقًا لتعاون بحثي جديد بين ألمانيا والمملكة المتحدة، قد تتسبب سجلات المرضى المجهولة الهوية التي تم تضمينها في مجموعات البيانات الطبية منذ عقود في أن تتعرف أنظمة الذكاء الاصطناعي المدربة عليها على خصائص المريض الحقيقي بعد سنوات – وتعامل مريضًا في عام 2026 كما لو كان لا يزال في عام 2012 (أو أي عام تم فيه إدراج بيانات المريض المجهولة لأول مرة في مجموعة البيانات).

هذا قد يعني، على سبيل المثال، أن مريضًا سُجّل أنه يتلقى علاجًا للسرطان منذ 20 سنة، والذي دخل بعدها في حالة شفاء طويلة الأمد، قد يُعالج الآن بواسطة نظام الذكاء الاصطناعي في سياق حالته القديمة المصابة بالسرطان – مما يزيد منطقيًا من فرص تشخيص خاطئ لعودة المرض.

وعلى العكس، إذا عكست نسخة 2012 من بيانات ذلك المريض صحةً مثالية في الفحوص الروتينية، قد يُفرض هذا المنظور المتفائل على الإصدار الحالي الأقدم للمريض، مما يحجب اكتشاف الحالات أو المشكلات الجديدة التي قد تحتاج إلى علاج.

من الورقة الجديدة، توضيح لكيفية تأثير تحيز التذكر على مريض عائد. نموذج تم تدريبه على تخطيطات القلب (ECG) الصحية السابقة لأليس يخصص فقط احتمال 15% للنوبة القلبية التي تحدث لاحقًا، مقارنةً بـ 73% لنموذج لم ير سجلاتها التاريخية. المصدر

كبح ‘هجرة البيانات’

السيناريو يصبح أكثر احتمالًا بسبب توجيهات وطنية وإقليمية مختلفة توصي بأن تُؤخذ بيانات المرضى لهذا الغرض من البلد الذي يُقصد استخدام الأنظمة المستمدة منها فيه، مما ‘يوطّن’ مجموعة المرضى في مجموعات البيانات، ويزيد بشكل ملحوظ من احتمال حدوث مثل هذا الحدث غير المكتشف لإلغاء إخفاء الهوية.

وبالاستدلال، فإن حصر كمية البيانات المتاحة على مجموعة بيانات وطنية فقط يزيد من احتمال التذكر – أي أن النموذج سيشاهد نفس البيانات مرات عديدة خلال التدريب لدرجة أنه يصبح ‘مُثبتًا’ على هذه الأنماط المتعلمة بشكل مفرط. وعلى العكس، كلما كانت مجموعة البيانات أكبر وأكثر تنوعًا، زادت احتمالية أن يتعمم على بيانات غير مرئية بعد التدريب، بدلاً من تذكر نقاط بيانات أو تكوينات محددة.

مع ذلك، فإن إضافة بيانات طبية ‘أجنبية’ قد تُدخل أدلة على اتجاهات صحية وطنية وخصوصيات لا تنطبق في البلد الذي يُنشر فيه النموذج المدرب؛ وفي هذا الصدد، كما تعترف الورقة الجديدة، فإن مقدارًا معينًا من التذكر مناسب ومفيد، لأنه يساعد النموذج على العمل ضمن الخصائص الطبية العامة الأكثر احتمالًا لسكان معين.

تنص الورقة*:

‘[When] النماذج تُنشر بشكل استباقي، يخلق التذكر خطرًا محددًا ومُهملًا. لأن سجلات المريض متشابهة جدًا بمرور الوقت، قد يعمل سجل مستقبلي كإشارة جزئية لسجل تاريخي مُتذكر، مما يغيّر توقعات النموذج نحو الحالة الصحية السابقة للمريض.’

هذا ليس سيناريو افتراضيًا. تُنشر نماذج الذكاء الاصطناعي الطبية بانتظام على نفس السكان الذين استُخلصت منهم بيانات التدريب.

‘على سبيل المثال، برنامج فحص سرطان الثدي الوطني في ألمانيا يستخدم نموذجًا للذكاء الاصطناعي تم تدريبه على 1.2 مليون تصوير ماموجرام مأخوذ من نفس مجموعة الفحص التي يخدمها الآن.

‘نشر مماثل جارٍ في أماكن أخرى، بما في ذلك برامج فحص سرطان الثدي الوطنية في المملكة المتحدة والسويد.

‘التوجيهات التنظيمية تشجع ذلك بنشاط، مع EU AI Act الذي يتطلب أن تعكس بيانات التدريب الإعداد الجغرافي والسياقي للاستخدام المقصود (المادة 10(4))، وإرشادات دولية مماثلة لتطوير الذكاء الاصطناعي الطبي تدعو إلى تمثيل كافٍ لسكان المرضى المستهدفين في مجموعة بيانات التدريب للنموذج.’

كارثة تاريخية مستمرة..؟

على الرغم من أن الورقة لا تتناول المسألة، يبدو منطقيًا إحصائيًا أن المرضى الذين لا يحضرون الفحوصات الطبية بانتظام طوال حياتهم، والذين تُدخل سجلاتهم المجهولة الهوية إلى تدفق بيانات الذكاء الاصطناعي بشكل دوري، من المحتمل أن يظهروا في بيانات المرضى المجهولة الهوية تقريبًا حصريًا في الأوقات التي كانوا يحتاجون فيها إلى العلاج – مما قد يزيد من احتمال ‘إسقاط’ حالة شُفيت منذ زمن طويل على نفس المريض الآن، لأن السجلات لا تملك موازناً من ‘الصحة الجيدة’.

هذا ما تؤكده البحوث السابقة في ‘تحيز الوجود المستنير’ في السجلات الصحية الإلكترونية، حيث وجدت أن مجموعات البيانات الطبية تمثل بصورة غير متناسبة الفترات التي يكون فيها المرضى مرضى ويتفاعلون مع خدمات الرعاية الصحية.

وجدت دراسة واحدة أن المرضى المصابين بأمراض شديدة كانوا يمتلكون 5.05 أضعاف عدد الأيام التي تتوفر فيها بيانات مخبرية و6.85 أضعاف عدد الأيام التي تتوفر فيها أوامر أدوية مقارنةً بأكثر المرضى صحة.

في عام 2022، أبلغ حوالي 76٪ من البالغين في الولايات المتحدة عن خضوعهم لفحص روتيني خلال السنة السابقة، وهو ما تعرفه مراكز السيطرة على الأمراض كفحص بدني عام، وليس علاجًا لحالة محددة؛ وفي أوروبا، وجدت دراسة متعددة البلدان عام 2023 أن 58٪ حضروا على الأقل بعض الفحوصات الوقائية؛ لكن 15٪ فقط حضروا جميع المواعيد الوقائية التي تُعتبر ذات صلة بهم.

مدى تأثير الظاهرة

اختبرت الدراسة التأثير عبر أربعة مجموعات بيانات طبية ضخمة، تشمل تسجيلات تخطيط القلب (ECG)، صور الأشعة الصدرية، والسجلات الصحية الإلكترونية؛ وهي قاعدة بيانات صورة الصدر MIMIC-CXR وسجلات الرعاية الطارئة MIMIC-IV-ED، إلى جانب MIMIC-ECG ومجموعة HEEDB الأكبر لتسجيلات تخطيط القلب. تراوحت أحجام مجموعات البيانات من عشرات الآلاف من المرضى إلى أكثر من 1.8 مليون شخص.

يشير المؤلفون إلى أن التأثير المحسوب يختلف بشكل كبير، حيث تتجاوز التغييرات في احتمال التنبؤ 70 نقطة مئوية في بعض الحالات:

نتائج توضح كيف تغير بيانات المرضى التاريخية التنبؤات اللاحقة. المقاطع العلوية تقارن تواتر وحجم هذه التغييرات عبر المجموعات الأربع؛ المقاطع السفلية تُظهر كيف يتغير التأثير مع مرور الوقت منذ آخر سجل تدريبي للمريض. تصبح التأثيرات الكبيرة أقل شيوعًا مع مرور الوقت، لكنها تظل قابلة للكشف بعد عقود.

كضبط تجريبي، قسّم الباحثون النماذج عشوائيًا إلى مجموعات وأعادوا المقارنة، إلا أن ذلك لم ينتج أي تغييرات ذات دلالة إحصائية في التنبؤات المستقبلية.

يشير الورق إلى أن التأثير قد يستمر أيضًا لعقود. وعلى الرغم من أنه عادةً ما يضعف ويقل شيوعه كلما زادت الفجوة بين السجلات، أظهرت مجموعة بيانات HEEDB، التي تحتوي على تخطيطات ECG تم جمعها من الثمانينات حتى 2025، تغييرات ذات دلالة في التنبؤات بعد أكثر من 25 سنة من آخر سجل تدريبي للمريض.

الضرر التشخيصي

قام باحثو الورقة الجديدة – بعنوان تحيز الحفظ في الذكاء الاصطناعي الطبي – بمحاكاة كيفية تأثير الحفظ على دقة التشخيص عندما يواجه المرضى لاحقًا نموذجًا تم تدريبه على سجلاتهم السابقة.

قُسّمت الحالات المستقبلية وفقًا لما إذا كان المريض قد طوّر حالة جديدة؛ غير موجودة في بيانات تدريبه التاريخية؛ أو عائدًا بحالة صحية مماثلة تقريبًا.

بالنسبة للحالات الجديدة، ثبت أن التأثير سلبي باستمرار، حيث أظهرت النماذج التي رأت سجلات المريض التاريخية حساسية أقل عبر مجموعة من التشخيصات الممثلة في المجموعات الأربع. وشمل ذلك النوبات القلبية وغيرها من اضطرابات تخطيط القلب؛ أمراض الرئة؛ والنتائج الحرجة الأوسع.

عمليًا، أنتجت النماذج مزيدًا من النتائج السلبية عندما تغيرت حالة المريض؛ ولكن عندما لم تتغير حالة المريض، جعلت ذاكرة النموذج لسجلاته السابقة من المرجح أن ينتج التشخيص الصحيح. ارتفعت كل من الحساسية والنوعية لأن حالة المريض الحالية تشبه الحالة الممثلة بالفعل في بيانات التدريب.

يشير المؤلفون إلى أن هذا قد يجعل تقييم مثل هذه الأنظمة صعبًا بدقة: إذا كان معظم المرضى العائدين لا يزالون يعانون من نفس الحالات، سيؤدي ذلك إلى أداء أفضل للنموذج معهم، مما قد يخفي انخفاض حساسيته للمرضى الذين طوروا حالات جديدة.

العلاجات

كإجراء وقائي محتمل، اختبر الباحثون الخصوصية التفاضلية (التي تحدّ من كمية المعلومات التي يمكن للنموذج الاحتفاظ بها حول أي مثال تدريبي فردي) أثناء التدريب.

على الرغم من أن حماية السجلات الفردية قللت من تأثير الحفظ، إلا أنها لم تلغيه، حتى في أقوى إعداد تم اختباره. كان تطبيق الحماية على مستوى المريض، بحيث تشمل جميع السجلات الخاصة بنفس الشخص، أكثر فاعلية، وكاد أن يقضي على التأثير تمامًا.

ومع ذلك، يجب ملاحظة أنه إذا تم إخفاء هوية مجموعة البيانات بشكل لا يمكن استرجاعه، لا يمكن عزل بيانات المريض بطريقة تسمح بهذه الأساليب؛ ويلاحظ الباحثون أنه إذا لم تُدرّب مجموعة البيانات مع تمكين الخصوصية التفاضلية، فإن هجمات استدلال العضوية تصبح خطرًا؛ وإذا تم تفعيلها، فإن الموارد اللازمة للتدريب تزداد بشكل ملحوظ.

الخلاصة

يختتم المؤلفون ملاحظتهم بأنه رغم حدوث الحوادث المقلقة حاليًا بمعدل منخفض نسبيًا، قد يتغير ذلك في المستقبل*:

‘هناك سبب لتوقع أن عدد التشخيصات الفائتة الناجمة عن تحيز الحفظ سيزداد في المستقبل، رغم أننا لا نختبر ذلك مباشرة. أظهرت الأبحاث السابقة أن نسبة البيانات التدريبية التي يحفظها النموذج تزداد مع سعة النموذج [6, 7, 9, 10, 40].

‘هذا مقلق، نظرًا لأن تطوير نماذج الذكاء الاصطناعي الحالي يُوجَّه بـ “قوانين التوسع” [41]، التي تدفع النمو السريع في أحجام النماذج ومجموعات البيانات سعيًا لتحسين الأداء.

‘مع تدريب نماذج الذكاء الاصطناعي الأكبر على بيانات تاريخية مستمدة من مجموعات سكانية مرضية متزايدة باستمرار، من المرجح أن يرتفع العدد المطلق للأفراد المتأثرين بتحيز الحفظ بشكل كبير، مما يزيد من المخاطر التي نحددها هنا.’

* تحويلي لاستشهادات المؤلفين داخل النص إلى روابط تشعبية، مع بعض التفسير حيث لا يمكن أو لا يكون النسخ الدقيق ممكنًا أو مفيدًا.

نُشر أولاً الجمعة، 18 سبتمبر 2026