Anderson का एंगल
दशकों पुराना अनामित चिकित्सा डेटा अब AI को गलत निदान करवा सकता है
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
जर्मनी और यूके के बीच एक नई शोध सहयोग के अनुसार, दशकों पहले भी चिकित्सा डेटासेट में शामिल किए गए अनामित रोगी रिकॉर्ड AI प्रणालियों को उन पर प्रशिक्षित करने पर वर्षों बाद वास्तविक रोगी का लक्षण पहचानने का कारण बन सकते हैं – और 2026 के रोगी को ऐसा मान सकते हैं जैसे वह अभी 2012 है (या वह वर्ष जब उनका अनामित रोगी डेटा पहली बार डेटासेट में शामिल किया गया था)।
उदाहरण के लिए, इसका मतलब यह हो सकता है कि 20 वर्ष पहले कैंसर उपचार में दर्ज किए गए रोगी, जो बाद में दीर्घकालिक रेमिशन में चले गए, अब AI प्रणाली द्वारा उनके पुराने, कैंसर‑ग्रस्त स्वरूप के संदर्भ में उपचारित किया जा सकता है – जिससे पुनरावृत्ति के गलत निदान की संभावना और बढ़ सकती है।
इसके विपरीत, यदि 2012 संस्करण में उस रोगी के डेटा ने नियमित जांचों में पूर्ण स्वास्थ्य दर्शाया हो, तो यह आशावादी दृष्टिकोण संभावित रूप से रोगी के पुराने, वर्तमान संस्करण पर लागू हो सकता है, जिससे नई स्थितियों या समस्याओं का पता लगाना छिप सकता है जिन्हें उपचार की आवश्यकता हो सकती है।
नए पेपर से, यह दर्शाता है कि स्मरण पक्षपात कैसे लौटने वाले रोगी को प्रभावित कर सकता है। एलीस के पहले के स्वस्थ ECG पर प्रशिक्षित मॉडल उसके बाद के हृदयाघात को केवल 15% संभावना देता है, जबकि वह मॉडल जिसने उसके ऐतिहासिक रिकॉर्ड कभी नहीं देखे, 73% संभावना देता है। स्रोत
‘डेटा इमिग्रेशन’ को रोकना
विभिन्न राष्ट्रीय और क्षेत्रीय निर्देश जो सुझाव देते हैं कि ऐसे उद्देश्यों के लिए रोगी डेटा आदर्श रूप से उस देश से लिया जाना चाहिए जहाँ से निकाली गई प्रणालियों का उपयोग किया जाना है, इस परिदृश्य को अधिक संभावित बनाते हैं, जिससे डेटासेट में रोगी पूल ‘स्थानीयकृत’ हो जाता है, और इस प्रकार अनदेखी अनामिकरण घटना की संभावना उल्लेखनीय रूप से बढ़ जाती है।
अनुमानतः, उपलब्ध डेटा को केवल राष्ट्रीय डेटासेट तक सीमित करने से स्मरण की संभावना बढ़ती है – यह संभावना कि मॉडल प्रशिक्षण के दौरान एक ही डेटा को बार‑बार देखेगा और इन अत्यधिक सीखे पैटर्न पर ‘स्थिर’ हो जाएगा। इसके विपरीत, डेटासेट जितना बड़ा और विविध होगा, उतना ही संभावना होगी कि वह प्रशिक्षण के बाद अनदेखे डेटा पर सामान्यीकृत हो सके, बजाय विशिष्ट डेटा‑पॉइंट या विन्यासों को स्मरण करने के।
हालांकि, ‘विदेशी’ चिकित्सा डेटा जोड़ने से राष्ट्रीय स्वास्थ्य प्रवृत्तियों और विशिष्टताओं के प्रमाण शामिल हो सकते हैं जो उस देश में लागू नहीं होते जहाँ प्रशिक्षित मॉडल तैनात किया जा रहा है; इस संदर्भ में, जैसा कि नया पेपर स्वीकार करता है, कुछ हद तक स्मरण उपयुक्त और उपयोगी है, क्योंकि यह मॉडल को किसी विशेष जनसंख्या के सबसे संभावित सामान्य चिकित्सा विशेषताओं के भीतर काम करने में मदद करता है।
पेपर कहता है*:
‘[When] मॉडल भविष्यवाणी के तौर पर तैनात किए जाते हैं, स्मरण एक विशिष्ट और कम‑मूल्यांकित जोखिम पैदा करता है। क्योंकि रोगी के रिकॉर्ड समय के साथ अत्यधिक समान होते हैं, भविष्य का रिकॉर्ड स्मरणित ऐतिहासिक रिकॉर्ड के लिए एक आंशिक संकेत के रूप में कार्य कर सकता है, जिससे मॉडल की भविष्यवाणियाँ रोगी की पूर्व स्वास्थ्य स्थिति की ओर स्थानांतरित हो जाती हैं।’
यह कोई काल्पनिक परिदृश्य नहीं है। चिकित्सा AI मॉडल नियमित रूप से उसी जनसंख्या पर तैनात किए जाते हैं जिससे उनका प्रशिक्षण डेटा प्राप्त हुआ था।
‘उदाहरण के लिए, जर्मनी का राष्ट्रीय स्तन कैंसर स्क्रीनिंग कार्यक्रम उपयोग करता है एक AI मॉडल जो 1.2 मिलियन मैमोग्राम पर प्रशिक्षित है, जो उसी स्क्रीनिंग जनसंख्या से प्राप्त किए गए हैं जिसे वह अब सेवा देता है।
‘समान तैनाती अन्यत्र चल रही है, जिसमें राष्ट्रीय स्तन कैंसर स्क्रीनिंग कार्यक्रम यूनाइटेड किंगडम में और स्वीडन शामिल हैं।
‘नियामक मार्गदर्शन सक्रिय रूप से इसे प्रोत्साहित करता है, जिसमें EU AI Act प्रशिक्षण डेटा को इच्छित उपयोग के भौगोलिक और संदर्भात्मक सेटिंग को प्रतिबिंबित करने की आवश्यकता रखता है (धारा 10(4)), और समान अंतर्राष्ट्रीय दिशानिर्देश चिकित्सा AI विकास के लिए यह कहते हैं कि इच्छित रोगी जनसंख्या को मॉडल के प्रशिक्षण डेटासेट में पर्याप्त रूप से प्रतिनिधित्व किया जाना चाहिए।’
स्थायी ऐतिहासिक आपदा..?
हालांकि पेपर इस मुद्दे को नहीं छूता, यह सांख्यिकीय रूप से तर्कसंगत प्रतीत होता है कि वे रोगी जो अपने जीवन भर नियमित रूप से चिकित्सा जांच नहीं करते (या नहीं करते थे), और जिनके अनामित रिकॉर्ड समय‑समय पर AI डेटा प्रवाह में प्रवेश करते हैं, वे अनामित रोगी डेटा में लगभग केवल उन समयों पर प्रकट होते हैं जब उन्हें उपचार की आवश्यकता होती है – जिससे अब उसी रोगी पर दीर्घकालिक ठीक हो चुके रोग को ‘प्रोजेक्ट’ करने की संभावना बढ़ जाती है, क्योंकि रिकॉर्ड में ‘सुव्यवस्थित स्वास्थ्य’ का कोई संतुलन नहीं होता।
यह पिछला शोध द्वारा पुष्टि होती है जो इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड में ‘सूचित उपस्थिति पक्षपात’ की जांच करता है, और पाता है कि चिकित्सा डेटासेट असमान रूप से उन अवधियों को दर्शाते हैं जब रोगी बीमार होते हैं और स्वास्थ्य सेवा के साथ संपर्क में होते हैं।
एक अध्ययन ने पाया कि गंभीर रूप से बीमार रोगियों के पास प्रयोगशाला डेटा वाले दिनों की संख्या स्वस्थतम रोगियों की तुलना में 5.05 गुना अधिक थी और दवा आदेशों वाले दिनों की संख्या 6.85 गुना अधिक थी।
2022 में, लगभग 76% अमेरिकी वयस्कों ने रिपोर्ट किया कि उन्होंने पिछले वर्ष के भीतर एक नियमित जांच करवाई, जिसे CDC ने एक सामान्य शारीरिक परीक्षण के रूप में परिभाषित किया है, न कि किसी विशिष्ट स्थिति के उपचार के रूप में; और यूरोप में, 2023 के एक बहु-देशीय सर्वेक्षण ने पाया कि 58% ने कम से कम कुछ निवारक जांचें करवाईं; लेकिन केवल 15% ने सभी निवारक अपॉइंटमेंट्स में भाग लिया जो उनके लिए प्रासंगिक माने गए।
प्रभाव की सीमा
अध्ययन ने इस प्रभाव का परीक्षण चार बड़े चिकित्सा डेटासेट्स में किया, जिसमें ECG रिकॉर्डिंग, छाती की एक्स-रे, और इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड शामिल थे; अर्थात्, MIMIC-CXR chest X-ray database और MIMIC-IV-ED आपातकालीन देखभाल रिकॉर्ड, साथ ही MIMIC-ECG और बहुत बड़े HEEDB ECG संग्रह। डेटासेट्स का आकार दसियों हजार रोगियों से लेकर 1.8 मिलियन से अधिक लोगों तक था।
लेखकों ने उल्लेख किया कि गणना किया गया प्रभाव काफी भिन्न होता है, कुछ मामलों में पूर्वानुमानित संभावना में परिवर्तन 70 प्रतिशत बिंदुओं से अधिक हो जाता है:
ऐसे परिणाम जो दर्शाते हैं कि ऐतिहासिक रोगी डेटा बाद की भविष्यवाणियों को कैसे बदलता है। शीर्ष पैनल इन परिवर्तनों की आवृत्ति और आकार की तुलना चार डेटासेट्स में करते हैं; निचले पैनल दिखाते हैं कि रोगी के अंतिम प्रशिक्षण रिकॉर्ड के बाद के समय के साथ प्रभाव कैसे बदलता है। महत्वपूर्ण प्रभाव समय के साथ कम सामान्य हो जाते हैं, लेकिन दशकों बाद भी पता चल सकते हैं।
नियंत्रण के रूप में, शोधकर्ताओं ने मॉडल को यादृच्छिक रूप से समूहों में विभाजित किया और तुलना को दोहराया, हालांकि इससे भविष्य की भविष्यवाणियों में कोई महत्वपूर्ण परिवर्तन नहीं हुआ।
प्रभाव, जैसा कि पेपर में बताया गया है, दशकों तक भी बना रह सकता है। हालांकि रिकॉर्ड के बीच अंतराल बढ़ने के साथ यह आमतौर पर कमजोर और कम सामान्य हो गया, लेकिन HEEDB डेटासेट, जिसमें 1980 के दशक से 2025 तक एकत्रित ECG शामिल हैं, ने रोगी के सबसे हालिया प्रशिक्षण रिकॉर्ड के बाद 25 वर्षों से अधिक भविष्यवाणियों में महत्वपूर्ण परिवर्तन दिखाए।
निदानात्मक हानि
नए पेपर के शोधकर्ताओं – शीर्षक Memorisation bias in medical AI – ने आगे यह अनुकरण किया कि स्मरण कैसे निदान सटीकता को प्रभावित कर सकता है जब रोगी बाद में अपने पहले के रिकॉर्ड पर प्रशिक्षित मॉडल से मिलते हैं।
भविष्य के मामलों को इस आधार पर विभाजित किया गया कि क्या रोगी ने नई स्थिति विकसित की थी; उनके ऐतिहासिक प्रशिक्षण डेटा में अनुपस्थित; या क्या वे मूल रूप से समान स्वास्थ्य स्थिति के साथ लौट रहे थे।
नई स्थितियों के लिए, प्रभाव लगातार नकारात्मक साबित हुआ, जहाँ मॉडल जिन्होंने पहले रोगी के ऐतिहासिक रिकॉर्ड देखे थे, चार डेटासेट्स में प्रतिनिधित्व किए गए विभिन्न निदानों में कम संवेदनशीलता दिखाते थे। इसमें इन्फार्क्ट और अन्य ECG असामान्यताएँ; फेफड़े की स्थितियाँ; और व्यापक गंभीर परिणाम शामिल थे।
व्यावहारिक रूप से, मॉडल अधिक झूठे नकारात्मक परिणाम उत्पन्न करते थे जब रोगी का स्वास्थ्य बदल गया था; लेकिन जब रोगी का स्वास्थ्य नहीं बदला, तो उनके पहले के रिकॉर्ड की स्मृति मॉडल को सही निदान देने की संभावना बढ़ा देती थी। संवेदनशीलता और विशिष्टता दोनों बढ़ी क्योंकि रोगी की वर्तमान स्थिति प्रशिक्षण डेटा में पहले से प्रतिनिधित्व की गई स्थिति के समान है।
लेखकों ने नोट किया कि इससे ऐसे सिस्टम को सटीक रूप से मूल्यांकन करना कठिन हो सकता है: यदि अधिकांश लौटने वाले रोगियों की स्थितियाँ अभी भी समान हैं, तो मॉडल उन पर बेहतर प्रदर्शन करेगा, जिससे नई स्थितियों वाले रोगियों के प्रति इसकी कम संवेदनशीलता छिप सकती है।
उपाय
एक संभावित सुरक्षा उपाय के रूप में, शोधकर्ताओं ने प्रशिक्षण के दौरान विभेदक गोपनीयता (जो मॉडल द्वारा किसी व्यक्तिगत प्रशिक्षण उदाहरण के बारे में रखी जा सकने वाली जानकारी को सीमित करती है) का परीक्षण किया।
हालांकि व्यक्तिगत रिकॉर्ड की सुरक्षा ने स्मरण प्रभाव को कम किया, लेकिन यह इसे पूरी तरह समाप्त नहीं कर पाया, यहाँ तक कि परीक्षण किए गए सबसे मजबूत सेटिंग पर भी। रोगी स्तर पर सुरक्षा लागू करना, जो एक ही व्यक्ति के सभी रिकॉर्ड को कवर करता है, बहुत अधिक प्रभावी था, और प्रभाव को लगभग समाप्त कर दिया।
हालांकि यह ध्यान देना चाहिए कि यदि कोई डेटासेट अपरिवर्तनीय रूप से अनामित किया गया है, तो रोगी के डेटा को ऐसी विधियों की अनुमति देने के तरीके से अलग नहीं किया जा सकता; और, शोधकर्ताओं ने बताया कि यदि डेटासेट को विभेदक गोपनीयता के साथ प्रशिक्षित नहीं किया गया है, तो सदस्यता अनुमान हमले जोखिम बन सकते हैं; यदि किया गया है, तो प्रशिक्षण के लिए आवश्यक संसाधन उल्लेखनीय रूप से बढ़ जाते हैं।
निष्कर्ष
लेखकों ने यह अवलोकन करके समाप्त किया कि जबकि वर्तमान में चिंताजनक घटनाएँ अपेक्षाकृत कम दर पर होती हैं, यह भविष्य में बदल सकती हैं*:
‘भविष्य में स्मृति पक्षपात के कारण छूटे हुए निदानों की संख्या बढ़ने की उम्मीद करने का कारण है, हालांकि हम इसे सीधे परीक्षण नहीं करते। पूर्व शोध ने दिखाया है कि मॉडल क्षमता के साथ वह अनुपात जिसमें मॉडल प्रशिक्षण डेटा को याद रखता है, बढ़ता है [6, 7, 9, 10, 40].
‘यह चिंताजनक है, क्योंकि वर्तमान AI मॉडल विकास “स्केलिंग कानूनों” द्वारा निर्देशित है [41], जो बेहतर प्रदर्शन की खोज में मॉडल और डेटासेट दोनों के आकार में तेज़ वृद्धि को प्रेरित करता है।
‘जैसे बड़े AI मॉडल लगातार बढ़ती रोगी जनसंख्या से प्राप्त ऐतिहासिक डेटा पर प्रशिक्षित होते हैं, स्मृति पक्षपात से प्रभावित व्यक्तियों की कुल संख्या में नाटकीय वृद्धि होने की संभावना है, जिससे हम यहाँ पहचानते जोखिम और बढ़ते हैं.’
* लेखकों के इनलाइन उद्धरणों को हाइपरलिंक में बदलना, जहाँ सटीक प्रतिलिपि संभव या उपयोगी नहीं है, वहाँ कुछ व्याख्या के साथ।
पहली बार प्रकाशित शुक्रवार, 18 सितंबर, 2026। हाइपरलिंक सुधार के लिए 18:17 EET पर संशोधित।
