दहाकों पुराने अनामित चिकित्सा डेटा से एआई के गलत निदान अब हो सकते हैं

जर्मनी और यूके के बीच एक नई शोध सहयोग के अनुसार, दशकों पहले भी चिकित्सा डेटासेट में शामिल किए गए अनामित रोगी रिकॉर्ड एआई सिस्टम को उन पर प्रशिक्षित करने के बाद कई वर्षों बाद वास्तविक रोगी के विशेषताओं को पहचानने के कारण बन सकते हैं – और 2026 के रोगी को ऐसे व्यवहार कर सकते हैं जैसे वह अभी भी 2012 में है (या वह वर्ष जब उनका अनामित रोगी डेटा पहली बार डेटासेट में शामिल किया गया था)।

उदाहरण के तौर पर, इसका मतलब यह हो सकता है कि एक रोगी, जिसे 20 वर्ष पहले कैंसर उपचार के दौरान दर्ज किया गया था, और जो बाद में दीर्घकालिक रिमिशन में चला गया, अब एआई सिस्टम द्वारा उनके पुराने, कैंसर‑ग्रस्त स्वरूप के संदर्भ में उपचारित किया जा सकता है – जिससे पुनरावृत्ति के गलत निदान की संभावना भी तर्कसंगत रूप से बढ़ सकती है।

इसके विपरीत, यदि 2012 संस्करण में उस रोगी के डेटा ने नियमित जांचों में पूर्ण स्वास्थ्य दर्शाया हो, तो यह आशावादी दृष्टिकोण संभावित रूप से पुराने, वर्तमान संस्करण रोगी पर लागू हो सकता है, जिससे नई स्थितियों या समस्याओं के पता चलने को छुपाया जा सकता है, जिन्हें उपचार की आवश्यकता हो सकती है।

नए पेपर से, यह दर्शाता है कि स्मरण पक्षपात कैसे लौटने वाले रोगी को प्रभावित कर सकता है। ऐलिस के पहले स्वस्थ ईसीजी पर प्रशिक्षित मॉडल उसके बाद के हार्ट अटैक की संभावना केवल 15% देता है, जबकि वह मॉडल जिसने उसके ऐतिहासिक रिकॉर्ड कभी नहीं देखे, 73% देता है। स्रोत

‘डेटा प्रवास’ को रोकना

विभिन्न राष्ट्रीय और क्षेत्रीय निर्देश जो सुझाव देते हैं कि ऐसे उद्देश्यों के लिए रोगी डेटा आदर्श रूप से उस देश से लिया जाना चाहिए जहाँ से निकाली गई प्रणालियों का उपयोग किया जाना है, इस परिदृश्य को अधिक संभावित बनाते हैं, जिससे डेटासेट में रोगी पूल ‘स्थानीय’ हो जाता है, और इस प्रकार इस प्रकार की अनदेखी अनामिकरण घटना की संभावना उल्लेखनीय रूप से बढ़ जाती है।

अनुमानतः, उपलब्ध डेटा को केवल राष्ट्रीय डेटासेट तक सीमित करने से स्मरण की संभावना बढ़ जाती है – यह संभावना कि मॉडल प्रशिक्षण के दौरान एक ही डेटा को कई बार देखेगा और इन अत्यधिक सीखे गए पैटर्न पर ‘स्थिर’ हो जाएगा। इसके विपरीत, जितना बड़ा और विविध डेटासेट होगा, उतनी ही अधिक संभावना होगी कि वह प्रशिक्षण के बाद अप्रयुक्त डेटा पर सामान्यीकरण करेगा, न कि विशिष्ट डेटा‑पॉइंट या कॉन्फ़िगरेशन को स्मरण करेगा।

हालाँकि, ‘विदेशी’ चिकित्सा डेटा जोड़ने से राष्ट्रीय स्वास्थ्य प्रवृत्तियों और विशिष्टताओं के प्रमाण प्रस्तुत होने का जोखिम होता है, जो उस देश में लागू नहीं होते जहाँ प्रशिक्षित मॉडल को लागू किया जा रहा है; इस संदर्भ में, जैसा कि नया पेपर स्वीकार करता है, कुछ हद तक स्मरण उपयुक्त और उपयोगी है, क्योंकि यह मॉडल को किसी विशेष जनसंख्या की सबसे संभावित सामान्य चिकित्सा विशेषताओं के भीतर कार्य करने में मदद करता है।

पेपर कहता है*:

‘[When] मॉडल को भविष्य में लागू किया जाता है, स्मरण एक विशिष्ट और कम समझी गई जोखिम पैदा करता है। क्योंकि रोगी के रिकॉर्ड समय के साथ अत्यधिक स्व-समान होते हैं, भविष्य का रिकॉर्ड स्मरण किए गए ऐतिहासिक रिकॉर्ड के लिए एक आंशिक संकेत के रूप में कार्य कर सकता है, जिससे मॉडल की भविष्यवाणियां रोगी की पूर्व स्वास्थ्य स्थिति की ओर स्थानांतरित हो जाती हैं।

यह कोई काल्पनिक परिदृश्य नहीं है। मेडिकल एआई मॉडल नियमित रूप से उसी जनसंख्या पर लागू किए जाते हैं जिससे उनका प्रशिक्षण डेटा प्राप्त हुआ था।

‘उदाहरण के लिए, जर्मनी के राष्ट्रीय स्तन कैंसर स्क्रीनिंग कार्यक्रम उपयोग करता है 1.2 मिलियन मैमोग्राम पर प्रशिक्षित एआई मॉडल, जो उसी स्क्रीनिंग जनसंख्या से प्राप्त हैं जिसे अब यह सेवा देता है।

‘समान कार्यान्वयन अन्य स्थानों पर चल रहा है, जिसमें राष्ट्रीय स्तन कैंसर स्क्रीनिंग कार्यक्रम यूनाइटेड किंगडम में और स्वीडन शामिल हैं।

‘नियामक मार्गदर्शन सक्रिय रूप से इसे प्रोत्साहित करता है, जिसमें EU AI Act प्रशिक्षण डेटा को इच्छित उपयोग के भौगोलिक और संदर्भात्मक सेटिंग को प्रतिबिंबित करने की आवश्यकता रखता है (धारा 10(4)), और समान अंतर्राष्ट्रीय दिशानिर्देश मेडिकल एआई विकास के लिए यह कहता है कि इच्छित रोगी जनसंख्या को मॉडल के प्रशिक्षण डेटासेट में पर्याप्त रूप से प्रतिनिधित्व किया जाना चाहिए।’

स्थायी ऐतिहासिक आपदा..?

हालाँकि पेपर इस मुद्दे को नहीं छूता, यह सांख्यिकीय रूप से तर्कसंगत लगता है कि वे रोगी जो अपने जीवन भर नियमित रूप से चिकित्सा जांच नहीं करवाते (या नहीं करवाते थे), और जिनके अनामित रिकॉर्ड समय‑समय पर एआई डेटा प्रवाह में प्रवेश करते हैं, संभवतः अनामित रोगी डेटा में लगभग केवल उन समयों पर दिखाई देते हैं जब उन्हें उपचार की आवश्यकता होती है – जिससे अब उसी रोगी पर एक लंबे समय से ठीक हो चुके रोग को ‘प्रोजेक्ट’ करने की संभावना बढ़ती है, क्योंकि रिकॉर्ड में ‘स्वस्थ’ का कोई संतुलन नहीं होता।

यह इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड में पिछला शोध द्वारा सिद्ध किया गया है, जिसमें ‘informed presence bias’ की जांच की गई, और पाया गया कि चिकित्सा डेटा सेट उन अवधियों को असमान रूप से दर्शाते हैं जब रोगी बीमार होते हैं और स्वास्थ्य सेवा के साथ संपर्क में होते हैं।

एक अध्ययन ने पाया कि गंभीर रूप से बीमार रोगियों के पास प्रयोगशाला डेटा वाले दिनों की संख्या स्वस्थतम रोगियों की तुलना में 5.05 गुना अधिक थी और दवा आदेशों वाले दिनों की संख्या 6.85 गुना अधिक थी।

2022 में, लगभग 76 % अमेरिकी वयस्कों ने रिपोर्ट किया कि उन्होंने पिछले वर्ष के भीतर एक नियमित जांच करवाई, जिसे CDC ने एक सामान्य शारीरिक परीक्षण के रूप में परिभाषित किया है, न कि किसी विशिष्ट स्थिति के उपचार के रूप में; और यूरोप में, 2023 के एक बहु‑देशीय सर्वेक्षण ने पाया कि 58 % ने कम से कम कुछ निवारक जांचें करवाईं; लेकिन केवल 15 % ने सभी निवारक अपॉइंटमेंट्स में भाग लिया जो उनके लिए प्रासंगिक माने गए।

प्रभाव की सीमा

अध्ययन ने प्रभाव का परीक्षण चार बड़े चिकित्सा डेटासेट्स पर किया, जिसमें ECG रिकॉर्डिंग, छाती X‑ray और इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड शामिल थे; विशेष रूप से, MIMIC-CXR छाती X‑ray डेटाबेस और MIMIC-IV-ED आपातकालीन देखभाल रिकॉर्ड, साथ ही MIMIC-ECG और बहुत बड़े HEEDB ECG संग्रह। डेटासेट्स का आकार दसियों हजार रोगियों से लेकर 1.8 मिलियन से अधिक लोगों तक था।

लेखकों ने नोट किया कि गणना किया गया प्रभाव काफी भिन्न होता है, कुछ मामलों में भविष्यवाणी की संभावितता में 70 प्रतिशत अंक से अधिक परिवर्तन होते हैं:

ऐतिहासिक रोगी डेटा कैसे बाद की भविष्यवाणियों को बदलता है, यह दर्शाते हुए परिणाम। शीर्ष पैनल चार डेटासेट्स में इन परिवर्तनों की आवृत्ति और आकार की तुलना करते हैं; निचले पैनल दिखाते हैं कि रोगी के अंतिम प्रशिक्षण रिकॉर्ड के बाद के समय के साथ प्रभाव कैसे बदलता है। महत्वपूर्ण प्रभाव समय के साथ कम सामान्य हो जाते हैं, लेकिन दशकों बाद भी पता चल सकते हैं।

एक नियंत्रण के रूप में, शोधकर्ताओं ने मॉडल को यादृच्छिक रूप से समूहों में विभाजित किया और तुलना दोहराई, हालांकि इससे भविष्य की भविष्यवाणियों में कोई महत्वपूर्ण परिवर्तन नहीं हुआ।

पेपर में उल्लेख किया गया है कि यह प्रभाव दशकों तक भी बना रह सकता है। जबकि रिकॉर्ड के बीच अंतराल बढ़ने पर यह आमतौर पर कमजोर और कम सामान्य हो जाता है, HEEDB डेटासेट, जिसमें 1980 के दशक से 2025 तक एकत्रित ECG शामिल हैं, ने रोगी के सबसे हालिया प्रशिक्षण रिकॉर्ड के 25 से अधिक वर्षों बाद भविष्यवाणियों में महत्वपूर्ण परिवर्तन दिखाए।

निदानात्मक हानि

नए पेपर – जिसका शीर्षक मेडिकल AI में स्मरण पक्षपात है – के शोधकर्ताओं ने अगला सिमुलेशन किया कि स्मरण कैसे निदान सटीकता को प्रभावित कर सकता है जब रोगी बाद में अपने पहले के रिकॉर्ड पर प्रशिक्षित मॉडल से मिलते हैं।

भविष्य के मामलों को इस आधार पर विभाजित किया गया कि रोगी ने नई स्थिति विकसित की है; वह उनके ऐतिहासिक प्रशिक्षण डेटा में अनुपस्थित है; या वह मूल रूप से वही स्वास्थ्य स्थिति के साथ वापस आया है।

नई स्थितियों के लिए, प्रभाव लगातार नकारात्मक रहा, क्योंकि उन मॉडलों ने जो पहले रोगी के ऐतिहासिक रिकॉर्ड देख चुके थे, चार डेटासेट्स में प्रतिनिधित्व किए गए विभिन्न निदानों में कम संवेदनशीलता दिखाई। इसमें इन्फार्क्ट और अन्य ECG असामान्यताएँ; फेफड़े की स्थितियाँ; और व्यापक गंभीर परिणाम शामिल थे।

व्यावहारिक रूप से, जब रोगी का स्वास्थ्य बदल गया था तो मॉडल अधिक झूठी नकारात्मक भविष्यवाणियाँ उत्पन्न करते थे; लेकिन जब रोगी का स्वास्थ्य बदल नहीं था, तो उनके पहले के रिकॉर्ड की स्मृति मॉडल को सही निदान देने की संभावना बढ़ा देती थी। दोनों संवेदनशीलता और विशिष्टता बढ़ी क्योंकि रोगी की वर्तमान स्थिति पहले से मौजूद प्रशिक्षण डेटा की स्थिति से मिलती-जुलती थी।

लेखकों ने नोट किया कि यह ऐसे सिस्टम को सटीक रूप से आकलन करना कठिन बना सकता है: यदि अधिकांश लौटने वाले रोगियों की स्थितियाँ समान रहती हैं, तो मॉडल उन पर बेहतर प्रदर्शन करेगा, जिससे नई स्थितियों वाले रोगियों के प्रति उसकी कम संवेदनशीलता छिपी रह सकती है।

उपाय

एक संभावित सुरक्षा उपाय के रूप में, शोधकर्ताओं ने प्रशिक्षण के दौरान विभेदक गोपनीयता (जो किसी भी व्यक्तिगत प्रशिक्षण उदाहरण के बारे में मॉडल द्वारा रखी जा सकने वाली जानकारी को सीमित करती है) का परीक्षण किया।

हालांकि व्यक्तिगत रिकॉर्ड की सुरक्षा ने स्मरण प्रभाव को कम किया, लेकिन सबसे मजबूत सेटिंग पर भी इसे पूरी तरह समाप्त नहीं किया। रोगी स्तर पर सुरक्षा लागू करना, अर्थात एक ही व्यक्ति से संबंधित सभी रिकॉर्ड को कवर करना, बहुत अधिक प्रभावी था और प्रभाव को लगभग समाप्त कर दिया।

हालांकि यह ध्यान देना चाहिए कि यदि कोई डेटासेट अपरिवर्तनीय रूप से अनामित किया गया है, तो रोगी के डेटा को इस तरह से अलग नहीं किया जा सकता जिससे ऐसे तरीकों को लागू किया जा सके; और, शोधकर्ता नोट करते हैं, यदि डेटासेट को विभेदक गोपनीयता के साथ प्रशिक्षित नहीं किया गया है, तो सदस्यता अनुमान हमले एक जोखिम बन जाते हैं; यदि किया गया है, तो प्रशिक्षण के लिए आवश्यक संसाधन उल्लेखनीय रूप से बढ़ जाते हैं।

निष्कर्ष

लेखक यह निष्कर्ष निकालते हैं कि जबकि वर्तमान में ये चिंताजनक घटनाएँ अपेक्षाकृत कम दर पर होती हैं, भविष्य में यह बदल सकता है*:

‘भविष्य में याददाश्त पक्षपात के कारण छूटे हुए निदानों की संख्या बढ़ने की संभावना है, हालांकि हम इसे सीधे परीक्षण नहीं करते। पूर्व शोध ने दिखाया है कि मॉडल की क्षमता बढ़ने पर मॉडल द्वारा याद रखे जाने वाले प्रशिक्षण डेटा का अनुपात बढ़ता है [6, 7, 9, 10, 40].’

‘यह चिंताजनक है, क्योंकि वर्तमान AI मॉडल विकास “स्केलिंग कानूनों” द्वारा निर्देशित है [41], जो बेहतर प्रदर्शन की खोज में मॉडल और डेटासेट दोनों के आकार में तेज़ वृद्धि को प्रेरित करता है।’

‘जैसे-जैसे बड़े AI मॉडल अधिक बड़े रोगी जनसंख्या से प्राप्त ऐतिहासिक डेटा पर प्रशिक्षित होते हैं, याददाश्त पक्षपात से प्रभावित व्यक्तियों की कुल संख्या में अत्यधिक वृद्धि होने की संभावना है, जिससे हम यहाँ पहचानते जोखिम और बढ़ते हैं।’

* मेरी लेखकों के इनलाइन उद्धरणों को हाइपरलिंक में बदलने की प्रक्रिया, जहाँ सटीक प्रतिलिपि संभव नहीं या उपयोगी नहीं है, वहाँ कुछ व्याख्या के साथ।

पहली बार प्रकाशित शुक्रवार, 18 सितंबर, 2026