यदि हेल्थकेयर एआई विफल हो जाए तो कौन जिम्मेदार है?

जब स्वास्थ्य देखभाल में एआई की गलतियाँ दुर्घटनाओं, चोटों या बदतर का कारण बनती हैं तो कौन जिम्मेदार है? स्थिति के आधार पर, यह एआई डेवलपर, स्वास्थ्य देखभाल पेशेवर या यहां तक ​​कि रोगी भी हो सकता है। उत्तरदायित्व एक जटिल और गंभीर चिंता का विषय बन गया है क्योंकि एआई स्वास्थ्य देखभाल में अधिक आम हो गया है। एआई में गड़बड़ी के लिए कौन जिम्मेदार है और दुर्घटनाओं को कैसे रोका जा सकता है?

हेल्थकेयर में एआई गलतियों का जोखिम

स्वास्थ्य देखभाल में एआई के कई आश्चर्यजनक लाभ हैं, बढ़ी हुई परिशुद्धता और सटीकता से लेकर त्वरित पुनर्प्राप्ति समय तक। एआई डॉक्टरों को निदान करने, सर्जरी करने और अपने मरीजों को सर्वोत्तम संभव देखभाल प्रदान करने में मदद कर रहा है। दुर्भाग्य से, AI ग़लतियाँ हमेशा एक संभावना रहती हैं।

स्वास्थ्य सेवा में एआई-गलत परिदृश्यों की एक विस्तृत श्रृंखला है। डॉक्टर और मरीज एआई का उपयोग पूरी तरह से एक सॉफ्टवेयर-आधारित निर्णय लेने वाले उपकरण के रूप में कर सकते हैं या एआई रोबोट जैसे भौतिक उपकरणों का मस्तिष्क हो सकता है। दोनों श्रेणियों के अपने जोखिम हैं।

उदाहरण के लिए, यदि किसी प्रक्रिया के दौरान एआई-संचालित सर्जरी रोबोट खराब हो जाए तो क्या होगा? इससे गंभीर चोट लग सकती है या संभवतः रोगी की मृत्यु भी हो सकती है। इसी तरह, क्या होगा यदि एक दवा निदान एल्गोरिदम किसी मरीज के लिए गलत दवा की सिफारिश करता है और उन्हें नकारात्मक दुष्प्रभाव भुगतना पड़ता है? भले ही दवा से मरीज को कोई नुकसान न हो, गलत निदान से उचित उपचार में देरी हो सकती है।

इस तरह की एआई गलतियों की जड़ में एआई मॉडल की प्रकृति ही है। अधिकांश एआई आज "ब्लैक बॉक्स" तर्क का उपयोग करते हैं, जिसका अर्थ है कि कोई भी यह नहीं देख सकता कि एल्गोरिदम कैसे निर्णय लेता है। ब्लैक बॉक्स AI में पारदर्शिता की कमी है, तर्क पूर्वाग्रह जैसे जोखिमों को जन्म दे रहा है, भेदभाव और गलत परिणाम। दुर्भाग्य से, इन जोखिम कारकों का पता लगाना तब तक मुश्किल है जब तक कि वे पहले से ही समस्याएं पैदा न कर दें।

एआई गलत हो गया: किसे दोष देना है?

जब एआई-संचालित चिकित्सा प्रक्रिया में कोई दुर्घटना होती है तो क्या होता है? एआई के गलत हो जाने की संभावना कुछ हद तक हमेशा बनी रहेगी। अगर किसी को चोट लगती है या उसकी हालत बिगड़ जाती है, तो क्या एआई की गलती है? आवश्यक रूप से नहीं।

जब AI डेवलपर गलती पर हो

यह याद रखना महत्वपूर्ण है कि AI एक कंप्यूटर प्रोग्राम से अधिक कुछ नहीं है। यह एक अत्यधिक उन्नत कंप्यूटर प्रोग्राम है, लेकिन यह अभी भी किसी अन्य सॉफ़्टवेयर की तरह ही कोड है। चूँकि AI मनुष्य की तरह संवेदनशील या स्वतंत्र नहीं है, इसलिए इसे दुर्घटनाओं के लिए उत्तरदायी नहीं ठहराया जा सकता है। कोई एआई अदालत नहीं जा सकता या जेल की सज़ा नहीं पा सकता।

स्वास्थ्य देखभाल में एआई गलतियों की जिम्मेदारी संभवतः एआई डेवलपर या प्रक्रिया की निगरानी करने वाले चिकित्सा पेशेवर की होगी। किसी दुर्घटना के लिए कौन सा पक्ष दोषी है, यह अलग-अलग मामलों में अलग-अलग हो सकता है।

उदाहरण के लिए, यदि डेटा पूर्वाग्रह के कारण AI अनुचित, गलत या भेदभावपूर्ण निर्णय या व्यवहार देता है तो डेवलपर संभवतः दोषी होगा। डेवलपर यह सुनिश्चित करने के लिए जिम्मेदार है कि एआई वादे के अनुसार कार्य करता है और सभी रोगियों को सर्वोत्तम संभव उपचार देता है। यदि डेवलपर की ओर से लापरवाही, निरीक्षण या त्रुटियों के कारण एआई में खराबी आती है, तो डॉक्टर उत्तरदायी नहीं होगा।

जब डॉक्टर या फिजिशियन गलती पर हो

हालाँकि, यह अभी भी संभव है कि एआई में गड़बड़ी के लिए डॉक्टर या मरीज़ भी जिम्मेदार हो सकते हैं। उदाहरण के लिए, डेवलपर सब कुछ ठीक कर सकता है, डॉक्टर को संपूर्ण निर्देश दे सकता है और सभी संभावित जोखिमों की रूपरेखा तैयार कर सकता है। जब प्रक्रिया का समय आता है, तो डॉक्टर विचलित, थका हुआ, भुलक्कड़ या बस लापरवाह हो सकता है।

सर्वेक्षण दिखाते हैं 40% से अधिक चिकित्सक काम के दौरान थकावट का अनुभव करें, जिससे असावधानी, धीमी प्रतिक्रिया और खराब याददाश्त हो सकती है। यदि चिकित्सक उनकी शारीरिक और मनोवैज्ञानिक आवश्यकताओं को संबोधित नहीं करता है और उनकी स्थिति दुर्घटना का कारण बनती है, तो यह चिकित्सक की गलती है।

परिस्थितियों के आधार पर, स्वास्थ्य देखभाल में एआई गलतियों के लिए अंततः डॉक्टर के नियोक्ता को दोषी ठहराया जा सकता है। उदाहरण के लिए, क्या होगा यदि किसी अस्पताल का प्रबंधक किसी डॉक्टर को ओवरटाइम काम करने के लिए सहमत नहीं होने पर पदोन्नति देने से इनकार करने की धमकी दे? यह उन्हें खुद से अधिक काम करने के लिए मजबूर करता है, जिससे वे थक जाते हैं। इस तरह की अनोखी स्थिति में डॉक्टर के नियोक्ता को संभवतः जिम्मेदार ठहराया जाएगा। 

जब मरीज गलती पर हो

हालाँकि, यदि एआई डेवलपर और डॉक्टर दोनों सब कुछ ठीक करते हैं तो क्या होगा? जब मरीज स्वतंत्र रूप से एआई उपकरण का उपयोग करता है, तो दुर्घटना उनकी गलती हो सकती है। AI का गलत होना हमेशा किसी तकनीकी त्रुटि के कारण नहीं होता है। यह ख़राब या अनुचित उपयोग का परिणाम भी हो सकता है।

उदाहरण के लिए, हो सकता है कि कोई डॉक्टर अपने मरीज को एआई टूल के बारे में पूरी तरह से समझाता हो, लेकिन वे सुरक्षा निर्देशों को नजरअंदाज कर देते हैं या गलत डेटा इनपुट कर देते हैं। यदि इस लापरवाही या अनुचित उपयोग के परिणामस्वरूप दुर्घटना होती है, तो यह रोगी की गलती है। इस मामले में, वे एआई का सही ढंग से उपयोग करने या सटीक डेटा प्रदान करने के लिए जिम्मेदार थे और उन्होंने ऐसा करने में उपेक्षा की।

यहां तक ​​कि जब मरीज़ों को उनकी चिकित्सीय ज़रूरतों के बारे में पता होता है, तब भी वे कई कारणों से डॉक्टर के निर्देशों का पालन नहीं कर पाते हैं। उदाहरण के लिए, 24% अमेरिकी प्रिस्क्रिप्शन दवाएं ले रहे हैं रिपोर्ट करें कि उन्हें अपनी दवाओं का भुगतान करने में कठिनाई हो रही है। कोई मरीज दवा लेना छोड़ सकता है या दवा लेने के बारे में एआई से झूठ बोल सकता है क्योंकि वह अपने नुस्खे के लिए भुगतान करने में असमर्थ होने के कारण शर्मिंदा है।

यदि रोगी का अनुचित उपयोग उनके डॉक्टर या एआई डेवलपर से मार्गदर्शन की कमी के कारण हुआ, तो दोष कहीं और हो सकता है। यह अंततः इस पर निर्भर करता है कि मूल दुर्घटना या त्रुटि कहां हुई।

विनियम और संभावित समाधान

क्या स्वास्थ्य देखभाल में एआई गलतियों को रोकने का कोई तरीका है? हालाँकि कोई भी चिकित्सा प्रक्रिया पूरी तरह से जोखिम मुक्त नहीं है, प्रतिकूल परिणामों की संभावना को कम करने के तरीके हैं।

स्वास्थ्य देखभाल में एआई के उपयोग पर नियम मरीजों को उच्च जोखिम वाले एआई-संचालित उपकरणों और प्रक्रियाओं से बचा सकते हैं। एफडीए के पास पहले से ही है एआई चिकित्सा उपकरणों के लिए नियामक ढांचा, परीक्षण और सुरक्षा आवश्यकताओं और समीक्षा प्रक्रिया की रूपरेखा। अग्रणी चिकित्सा निरीक्षण संगठन भी आने वाले वर्षों में एआई एल्गोरिदम के साथ रोगी डेटा के उपयोग को विनियमित करने के लिए कदम उठा सकते हैं।

सख्त, उचित और संपूर्ण नियमों के अलावा, डेवलपर्स को एआई-गलत परिदृश्यों को रोकने के लिए कदम उठाने चाहिए। व्याख्या योग्य एआई - जिसे व्हाइट बॉक्स एआई के रूप में भी जाना जाता है - पारदर्शिता और डेटा पूर्वाग्रह संबंधी चिंताओं को हल कर सकता है। व्याख्या योग्य एआई मॉडल उभरते हुए एल्गोरिदम हैं जो डेवलपर्स और उपयोगकर्ताओं को मॉडल के तर्क तक पहुंचने की अनुमति देते हैं।

जब एआई डेवलपर्स, डॉक्टर और मरीज देख सकते हैं कि एआई अपने निष्कर्षों पर कैसे पहुंच रहा है, तो डेटा पूर्वाग्रह की पहचान करना बहुत आसान हो जाता है। डॉक्टर भी तथ्यात्मक अशुद्धियों या गायब जानकारी को अधिक तेज़ी से पकड़ सकते हैं। ब्लैक बॉक्स एआई के बजाय समझाने योग्य एआई का उपयोग करके, डेवलपर्स और स्वास्थ्य सेवा प्रदाता मेडिकल एआई की विश्वसनीयता और प्रभावशीलता को बढ़ा सकते हैं।

सुरक्षित और प्रभावी हेल्थकेयर एआई

कृत्रिम बुद्धिमत्ता चिकित्सा क्षेत्र में अद्भुत काम कर सकती है, संभवतः जीवन भी बचा सकती है। एआई से जुड़ी कुछ अनिश्चितता हमेशा रहेगी, लेकिन डेवलपर्स और स्वास्थ्य सेवा संगठन उन जोखिमों को कम करने के लिए कार्रवाई कर सकते हैं। जब स्वास्थ्य देखभाल में एआई गलतियाँ होती हैं, तो कानूनी परामर्शदाता दुर्घटना की मूल त्रुटि के आधार पर दायित्व का निर्धारण करेंगे।