स्वास्थ्य सेवा में कृत्रिम बुद्धिमत्ता की जिम्मेदारी की समस्या

स्वास्थ्य सेवा में, कृत्रिम बुद्धिमत्ता अब नैदानिक निर्णयों से लेकर मानव संसाधन और वित्त तक सब कुछ में निहित है। फिर भी, कई संगठनों में अभी भी जोखिम प्रबंधन प्रतिनिधित्व की कमी है जो यह सुनिश्चित करे कि कृत्रिम बुद्धिमत्ता उपकरण नुकसान का कारण न बनें। संरचित पर्यवेक्षण की अनुपस्थिति का अर्थ है कि कृत्रिम बुद्धिमत्ता से संबंधित निर्णय स्पष्ट जिम्मेदारी के बिना लिए जाते हैं, जिससे संगठन नैतिक और नियामक उल्लंघनों के जोखिम के लिए खुले हो जाते हैं।

जब कृत्रिम बुद्धिमत्ता द्वारा की गई निर्णयों और कार्यों के लिए कोई जिम्मेदार नहीं होता है, तो अंधे धब्बे तेजी से बढ़ जाते हैं। कृत्रिम बुद्धिमत्ता प्रणाली द्वारा उच्च जोखिम वाले निर्णय लेने के परिणाम कई और दूरगामी होते हैं, खासकर जब लोगों की जान दांव पर होती है।

आज के कृत्रिम बुद्धिमत्ता शासन में अंतराल पिछले बिंदुओं की तरह दिखते हैं जहां प्रौद्योगिकी की वक्र उद्यम की तुलना में तेजी से बढ़ रही है। हमने इसे क्लाउड कंप्यूटिंग के साथ देखा है: टीमें सास, आईएएएस, और “शैडो आईटी” को अपनाती हैं ताकि वे तेजी से आगे बढ़ सकें, जबकि शासन मूल बातों पर पिछड़ जाता है – जैसे कि डेटा वर्गीकरण, पहचान और पहुंच प्रबंधन, विक्रेता पर्यवेक्षण, लॉगिंग/निगरानी, और साझा जिम्मेदारी स्पष्टता – इसलिए जिम्मेदारी आईटी, सुरक्षा, खरीद, और व्यवसाय में बिखर जाती है। हमने इसे आईटी और मोबाइल/बायओडी के तेजी से उपभोक्ता करण में भी देखा है, जहां कर्मचारी नियंत्रित वातावरण में नए उपकरणों और ऐप्स को लाते हैं इससे पहले कि संगठनों ने एन्क्रिप्शन, एंडपॉइंट नियंत्रण, ऐप जांच, और ई-डिस्कवरी के लिए परिपक्व नीतियां बनाई हों। प्रत्येक मामले में, अपनाया जाना तर्कसंगत और अक्सर मूल्य-सृजन था – लेकिन स्पष्ट स्वामित्व, मानक नियंत्रण, और जीवन चक्र पर्यवेक्षण की अनुपस्थिति ने पूर्वानुमानित विफलताओं का कारण बना। कृत्रिम बुद्धिमत्ता के लिए सबक सीधा है: शासन नवाचार पर एक बाद के विचार के रूप में नहीं हो सकता; यह अन्य महत्वपूर्ण बुनियादी ढांचे की तरह होना चाहिए – जानबूझकर, परिभाषित निर्णय अधिकार, निरंतर निगरानी, और लागू करने योग्य गार्डरेल के साथ।

विकृत जिम्मेदारी की समस्या

कृत्रिम बुद्धिमत्ता की तेजी से तैनाती ने शासन और जिम्मेदारी मानकों के विकास को पीछे छोड़ दिया है, जिससे एक “विकृत जिम्मेदारी” अंतराल बन गया है जहां कृत्रिम बुद्धिमत्ता विफल होने पर कोई एकल इकाई जिम्मेदारी स्वीकार नहीं करती है।

दायित्व पहले से ही स्वास्थ्य सेवा में एक सर्वव्यापी मुद्दा है, और कृत्रिम बुद्धिमत्ता ने केवल नए चुनौतियां पेश की हैं। कृत्रिम बुद्धिमत्ता उपकरणों की कोई मान्यता प्राप्त कानूनी पहचान नहीं है, जिसका अर्थ है कि उन्हें मुकदमा नहीं चलाया जा सकता है या उनके खिलाफ बीमा नहीं किया जा सकता है, न ही वे पीड़ितों को कानूनी मुआवजा दे सकते हैं। कानूनी कार्यवाही में, दोष को एक मानव अभिनेता या निगम को स्थानांतरित किया जाना चाहिए, एक उपकरण को नहीं।

द लैंसेट, एक प्रमुख चिकित्सा अनुसंधान पत्रिका में, हाल ही में तर्क दिया गया कि “संस्थागत दायित्व संरचनाओं को चिकित्सकों से [कृत्रिम बुद्धिमत्ता] उपकरणों को डिज़ाइन और तैनात करने वाले संगठनों को जिम्मेदारी स्थानांतरित करनी चाहिए।” यह स्पष्ट है कि दायित्व के आसपास ऐसे प्रश्न भविष्य में बने रहेंगे।

यूरोपीय संघ क्षेत्रीय स्तर पर इन मुद्दों को संबोधित करने का प्रयास कर रहा है। ब्लॉक ने दो प्रमुख विधायी साधन पेश किए हैं: कृत्रिम बुद्धिमत्ता अधिनियम, जो जोखिम की डिग्री के अनुसार कृत्रिम बुद्धिमत्ता के उपयोग को विनियमित करता है और मानव पर्यवेक्षण के संरक्षण पर जोर देता है; और कृत्रिम बुद्धिमत्ता दायित्व निर्देश, जो कृत्रिम बुद्धिमत्ता द्वारा किए गए नुकसान के लिए मुआवजा मांगने के लिए लोगों के लिए नए नियम स्थापित करता है।

लेकिन नियमन अकेले समस्या का समाधान नहीं करेगा। अस्पताल विक्रेताओं, चिकित्सकों, प्रशासकों और आईटी टीमों के जटिल जाल में काम करते हैं, इसलिए जब एक कृत्रिम बुद्धिमत्ता प्रणाली हानिकारक या पूर्वाग्रहपूर्ण आउटपुट उत्पन्न करती है, तो जिम्मेदारी हाथ से हाथ में पारित की जाती है: विक्रेता अनुचित उपयोग की ओर इशारा कर सकता है, चिकित्सक डिजाइन में खामी का दावा कर सकते हैं, और नेतृत्व नियामक अस्पष्टता को दोष दे सकता है।

यह सभी जिम्मेदारी को विकृत करता है, जिससे अस्पताल बड़े कानूनी लड़ाइयों के लिए कमजोर हो जाते हैं।

शासन में अंतराल को बंद करने के व्यावहारिक कदम

सुखद समाचार यह है कि व्यापक नियमन के बिना, स्वास्थ्य सेवा संगठन कृत्रिम बुद्धिमत्ता शासन में अंतराल को बंद करने के लिए सक्रिय रूप से काम कर सकते हैं। शुरू करने के लिए, नेता विश्व स्वास्थ्य संगठन की रिपोर्ट, “स्वास्थ्य के लिए कृत्रिम बुद्धिमत्ता की नैतिकता और शासन,” के साथ शुरू कर सकते हैं, जो कृत्रिम बुद्धिमत्ता के वादे को अधिकतम करने और जोखिम को कम करने का प्रयास करती है।

इस रिपोर्ट में रेखांकित कदम स्वायत्तता की रक्षा करने, मानव कल्याण और सार्वजनिक सुरक्षा को बढ़ावा देने, पारदर्शिता और व्याख्या सुनिश्चित करने, और जिम्मेदारी और जिम्मेदारी को बढ़ावा देने का लक्ष्य रखते हैं। शासन में अंतराल को संबोधित करने के लिए, आइए आखिरी दो बिंदुओं पर ध्यान केंद्रित करें।

एक एकीकृत दृष्टिकोण को कृत्रिम बुद्धिमत्ता शासन में लागू करें, यह सुनिश्चित करना कि यह शीर्ष से निर्देशित है – बोर्ड या विशेषज्ञों द्वारा। वर्तमान में, कई संगठन विभागों को जहां भी वे उपयुक्त समझते हैं वहां कृत्रिम बुद्धिमत्ता का उपयोग करने देते हैं, जिससे नेताओं को यह समझने में असमर्थता होती है कि संगठन इन उपकरणों का उपयोग कहां और क्यों कर रहा है। दृश्यता महत्वपूर्ण है, इसलिए सुनिश्चित करें कि आपके पास यह जानने के लिए एक सूची है कि कौन से उपकरण कहां और किस उद्देश्य से उपयोग किए जा रहे हैं।

यह भी महत्वपूर्ण है कि कृत्रिम बुद्धिमत्ता जीवन चक्र में स्पष्ट जिम्मेदारी रेखाएं स्थापित की जाएं। इसका अर्थ है कि प्रोक्योरमेंट और सत्यापन से लेकर तैनाती निगरानी और घटना प्रतिक्रिया तक हर चीज के लिए एक व्यक्ति या विभाग जिम्मेदार है। अस्पतालों को विक्रेताओं को परिभाषित पारदर्शिता और लेखा परीक्षा मानकों को पूरा करने की आवश्यकता है, और सुनिश्चित करें कि आंतरिक टीमें कृत्रिम बुद्धिमत्ता प्रणालियों की क्षमताओं और सीमाओं को समझने के लिए प्रशिक्षित हैं।

अंत में, शासन को संचालन में लाया जाना चाहिए, न कि केवल दस्तावेज़ में। नीतियों को कार्य प्रवाह में एकीकृत करें – कृत्रिम बुद्धिमत्ता जोखिम मूल्यांकन को प्रोक्योरमेंट प्रक्रियाओं में एकीकृत करें, कृत्रिम बुद्धिमत्ता प्रदर्शन की नियमित ऑडिट करें, और फ्रंटलाइन कर्मचारियों के लिए चिंताओं की रिपोर्ट करने के लिए तंत्र बनाएं।

व्यवहार में, शासन में अंतराल को बंद करना नए सिद्धांतों को पेश करने के बारे में कम है और अनुशासन लागू करने के बारे में अधिक है: संगठन में कृत्रिम बुद्धिमत्ता के प्रवेश को मानकीकृत करें, प्रत्येक चरण में इसका स्वामित्व परिभाषित करें, और सुनिश्चित करें कि इसका प्रदर्शन निरंतर निगरानी के अधीन है। उस अनुशासन के बिना, कृत्रिम बुद्धिमत्ता उपकरण सुरक्षित रखने के लिए डिज़ाइन की गई संरचनाओं से आगे निकलते रहेंगे।

छिपा जोखिम: डेटा गुणवत्ता

यहां तक कि जब जिम्मेदारी संरचनाएं स्थापित होती हैं, तो एक और जोखिम अक्सर कम आंका जाता है: कृत्रिम बुद्धिमत्ता प्रणालियों को खिलाने वाले डेटा की अखंडता और वे समय के साथ कैसे विकसित होते हैं। कोई भी कृत्रिम बुद्धिमत्ता प्रणाली केवल उतनी ही विश्वसनीय होती है जितनी डेटा पर इसका प्रशिक्षण और निरंतर शिक्षा होती है, और अस्पताल डेटा वातावरण प्रसिद्ध रूप से खंडित, असंगत और अंतराल से ग्रस्त होते हैं।

इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड, इमेजिंग सिस्टम, और प्रशासनिक प्लेटफ़ॉर्म अक्सर सिलोस में काम करते हैं, जो सीधे कृत्रिम बुद्धिमत्ता आउटपुट को प्रभावित कर सकते हैं। एक मॉडल जो अधूरे या पूर्वाग्रहपूर्ण डेटासेट पर प्रशिक्षित होता है, वह दोषपूर्ण सिफारिशें प्रदान कर सकता है जो तब तक अनदेखे रह सकते हैं जब तक कि नुकसान हो चुका हो। यह नैदानिक सेटिंग्स में विशेष रूप से खतरनाक है, जहां सटीकता में छोटे विचलन महत्वपूर्ण परिणामों में तब्दील हो सकते हैं।

इस मुद्दे को जोड़कर ” मॉडल ड्रिफ्ट” है: कृत्रिम बुद्धिमत्ता मॉडल की प्रवृत्ति जो निर्देशों और संदर्भ से विचलित हो जाती है क्योंकि अधिक डेटा प्रणाली में प्रवेश करता है। जैसे ही रोगी आबादी विकसित होती है, नए उपचार प्रोटोकॉल पेश किए जाते हैं, और बाहरी कारक संचालन को प्रभावित करते हैं, कृत्रिम बुद्धिमत्ता उपकरणों के आधारभूत धारणाएं बदल सकती हैं। निरंतर निगरानी और पुनः-प्रशिक्षण के बिना, एक कृत्रिम बुद्धिमत्ता प्रणाली जो एक बार विश्वसनीय रूप से प्रदर्शन करती थी, अब ऐसे कार्य या सुझाव दे सकती है जो इसके प्रशिक्षण से विचलित हो जाते हैं।

मॉडल ड्रिफ्ट को संबोधित करने के लिए, अस्पतालों को कृत्रिम बुद्धिमत्ता प्रणालियों को गतिशील, उच्च जोखिम वाले संपत्ति के रूप में मानना चाहिए, स्थिर उपकरण के रूप में नहीं। इसका अर्थ है निरंतर प्रदर्शन निगरानी लागू करना, स्वीकार्य सटीकता के लिए स्पष्ट सीमा निर्धारित करना, और पुनः-प्रशिक्षण और सत्यापन के लिए स्वामित्व परिभाषित करना। डेटा शासन को भी मजबूत किया जाना चाहिए, डेटा गुणवत्ता, अंतरपरिवर्तनीयता, और पूर्वाग्रह का पता लगाने के लिए मानक अभ्यास के साथ।

डेटा गुणवत्ता और मॉडल ड्रिफ्ट से जुड़े जोखिमों का सामना किए बिना, यहां तक कि सबसे अच्छे कृत्रिम बुद्धिमत्ता शासन ढांचे भी कम पड़ जाएंगे। स्वास्थ्य सेवा कृत्रिम बुद्धिमत्ता प्रणालियों के लिए, जो केवल डेटा के आधार पर ही उतनी ही अच्छी होती हैं जितनी उन्हें आधार बनाया गया है, इस जोखिम की परत को अनदेखा करना सिस्टमिक विफलता की संभावना को जल्द या बाद में बनाता है।

इसे सही करें इससे पहले कि आप इसे चलाएं

कृत्रिम बुद्धिमत्ता स्वास्थ्य सेवा को कार्यक्षमता, सटीकता, और रोगी परिणामों में सुधार करके परिवर्तित करने की क्षमता रखती है। लेकिन जोखिमों की जिम्मेदारी के बिना, वह потен्षियल जल्द ही एक दायित्व बन सकता है।

अस्पताल कृत्रिम बुद्धिमत्ता शासन को एक अनुपालन व्यायाम के रूप में नहीं मान सकते हैं। इसे एक मुख्य संचालन प्राथमिकता के रूप में माना जाना चाहिए: स्वामित्व परिभाषित करें, पर्यवेक्षण संरचना बनाएं, और निरंतर मूल्यांकन करें। क्योंकि स्वास्थ्य सेवा में, जब कुछ गलत हो जाता है, तो परिणाम दोषी की तुलना में बहुत अधिक गंभीर हो सकते हैं।