अस्पतालों ने एआई को अपनाया इससे पहले कि वे समझ पाते कि वे क्या अपना रहे हैं

अस्पतालों ने एक ही निर्णायक क्षण में कृत्रिम बुद्धिमत्ता को नहीं अपनाया। यह टुकड़ों में आया: एक इमेजिंग एल्गोरिदम, एक प्रलेखन सहायक, एक स्टाफिंग पूर्वानुमान, एक रोगी संदेश जनरेटर, एक इनकार पूर्वानुमान मॉडल, एक अनुसूची उपकरण। प्रत्येक उत्पाद एक अलग विभाग के माध्यम से प्रवेश किया, एक अलग आवश्यकता का उत्तर दिया, और एक अलग बजट के खिलाफ मूल्यांकित किया गया।

इस खंडित मार्ग ने अपनाने को प्रबंधनीय बना दिया। लेकिन यह छुपा गया कि अस्पताल वास्तव में क्या अपना रहे थे।

एक एआई उत्पाद केवल एक और सॉफ्टवेयर अनुप्रयोग नहीं है। यह एक प्रणाली है जो निर्णय लेने को प्रभावित कर सकती है, काम को पुनर्वितरित कर सकती है, जिम्मेदारी को बदल सकती है, बदलते डेटा से सीख सकती है, और ऐसे आउटपुट उत्पन्न कर सकती है जो बाद में पुनर्निर्माण करना मुश्किल है। अस्पतालों ने अक्सर संस्थागत भाषा, शासन, और संचालन अनुशासन के बिना क्षमता खरीदी जो उन परिणामों को समझने के लिए आवश्यक थी।

स्वास्थ्य संगठनों के साथ काम करने से मुझे पता चला है कि एआई अपनाने का सबसे कठिन हिस्सा शायद ही कभी मॉडल के साथ शुरू होता है। यह तब शुरू होता है जब प्रौद्योगिकी एक ऐसे कार्य प्रवाह में प्रवेश करती है जो इसके आसपास डिज़ाइन नहीं किया गया है, और जब लोगों को यह तय करना होता है कि इसके आउटपुट के चारों ओर कितना विश्वास, अधिकार, और जिम्मेदारी रखनी है।

यह एआई अपनाने के खिलाफ तर्क नहीं है। स्वास्थ्य सेवा को बेहतर उपकरणों की आवश्यकता है, और एआई पहले से ही वास्तविक मूल्य बना रहा है। यह एक अधिक परिपक्व परिभाषा के लिए तर्क है – एक जो खरीद के बाद शुरू होता है, न कि वहीं समाप्त होता है।

एआई ने “कार्यक्षमता” नामक दरवाजे से प्रवेश किया

अस्पतालों में एआई के लिए पहला मामला व्यावहारिक था। प्रशासनिक कार्य बढ़ रहा था, कार्यबल दबाव बढ़ रहा था, और चिकित्सकों को ऐसे कार्यों पर बहुत समय बिताना पड़ रहा था जिनमें नैदानिक ​​निर्णय लेने की आवश्यकता नहीं थी। यह मांग केवल बढ़ी है। 2026 में, अमेरिकन मेडिकल एसोसिएशन ने बताया कि 81 प्रतिशत चिकित्सकों ने सर्वेक्षण में एआई का उपयोग किया, जो 2023 की तुलना में दोगुना है।

आकर्षण समझ में आता है। अस्पतालों को पहुंच में सुधार करने, जलन को कम करने, लागत को प्रबंधित करने और जानकारी को तेजी से स्थानांतरित करने के लिए दबाव है। एक ऐसा उपकरण जो एक नोट तैयार करता है, एक कतार को प्राथमिकता देता है, एक देरी का अनुमान लगाता है, या एक चार्ट को सारांशित करता है, संकीर्ण संचालन सुधार की तरह दिख सकता है।

लेकिन एआई एक बार कार्य प्रवाह में प्रवेश करने के बाद शायद ही कभी संकीर्ण रहता है। एक प्रलेखन प्रणाली रिकॉर्ड में क्या कब्जा कर लिया जाता है, इसे बदल देती है। एक प्राथमिकता मॉडल पहले देखे जाने वाले मामलों को बदलता है। एक पूर्वानुमान उपकरण स्टाफिंग निर्णयों को बदलता है। एक रोगी संचार सहायक चिकित्सा उद्देश्य को भाषा में कैसे अनुवादित किया जाता है, इसे बदलता है। यहां तक ​​कि जब मूल उद्देश्य प्रशासनिक होता है, तो संचालन प्रभाव देखभाल वितरण तक पहुंच सकता है।

अस्पतालों ने इसलिए कार्यक्षमता से अधिक अपनाया। उन्होंने निर्णयों, क्रम, ध्यान, और जिम्मेदारी पर नए प्रभाव के रूप में अपनाया।

पहली गलतफहमी: एआई को पारंपरिक सॉफ्टवेयर के रूप में मानना

पारंपरिक सॉफ्टवेयर आमतौर पर इसके द्वारा निर्धारित कार्य को विश्वसनीय रूप से करने की क्षमता से आंका जाता है। एआई के लिए एक व्यापक प्रश्न सेट की आवश्यकता होती है। मॉडल को आकार देने वाला डेटा क्या था? प्रदर्शन कहां कमजोर हो जाता है? सिस्टम का आउटपुट कैसे बदलता है जब स्थानीय कार्य प्रवाह परीक्षण के वातावरण से भिन्न होते हैं? कौन परिणाम की समीक्षा करता है? मॉडल को अपडेट करने पर क्या होता है? जब निर्णय को बाद में चुनौती दी जाती है तो कौन सा प्रमाण बरकरार रहता है?

इन प्रश्नों को औपचारिक स्वास्थ्य प्रौद्योगिकी नीति का हिस्सा बनाया जा रहा है। राष्ट्रीय स्वास्थ्य सूचना प्रौद्योगिकी के लिए समन्वयक कार्यालय के एचटीआई-1 नियम ने प्रमाणित स्वास्थ्य आईटी में भविष्यसूचक एल्गोरिदम के लिए पारदर्शिता आवश्यकताओं की शुरुआत की, जिसमें न्यायसंगतता, उपयुक्तता, वैधता, प्रभावशीलता और सुरक्षा का मूल्यांकन करने में मदद करने के लिए जानकारी शामिल है। यह भाषा महत्वपूर्ण है क्योंकि यह मूल्यांकन को एक उपकरण के प्रदर्शन के प्रदर्शन से परे ले जाती है।

अस्पतालों को यह जानने की आवश्यकता है कि यह काम करता है या नहीं यहाँ, इस आबादी के लिए, इस कार्य प्रवाह में, इन शर्तों के तहत, इन लोगों के साथ जो इसके आउटपुट पर कार्य करने के लिए जिम्मेदार हैं।

यह एक बहुत ही अलग खरीद प्रश्न है। यह केवल एक सुविधा सूची या विक्रेता प्रस्तुति द्वारा उत्तर दिया जा नहीं सकता है।

दूसरी गलतफहमी: मानव पर्यवेक्षण सब कुछ हल कर देगा

“मानव लूप में” स्वास्थ्य सेवा में एक आश्वस्त करने वाला वाक्यांश बन गया है। यह सुझाव देता है कि एक व्यक्ति नियंत्रण में रहता है और मशीन को सही कर सकता है। व्यवहार में, मानव पर्यवेक्षण केवल तभी अर्थपूर्ण होता है जब मानव के पास समय, अधिकार, संदर्भ और आउटपुट को प्रश्न में लेने का एक स्पष्ट कारण होता है।

एक चिकित्सक जो एआई-सहायता प्राप्त सिफारिशों के सैकड़ों प्राप्त करता है, प्रत्येक की पहले से ही मूल सिद्धांतों से समीक्षा नहीं कर रहा है। एक उच्च-वॉल्यूम कतार पर काम करने वाला कर्मचारी डिफ़ॉल्ट के रूप में प्रस्तुत किए जाने वाले एक सुझाव को स्वीकार कर सकता है। एक समीक्षक के पास तकनीकी रूप से मॉडल को ओवरराइड करने का अधिकार हो सकता है, लेकिन इसके परिणाम क्यों उत्पन्न हुआ, इसके कारणों को समझने के लिए आवश्यक जानकारी का अभाव हो सकता है।

विश्व स्वास्थ्य संगठन के स्वास्थ्य के लिए एआई पर मार्गदर्शन में स्वायत्तता, जिम्मेदारी, पारदर्शिता, सुरक्षा और समानता को कार्यान्वयन के केंद्र में रखा गया है। ये सिद्धांत केवल इसलिए संतुष्ट नहीं हैं क्योंकि एक मानव अंतिम बटन पर क्लिक करता है।

मानव पर्यवेक्षण को एक संचालन कार्य के रूप में डिज़ाइन किया जाना चाहिए। अस्पतालों को यह परिभाषित करना चाहिए कि किन आउटपुट की समीक्षा की जानी चाहिए, समीक्षक को क्या प्रमाण देखना चाहिए, कब विस्तार अनिवार्य है, कैसे असहमति दर्ज की जाती है, और क्या आउटपुट की समीक्षा करने वाला व्यक्ति वास्तव में हस्तक्षेप करने में सक्षम है।

एक रोगी-संदेश सहायक के बारे में विचार करें जो निर्वहन के बाद अनुवर्ती निर्देश तैयार करता है। चिकित्सक अनुमोदन के लिए जिम्मेदार रह सकता है, लेकिन व्यावहारिक सुरक्षा कार्य प्रवाह पर निर्भर करती है। क्या ड्राफ्ट स्पष्ट रूप से मशीन-जनित के रूप में चिह्नित किया गया है? क्या समीक्षक निर्देशों के पीछे की नैदानिक ​​सामग्री देखता है? कर्मचारी पहचान कर सकते हैं कि जब भाषा ने एक चेतावनी को छोड़ दिया है या निश्चितता को बढ़ा-चढ़ा कर पेश किया है? यदि संदेश भीड़भाड़ वाले बदलाव के दौरान अनुमोदित किया जाता है और बाद में भ्रम पैदा करता है, तो जिम्मेदारी को केवल इस तथ्य तक कम नहीं किया जा सकता है कि एक मानव ने “भेजना” पर क्लिक किया। समीक्षा प्रक्रिया का डिज़ाइन समीक्षक की उपस्थिति के रूप में महत्वपूर्ण है।

तीसरी गलतफहमी: सत्यापन को एक बार की घटना मानना

कई संगठन लॉन्च से पहले एआई को मान्य करते हैं और फिर प्रणाली को स्थिर मानते हैं। यह दृष्टिकोण पारंपरिक कार्यान्वयन सोच को दर्शाता है: परीक्षण, अनुमोदन, तैनाती, रखरखाव।

एआई प्रदर्शन परिवर्तित हो सकता है क्योंकि आसपास का वातावरण परिवर्तित होता है। रोगी आबादी बदलती है। कोडिंग प्रथाएं बदलती हैं। नैदानिक ​​प्रलेखन बदलता है। नए उपकरण पेश किए जाते हैं। कर्मचारी उपकरण के प्रति अपने व्यवहार को अनुकूलित करते हैं। विक्रेता मॉडल को अपडेट करते हैं। डेटा इंटरफेस शांति से टूट जाते हैं। लॉन्च पर स्वीकार्य रूप से प्रदर्शन करने वाली एक प्रणाली बिना किसी स्पष्ट विफलता संदेश के कम विश्वसनीय हो सकती है।

एनआईएसटी एआई जोखिम प्रबंधन फ्रेमवर्क जोखिम प्रबंधन को एक निरंतर जीवन चक्र गतिविधि के रूप में मानता है जो जोखिम को शासित करने, मैप करने, मापने और प्रबंधित करने के आसपास आयोजित किया जाता है। अस्पतालों को संचालन रूप से इसी सिद्धांत को लागू करना चाहिए।

पोस्ट-तैनाती निगरानी को केवल अपटाइम तक सीमित नहीं रखा जाना चाहिए। इसमें रोगी समूह द्वारा प्रदर्शन, ओवरराइड पैटर्न, असामान्य आउटपुट वितरण, कार्य प्रवाह देरी, उपयोगकर्ता शिकायतें, डाउनस्ट्रीम सुधार और संकेत शामिल होने चाहिए कि कर्मचारी कभी भी इरादा किए जाने वाले तरीके से प्रणाली पर निर्भर हो रहे हैं।

एक मॉडल तकनीकी रूप से उपलब्ध हो सकता है और संचालन रूप से असुरक्षित हो सकता है।

चौथी गलतफहमी: नियामक मंजूरी को संस्थागत तैयारी से भ्रमित करना

यू.एस. फूड एंड ड्रग एडमिनिस्ट्रेशन ने लाभकारी पूर्व-बाजार आवश्यकताओं को पूरा करने वाले एआई-सक्षम चिकित्सा उपकरणों की एक सूची बनाए रखी है। यह नियंत्रित उत्पादों के लिए एक महत्वपूर्ण सुरक्षा परत है, लेकिन नियामक अनुमोदन और अस्पताल तैयारी अलग-अलग प्रश्नों का उत्तर देते हैं।

एक नियामक यह निर्धारित कर सकता है कि एक उपकरण इसके इच्छित उपयोग के लिए पर्याप्त रूप से सुरक्षित और प्रभावी है। एक अस्पताल को अभी भी यह निर्धारित करना होगा कि इसका自己的 डेटा, कर्मचारी, बुनियादी ढांचे, प्रशिक्षण, विस्तार मार्ग, और रोगी आबादी जिम्मेदार उपयोग का समर्थन करते हैं।

गैर-उपकरण एआई के लिए भी यही अंतर लागू होता है। सुरक्षा समीक्षा नैदानिक ​​उपयुक्तता की स्थापना नहीं करती है। गोपनीयता समीक्षा कार्य प्रवाह सुरक्षा की स्थापना नहीं करती है। कानूनी अनुमोदन उपयोगकर्ता क्षमता की स्थापना नहीं करता है। एक सफल पायलट उद्यम तैयारी की स्थापना नहीं करता है।

अस्पतालों को इन प्रश्नों को एकजुट करने के लिए एक एकीकृत निर्णय प्रक्रिया की आवश्यकता है, न कि प्रत्येक विभाग को जोखिम के एक हिस्से को मंजूरी देने की अनुमति दें।

अस्पताल वास्तव में एआई को अपनाते हैं जब वे एआई को अपनाते हैं

एक परिपक्व संगठन को यह पहचानना चाहिए कि प्रत्येक एआई कार्यान्वयन एक ही समय में कम से कम पांच चीजें पेश करता है:

• एक निर्णय प्रभाव: भले ही एआई अंतिम निर्णय न ले, यह उन चीजों को आकार देता है जिन पर लोग ध्यान देते हैं, प्राथमिकता देते हैं या विश्वास करते हैं।
• एक डेटा निर्भरता: प्रणाली अपने आसपास के डेटा की ताकत, अंतराल, पूर्वाग्रह और अस्थिरता को विरासत में मिलती है।
• एक कार्य प्रवाह पुनर्डिज़ाइन: कार्य लोगों, प्रणालियों और विभागों के बीच चलते हैं, अक्सर जिम्मेदारी को सूक्ष्म तरीकों से बदलते हैं।
• एक निगरानी बाध्यता: प्रदर्शन को तैनाती के बाद देखा जाना चाहिए, पूर्व-तैनाती साक्ष्य से माना नहीं जाना चाहिए।
• एक विश्वास संबंध: रोगियों और कर्मचारियों को यह समझने की आवश्यकता है कि एआई कहां मौजूद है और यह क्या भूमिका निभाता है।

यह व्यापक परिभाषा बताती है कि अस्पताल क्यों दर्जनों एआई टूल तैनात कर सकते हैं और फिर भी तैयार महसूस नहीं कर सकते हैं। संगठन ने क्षमता प्राप्त की है लेकिन उन्हें शासित करने के लिए आवश्यक जुड़ाव का निर्माण नहीं किया है।

एआई इन्वेंट्री से एआई जिम्मेदारी तक

पहला व्यावहारिक कदम एक और रणनीति दस्तावेज नहीं है। यह एक विश्वसनीय इन्वेंट्री है।

कुछ अस्पताल अभी भी एआई का संचालन कहां हो रहा है, इसका पूरा दृश्य नहीं है क्योंकि यह बड़े प्लेटफार्मों में निहित है, विभागीय खरीदारी के माध्यम से पेश किया जाता है, या स्वचालन, बुद्धिमत्ता, पूर्वानुमान, अनुकूलन या निर्णय समर्थन जैसे नरम शब्दों के साथ वर्णित किया जाता है।

एक इन्वेंट्री में प्रत्येक प्रणाली के उद्देश्य, प्रभावित निर्णय, उपयोग किए गए डेटा, प्रभावित आबादी, विक्रेता और मॉडल संस्करण, मानव मालिक, समीक्षा प्रक्रिया, विस्तार मार्ग और अनुमोदन के लिए उपयोग किए जाने वाले प्रमाण को रिकॉर्ड करना चाहिए।

लेकिन एक इन्वेंट्री ही शासन नहीं है। जिम्मेदारी तब शुरू होती है जब प्रत्येक प्रणाली का एक नामित कार्यकारी मालिक और एक संचालन मालिक होता है। कार्यकारी मालिक यह सुनिश्चित करने के लिए जिम्मेदारी स्वीकार करता है कि उपयोग का मामला अभी भी उपयुक्त है। संचालन मालिक समझता है कि प्रणाली दैनिक कार्य में कैसे व्यवहार करती है और यह पहचान सकता है कि जब वास्तविकता नीति से भिन्न होती है।

नया मानक: स्केलिंग से पहले समझें

अस्पतालों को हर एआई पहल को तब तक रोकने की आवश्यकता नहीं है जब तक वे पूर्ण निश्चितता हासिल नहीं कर लेते। पूर्ण निश्चितता स्वास्थ्य सेवा या प्रौद्योगिकी में मौजूद नहीं है। उन्हें उत्साह से चलने वाली स्केलिंग को साक्ष्य से चलने वाली स्केलिंग से बदलने की आवश्यकता है।

इसका अर्थ है एक विशिष्ट समस्या के साथ शुरुआत करना, एआई की स्वीकार्य भूमिका को परिभाषित करना, स्थानीय वातावरण में परीक्षण करना, सीमाओं का दस्तावेजीकरण करना, वास्तविक परिणामों को मापना और केवल तभी विस्तार करना जब संगठन लाभ और जोखिम दोनों को समझा सके।

सबसे महत्वपूर्ण प्रश्न अब यह नहीं है कि “क्या यह उपकरण एआई का उपयोग करता है?” यह प्रश्न बहुत व्यापक है और उपयोगी नहीं है। बेहतर प्रश्न हैं: यह किस निर्णय को प्रभावित करता है? यह गलत होने पर क्या होता है? कौन ध्यान देता है? कौन इसे रोक सकता है? कौन सा प्रमाण इसकी भूमिका का विस्तार करने के लिए पर्याप्त होगा?

हाल ही में डब्ल्यूएचओ के स्वास्थ्य में एआई पर नीति मार्गदर्शक ने सुरक्षा, पूर्वाग्रह, शासन, नियमन और विश्वास की जांच करने वाले सूचित निर्णय लेने का मामला बनाया है। अस्पतालों को तकनीकी टीमों से जो स्तर की साक्षरता की अपेक्षा है, उन्हें नेतृत्व टीमों से भी वही स्तर की अपेक्षा करनी चाहिए।

वास्तविक अवसर संस्थागत सीखना है

एआई से लाभान्वित होने वाले अस्पताल आवश्यक रूप से वे नहीं होंगे जो सबसे अधिक टूल अपनाते हैं। वे उन लोगों के होंगे जो प्रत्येक तैनाती से सबसे तेजी से सीखते हैं।

वे कार्यान्वयन को संस्थागत ज्ञान का स्रोत के रूप में मानेंगे: जहां डेटा गुणवत्ता टूट जाती है, जहां कार्य प्रवाह स्वचालन का विरोध करते हैं, जहां कर्मचारियों को स्पष्ट सीमाओं की आवश्यकता होती है, जहां रोगियों को अधिक पारदर्शिता की आवश्यकता होती है, और जहां शासन अधिक विशिष्ट होने की आवश्यकता है।

यह सीखना नवाचार कार्यालय के भीतर नहीं रह सकता है। यह नैदानिक ​​नेतृत्व, संचालन, अनुपालन, प्रौद्योगिकी, वित्त, गुणवत्ता और बोर्ड तक पहुंचाना होगा। एआई अब इतना वितरित हो गया है कि इसे कुछ विशेषज्ञों के एक छोटे समूह द्वारा शासित नहीं किया जा सकता है और इतना परिणामी है कि इसे केवल एक तकनीकी विषय के रूप में समझा नहीं जा सकता है।

अस्पतालों ने एआई को अपनाया इससे पहले कि वे पूरी तरह से समझ पाते कि वे क्या अपना रहे हैं। यह तेजी से तकनीकी परिवर्तन की अवधि में असामान्य नहीं है। अधिक महत्वपूर्ण प्रश्न यह है कि वे अंतर को दिखाई देने के बाद क्या करते हैं।

जिम्मेदार प्रतिक्रिया पीछे हटना नहीं है। यह निर्णय लेने, कार्य प्रवाहों, संबंधों और संस्थानों के भीतर वास्तव में कैसे संचालित होता है, इसके रूप में एआई को समझने की क्षमता बनाना है। केवल तभी अपनाने से तैयारी होती है।