अनचेक्ड एलएलएम और हेल्थकेयर अनुपालन संवाद

उद्योगों में, जनरेटिव एआई (GenAI) ने अपेक्षाकृत कम समय में तेजी से सफलता हासिल की है। ये प्रगति फाउंडेशन मॉडल द्वारा संचालित है, जिसे द कैलिफोर्निया रिपोर्ट ऑन फ्रंटियर एआई पॉलिसी ने “एक वर्ग के सामान्य-उद्देश्य प्रौद्योगिकियों के रूप में परिभाषित किया है, जो संसाधन-गहन हैं और डाउनस्ट्रीम एआई अनुप्रयोगों को शक्ति प्रदान करने के लिए पर्याप्त डेटा और कंप्यूट की आवश्यकता होती है।”

इन सामान्य-उद्देश्य बड़े भाषा मॉडल (LLM), जैसे कि जेमिनी और चैटजीपीटी, मानव संज्ञानात्मक क्षमताओं को प्रतिबिंबित और पार करने की बढ़ती शक्ति दिखा रहे हैं डेटा विश्लेषण, लेखन और तर्क जैसे क्षेत्रों में। विशेष रूप से, स्वास्थ्य सेवा में, जेनएआई अपनाया जा रहा है क्योंकि चिकित्सक और अन्य स्वास्थ्य पेशेवर प्रशासनिक बोझ को कम करने, संचालन को तेज करने और यहां तक कि नैदानिक निर्णय लेने में भी सहायता के लिए प्रौद्योगिकी की ओर देख रहे हैं।

हालांकि, जबकि प्रौद्योगिकी महान वादा करती है, स्वास्थ्य सेवा में जेनएआई अपनाया जाने से अनुपालन जोखिम उत्पन्न हो सकते हैं यदि यह जिम्मेदारी से लागू या उपयोग नहीं किया जाता है। विशेष रूप से, सामान्य-उद्देश्य एलएलएम का उपयोग स्वास्थ्य सेवा संगठनों को पूरी तरह से समझने के लिए विशिष्ट अनुपालन चिंताओं के साथ आता है ताकि गोपनीयता या सुरक्षा उल्लंघनों को रोका जा सके। ये मॉडल अनधिकृत तरीकों से रोगी स्वास्थ्य जानकारी का उपयोग कर सकते हैं या पूर्वाग्रह और/या असटीक जानकारी को बढ़ावा दे सकते हैं।

रोगी डेटा गोपनीयता की रक्षा करने, विकसित हो रहे नियमों के अनुपालन में बने रहने और महंगे जोखिमों को कम करने के लिए, स्वास्थ्य नेताओं को “अनचेक्ड” एलएलएम के उपयोग के “टिकिंग अनुपालन समय बम” को निरस्त करने के लिए एक निर्णायक दृष्टिकोण लेना चाहिए।

स्वास्थ्य सेवा में सामान्य-उद्देश्य एलएलएम की वर्तमान स्थिति

स्वास्थ्य सेवा में, कर्मचारी प्रशासनिक कार्य से लेकर रोगी संचार तक के दैनिक कार्यों के लिए एलएलएम का उपयोग बढ़ा रहे हैं। मल्टीमॉडल एलएलएम इन अनुप्रयोगों को आगे बढ़ाते हैं क्योंकि वे आसानी से पाठ, छवियों और ऑडियो को संसाधित कर सकते हैं। प्रशासनिक समर्थन के अलावा, हम यह भी देख रहे हैं कि प्रदाता केवल क्लेरिकल कार्य के लिए नहीं, बल्कि नैदानिक कार्यों के लिए भी प्रौद्योगिकी की ओर बढ़ रहे हैं।

इन मॉडलों ने पहले से ही कुछ लोगों के दृष्टिकोण से प्रभावशाली परिणाम दिखाए हैं, कई अध्ययनों से पता चलता है कि एलएलएम प्रदर्शन मानव क्षमताओं को पार करता है या मिलता है। उदाहरण के लिए, जीपीटी-4 मॉडल ने 86.7% के साथ संयुक्त राज्य चिकित्सा लाइसेंस परीक्षा पास की।

हाइब्रिड एआई स्वास्थ्य सेवा में जेनएआई का उपयोग करने के लिए एक और उभरता हुआ दृष्टिकोण है जो जटिल विश्लेषण को संभालने और परिणामों को सादे भाषा में अनुवाद करने के लिए मशीन लर्निंग (एमएल) और एलएलएम को जोड़ती है। दोनों मॉडलों को एकीकृत करके, यह दृष्टिकोण एलएलएम की कमियों को दूर करने का प्रयास करता है, जिसमें हॉलुसिनेशन, असटीकता और पूर्वाग्रह शामिल हैं, जबकि इसकी ताकत पर खेलता है। एजेंटिक एआई भी रोगी संदेशों का जवाब देने या नियुक्तियों का समय निर्धारित करने जैसे मानव इनपुट के बिना कुंजी कार्यों को स्वचालित करने की इसकी क्षमता के लिए अपनाया जा रहा है।

हालांकि, प्रौद्योगिकी द्वारा आयोजित की जाने वाली संभावना भी अधिक सक्रिय शासन की आवश्यकता को रेखांकित करती है। जैसे ही ये उपकरण स्वास्थ्य सेवा संचालन में अधिक एम्बेडेड हो जाते हैं, सटीकता, सुरक्षा और अनुपालन सुनिश्चित करने के लिए दांव अधिक बढ़ जाते हैं।

स्वास्थ्य सेवा में सामान्य-उद्देश्य एलएलएम के अनुपालन जोखिम

डिजिटल अपनाने से स्वास्थ्य सेवा में नई संभावनाओं का खुलासा हुआ है, लेकिन यह जोखिम भी खोलता है। उदाहरण के लिए, 1 नवंबर, 2023 और 31 अक्टूबर, 2024 के बीच, स्वास्थ्य सेवा क्षेत्र में 1,710 सुरक्षा घटनाएं हुईं, जिनमें से 1,542 में पुष्टि की गई डेटा प्रकटीकरण शामिल था।

एआई युग इन दरारों को गहरा बनाता है, डेटा गोपनीयता और सुरक्षा में एक नई परत जोड़ता है। विशेष रूप से, स्वास्थ्य सेवा में सामान्य-उद्देश्य एलएलएम का उपयोग कई प्रमुख अनुपालन जोखिमों को जन्म देता है:

जोखिम #1: ओपेक-बॉक्स विकास निरंतर निगरानी या सत्यापन को रोकता है

बंद मॉडल विकास प्रक्रिया के बारे में पारदर्शिता की कमी दिखाते हैं, जैसे कि मॉडल को प्रशिक्षित करने के लिए विशिष्ट डेटा क्या था या अद्यतन कैसे किए जाते हैं। यह अस्पष्टता विकासकर्ताओं और शोधकर्ताओं को मॉडल में खुदाई करने से रोकती है ताकि सुरक्षा जोखिमों का मूल या निर्णय लेने की प्रक्रिया का पता लगाया जा सके। परिणामस्वरूप, बंद एलएलएम अनधिकृत चिकित्सा डेटा स्रोतों के उपयोग को सक्षम कर सकते हैं और सुरक्षा दोषों को अनियंत्रित छोड़ सकते हैं।

जोखिम #2: रोगी डेटा लीक

एलएलएम हमेशा डीइडेंटिफाइड रोगी डेटा पर भरोसा नहीं करते हैं। विशेषज्ञता प्रॉम्प्ट या इंटरैक्शन अनजाने में पहचानने योग्य स्वास्थ्य जानकारी का खुलासा कर सकते हैं, संभावित हिप्पा उल्लंघनों को जन्म दे सकते हैं।

जोखिम #3: पूर्वाग्रह और असटीक जानकारी का प्रचार

एक प्रयोग में, शोधकर्ताओं ने एक जैव चिकित्सा मॉडल के ज्ञान आधार के एक श्रेणी में गलत तथ्यों का एक छोटा प्रतिशत इंजेक्ट किया, जबकि अन्य सभी डोमेन में इसके व्यवहार को संरक्षित किया। शोधकर्ताओं ने पाया कि मॉडल के आउटपुट में गलत सूचना फैल गई, एलएलएम की गलत सूचना हमलों के प्रति कमजोरियों को उजागर करती है।

फाउंडेशन मॉडल में पाए जाने वाले किसी भी दोष को गोद लेने वाले सभी मॉडल और परिणामी अनुप्रयोगों द्वारा विरासत में मिला जाता है। आउटपुट में असमानता स्वास्थ्य असमानताओं को और बढ़ा सकती है, जैसे कि कम प्रतिनिधित्व वाले समूहों के लिए असटीक सलाह।

जोखिम #4: नियामक मिसालिंगमेंट

सामान्य-उद्देश्य एलएलएम का उपयोग हिप्पा, जीडीपीआर या विकसित हो रहे एआई-विशिष्ट नियमों के अनुपालन में नहीं हो सकता है, विशेष रूप से यदि विक्रेता प्रशिक्षण डेटा को मान्य नहीं कर सकते हैं। ये जोखिम तब और बढ़ जाते हैं जब स्वास्थ्य सेवा संगठनों के कर्मचारी अनुमोदित या अनियंत्रित एआई टूल का उपयोग करते हैं, या छाया एआई का उपयोग करते हैं। आईबीएम के अनुसार, 20% सर्वेक्षण वाले संगठनों ने सभी क्षेत्रों में छाया एआई से संबंधित सुरक्षा घटनाओं के कारण उल्लंघन का सामना किया।

सर्वोत्तम प्रथाएं: एलएलएम दिशानिर्देश और विचार

जिम्मेदारी से जेनएआई अपनाने के लिए, स्वास्थ्य नेताओं को सुरक्षा और अनुपालन के लिए स्पष्ट गार्डरेल स्थापित करना चाहिए जो रोगियों और संगठनों दोनों की रक्षा करते हैं। निम्नलिखित सर्वोत्तम प्रथाएं स्वास्थ्य सेवा संगठनों को जिम्मेदार, अनुपालन एआई उपयोग के लिए आधार स्थापित करने में मदद कर सकती हैं:

सर्वोत्तम प्रथा #1: एआई तकनीक का चयन करें

विक्रेताओं से एआई तकनीक के विकास और उपयोग में आने वाले डेटा स्रोतों के बारे में स्पष्टता की आवश्यकता है। विशेषज्ञ-मान्य चिकित्सा सामग्री पर भरोसा करने वाले उपकरणों को प्राथमिकता दें, जिसमें पारदर्शी निर्णय लेने की प्रक्रिया हो और रोगी स्वास्थ्य जानकारी पर प्रशिक्षित मॉडल से बचा जाए।

सर्वोत्तम प्रथा #2: मानव-इन-द-लूप सुरक्षा उपाय बनाएं

सुनिश्चित करें कि चिकित्सक देखभाल निर्णयों को प्रभावित करने वाले किसी भी एआई-उत्पन्न आउटपुट की समीक्षा करें। एआई एक शक्तिशाली उपकरण हो सकता है, लेकिन एक उद्योग में जो सीधे रोगी जीवन को प्रभावित करता है, नैदानिक पर्यवेक्षण जिम्मेदार उपयोग और एआई-सहायता प्राप्त जानकारी की सटीकता सुनिश्चित करने के लिए महत्वपूर्ण है।

सर्वोत्तम प्रथा #3: प्रशिक्षण और कार्यबल तैयारी

चिकित्सकों और कर्मचारियों को एआई के लाभों और जोखिमों के बारे में शिक्षित करें ताकि छाया एआई अपनाने को कम किया जा सके। स्वास्थ्य सेवा कर्मचारी एक जटिल कार्यबल का सामना कर रहे हैं, जो कर्मचारियों की कमी और उच्च जलन से पीड़ित हैं। एआई शिक्षा प्रक्रिया को सरल बनाने से सुनिश्चित होता है कि अनुपालन के बिना उनके कार्यभार में और भी जोड़ा नहीं जाता है।

सर्वोत्तम प्रथा #4: एक संस्कृति की स्थापना की गई

एआई समाधानों की तृतीय-पक्ष मूल्यांकन एकीकृत करें ताकि सुरक्षा, विश्वसनीयता और अनुपालन की पुष्टि की जा सके। साथ ही, एक स्पष्ट, संगठन-व्यापी ढांचा लागू करें जो एआई पर्यवेक्षण के लिए अनुमोदन, उपयोग और निगरानी को परिभाषित करता है ताकि प्रौद्योगिकी में विश्वास को बढ़ावा मिले और कर्मचारियों को अनधिकृत उपकरणों का उपयोग करने से रोका जा सके।

सर्वोत्तम प्रथा #5: एआई प्रशासन पर नेतृत्व के साथ संरेखित करें

नेतृत्व के साथ सहयोग करें ताकि विकसित हो रहे नियमों और एफडीए और ओएनसी से मार्गदर्शन के साथ आगे रहा जा सके। नियामक प्रयास राज्य स्तर पर उभर रहे हैं। उदाहरण के लिए, कैलिफोर्निया ने फ्रंटियर एआई पारदर्शिता अधिनियम संस्थापित किया, जो विशेष रूप से स्वास्थ्य सेवा सेटिंग्स में जोखिम प्रकटीकरण, पारदर्शिता और शमन पर जोर देता है, और कोलोराडो कृत्रिम बुद्धिमत्ता अधिनियम (सीएआईए) है जो एल्गोरिदमिक भेदभाव को रोकने के लिए डिज़ाइन किया गया है।

सर्वोत्तम प्रथा #6: निरंतर निगरानी और प्रतिक्रिया लूप

स्वास्थ्य सेवा सेटिंग में एआई का उपयोग कभी भी “सेट इट एंड फॉरगेट इट” मानसिकता के साथ नहीं किया जाना चाहिए। निरंतर निगरानी के लिए एक ढांचा स्थापित करने से एआई टूल की सटीकता सुनिश्चित करने, जिम्मेदारी को मजबूत करने और समय के साथ अनुपालन बनाए रखने में मदद मिल सकती है।

सर्वोत्तम प्रथा #7: अनुपालन और अनुसंधान के लिए साझेदारी का पीछा करें

स्वास्थ्य सेवा संगठनों को नियामकों और सार्वजनिक क्षेत्र के साथ साझेदारी का लाभ उठाना चाहिए ताकि निगरानी को अधिकतम किया जा सके, सुरक्षा मानकों में उनके उद्योग के दृष्टिकोण को योगदान दिया जा सके और विशेषज्ञ संसाधनों को जोड़ा जा सके।

अनुपालन नेतृत्व के माध्यम से विश्वास बनाना

स्वास्थ्य सेवा में एआई समाधानों का अंतर स्वास्थ्य सेवा में उनकी विशेषज्ञ सामग्री की गुणवत्ता, मूल्यांकन प्रक्रियाओं की अखंडता और नैदानिक प्रवाह में जिम्मेदार एकीकरण पर निर्भर करेगा। एआई अपनाने का अगला चरण कोड पर कम और अनुपालन नेतृत्व पर अधिक निर्भर करेगा।

विश्वास अनुपालन के रूप में महत्वपूर्ण है। प्रौद्योगिकी वास्तव में प्रभावी होने के लिए, रोगियों और प्रदाताओं को विश्वास होना चाहिए कि एआई सुरक्षित है और उच्च गुणवत्ता वाली नैतिक देखभाल के साथ संरेखित है। अनुपालन नेतृत्व एक रणनीतिक लाभ है, न कि केवल एक रक्षात्मक उपाय। आगे की सोच वाले संगठन जो हानिकारक घटनाओं से पहले गार्डरेल स्थापित करते हैं, वे एआई-संचालित स्वास्थ्य सेवा भविष्य में खुद को अलग करेंगे।