स्वास्थ्य सेवा उद्योग में जनरेटिव एआई को व्याख्यात्मकता की खुराक की आवश्यकता है

पाठ-आधारित जनरेटिव एआई टूल्स उच्च-स्तरीय लेखन और संचार कार्यों को पूरा करने की उनकी उल्लेखनीय गति ने कंपनियों और उपभोक्ताओं दोनों के साथ तालमेल बिठाया है। लेकिन इन प्रभावशाली क्षमताओं को सक्षम करने के लिए पर्दे के पीछे होने वाली प्रक्रियाएं बीमा, वित्त, या स्वास्थ्य सेवा जैसे संवेदनशील, सरकार द्वारा नियंत्रित उद्योगों के लिए जनरेटिव एआई का लाभ उठाने के लिए महत्वपूर्ण सावधानी बरतने के बिना जोखिम भरा बना सकती हैं।

ऐसे मुद्दों के कुछ सबसे स्पष्ट उदाहरण स्वास्थ्य सेवा उद्योग में पाए जा सकते हैं।

ऐसे मुद्दे आमतौर पर बड़े भाषा मॉडल (एलएलएम) के लिए प्रशिक्षण के लिए उपयोग किए जाने वाले व्यापक और विविध डेटासेट से संबंधित होते हैं – मॉडल जो पाठ-आधारित जनरेटिव एआई टूल्स को उच्च-स्तरीय कार्य करने के लिए खिलाते हैं। बाहरी हस्तक्षेप के बिना, ये एलएलएम अपने ज्ञान आधार को विस्तारित करने के लिए विभिन्न स्रोतों से इंटरनेट से डेटा को बिना किसी भेदभाव के खंगालते हैं।

यह दृष्टिकोण कम जोखिम वाले उपभोक्ता-उन्मुख उपयोग के मामलों के लिए सबसे उपयुक्त है, जिसमें अंतिम लक्ष्य ग्राहकों को सटीकता के साथ वांछनीय प्रस्तावों की ओर निर्देशित करना है। हालांकि, बड़े डेटासेट और एआई मॉडल द्वारा अपने आउटपुट को उत्पन्न करने के जटिल मार्ग स्वास्थ्य सेवा प्रदाताओं को आवश्यक स्पष्टता को धुंधला कर देते हैं जो संभावित अशुद्धियों को ट्रेस और रोकने के लिए आवश्यक है।

इस संदर्भ में, व्याख्यात्मकता का अर्थ किसी भी दिए गए एलएलएम के तर्क पथों को समझने की क्षमता से है। स्वास्थ्य सेवा पेशेवरों को सहायक जनरेटिव एआई टूल्स को अपनाने के लिए उन्हें यह जानने के साधन होने चाहिए कि उनके मॉडल परिणाम कैसे प्राप्त करते हैं ताकि रोगियों और कर्मचारियों को विभिन्न निर्णय लेने की प्रक्रियाओं में पूरी पारदर्शिता के साथ सुसज्जित किया जा सके। दूसरे शब्दों में, स्वास्थ्य सेवा जैसे उद्योग में, जहां जान जोखिम में है, पेशेवरों के लिए अपने एआई टूल्स को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा को गलत व्याख्या करने के लिए स्टेक बहुत अधिक हैं।

सौभाग्य से, जनरेटिव एआई के व्याख्यात्मकता संकट को दरकिनार करने का एक तरीका है – इसके लिए बस थोड़ा अधिक नियंत्रण और फोकस की आवश्यकता है।

रहस्य और संदेह

जनरेटिव एआई में, यह समझना कि एक एलएलएम इनपुट – पॉइंट ए से आउटपुट – पॉइंट बी तक कैसे पहुंचता है, गैर-जनरेटिव एल्गोरिदम की तुलना में जो अधिक निर्धारित पैटर्न के साथ चलते हैं, बहुत अधिक जटिल है।

जनरेटिव एआई टूल्स इनपुट से आउटपुट तक जाने के दौरान अनगिनत कनेक्शन बनाते हैं, लेकिन बाहरी पर्यवेक्षक के लिए, वे किसी भी दी गई श्रृंखला में कनेक्शन क्यों बनाते हैं, यह एक रहस्य बना रहता है। एआई एल्गोरिदम द्वारा अपने ‘विचार प्रक्रिया’ को देखने के बिना, मानव ऑपरेटरों के पास इसके तर्क की जांच करने और संभावित अशुद्धियों को ट्रेस करने के लिए एक व्यापक साधन नहीं है।

इसके अलावा, एमएल एल्गोरिदम द्वारा उपयोग किए जाने वाले लगातार विस्तारित डेटासेट व्याख्यात्मकता को और अधिक जटिल बना देते हैं। डेटासेट जितना बड़ा होगा, सिस्टम को प्रासंगिक और अप्रासंगिक दोनों जानकारी से सीखने और “एआई हॉलुसिनेशन” – बाहरी तथ्यों और संदर्भ संबंधी तर्क से विचलित होने वाली झूठी बातें – को उत्पन्न करने की संभावना उतनी ही अधिक होगी, चाहे वह कितनी भी आश्वस्त क्यों न हो।

स्वास्थ्य सेवा उद्योग में, इस तरह के दोषपूर्ण परिणाम गलत निदान और गलत नुस्खे जैसे मुद्दों को उत्पन्न कर सकते हैं। नैतिक, कानूनी और वित्तीय परिणामों के अलावा, ऐसी त्रुटियां आसानी से स्वास्थ्य सेवा प्रदाताओं और उनके द्वारा प्रतिनिधित्व की जाने वाली चिकित्सा संस्थानों की प्रतिष्ठा को नुकसान पहुंचा सकती हैं।

इसलिए, चिकित्सा हस्तक्षेप में सुधार करने, रोगियों के साथ संचार में सुधार करने और संचालन की दक्षता को बढ़ाने की क्षमता के बावजूद, स्वास्थ्य सेवा में जनरेटिव एआई संदेह में लिपटा हुआ है, और सही भी – 55% क्लिनिशियन इसे चिकित्सा उपयोग के लिए तैयार नहीं मानते हैं और 58% इस पर भरोसा नहीं करते हैं। फिर भी, स्वास्थ्य सेवा संगठन आगे बढ़ रहे हैं, जिनमें से 98% जनरेटिव एआई तैनाती रणनीति को एकीकृत करने या योजना बना रहे हैं ताकि क्षेत्र की चल रही श्रम की कमी के प्रभाव को कम किया जा सके।

स्रोत पर नियंत्रण

स्वास्थ्य सेवा उद्योग अक्सर वर्तमान उपभोक्ता जलवायु में पीछे के पैर पर पकड़ा जाता है, जो सुरक्षा उपायों को सुनिश्चित करने की तुलना में दक्षता और गति को महत्व देता है। हाल की खबरों में एलएलएम को प्रशिक्षित करने के लिए डेटा स्क्रैपिंग की कमियों के बारे में बताया गया है, जिससे कॉपीराइट उल्लंघन के लिए मुकदमे हो रहे हैं, जो इन मुद्दों को सामने लाया है। कुछ कंपनियों का सामना इस दावे से भी हो रहा है कि नागरिकों के व्यक्तिगत डेटा को इन भाषा मॉडल्स को प्रशिक्षित करने के लिए खनन किया गया था, जो संभावित रूप से गोपनीयता कानूनों का उल्लंघन कर रहा था।

अत्यधिक नियंत्रित उद्योगों के लिए एआई डेवलपर्स को इसलिए डेटा स्रोतों पर नियंत्रण करना चाहिए ताकि संभावित गलतियों को सीमित किया जा सके। अर्थात्, उद्योग-वेटेड स्रोतों से डेटा निकालने पर優先 करना चाहिए, न कि बाहरी वेब पेजों को बिना अनुमति के और बिना सोचे-समझे खंगालना चाहिए। स्वास्थ्य सेवा उद्योग के लिए, इसका अर्थ है डेटा इनपुट को एफएक्यू पेज, सीएसवी फाइलों, और चिकित्सा डेटाबेस – अन्य आंतरिक स्रोतों के बीच सीमित करना।
यदि यह थोड़ा सीमित लगता है, तो एक बड़े स्वास्थ्य प्रणाली की वेबसाइट पर एक सेवा की खोज करने का प्रयास करें। अमेरिकी स्वास्थ्य सेवा संगठन अपने प्लेटफार्मों पर सैकड़ों यदि नहीं तो हजारों जानकारी पृष्ठ प्रकाशित करते हैं; अधिकांश इतने गहरे दफनाए जाते हैं कि रोगी वास्तव में उन तक कभी पहुंच नहीं पाते हैं। आंतरिक डेटा पर आधारित जनरेटिव एआई समाधान इस जानकारी को रोगियों को सुविधाजनक और निर्बाध रूप से वितरित कर सकते हैं। यह सभी पक्षों के लिए जीत है, क्योंकि स्वास्थ्य प्रणाली अंततः इस सामग्री से आरओआई देखती है, और रोगी तुरंत और बिना किसी परेशानी के आवश्यक सेवाओं को पा सकते हैं।

नियंत्रित उद्योगों में जनरेटिव एआई का भविष्य क्या है?

स्वास्थ्य सेवा उद्योग जनरेटिव एआई से कई तरह से लाभान्वित हो सकता है।

उदाहरण के लिए, हाल के दिनों में अमेरिकी स्वास्थ्य सेवा क्षेत्र में व्यापक जलन – लगभग 50% कार्यबल 2025 तक अपने पदों को छोड़ने की योजना बना रहा है। जनरेटिव एआई-संचालित चैटबॉट अधिकांश कार्यभार को कम करने और अधिक विस्तारित रोगी एक्सेस टीमों को संरक्षित करने में मदद कर सकते हैं।

रोगी की ओर से, जनरेटिव एआई स्वास्थ्य सेवा प्रदाताओं के कॉल सेंटर सेवाओं में सुधार कर सकता है। एआई स्वचालन विभिन्न संपर्क चैनलों के माध्यम से व्यापक श्रृंखला के प्रश्नों का समाधान करने की शक्ति रखता है, जिसमें एफएक्यू, आईटी मुद्दे, फार्मास्यूटिकल रिफिल और चिकित्सक रेफरल शामिल हैं। केवल यह प्रतीक्षा करने की निराशा के अलावा, लगभग आधे अमेरिकी रोगी अपने पहले कॉल पर अपने मुद्दों का सफलतापूर्वक समाधान नहीं कर पाते हैं, जिसके परिणामस्वरूप उच्च छोड़ने की दर और देखभाल तक पहुंच प्रभावित होती है। परिणामी कम ग्राहक संतुष्टि उद्योग पर कार्रवाई करने के लिए और दबाव डालती है।

उद्योग को वास्तव में जनरेटिव एआई कार्यान्वयन से लाभ उठाने के लिए, स्वास्थ्य सेवा प्रदाताओं को अपने एलएलएम तक पहुंच के डेटा को जानबूझकर पुनर्गठित करने की सुविधा प्रदान करनी चाहिए।