स्वास्थ्य सेवा उद्योग में उत्पन्न करने वाले एआई को समझने योग्य बनाने की आवश्यकता है

पाठ-आधारित उत्पन्न करने वाले एआई टूल्स द्वारा उच्च-स्तरीय लेखन और संचार कार्यों को पूरा करने की उल्लेखनीय गति ने कंपनियों और उपभोक्ताओं दोनों को प्रभावित किया है। लेकिन इन प्रभावशाली क्षमताओं को सक्षम करने के लिए होने वाली प्रक्रियाएं संवेदनशील, सरकार द्वारा विनियमित उद्योगों के लिए, जैसे कि बीमा, वित्त, या स्वास्थ्य सेवा, को उत्पन्न करने वाले एआई का उपयोग करने के लिए जोखिम भरा बना सकती हैं यदि वे सावधानी से नहीं चलते हैं।

इनमें से कुछ सबसे अच्छे उदाहरण स्वास्थ्य सेवा उद्योग में पाए जा सकते हैं।

ऐसे मुद्दे आमतौर पर विशाल और विविध डेटासेट से संबंधित होते हैं जिनका उपयोग बड़े भाषा मॉडल (एलएलएम) को प्रशिक्षित करने के लिए किया जाता है – मॉडल जो पाठ-आधारित उत्पन्न करने वाले एआई टूल्स को उच्च-स्तरीय कार्य करने के लिए खिलाते हैं। प्रोग्रामर्स से बाहरी हस्तक्षेप के बिना, ये एलएलएम अपने ज्ञान आधार को बढ़ाने के लिए विभिन्न स्रोतों से इंटरनेट पर डेटा को बिना किसी भेदभाव के खंगालते हैं।

यह दृष्टिकोण कम जोखिम वाले उपभोक्ता-उन्मुख उपयोग के मामलों के लिए सबसे उपयुक्त है, जिसमें अंतिम लक्ष्य ग्राहकों को सटीकता के साथ वांछनीय प्रस्तावों की ओर निर्देशित करना है। हालांकि, बड़े डेटासेट और जटिल मार्ग जिनका उपयोग एआई मॉडल अपने आउटपुट को उत्पन्न करने के लिए करते हैं, अस्पतालों और स्वास्थ्य सेवा प्रदाताओं द्वारा आवश्यक स्पष्टता को धुंधला कर रहे हैं।

इस संदर्भ में, स्पष्टता का अर्थ किसी भी दिए गए एलएलएम के तर्क मार्गों को समझने की क्षमता है। स्वास्थ्य सेवा पेशेवरों को सहायक उत्पन्न करने वाले एआई टूल्स को अपनाने के लिए, उन्हें यह समझने के साधन होने चाहिए कि उनके मॉडल परिणाम कैसे प्राप्त करते हैं ताकि मरीजों और कर्मचारियों को विभिन्न निर्णय लेने की प्रक्रियाओं के दौरान पूरी पारदर्शिता प्रदान की जा सके। दूसरे शब्दों में, स्वास्थ्य सेवा जैसे उद्योग में, जहां जीवन दांव पर है, हाथ में जोखिम बहुत अधिक हैं और पेशेवरों को डेटा को गलत तरीके से व्याख्या करने की अनुमति नहीं है।

सौभाग्य से, उत्पन्न करने वाले एआई के स्पष्टता संकट को दरकिनार करने का एक तरीका है – इसके लिए बस थोड़ा अधिक नियंत्रण और फोकस की आवश्यकता है।

रहस्य और संदेह

उत्पन्न करने वाले एआई में, यह समझना कि कोई एलएलएम इनपुट – बिंदु ए से आउटपुट – बिंदु बी तक कैसे पहुंचता है, गैर-उत्पन्न करने वाले अल्गोरिदम की तुलना में जो अधिक निर्धारित पैटर्न के साथ चलते हैं, बहुत अधिक जटिल है।

उत्पन्न करने वाले एआई टूल्स इनपुट से आउटपुट तक जाने के दौरान अनगिनत कनेक्शन बनाते हैं, लेकिन बाहरी पर्यवेक्षक के लिए, वे किसी भी दी गई श्रृंखला के कनेक्शन क्यों बनाते हैं, यह एक रहस्य बना रहता है। एलएलएम द्वारा अपनाई गई ‘सोच प्रक्रिया’ को देखने के तरीके के बिना, मानव ऑपरेटरों के पास इसके तर्क की जांच करने और संभावित अशुद्धियों को追 करने का एक व्यापक साधन नहीं है।

इसके अलावा, एमएल अल्गोरिदम द्वारा उपयोग किए जाने वाले लगातार विस्तारित डेटासेट स्पष्टता को और अधिक जटिल बना देते हैं। डेटासेट जितना बड़ा होगा, सिस्टम को प्रासंगिक और अप्रासंगिक दोनों जानकारी से सीखने की संभावना उतनी ही अधिक होगी और यह “एआई हॉल्यूसिनेशन” – बाहरी तथ्यों और संदर्भ से विचलित होने वाली झूठ – को उत्पन्न कर सकता है, जो कि आश्चर्यजनक रूप से आश्वस्त हो सकता है।

स्वास्थ्य सेवा उद्योग में, इस तरह के दोषपूर्ण परिणाम गलत निदान और गलत नुस्खे जैसे मुद्दों को जन्म दे सकते हैं। नैतिक, कानूनी और वित्तीय परिणामों के अलावा, ऐसी त्रुटियां स्वास्थ्य सेवा प्रदाताओं और उनके द्वारा प्रतिनिधित्व की जाने वाली चिकित्सा संस्थानों की प्रतिष्ठा को नुकसान पहुंचा सकती हैं।

स्रोत को नियंत्रित करें

स्वास्थ्य सेवा उद्योग अक्सर वर्तमान उपभोक्ता जलवायु में पीछे के पैर पर पकड़ा जाता है, जो सुरक्षा उपायों की गारंटी की तुलना में कुशलता और गति को महत्व देता है। हाल की खबरों में एलएलएम को प्रशिक्षित करने के लिए डेटा स्क्रैपिंग की कमियों के बारे में बताया गया है, जिससे कॉपीराइट उल्लंघन के लिए मुकदमे हुए हैं, जो इन मुद्दों को सामने लाया है। कुछ कंपनियों का सामना इस दावे से भी हो रहा है कि नागरिकों का व्यक्तिगत डेटा इन भाषा मॉडल्स को प्रशिक्षित करने के लिए खनन किया गया था, जो गोपनीयता कानूनों का संभावित उल्लंघन हो सकता है।

अतः, उच्च विनियमित उद्योगों के लिए एआई डेवलपर्स को त्रुटियों को सीमित करने के लिए डेटा स्रोतों पर नियंत्रण करना चाहिए। अर्थात्, उद्योग-वेटेड स्रोतों से डेटा निकालने को प्राथमिकता देनी चाहिए, न कि बाहरी वेब पेजों को बिना अनुमति के और अव्यवस्थित रूप से खंगालना चाहिए। स्वास्थ्य सेवा उद्योग के लिए, इसका अर्थ है कि डेटा इनपुट को एफएक्यू पेजों, सीएसवी फाइलों, और चिकित्सा डेटाबेस जैसे आंतरिक स्रोतों तक सीमित करना।

विनियमित उद्योगों में उत्पन्न करने वाले एआई के लिए आगे क्या है?

स्वास्थ्य सेवा उद्योग विभिन्न तरीकों से उत्पन्न करने वाले एआई से लाभान्वित हो सकता है।

उदाहरण के लिए, हाल ही में अमेरिकी स्वास्थ्य सेवा क्षेत्र में व्यापक जलन – लगभग 50% कार्यबल 2025 तक पद छोड़ने की योजना बना रहा है। उत्पन्न करने वाले एआई संचालित चैटबॉट इस कार्यभार और अति-विस्तारित रोगी पहुंच टीमों को कम करने में मदद कर सकते हैं।

रोगी की ओर से, उत्पन्न करने वाले एआई स्वास्थ्य सेवा प्रदाताओं की कॉल सेंटर सेवाओं में सुधार कर सकता है। एआई स्वचालन विभिन्न संपर्क चैनलों के माध्यम से व्यापक प्रश्नों का समाधान करने की शक्ति रखता है, जिसमें एफएक्यू, आईटी मुद्दे, फार्मास्यूटिकल रिफिल और चिकित्सक रेफरल शामिल हैं। इसके अलावा, केवल अमेरिकी रोगियों में से लगभग आधे अपनी पहली कॉल पर अपने मुद्दों का सफलतापूर्वक समाधान कर पाते हैं, जिससे उच्च त्याग दर और देखभाल तक पहुंच बाधित होती है। परिणामी कम ग्राहक संतुष्टि उद्योग पर कार्रवाई करने के लिए और दबाव डालती है।

उद्योग को वास्तव में उत्पन्न करने वाले एआई कार्यान्वयन से लाभान्वित करने के लिए, स्वास्थ्य सेवा प्रदाताओं को अपने एलएलएम तक पहुंच के लिए डेटा को जानबूझकर पुनर्गठित करने की आवश्यकता है।