क्या हम वास्तव में अनिश्चितता माप के बिना एआई आउटपुट पर विश्वास कर सकते हैं?

समाज की कृत्रिम बुद्धिमत्ता (एआई) और मशीन लर्निंग (एमएल) अनुप्रयोगों पर निर्भरता बढ़ती जा रही है, जो जानकारी की खपत के तरीके को फिर से परिभाषित कर रही है। एआई-संचालित चैटबॉट्स से लेकर बड़े भाषा मॉडल (एलएलएम) से उत्पन्न जानकारी संश्लेषण तक, समाज के पास पहले से अधिक जानकारी और गहरी अंतर्दृष्टि तक पहुंच है। हालांकि, जब तकनीकी कंपनियां अपने मूल्य श्रृंखला में एआई को लागू करने के लिए दौड़ रही हैं, एक महत्वपूर्ण प्रश्न लंबित है। क्या हम वास्तव में एआई समाधानों के आउटपुट पर विश्वास कर सकते हैं?

क्या हम वास्तव में अनिश्चितता माप के बिना एआई आउटपुट पर विश्वास कर सकते हैं

एक दिए गए इनपुट के लिए, एक मॉडल कई अन्य समान रूप से संभावित आउटपुट उत्पन्न कर सकता है। यह अपर्याप्त प्रशिक्षण डेटा, प्रशिक्षण डेटा में भिन्नता, या अन्य कारणों से हो सकता है। मॉडलों को तैनात करते समय, संगठन अनिश्चितता माप का लाभ उठा सकते हैं ताकि उनके अंतिम उपयोगकर्ताओं को यह समझने में मदद मिल सके कि उन्हें एआई/एमएल मॉडल के आउटपुट पर कितना विश्वास करना चाहिए। अनिश्चितता माप उन अन्य आउटपुट का अनुमान लगाने की प्रक्रिया है जो हो सकते थे।

एक मॉडल को कल का उच्च तापमान预测 करने की कल्पना करें। मॉडल 21ºC का आउटपुट उत्पन्न कर सकता है, लेकिन उस आउटपुट पर अनिश्चितता माप लागू करने से यह संकेत मिल सकता है कि मॉडल 12 ºC, 15 ºC, या 16 ºC जैसे आउटपुट भी उत्पन्न कर सकता था; जानने के बाद, हम अब 20 ºC के सरल पूर्वानुमान पर कितना विश्वास करते हैं? इसके बावजूद इसकी संभावना है कि यह विश्वास या सावधानी की सलाह दे सकता है, कई संगठन अनिश्चितता माप को छोड़ने का विकल्प चुन रहे हैं क्योंकि उन्हें इसे लागू करने के लिए अतिरिक्त काम करने की आवश्यकता है, साथ ही साथ इसकी गणना संसाधनों और अनुमान गति पर मांग है।

मानव-इन-द-लूप प्रणाली, जैसे कि चिकित्सा निदान और पूर्वानुमान प्रणाली, निर्णय लेने की प्रक्रिया में मानवों को शामिल करती हैं। स्वास्थ्य देखभाल एआई/एमएल समाधानों के डेटा पर अंधे विश्वास करके, स्वास्थ्य पेशेवर एक मरीज को गलत तरीके से निदान करने का जोखिम उठाते हैं, जिससे संभावित रूप से खराब स्वास्थ्य परिणाम हो सकते हैं – या बदतर। अनिश्चितता माप स्वास्थ्य पेशेवरों को यह देखने की अनुमति दे सकती है कि कब वे एआई के आउटपुट पर अधिक विश्वास कर सकते हैं और कब वे विशिष्ट पूर्वानुमानों के साथ सावधानी बरतनी चाहिए। इसी तरह, एक पूरी तरह से स्वचालित प्रणाली जैसे कि स्व-ड्राइविंग कार में, दूरी के अनुमान के लिए एक मॉडल का आउटपुट एक दुर्घटना का कारण बन सकता है जो अनिश्चितता माप की उपस्थिति में टाला जा सकता था।

एआई/एमएल मॉडल में विश्वास बनाने के लिए मॉन्टे कार्लो विधियों का लाभ उठाने की चुनौती

मॉन्टे कार्लो विधियां, मैनहट्टन परियोजना के दौरान विकसित, अनिश्चितता माप करने का एक मजबूत तरीका है। वे थोड़े अलग इनपुट के साथ बार-बार एल्गोरिदम चलाने शामिल हैं जब तक कि आगे की पुनरावृत्ति आउटपुट में बहुत अधिक जानकारी प्रदान नहीं करती; जब प्रक्रिया ऐसी स्थिति तक पहुंच जाती है, तो यह कहा जाता है कि यह अभिसारी है। मॉन्टे कार्लो विधियों का एक नुकसान यह है कि वे आमतौर पर धीमी और गणना-गहन होती हैं, जिन्हें परिणाम प्राप्त करने के लिए अपने संविधान गणनाओं के कई पुनरावृत्ति की आवश्यकता होती है और इन आउटपुट में एक आंतरिक परिवर्तनशीलता होती है। चूंकि मॉन्टे कार्लो विधियां अपने मुख्य निर्माण खंडों के रूप में यादृच्छिक संख्या जनरेटरों के आउटपुट का उपयोग करती हैं, इसलिए जब आप एक मॉन्टे कार्लो को कई आंतरिक पुनरावृत्ति के साथ चलाते हैं, तो जब आप प्रक्रिया को समान मापदंडों के साथ दोहराते हैं, तो परिणाम बदल जाते हैं।

एआई/एमएल मॉडल में विश्वसनीयता के लिए आगे का रास्ता

पारंपरिक सर्वर और एआई-विशिष्ट त्वरणकों के विपरीत, एक नई पीढ़ी के गणना प्लेटफार्म विकसित की जा रही है जो सीधे अनुभवजन्य संभाव्यता वितरण को संसाधित करते हैं, जिस तरह पारंपरिक गणना प्लेटफार्म पूर्णांक और फ्लोटिंग-बिंदु मानों को संसाधित करते हैं। अपने एआई मॉडलों को इन प्लेटफार्मों पर तैनात करके, संगठन अपने पूर्व-प्रशिक्षित मॉडल पर अनिश्चितता माप को स्वचालित रूप से लागू कर सकते हैं और मॉन्टे कार्लो विधियों का उपयोग करने वाले अन्य प्रकार की गणना कार्यों को भी तेज कर सकते हैं, जैसे कि वित्त में वीएआर गणना। विशेष रूप से, वीएआर परिदृश्य के लिए, यह नई पीढ़ी के प्लेटफार्म संगठनों को वास्तविक बाजार डेटा से निर्मित अनुभवजन्य वितरण के साथ काम करने की अनुमति देते हैं, बजाय इसके कि यादृच्छिक संख्या जनरेटर द्वारा उत्पन्न नमूनों के साथ अनुमानित वितरण का उपयोग किया जाए, अधिक सटीक विश्लेषण और तेजी से परिणामों के लिए।
हाल के गणना में प्रगति ने अनिश्चितता माप के लिए बाधाओं को काफी कम कर दिया है। मेरे सहयोगियों और मेरे द्वारा हाल ही में प्रकाशित एक शोध लेख, न्यूरिप्स 2024 में न्यू कंप्यूट पैराडाइम्स वर्कशॉप में मशीन लर्निंग में, यह प्रदर्शित करता है कि हमने एक अगली पीढ़ी के गणना प्लेटफार्म विकसित किया है जिसने अनिश्चितता माप विश्लेषण को पारंपरिक मॉन्टे-कार्लो-आधारित विश्लेषण की तुलना में 100 गुना तेजी से चलाने की अनुमति दी। ऐसी प्रगति संगठनों को एआई समाधानों को तैनात करते समय अनिश्चितता माप को आसानी से लागू करने और कम ओवरहेड्स के साथ ऐसी अनिश्चितता माप चलाने की अनुमति देती है।

एआई/एमएल विश्वसनीयता का भविष्य उन्नत अगली पीढ़ी की गणना पर निर्भर करता है

जैसे ही संगठन समाज में अधिक एआई समाधान एकीकृत करते हैं, एआई/एमएल में विश्वसनीयता एक शीर्ष प्राथमिकता बन जाएगी। उद्यम अब एआई मॉडल तैनाती में सुविधाओं को लागू करने का जोखिम नहीं उठा सकते हैं जो उपभोक्ताओं को यह जानने की अनुमति देते हैं कि कब विशिष्ट एआई मॉडल आउटपुट के साथ संदेह का व्यवहार करना चाहिए। ऐसी व्याख्या और अनिश्चितता माप की मांग स्पष्ट है, लगभग तीन चौथाई लोगों ने संकेत दिया है कि वे एक एआई प्रणाली पर अधिक विश्वास करेंगे यदि उचित आश्वासन तंत्र स्थापित किए गए हैं।

नई गणना प्रौद्योगिकियां अनिश्चितता माप को लागू करना और तैनात करना आसान बना रही हैं। जबकि उद्योग और नियामक निकाय समाज में एआई को तैनात करने से जुड़ी अन्य चुनौतियों से जूझते हैं, कम से कम एक अवसर है कि मानवों को आवश्यक विश्वास पैदा करने के लिए, एआई तैनाती में अनिश्चितता माप को मानक बनाने के लिए।