भावना पहचान के लिए एआई विकसित करते समय नैतिक विचार

भावना नियमन के लिए कृत्रिम बुद्धिमत्ता मशीन लर्निंग क्षेत्र में नवीनतम तकनीकी प्रगति है। हालांकि इसमें बहुत संभावना है, नैतिक मुद्दे अपनी अपनाई और दीर्घायु को प्रभावित करने के लिए तैयार हैं। क्या एआई डेवलपर उन्हें पार कर सकते हैं?

भावना पहचान एआई क्या है?

भावना पहचान एआई एक प्रकार का मशीन लर्निंग मॉडल है। यह अक्सर कंप्यूटर विजन प्रौद्योगिकी पर निर्भर करता है जो चेहरे के भावों को पकड़ता और विश्लेषण करता है ताकि छवियों और वीडियो में मूड को समझा जा सके। हालांकि, यह ऑडियो स्निपेट्स पर भी काम कर सकता है ताकि आवाज के स्वर को निर्धारित किया जा सके या लिखित पाठ को समझने के लिए भाषा की भावना का मूल्यांकन किया जा सके।

यह प्रकार का एल्गोरिथम एआई क्षेत्र में आकर्षक प्रगति का प्रतिनिधित्व करता है क्योंकि अब तक, मॉडल मानव भावनाओं को समझने में असमर्थ रहे हैं। जबकि बड़े भाषा मॉडल जैसे कि चैटजीपीटी मूड और व्यक्तित्व को आश्चर्यजनक रूप से अनुकरण कर सकते हैं, वे केवल शब्दों को तर्कसंगत रूप से जोड़ सकते हैं — वे कुछ महसूस नहीं कर सकते हैं और भावनात्मक बुद्धिमत्ता प्रदर्शित नहीं करते हैं। जबकि एक भावना पहचान मॉडल भावनाओं को महसूस करने में असमर्थ है, यह अभी भी उन्हें पहचान और वर्गीकृत कर सकता है। यह विकास महत्वपूर्ण है क्योंकि यह संकेत देता है कि एआई जल्द ही वास्तव में खुशी, दुख, या क्रोध को समझने और प्रदर्शित करने में सक्षम हो सकता है। इस तरह की तकनीकी छलांगें तेजी से प्रगति की ओर संकेत करती हैं।

एआई भावना पहचान के उपयोग के मामले

व्यवसाय, शिक्षक, परामर्शदाता और मानसिक स्वास्थ्य देखभाल पेशेवर कुछ ऐसे समूह हैं जो भावना पहचान के लिए एआई का उपयोग कर सकते हैं।

कार्यालय में जोखिम का मूल्यांकन

मानव संसाधन टीमें टीम के सदस्यों के बीच ईमेल संवाद या ऐप चैट पर भावना विश्लेषण करने के लिए एल्गोरिथ्म का उपयोग कर सकती हैं। वैकल्पिक रूप से, वे अपने सर्विलांस या कंप्यूटर विजन सिस्टम में एल्गोरिथ्म को एकीकृत कर सकते हैं। उपयोगकर्ता मूड को ट्रैक कर सकते हैं ताकि मेट्रिक्स जैसे कि टर्नओवर जोखिम, बर्नआउट दर और कर्मचारी संतुष्टि की गणना की जा सके।

ग्राहक सेवा एजेंटों की सहायता

रिटेलर अंतिम उपयोगकर्ताओं के लिए इन-हाउस एआई ग्राहक सेवा एजेंटों या वर्चुअल सहायकों का उपयोग उच्च तनाव वाली स्थितियों को हल करने के लिए कर सकते हैं। चूंकि उनका मॉडल मूड को पहचान सकता है, यह डी-एस्केलेशन तकनीकों का सुझाव दे सकता है या जब यह महसूस करता है कि एक उपभोक्ता गुस्से में हो रहा है तो अपनी टोन बदल सकता है। इस तरह के उपाय ग्राहक संतुष्टि और प्रतिधारण में सुधार कर सकते हैं।

कक्षा में छात्रों की मदद

शिक्षक दूरस्थ शिक्षार्थियों को पीछे छोड़ने से रोकने के लिए इस एआई का उपयोग कर सकते हैं। एक स्टार्टअप ने पहले ही अपने टूल का उपयोग करके छात्रों के चेहरे पर मांसपेशियों के बिंदुओं को मापा है और उनकी गति और ग्रेड को सूचीबद्ध किया है। यह तरीका उनके मूड, प्रेरणा, ताकत और कमजोरियों का निर्धारण करता है। स्टार्टअप के संस्थापक दावा करते हैं कि वे सॉफ्टवेयर का उपयोग करने पर परीक्षा में 10% अधिक स्कोर करते हैं।

इन-हाउस बाजार अनुसंधान का संचालन

व्यवसाय भावना पहचान मॉडल का उपयोग करके इन-हाउस बाजार अनुसंधान कर सकते हैं। यह उन्हें यह समझने में मदद कर सकता है कि उनके लक्षित दर्शक उनके उत्पाद, सेवा या विपणन सामग्री के प्रति कैसे प्रतिक्रिया देते हैं, जिससे उन्हें मूल्यवान डेटा-संचालित अंतर्दृष्टि मिलती है। इसके परिणामस्वरूप, वे समय-समय पर बाजार में उत्पाद को तेजी से लॉन्च कर सकते हैं और अपनी आय बढ़ा सकते हैं।

भावनाओं का पता लगाने के लिए एआई का उपयोग करने में समस्या

शोध से पता चलता है कि सटीकता प्रशिक्षण जानकारी पर बहुत अधिक निर्भर करती है। एक शोध समूह — जो छवियों से भावनाओं को समझने का प्रयास कर रहा था — ने इस अवधारणा को अनुभवजन्य रूप से साबित किया जब उनके मॉडल ने जापानी महिला चेहरे अभिव्यक्ति डेटासेट पर 92.05% सटीकता हासिल की और एक्सटेंडेड कोहन-कानाडे डेटासेट पर 98.13% सटीकता हासिल की।

92% और 98% के बीच का अंतर महत्वहीन लग सकता है, लेकिन यह महत्वपूर्ण है — यह छोटा सा अंतर महत्वपूर्ण परिणाम हो सकता है। संदर्भ के लिए, 0.001% की डेटासेट जहरीलापन दर मॉडल बैकडोर स्थापित करने या जानबूझकर गलत वर्गीकरण का कारण बनने के लिए प्रभावी साबित हुई है। यहां तक कि एक प्रतिशत का एक अंश भी महत्वपूर्ण है।

इसके अलावा, हालांकि अध्ययन आशाजनक लगते हैं — 90% से अधिक की सटीकता दर संभावना दिखाती है — शोधकर्ता उन्हें नियंत्रित वातावरण में करते हैं। वास्तविक दुनिया में, धुंधली छवियां, नकली चेहरे के भाव, खराब कोण और सूक्ष्म भावनाएं अधिक सामान्य हैं। दूसरे शब्दों में, एआई लगातार प्रदर्शन नहीं कर पा सकता है।

भावना पहचान एआई की वर्तमान स्थिति

एल्गोरिथ्मिक भावना विश्लेषण पाठ की टोन को सकारात्मक, तटस्थ या नकारात्मक के रूप में निर्धारित करने के लिए एक एल्गोरिथ्म का उपयोग करने की प्रक्रिया है। यह तकनीक तर्कसंगत रूप से आधुनिक भावना पहचान मॉडल के लिए आधार है क्योंकि यह एल्गोरिथ्मिक मूड मूल्यांकन के लिए मार्ग प्रशस्त करती है। इसी तरह की तकनीक जैसे कि चेहरे पहचान सॉफ्टवेयर ने भी प्रगति में योगदान दिया है।

आज के एल्गोरिथ्म मुख्य रूप से खुशी, दुख, क्रोध, डर और आश्चर्य जैसी सरल भावनाओं का पता लगा सकते हैं जो विभिन्न डिग्री की सटीकता के साथ होते हैं। ये चेहरे के भाव स्वाभाविक और सार्वभौमिक हैं — अर्थात वे प्राकृतिक और वैश्विक रूप से समझे जाते हैं — इसलिए उन्हें पहचानने के लिए एआई को प्रशिक्षित करना अपेक्षाकृत सरल है।

इसके अलावा, बुनियादी चेहरे के भाव अक्सर अतिरंजित होते हैं। लोग क्रोधित होने पर अपनी भौहें सिकोड़ते हैं, दुखी होने पर मुस्कराते हैं, खुश होने पर मुस्कराते हैं और आश्चर्यचकित होने पर अपनी आंखें चौड़ी करते हैं। ये सरल, नाटकीय दिखावे अलग करना आसान है। जटिल भावनाएं अधिक चुनौतीपूर्ण हैं क्योंकि वे या तो सूक्ष्म हैं या बुनियादी भावों के संयोजन हैं।

चूंकि इस एआई का एक उपसेट मुख्य रूप से शोध और विकास में रहता है, यह जटिल भावनाओं जैसे लालसा, शर्म, दुख, ईर्ष्या, राहत या भ्रम को कवर करने के लिए आगे नहीं बढ़ा है। हालांकि यह संभवतः बाद में और अधिक को कवर करेगा, यह गारंटी नहीं है कि यह उन सभी की व्याख्या कर पाएगा।

वास्तव में, एल्गोरिथ्म मानवों के साथ प्रतिस्पर्धा करने में सक्षम नहीं हो सकते हैं। संदर्भ के लिए, ओपनएआई के जीपीटी-4 डेटासेट लगभग 1 पेटाबाइट है, एक मानव मस्तिष्क के एक घन मिलीमीटर में लगभग 1.4 पेटाबाइट डेटा होता है। तंत्रिका विज्ञानी दशकों के शोध के बावजूद मस्तिष्क को भावनाओं को कैसे समझता है, इसे पूरी तरह से समझ नहीं पाते हैं, इसलिए एक अत्यधिक सटीक एआई बनाना असंभव हो सकता है।

हालांकि भावना पहचान के लिए इस प्रौद्योगिकी का उपयोग करने का पूर्ववर्ती है, यह क्षेत्र तकनीकी रूप से अभी भी अपनी प्रारंभिक अवस्था में है। इस概念 पर बहुत सारे शोध हैं, लेकिन वास्तविक दुनिया में बड़े पैमाने पर तैनाती के कुछ उदाहरण हैं। कुछ संकेतों से पता चलता है कि अपनाई में देरी असंगत सटीकता और नैतिक मुद्दों के बारे में चिंताओं के परिणामस्वरूप हो सकती है।

एआई डेवलपर के लिए नैतिक विचार

एक सर्वेक्षण के अनुसार, 67% उत्तरदाता सहमत हैं कि एआई को थोड़ा या बहुत अधिक विनियमित किया जाना चाहिए। लोगों को आश्वस्त करने के लिए, डेवलपर्स को पूर्वाग्रह को कम करना चाहिए, सुनिश्चित करना चाहिए कि उनके मॉडल अपेक्षित रूप से व्यवहार करते हैं और परिणामों में सुधार करते हैं। ये समाधान तब संभव हैं जब वे विकास के दौरान नैतिक विचारों को प्राथमिकता दें।

1. सहमति से डेटा संग्रह और उपयोग

सहमति एआई नियमन बढ़ने के इस युग में सब कुछ है। क्या होगा अगर कर्मचारियों को पता चलता है कि उनके चेहरे के भावों को उनकी जानकारी के बिना सूचीबद्ध किया जा रहा है? क्या माता-पिता को शिक्षा आधारित भावना विश्लेषण पर हस्ताक्षर करने की आवश्यकता है या छात्र स्वयं निर्णय ले सकते हैं?

डेवलपर्स को स्पष्ट रूप से बताना चाहिए कि मॉडल क्या जानकारी एकत्र करेगा, यह कब संचालित होगा, विश्लेषण का उपयोग क्या किया जाएगा और कौन उन विवरणों तक पहुंच सकता है। इसके अलावा, उन्हें ऑप्ट-आउट सुविधाओं को शामिल करना चाहिए ताकि व्यक्ति अनुमतियों को अनुकूलित कर सकें।

2. गुमनाम भावना विश्लेषण आउटपुट

डेटा गुमनामीकरण गोपनीयता की समस्या है जितनी कि यह एक सुरक्षा समस्या है। डेवलपर्स को एकत्र की गई भावना जानकारी को गुमनाम करना चाहिए ताकि शामिल व्यक्तियों की रक्षा की जा सके। कम से कम, उन्हें आराम पर एन्क्रिप्शन का लाभ उठाने पर विचार करना चाहिए।

3. मानव-इन-द-लूप निर्णय लेना

एआई का उपयोग किसी की भावनात्मक स्थिति का निर्धारण करने का एकमात्र कारण निर्णय लेने के लिए है। चाहे इसका उपयोग मानसिक स्वास्थ्य क्षमता में हो या खुदरा सेटिंग में, यह लोगों को प्रभावित करेगा। डेवलपर्स को अप्रत्याशित व्यवहार को कम करने के लिए मानव-इन-द-लूप सुरक्षा उपायों का लाभ उठाना चाहिए।

4. एआई आउटपुट के लिए मानव-केंद्रित प्रतिक्रिया

यहां तक कि अगर एक एल्गोरिथ्म में लगभग 100% सटीकता है, तो यह अभी भी झूठे सकारात्मक परिणाम उत्पन्न करेगा। यह देखते हुए कि मॉडल 50% या 70% तक पहुंच सकते हैं — और यह पूर्वाग्रह या हॉलुसिनेशन समस्याओं को छूता नहीं है — डेवलपर्स को प्रतिक्रिया प्रणाली को लागू करने पर विचार करना चाहिए।

लोगों को यह समीक्षा करनी चाहिए कि एआई उनकी भावनात्मक स्थिति के बारे में क्या कहता है और यदि वे इसे गलत मानते हैं तो अपील करनी चाहिए। हालांकि ऐसी प्रणाली को सुरक्षा उपायों और जवाबदेही उपायों की आवश्यकता होगी, यह असटीक आउटपुट से उत्पन्न होने वाले प्रतिकूल प्रभावों को कम करेगी।

नैतिकता की अनदेखी के परिणाम

नैतिक विचारों को एआई इंजीनियर, मशीन लर्निंग डेवलपर और व्यवसाय मालिकों के लिए प्राथमिकता होनी चाहिए क्योंकि यह उन्हें प्रभावित करता है। बढ़ती अनिश्चित सार्वजनिक राय और कसते नियमों को देखते हुए, नैतिकता की अनदेखी के परिणाम महत्वपूर्ण हो सकते हैं।