एआई नाउ इंस्टीट्यूट ने भावना का पता लगाने वाले सॉफ्टवेयर के दुरुपयोग और अन्य नैतिक मुद्दों के बारे में चेतावनी दी

एआई नाउ इंस्टीट्यूट ने एक रिपोर्ट जारी की है जिसमें कानूनविदों और अन्य नियामक निकायों से भावना का पता लगाने वाली तकनीक के उपयोग पर सख्त सीमाएं निर्धारित करने का आग्रह किया गया है, जिसमें कर्मचारी नियुक्ति या छात्र स्वीकृति जैसे महत्वपूर्ण निर्णय लेने के मामलों में इसके उपयोग पर प्रतिबंध लगाना शामिल है। इसके अलावा, रिपोर्ट में एआई क्षेत्र में विभिन्न विषयों पर कई अन्य सिफारिशें शामिल थीं।

एआई नाउ इंस्टीट्यूट एनवाईयू में स्थित एक अनुसंधान संस्थान है, जिसका मिशन एआई के समाज पर प्रभाव का अध्ययन करना है। एआई नाउ हर साल एक रिपोर्ट जारी करता है जिसमें एआई अनुसंधान की स्थिति और एआई के वर्तमान उपयोग के नैतिक निहितार्थों के बारे में अपने निष्कर्षों को प्रदर्शित किया जाता है। बीबीसी की रिपोर्ट के अनुसार, इस साल की रिपोर्ट में एल्गोरिदमिक भेदभाव, एआई अनुसंधान में विविधता की कमी, और श्रम संबंधी मुद्दों जैसे विषयों पर चर्चा की गई।

भावना पहचान, जिसे तकनीकी रूप से भावना का पता लगाने वाले एल्गोरिदम के रूप में जाना जाता है, एआई अनुसंधान का एक तेजी से बढ़ता क्षेत्र है। जो लोग निर्णय लेने के लिए इस तकनीक का उपयोग करते हैं, वे अक्सर दावा करते हैं कि सिस्टम माइक्रो-अभिव्यक्तियों, स्वर और शरीर की भाषा जैसे अन्य संकेतों के विश्लेषण द्वारा लोगों की भावनात्मक स्थिति के बारे में विश्वसनीय जानकारी प्राप्त कर सकते हैं। एआई नाउ संस्थान ने उल्लेख किया है कि यह तकनीक विभिन्न अनुप्रयोगों में उपयोग की जा रही है, जैसे कि यह निर्धारित करना कि किसे नियुक्त करना है, बीमा की कीमतें निर्धारित करना, और यह जांचना कि छात्र कक्षा में ध्यान दे रहे हैं या नहीं।

प्रोफेसर केट क्रॉफोर्ड, एआई नाउ के सह-संस्थापक ने समझाया कि अक्सर माना जाता है कि मानव भावनाओं को tương đối सरल मॉडल के साथ सटीक रूप से भविष्यवाणी की जा सकती है। क्रॉफोर्ड ने कहा कि कुछ कंपनियां अपने सॉफ्टवेयर को पॉल एकमैन के काम पर आधारित बना रही हैं, जो एक मनोवैज्ञानिक हैं जिन्होंने सुझाव दिया था कि केवल छह मूलभूत प्रकार की भावनाएं हैं जो चेहरे पर पंजीकृत होती हैं। हालांकि, क्रॉफोर्ड ने उल्लेख किया है कि एकमैन के सिद्धांत के परिचय के बाद से अध्ययनों से पता चला है कि चेहरे की अभिव्यक्तियों में बहुत अधिक परिवर्तनशीलता है और अभिव्यक्तियां स्थितियों और संस्कृतियों में आसानी से बदल सकती हैं।

“जबकि ये प्रौद्योगिकियां तैनात की जा रही हैं, बड़ी संख्या में अध्ययन दिखा रहे हैं कि कोई भी व्यापक सबूत नहीं है कि लोगों के बीच एक सुसंगत संबंध है जो आपको लगता है और आपके चेहरे की अभिव्यक्ति के बीच,” बीबीसी को क्रॉफोर्ड ने कहा।

इस कारण से, एआई नाउ संस्थान तर्क देता है कि भावना का पता लगाने वाली अधिकांश तकनीक अनिश्चित सिद्धांतों और संदेहास्पद विज्ञान पर आधारित है। इसलिए, भावना का पता लगाने वाले सिस्टम को तैनात नहीं किया जाना चाहिए जब तक कि अधिक शोध नहीं किया जाता है और “सरकारों को विशेष रूप से उच्च-जोखिम वाले निर्णय लेने की प्रक्रियाओं में भावना का पता लगाने वाले का उपयोग निषिद्ध करना चाहिए”। एआई नाउ ने तर्क दिया कि हमें विशेष रूप से “संवेदनशील सामाजिक और राजनीतिक संदर्भों” में इस प्रौद्योगिकी का उपयोग बंद करना चाहिए, जिनमें रोजगार, शिक्षा और पुलिसिंग शामिल हैं।

कम से कम एक एआई-विकास कंपनी, जो भावना का पता लगाने में माहिर है, एमटेक, सहमत है कि तकनीक के दुरुपयोग को रोकने के लिए नियमन होना चाहिए। एमटेक के संस्थापक चार्ल्स एनडुका ने बीबीसी को बताया कि जबकि एआई सिस्टम विभिन्न चेहरे की अभिव्यक्तियों को सटीक रूप से पहचान सकते हैं, अभिव्यक्ति से भावना तक का कोई सरल मानचित्र नहीं है। एनडुका ने चिंता व्यक्त की कि नियमन बहुत दूर चला जा सकता है और अनुसंधान को दबा सकता है, यह देखते हुए कि यदि “चीजें प्रतिबंधित होने जा रही हैं, तो यह बहुत महत्वपूर्ण है कि लोग बच्चे को नहाने के पानी के साथ नहीं फेंकते”।

नेक्स्टवेब की रिपोर्ट के अनुसार, एआई नाउ ने आगे बढ़ने के लिए एआई उद्योग के लिए कई अन्य नीतियों और मानकों की सिफारिश की है।

एआई नाउ ने एआई उद्योग के लिए कार्यस्थलों को अधिक विविध बनाने की आवश्यकता पर प्रकाश डाला और कहा कि श्रमिकों को अपनी चिंताओं को व्यक्त करने का अधिकार दिया जाना चाहिए। तकनीकी श्रमिकों को यह अधिकार होना चाहिए कि वे जानें कि उनके प्रयासों का उपयोग हानिकारक या अनैतिक कार्यों के निर्माण के लिए किया जा रहा है या नहीं।

एआई नाउ ने सिफारिश की कि विधायक स्वास्थ्य से संबंधित एआई से प्राप्त किसी भी डेटा के उपयोग के लिए सूचित सहमति की आवश्यकता को लागू करने के लिए कदम उठाएं। इसके अलावा, यह सलाह दी गई कि डेटा गोपनीयता को अधिक गंभीरता से लिया जाना चाहिए और राज्यों को निजी और सार्वजनिक दोनों संस्थाओं को कवर करने वाले जैवमेट्रिक डेटा के लिए गोपनीयता कानूनों को डिजाइन करने का प्रयास करना चाहिए।

अंत में, संस्थान ने सलाह दी कि एआई उद्योग को वैश्विक स्तर पर सोचने और कार्य करने का प्रयास करना चाहिए, एआई के बड़े राजनीतिक, सामाजिक और पारिस्थितिक परिणामों को संबोधित करने का प्रयास करना चाहिए। यह सिफारिश की गई कि एआई के प्रभाव के लिए एक बड़ा प्रयास किया जाना चाहिए और सरकारों को एआई उद्योग के जलवायु प्रभाव को सार्वजनिक रूप से उपलब्ध कराना चाहिए।