एआई नाउ इंस्टीट्यूट चेतावनी देता है भावना का पता लगाने वाले सॉफ्टवेयर के दुरुपयोग और अन्य नैतिक मुद्दों के बारे में

एआई नाउ इंस्टीट्यूट ने एक रिपोर्ट जारी की है जिसमें विधायकों और अन्य नियामक निकायों से आग्रह किया गया है कि वे भावना-पहचान तकनीक के उपयोग पर सख्त सीमाएं निर्धारित करें, जैसे कि कर्मचारी भर्ती या छात्र स्वीकृति जैसे महत्वपूर्ण निर्णय लेने के मामलों में इसके उपयोग पर प्रतिबंध लगाया जाए। इसके अलावा, रिपोर्ट में एआई क्षेत्र में विभिन्न विषयों के बारे में कई अन्य सुझाव शामिल थे।

एआई नाउ इंस्टीट्यूट एआई नाउ इंस्टीट्यूट एक अनुसंधान संस्थान है जो एनवाईयू में स्थित है, जिसका मिशन एआई के समाज पर प्रभाव का अध्ययन करना है। एआई नाउ प्रतिवर्ष एक रिपोर्ट जारी करता है जिसमें एआई अनुसंधान की वर्तमान स्थिति और एआई के वर्तमान उपयोग के नैतिक निहितार्थों के बारे में अपने निष्कर्षों को प्रदर्शित किया जाता है। बीबीसी की रिपोर्ट के अनुसार, इस वर्ष की रिपोर्ट में एल्गोरिदमिक भेदभाव, एआई अनुसंधान में विविधता की कमी, और श्रम संबंधी मुद्दों जैसे विषयों पर चर्चा की गई है।

भावना पहचान, जिसे तकनीकी रूप से भावना-पहचान एल्गोरिदम कहा जाता है, एआई अनुसंधान का एक तेजी से बढ़ता क्षेत्र है। जो लोग निर्णय लेने के लिए इस प्रौद्योगिकी का उपयोग करते हैं, वे अक्सर दावा करते हैं कि सिस्टम माइक्रो-अभिव्यक्तियों, स्वर और शरीर की भाषा जैसे अन्य संकेतों के साथ-साथ व्यक्तियों की भावनात्मक स्थिति के बारे में विश्वसनीय जानकारी प्राप्त कर सकते हैं। एआई नाउ संस्थान नोट करता है कि प्रौद्योगिकी का उपयोग विभिन्न अनुप्रयोगों में किया जा रहा है, जैसे कि किसे नियुक्त करना है, बीमा की कीमतें निर्धारित करना, और यह जांचना कि छात्र कक्षा में ध्यान दे रहे हैं या नहीं।

प्रोफेसर केट क्रॉफोर्ड, एआई नाउ के सह-संस्थापक ने बताया कि अक्सर यह माना जाता है कि मानव भावनाओं को अपेक्षाकृत सरल मॉडल के साथ सटीक रूप से अनुमानित किया जा सकता है। क्रॉफोर्ड ने कहा कि कुछ कंपनियां अपने सॉफ्टवेयर के विकास के लिए पॉल एकमैन के काम पर आधारित हैं, जो एक मनोवैज्ञानिक हैं जिन्होंने अनुमान लगाया था कि चेहरे पर केवल छह प्रकार की मूल भावनाएं होती हैं। हालांकि, क्रॉफोर्ड नोट करते हैं कि एकमैन के सिद्धांत की शुरुआत के बाद से अध्ययनों से पता चला है कि चेहरे की अभिव्यक्तियों में बहुत अधिक परिवर्तनशीलता है और अभिव्यक्तियां स्थितियों और संस्कृतियों में आसानी से बदल सकती हैं।

“जबकि ये प्रौद्योगिकियां तैनात की जा रही हैं, बड़ी संख्या में अध्ययन यह दिखा रहे हैं कि लोगों के बीच भावना और चेहरे की अभिव्यक्ति के बीच संगत संबंध नहीं है,” क्रॉफोर्ड ने बीबीसी को बताया।

इस कारण से, एआई नाउ संस्थान तर्क देता है कि भावना पहचान का अधिकांश हिस्सा अविश्वसनीय सिद्धांतों और संदेहास्पद विज्ञान पर आधारित है। इसलिए, भावना पता लगाने वाले सिस्टम को तैनात नहीं किया जाना चाहिए जब तक कि अधिक शोध नहीं किया जाता है और “सरकारों को विशेष रूप से उच्च-जोखिम वाले निर्णय लेने की प्रक्रियाओं में भावना पहचान के उपयोग पर प्रतिबंध लगाना चाहिए”। एआई नाउ ने तर्क दिया कि हमें विशेष रूप से “संवेदनशील सामाजिक और राजनीतिक संदर्भों” में प्रौद्योगिकी का उपयोग बंद कर देना चाहिए, जिनमें रोजगार, शिक्षा और पुलिसिंग शामिल हैं।

कम से कम एक एआई-विकास कंपनी, जो भावना पहचान में माहिर है, एमटेक, सहमत है कि प्रौद्योगिकी के दुरुपयोग को रोकने के लिए नियमन होना चाहिए। एमटेक के संस्थापक, चार्ल्स एनडुका, ने बीबीसी को बताया कि जबकि एआई सिस्टम विभिन्न चेहरे की अभिव्यक्तियों को सटीक रूप से पहचान सकते हैं, अभिव्यक्ति से भावना तक का कोई सरल मानचित्र नहीं है। एनडुका ने चिंता व्यक्त की कि नियमन बहुत दूर तक जा सकता है और शोध को दबा सकता है, यह देखते हुए कि “यदि चीजें प्रतिबंधित होने जा रही हैं, तो यह बहुत महत्वपूर्ण है कि लोग बच्चे को नहाने के पानी के साथ न फेंकें”।

नेक्स्टवेब की रिपोर्ट के अनुसार, एआई नाउ ने एआई उद्योग के लिए आगे बढ़ने के लिए कई अन्य नीतियों और मानकों की सिफारिश की है।

एआई नाउ ने एआई उद्योग के लिए कार्यस्थलों को अधिक विविध बनाने की आवश्यकता पर प्रकाश डाला और कहा कि श्रमिकों को अपनी चिंताओं को व्यक्त करने का अधिकार दिया जाना चाहिए। तकनीकी श्रमिकों को यह अधिकार होना चाहिए कि वे जानें कि उनके प्रयासों का उपयोग हानिकारक या अनैतिक काम बनाने के लिए किया जा रहा है या नहीं।

एआई नाउ ने सिफारिश की कि विधायक स्वास्थ्य संबंधी एआई से प्राप्त किसी भी डेटा के उपयोग के लिए सूचित सहमति की आवश्यकता के लिए कदम उठाएं। इसके अलावा, यह सलाह दी गई कि डेटा गोपनीयता को अधिक गंभीरता से लिया जाना चाहिए और राज्यों को निजी और सार्वजनिक दोनों संस्थाओं को कवर करने वाले जैवमेट्रिक डेटा के लिए गोपनीयता कानूनों को डिजाइन करने का प्रयास करना चाहिए।

अंत में, संस्थान ने सलाह दी कि एआई उद्योग को वैश्विक रूप से सोचने और कार्य करने का प्रयास करना चाहिए, एआई के बड़े राजनीतिक, सामाजिक और पारिस्थितिक परिणामों को संबोधित करने का प्रयास करना चाहिए। यह सिफारिश की गई कि भौगोलिक विस्थापन और जलवायु पर एआई के प्रभाव के लिए एक महत्वपूर्ण प्रयास किया जाना चाहिए और सरकारों को एआई उद्योग के जलवायु प्रभाव को सार्वजनिक रूप से उपलब्ध कराना चाहिए।