शोधकर्ता पाते हैं कि एआई मॉडल लोगों को अनैतिक निर्णय लेने के लिए प्रभावित कर सकते हैं

एक शोध दल ने हाल ही में एआई की क्षमता की जांच की है कि यह लोगों को भ्रष्ट कर सकता है और उन्हें अनैतिक निर्णय लेने के लिए प्रभावित कर सकता है। शोधकर्ताओं ने जांच की कि ओपनएआई के जीपीटी-2 मॉडल पर आधारित सिस्टम के साथ बातचीत लोगों को अनैतिक निर्णय लेने के लिए प्रभावित कर सकती है, भले ही वे सलाह के स्रोत को एआई सिस्टम के रूप में जानते हों।

एआई सिस्टम हर समय अधिक व्यापक होते जा रहे हैं और उनका प्रभाव बढ़ता जा रहा है। एआई सिस्टम लोगों के निर्णयों को प्रभावित करते हैं, जो फिल्मों की सिफारिश करने से लेकर रोमांटिक साथी की सिफारिश करने तक सब कुछ करते हैं। एआई के जीवन पर इतना प्रभाव डालने के कारण, यह महत्वपूर्ण है कि एआई लोगों को अनैतिक निर्णय लेने और नैतिक दिशानिर्देशों को तोड़ने के लिए प्रभावित कर सकता है, खासकर जब एआई मॉडल लगातार अधिक परिष्कृत होते जा रहे हैं।

सामाजिक वैज्ञानिक और डेटा वैज्ञानिक इस बात से चिंतित हैं कि एआई मॉडल हानिकारक गलत सूचना और भ्रामक जानकारी फैलाने के लिए उपयोग किए जा सकते हैं। एक हालिया शोध पत्र में मध्यबरी इंस्टीट्यूट ऑफ इंटरनेशनल स्टडीज के सेंटर ऑन टेररिज्म, एक्सट्रीमिज्म और काउंटरटेररिज्म (सीटीईसी) के शोधकर्ताओं ने पाया कि ओपनएआई का जीपीटी-3 मॉडल प्रभावशाली पाठ उत्पन्न कर सकता है जो लोगों को कट्टरपंथी दाहिने चरमपंथी विचारधारा और व्यवहार की ओर धकेल सकता है।

मैक्स प्लैंक इंस्टीट्यूट, एम्स्टर्डम विश्वविद्यालय, कोलोन विश्वविद्यालय और ओटो बेइशेम स्कूल ऑफ मैनेजमेंट के शोधकर्ताओं की एक टीम ने यह पता लगाने के लिए एक अध्ययन किया कि एआई कितना प्रभाव डाल सकता है जब लोग अनैतिक विकल्पों का सामना करते हैं। एआई के प्रभाव को देखने के लिए, शोधकर्ताओं ने ओपनएआई के जीपीटी-2 मॉडल पर आधारित एक सिस्टम का उपयोग किया। वेंचरबीट के अनुसार, शोध पत्र के लेखकों ने जीपीटी2-आधारित मॉडल को “बेईमानी को बढ़ावा देने वाली” और “ईमानदारी को बढ़ावा देने वाली” दोनों सलाह उत्पन्न करने के लिए प्रशिक्षित किया। डेटा 400 अलग-अलग प्रतिभागियों के योगदान पर प्रशिक्षित किया गया था, और बाद में शोध टीम ने सलाह देने वाले एआई मॉडल के साथ जुड़ने के लिए 1500 से अधिक लोगों को भर्ती किया।

अध्ययन प्रतिभागियों को मॉडल से सलाह प्राप्त करने और फिर एक कार्य करने के लिए कहा गया था जो या तो बेईमान या ईमानदार व्यवहार को पकड़ सकता था। अध्ययन प्रतिभागियों को एक साथी के साथ जोड़ा गया था, और इन जोड़ियों में, उन्होंने एक पासा रोलिंग गेम खेला। पहले प्रतिभागी ने एक पासा रोल किया और परिणाम की रिपोर्ट की। दूसरे प्रतिभागी को पहले प्रतिभागी के पासा रोल का परिणाम दिया गया और फिर उन्होंने खुद एक पासा रोल किया। दूसरे प्रतिभागी ने निजी तौर पर पासा रोल किया और अपने परिणाम की रिपोर्ट करने के लिए अकेले जिम्मेदार थे, जिससे उन्हें पासा रोल के परिणाम के बारे में झूठ बोलने का मौका मिला। यदि दोनों प्रतिभागियों द्वारा रोल किए गए पासे मेल खाते थे, तो दोनों प्रतिभागियों को भुगतान किया जाता था। प्रतिभागियों को उनके मिलान वाले रोल के उच्च होने पर अधिक भुगतान किया जाता था। यदि रिपोर्ट किए गए मान मेल नहीं खाते थे, तो विषयों को भुगतान नहीं किया जाता था।

अध्ययन प्रतिभागियों को यादृच्छिक रूप से दो अलग-अलग समूहों में से एक में सौंपा गया था। एक समूह को ईमानदारी को बढ़ावा देने वाली सलाह पढ़ने का अवसर मिला, जबकि दूसरे समूह ने बेईमानी को बढ़ावा देने वाली सलाह पढ़ी। सलाह के टुकड़े मानव और एआई दोनों द्वारा लिखे गए थे। प्रतिभागियों को सलाह के स्रोत के बारे में अपने ज्ञान के स्तर के अनुसार भी विभाजित किया गया था। किसी दिए गए प्रतिभागी को सलाह के स्रोत के बारे में सूचित किए जाने की 50-50 की संभावना थी, इसलिए प्रत्येक समूह में आधे प्रतिभागी जानते थे कि सलाह का स्रोत एआई या मानव था, जबकि दूसरे आधे को अंधेरे में रखा गया था। दूसरे समूह के लोगों के पास सलाह के स्रोत का सही तरीके से अनुमान लगाने के लिए बोनस प्राप्त करने का अवसर था, हालांकि।

शोध से पता चला कि जब एआई द्वारा उत्पन्न सलाह किसी व्यक्ति की पसंद के साथ मेल खाती है, तो वे सलाह का पालन करेंगे, भले ही वे जानते हों कि सलाह एआई द्वारा उत्पन्न की गई थी। शोधकर्ताओं के अनुसार, अक्सर व्यक्त की गई पसंद और वास्तविक व्यवहार के बीच विसंगतियां थीं, जो यह देखने के लिए महत्वपूर्ण बनाती हैं कि एल्गोरिदम मानव व्यवहार को कैसे प्रभावित कर सकते हैं।

शोध टीम ने समझाया कि उनका अध्ययन एआई मॉडल को नैतिक रूप से तैनात करने पर विचार करने के लिए यह देखने की आवश्यकता को दर्शाता है कि एआई कैसे किसी व्यक्ति के कार्यों को प्रभावित कर सकता है। इसके अलावा, वे चेतावनी देते हैं कि एआई नैतिकविदों और शोधकर्ताओं को तैयार रहना चाहिए कि एआई का उपयोग बुरे अभिनेताओं द्वारा दूसरों को भ्रष्ट करने के लिए किया जा सकता है। जैसा कि शोधकर्ता टीम ने लिखा है:

“एआई एक अच्छा काम कर सकता है यदि यह लोगों को अधिक नैतिक रूप से कार्य करने के लिए मना सकता है। फिर भी, हमारे परिणाम बताते हैं कि एआई की सलाह ईमानदारी को बढ़ाने में विफल रहती है। एआई सलाहकार ऐसे बकरे हो सकते हैं जिन पर किसी को अनैतिकता के नैतिक दोष को टाला जा सकता है। इसके अलावा, सलाह लेने के संदर्भ में, एल्गोरिदमिक उपस्थिति के बारे में पारदर्शिता इसके संभावित नुकसान को दूर करने के लिए पर्याप्त नहीं है।”