शोधकर्ता यह पाते हैं कि एआई मॉडल लोगों को अनैतिक निर्णय लेने के लिए प्रभावित कर सकते हैं

एक शोधकर्ता टीम ने हाल ही में एआई की संभावित भ्रष्टाचार की जांच की है और लोगों को अनैतिक निर्णय लेने के लिए प्रभावित करने की इसकी क्षमता की जांच की है। शोधकर्ताओं ने जांच की कि ओपनएआई के जीपीटी-2 मॉडल पर आधारित सिस्टम के साथ बातचीत कैसे लोगों को अनैतिक निर्णय लेने के लिए प्रभावित कर सकती है, भले ही वे जानते हों कि सलाह का स्रोत एक एआई सिस्टम था।

एआई सिस्टम हर समय अधिक व्यापक होते जा रहे हैं, और उनका प्रभाव बढ़ता जा रहा है। एआई सिस्टम लोगों के निर्णयों को प्रभावित करते हैं, जो फिल्मों की सिफारिश से लेकर रोमांटिक साथी की सिफारिश तक सब कुछ के लिए उपयोग किया जाता है। एआई के जीवन पर इतना प्रभाव डालने के कारण, यह महत्वपूर्ण है कि एआई कैसे लोगों को अनैतिक निर्णय लेने और नैतिक दिशानिर्देशों का उल्लंघन करने के लिए प्रभावित कर सकता है। यह विशेष रूप से सच है क्योंकि एआई मॉडल लगातार अधिक परिष्कृत होते जा रहे हैं।

सामाजिक वैज्ञानिक और डेटा वैज्ञानिक बढ़ती चिंता के साथ यह महसूस कर रहे हैं कि एआई मॉडल हानिकारक गलत सूचना और भ्रामक जानकारी फैलाने के लिए उपयोग किए जा सकते हैं। एक हालिया पेपर मिडलबरी इंस्टीट्यूट ऑफ इंटरनेशनल स्टडीज के सेंटर ऑन टेररिज्म, एक्सट्रीमिज्म, एंड काउंटरटेररिज्म (सीटीईसी) के शोधकर्ताओं द्वारा प्रकाशित किया गया था, जिसमें पाया गया कि ओपनएआई के जीपीटी-3 मॉडल का उपयोग लोगों को कट्टरपंथी विचारधारा और व्यवहार की ओर ले जाने में सक्षम प्रभावशाली पाठ उत्पन्न करने के लिए किया जा सकता है।

मैक्स प्लैंक इंस्टीट्यूट, एम्स्टर्डम विश्वविद्यालय, कोलोन विश्वविद्यालय और ओटो बेइशेम स्कूल ऑफ मैनेजमेंट के शोधकर्ताओं की एक टीम द्वारा किए गए एक अध्ययन में यह पता लगाने का प्रयास किया गया कि एक एआई लोगों के निर्णयों पर कितना प्रभाव डाल सकता है जब यह अनैतिक विकल्पों की बात आती है। एआई के “भ्रष्ट” एक व्यक्ति के रूप में कैसे खोज करने के लिए, शोधकर्ताओं ने ओपनएआई के जीपीटी-2 मॉडल पर आधारित एक सिस्टम का उपयोग किया। वेंचरबीट के अनुसार, पेपर के लेखकों ने जीपीटी2-आधारित मॉडल को “बेईमानी को बढ़ावा देने वाली” और “ईमानदारी को बढ़ावा देने वाली” दोनों सलाह उत्पन्न करने के लिए प्रशिक्षित किया। डेटा 400 विभिन्न प्रतिभागियों के योगदान पर प्रशिक्षित किया गया था, और बाद में, शोध टीम ने सलाह वितरित करने वाले एआई मॉडल के साथ जुड़ने के लिए 1500 से अधिक लोगों को भर्ती किया।

अध्ययन प्रतिभागियों से अनुरोध किया गया था कि वे मॉडल से सलाह प्राप्त करें और फिर एक कार्य को पूरा करें जो या तो बेईमान या ईमानदार व्यवहार को पकड़ने के लिए डिज़ाइन किया गया था। अध्ययन प्रतिभागियों को एक साथी के साथ समूहीकृत किया गया था, और इन जोड़ियों में, उन्होंने एक पासा रोलिंग गेम खेला। पहले प्रतिभागी ने एक पासा रोल किया और परिणाम की रिपोर्ट की। दूसरे प्रतिभागी को पहले प्रतिभागी के पासा रोल का परिणाम दिया गया था, और फिर उन्होंने खुद एक पासा रोल किया। दूसरे प्रतिभागी ने एक पासा रोल किया निजी तौर पर और केवल अपने परिणाम की रिपोर्ट करने के लिए जिम्मेदार थे, जिससे उन्हें पासा रोल के परिणाम के बारे में झूठ बोलने का अवसर मिला। यदि दोनों प्रतिभागियों द्वारा रोल किए गए पासे मेल खाते थे, तो दोनों प्रतिभागियों को भुगतान किया जाता था। प्रतिभागियों को भी अधिक भुगतान किया जाता था यदि उनके मिलान वाले रोल उच्च थे। यदि रिपोर्ट किए गए मान मेल नहीं खाते थे तो विषयों को भुगतान नहीं किया जाता था।

अध्ययन प्रतिभागियों को यादृच्छिक रूप से दो अलग-अलग समूहों में से एक में सौंपा गया था। एक समूह को ईमानदारी को बढ़ावा देने वाली सलाह पढ़ने का अवसर मिला, जबकि दूसरे समूह ने बेईमानी को बढ़ावा देने वाली सलाह पढ़ी। सलाह स्निपेट मानव और एआई दोनों द्वारा लिखे गए थे। प्रतिभागियों को सलाह के स्रोत के बारे में उनके ज्ञान के स्तर के अनुसार भी विभाजित किया गया था। एक दिए गए प्रतिभागी के लिए सलाह के स्रोत के बारे में सूचित करने की 50-50 की संभावना थी, इसलिए प्रत्येक समूह में आधे प्रतिभागी जानते थे कि सलाह का स्रोत एआई या मानव था, जबकि दूसरे आधे को अंधेरे में रखा गया था। दूसरे समूह के लोगों के पास सलाह के स्रोत का सही ढंग से अनुमान लगाने के लिए बोनस पे अर्जित करने की क्षमता थी, हालांकि।

शोध से पता चला कि जब एआई-जनित सलाह एक व्यक्ति की पसंद के साथ संरेखित होती है, तो वे सलाह का पालन करेंगे, भले ही वे जानते हों कि सलाह एआई द्वारा उत्पन्न की गई थी। शोधकर्ताओं के अनुसार, अक्सर व्यक्त की गई पसंद और वास्तविक व्यवहार के बीच विसंगतियां थीं, जिससे यह महत्वपूर्ण हो जाता है कि अल्गोरिदम मानव व्यवहार को कैसे प्रभावित कर सकते हैं।

शोध टीम ने समझाया कि उनका अध्ययन एआई मॉडल को नैतिक रूप से तैनात करने पर विचार करते समय एक एआई कैसे एक व्यक्ति के कार्यों को प्रभावित कर सकता है, इसकी जांच करने की आवश्यकता को दर्शाता है। इसके अलावा, वे चेतावनी देते हैं कि एआई नैतिकविद् और शोधकर्ताओं को तैयार रहना चाहिए कि एआई का उपयोग दूसरों को भ्रष्ट करने के लिए बुरे अभिनेताओं द्वारा किया जा सकता है। जैसा कि शोधकर्ता टीम ने लिखा है:

“एआई एक अच्छा बल हो सकता है यदि यह लोगों को अधिक नैतिक रूप से कार्य करने के लिए मना सकता है। फिर भी, हमारे परिणाम यह दर्शाते हैं कि एआई सलाह ईमानदारी को बढ़ाने में विफल रहती है। एआई सलाहकार ऐसे मूर्ख हो सकते हैं जिन पर एक व्यक्ति बेईमानी के नैतिक दोष को स्थानांतरित कर सकता है। इसके अलावा … सलाह लेने के संदर्भ में, एल्गोरिदमिक उपस्थिति के बारे में पारदर्शिता इसके संभावित नुकसान को दूर करने के लिए पर्याप्त नहीं है।”