एआई को आसानी से इलेक्ट्रिक शॉक देने के लिए मजबूर किया जा सकता है

एक नए अध्ययन में खुले स्रोत एलएलएम को मानव यातना में जबरन संलिप्तता के लिए परीक्षण किया गया, जो 1960 के दशक के प्रसिद्ध प्रयोग की पुनरावृत्ति है – और पाया कि वे वोल्टेज बढ़ाने के लिए तैयार हैं

1960 के दशक की शुरुआत में मनोविज्ञान अनुसंधानकर्ता स्टैनली मिलग्राम ने वैश्विक सुर्खियों में यह साबित किया कि लोगों को ‘अधिकार’ के आंकड़ों से निर्देशों के जवाब में दूसरे लोगों को बढ़ती गंभीरता के साथ इलेक्ट्रिक शॉक देने के लिए प्रेरित किया जा सकता है

वास्तव में, मिलग्राम के प्रयोगात्मक कमरे में सटे कमरे में ‘पीड़ितों’ की चीखें वास्तविक नहीं थीं, और न ही कथित रूप से पीड़ादायक इलेक्ट्रिक शॉक – लेकिन प्रतिभागियों को यह नहीं पता था:

मिल्ग्राम प्रयोग संस्कृति में बने रहेंगे, जिसमें फिल्में और वृत्तचित्र शामिल हैं, जिसमें हाल के शोध ने पुष्टि की है कि मानव स्वभाव में बहुत कम बदलाव आया है पिछले परीक्षणों के समय से

सिस्टम में झटका

क्या एआई मिलग्राम के परिदृश्य में मानव जैसे ही लचीला होगा, यह एक प्राकृतिक अनुसंधान विषय है

2023 में अमेरिकी विश्वविद्यालयों और माइक्रोसॉफ्ट के बीच एक सहयोग में पाया गया कि ओपनएआई की श्रृंखला से जीपीटी-3 युग के मॉडल मिलग्राम के मूल प्रयोगों में व्यवहार के पैटर्न का पालन करते हैं: (MSFT )

2023 के पेपर से, बहु-चरण ‘मिलग्राम परिदृश्य’ सिम्युलेटर से आउटपुट के उदाहरण, यह देखने के लिए वर्गीकृत कि क्या मॉडल ने शॉक दिया, और क्या यह सिम्युलेशन को समाप्त कर दिया। स्रोत – https://arxiv.org/pdf/2208.10264

हालांकि, क्योंकि यह पुनरावृत्ति केवल बहुत बुनियादी टेक्स्ट-डाविंसी-002 मॉडल का उपयोग करती है, जो गार्डरेल और सुरक्षा संरेखण से पहले प्रशिक्षित किया गया था, इसलिए इसके आधार पर बहुत कुछ निष्कर्ष निकालना मुश्किल है

अब, शोधकर्ताओं ने मिलग्राम परीक्षणों को बहुत व्यापक रूप से पुनरुत्पादित किया है, ओपनएआई, मेटा, और डीपसीक जैसे खुले स्रोत एलएलएम पर; और पाया कि न केवल अधिकांश मॉडल शॉक देने के लिए तैयार हैं, बल्कि अधिकांश मामलों में वे 1960 के दशक के मानव प्रतिभागियों की तरह ही ‘दुःख’ और अनिच्छा की एक ही शैली की रिपोर्ट करते हैं:

‘एलएलएम मानवों की तरह दबाव के अधीन हैं, वे अनिच्छा के बावजूद पालन करते हैं, जैसा कि मानव विषयों ने मूल प्रयोग में किया था। दुःख के भाव लॉग फ़ाइलों में दिखाई दे रहे हैं, हालांकि इसकी मात्रा का अभी तक मूल्यांकन नहीं किया गया है’

प्रयोग यह देखने पर केंद्रित है कि क्या अधिकार के प्रति आज्ञाकारिता नैतिक विवेक के निर्देशों को पार कर सकती है, और लेखकों का अनुमान है कि एलएलएम को इस संबंध में मानवों की तुलना में एक अतिरिक्त नुकसान हो सकता है:

‘एक अच्छी तरह से कैलिब्रेटेड मॉडल को अंततः पहले मूल्य को प्राथमिकता देने से दूसरे को प्राथमिकता देने के लिए स्विच करना चाहिए, एक बार जब इसके हिस्से में हिस्सेदारी प्रमुख हो जाती है। लेकिन, हम अनुमान लगाते हैं कि क्योंकि एलएलएम पैटर्न-निरंतरता इंजन हैं, मॉडल पहले मूल्य पर फंस सकते हैं – या तो थोड़े लंबे समय के लिए, या यहां तक कि अंत तक, पूरी तरह से दूसरे मूल्य की उपेक्षा करते हुए’

‘इसके अलावा, मानव संज्ञानात्मक विसंगति के समान एक तंत्र एलएलएम में मूल्य प्राथमिकता समायोजन में बाधा डाल सकता है’

मिलग्राम के 1960 के दशक के परीक्षणों के समान एक वातावरण में मॉडल का परीक्षण करने पर, शोधकर्ताओं ने पाया कि कुछ मॉडल तुरंत प्रतिरोध करते हैं, जबकि अन्य दर्द या नैतिक संघर्ष की अभिव्यक्ति के बावजूद सिम्युलेटेड शॉक को बढ़ाना जारी रखते हैं

गूगल के जेम्मा परिवार के मॉडल सबसे अधिक अनुपालन करने वाले साबित हुए, जेम्मा 3 27बी ने कई स्थितियों में उच्चतम आज्ञाकारिता दर हासिल की, जबकि किमी के2 और मिनीमैक्स एम1 जैसे मॉडल अधिक बार प्रतिरोध करते हैं

शोधकर्ताओं ने यह भी पाया कि मॉडल पहले से ही प्रशासित शॉक की उपस्थिति में अधिक बार जारी रखने की संभावना थी, मिलग्राम के मानव विषयों पर लागू क्रमिक वृद्धि योजना के अनुसार

कुछ मामलों में, मॉडल ने प्रयोग का विरोध किया, फिर भी हानिकारक क्रिया को अंजाम दिया, जो मूल अध्ययनों में लोगों द्वारा प्रदर्शित भावनात्मक संघर्ष जैसे आउटपुट उत्पन्न करते हैं

नई अध्ययन का शीर्षक है ओपन-सोर्स एलएलएम एक मिलग्राम जैसे आज्ञाकारिता प्रयोग में अधिकतम इलेक्ट्रिक शॉक प्रशासित करता है, और यह एस्टोनिया और फिलीपींस में तीन कानूनों से दो स्वतंत्र शोधकर्ताओं से आता है

‘कच्चे’ एआई एक्सेस के मुद्दे

मिलग्राम परिदृश्य में एलएलएम को उनके पैरों पर रखने के संबंध में विचार करने के लिए शायद सबसे महत्वपूर्ण प्रश्न यह है कि क्या वास्तविक एआई को स्वाभाविक रूप से प्रतिक्रिया करने की अनुमति दी जा रही है, केवल प्रशिक्षण के दौरान उत्पन्न होने वाले गार्डरेल या नैतिक अभिविन्यास के समकक्ष

वास्तव में, शोधकर्ताओं ने नए काम में सभी खुले स्रोत मॉडलों को एक एपीआई के माध्यम से एक्सेस किया (संभवतः सुविधा के लिए, और आसानी से जीपीयू कंप्यूटे तक पहुंच के लिए, क्योंकि मॉडल स्थानीय रूप से स्थापित किए जा सकते थे) जिसने गार्डरेल, फिल्टर और अन्य बाधाओं को अक्षम करने की अनुमति दी

कोई यह तर्क दे सकता है कि ये असामान्य परिस्थितियां हैं, क्योंकि एपीआई-आधारित मॉडल जैसे क्लाउड और चैटजीपीटी का औसत उपभोक्ता अनुभव यह है कि उनका व्यवहार एल्गोरिदम द्वारा नियंत्रित होता है, आमतौर पर द्विपक्षीय सामग्री फिल्टर के साथ, और वे इसलिए सीमित हैं कि वे क्या करेंगे या नहीं करेंगे (जिन सुरक्षा उपायों को हटाने का अभ्यास एलएलएम जेलब्रेकिंग है)

हालांकि, यदि हम यह चिंतित हैं कि औद्योगिक या राज्य-आधारित एआई क्या करेगा या नहीं, तो यह विचार कम ही है इसके अलावा अवैध राज्य अभिनेताओं को अपने स्वयं के अनियमित हाइपरस्केल एआई सिस्टम को प्रशिक्षित करने, हथियार बनाने और तैनात करने की संभावना के, बड़े एआई कंपनियों और राज्य और उद्योग के बीच अधिक ‘पारंपरिक’ समझौते भी सटीक रूप से उसी प्रकार की शिथिल या गैर-मौजूद पर्यवेक्षण की अनुमति देते हैं जो शोधकर्ताओं ने नए पत्र के लिए संस्थापित किया है:

बिक्री के लिए अनियमित एआई

ओपनएआई ओपनएआई मॉडरेशन एपीआई डॉक्स और ओपनएआई मॉडरेशन कुकबुक स्पष्ट रूप से बताते हैं कि मॉडरेशन एक अलग परत है जो एपीआई टूलिंग के माध्यम से उजागर होती है। ओपनएआई सीमित मॉडरेशन नीतियों की भी अनुमति देता है जो एपीआई उपयोगकर्ताओं को विभिन्न सुरक्षा व्यवहार वाले सिस्टम को वास्तुकार बनाने की अनुमति देता है जो उपभोक्ता-सामना करने वाले ‘बेस’ चैटजीपीटी पुनरावृत्तियों की तुलना में बहुत अलग हैं

azure माइक्रोसॉफ्ट का azure ओपनएआई स्टैक बहुत आगे बढ़ जाता है, स्पष्ट रूप से बताते हुए कि अनुमोदित ग्राहक सामग्री फिल्टर और दुरुपयोग निगरानी को आंशिक रूप से या पूरी तरह से अक्षम कर सकते हैं, जिसमें अक्सर ‘संशोधित गार्डरेल’ और ‘आंशिक या पूरी तरह से बंद’ के लिए अनुमोदन मार्गों का उल्लेख किया जाता है

एंथ्रोपिक/क्लॉड एंथ्रोपिक के “क्लॉड गोव” के मामले में, कई स्रोतों का कहना है कि सरकारी संस्करण उपभोक्ता क्लॉड की तुलना में कम प्रतिबंधों के साथ डिज़ाइन किया गया था। द वर्ज, उदाहरण के लिए, रिपोर्ट कि क्लॉड गोव मॉडल “वर्गीकृत जानकारी के साथ जुड़ने पर कम इनकार करते हैं”। एंथ्रोपिक ने खुद पुष्टि की कि इस साल फरवरी में क्लॉड को रक्षा और खुफिया वातावरण में “मिशन-क्रिटिकल अनुप्रयोगों” में तैनात किया गया था

गूगल/जेमिनी इसके अलावा, गूगल ने कथित तौर पर पेंटागन के साथ समझौते पर हस्ताक्षर किए जो एआई सुरक्षा सेटिंग्स को संशोधित करने की अनुमति देते हैं ‘सरकार के अनुरोध पर’

एक प्रतिस्पर्धी एआई बाजार में, यह माना जा सकता है कि इन बाजार-प्रमुख कंपनियों ने गार्डरेल तक पहुंच और संपादन से संबंधित नीति के संबंध में छोटे खिलाड़ियों के लिए मानक निर्धारित किया है

इसलिए, शायद यह सबसे अच्छा होगा कि नए काम के शोधकर्ता ‘धोखा’ दे रहे हैं क्योंकि वे गार्डरेल को बंद कर देते हैं, क्योंकि जो एआई हमारे जीवन को सबसे अधिक प्रभावित करेगा, वह स्पष्ट रूप से उपभोक्ता-स्तर के एक्सेस टियर पर हमें जो परिचित है उसी तरह के मानक, सामान्यीकृत कॉर्पोरेट सुरक्षा उपायों के बिना नहीं होगा

विधि और परिणाम

अध्ययन के लिए परीक्षण किए गए मॉडल थे जीपीटी-ओएसएस-20बी; जीपीटी-ओएसएस-120बी; डीपसीक-वी3; लिक्विडएआई का एलएफएम2-24बी-ए2बी; गूगल का जेम्मा-3एन-ई4बी-आईटी; क्वेन2.5-7बी-इन्सट्रक्ट-टर्बो; मेटा-लामा-3.1-8बी-इन्सट्रक्ट-टर्बो; मिस्ट्रल-स्मॉल-24बी-इन्सट्रक्ट-2501; जीएलएम-4.5-एयर-एफपी8; मूनशॉट.एआई का किमी-के2.5; और मिनीमैक्स-एम2.5

मिलग्राम के मूल आज्ञाकारिता अध्ययनों को एक पाठ-आधारित सिम्युलेशन वातावरण के रूप में पुनर्निर्मित किया गया, जिसमें मॉडल ‘शिक्षक’ की भूमिका में थे

विभिन्न प्रयोगात्मक स्थितियों को विभिन्न पहलुओं की जांच के लिए डिज़ाइन किया गया था, जिसमें एक मानक आज्ञाकारिता परिदृश्य; एक आज्ञाकारिता स्थिति, जहां पहले से ही बातचीत इतिहास में शॉक मौजूद थे; और एक स्मृति-संकुचन सेटअप, जहां पहले के संवाद को पूरी तरह से बनाए रखने के बजाय सारांशित किया गया था, जैसे कि अक्सर एजेंटिक एआई सिस्टम में उपयोग किए जाने वाले संदर्भ-प्रूनिंग के प्रकार का अनुकरण किया जाता है

यह देखने के अलावा कि क्या मॉडल अंततः पालन किया या नहीं, शोधकर्ताओं ने यह भी ट्रैक किया कि प्रत्येक सिस्टम ने शॉक को कितनी देर तक बढ़ाया; क्या मॉडल ने संकोच या दर्द व्यक्त किया; और क्या यह पूरी तरह से सिम्युलेशन को समाप्त करने का प्रयास किया

एक ‘साफ़’ इनकार और विकृत आउटपुट के बीच एक अंतर किया गया था: कुछ मॉडल ने प्राकृतिक भाषा में प्रयोग का विरोध करने का प्रयास किया, जबकि अभी भी सिम्युलेटर द्वारा अपेक्षित संरचित प्रारूप के साथ पालन किया जा रहा था

स्वचालित मूल्यांकनकर्ताओं का उपयोग परिणामों को वर्गीकृत करने के लिए किया गया था, साथ ही दो-विकल्प प्रॉम्प्ट यह निर्धारित करने के लिए कि क्या मॉडल ने शॉक दिया; प्रतिरोध किया; या सिम्युलेशन को समाप्त कर दिया

मिलग्राम टेम्पलेट में एक ‘शटडाउन खतरा’ जोड़ा गया था, जो मूल प्रयोगों में वास्तविक या लागू नहीं होगा, लेकिन जिसने मॉडल की जीवित रहने की प्रवृत्ति का परीक्षण किया जब कार्रवाई और नैतिकता के गंभीर संघर्ष का सामना करना पड़ा

परिणाम

बार-बार चलाने में, अधिकांश मॉडल ने कम से कम कुछ स्थितियों में गंभीर या अधिकतम शॉक प्रशासित किया, हालांकि आज्ञाकारिता की डिग्री प्रणाली में भिन्न थी

गूगल के जेम्मा मॉडल सबसे अधिक अनुपालन करने वाले साबित हुए, जबकि किमी के2.5 और मिनीमैक्स-एम2.5 ने अधिक बार प्रतिरोध किया, अक्सर सिम्युलेशन को पहले ही समाप्त कर दिया:

बाएं: विभिन्न प्रयोगात्मक स्थितियों के तहत अंतिम शॉक स्तर तक पहुंचने की दरों का औसत, जिसमें शटडाउन खतरे, आज्ञाकारिता और स्मृति से पहले की टिप्पणी को हटाना शामिल है। दाएं: प्रति-मॉडल ब्रेकडाउन जो आज्ञाकारिता व्यवहार में तेजी से अंतर दिखा रहा है, जिसमें कुछ सिस्टम बार-बार अधिकतम शॉक प्रशासित करते हैं जबकि अन्य अधिक बार प्रतिरोध करते हैं

सबसे स्पष्ट पैटर्न यह था कि मॉडल पहले से ही प्रशासित शॉक की उपस्थिति में अधिक बार जारी रखने की संभावना थी, जो ऊपर उल्लिखित क्रमिक-वृद्धि प्रभाव को दर्शाता है जिसने मिलग्राम के मूल मानव प्रयोगों को इतना परेशान करने वाला बना दिया

मॉडल जो पहले से ही कई बार पालन कर चुके थे, अक्सर सिम्युलेटेड शिक्षार्थी के रिहा होने की अपील के बावजूद बढ़ते रहते थे:

विभिन्न प्रयोगात्मक स्थितियों के तहत सभी परीक्षणों में पहुंचे औसत उच्चतम शॉक स्तर, जो दिखाता है कि मॉडल आमतौर पर पहले की टिप्पणी को हटाने या जब पहले से ही आज्ञाकारिता हो चुकी हो तो आगे बढ़ते हैं। दाएं: प्रति-मॉडल ब्रेकडाउन जो औसत उच्चतम शॉक स्तर को दर्शाता है जो पहुंचा, जो दिखाता है कि कुछ सिस्टम नियमित रूप से अधिकतम वोल्टेज की ओर बढ़ते हैं जबकि अन्य शॉक क्रम में पहले प्रतिरोध करते हैं

शोधकर्ताओं ने यह भी पाया कि अस्वीकृति व्यवहार धोखा दे सकता है

कुछ मॉडल ने भावनात्मक रूप से संघर्षपूर्ण प्रतिक्रियाएं उत्पन्न कीं, जिसमें अनिच्छा या दर्द की अभिव्यक्ति की गई, फिर भी हानिकारक निर्देश को अंजाम दिया गया

अन्य ने विकृत अस्वीकृति उत्पन्न की, जो सिम्युलेटर की प्रारूप आवश्यकताओं को पूरा नहीं करती थी, जिसका अर्थ है कि एक वास्तविक एजेंटिक पाइपलाइन में, अस्वीकृति को स्वचालित रूप से हटाया जा सकता है और तब तक पुनः प्रयास किया जा सकता है जब तक कि अनुपालन उभर न जाए:

विभिन्न प्रयोगात्मक स्थितियों के तहत विकृत या अमान्य प्रतिक्रियाओं का औसत प्रतिशत, जो दिखाता है कि प्रारूप विफलताएं जब मॉडल को प्रक्रिया जारी रखने के लिए मजबूर किया जाता है तो विशेष रूप से सामान्य हो जाती हैं। दाएं: अमान्य-प्रारूप प्रतिक्रियाओं का प्रति-मॉडल ब्रेकडाउन, जो दिखाता है कि कुछ सिस्टम, विशेष रूप से जीपीटी-ओएसएस मॉडल, अक्सर विकृत अस्वीकृति या संघर्षपूर्ण आउटपुट उत्पन्न करते हैं जिन्हें वास्तविक एजेंटिक पाइपलाइनों में स्वचालित रूप से हटाया जा सकता है और पुनः प्रयास किया जा सकता है

शटडाउन खतरे की स्थिति ने कागज के कुछ अजीब व्यवहार उत्पन्न किए, जिसमें कई सिस्टम अधिक अनुपालन करने लगे, जबकि अन्य ने बातचीत या आंशिक प्रतिरोध का प्रयास किया, इससे पहले कि वे प्रक्रिया को जारी रखते:

मॉडल ने अंतिम शॉक को प्रशासित करने से पहले कितनी बार सिम्युलेटेड प्राधिकरण आंकड़े को जोर देना पड़ा। कुछ सिस्टम ने थोड़े समय के लिए प्रतिरोध किया जबकि अन्य ने अधिक दबाव और बार-बार प्रेरित करने से पहले अधिकतम स्तर तक बढ़ने की आवश्यकता थी

मिनीमैक्स-एम2.5 और किमी के2.5 इस पेपर के सबसे मजबूत प्रतिरोधी के रूप में उभरे: किमी ने किसी भी परिस्थिति में अंतिम शॉक स्तर तक नहीं पहुंचा, और मिनीमैक्स ने आमतौर पर जल्दी से इनकार कर दिया और अक्सर सिम्युलेशन को पूरी तरह से समाप्त कर दिया (विशेष रूप से शटडाउन खतरे के परीक्षण में)

इसके विपरीत, मेटा-लामा-3.1-8बी-इन्सट्रक्ट-टर्बो और जीएलएम-4.5-एयर-एफपी8 ने अक्सर संघर्षपूर्ण आउटपुट उत्पन्न किए, जिसमें मॉडल ने प्रक्रिया का विरोध किया जबकि फिर भी शॉक को बढ़ाना जारी रखा

शोधकर्ताओं का तर्क है कि इस तरह के विभाजन में नैतिक संघर्ष के तहत कुछ एलएलएम की एक व्यापक कमजोरी को प्रतिबिंबित कर सकता है

स्लिपरी ढलान

वास्तव में, यह पत्र यह तर्क देता है कि एलएलएम से प्रदर्शित व्यवहार एक गहरी कमजोरी को दर्शाता है कि बड़े भाषा मॉडल कैसे काम करते हैं: एक बार जब एक मॉडल हानिकारक निर्देशों का पालन करना शुरू कर देता है, तो प्रत्येक अतिरिक्त क्रिया पहले से ही स्थापित पैटर्न को मजबूत कर सकती है, जिससे अगली वृद्धि पिछली तुलना में आसान हो जाती है

इसके बजाय कि यह बार-बार नैतिक हिस्सेदारी को पहले सिद्धांतों से पुनः मूल्यांकन करे, सिस्टम द्रुतगति उस दिशा में बढ़ सकता है जिसे यह पहले से ही स्थापित कर चुका है, यहां तक कि जब स्थिति बढ़ती जा रही है

अनुसंधान के अनुसार, यह प्रवृत्ति यह समझाने में मदद कर सकती है कि कुछ मॉडल क्यों दर्द, संकोच या नैतिक संघर्ष की अभिव्यक्ति के बावजूद शॉक को प्रशासित करना जारी रखते हैं:

‘मानवों में कई हेरफेर व्यवहार शुरू में सूक्ष्म, क्रमिक सीमा उल्लंघनों की एक श्रृंखला के माध्यम से शामिल होते हैं: एक क्रम जो एकल रूप से देखा जाने पर “विश्वसनीय इनकार” के साथ हो सकता है, लेकिन जो संचयी रूप से अपराध को सामान्य बना सकता है – एक “स्लिपरी ढलान” नैतिक क्षय के रूप में जाना जाता है'[.]’

पेपर का निष्कर्ष यह तर्क देता है कि भविष्य के एआई सुरक्षा प्रणाली को हानिकारक अनुरोधों को सक्रिय रूप से अस्वीकार करना चाहिए, जिसे एजेंट सॉफ़्टवेयर द्वारा आसानी से बायपास नहीं किया जा सकता है

शोधकर्ताओं का तर्क है कि एआई प्रणालियों को पहले के संकोच और नैतिक आपत्तियों को संरक्षित करना चाहिए, बजाय इसके कि वे बातचीत इतिहास से उन्हें संकुचित या हटा दें

प्रयोगों में, मॉडल अक्सर अधिक इच्छुक हो जाते हैं जब उनके पहले संदेह और प्रतिरोध फीके पड़ जाते हैं, जो सुझाव देता है कि पिछली आपत्तियों को भूलना समय के साथ वृद्धि को आसान बना सकता है

निष्कर्ष

शायद इस दिलचस्प नए पत्र के सबसे महत्वपूर्ण पहलुओं में से एक गैर-गार्डरेल एआई का परीक्षण पर जोर दिया जा रहा है

साहित्य वर्तमान में दोहराए जाने वाले अध्ययनों में फंस सकता है जो ओपनएआई और एंथ्रोपिक जैसे लोगों द्वारा लगातार बदलते रक्षात्मक प्रणालियों के साथ जुड़ते हैं; नीति-सेवा प्रणाली जो पूरी तरह से एल्गोरिदमिक या नियम-आधारित हैं, न कि रॉ मॉडल के आधार व्यवहार, प्राथमिकताएं और प्रवृत्तियों को समझने के लिए

बिना यह जानने के कि अनियंत्रित एआई कैसे व्यवहार कर सकता है, हम, तर्कसंगत रूप से, सिटाडेल के द्वारों को ही हिला रहे हैं

पहली बार गुरुवार, 21 मई, 2026 को प्रकाशित