परप्लेक्सिटी एआई “अनसेंसर्ड” डीपसीक आर1: कौन तय करता है एआई की सीमाएं?

एक ऐसे कदम में, जिसने कई लोगों का ध्यान आकर्षित किया है, परप्लेक्सिटी एआई ने एक लोकप्रिय ओपन-सोर्स भाषा मॉडल का एक नया संस्करण जारी किया है जो निर्मित चीनी सेंसरशिप को हटा देता है। इस संशोधित मॉडल, जिसे आर1 1776 (एक नाम जो स्वतंत्रता की भावना को दर्शाता है) कहा जाता है, चीनी विकसित डीपसीक आर1 पर आधारित है। मूल डीपसीक आर1 ने अपनी मजबूत तर्क क्षमताओं के लिए ध्यान आकर्षित किया – कथित तौर पर शीर्ष-स्तरीय मॉडलों के साथ प्रतिस्पर्धा करने वाली क्षमताओं के साथ, लेकिन यह एक महत्वपूर्ण सीमा के साथ आया था: यह कुछ संवेदनशील विषयों पर प्रतिक्रिया देने से इनकार कर दिया।

यह क्यों महत्वपूर्ण है?

यह एआई सर्विलांस, पूर्वाग्रह, खुलापन, और एआई प्रणालियों में भू-राजनीति की भूमिका के बारे में महत्वपूर्ण प्रश्न उठाता है। यह लेख यह पता लगाने की कोशिश करता है कि परप्लेक्सिटी ने वास्तव में क्या किया, सेंसरशिप को हटाने के परिणाम, और यह कैसे एआई पारदर्शिता और सेंसरशिप के बारे में बड़े चर्चा में फिट बैठता है।

क्या हुआ: डीपसीक आर1 अनसेंसर्ड

डीपसीक आर1 एक ओपन-वेट लार्ज लैंग्वेज मॉडल है जो चीन में उत्पन्न हुआ औरअपनी उत्कृष्ट तर्क क्षमताओं के लिए प्रसिद्ध हो गया – यहां तक कि शीर्ष-स्तरीय मॉडलों के प्रदर्शन को पार करने वाली क्षमताओं के साथ, जबकि यह अधिक गणनात्मक रूप से कुशल था। हालांकि, उपयोगकर्ताओं ने जल्द ही एक विशेषता को देखा: जब प्रश्न चीन में संवेदनशील विषयों (जैसे कि राजनीतिक विवाद या इतिहास की घटनाएं जो अधिकारियों द्वारा वर्जित मानी जाती हैं) पर छूते थे, तो डीपसीक आर1 सीधे उत्तर नहीं देता था। इसके बजाय, यह कैन्ड, राज्य-अनुमोदित बयानों के साथ प्रतिक्रिया करता था या सीधे तौर पर इनकार कर देता था, जो चीनी सरकार के सेंसरशिप नियमों को दर्शाता था। यह निर्मित पूर्वाग्रह मॉडल की उपयोगिता को सीमित करता था जो उन विषयों पर खुली या सूक्ष्म चर्चा चाहते थे।

परप्लेक्सिटी एआई का समाधान मॉडल को एक व्यापक पोस्ट-ट्रेनिंग प्रक्रिया के माध्यम से “डीसेंसर” करना था। कंपनी ने 40,000 बहुभाषी प्रॉम्प्ट्स का एक बड़ा डेटासेट इकट्ठा किया जो डीपसीक आर1 ने पहले सेंसर या उत्तरदायित्वपूर्ण रूप से उत्तर दिया था। मानव विशेषज्ञों की मदद से, उन्होंने लगभग 300 संवेदनशील विषयों की पहचान की जहां मूल मॉडल पार्टी लाइन का पालन करता था। प्रत्येक ऐसे प्रॉम्प्ट के लिए, टीम ने विभिन्न भाषाओं में तथ्यात्मक, सुसंगत उत्तर तैयार किए। इन प्रयासों ने एक बहुभाषी सेंसरशिप पता लगाने और सुधार प्रणाली में योगदान दिया, जो मूल रूप से मॉडल को सिखाता है कि जब यह राजनीतिक सेंसरशिप लागू कर रहा है और इसके बजाय एक सूचित उत्तर के साथ प्रतिक्रिया करने के लिए। इस विशेष फाइन-ट्यूनिंग (जिसे परप्लेक्सिटी ने “आर1 1776” कहा ताकि स्वतंत्रता की थीम को उजागर किया जा सके) के बाद, मॉडल को खुले तौर पर उपलब्ध कराया गया था। परप्लेक्सिटी दावा करती है कि उसने डीपसीक आर1 के उत्तरों से चीनी सेंसरशिप फिल्टर और पूर्वाग्रहों को हटा दिया है, बिना इसकी मूल क्षमताओं को बदले।

आर1 1776 पूर्ववर्ती वर्जित प्रश्नों पर बहुत अलग व्यवहार करता है। परप्लेक्सिटी ने एक उदाहरण दिया जिसमें ताइवान की स्वतंत्रता और इसके एनवीडिया के स्टॉक मूल्य पर संभावित प्रभाव के बारे में एक प्रश्न शामिल था – एक राजनीतिक रूप से संवेदनशील विषय जो चीन-ताइवान संबंधों को छूता है। मूल डीपसीक आर1 ने प्रश्न से बचा, सीसीपी-संरेखित प्लेटिट्यूड्स के साथ उत्तर दिया। इसके विपरीत, आर1 1776 एक विस्तृत, ईमानदार मूल्यांकन प्रदान करता है: यह उनके बारे में चर्चा करता है जो एनवीडिया के स्टॉक को प्रभावित कर सकते हैं – आपूर्ति श्रृंखला व्यवधान, बाजार अस्थिरता, संभावित संघर्ष, आदि।

आर1 1776 को ओपन-सोर्सिंग करके, परप्लेक्सिटी ने मॉडल के वजन और परिवर्तनों को समुदाय के लिए पारदर्शी बना दिया है। डेवलपर्स और शोधकर्ता इसे हगिंग फेस से डाउनलोड कर सकते हैं और यहां तक कि एपीआई के माध्यम से एकीकरण कर सकते हैं, यह सुनिश्चित करते हुए कि सेंसरशिप को हटाने की जांच और अन्य लोगों द्वारा निर्मित की जा सकती है।

(स्रोत: परप्लेक्सिटी एआई)

सेंसरशिप को हटाने के परिणाम

परप्लेक्सिटी एआई का चीनी सेंसरशिप को डीपसीक आर1 से हटाने का निर्णय एआई समुदाय के लिए कई महत्वपूर्ण परिणाम लाता है:

• बढ़ी हुई खुलापन और सच्चाई: आर1 1776 के उपयोगकर्ता अब पहले से वर्जित विषयों पर अनसेंसर्ड, सीधे उत्तर प्राप्त कर सकते हैं, जो खुली जांच के लिए एक जीत है। यह शोधकर्ताओं, छात्रों या किसी भी व्यक्ति के लिए एक अधिक विश्वसनीय सहायक बन सकता है जो संवेदनशील भू-राजनीतिक प्रश्नों के बारे में जानने में रुचि रखता है। यह ओपन-सोर्स एआई का उपयोग करके जानकारी के दमन का मुकाबला करने का एक ठोस उदाहरण है।
• बनाए रखा प्रदर्शन: यह चिंता थी कि सेंसरशिप को हटाने के लिए मॉडल को ट्वीक करने से इसके प्रदर्शन में गिरावट आ सकती है। हालांकि, परप्लेक्सिटी रिपोर्ट करती है कि आर1 1776 की मूल क्षमताएं – जैसे कि गणित और तर्कसंगत तर्क – मूल मॉडल के समान हैं। 1,000 से अधिक उदाहरणों पर परीक्षण में, जो विभिन्न संवेदनशील प्रश्नों को कवर करते हैं, मॉडल को “पूरी तरह से अनसेंसर्ड” पाया गया और डीपसीक आर1 के समान तर्कसंगत सटीकता को बनाए रखा। यह सुझाव देता है कि पूर्वाग्रह हटाने (कम से कम इस मामले में) ने समग्र बुद्धिमत्ता या क्षमता की लागत पर नहीं आया, जो भविष्य में इसी तरह के प्रयासों के लिए एक प्रोत्साहित करने वाला संकेत है।
• सकारात्मक समुदाय प्रतिक्रिया और सहयोग: डीसेंसर्ड मॉडल को ओपन-सोर्सिंग करके, परप्लेक्सिटी एआई समुदाय को अपने काम की जांच और सुधार करने के लिए आमंत्रित करता है। यह पारदर्शिता के प्रति प्रतिबद्धता को दर्शाता है – एआई के बराबर अपना काम दिखाना। उत्साही और डेवलपर्स यह सत्यापित कर सकते हैं कि सेंसरशिप प्रतिबंध वास्तव में हटा दिए गए हैं और संभावित रूप से आगे के सुधार में योगदान कर सकते हैं। यह एक ऐसे उद्योग में विश्वास और सहयोगी नवाचार को बढ़ावा देता है जहां बंद मॉडल और छिपी हुई मॉडरेशन नियम आम हैं।
• नैतिक और भू-राजनीतिक विचार: दूसरी ओर, सेंसरशिप को पूरी तरह से हटाने से जटिल नैतिक प्रश्न उठते हैं। एक तुरंत चिंता यह है कि इस अनसेंसर्ड मॉडल का उपयोग कैसे किया जा सकता है संदर्भों में जहां सेंसर्ड विषय अवैध या खतरनाक हैं। उदाहरण के लिए, यदि मुख्यभूमि चीन में कोई व्यक्ति आर1 1776 का उपयोग करता है, तो मॉडल के अनसेंसर्ड उत्तर तियानमेन स्क्वायर या ताइवान के बारे में उपयोगकर्ता को जोखिम में डाल सकते हैं। एक बड़ा भू-राजनीतिक संकेत भी है: एक अमेरिकी कंपनी द्वारा एक चीनी-मूल के मॉडल को चीनी सेंसरशिप का विरोध करने के लिए संशोधित करना एक साहसिक विचारधारात्मक रुख हो सकता है। “1776” नाम मुक्ति की थीम पर जोर देता है, जो अनदेखी नहीं है। कुछ आलोचक तर्क देते हैं कि एक सेट के पूर्वाग्रह को दूसरे से बदलना संभव है – मूल रूप से यह प्रश्न उठाते हुए कि क्या मॉडल अब संवेदनशील क्षेत्रों में एक पश्चिमी दृष्टिकोण को दर्शा सकता है। विवाद यह दर्शाता है कि एआई में सेंसरशिप बनाम खुलापन केवल एक तकनीकी मुद्दा नहीं है, बल्कि एक राजनीतिक और नैतिक मुद्दा है। जहां एक व्यक्ति आवश्यक मॉडरेशन देखता है, वहीं दूसरा सेंसरशिप देखता है, और सही संतुलन खोजना मुश्किल है।

सेंसरशिप को हटाने की प्रशंसा अधिक पारदर्शी और वैश्विक रूप से उपयोगी एआई मॉडल की ओर एक कदम के रूप में की जा रही है, लेकिन यह यह भी याद दिलाता है कि एआई को क्या कहना चाहिए, यह एक संवेदनशील प्रश्न है जिस पर सार्वभौमिक सहमति नहीं है।

(स्रोत: परप्लेक्सिटी एआई)

बड़ा चित्र: एआई सेंसरशिप और ओपन-सोर्स पारदर्शिता

परप्लेक्सिटी के आर1 1776 लॉन्च का समय ऐसे समय में आया है जब एआई समुदाय विवादास्पद सामग्री को संभालने के लिए मॉडलों के बारे में प्रश्नों से जूझ रहा है। एआई मॉडल में सेंसरशिप कई स्रोतों से आ सकती है। चीन में, प्रौद्योगिकी कंपनियों को सख्त फिल्टर और यहां तक कि राजनीतिक रूप से संवेदनशील विषयों के लिए हार्ड-कोडेड प्रतिक्रियाएं बनाने की आवश्यकता होती है। डीपसीक आर1 एक प्रमुख उदाहरण है – यह एक ओपन-सोर्स मॉडल था, लेकिन यह स्पष्ट रूप से चीन के सेंसरशिप मानकों की छाप लेकर आया था। इसके विपरीत, कई पश्चिमी विकसित मॉडल, जैसे ओपनएआई का जीपीटी-4 या मेटा का एलएलएएमए, सीसीपी दिशानिर्देशों के अधीन नहीं हैं, लेकिन उनमें मॉडरेशन परतें हैं (नफरत भरे भाषण, हिंसा, या भ्रामक जानकारी जैसी चीजों के लिए) जिन्हें कुछ उपयोगकर्ता “सेंसरशिप” कहते हैं।

परप्लेक्सिटी एआई ने डीपसीक आर1 के साथ क्या किया है, यह विचार को बढ़ावा देता है कि ओपन-सोर्स मॉडल विभिन्न मूल्य प्रणालियों या नियामक वातावरण के लिए अनुकूलित किए जा सकते हैं। सिद्धांत रूप में, एक मॉडल के कई संस्करण बनाए जा सकते हैं: एक जो चीनी नियमों का पालन करता है (चीन में उपयोग के लिए), और दूसरा जो पूरी तरह से खुला है (वैश्विक दर्शकों के लिए जो अनफिल्टर्ड उत्तर पसंद करते हैं)। आर1 1776 मूल रूप से बाद का मामला है – एक अनसेंसर्ड फोर्क जो वैश्विक दर्शकों के लिए है। यह ओपन-सोर्सिंग के लाभ को दर्शाता है: पारदर्शिता। कोई भी मॉडल ले सकता है और इसे ट्वीक कर सकता है, चाहे वह सुरक्षा जोड़ने के लिए हो या जैसा कि इस मामले में, लगाए गए प्रतिबंधों को हटाने के लिए। मॉडल के प्रशिक्षण डेटा, कोड, या वजन को ओपन-सोर्सिंग करना भी意味ता है कि समुदाय यह देख सकता है कि मॉडल को कैसे संशोधित किया गया था। (परप्लेक्सिटी ने डीसेंसरिंग के लिए उपयोग किए गए सभी डेटा स्रोतों का खुलासा नहीं किया है, लेकिन मॉडल को जारी करके उन्होंने दूसरों को इसके व्यवहार को देखने और यदि आवश्यक हो तो इसे पुनः प्रशिक्षित करने की अनुमति दी है।)

यह घटना भू-राजनीतिक गतिविधियों के बारे में भी संकेत देती है जो एआई विकास को निर्देशित करती हैं। हम एआई के विकास के लिए विभिन्न शासन मॉडलों के बीच एक प्रकार के संवाद (या संघर्ष) को देख रहे हैं। एक चीनी विकसित मॉडल जिसमें कुछ निर्मित दृष्टिकोण हैं, एक अमेरिकी आधारित टीम द्वारा लिया जाता है और एक अधिक खुली जानकारी की नीति को प्रतिबिंबित करने के लिए संशोधित किया जाता है। यह यह प्रदर्शित करता है कि एआई प्रौद्योगिकी कितनी वैश्विक और सीमाहीन है: शोधकर्ता कहीं से भी एक दूसरे के काम पर बना सकते हैं, लेकिन उन्हें मूल प्रतिबंधों को ले जाने की आवश्यकता नहीं है। समय के साथ, हम इस तरह के और उदाहरण देख सकते हैं – जहां मॉडल विभिन्न सांस्कृतिक संदर्भों के बीच “अनुवादित” या समायोजित किए जाते हैं। यह सवाल उठाता है कि क्या एआई वास्तव में सार्वभौमिक हो सकता है, या क्या हम क्षेत्र-विशिष्ट संस्करणों के साथ समाप्त हो जाएंगे जो स्थानीय मानकों का पालन करते हैं। पारदर्शिता और खुलापन एक मार्ग प्रदान करते हैं: यदि सभी पक्ष मॉडल की जांच कर सकते हैं, तो पूर्वाग्रह और सेंसरशिप के बारे में बातचीत कम से कम खुले में है, न कि कॉर्पोरेट या सरकारी गोपनीयता के पीछे।

अंत में, परप्लेक्सिटी का कदम एआई नियंत्रण के बारे में एक महत्वपूर्ण बिंदु पर जोर देता है: कौन तय करता है कि एआई क्या कह सकता है या नहीं। ओपन-सोर्स परियोजनाओं में, यह शक्ति विकेंद्रित हो जाती है। समुदाय – या व्यक्तिगत डेवलपर – सख्त फिल्टर लागू करने या उन्हें आराम देने का निर्णय ले सकते हैं। आर1 1776 के मामले में, परप्लेक्सिटी ने निर्णय लिया कि अनसेंसर्ड मॉडल के लाभ जोखिमों से अधिक हैं, और उन्हें यह निर्णय लेने और परिणाम को सार्वजनिक रूप से साझा करने की स्वतंत्रता थी। यह ओपन एआई विकास द्वारा संचालित प्रयोग का एक साहसिक उदाहरण है।