AI मॉडलों से सेंसरशिप हटाने पर असली कार्रवाई होने में कितना वक्त लगेगा?

अगर आपको लगभग 1995–2010 का वारेज़ जगत याद है—जब क्रैक किए गए सॉफ्टवेयर और कॉपी की गई फिल्मों के विशाल संग्रह (जिन्हें सड़क से थोक में खरीदा जाता था, या तेज़ गति वाले ब्रॉडबैंड ने बड़े पैमाने पर भारी डाउनलोड संभव बनाए तो आम समुद्री लुटेरे भी जुटा लेते थे) जगह-जगह रखे कई ठसाठस भरे डीवीडी संग्रहों में जमा होते जाते थे—तो खुले स्रोत वाले AI मॉडलों से सेंसरशिप हटाने का उभरता चलन आपको कुछ जाना-पहचाना लग सकता है।

सॉफ्टवेयर और फिल्मों के अनौपचारिक सड़क-बाज़ार के ‘स्वर्ण युग’ से। श्रेय – Shankar.s. ‘पीपी स्ट्रीट बाज़ार में पायरेटेड डीवीडी’ – स्रोत / लाइसेंस

उस दौर में, जब सॉफ्टवेयर किराये पर लेना उपभोक्ताओं के बीच आम नहीं हुआ था, ‘सीन’ के कुछ गिने-चुने माहिर सॉफ्टवेयर उत्साही सामने आए, जो ऐप्लिकेशन की सुरक्षा तोड़ते और फिर उन्हें ‘वारेज़’ न्यूज़ग्रुपों और बाद में टोरेंट समूहों में जारी कर देते थे। इन पाबंदियों को तोड़ना कभी मुश्किल, तो कभी आसान होता था, लेकिन सामग्री खुले में जारी हो जाने के बाद उसके निशान आम तौर पर मिटाए नहीं जा सकते थे।

खुले स्रोत वाले बड़े भाषा मॉडल (LLM) के साथ अब यही हो रहा है: उनके प्रशिक्षण के दौरान शामिल किए गए सुरक्षा फ़िल्टर नियमित रूप से और बड़े पैमाने पर हटा दिए जाते हैं। इसके बाद सेंसरशिप-मुक्त ये मॉडल इतनी सारी जगहों पर साझा होने लगते हैं कि ‘क्रैक’ का मूल स्रोत बंद कर देने पर भी उनकी उपलब्धता पर कोई असर नहीं पड़ता।

हितकारी या हानिकारक?

सवाल यह है कि आप इन गतिविधियों को किस नज़र से देखना चाहते हैं? वारेज़ जगत के उलट, यहाँ किसी को भी उस हद तक स्पष्ट रूप से उसकी कमाई से वंचित नहीं किया जा रहा, जिस हद तक—कुछ लोगों के अनुसार—20–30 साल पहले छोटे सॉफ्टवेयर उत्पादकों को किया जाता था।

बेशक, ऐसे मामलों में अक्सर मूल लाइसेंस की शर्तों का उल्लंघन होता है*; फिर भी, Black Forest Labs जैसे जनरेटिव AI मॉडल बनाने वालों के आंशिक वेट वाले मॉडल जारी करने के उलट, मूल वितरक ‘कम गुणवत्ता’ वाले संस्करणों को अधिक सक्षम, केवल API के ज़रिये उपलब्ध मॉडलों की ओर ले जाने वाले उन्नयन-विकल्प के तौर पर इस्तेमाल नहीं कर रहे; वे पूरे मॉडल सीधे जारी कर रहे हैं।

ज़्यादातर मामलों में, लगभग कोई भी इन शुरुआती रिलीज़ों को स्थानीय स्तर पर नहीं चला सकता, क्योंकि उनमें 16-24GB VRAM क्षमता वाले अच्छे GPU कार्डों के लिए भी पैरामीटरों की संख्या बहुत अधिक होती है।

इसलिए, शुरुआती रिलीज़ों को मॉडल क्वांटीकरण के ज़रिए और वज़नों को GGUF, AWQ, PTQ, EXL2 या Apple-केंद्रित MLX जैसे हल्के संस्करणों में बदलकर, ऐसे छोटे रूपों में जल्दी ही परिवर्तित कर दिया जाता है जिन्हें उपभोक्ता हार्डवेयर पर चलाया जा सकता है।

ये मूल, पूर्ण आकार के मॉडलों जितने सक्षम नहीं होते (जिन्हें आम तौर पर अलग-अलग GPU फ़ार्म व्यावसायिक रूप से उपलब्ध कराते हैं), लेकिन कम-से-कम इन पर उपयोगकर्ता का नियंत्रण होता है और इन्हें उसी उपयोगकर्ता की ज़रूरतों के मुताबिक ढाला जा सकता है—ऐसा उस ‘बेहतर’ मॉडल के साथ नहीं किया जा सकता।

अपनी पसंद के मुताबिक इस्तेमाल करें

इनमें से कुछ तरीके स्पष्ट रूप से वैध हैं और आम तौर पर मूल लाइसेंस के दायरे में आते हैं। ऐसा ही एक तरीका है फ़ाइन-ट्यूनिंग, जिससे मॉडल के वेट को किसी ऐसे लक्षित काम या क्षेत्र के लिए विशेष रूप से अनुकूल बनाया जा सकता है, जिसकी जानकारी उपयोगकर्ता ने उसमें दी हो। ऐसी स्थिति में, अगर हार्ड डिस्क में पर्याप्त जगह हो, तो एक ही खुले स्रोत वाले मॉडल के कई संस्करणों को अलग-अलग कामों के लिए फ़ाइन-ट्यून किया जा सकता है—मानो अलग-अलग पारंपरिक औज़ारों का एक सेट हो, न कि मूल पूर्ण-वेट मॉडल वाला ‘स्विस आर्मी नाइफ़’।

इसके अलावा, एक जैसी सेटिंग वाले लेकिन अलग-अलग प्रशिक्षण डेटा पर आधारित मॉडलों को आपस में मिलाया जा सकता है; या फिर हल्के LoRA फ़िल्टरों से किसी मॉडल में अतिरिक्त क्षमताएँ जोड़ी जा सकती हैं, और इस तरह फ़ाइन-ट्यूनिंग के दौरान मूल मॉडल की क्षमताओं को कमज़ोर करने का जोखिम नहीं उठाना पड़ता।

हालाँकि, जिस बदलाव में बहुत-से उपयोगकर्ताओं की सबसे अधिक दिलचस्पी है और जो ऊपर बताए गए तरीकों में से किसी से भी आसान हो गया है, वह है पहले बताए गए सुरक्षा फ़िल्टरों को हटाना, जिन्हें सुरक्षा-सीमाएँ भी कहा जाता है।

बेशक, इससे ऐसे मॉडल बनाना संभव हो जाता है जो अश्लील सामग्री और मैलवेयर विकसित करने से जुड़ी सामग्री तैयार कर सकते हैं। लेकिन इससे उन पाबंदियों का भी अंत हो जाता है, जिन्हें कई उपयोगकर्ता अत्यधिक कठोर और अक्सर त्रुटिपूर्ण मानते हैं।

सुरक्षा के नाम पर उचित अनुरोधों को ठुकराते Llama-2-7b-chat के कई हास्यास्पद उदाहरणों में से एक; स्रोत URL पर उपलब्ध। स्रोत

Heretic

Heretic के मामले में—वह सॉफ्टवेयर जिसने हाल ही में मॉडलों से सेंसरशिप हटाने के काम में क्रांतिकारी बदलाव किया है—मॉडलों की कम ‘अलंकारिक’ और लंबी-चौड़ी भाषा इस्तेमाल करने की प्रवृत्ति को भी घटाना संभव है।

Heretic gpt-oss को सेंसर-मुक्त करने का काम करता है, हालांकि इसके लिए ऐसे कंप्यूटर की ज़रूरत होती है जिसकी क्षमता काफ़ी अधिक हो—और जिसकी संभावना किसी आम उपभोक्ता के घर में मिलने की कम है। फिर भी, इस प्रक्रिया के लिए जितनी अवधि तक उसकी ज़रूरत हो, उतने समय के लिए इसे ऑनलाइन सस्ते में किराये पर लिया जा सकता है। स्रोत

इससे भी अहम बात यह है कि Heretic—जो मॉडल के मूल व्यवहार को कम से कम नुकसान पहुँचाते हुए इनकारों को दबाने वाली एल्बिटरेशन प्रक्रिया अपने-आप खोजता है—अंतिम उपयोगकर्ता के नज़रिये से सेंसर-मुक्त करने के अपेक्षाकृत चुनौतीपूर्ण काम को महज़ एक कमांड तक सीमित कर देता है।

जैसा कि ऊपर के स्क्रीनशॉट से दिखता है, Heretic को ऐसे शक्तिशाली GPU से फ़ायदा होता है जो किसी उपभोक्ता के घर में मिलने की संभावना कम है। हालांकि, उपयोगकर्ताओं को इसे अपने घरेलू हार्डवेयर पर चलाने की ज़रूरत नहीं है—ठीक वैसे ही जैसे 2002 में सॉफ़्टवेयर को क्रैक करने के लिए उन्हें खुद ऐसा नहीं करना पड़ता था। वेयरज़ के दिनों की तरह, ऐसे हार्डवेयर तक पहुँच रखने वाले या इस काम पर कुछ टोकन खर्च करने को तैयार अपस्ट्रीम सीन के प्रदाता (आमतौर पर गैर-व्यावसायिक, शौकिया उत्साही) जेलब्रेक करते हैं और सेंसर-मुक्त मॉडल को सीन में जारी कर देते हैं।

निशाने पर

जब किसी ‘संदिग्ध’ डिजिटल गतिविधि को करना आसान हो जाता है, तो आमतौर पर इसकी वजह क्षमताओं में रातोंरात आई ऐसी छलाँग होती है (जैसे Napster या PopCornTime), जो अचानक उस गतिविधि का पैमाना बढ़ा देती है और उसे रोकने में ‘आधिकारिक’ दिलचस्पी भी।

Ollama जैसे प्लेटफ़ॉर्म की बढ़ती लोकप्रियता और आसान इस्तेमाल के साथ, Heretic सेंसर-मुक्त मॉडलों तक पहुँच को गैर-तकनीकी उपयोगकर्ताओं की पहुँच में लाने लगा है, हालांकि अभी ऐसा तरीका उपलब्ध नहीं है जो सचमुच ‘बिल्कुल आसान’ हो।

और इससे मैं अपने पहले वाले सवाल पर लौटता हूँ—क्या यह गतिविधि वाकई ‘समस्या’ है? कल Arxiv में प्रकाशित एक शोधपत्र से मुझे संकेत मिलता है कि तकनीकी उपभोक्ता स्वतंत्रताओं को सीमित करने और उन पर कार्रवाई करने के हालिया रुझानों को देखते हुए, सेंसर-मुक्त करने की प्रक्रिया पर ध्यान बढ़ने की संभावना है, जिससे दुनिया भर में प्रतिबंधात्मक कानूनों की घटनाएँ बढ़ सकती हैं।

10a Labs की रिपोर्ट, इस नए शोधपत्र में सेंसर-मुक्त करने के आंदोलन को नकारात्मक रूप में पेश किया गया है और दुरुपयोग के उन परिचित अल्पमत मामलों का उल्लेख किया गया है, जो इतिहास बताता है और मौजूदा रुझान संकेत देते हैं कि अंततः पाबंदियों का कारण बनेंगे।

अध्ययन में यह देखा गया कि सेंसर-मुक्त मॉडल जारी और पुनर्वितरित होने के बाद क्या होता है। इसमें GitHub के ऐसे 1,643 ऐप्लिकेशन पाए गए जो सेंसर-मुक्त मॉडलों को एकीकृत करते हैं, उनकी सिफ़ारिश करते हैं या उन्हें डिफ़ॉल्ट रूप से इस्तेमाल करते हैं।

इन मॉडलों में सामान्य इस्तेमाल वाले चैटबॉट और दस्तावेज़ संसाधित करने वाले टूल से लेकर NSFW भूमिका-अभिनय और कहानी-कथन; स्पष्ट सामग्री देने वाली सेवाएँ; हैकिंग और आक्रामक सुरक्षा के टूल; तथा धोखाधड़ी वाले ऐप्लिकेशन और मैलवेयर जनरेटर तक शामिल हैं। अध्ययन के अनुसार, जारी किए गए मॉडलों में से 25% को ‘स्पष्ट रूप से दुर्भावनापूर्ण’ वर्गीकृत किया गया:

जारी होने के बाद सेंसर-मुक्त AI मॉडलों के इस्तेमाल का विवरण। अध्ययन ने GitHub के ऐसे 1,643 ऐप्लिकेशन का पता लगाया जो उन मॉडलों को एकीकृत करते हैं, उनकी सिफ़ारिश करते हैं या उन्हें डिफ़ॉल्ट रूप से इस्तेमाल करते हैं जिनसे सुरक्षा प्रतिबंध हटा दिए गए हैं। इसमें पाया गया कि 37% सामान्य इस्तेमाल वाले सेंसर-मुक्त चैटबॉट थे, जबकि साइबर सुरक्षा और दस्तावेज़ संसाधित करने वाले टूल का हिस्सा 16%-16% था। इनके अलावा, ध्वनि सहायकों, NSFW भूमिका-अभिनय, रचनात्मक लेखन, कोडिंग और अन्य इस्तेमालों की छोटी श्रेणियाँ भी थीं। शोधपत्र में पाया गया कि पहचाने गए ऐप्लिकेशन में से लगभग 25% को ‘स्पष्ट रूप से दुर्भावनापूर्ण’ वर्गीकृत किया जा सकता था। स्रोत

वेब तक पहुँच पर ब्रिटेन के हाल ही में लागू किए गए प्रतिबंधों (और उन्हें दरकिनार करने वाली VPN पहुँच पर भी रोक लगाने की उसकी अब स्थगित मंशा); कैलिफ़ोर्निया की 2027 की उस अनिवार्यता को देखते हुए, जिसके तहत अधिकांश ऑपरेटिंग सिस्टम को उपयोगकर्ताओं की आयु-सीमा एकत्र करके ऐप्लिकेशन को देनी होगी; वयस्क ऑनलाइन सामग्री तक पहुँच के लिए आयु सत्यापन की EU योजना; और 16 वर्ष से कम उम्र के लोगों के सोशल मीडिया खातों पर ऑस्ट्रेलिया के प्रतिबंध के संदर्भ में, यह नया शोधपत्र उस पैटर्न के अनुरूप लगता है जिसमें बढ़ा हुआ ध्यान अंततः अधिक निगरानी, नियमन और संभवतः चुनिंदा या पूर्ण प्रतिबंधों की ओर ले जाता है।

यह यहाँ नहीं हो सकता

नहीं, ऐसा यहाँ निश्चित रूप से हो सकता है—आंशिक रूप से इसलिए कि नए अध्ययन के लेखकों के अनुमान के मुताबिक, इसका इस्तेमाल बड़े पैमाने पर दुर्भावनापूर्ण उद्देश्यों के लिए होता है; और, यह तर्क भी दिया जा सकता है कि नियंत्रणों से स्थानीय स्तर पर चलने वाले AI की बढ़ती प्रवृत्ति पर अतिरिक्त पाबंदियाँ लगेंगी, जिसे सरकारें और संस्थाएँ खतरे के रूप में देख सकती हैं—खासकर तब, जब मॉडलों को उनकी लगाम से मुक्त कर दिया गया हो।

डिसेन्सरशिप की गतिविधियों को एनएसएफडब्ल्यू सामग्री तैयार करने और दुर्भावनापूर्ण हैकिंग को “सुगम बनाने” के रूप में पेश करके, डिसेन्सरशिप को झूठे द्विआधारी तर्क के रूप में दिखाना संभव है: चूँकि इसका इस्तेमाल बुरे कामों के लिए किया जा सकता है, इसलिए इसे विनियमन के अधीन होना ही चाहिए। व्यावहारिक रूप से, ऐसी कार्यक्षमता को बिल्कुल भी विनियमित करने का कोई यथार्थवादी तरीका नहीं दिखता—इसे पूरी तरह प्रतिबंधित करने के अलावा—क्योंकि इसके इस्तेमाल के इतने सारे संभावित मामले हैं।

इसके अलावा, ऐसे मामलों में जहाँ किसी एलएलएम की डिसेन्सरशिप से मॉडल ऐसी सामग्री तैयार कर सके—मिसाल के तौर पर, बाल यौन शोषण सामग्री (CSAM) पर आधारित काल्पनिक रचनाएँ—तो प्रतिबंधात्मक विनियमन का प्रस्ताव निर्विवाद रूप से सही प्रतीत होगा। इसकी वजह यह है कि इसका विरोध करने वाले किसी भी व्यक्ति को परोक्ष रूप से डिसेन्सर किए गए मॉडल के उचित इस्तेमाल के बजाय उसके दुष्टतापूर्ण इस्तेमाल का “समर्थक” दिखाया जा सकता है।

इससे इस तथ्य की अनदेखी होती है कि फाइन-ट्यून किया गया या LoRA से प्रभावित मॉडल उपयोगकर्ता की पसंद के किसी भी खास क्षेत्र में कहीं अधिक प्रभावी ढंग से सामग्री तैयार कर सकता है, क्योंकि मॉडल के मूल वेट उस कार्य की ओर इतने विकृत हो जाते हैं कि वे पहले से प्रशिक्षित सुरक्षा उपायों को भी पूरी तरह निष्प्रभावी कर देते हैं।

आसानी से इस्तेमाल करने की पूरी बात

इस्तेमाल में आसानी ही बड़े पैमाने पर अपनाए जाने की वजह बनती है, और बड़े पैमाने पर अपनाया जाना ही सरकारों पर कानून बनाने का दबाव पैदा करता है—चाहे यह दबाव जनहित समूहों, उद्योग जगत के लॉबिस्टों या अंतर-सरकारी प्रयासों से आए।

हालाँकि, केवल किसी FOSS फाउंडेशन मॉडल को अनलॉक करने की तुलना में फाइन-ट्यूनिंग और LoRA से निश्चित रूप से अधिक लक्षित नतीजे हासिल किए जा सकते हैं, लेकिन इन तरीकों को अपनाने के लिए एक हद तक अनुशासन और मेहनत की आवश्यकता होती है।

जब स्थानीय स्तर पर डिसेन्सर किए गए और क्वांटाइज़ किए गए मॉडल को चलाना सचमुच कुछ ही क्लिक का काम बन जाएगा—क्योंकि उपयोगकर्ता लगभग निश्चित रूप से Heretic की मदद से मॉडल को खुद क्रैक करने के बजाय पहले से “मुक्त” किया गया मॉडल डाउनलोड करेगा—तो यह गतिविधि गीक्स की सीमित दुनिया से निकलकर आम लोगों के बीच पहुँच जाएगी, जहाँ इसके दुरुपयोग राजनीतिक विवाद का मुद्दा बनने की आशंका है।

इस गर्मी में NVIDIA ने खुले-स्रोत वाले मॉडलों पर सरकारी पाबंदियाँ लगने से पहले ही उनका विरोध करने के लिए दिग्गज तकनीकी साझेदारों के एक समूह का नेतृत्व किया। इसके लिए एक खुले पत्र में फिर से यह तर्क दिया गया कि किसी तकनीक का कुछ लोगों द्वारा किया गया दुरुपयोग, व्यापक लाभ देने की उसकी संभावनाओं को खतरे में नहीं डालना चाहिए। लेकिन हाल के वर्षों में यह दृष्टिकोण अलोकप्रिय साबित हुआ है।

*मॉडल निर्माताओं की यह घोषित इच्छा कि वे उपयोगकर्ताओं की गतिविधियों पर पाबंदी लगाना चाहते हैं, कितनी सच्ची है—इस पर अक्सर सवाल उठाए जाते हैं; यहाँ तक कि सुरक्षा उपायों को भी “तमाशा” कहकर खारिज किया जाता है।