AI मॉडल डीसेंसरिंग पर वास्तविक प्रतिबंध कब तक आएगा?

यदि आप 1995–2010 के आसपास के वेरेज़ दृश्य को याद रखने के लिए पर्याप्त बड़े हैं, जब विशाल संग्रहों में क्रैक किए गए सॉफ़्टवेयर और रिप्ड फ़िल्में (सड़क से थोक में खरीदे गए, या तेज़ ब्रॉडबैंड के कारण बड़े‑पैमाने पर डाउनलोड संभव हुए) इकट्ठा होते थे, तो ‘डिसेंसर्ड’ ओपन‑सोर्स AI मॉडलों का उभरता दृश्य कुछ परिचित नोट्स दे सकता है।

सॉफ़्टवेयर और फ़िल्मों के अनौपचारिक स्ट्रीट ट्रेड के ‘स्वर्ण युग’ से। क्रेडिट – Shankar.s. ‘PP स्ट्रीट मार्केट में पाइरेटेड DVD’ – Source / License

उस समय, जब सॉफ़्टवेयर किराए पर देना आम उपभोक्ता मॉडल नहीं था, ‘सीन’ सॉफ़्टवेयर उत्साहीयों का एक छोटा लेकिन विशिष्ट समूह उभरा जो एप्लिकेशन को क्रैक करता, जिन्हें फिर ‘वेरेज़’ न्यूज़ग्रुप्स और बाद में टॉरेंट समूहों में रिलीज़ किया जाता। ये प्रतिबंध या तो बहुत कठोर या तो मामूली होते, लेकिन एक बार जंगल में रिलीज़ होने के बाद वे आमतौर पर अपरिवर्तनीय रहते।

यह वही है जो अब ओपन‑सोर्स बड़े भाषा मॉडल (LLMs) के साथ हो रहा है, जिन्हें नियमित रूप से और बड़े पैमाने पर उनके प्रशिक्षित सुरक्षा फ़िल्टर से मुक्त किया जा रहा है, जिसके बाद ये डीसेंसर्ड मॉडल इतने कई स्थानों पर साझा हो जाते हैं कि ‘क्रैक’ के मूल स्रोत को बंद कर देना भी मॉडलों की उपलब्धता पर कोई असर नहीं करता।

उपकारकर्ता या दुष्टकर्ता

प्रश्न यह है: आप इन गतिविधियों को किस रोशनी में देखना चाहते हैं? वेरेज़ दृश्य के विपरीत, अब कोई भी छोटे सॉफ़्टवेयर निर्माताओं की तरह स्पष्ट रूप से आय से वंचित नहीं हो रहा जैसा कि 20‑30 साल पहले हुआ था।

निश्चित रूप से, मूल लाइसेंस शर्तों का अक्सर उल्लंघन किया जा रहा है, ऐसे मामलों में*; हालांकि, Black Forest Labs जैसे जन‑AI मॉडल निर्माताओं के आंशिक वज़न रिलीज़ के विपरीत, मूल वितरक ‘निम्न गुणवत्ता’ संस्करणों को अधिक सक्षम API‑केवल मॉडलों की ओर अप‑सेल पाथ नहीं मान रहे; वे पूरे मॉडल को सीधे रिलीज़ कर रहे हैं।

अधिकांश मामलों में, लगभग कोई भी इन शुरुआती रिलीज़ को स्थानीय रूप से चला नहीं सकता, क्योंकि वे पैरामीटर की मात्रा में इतने बड़े होते हैं कि 16‑24 GB VRAM वाले उच्च‑स्तरीय GPU कार्ड भी उन्हें संभाल नहीं पाते।

इसलिए शुरुआती रिलीज़ को जल्दी‑जल्दी हल्के‑वज़न संस्करणों में परिवर्तित किया जाता है जो उपभोक्ता हार्डवेयर पर चल सकें, मॉडल क्वांटाइज़ेशन के माध्यम से, और वज़न को GGUF, AWQ, PTQ, EXL2 या Apple‑केंद्रित MLX जैसी हल्की इटरेशन में बदल दिया जाता है।

हालाँकि ये मूल पूर्ण‑वज़न मॉडलों जितने प्रदर्शनशील नहीं होते (जो आमतौर पर विभिन्न GPU‑फ़ार्म से व्यावसायिक रूप से सर्व किए जाते हैं), वे कम से कम उपयोगकर्ता के नियंत्रण में होते हैं, और उस विशिष्ट उपयोगकर्ता के अनुसार अनुकूलित किए जा सकते हैं, जैसा कि ‘बेहतर’ मॉडल नहीं कर सकता।

अपनी मर्ज़ी से

इन तरीकों में से कुछ स्पष्ट रूप से वैध हैं, और आमतौर पर अपस्ट्रीम लाइसेंस के दायरे में आते हैं, जैसे फाइन‑ट्यूनिंग, जिससे मॉडल के वज़न विशेष रूप से उपयोगकर्ता द्वारा निर्दिष्ट लक्ष्य कार्य या डोमेन की ओर झुके होते हैं। ऐसी स्थिति में, हार्ड‑डिस्क स्थान अनुमति देता है, तो एक ही ओपन‑सोर्स मॉडल के कई इंस्टेंस को विभिन्न कार्यों के लिए फाइन‑ट्यून किया जा सकता है, जैसे समर्पित पारंपरिक टूल्स का एक समूह – बजाय अपस्ट्रीम के ‘स्विस आर्मी नाइफ़’ पूर्ण‑वज़न मॉडल के।

इसके अतिरिक्त, संगत सेटिंग्स वाले लेकिन अलग‑अलग प्रशिक्षण डेटा वाले मॉडल को मिलाया जा सकता है; या अतिरिक्त क्षमताओं को हल्के LoRA फ़िल्टर के माध्यम से मॉडल पर लागू किया जा सकता है, बिना फाइन‑ट्यूनिंग के बेस मॉडल की मूल क्षमताओं को कमजोर किए।

हालाँकि, वह संशोधन जो कई उपयोगकर्ताओं को सबसे अधिक आकर्षित करता है, और जो ऊपर बताए गए किसी भी तरीके से आसान हो गया है, वह उपर्युक्त सुरक्षा फ़िल्टर या गार्डरेल्स को हटाना है।

भले ही यह स्पष्ट रूप से मॉडलों को अश्लील सामग्री और मालवेयर विकास उत्पन्न करने की अनुमति देता है, यह वह भी हटाता है जिसे कई उपयोगकर्ता अत्यधिक प्रतिबंधात्मक (और अक्सर त्रुटिप्रवण) प्रतिबंधों का सेट मानते हैं।

सुरक्षा कारणों से उचित अनुरोधों को अस्वीकार करने वाले Llama-2-7b-chat के कई मज़ेदार उदाहरणों में से एक, स्रोत URL पर उपलब्ध। Source

हेरिटिक

Heretic के मामले में, वह सॉफ़्टवेयर जिसने हाल ही में मॉडल डीसेंसरिंग में क्रांति लाई है, ‘फ्लॉवरी’ और विस्तृत prose के स्तर को कम करना भी संभव है, जिस दिशा में मॉडल झुके होते हैं।

Heretic gpt‑oss को डीसेंसर करने के लिए काम शुरू करता है, हालांकि यह एक बहुत ही उच्च‑स्पेक्स मशीन पर है जो औसत उपभोक्ता के घर में नहीं आ सकेगी – फिर भी इसे ऑनलाइन सस्ते में किराए पर लिया जा सकता है, प्रक्रिया की आवश्यक अवधि के लिए। Source

और भी महत्वपूर्ण बात यह है कि Heretic – जो स्वचालित रूप से एक abliteration खोजता है जो अस्वीकारों को दबाता है, जबकि मॉडल के मूल व्यवहार को न्यूनतम नुकसान पहुँचाता है – डीसेंसरिंग के अपेक्षाकृत चुनौतीपूर्ण कार्य को अंतिम‑उपयोगकर्ता के दृष्टिकोण से केवल एक कमांड तक ले आता है।

जैसा कि ऊपर के स्क्रीनशॉट से स्पष्ट है, Heretic को एक अधिक शक्तिशाली GPU की आवश्यकता होती है जो सामान्य उपभोक्ता घर में मिलना कठिन है; फिर भी उपयोगकर्ताओं को इसे घर के हार्डवेयर पर चलाने की ज़रूरत नहीं है, बिल्कुल वैसे ही जैसे 2002 में उन्हें व्यक्तिगत रूप से सॉफ़्टवेयर क्रैक करना पड़ता था; वेरेज़ दिनों की तरह, अपस्ट्रीम सीन प्रदाता (आम तौर पर गैर‑व्यावसायिक उत्साही) जिनके पास ऐसा हार्डवेयर है या समस्या पर कुछ टोकन खर्च करने को तैयार हैं, जेलब्रेक करते हैं और डीसेंसर्ड मॉडल को सीन में रिलीज़ करते हैं।

नज़र में

जब कोई ‘संदेहास्पद’ डिजिटल कार्रवाई कठिन होना बंद कर देती है, तो आमतौर पर यह एक रात में क्षमता के छलांग (जैसे Napster या PopCornTime) के कारण होता है, जिससे वह कार्य स्वयं और ‘आधिकारिक’ प्रतिबंधों की रुचि दोनों ही अचानक बढ़ जाती है।

Ollama जैसी प्लेटफ़ॉर्म की बढ़ती लोकप्रियता और उपयोग‑सुगमता के साथ मिलाकर, Heretic डीसेंसर्ड मॉडल की पहुँच को गैर‑तकनीकी उपयोगकर्ता तक पहुँचाने लगा है, हालांकि अभी तक एक पूरी‑तरह ‘इडियट‑प्रूफ़’ विधि उपलब्ध नहीं है।

और यह मुझे मेरे पहले प्रश्न की ओर ले जाता है, कि क्या यह गतिविधि ‘समस्या’ बनती है। कल Arxiv में प्रकाशित एक पेपर, जो हाल के तकनीकी उपभोक्ता स्वतंत्रताओं पर प्रतिबंधों और कड़ी निगरानी के रुझानों पर आधारित है, मुझे यह संकेत देता है कि डीसेंसरिंग को बढ़ती ध्यान मिलने की संभावना है, जिससे विश्व भर में अधिक प्रतिबंधात्मक विधायी कदम उठाए जा सकते हैं।

नया पेपर, 10a Labs की रिपोर्ट, डीसेंसरिंग आंदोलन को नकारात्मक प्रकाश में प्रस्तुत करता है, और अभ्यस्त अल्पसंख्यक दुरुपयोग मामलों को उजागर करता है, जो इतिहास के संकेतों और वर्तमान रुझानों के अनुसार प्रतिबंधों की ओर ले जा सकते हैं।

अध्ययन ने डीसेंसर्ड मॉडल रिलीज़ और पुनर्वितरण के बाद क्या होता है, इसका ट्रैक रखा, और 1,643 GitHub अनुप्रयोगों की पहचान की जो अनसेन्सर्ड मॉडल को एकीकृत, अनुशंसित या डिफ़ॉल्ट रूप से उपयोग करते हैं।

उल्लेखित मॉडल सामान्य‑उद्देश्य चैटबॉट्स और दस्तावेज़‑प्रसंस्करण टूल्स से लेकर NSFW रोलप्ले और कहानी‑लेखन, स्पष्ट‑सामग्री सेवाओं, हैकिंग और आक्रामक‑सुरक्षा टूल्स, तथा धोखाधड़ी अनुप्रयोग और मालवेयर जेनरेटर तक विस्तृत हैं; अध्ययन के अनुसार 25 % रिलीज़ को ‘स्पष्ट रूप से दुर्भावनापूर्ण’ वर्गीकृत किया गया है:

रिलीज़ के बाद अनसेन्सर्ड AI मॉडलों के उपयोग का विभाजन। अध्ययन ने 1,643 GitHub अनुप्रयोगों को ट्रैक किया जो सुरक्षा प्रतिबंध हटाए गए मॉडलों को एकीकृत, अनुशंसित या डिफ़ॉल्ट रूप से उपयोग करते हैं, पाया कि 37 % सामान्य‑उद्देश्य अनसेन्सर्ड चैटबॉट थे, जबकि साइबर‑सुरक्षा और दस्तावेज़‑प्रसंस्करण टूल प्रत्येक 16 % थे, साथ ही छोटे वर्गीकरण जैसे वॉइस असिस्टेंट, NSFW रोलप्ले, रचनात्मक लेखन, कोडिंग और अन्य उपयोग। पेपर ने पाया कि लगभग 25 % अनुप्रयोगों को ‘स्पष्ट रूप से दुर्भावनापूर्ण’ वर्गीकृत किया जा सकता है। Source

यूके के हाल ही में लागू किए गए वेब‑एक्सेस प्रतिबंधों (और उनके अब रुकाए गए VPN‑एक्सेस प्रतिबंध) के प्रकाश में; कैलिफ़ोर्निया की 2027 की आवश्यकता कि अधिकांश ऑपरेटिंग सिस्टम उपयोगकर्ता की आयु रेंज एकत्र करें और एप्लिकेशन को प्रदान करें; यूरोपीय संघ की वयस्क ऑनलाइन सामग्री तक पहुँच के लिए आयु‑प्रमाणीकरण योजना; और ऑस्ट्रेलिया का अंडर‑सोलह के लिए सोशल‑मीडिया अकाउंट प्रतिबंध; नया पेपर इस पैटर्न को दर्शाता है जहाँ बढ़ती निगरानी अंततः अधिक नियमन, निगरानी और संभवतः चयनात्मक या पूर्ण प्रतिबंधों की ओर ले जाती है।

यह यहाँ नहीं हो सकता

नहीं, यह बिल्कुल यहाँ हो सकता है, आंशिक रूप से क्योंकि नए अध्ययन के लेखकों द्वारा अनुमानित दुष्ट उपयोग का उच्च प्रतिशत है; और संभवतः, क्योंकि नियंत्रण स्थानीय‑चलाए AI के बढ़ते रुझान पर अतिरिक्त प्रतिबंध लगाएंगे, जिसे सरकारें और संस्थाएँ खतरे के रूप में देख सकती हैं – विशेषकर जब मॉडल अपनी जंजीरों से मुक्त हो जाते हैं।

डीसेंसरिंग गतिविधियों को ‘NSFW आउटपुट और दुर्भावनापूर्ण हैकिंग को सुविधाजनक बनाने’ के रूप में फ्रेम करके, इसे एक झूठी द्विपक्षीय प्रस्तावना के रूप में पेश किया जा सकता है: क्योंकि यह बुरे कार्यों के लिए उपयोग किया जा सकता है, इसलिए इसे नियमन के अधीन होना चाहिए। व्यावहारिक रूप से, ऐसी कार्यक्षमता को पूरी तरह से प्रतिबंधित करने के अलावा कोई वास्तविक नियमन तरीका नहीं दिखता, क्योंकि संभावित उपयोग मामलों की संख्या बहुत अधिक है।

इसके अलावा, जब डीसेंसरिंग किसी LLM को (उदाहरण के लिए) CSAM कथा उत्पन्न करने की अनुमति देता है, तो प्रतिबंधात्मक नियमन एक स्पष्ट जीत जैसा प्रतीत होता है, क्योंकि इसके विरोधियों को टाल‑मटोल से ‘डीसेंसर्ड मॉडल के दुष्ट उपयोगों के समर्थन में’ चित्रित किया जा सकता है, न कि इसके उचित उपयोगों में।

यह तथ्य नज़रअंदाज़ किया गया है कि एक फाइन‑ट्यून या LoRA‑प्रभावित मॉडल उपयोगकर्ता द्वारा इच्छित विशिष्ट डोमेन को बहुत अधिक प्रभावी ढंग से उत्पन्न कर सकता है, क्योंकि मॉडल के बेस वज़न कार्य की ओर इतना विकृत हो जाते हैं कि किसी भी प्रशिक्षित सुरक्षा को पूरी तरह से कमजोर कर देते हैं।

सभी आसानियों के बारे में

उपयोग‑सुगमता वह कारक है जो बड़े पैमाने पर अपनाने को प्रेरित करता है, और बड़े पैमाने पर अपनाना ही सरकारों पर नियमन का दबाव बनाता है (चाहे सार्वजनिक दबाव समूहों, उद्योग लॉबिस्टों, या अंतर‑सरकारी दबाव के माध्यम से)।

जबकि फाइन‑ट्यूनिंग और LoRA अक्सर FOSS फाउंडेशन मॉडल को अनलॉक करने से बेहतर लक्षित परिणाम दे सकते हैं, इन विधियों को लागू करने के लिए कुछ हद तक अनुशासन और प्रयास की आवश्यकता होती है।

एक बार जब डीसेंसर्ड/क्वांटाइज़्ड मॉडल को स्थानीय रूप से चलाना वास्तव में कुछ क्लिकों का मामला बन जाता है (क्योंकि उपयोगकर्ता लगभग निश्चित रूप से ‘प्री‑फ्रीड’ मॉडल डाउनलोड करेगा न कि Heretic से स्वयं क्रैक करेगा), तो यह गतिविधि गीक‑दुनिया की छिपी हुई स्थिति से बाहर निकल कर सार्वजनिक डोमेन में प्रवेश करती है, जहाँ इसके दुरुपयोग राजनीतिक मुद्दे बन सकते हैं।

इस गर्मी NVIDIA ने भारी‑वजन वाले तकनीकी साझेदारों के साथ मिलकर ओपन‑सोर्स मॉडलों पर सरकारी प्रतिबंधों को पूर्व‑रोकने के लिए एक ओपन लेटर जारी किया, जो फिर से इस बात को उजागर करता है कि किसी तकनीक के अल्पसंख्यक दुरुपयोग उसे संभावित सामान्य लाभ के रूप में खतरे में नहीं डालने चाहिए। लेकिन यह हाल के वर्षों में एक अप्रचलित दृष्टिकोण साबित हुआ है।

* क्या मॉडल निर्माताओं की उपयोगकर्ता गतिविधि को प्रतिबंधित करने की ईमानदार इच्छा वास्तविक है, अक्सर सवाल उठते हैं, जहाँ गार्डरेल सुरक्षा को यहाँ‑वहाँ ‘थिएटर’ कहा जाता है।