क्या जनरेटिव एआई द्वारा उत्पन्न गोपनीयता जोखिमों का कोई स्पष्ट समाधान है?

जनरेटिव एआई द्वारा उत्पन्न गोपनीयता जोखिम बहुत वास्तविक हैं। बढ़ी हुई निगरानी और जोखिम से लेकर पहले से कहीं अधिक प्रभावी फ़िशिंग और विशिंग अभियानों तक, जनरेटिव एआई बड़े पैमाने पर, अंधाधुंध तरीके से गोपनीयता को नष्ट करता है, जबकि बुरे लोगों को, चाहे वे अपराधी हों, राज्य-प्रायोजित हों या सरकार, व्यक्तियों और समूहों को लक्षित करने के लिए आवश्यक उपकरण प्रदान करता है।

इस समस्या का सबसे स्पष्ट समाधान यह है कि उपभोक्ता और उपयोगकर्ता सामूहिक रूप से एआई प्रचार से मुंह मोड़ लें, तथाकथित एआई सुविधाओं को विकसित या लागू करने वालों से पारदर्शिता की मांग करें, और उनके संचालन की निगरानी करने वाले सरकारी निकायों से प्रभावी विनियमन की मांग करें। हालाँकि इसके लिए प्रयास करना उचित है, लेकिन ऐसा जल्द ही होने की संभावना नहीं है।

जो कुछ बचा है वह जनरेटिव एआई गोपनीयता जोखिमों को कम करने के लिए उचित, भले ही अनिवार्य रूप से अपूर्ण, दृष्टिकोण हैं। दीर्घकालिक, निश्चित, फिर भी उबाऊ भविष्यवाणी यह ​​है कि आम तौर पर डेटा गोपनीयता के बारे में जनता जितनी अधिक शिक्षित होगी, जनरेटिव एआई के बड़े पैमाने पर अपनाने से उत्पन्न गोपनीयता जोखिम उतना ही कम होगा।

क्या हम सभी जनरेटिव एआई की अवधारणा को सही समझते हैं?

एआई के बारे में प्रचार इतना सर्वव्यापी है कि लोगों द्वारा जनरेटिव एआई से क्या अभिप्राय है, इसका सर्वेक्षण करना शायद ही आवश्यक हो। बेशक, इनमें से कोई भी “एआई” विशेषता, कार्यक्षमता और उत्पाद वास्तव में सच्ची कृत्रिम बुद्धिमत्ता के उदाहरण नहीं हैं, चाहे वह कुछ भी दिखे। बल्कि, वे ज़्यादातर इसके उदाहरण हैं यंत्र अधिगम (एमएल), ध्यान लगा के पढ़ना या सीखना (डीएल), और बड़े भाषा मॉडल (एलएलएम)।

जैसा कि नाम से पता चलता है, जनरेटिव एआई नई सामग्री उत्पन्न कर सकता है - चाहे वह टेक्स्ट (प्रोग्रामिंग भाषाओं सहित), ऑडियो (संगीत और मानव जैसी आवाज़ों सहित), या वीडियो (ध्वनि, संवाद, कट और कैमरा परिवर्तन के साथ) हो। यह सब एलएलएम को मानव-जनित सामग्री में पैटर्न की पहचान, मिलान और पुनरुत्पादन करने के लिए प्रशिक्षित करके हासिल किया जाता है।

चलिए ChatGPT को एक उदाहरण के रूप में लेते हैं। कई LLM की तरह, इसे तीन व्यापक चरणों में प्रशिक्षित किया जाता है:

• पूर्व प्रशिक्षणइस चरण के दौरान, एलएलएम को इंटरनेट, पुस्तकों, अकादमिक पत्रिकाओं और अन्य किसी भी चीज़ से पाठ्य सामग्री “खिलाई” जाती है जिसमें संभावित रूप से प्रासंगिक या उपयोगी सामग्री होती है।
• पर्यवेक्षित अनुदेश ठीक-ट्यूनिंगमॉडलों को उच्च गुणवत्ता वाले निर्देश-प्रतिक्रिया युग्मों का उपयोग करके निर्देशों पर अधिक सुसंगत रूप से प्रतिक्रिया देने के लिए प्रशिक्षित किया जाता है, जो आमतौर पर मनुष्यों से प्राप्त होते हैं।
• मानव प्रतिक्रिया से सुदृढीकरण सीखना (आरएलएचएफ)चैटजीपीटी जैसे एलएलएम अक्सर इस अतिरिक्त प्रशिक्षण चरण से गुजरते हैं, जिसके दौरान मानव उपयोगकर्ताओं के साथ बातचीत का उपयोग विशिष्ट उपयोग मामलों के साथ मॉडल के संरेखण को परिष्कृत करने के लिए किया जाता है।

प्रशिक्षण प्रक्रिया के सभी तीन चरणों में डेटा शामिल होता है, चाहे वह पहले से एकत्रित डेटा का विशाल भंडार हो (जैसे कि प्री-ट्रेनिंग में उपयोग किया जाता है) या लगभग वास्तविक समय में एकत्रित और संसाधित किया गया डेटा (जैसे कि RLHF में उपयोग किया जाता है)। यह वह डेटा है जो जनरेटिव AI से उत्पन्न होने वाले गोपनीयता जोखिमों का सबसे बड़ा हिस्सा वहन करता है।

जनरेटिव एआई से गोपनीयता संबंधी क्या जोखिम उत्पन्न होते हैं?

गोपनीयता से समझौता तब होता है जब किसी व्यक्ति (डेटा विषय) से संबंधित व्यक्तिगत जानकारी डेटा विषय की सहमति के बिना अन्य व्यक्तियों या संस्थाओं को उपलब्ध करा दी जाती है। एलएलएम को डेटा की एक बहुत विस्तृत श्रृंखला पर पहले से प्रशिक्षित और परिष्कृत किया जाता है जिसमें व्यक्तिगत डेटा शामिल हो सकता है और अक्सर होता भी है। यह डेटा आम तौर पर सार्वजनिक रूप से उपलब्ध स्रोतों से स्क्रैप किया जाता है, लेकिन हमेशा नहीं।

यहां तक ​​कि जब वह डेटा सार्वजनिक रूप से उपलब्ध स्रोतों से लिया जाता है, तो उसे एलएलएम द्वारा एकत्रित और संसाधित करना तथा फिर एलएलएम के इंटरफेस के माध्यम से अनिवार्य रूप से खोज योग्य बनाना, गोपनीयता का एक और उल्लंघन माना जा सकता है।

RSI मानवीय प्रतिक्रिया से सुदृढीकरण सीखना (RLHF) चरण चीजों को जटिल बनाता है। इस प्रशिक्षण चरण में, मानव उपयोगकर्ताओं के साथ वास्तविक बातचीत का उपयोग LLM की प्रतिक्रियाओं को बार-बार सही करने और परिष्कृत करने के लिए किया जाता है। इसका मतलब यह है कि LLM के साथ उपयोगकर्ता की बातचीत को कोई भी व्यक्ति देख सकता है, साझा कर सकता है और प्रसारित कर सकता है, जिसके पास LLM तक पहुँच है। प्रशिक्षण जानकारी.

ज़्यादातर मामलों में, यह गोपनीयता का उल्लंघन नहीं है, क्योंकि ज़्यादातर एलएलएम डेवलपर्स गोपनीयता नीतियों और सेवा की शर्तों को शामिल करते हैं, जिसके लिए एलएलएम के साथ बातचीत करने से पहले उपयोगकर्ताओं की सहमति की आवश्यकता होती है। यहाँ गोपनीयता जोखिम इस तथ्य में निहित है कि कई उपयोगकर्ताओं को पता नहीं है कि उन्होंने इस तरह के डेटा संग्रह और उपयोग के लिए सहमति दी है। ऐसे उपयोगकर्ता इन प्रणालियों के साथ अपनी बातचीत के दौरान निजी और संवेदनशील जानकारी प्रकट करने की संभावना रखते हैं, यह महसूस किए बिना कि ये बातचीत न तो गोपनीय है और न ही निजी।

इस तरह, हम उन तीन मुख्य तरीकों पर पहुँचते हैं जिनमें जनरेटिव एआई गोपनीयता जोखिम उत्पन्न करता है:

• पूर्व-प्रशिक्षण डेटा के बड़े भंडार में संभावित रूप से व्यक्तिगत जानकारी शामिल होती है, जो समझौता और निष्कासन के प्रति संवेदनशील होती है।
• पूर्व-प्रशिक्षण डेटा में शामिल व्यक्तिगत जानकारी प्रश्नों और निर्देशों के जवाब के माध्यम से उसी LLM के अन्य उपयोगकर्ताओं तक लीक हो सकती है।
• एलएलएम के साथ बातचीत के दौरान प्रदान की गई व्यक्तिगत और गोपनीय जानकारी एलएलएम के कर्मचारियों और संभवतः तीसरे पक्ष के ठेकेदारों के पास पहुंच जाती है, जहां से इसे देखा या लीक किया जा सकता है।

ये सभी उपयोगकर्ताओं की गोपनीयता के लिए जोखिम हैं, लेकिन व्यक्तिगत रूप से पहचान योग्य जानकारी (PII) के गलत हाथों में जाने की संभावना अभी भी काफी कम है। कम से कम, जब तक डेटा ब्रोकर तस्वीर में नहीं आते। ये कंपनियाँ PII को सूँघने और उसे इकट्ठा करने, एकत्र करने और प्रसारित करने में माहिर हैं, अगर इसे सीधे प्रसारित नहीं किया जाता है।

चूंकि पीआईआई और अन्य व्यक्तिगत डेटा एक वस्तु बन गए हैं और डेटा-ब्रोकर उद्योग इससे लाभ कमाने के लिए उभर रहा है, इसलिए कोई भी व्यक्तिगत डेटा जो "बाहर" आता है, उसे डेटा ब्रोकर्स द्वारा हथिया लिए जाने और दूर-दूर तक फैला दिए जाने की पूरी संभावना है।

जनरेटिव एआई के गोपनीयता जोखिम के संदर्भ में

विशिष्ट उत्पादों, सेवाओं और कॉर्पोरेट भागीदारी के संदर्भ में जनरेटिव एआई द्वारा उपयोगकर्ताओं की गोपनीयता के लिए उत्पन्न जोखिमों को देखने से पहले, आइए एक कदम पीछे हटें और जनरेटिव एआई जोखिमों के पूरे पैलेट पर अधिक संरचित नज़र डालें। IAPP के लिए लिखते हुए, मोरेस और प्रीविटाली ने सोलोवे के 2006 के "ए टैक्सोनॉमी ऑफ़ प्राइवेसी" को परिष्कृत करने के लिए डेटा-संचालित दृष्टिकोण अपनाया, जिसमें वर्णित 16 गोपनीयता जोखिमों को घटाकर 12 AI-विशिष्ट गोपनीयता जोखिम कर दिया गया।

मोरेस और प्रीविटाली की रिपोर्ट में ये 12 गोपनीयता जोखिम शामिल हैं संशोधित वर्गीकरण:

• निगरानी: एआई व्यक्तिगत डेटा संग्रहण के पैमाने और सर्वव्यापकता को बढ़ाकर निगरानी जोखिमों को बढ़ाता है।
• पहचान: एआई प्रौद्योगिकियां विभिन्न डेटा स्रोतों में स्वचालित पहचान लिंकिंग को सक्षम बनाती हैं, जिससे व्यक्तिगत पहचान के जोखिम से संबंधित जोखिम बढ़ जाते हैं।
• एकत्रीकरण: एआई किसी व्यक्ति के बारे में विभिन्न डेटा को संयोजित करके निष्कर्ष निकालता है, जिससे गोपनीयता के उल्लंघन का खतरा पैदा होता है।
• मस्तिष्क विज्ञान और मुख-आकृति विज्ञान: एआई शारीरिक विशेषताओं से व्यक्तित्व या सामाजिक विशेषताओं का अनुमान लगाता है, जो एक नई जोखिम श्रेणी है, जो सोलोवे के वर्गीकरण में नहीं है।
• द्वितीयक उपयोग: एआई डेटा के पुनः उपयोग के माध्यम से मूल उद्देश्य के अलावा अन्य उद्देश्यों के लिए व्यक्तिगत डेटा के उपयोग को बढ़ावा देता है।
• बहिष्कार: एआई, अपारदर्शी डेटा प्रथाओं के माध्यम से उपयोगकर्ताओं को यह सूचित करने या नियंत्रण देने में विफलता को और भी बदतर बना देता है कि उनका डेटा किस प्रकार उपयोग किया जा रहा है।
• असुरक्षा: एआई की डेटा आवश्यकताओं और भंडारण प्रथाओं से डेटा लीक और अनुचित पहुंच का खतरा होता है।
• अनावरण: एआई संवेदनशील जानकारी को उजागर कर सकता है, जैसे कि जनरेटिव एआई तकनीकों के माध्यम से।
• विरूपण: यथार्थवादी लेकिन नकली सामग्री उत्पन्न करने की एआई की क्षमता झूठी या भ्रामक जानकारी के प्रसार को बढ़ाती है।
• प्रकटीकरण: जब एआई कच्चे डेटा से अतिरिक्त संवेदनशील जानकारी निकाल लेता है तो वह डेटा के अनुचित साझाकरण का कारण बन सकता है।
• बढ़ी हुई पहुंच: एआई संवेदनशील जानकारी को अपेक्षा से अधिक व्यापक दर्शकों तक पहुंच योग्य बनाता है।
• घुसपैठ: एआई प्रौद्योगिकियां अक्सर निगरानी उपायों के माध्यम से व्यक्तिगत स्थान या एकांत पर आक्रमण करती हैं।

यह काफी हद तक चिंताजनक है। यह ध्यान रखना महत्वपूर्ण है कि यह वर्गीकरण, अपने श्रेय के लिए, जनरेटिव एआई की प्रवृत्ति को ध्यान में रखता है भ्रांत करना - तथ्यात्मक रूप से गलत जानकारी उत्पन्न करना और उसे आत्मविश्वास के साथ प्रस्तुत करना। यह घटना, भले ही यह शायद ही कभी वास्तविक जानकारी प्रकट करती है, गोपनीयता के लिए भी जोखिम है। गलत और भ्रामक जानकारी का प्रसार विषय की गोपनीयता को ऐसे तरीकों से प्रभावित करता है जो सटीक जानकारी के मामले में अधिक सूक्ष्म होते हैं, लेकिन फिर भी यह इसे प्रभावित करता है।

आइए कुछ ठोस उदाहरणों पर गौर करें कि वास्तविक एआई उत्पादों के संदर्भ में गोपनीयता संबंधी ये जोखिम किस प्रकार सामने आते हैं।

टेक्स्ट-आधारित जनरेटिव एआई सिस्टम के साथ प्रत्यक्ष इंटरैक्शन

सबसे सरल मामला वह है जिसमें उपयोगकर्ता सीधे जनरेटिव AI सिस्टम, जैसे ChatGPT, Midjourney, या Gemini के साथ इंटरैक्ट करता है। इनमें से कई उत्पादों के साथ उपयोगकर्ता की बातचीत को लॉग किया जाता है, संग्रहीत किया जाता है, और RLHF (मानव प्रतिक्रिया से सुदृढीकरण सीखने), पर्यवेक्षित निर्देश फ़ाइन-ट्यूनिंग और यहां तक ​​कि अन्य LLM के पूर्व-प्रशिक्षण के लिए उपयोग किया जाता है।

इन जैसी कई सेवाओं की गोपनीयता नीतियों के विश्लेषण से मार्केटिंग और डेटा ब्रोकरेज जैसे बहुत अलग उद्देश्यों से जुड़ी अन्य डेटा-शेयरिंग गतिविधियों का भी पता चलता है। यह जनरेटिव AI द्वारा उत्पन्न गोपनीयता जोखिम का एक बिल्कुल अलग प्रकार है: इन प्रणालियों को विशाल डेटा फ़नल के रूप में वर्णित किया जा सकता है, जो उपयोगकर्ताओं द्वारा प्रदान किए गए डेटा के साथ-साथ अंतर्निहित LLM के साथ उनकी बातचीत के माध्यम से उत्पन्न डेटा को भी एकत्र करते हैं।

एम्बेडेड जनरेटिव एआई सिस्टम के साथ इंटरैक्शन

कुछ उपयोगकर्ता ऐसे जनरेटिव AI इंटरफेस के साथ इंटरैक्ट कर रहे होंगे जो उनके द्वारा इस्तेमाल किए जा रहे किसी भी उत्पाद में एम्बेडेड हैं। उपयोगकर्ता को पता हो सकता है कि वे “AI” सुविधा का उपयोग कर रहे हैं, लेकिन उन्हें यह जानने की संभावना कम है कि डेटा गोपनीयता जोखिमों के संदर्भ में इसका क्या मतलब है। एम्बेडेड सिस्टम के साथ जो बात सामने आती है, वह इस तथ्य की सराहना की कमी है कि LLM के साथ साझा किया गया व्यक्तिगत डेटा डेवलपर्स और डेटा ब्रोकर्स के हाथों में जा सकता है।

यहाँ जागरूकता की कमी के दो स्तर हैं: कुछ उपयोगकर्ताओं को एहसास होता है कि वे एक जनरेटिव AI उत्पाद के साथ बातचीत कर रहे हैं; और कुछ का मानना ​​है कि वे जो भी उत्पाद जनरेटिव AI में बनाया गया है या जिसके माध्यम से पहुँचा जा रहा है, उसका उपयोग कर रहे हैं। किसी भी मामले में, उपयोगकर्ता ने एम्बेडेड सिस्टम के साथ अपनी बातचीत से जुड़े नियमों और शर्तों के लिए तकनीकी रूप से सहमति दी होगी (और शायद दी भी होगी)।

अन्य साझेदारियां जो उपयोगकर्ताओं को जनरेटिव एआई सिस्टम से परिचित कराती हैं

कुछ कंपनियाँ अपने सॉफ़्टवेयर में जनरेटिव AI इंटरफ़ेस को ऐसे तरीकों से एम्बेड या अन्यथा शामिल करती हैं जो कम स्पष्ट होते हैं, जिससे उपयोगकर्ता तीसरे पक्ष के साथ बातचीत करते हैं - और जानकारी साझा करते हैं - बिना यह जाने कि यह क्या है। सौभाग्य से, "AI" इतना प्रभावी विक्रय बिंदु बन गया है कि यह संभावना नहीं है कि कोई कंपनी ऐसे कार्यान्वयन को गुप्त रखेगी।

इस संदर्भ में एक और घटना यह है कि ऐसी कंपनियों को ओपनएआई जैसी जनरेटिव एआई कंपनियों के साथ उपयोगकर्ता या ग्राहक डेटा साझा करने की कोशिश करने के बाद बढ़ती प्रतिक्रिया का सामना करना पड़ा है। उदाहरण के लिए, डेटा हटाने वाली कंपनी ऑप्टेरी, हाल ही में एक निर्णय को पलट दिया ऑप्ट-आउट आधार पर उपयोगकर्ता डेटा को ओपनएआई के साथ साझा करने के लिए, जिसका अर्थ है कि उपयोगकर्ता डिफ़ॉल्ट रूप से प्रोग्राम में नामांकित थे।

ग्राहक न केवल जल्दी थे अपनी निराशा व्यक्त करें, लेकिन कंपनी की डेटा-हटाने वाली सेवा को तुरंत प्राइवेसी गाइड की अनुशंसित डेटा-हटाने वाली सेवाओं की सूची से हटा दिया गया। ऑप्टेरी के लिए श्रेय की बात यह है कि इसने जल्दी और पारदर्शी तरीके से अपने फैसले को पलट दिया, लेकिन यहां सामान्य प्रतिक्रिया महत्वपूर्ण है: लोग "एआई" कंपनियों के साथ डेटा साझा करने के जोखिमों को समझने लगे हैं।

ऑप्टेरी का मामला यहाँ एक अच्छा उदाहरण है क्योंकि इसके उपयोगकर्ता, कुछ अर्थों में, तथाकथित AI कार्यान्वयन के इर्द-गिर्द बढ़ते संदेह के अगुआ हैं। डेटा हटाने वाली सेवा का विकल्प चुनने वाले लोग, आम तौर पर, वे लोग होते हैं जो सेवा की शर्तों और गोपनीयता नीतियों में बदलावों पर ध्यान देंगे।

जनरेटिव एआई डेटा के उपयोग के खिलाफ बढ़ते विरोध का सबूत

गोपनीयता के प्रति जागरूक उपभोक्ता ही जनरेटिव एआई सिस्टम और उनसे जुड़े डेटा गोपनीयता जोखिमों के बारे में चिंता जताने वाले अकेले नहीं हैं। विधायी स्तर पर, यूरोपीय संघ के आर्टिफिशियल इंटेलिजेंस एक्ट जोखिमों को उनकी गंभीरता के अनुसार वर्गीकृत करता है, जिसमें डेटा गोपनीयता अधिकांश मामलों में गंभीरता को निर्धारित करने के लिए स्पष्ट रूप से या निहित रूप से बताई गई कसौटी है। अधिनियम सूचित सहमति के मुद्दों को भी संबोधित करता है, जिसकी हमने पहले चर्चा की थी।

व्यापक संघीय डेटा गोपनीयता कानून को अपनाने में बेहद धीमी गति से आगे बढ़ने वाले अमेरिका में, कम से कम कुछ सुरक्षा उपाय तो मौजूद हैं, इसका श्रेय जाता है कार्यकारी आदेश 14110एक बार फिर, आदेश के लिए दिए गए उद्देश्यों में डेटा गोपनीयता की चिंता सबसे आगे है: "गैर-जिम्मेदाराना उपयोग [एआई प्रौद्योगिकियों का] धोखाधड़ी, भेदभाव, पूर्वाग्रह और गलत सूचना जैसे सामाजिक नुकसान को बढ़ा सकता है" - ये सभी व्यक्तिगत डेटा की उपलब्धता और प्रसार से संबंधित हैं।

उपभोक्ता स्तर पर लौटते हुए, यह केवल गोपनीयता के प्रति जागरूक उपभोक्ता ही नहीं हैं, जिन्होंने गोपनीयता-आक्रामक जनरेटिव AI कार्यान्वयन पर आपत्ति जताई है। Microsoft का अब कुख्यात “AI-संचालित” रिकॉल फ़ीचर, जो इसके Windows 11 ऑपरेटिंग सिस्टम के लिए नियत है, इसका एक प्रमुख उदाहरण है। एक बार जब गोपनीयता और सुरक्षा जोखिमों की सीमा का पता चला, तो प्रतिक्रिया तकनीकी दिग्गज को पीछे हटने के लिए मजबूर करने के लिए पर्याप्त था। दुर्भाग्य से, माइक्रोसॉफ्ट को लगता है इस विचार को न छोड़ें, लेकिन फिर भी प्रारंभिक सार्वजनिक प्रतिक्रिया उत्साहजनक है।

माइक्रोसॉफ्ट के कोपायलट कार्यक्रम की व्यापक रूप से आलोचना की गई है। डेटा गोपनीयता और डेटा सुरक्षा दोनों समस्याएँ। चूँकि कोपायलट को GitHub डेटा (ज़्यादातर स्रोत कोड) पर प्रशिक्षित किया गया था, इसलिए Microsoft द्वारा प्रोग्रामर और डेवलपर्स के सॉफ़्टवेयर लाइसेंसिंग समझौतों के कथित उल्लंघन को लेकर विवाद भी पैदा हुआ। ऐसे मामलों में डेटा गोपनीयता और बौद्धिक संपदा अधिकारों के बीच की रेखाएँ धुंधली होने लगती हैं, जिससे पूर्व को मौद्रिक मूल्य मिलता है - ऐसा कुछ जो आसानी से नहीं किया जा सकता।

शायद सबसे बड़ा संकेत यह है कि उपभोक्ताओं की नजरों में एआई एक खतरे का संकेत बन रहा है, क्योंकि एप्पल को अपने प्रारंभिक एआई लॉन्च के प्रति जनता की प्रतिक्रिया बहुत ही उदासीन या पूरी तरह से सतर्क नहीं थी, विशेष रूप से ओपनएआई के साथ डेटा साझाकरण समझौतों के संबंध में।

टुकड़ों में समाधान

जनरेटिव एआई द्वारा उत्पन्न कुछ जोखिमों को कम करने के लिए विधायक, डेवलपर्स और कंपनियां कुछ कदम उठा सकती हैं। ये व्यापक समस्या के विशिष्ट पहलुओं के लिए विशेषीकृत समाधान हैं, इनमें से किसी एक समाधान के पर्याप्त होने की उम्मीद नहीं है, लेकिन ये सभी मिलकर काम करके वास्तविक अंतर ला सकते हैं।

• डेटा न्यूनीकरण. एकत्रित और संग्रहीत डेटा की मात्रा को न्यूनतम करना एक उचित लक्ष्य है, लेकिन यह जनरेटिव एआई डेवलपर्स की प्रशिक्षण डेटा की इच्छा के सीधे विपरीत है।
• पारदर्शिता। एमएल में वर्तमान अत्याधुनिक स्थिति को देखते हुए, यह कई मामलों में तकनीकी रूप से संभव भी नहीं हो सकता है। किसी दिए गए आउटपुट को जेनरेट करते समय कौन सा डेटा प्रोसेस किया जाता है और कैसे किया जाता है, इसकी जानकारी जनरेटिव एआई इंटरैक्शन में गोपनीयता सुनिश्चित करने का एक तरीका है।
• गुमनामीकरण. कोई भी PII जिसे प्रशिक्षण डेटा से बाहर नहीं रखा जा सकता (डेटा न्यूनीकरण के माध्यम से) उसे अनाम किया जाना चाहिए। समस्या यह है कि कई लोकप्रिय अनामीकरण और छद्म नामकरण तकनीकें आसानी से पराजित हो जाती हैं।
• उपयोगकर्ता की सहमति. उपयोगकर्ताओं से उनके डेटा के संग्रह और साझाकरण के लिए सहमति की अपेक्षा करना आवश्यक है, लेकिन यह दुरुपयोग के लिए बहुत खुला है और उपभोक्ता की आत्मसंतुष्टि के लिए बहुत अधिक प्रवण है। यहाँ सूचित सहमति की आवश्यकता है और अधिकांश उपभोक्ता, उचित रूप से सूचित होने पर, इस तरह के डेटा साझाकरण के लिए सहमति नहीं देंगे, इसलिए प्रोत्साहन गलत हैं।
• पारगमन और विश्राम के दौरान डेटा को सुरक्षित रखना। डेटा गोपनीयता और डेटा सुरक्षा दोनों का एक और आधार, क्रिप्टोग्राफ़िक और अन्य तरीकों से डेटा की सुरक्षा को हमेशा अधिक प्रभावी बनाया जा सकता है। हालाँकि, जनरेटिव AI सिस्टम अपने इंटरफ़ेस के माध्यम से डेटा लीक करते हैं, जिससे यह समाधान का केवल एक हिस्सा बन जाता है।
• कॉपीराइट और आईपी कानून को लागू करना तथाकथित AI के संदर्भ में। ML एक "ब्लैक बॉक्स" में काम कर सकता है, जिससे यह पता लगाना मुश्किल हो जाता है कि कौन सी कॉपीराइट सामग्री और IP किस जनरेटिव AI आउटपुट में समाप्त होती है।
• लेखापरीक्षा। एलएलएम की ब्लैक-बॉक्स प्रकृति और उनके द्वारा समर्थित जनरेटिव एआई सिस्टम द्वारा विफल किया गया एक और महत्वपूर्ण सुरक्षा उपाय। इस अंतर्निहित सीमा को और भी जटिल बनाता है अधिकांश जनरेटिव एआई उत्पादों की बंद-स्रोत प्रकृति, जो ऑडिट को केवल डेवलपर की सुविधानुसार किए जाने तक सीमित करती है।

समस्या के समाधान के लिए ये सभी उपाय वैध और आवश्यक हैं, लेकिन कोई भी पर्याप्त नहीं है। इन सभी को सार्थक प्रभाव में आने के लिए विधायी समर्थन की आवश्यकता है, जिसका अर्थ है कि वे समय से पीछे रहने के लिए अभिशप्त हैं क्योंकि यह गतिशील क्षेत्र निरंतर विकसित हो रहा है।

स्पष्ट समाधान

जनरेटिव एआई द्वारा उत्पन्न गोपनीयता जोखिमों का समाधान न तो क्रांतिकारी है और न ही रोमांचक, लेकिन इसके तार्किक निष्कर्ष पर पहुंचने पर, इसके परिणाम दोनों ही हो सकते हैं। स्पष्ट समाधान में रोज़मर्रा के उपभोक्ताओं को कंपनियों के लिए उनके डेटा के मूल्य और खुद के लिए डेटा गोपनीयता की अमूल्यता के बारे में जागरूक होना शामिल है।

उपभोक्ता निजी जानकारी के पीछे के स्रोत और इंजन हैं जो आधुनिक निगरानी अर्थव्यवस्था कहलाने वाली चीज़ को शक्ति प्रदान करते हैं। एक बार जब उपभोक्ताओं का एक महत्वपूर्ण समूह निजी डेटा के सार्वजनिक क्षेत्र में प्रवाह को रोकना शुरू कर देता है और व्यक्तिगत डेटा का सौदा करने वाली कंपनियों से जवाबदेही की मांग करना शुरू कर देता है, तो सिस्टम को खुद को सुधारना होगा।

जनरेटिव एआई के बारे में उत्साहजनक बात यह है कि वर्तमान विज्ञापन और मार्केटिंग मॉडल के विपरीत, इसमें किसी भी स्तर पर व्यक्तिगत जानकारी शामिल करने की आवश्यकता नहीं है। प्री-ट्रेनिंग और फाइन-ट्यूनिंग डेटा में PII या अन्य व्यक्तिगत डेटा शामिल करने की आवश्यकता नहीं है और उपयोगकर्ताओं को जनरेटिव AI सिस्टम के साथ अपनी बातचीत के दौरान इसे उजागर करने की आवश्यकता नहीं है।

प्रशिक्षण डेटा से अपनी व्यक्तिगत जानकारी हटाने के लिए, लोग सीधे स्रोत पर जा सकते हैं और विभिन्न डेटा ब्रोकर्स (लोगों की खोज साइटों सहित) से अपने प्रोफाइल हटा सकते हैं, जो सार्वजनिक रिकॉर्ड को एकत्रित करते हैं, और उन्हें खुले बाजार में प्रचलन में लाते हैं। व्यक्तिगत डेटा हटाने की सेवाएँ प्रक्रिया को स्वचालित करें, जिससे यह त्वरित और आसान हो जाए। बेशक, इन कंपनियों के डेटाबेस से व्यक्तिगत डेटा हटाने के कई अन्य लाभ हैं और कोई नुकसान नहीं है।

लोग जनरेटिव AI सहित सॉफ़्टवेयर के साथ बातचीत करते समय व्यक्तिगत डेटा भी उत्पन्न करते हैं। इस डेटा के प्रवाह को रोकने के लिए, उपयोगकर्ताओं को इस बात का अधिक ध्यान रखना होगा कि उनकी बातचीत रिकॉर्ड की जा रही है, समीक्षा की जा रही है, विश्लेषण किया जा रहा है और साझा किया जा रहा है। इससे बचने के लिए उनके विकल्प ऑनलाइन सिस्टम पर जो कुछ भी वे प्रकट करते हैं उसे प्रतिबंधित करना और जहाँ भी संभव हो ऑन-डिवाइस, ओपन-सोर्स एलएलएम का उपयोग करना है। लोग, कुल मिलाकर, पहले से ही सार्वजनिक रूप से जो चर्चा करते हैं उसे संशोधित करने का एक अच्छा काम करते हैं - हमें बस इन प्रवृत्तियों को जनरेटिव AI के दायरे में विस्तारित करने की आवश्यकता है।