एआई जो बिना ओवरशेयरिंग के याद रखता है: निजता वास्तुकला अगली पीढ़ी की व्यक्तिगत सेवाओं के लिए

अधिकांश व्यवसायों ने अभी तक यह महसूस नहीं किया है कि व्यक्तिगत एआई सहायक एक नए स्तर पर पहुंच गए हैं। अब वे केवल प्रश्नों का उत्तर नहीं देते हैं, वे वास्तविक कर्मचारियों की ओर से कार्रवाई करते हैं: वे आरक्षण बनाते हैं और उनकी निगरानी करते हैं, संवाद करते हैं और वित्त, कार्यक्रम, यात्रा और बैठकों के बारे में निर्णय लेते हैं।

एआई द्वारा संचालित डेटा भी बदल गया है: “आपको किस प्रकार का संगीत पसंद है” से “आप कहां हैं, आप किसके साथ हैं, आपने क्या सहमति दी है, और इसके लिए आप कितना भुगतान कर रहे हैं” तक। यह एक गुणात्मक रूप से अलग स्तर की कमजोरता है, और हमें निश्चित रूप से एक नई वास्तुकला की आवश्यकता है। मैं इसे “निजता रसीदें” कहता हूं – डिजिटल रसीदें जो उपयोगकर्ताओं को को देखने की अनुमति देती हैं कि सहायक उनके बारे में क्या जानता है, यह कहां से आया है और इसका उपयोग क्यों किया जा रहा है। यह वही अपेक्षा है जो हम आज बैंक स्टेटमेंट के लिए रखते हैं: पारदर्शी, सत्यापन योग्य, अनुरोध पर उपलब्ध।

सुरक्षित एआई क्यों महत्वपूर्ण हो गया है

हाल के समय तक, एआई सहायक मुख्य रूप से सूचनात्मक थे: खोज, दस्तावेज़ सारांश, कोड हिंट। वे शायद ही कभी मानव के हस्तक्षेप के बिना कार्य कर सकते थे।

आज, हम एक अलग तस्वीर देखते हैं। सहायक ईमेल, कैलेंडर, मैसेंजर, बैंकिंग और यात्रा सेवाओं में एकीकृत हैं; वे स्वतंत्र रूप से एक पत्र भेज सकते हैं एक साथी को , एक आरक्षण के लिए भुगतान कर सकते हैं या एक उड़ान बदल सकते हैं, जिस संदर्भ पर व्यक्ति जो प्रभारी हो सकता है उसे पता नहीं है।

इसी समय, ऐसे सहायकों के पहले और सबसे सक्रिय उपयोगकर्ता वे लोग हैं जिनके लिए गलतियों की लागत बहुत अधिक है: शीर्ष प्रबंधक और सीईओ, एचएनडब्ल्यू क्लाइंट, वित्तीय क्षेत्र और पूंजी प्रबंधन पेशेवर। उनके लिए, गोपनीयता की हानि एक गंभीर प्रतिष्ठा जोखिम, कानूनी और सीधा वित्तीय जोखिम है।

एआई के संबंध में, गोपनीयता के मुद्दों को अब केवल एक औपचारिकता के रूप में नहीं माना जा सकता है।

न्यूनतम डेटा, अधिक मूल्य

अधिकांश एआई उत्पाद आवश्यकता से अधिक डेटा एकत्र करते हैं। हमारे अभ्यास में, हम पाते हैं कि एआई सहायकों द्वारा एकत्र किए गए डेटा का अधिकांश भाग वास्तव में सेवाएं प्रदान करने के लिए उपयोग नहीं किया जाता है। यदि हम कॉन्सियर्ज व्यवसाय लेते हैं, तो तीन चीजें पर्याप्त हैं ताकि सहायक उच्च गुणवत्ता वाली व्यक्तिगत सेवा प्रदान कर सके। पहला, कार्य-संबंधित प्राथमिकताएं: आप कैसे यात्रा करते हैं, आप कैसे संवाद करना पसंद करते हैं, आपके पास वीजा, बजट और पारिवारिक दायित्वों के संबंध में क्या प्रतिबंध हैं।

दूसरा, वर्तमान अनुरोध का संदर्भ: कहां, कब, किसके साथ, किस उद्देश्य से, समय सीमा और जोखिम।

अंत में, यह पिछली बातचीत को कार्यों के भीतर याद रखता है: इसलिए यह同样的 प्रश्न नहीं पूछता है, चुने गए समाधानों को याद रखता है और गलतियों को दोहराता नहीं है।

यह एक अच्छे व्यक्तिगत सहायक के स्तर पर उत्पाद के लिए पर्याप्त है। इसके लिए पूरे पत्राचार के आर्काइव, निरंतर स्थान ट्रैकिंग या वित्तीय लेनदेन की आवश्यकता नहीं है।

एआई सहायक और स्वीकार्य सीमाएं

कुछ प्रकार के डेटा हैं जो वास्तव में एक व्यक्तिगत सहायक में कोई जगह नहीं है। उदाहरण के लिए, निष्क्रिय व्यवहार डेटा: निरंतर सुनना, निरंतर भौगोलिक स्थान ट्रैकिंग, स्क्रीन या इनपुट मॉनिटरिंग। यदि प्रणाली जानकारी एकत्र करती है जो आपके द्वारा अनुरोधित जानकारी के बारे में नहीं है, बल्कि आप क्या कर रहे हैं इसके बारे में है, तो यह सहायक नहीं है और यह निगरानी बन जाती है।

इसके अलावा, जिन तीसरे पक्षों ने प्रणाली के साथ कभी बातचीत नहीं की है, उनके बारे में डेटा की आवश्यकता नहीं है। उदाहरण के लिए, “मीटिंग का आयोजन करने में मदद करें” जैसा अनुरोध मेहमानों के प्रोफाइल, उनके मार्ग और आदतों का निर्माण करने का अधिकार नहीं देता है।

तीसरा, आपके संचार की पूरी सामग्री डिफ़ॉल्ट रूप से लंबे समय तक संग्रहीत नहीं की जानी चाहिए। सहायक एक विशिष्ट ईमेल को संसाधित कर सकता है यदि आप उसे विशेष रूप से अनुरोध करते हैं, लेकिन इसका मतलब यह नहीं है कि यह अब आपके ईमेल को पढ़ने का अधिकार रखता है।

उपयोगी का अर्थ है आक्रामक: एआई उत्पादों का जाल

अतिरिक्त संदर्भ वास्तव में उत्पाद को अधिक सुविधाजनक बनाता है, क्योंकि जितना अधिक प्रणाली जानती है, उतनी ही सटीक सिफारिशें, तेजी से प्रतिक्रियाएं और उपयोग करने का अधिक वाह प्रभाव होता है।

यह वह जगह है जहां उपयोगकर्ता की जरूरतों की पूर्व सूचना देने के लिए कैलेंडर, ईमेल, चैट, सीआरएम और जियोडेटा को जोड़ने की प्राकृतिक आवश्यकता उत्पन्न होती है। प्रत्येक उपयोगकर्ता कनेक्शन तर्कसंगत और उचित लगता है।

कॉन्सियर्ज उद्योग में, ग्राहक के कैलेंडर और यात्रा इतिहास को जोड़ने से सिफारिशें काफी बेहतर हो जाती हैं – प्रणाली ग्राहक की जरूरतों का अनुमान लगा सकती है इससे पहले कि ग्राहक उन्हें व्यक्त करे। इस बीच, कुछ सेवाएं जानबूझकर संचार सामग्री को सक्रिय कार्यों के बाहर संग्रहीत नहीं करती हैं और निष्क्रिय डेटा पर आधारित व्यवहार प्रोफाइल नहीं बनाती हैं।

समस्या यह है कि उपयोगकर्ता अनुभव के अनुकूलन की तर्कसंगति धीरे-धीरे वास्तुकला को अधिक डेटा संग्रह, लंबे समय तक भंडारण और इसके लिए व्यापक पहुंच की ओर स्थानांतरित कर रही है। और एक निश्चित बिंदु पर, रेखा बस गायब हो जाती है।

दूसरी समस्या ग्राहक सहायता के लिए पहुंच से संबंधित है। आप मजबूत क्रिप्टोग्राफी बना सकते हैं, और फिर ग्राहक सहायता ऑपरेटर को एक ग्राहक के इतिहास तक पूरी पहुंच दे सकते हैं, उदाहरण के लिए, एक टिकट खरीदने के लिए। वास्तव में, घटनाएं अक्सर तब होती हैं जब अनियंत्रित आंतरिक पहुंच और मानव त्रुटि के कारण होती हैं, न कि बाहरी हमलों के कारण।

तीसरा जोखिम बहु-एजेंट वास्तुकला है। जब एजेंट एक-दूसरे को संदर्भ पास करते हैं, तो डेटा घटकों के बीच तरीकों से प्रवाहित होना शुरू हो जाता है जो स्पष्ट रूप से डिज़ाइन नहीं किए गए थे। यदि एक एजेंट के पास बहुत व्यापक अनुमतियां हैं, तो यह संदर्भ आगे की श्रृंखला द्वारा उठाया जाता है।

गोपनीयता रसीदें: एआई के लिए अगला मानक

गोपनीयता को एक अनुपालन कार्य के रूप में देखना एक गलती है। वास्तविक गोपनीयता इस पर निर्भर करती है कि हम क्या संग्रहीत करते हैं और इसका उपयोग किस उद्देश्य से करते हैं, हम इसे कितनी देर तक और किन शर्तों पर बढ़ाते हैं, कौन पहुंच प्राप्त करता है और किन परिस्थितियों में, जिसमें लोग और एआई एजेंट शामिल हैं, और उपयोगकर्ता इसे कैसे नियंत्रित करते हैं।

दुर्भाग्य से, अधिकांश सेवाओं के पास उपयोगकर्ताओं के प्रश्नों का एक सरल उत्तर नहीं है: प्रणाली उनके बारे में क्या जानती है, क्या इसे सही किया जा सकता है या पूरी तरह से हटाया जा सकता है, क्या किसी विशिष्ट डेटा का उपयोग निषिद्ध किया जा सकता है?

अतः, उपयोगकर्ता जब अपने एआई सहायक से पूछ सकते हैं कि यह उनके बारे में क्या जानता है, क्यों जानता है और यह जानकारी कहां से आई है, और तुरंत एक स्पष्ट, सत्यापन योग्य उत्तर प्राप्त कर सकते हैं, तो गोपनीयता रसीदें पेश करना महत्वपूर्ण है। जैसा कि हम बैंक स्टेटमेंट से अपेक्षा करते हैं, हम जल्द ही उन प्रणालियों से पारदर्शिता की अपेक्षा करेंगे जो हमारे समय, संबंधों और पूंजी का प्रबंधन करती हैं।

सुरक्षित स्मृति का तकनीकी आधार

गोपनीयता रसीदें बिना एक ठोस इंजीनियरिंग आधार के असंभव हैं। कम से कम तीन परतें महत्वपूर्ण हैं: पहले, बुनियादी ढांचे के स्तर पर डेटा सुरक्षा। एन्क्रिप्शन एक मूल सिद्धांत होना चाहिए, न कि एक औपचारिकता। डेटा को क्लाइंट-विशिष्ट कुंजियों के साथ संग्रहीत किया जाना चाहिए, न कि सभी के लिए एक मास्टर कुंजी के साथ, प्रसारण को आधुनिक प्रोटोकॉल के माध्यम से किया जाना चाहिए, और संवेदनशील विशेषताओं को सेवा मेटाडेटा से तार्किक रूप से अलग किया जाना चाहिए।

इसके अलावा, प्रत्येक सेवा, एजेंट और ऑपरेटर को केवल उतना डेटा एक्सेस करना चाहिए जो एक विशिष्ट कार्य को पूरा करने के लिए आवश्यक हो।

अंत में, दुर्भाग्य-मुक्त पहुंच लॉग, प्रत्येक पहुंच की ऑडिटिंग और भंडारण और प्रसंस्करण भूगोल पर तकनीकी नियंत्रण महत्वपूर्ण हैं। बहु-एजेंट दृश्यों का नियमित परीक्षण एक अलग जोखिम वर्ग माना जाना चाहिए।

केवल इस वास्तुकला के साथ गोपनीयता रसीदें संभव हो जाती हैं: इस तरह, प्रणाली वास्तव में जानती है कि यह क्या जानती है और इसका प्रमाण दे सकती है।

कौन हारेगा और कौन मानक बन जाएगा?

सेवाएं और उत्पाद जो स्मृति को एक-तरफा संचय के रूप में मानते हैं हार जाएंगे: उपयोगकर्ता के लिए कम पारदर्शिता, लेकिन अधिक स्रोत, अधिक संदर्भ और लंबे समय तक भंडारण।

यह मॉडल अल्पकालिक लाभ के रूप में प्रतीत हो सकता है, लेकिन बिना प्रतिबंधों और स्पष्ट नियमों के, यह तर्कसंगत विस्तार में बदल जाता है, क्योंकि डेटा तेजी से जुड़ जाता है जितनी तेजी से व्याख्या और नियंत्रण के तंत्र स्थापित किए जा सकते हैं।

डेटा लीक, एआई सहायकों के दुरुपयोग या संवेदनशील जानकारी के अनुचित प्रकटीकरण से संबंधित घोटाले इस श्रेणी के सभी उत्पादों को प्रभावित करेंगे। उपयोगकर्ता पारदर्शिता के बारे में अधिक जानकारी मांगेंगे, और केवल वे कंपनियां जिन्होंने व्याख्या, ट्रेसबिलिटी और उपयोगकर्ता नियंत्रण को अपनी वास्तुकला में पहले से ही शामिल किया है, विश्वास बनाए रख पाएंगी।

जो उत्पाद प्रणाली को एक त्वरित और सत्यापन योग्य चित्र के आसपास डिज़ाइन करते हैं कि एआई क्या जानता है और क्यों यह मानक बन जाएगा। गोपनीयता को प्रणाली का हिस्सा बनना चाहिए – विशेष रूप से जब यह लोगों के जीवन को प्रभावित करता है।