एआई जो बिना ओवरशेयरिंग के याद रखता है: निजता वास्तुकला अगली पीढ़ी के व्यक्तिगत सेवाओं के लिए

अधिकांश व्यवसायों ने अभी तक यह महसूस नहीं किया है कि व्यक्तिगत एआई सहायक एक नए स्तर पर पहुंच गए हैं। अब वे केवल प्रश्नों का उत्तर नहीं देते हैं, वे वास्तविक कर्मचारियों की ओर से कार्रवाई करते हैं: वे आरक्षण बनाते और निगरानी करते हैं, संवाद करते हैं, और वित्त, कार्यक्रम, यात्रा, और बैठकों के बारे में निर्णय लेते हैं।

एआई द्वारा संचालित डेटा भी बदल गया है: “आपको किस प्रकार का संगीत पसंद है” से “आप कहां हैं, आप किसके साथ हैं, आपने क्या सहमति दी है, और आप इसके लिए कितना भुगतान कर रहे हैं।” यह एक गुणात्मक रूप से अलग स्तर की कमजोरता है, और हमें निश्चित रूप से एक नई वास्तुकला की आवश्यकता है। मैं इसे “निजता रसीद” कहता हूं – डिजिटल रसीदें जो उपयोगकर्ताओं को यह देखने की अनुमति देती हैं कि सहायक वास्तव में उनके बारे में क्या जानता है, यह कहां से आया है, और यह क्यों उपयोग किया जा रहा है। यह वही अपेक्षा है जो हम आज बैंक स्टेटमेंट के लिए करते हैं: पारदर्शी, सत्यापित, अनुरोध पर उपलब्ध।

सुरक्षित एआई क्यों महत्वपूर्ण हो गया है

हाल के समय तक, एआई सहायक मुख्य रूप से सूचनात्मक थे: खोज, दस्तावेज़ सारांश, कोड संकेत। वे शायद ही कभी किसी व्यक्ति के बिना कार्य कर सकते थे जो प्रक्रिया को नियंत्रित करता था।

आज, हम एक अलग तस्वीर देखते हैं। सहायक ईमेल, कैलेंडर, मैसेंजर, बैंकिंग, और यात्रा सेवाओं में एकीकृत हैं; वे स्वतंत्र रूप से एक पत्र भेज सकते हैं एक साथी को , एक आरक्षण के लिए भुगतान करें, या एक उड़ान बदलें, जो कि संदर्भ पर निर्भर करता है जो कि जिम्मेदार व्यक्ति को पता नहीं हो सकता है।

इसी समय, ऐसे सहायकों के पहले और सबसे सक्रिय उपयोगकर्ता वे लोग हैं जिनके लिए गलतियों की लागत बहुत अधिक है: शीर्ष प्रबंधक और सीईओ, एचएनडब्ल्यू क्लाइंट, वित्तीय क्षेत्र और पूंजी प्रबंधन पेशेवर। उनके लिए, निजता की हानि एक गंभीर प्रतिष्ठा जोखिम, कानूनी और सीधा वित्तीय जोखिम है।

एआई के संबंध में, निजता के मुद्दों को अब एक मात्र औपचारिकता के रूप में नहीं माना जा सकता है।

न्यूनतम डेटा, अधिक मूल्य

अधिकांश एआई उत्पाद आवश्यकता से अधिक डेटा एकत्र करते हैं। हमारे अभ्यास में, हम पाते हैं कि एआई सहायकों द्वारा एकत्र किए गए डेटा का अधिकांश हिस्सा वास्तव में सेवाएं प्रदान करने के लिए उपयोग नहीं किया जाता है। यदि हम कॉन्सिएर्ज व्यवसाय लेते हैं, तो तीन चीजें पर्याप्त हैं एक सहायक को उच्च गुणवत्ता वाली व्यक्तिगत सेवा प्रदान करने के लिए। पहला, कार्य-संबंधित वरीयताएं: आप कैसे यात्रा करते हैं, आप कैसे संवाद करना पसंद करते हैं, आपके पास वीजा, बजट और परिवार के दायित्वों के संबंध में क्या प्रतिबंध हैं।

दूसरा, वर्तमान अनुरोध का संदर्भ: कहां, कब, किसके साथ, किस उद्देश्य से, समय सीमा और जोखिम।

अंत में, यह पिछली बातचीत को कार्यों के भीतर याद रखता है: इसलिए यह एक ही प्रश्न नहीं पूछता है, चुने गए समाधानों को याद रखता है, और गलतियों को दोहराता नहीं है।

यह पर्याप्त है उत्पाद को एक अच्छे व्यक्तिगत सहायक के स्तर पर काम करने के लिए। इसके लिए पूरे पत्राचार के संग्रह, निरंतर स्थान ट्रैकिंग, या वित्तीय लेनदेन की आवश्यकता नहीं है।

एआई सहायक और स्वीकार्य सीमाएं

कुछ डेटा प्रकार हैं जो वास्तव में एक व्यक्तिगत सहायक में कोई स्थान नहीं रखते हैं। उदाहरण के लिए, निष्क्रिय व्यवहार डेटा: निरंतर सुनवाई, निरंतर भौगोलिक स्थान ट्रैकिंग बिना अनुरोध के, स्क्रीन या इनपुट मॉनिटरिंग। यदि प्रणाली जानकारी एकत्र करती है जो कि आप जो पूछते हैं उसके बारे में नहीं है, लेकिन आप जो कर रहे हैं उसके बारे में है, तो यह एक सहायक के रूप में नहीं है और निगरानी बन जाता है।

इसके अलावा, जिन तृतीय पक्षों ने प्रणाली के साथ कभी बातचीत नहीं की है, उनके बारे में डेटा की आवश्यकता नहीं है। उदाहरण के लिए, “एक बैठक का आयोजन करने में मदद करें” जैसा अनुरोध मेहमानों के प्रोफाइल, उनके मार्ग और आदतों का निर्माण करने का अधिकार नहीं देता है।

तीसरा, आपके संचार की पूरी सामग्री डिफ़ॉल्ट रूप से लंबी अवधि की स्मृति में संग्रहीत नहीं की जानी चाहिए। सहायक एक विशिष्ट ईमेल को संसाधित कर सकता है यदि आप उसे स्पष्ट रूप से कहते हैं, लेकिन इसका मतलब यह नहीं है कि यह अब आपके ईमेल को पढ़ने का अधिकार रखता है।

उपयोगी का अर्थ है आक्रामक: एआई उत्पादों का जाल

अतिरिक्त संदर्भ वास्तव में उत्पाद को अधिक सुविधाजनक बनाता है, क्योंकि जितना अधिक प्रणाली जानती है, उतनी ही सटीक सिफारिशें, तेजी से प्रतिक्रियाएं, और इसका उपयोग करने से अधिक आश्चर्य की भावना होती है।

यह वह जगह है जहां उपयोगकर्ता की जरूरतों का पूर्वानुमान लगाने के लिए कैलेंडर, ईमेल, चैट, सीआरएम और जियोडेटा को जोड़ने की आवश्यकता उत्पन्न होती है। प्रत्येक उपयोगकर्ता कनेक्शन तर्कसंगत और उचित लगता है।

कॉन्सिएर्ज उद्योग में, ग्राहक के कैलेंडर और यात्रा इतिहास को जोड़ने से सिफारिशें काफी बेहतर हो जाती हैं – प्रणाली ग्राहक की जरूरतों का अनुमान लगा सकती है इससे पहले कि ग्राहक उन्हें व्यक्त करे। इस बीच, कुछ सेवाएं जानबूझकर सक्रिय कार्यों के बाहर संचार सामग्री को संग्रहीत नहीं करती हैं और निष्क्रिय डेटा पर आधारित व्यवहार प्रोफाइल नहीं बनाती हैं।

समस्या यह है कि यूएक्स अनुकूलन की तर्कसंगति धीरे-धीरे वास्तुकला को अधिक डेटा संग्रह, लंबे समय तक भंडारण और इसके लिए व्यापक पहुंच की ओर स्थानांतरित कर रही है। और किसी बिंदु पर, रेखा बस गायब हो जाती है।

दूसरी समस्या ग्राहक सहायता के लिए पहुंच से संबंधित है। आप मजबूत क्रिप्टोग्राफी बना सकते हैं, और फिर ग्राहक सहायता ऑपरेटर को एक टिकट खरीदने के लिए ग्राहक के इतिहास तक पूरी पहुंच दे सकते हैं। वास्तव में, घटनाएं अक्सर बाहरी हमलों के बजाय अनियंत्रित आंतरिक पहुंच और मानव त्रुटि के कारण होती हैं।

तीसरा जोखिम बहु-एजेंट वास्तुकला है। जब एजेंट एक दूसरे को संदर्भ पास करते हैं, तो डेटा घटकों के बीच प्रवाहित होने लगता है जो स्पष्ट रूप से डिज़ाइन नहीं किए गए थे। यदि एक एजेंट के पास बहुत व्यापक अनुमतियां हैं, तो यह संदर्भ आगे की श्रृंखला द्वारा उठाया जाता है।

निजता रसीद: एआई के लिए अगला मानक

यह एक गलती है निजता को एक अनुपालन कार्य के रूप में देखना। वास्तविक निजता इस पर निर्भर करती है कि हम क्या संग्रहीत करते हैं और इसका उपयोग किस उद्देश्य से करते हैं, कितनी देर तक और किन शर्तों पर हम इसका विस्तार करते हैं, कौन पहुंच प्राप्त करता है और किन परिस्थितियों में, जिसमें लोग और एआई एजेंट शामिल हैं, और उपयोगकर्ता इसे कैसे नियंत्रित करते हैं।

दुर्भाग्य से, अधिकांश सेवाओं के पास उपयोगकर्ताओं के प्रश्नों का एक सरल उत्तर नहीं है: सहायक वास्तव में उनके बारे में क्या जानता है, क्या इसे संशोधित या पूरी तरह से हटाया जा सकता है, क्या विशिष्ट डेटा का उपयोग प्रतिबंधित किया जा सकता है?

इसलिए, यह महत्वपूर्ण है कि जब एक उपयोगकर्ता अपने एआई सहायक से पूछ सकता है कि यह वास्तव में उनके बारे में क्या जानता है, क्यों जानता है, और यह जानकारी कहां से आई है, और तुरंत एक स्पष्ट, सत्यापित उत्तर प्राप्त करे। जैसा कि हम आज बैंक स्टेटमेंट से अपेक्षा करते हैं, हम जल्द ही उन प्रणालियों से पारदर्शिता की अपेक्षा करेंगे जो हमारे समय, कनेक्शन और पूंजी का प्रबंधन करती हैं।

सुरक्षित स्मृति का तकनीकी आधार

निजता रसीदें एक ठोस इंजीनियरिंग आधार के बिना असंभव हैं। कम से कम तीन परतें महत्वपूर्ण हैं: पहली, बुनियादी ढांचे के स्तर पर डेटा सुरक्षा। एन्क्रिप्शन एक मूल सिद्धांत होना चाहिए, न कि एक औपचारिकता। डेटा को क्लाइंट-विशिष्ट कुंजियों के साथ संग्रहीत किया जाना चाहिए, सभी के लिए एक एकल मास्टर कुंजी के साथ नहीं, प्रसारण आधुनिक प्रोटोकॉल के माध्यम से होना चाहिए, और संवेदनशील विशेषताओं को सेवा मेटाडेटा से तार्किक रूप से अलग किया जाना चाहिए।

इसके अलावा, प्रत्येक सेवा, एजेंट और ऑपरेटर के पास केवल उस डेटा तक पहुंच होनी चाहिए जो एक विशिष्ट कार्य को पूरा करने के लिए आवश्यक है।

अंत में, टैम्पर-प्रूफ एक्सेस लॉग, प्रत्येक पहुंच की ऑडिटिंग, और भंडारण और प्रसंस्करण भूगोल का तकनीकी नियंत्रण महत्वपूर्ण है। बहु-एजेंट दृश्यों का नियमित परीक्षण एक अलग जोखिम वर्ग के रूप में माना जाना चाहिए।

केवल इस वास्तुकला के साथ ही निजता रसीदें संभव हो सकती हैं: इस तरह, प्रणाली वास्तव में जानती है कि यह क्या जानती है और इसे साबित कर सकती है।

कौन हारेगा, और कौन मानक बन जाएगा?

सेवाएं और उत्पाद जो स्मृति को एकतरफा संचयन के रूप में मानते हैं हार जाएंगे: उपयोगकर्ता के लिए कम पारदर्शिता, लेकिन अधिक स्रोत, अधिक संदर्भ, और लंबे समय तक भंडारण।

यह मॉडल अल्पकालिक में लाभकारी लगता है, लेकिन बिना प्रतिबंधों और स्पष्ट नियमों के, यह तर्कसंगत विस्तार में बदल जाता है, क्योंकि डेटा जुड़ता है तेजी से तुलना में तंत्र स्पष्टीकरण और नियंत्रण में रखा जा सकता है।

डेटा लीक, एआई सहायकों के दुरुपयोग, या संवेदनशील जानकारी के गलत खुलासे से संबंधित घोटाले इस श्रेणी के सभी उत्पादों को प्रभावित करेंगे। उपयोगकर्ता पारदर्शिता के बारे में अधिक जानकारी मांगेंगे, और केवल उन कंपनियों को ही विश्वास बनाए रखने में सक्षम होंगी जिन्होंने अपनी वास्तुकला में समझाई, ट्रेसबिलिटी और उपयोगकर्ता नियंत्रण को पहले से ही शामिल किया है।

जो उत्पाद प्रणाली को एक त्वरित और सत्यापित चित्र के साथ डिज़ाइन करते हैं कि एआई क्या जानता है और क्यों वे मानक बन जाएंगे। निजता को प्रणाली का एक हिस्सा होना चाहिए – विशेष रूप से जब यह लोगों के जीवन को प्रभावित करता है।