गूगल ने क्रोम के एआई एजेंट फीचर्स के लिए सुरक्षा आर्किटेक्चर का विवरण दिया

गूगल ने क्रोम के आगामी एजेंटिक एआई फीचर्स के लिए एक विस्तृत सुरक्षा फ्रेमवर्क प्रकाशित किया है, जिसमें उपयोगकर्ताओं की सुरक्षा के लिए कई रक्षा परतें शामिल हैं जब जेमिनी संचालित एजेंट स्वायत्त ब्राउज़िंग कार्य करते हैं।

क्रोम सुरक्षा इंजीनियर नाथन पार्कर की घोषणा में चार मुख्य सुरक्षा स्तंभों का उल्लेख किया गया है जो यह निर्धारित करेंगे कि एआई एजेंट उपयोगकर्ताओं की ओर से वेबसाइटों के साथ कैसे बातचीत करते हैं। यह आर्किटेक्चर उन जोखिमों को संबोधित करता है जिन्होंने शुरुआती एजेंटिक सिस्टम को प्रभावित किया है, जिनमें प्रॉम्प्ट इंजेक्शन हमले, अनधिकृत डेटा एक्सेस और धोखाधड़ी लेनदेन शामिल हैं।

गूगल का दृष्टिकोण तब आता है जब प्रतिद्वंद्वी ब्राउज़र-आधारित एआई एजेंटों को शिप करने के लिए दौड़ रहे हैं। ओपनएआई ने अक्टूबर में चैटजीपीटी एटलस लॉन्च किया था जिसमें एजेंट मोड क्षमताएं थीं, जबकि पर्प्लेक्सिटी ने जुलाई में अपना कोमेट ब्राउज़र शिप किया था। सुरक्षा फ्रेमवर्क गूगल के इरादे को दर्शाता है कि वह प्रतिद्वंद्वियों की तुलना में अधिक सावधानी से आगे बढ़ रहा है, जिनके एजेंटिक फीचर्स शोधकर्ताओं ने पहले ही शोषण के लिए असुरक्षित दिखाए हैं।

एजेंट सुरक्षा के चार स्तंभ

यूजर अलाइनमेंट क्रिटिक पहली रक्षा परत है – एक अलग जेमिनी मॉडल जो प्रत्येक क्रिया की जांच करता है जिसे प्राथमिक एआई एजेंट प्रस्तावित करता है। यह क्रिटिक अलगाव में काम करता है और केवल प्रस्तावित क्रियाओं के बारे में मेटाडेटा की जांच करता है, पूरे पेज कंटेंट के बजाय, जिससे इसका दुर्भाग्यपूर्ण इनपुट्स के प्रति एक्सपोजर कम हो जाता है। यदि कोई क्रिया जोखिम भरी या उपयोगकर्ता के घोषित लक्ष्य के लिए अप्रासंगिक प्रतीत होती है, तो क्रिटिक रिट्राई या उपयोगकर्ता को नियंत्रण वापस देने का आदेश दे सकता है।

मूल सेट यह निर्धारित करते हैं कि कोई एजेंट किसी दिए गए कार्य के दौरान किन वेबसाइटों और पेज तत्वों तक पहुंच सकता है। यह प्रणाली पढ़ने के लिए मूल के बीच अंतर करती है जहां एजेंट सामग्री का उपभोग कर सकता है और पढ़ने योग्य मूल जहां यह क्रियाएं कर सकता है। असंबंधित वेबसाइट और आइफ्रेम पूरी तरह से वापस रखे जाते हैं, जिसमें नए डोमेन तक पहुंच के लिए एक विश्वसनीय गेटिंग फंक्शन की आवश्यकता होती है। इससे क्रॉस-साइट डेटा लीक और एक समझौता एजेंट से संभावित नुकसान को रोका जा सकता है।

उपयोगकर्ता पर्यवेक्षण संवेदनशील ऑपरेशन के लिए मैनुअल पुष्टि की आवश्यकता है। जब कोई एजेंट बैंकिंग पोर्टल, चिकित्सा डेटा साइटों या गूगल पासवर्ड मैनेजर से संग्रहीत क्रेडेंशियल्स तक पहुंच की आवश्यकता होती है, तो क्रोम रुक जाता है और उपयोगकर्ता से कार्रवाई की पुष्टि करने के लिए कहता है। खरीदारी करने या संदेश भेजने से पहले भी यही लागू होता है – एजेंट स्वतंत्र रूप से इन क्रियाओं को पूरा नहीं कर सकता है।

प्रॉम्प्ट इंजेक्शन डिटेक्शन एक समर्पित क्लासिफायर का उपयोग करता है जो पेजों को वास्तविक समय में अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन प्रयासों के लिए स्कैन करता है। यह सिस्टम क्रोम के मौजूदा सुरक्षित ब्राउज़िंग इन्फ्रास्ट्रक्चर और डिवाइस पर स्कैम डिटेक्शन के साथ काम करता है ताकि संदिग्ध दुर्भाग्यपूर्ण सामग्री को एजेंट द्वारा अभिनय करने से पहले ब्लॉक किया जा सके।

स्वचालित रेड-टीमिंग और बग बाउंटी

गूगल ने स्वचालित रेड-टीमिंग सिस्टम विकसित किए हैं जो परीक्षण साइटों और एलएलएम-ड्राइवन हमलों को लगातार बनाते हैं ताकि सुरक्षा आर्किटेक्चर को मान्य किया जा सके। कंपनी विशेष रूप से उन हमले वेक्टरों का परीक्षण करने पर जोर देती है जो स्थायी नुकसान पहुंचा सकते हैं, विशेष रूप से वित्तीय लेनदेन या क्रेडेंशियल चोरी को लक्षित करने वाले।

क्रोम का ऑटो-अपडेट मैकेनिज्म नई कमजोरियों की खोज होने पर तेजी से फिक्स डिलीवर करेगा। बाहरी सुरक्षा अनुसंधान को प्रोत्साहित करने के लिए, गूगल ने एजेंटिक ब्राउज़िंग फ्रेमवर्क में कमजोरियों की पहचान करने वाले शोधकर्ताओं के लिए $20,000 तक के बाउंटी पेमेंट की घोषणा की है।

रक्षात्मक उपायों को शुरुआती एआई ब्राउज़र एक्सटेंशन और चैटबॉट एकीकरण से सीखे गए सबक को दर्शाते हैं, जहां प्रॉम्प्ट इंजेक्शन हमले एआई व्यवहार को हेरफेर करने में आश्चर्यजनक रूप से प्रभावी साबित हुए हैं। क्रिटिक मॉडल को अलग करके और ब्राउज़र स्तर पर मूल एक्सेस को प्रतिबंधित करके, गूगल वेब पेज को खुद एक हमला सतह बनने से रोकने का लक्ष्य रखता है।

एआई ब्राउज़र रेस के लिए परिणाम

गूगल के विस्तृत सुरक्षा खुलासे प्रतिस्पर्धी एजेंटिक ब्राउज़र सिस्टम के आसपास अपेक्षाकृत अस्पष्टता के साथ विपरीत हैं। कंपनी यह दांव लगा रही है कि उद्यम और सुरक्षा-जागरूक उपयोगकर्ता पारदर्शी सुरक्षा उपायों को पहले चलने वाली सुविधाओं पर मूल्य देंगे।

आर्किटेक्चर यह भी सुझाव देता है कि गूगल एआई एजेंटों के लिए क्या स्वीकार्य स्वतंत्रता मानता है। शॉपिंग, शोध, और फॉर्म-फिलिंग पर्यवेक्षण के साथ आगे बढ़ सकते हैं, लेकिन कुछ भी जो वित्तीय खातों, स्वास्थ्य देखभाल डेटा या संग्रहीत क्रेडेंशियल्स को छूता है, मानव अनुमोदन की आवश्यकता है। यह एक स्पष्ट रेखा खींचता है जिसे अन्य विक्रेता ने सार्वजनिक रूप से परिभाषित करने के लिए कम इच्छुक दिखाया है।

क्रोम के प्लेटफ़ॉर्म पर विकसित करने वाले डेवलपर्स के लिए, मूल सेट प्रतिबंधों को बहु-साइट वर्कफ़्लो के साथ एजेंटिक फीचर्स के इंटरैक्शन पर विचार करने की आवश्यकता होगी। जो अनुप्रयोग उम्मीद करते हैं कि एजेंट मुक्त रूप से डोमेन के पार नेविगेट करेंगे, उन्हें गूगल के सुरक्षा मॉडल के भीतर काम करने के लिए वास्तुकला परिवर्तनों की आवश्यकता हो सकती है।

गूगल ने क्रोम में एजेंटिक ब्राउज़िंग फीचर्स के लिए एक विशिष्ट लॉन्च तिथि की घोषणा नहीं की है, लेकिन विस्तृत सुरक्षा फ्रेमवर्क सुझाव देता है कि तैनाती निकट है। कंपनी की लॉन्च से पहले रक्षात्मक आर्किटेक्चर प्रकाशित करने की इच्छा अपने दृष्टिकोण में आत्मविश्वास और प्रतिद्वंद्वियों को अपनी पारदर्शिता का मिलान करने की चुनौती को दर्शाती है।