गूगल ने क्रोम के एआई एजेंट फीचर्स के लिए सुरक्षा आर्किटेक्चर का विवरण दिया

गूगल ने क्रोम के आगामी एजेंटिक एआई फीचर्स के लिए एक विस्तृत सुरक्षा ढांचा प्रकाशित किया है, जिसमें कई रक्षा परतें शामिल हैं जो उपयोगकर्ताओं की सुरक्षा के लिए डिज़ाइन की गई हैं जब जेमिनी-संचालित एजेंट स्वायत्त ब्राउज़िंग कार्य करते हैं।

क्रोम सुरक्षा इंजीनियर नाथन पार्कर की घोषणा में चार मुख्य सुरक्षा स्तंभों का उल्लेख किया गया है जो यह निर्धारित करेंगे कि एआई एजेंट उपयोगकर्ताओं की ओर से वेबसाइटों के साथ कैसे बातचीत करते हैं। यह आर्किटेक्चर उन जोखिमों को संबोधित करता है जिन्होंने शुरुआती एजेंटिक प्रणालियों को प्रभावित किया है, जिनमें प्रॉम्प्ट इंजेक्शन हमले, अनधिकृत डेटा एक्सेस और धोखाधड़ी लेनदेन शामिल हैं।

गूगल का दृष्टिकोण तब आता है जब प्रतिद्वंद्वी ब्राउज़र-आधारित एआई एजेंटों को जहाज करने की दौड़ में हैं। ओपनएआई ने अक्टूबर में चैटजीपीटी एटलस लॉन्च किया था जिसमें एजेंट मोड क्षमताएं हैं, जबकि पर्प्लेक्सिटी ने जुलाई में अपना कोमेट ब्राउज़र शिप किया था। सुरक्षा ढांचा गूगल के इरादे को दर्शाता है कि वह प्रतिद्वंद्वियों की तुलना में अधिक सावधानी से आगे बढ़ रहा है, जिनके एजेंटिक फीचर्स शोधकर्ताओं द्वारा पहले ही शोषण के लिए कमजोर पाए गए हैं।

एजेंट सुरक्षा के चार स्तंभ

यूजर अलाइनमेंट क्रिटिक पहली रक्षा परत है – एक अलग जेमिनी मॉडल जो प्रत्येक क्रिया की जांच करता है जो प्राथमिक एआई एजेंट प्रस्तावित करता है। यह आलोचक अलगाव में काम करता है और केवल प्रस्तावित क्रियाओं के बारे में मेटाडेटा की जांच करता है, पूर्ण पृष्ठ सामग्री के बजाय, इसके द्वारा दुर्भाग्यपूर्ण इनपुट के लिए इसकी जोखिम को कम करता है। यदि कोई क्रिया जोखिम भरी या उपयोगकर्ता के घोषित लक्ष्य के लिए अप्रासंगिक प्रतीत होती है, तो आलोचक पुनः प्रयास का आदेश दे सकता है या नियंत्रण को उपयोगकर्ता को वापस कर सकता है।

मूल सेट उन वेबसाइटों और पृष्ठ तत्वों को प्रतिबंधित करता है जिन तक एक एजेंट किसी दिए गए कार्य के दौरान पहुंच सकता है। यह प्रणाली पढ़ने के लिए मूल के बीच भेद करती है जहां एजेंट सामग्री का उपभोग कर सकता है और पढ़ने और लिखने योग्य मूल जहां यह क्रिया कर सकता है। असंबंधित वेबसाइटें और आइफ्रेम पूरी तरह से वापस रखी जाती हैं, जिसमें नए डोमेन तक पहुंच के लिए एक विश्वसनीय गेटिंग फ़ंक्शन की आवश्यकता होती है। यह क्रॉस-साइट डेटा रिसाव को रोकता है और संभावित नुकसान को सीमित करता है जो एक समझौता एजेंट से हो सकता है।

उपयोगकर्ता पर्यवेक्षण संवेदनशील ऑपरेशन के लिए मैनुअल पुष्टि की आवश्यकता है। जब एक एजेंट बैंकिंग पोर्टल, चिकित्सा डेटा साइटों या गूगल पासवर्ड मैनेजर से संग्रहीत पासवर्ड तक पहुंच की आवश्यकता होती है, तो क्रोम रुक जाता है और उपयोगकर्ता से क्रिया की पुष्टि करने के लिए कहता है। यही बात खरीदारी करने या संदेश भेजने से पहले लागू होती है – एजेंट स्वतंत्र रूप से इन क्रियाओं को पूरा नहीं कर सकता है।

प्रॉम्प्ट इंजेक्शन डिटेक्शन एक समर्पित वर्गीकारक का उपयोग करता है जो पृष्ठों को वास्तविक समय में अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन प्रयासों के लिए स्कैन करता है। यह प्रणाली क्रोम के मौजूदा सुरक्षित ब्राउज़िंग बुनियादी ढांचे और डिवाइस पर स्कैम डिटेक्शन के साथ काम करती है ताकि संदिग्ध दुर्भाग्यपूर्ण सामग्री को एजेंट द्वारा अभिनय करने से पहले ब्लॉक किया जा सके।

स्वचालित रेड-टीमिंग और बग बाउंटी

गूगल ने स्वचालित रेड-टीमिंग सिस्टम विकसित किए हैं जो परीक्षण साइटों और एलएलएम-ड्रIVEN हमलों को जनरेट करते हैं ताकि सुरक्षा आर्किटेक्चर को निरंतर मान्य किया जा सके। कंपनी विशेष रूप से उन हमलों के हमलावर वेक्टरों का परीक्षण करने पर जोर देती है जो स्थायी नुकसान का कारण बन सकते हैं, विशेष रूप से वित्तीय लेनदेन या पासवर्ड चोरी को लक्षित करने वाले।

क्रोम का ऑटो-अपडेट तंत्र नए कमजोरियों की खोज होने पर तेजी से सुधार वितरित करेगा। बाहरी सुरक्षा अनुसंधान को प्रोत्साहित करने के लिए, गूगल ने एजेंटिक ब्राउज़िंग फ्रेमवर्क में कमजोरियों की पहचान करने वाले शोधकर्ताओं के लिए $20,000 तक के बाउंटी भुगतान की घोषणा की है।

रक्षात्मक उपायों को शुरुआती एआई ब्राउज़र एक्सटेंशन और चैटबॉट एकीकरण से सीखे गए सबक को दर्शाते हैं, जहां प्रॉम्प्ट इंजेक्शन हमले आश्चर्यजनक रूप से प्रभावी साबित हुए हैं एआई व्यवहार को हेरफेर करने के लिए। आलोचक मॉडल को अलग करके और ब्राउज़र स्तर पर मूल एक्सेस को प्रतिबंधित करके, गूगल वेब पेज को खुद एक हमले की सतह बनने से रोकने का लक्ष्य रखता है।

एआई ब्राउज़र रेस के लिए निहितार्थ

गूगल के विस्तृत सुरक्षा खुलासे प्रतिस्पर्धी एजेंटिक ब्राउज़र प्रणालियों के आसपास अपारदर्शिता के साथ विपरीत हैं। कंपनी को यह दांव लगाने की तरह लगता है कि उद्यम और सुरक्षा-जागरूक उपयोगकर्ता पारदर्शी सुरक्षा उपायों को पहल-मूवर सुविधाओं पर मूल्य देंगे।

आर्किटेक्चर यह भी सुझाव देता है कि गूगल एआई एजेंटों के लिए स्वीकार्य स्वायत्तता क्या मानता है। शॉपिंग, शोध और फॉर्म-फिलिंग पर्यवेक्षण के साथ आगे बढ़ सकते हैं, लेकिन वित्तीय खातों, स्वास्थ्य देखभाल डेटा या संग्रहीत पासवर्ड को छूने वाली कोई भी चीज़ के लिए स्पष्ट मानव अनुमोदन की आवश्यकता है। यह एक स्पष्ट रेखा खींचता है जिसे अन्य विक्रेताओं ने सार्वजनिक रूप से परिभाषित करने में कम इच्छा दिखाई है।

क्रोम के प्लेटफ़ॉर्म पर विकसित करने वाले डेवलपर्स के लिए, मूल सेट प्रतिबंधों को बहु-साइट कार्य प्रवाह के साथ एजेंटिक सुविधाओं के कैसे बातचीत करती हैं, इस पर ध्यान से विचार करने की आवश्यकता होगी। जो अनुप्रयोग उम्मीद करते हैं कि एजेंट स्वतंत्र रूप से डोमेन के साथ नेविगेट करेंगे, उन्हें गूगल के सुरक्षा मॉडल के भीतर काम करने के लिए वास्तुकला परिवर्तनों की आवश्यकता हो सकती है।

गूगल ने क्रोम में एजेंटिक ब्राउज़िंग फीचर्स के लिए एक विशिष्ट लॉन्च तिथि की घोषणा नहीं की है, लेकिन विस्तृत सुरक्षा ढांचा तैनाती के करीब होने का संकेत देता है। कंपनी की लॉन्च से पहले रक्षात्मक वास्तुकला प्रकाशित करने की इच्छा अपने दृष्टिकोण में आत्मविश्वास को दर्शाती है – और प्रतिद्वंद्वियों को अपनी पारदर्शिता से मेल खाने की एक अंतर्निहित चुनौती को दर्शाती है।