ओपनएआई ने स्वीकार किया कि एआई ब्राउज़र कभी भी पूरी तरह से सुरक्षित नहीं हो सकते

ओपनएआई ने 22 दिसंबर को एक सुरक्षा ब्लॉग पोस्ट प्रकाशित किया जिसमें एक चौंकाने वाला स्वीकारोक्ति थी: एआई ब्राउज़रों के खिलाफ प्रॉम्प्ट इंजेक्शन हमले “पूरी तरह से हल नहीं किए जा सकते हैं।” यह स्वीकारोक्ति कंपनी द्वारा चैटजीपीटी एटलस लॉन्च करने के दो महीने बाद आई है, जो स्वायत्त एजेंट क्षमताओं वाला इसका ब्राउज़र है।

कंपनी ने प्रॉम्प्ट इंजेक्शन की तुलना “वेब पर स्कैम और सोशल इंजीनियरिंग” से की – जो स्थायी खतरे हैं जिन्हें रक्षक प्रबंधित करते हैं लेकिन समाप्त नहीं करते हैं। एआई एजेंटों पर भरोसा करने वाले उपयोगकर्ताओं के लिए, यह फ्रेमिंग मूलभूत प्रश्न उठाती है कि कितनी स्वायत्तता उपयुक्त है।

ओपनएआई ने क्या खुलासा किया

ब्लॉग पोस्ट में एटलस के लिए ओपनएआई की रक्षात्मक वास्तुकला का वर्णन किया गया है, जिसमें एक प्रबलित学习-शक्ति वाला “स्वचालित हमलावर” शामिल है जो दुर्भाग्यपूर्ण अभिनेताओं को खोजने से पहले कमजोरियों की तलाश में है। कंपनी का दावा है कि इस आंतरिक लाल टीम ने “नवीन हमला रणनीतियों का पता लगाया है जो हमारे मानव लाल टीमिंग अभियान या बाहरी रिपोर्टों में दिखाई नहीं दिए।”

एक प्रदर्शन में दिखाया गया कि एक दुर्भाग्यपूर्ण ईमेल एक एआई एजेंट को हाईजैक कर सकता है जो एक उपयोगकर्ता के इनबॉक्स की जांच कर रहा है। निर्देशित के रूप में एक बाहरी कार्यालय प्रतिक्रिया के बजाय, समझौता किए गए एजेंट ने इस्तीफा संदेश भेजा। ओपनएआई का कहना है कि इसका नवीनतम सुरक्षा अद्यतन अब इस हमले को पकड़ लेता है – लेकिन उदाहरण संवेदनशील संदर्भों में स्वायत्त रूप से कार्य करने वाले एआई एजेंटों के जोखिम को दर्शाता है।

स्वचालित हमलावर “एक एजेंट को जटिल, लंबे-होराइजन हानिकारक कार्यों को निष्पादित करने के लिए मार्गदर्शन कर सकता है जो दसियों (या यहां तक कि सैकड़ों) चरणों में खुलते हैं,” ओपनएआई ने लिखा। यह क्षमता ओपनएआई को बाहरी हमलावरों की तुलना में तेजी से दोषों का पता लगाने में मदद करती है, लेकिन यह भी खुलासा करती है कि प्रॉम्प्ट इंजेक्शन हमले कितने जटिल और हानिकारक हो सकते हैं।

छवि: ओपनएआई

मूलभूत सुरक्षा समस्या

प्रॉम्प्ट इंजेक्शन एक मूलभूत सीमा का फायदा उठाता है: बड़े भाषा मॉडल विश्वसनीय रूप से वैध निर्देशों और दुर्भाग्यपूर्ण सामग्री के बीच अंतर नहीं कर सकते हैं जो वे संसाधित करते हैं। जब एक एआई ब्राउज़र एक वेब पेज पढ़ता है, तो उस पेज पर कोई भी पाठ इसके व्यवहार को प्रभावित कर सकता है।

सुरक्षा शोधकर्ताओं ने बार-बार इसका प्रदर्शन किया है। एआई ब्राउज़र मध्यम स्वायत्तता के साथ बहुत उच्च पहुंच को जोड़ते हैं – सुरक्षा स्थान में एक चुनौतीपूर्ण स्थिति।

हमलों के लिए जटिल तकनीकों की आवश्यकता नहीं है। वेब पेजों पर छिपा हुआ पाठ, सावधानी से तैयार किए गए ईमेल, या दस्तावेजों में अदृश्य निर्देश एआई एजेंटों को अनियंत्रित कार्यों में हेरफेर कर सकते हैं। कुछ शोधकर्ताओं ने दिखाया है कि स्क्रीनशॉट में छिपे हुए दुर्भाग्यपूर्ण प्रॉम्प्ट एआई द्वारा एक उपयोगकर्ता की स्क्रीन की तस्वीर लेने पर निष्पादित किए जा सकते हैं।

ओपनएआई कैसे प्रतिक्रिया दे रहा है

ओपनएआई की रक्षा में विरोधी प्रशिक्षित मॉडल, प्रॉम्प्ट इंजेक्शन वर्गीकरणकर्ता, और “स्पीड बंप” शामिल हैं जो संवेदनशील कार्यों से पहले उपयोगकर्ता की पुष्टि की आवश्यकता होती है। कंपनी उपयोगकर्ताओं को सलाह देती है कि वे एटलस को क्या एक्सेस कर सकता है – लॉग इन एक्सेस को प्रतिबंधित करने, भुगतान या संदेशों से पहले पुष्टि की आवश्यकता होती है, और व्यापक निर्देशों के बजाय संकीर्ण निर्देश प्रदान करने की सिफारिश करती है।

यह सिफारिश खुलासा करने वाली है। ओपनएआई मूल रूप से अपने उत्पाद के साथ संदेह के साथ व्यवहार करने की सलाह देता है – स्वायत्तता को सीमित करना जो एजेंटिक ब्राउज़रों को पहले स्थान पर आकर्षक बनाता है। जो उपयोगकर्ता चाहते हैं कि एआई ब्राउज़र उनके पूरे इनबॉक्स को संभालें या उनके वित्त का प्रबंधन करें, वे जोखिम उठा रहे हैं जिन्हें कंपनी स्वयं समर्थन नहीं देती है।

सुरक्षा अद्यतन सफल इंजेक्शन हमलों को कम करता है। यह सुधार महत्वपूर्ण है, लेकिन इसका मतलब यह भी है कि शेष हमला सतह बनी रहती है – और हमलावर ओपनएआई द्वारा तैनात की गई रक्षाओं के अनुकूल होंगे।

उद्योगव्यापी प्रभाव

ओपनएआई इन चुनौतियों का सामना करने में अकेला नहीं है। गूगल का सुरक्षा ढांचा क्रोम की एजेंटिक सुविधाओं के लिए कई रक्षा परतों को शामिल करता है, जिसमें प्रत्येक कार्रवाई की जांच के लिए एक अलग एआई मॉडल शामिल है। पर्प्लेक्सिटी के कॉमेट ब्राउज़र को ब्रेव के सुरक्षा शोधकर्ताओं से समान जांच का सामना करना पड़ा है, जिन्होंने पाया कि एक दुर्भाग्यपूर्ण वेब पेज पर नेविगेट करने से हानिकारक एआई कार्यों को ट्रिगर किया जा सकता है।

उद्योग एक साझा समझ पर आ रहा है: प्रॉम्प्ट इंजेक्शन एक मूलभूत सीमा है, न कि एक बग जिसे पैच किया जा सकता है। इसका महत्वपूर्ण परिणाम है कि एआई एजेंट स्वायत्त रूप से जटिल, संवेदनशील कार्यों को संभालने के लिए तैयार हैं।

उपयोगकर्ताओं को क्या विचार करना चाहिए

ईमानदार मूल्यांकन असहज है: एआई ब्राउज़र उपयोगी उपकरण हैं जिनमें अंतर्निहित सुरक्षा सीमाएं हैं जिन्हें बेहतर इंजीनियरिंग के माध्यम से समाप्त नहीं किया जा सकता है। उपयोगकर्ताओं को सुविधा और जोखिम के बीच एक व्यापार का सामना करना पड़ता है जिसे कोई विक्रेता पूरी तरह से हल नहीं कर सकता है।

ओपनएआई की मार्गदर्शिका – एक्सेस को सीमित करें, पुष्टि की आवश्यकता है, व्यापक निर्देशों से बचें – उत्पाद के कम शक्तिशाली संस्करणों का उपयोग करने की सलाह देती है। यह निंदनीय स्थिति नहीं है; यह वर्तमान सीमाओं का वास्तविक स्वीकारोक्ति है। एआई सहायक जो अधिक कर सकते हैं वे भी अधिक हेरफेर किए जा सकते हैं।

पारंपरिक वेब सुरक्षा के साथ समानांतर स्पष्ट है। उपयोगकर्ता अभी भी फ़िशिंग हमलों के लिए गिरते हैं जो दशकों पहले उभरे थे। ब्राउज़र अभी भी दैनिक रूप से लाखों दुर्भाग्यपूर्ण साइटों को ब्लॉक करते हैं। खतरा स्थायी रूप से हल नहीं किए जा सकने वाले समाधानों की तुलना में तेजी से अनुकूलन करता है।

एआई ब्राउज़र इस परिचित गतिविधि में एक नई आयाम जोड़ते हैं। जब मनुष्य ब्राउज़ करते हैं, तो वे संदिग्ध दिखने वाली चीजों के बारे में निर्णय लाते हैं। एआई एजेंट सब कुछ समान विश्वास के साथ संसाधित करते हैं, जिससे वे हेरफेर के लिए अधिक संवेदनशील हो जाते हैं क्योंकि वे अधिक क्षमता प्राप्त करते हैं।

आगे का रास्ता

ओपनएआई की पारदर्शिता को मान्यता मिलनी चाहिए। कंपनी ने शांति से सुरक्षा अद्यतन जारी किए होंगे बिना अंतर्निहित समस्या की स्थायित्व को स्वीकार किए। इसके बजाय, इसने हमले वेक्टर और रक्षात्मक वास्तुकला का विस्तृत विश्लेषण प्रकाशित किया – जो जानकार निर्णय लेने में उपयोगकर्ताओं की मदद करता है और प्रतिस्पर्धियों को अपनी सुरक्षा में सुधार करने में मदद करता है।

लेकिन पारदर्शिता मूलभूत तनाव को हल नहीं करती है। जैसे-जैसे एआई एजेंट अधिक शक्तिशाली होते जाते हैं, वे अधिक आकर्षक लक्ष्य प्रस्तुत करते हैं। एटलस जटिल कार्यों को संभालने की अनुमति देने वाली क्षमताएं भी जटिल हमलों के अवसर पैदा करती हैं।

अब के लिए, एआई ब्राउज़रों के उपयोगकर्ताओं को उन्हें शक्तिशाली उपकरण के रूप में देखना चाहिए जिनमें अर्थपूर्ण सीमाएं हैं – पूरी तरह से स्वायत्त डिजिटल सहायकों के रूप में नहीं जो संवेदनशील कार्यों को निगरानी के बिना संभाल सकते हैं। ओपनएआई इस वास्तविकता के बारे में असामान्य रूप से ईमानदार रहा है। प्रश्न यह है कि क्या उद्योग का विपणन सुरक्षा टीमों द्वारा पहले से ज्ञात की तुलना में पकड़ में आ जाएगा।