ओपनएआई ने स्वीकार किया कि एआई ब्राउज़र शायद कभी भी पूरी तरह से सुरक्षित नहीं होंगे।

ओपनएआई ने प्रकाशित किया सुरक्षा ब्लॉग पोस्ट 22 दिसंबर को जारी एक विज्ञप्ति में एक चौंकाने वाली बात स्वीकार की गई: एआई ब्राउज़रों पर होने वाले त्वरित इंजेक्शन हमलों का समाधान "शायद कभी पूरी तरह से नहीं हो पाएगा।" यह स्वीकारोक्ति कंपनी द्वारा लॉन्च किए जाने के ठीक दो महीने बाद आई है। चैटजीपीटी एटलसइसका ब्राउज़र स्वायत्त एजेंट क्षमताओं से लैस है।

कंपनी ने त्वरित हस्तक्षेप की तुलना "वेब पर होने वाले घोटालों और सोशल इंजीनियरिंग" से की है—ये ऐसे निरंतर खतरे हैं जिन्हें बचावकर्ता खत्म करने के बजाय नियंत्रित करते हैं। इंटरनेट पर नेविगेट करने के लिए एआई एजेंटों पर भरोसा करने वाले उपयोगकर्ताओं के लिए, यह दृष्टिकोण इस बारे में मूलभूत प्रश्न उठाता है कि कितनी स्वायत्तता उचित है।

ओपनएआई ने क्या खुलासा किया

ब्लॉग पोस्ट में एटलस के लिए OpenAI के रक्षात्मक आर्किटेक्चर का वर्णन किया गया है, जिसमें रीइन्फोर्समेंट लर्निंग पर आधारित एक स्वचालित हमलावर शामिल है जो दुर्भावनापूर्ण तत्वों द्वारा कमजोरियों का पता लगाने से पहले ही उनकी खोज करता है। कंपनी का दावा है कि इस आंतरिक रेड टीम ने "ऐसी नई हमला करने की रणनीतियाँ खोजी हैं जो हमारे मानव रेड टीमिंग अभियान या बाहरी रिपोर्टों में सामने नहीं आई थीं।"

एक प्रदर्शन में दिखाया गया कि कैसे एक दुर्भावनापूर्ण ईमेल किसी उपयोगकर्ता के इनबॉक्स की जाँच कर रहे एआई एजेंट को हाईजैक कर सकता है। निर्देशानुसार आउट-ऑफ-ऑफिस रिप्लाई भेजने के बजाय, प्रभावित एजेंट ने इस्तीफे का संदेश भेज दिया। ओपनएआई का कहना है कि उसका नवीनतम सुरक्षा अपडेट अब इस हमले को पकड़ लेता है—लेकिन यह उदाहरण संवेदनशील परिस्थितियों में एआई एजेंटों के स्वायत्त रूप से कार्य करने के खतरों को दर्शाता है।

ओपनएआई ने लिखा है कि स्वचालित हमलावर "किसी एजेंट को जटिल, दीर्घकालिक और हानिकारक कार्यप्रवाहों को अंजाम देने के लिए निर्देशित कर सकता है, जो कई (या सैकड़ों) चरणों में घटित होते हैं।" यह क्षमता ओपनएआई को बाहरी हमलावरों की तुलना में खामियों को तेजी से खोजने में मदद करती है, लेकिन यह भी उजागर करती है कि त्वरित इंजेक्शन हमले कितने जटिल और विनाशकारी हो सकते हैं।

छवि: ओपनएआई

मूलभूत सुरक्षा समस्या

प्रॉम्प्ट इंजेक्शन बड़े भाषा मॉडलों की एक बुनियादी सीमा का फायदा उठाता है: वे वैध निर्देशों और उनके द्वारा संसाधित किए जा रहे डेटा में अंतर्निहित दुर्भावनापूर्ण सामग्री के बीच विश्वसनीय रूप से अंतर नहीं कर सकते। जब कोई एआई ब्राउज़र किसी वेबपेज को पढ़ता है, तो उस पेज पर मौजूद कोई भी टेक्स्ट उसके व्यवहार को प्रभावित कर सकता है।

सुरक्षा शोधकर्ताओं ने इसे बार-बार प्रदर्शित किया है। एआई ब्राउज़र मध्यम स्वायत्तता को बहुत उच्च पहुंच के साथ जोड़ते हैं - जो सुरक्षा क्षेत्र में एक चुनौतीपूर्ण स्थिति है।

इन हमलों के लिए किसी परिष्कृत तकनीक की आवश्यकता नहीं होती। वेबपेजों पर छिपा हुआ टेक्स्ट, सावधानीपूर्वक तैयार किए गए ईमेल या दस्तावेज़ों में छिपे हुए निर्देश, इन सभी का उपयोग करके हेरफेर किया जा सकता है। एआई एजेंट अनपेक्षित क्रियाएँ करने के लिए प्रेरित करना। कुछ शोधकर्ताओं ने दिखाया है कि स्क्रीनशॉट में छिपे दुर्भावनापूर्ण संकेत तब सक्रिय हो सकते हैं जब कोई एआई उपयोगकर्ता की स्क्रीन की तस्वीर लेता है।

ओपनएआई किस प्रकार प्रतिक्रिया दे रहा है?

ओपनएआई की सुरक्षा प्रणालियों में विरोधी रूप से प्रशिक्षित मॉडल, त्वरित इंजेक्शन क्लासिफायर और संवेदनशील कार्यों से पहले उपयोगकर्ता की पुष्टि की आवश्यकता वाले "स्पीड बम्प्स" शामिल हैं। कंपनी उपयोगकर्ताओं को एटलस की पहुंच को सीमित करने की सलाह देती है—लॉग-इन पहुंच को प्रतिबंधित करना, भुगतान या संदेशों से पहले पुष्टि की आवश्यकता करना और व्यापक आदेशों के बजाय संकीर्ण निर्देश प्रदान करना।

यह सिफारिश चौंकाने वाली है। ओपनएआई मूलतः अपने ही उत्पाद को संदेह की दृष्टि से देखने की सलाह दे रहा है, जिससे उन उपयोगकर्ताओं की स्वायत्तता सीमित हो जाती है जो मूलतः एजेंटिक ब्राउज़रों को आकर्षक बनाती है। जो उपयोगकर्ता चाहते हैं कि एआई ब्राउज़र उनके पूरे इनबॉक्स को संभालें या उनके वित्त का प्रबंधन करें, वे ऐसे जोखिम उठा रहे हैं जिनका कंपनी स्वयं समर्थन नहीं करती।

सुरक्षा अपडेट से सफल इंजेक्शन हमलों में कमी आती है। यह सुधार महत्वपूर्ण है, लेकिन इसका मतलब यह भी है कि हमले की संभावना बनी रहती है—और हमलावर ओपनएआई द्वारा अपनाई जाने वाली किसी भी सुरक्षा व्यवस्था के अनुरूप खुद को ढाल लेंगे।

उद्योग-व्यापी निहितार्थ

इन चुनौतियों का सामना करने वाली OpenAI अकेली कंपनी नहीं है। गूगल का सुरक्षा ढांचा क्रोम की एजेंटिक विशेषताओं में कई सुरक्षा परतें शामिल हैं, जिनमें एक अलग एआई मॉडल भी शामिल है जो हर प्रस्तावित कार्रवाई की जांच करता है। परप्लेक्सिटी के कॉमेट ब्राउज़र को भी ब्रेव के सुरक्षा शोधकर्ताओं द्वारा इसी तरह की जांच का सामना करना पड़ा है, जिन्होंने पाया कि किसी दुर्भावनापूर्ण वेबपेज पर जाने से हानिकारक एआई क्रियाएं शुरू हो सकती हैं।

उद्योग जगत में एक आम सहमति बनती दिख रही है: त्वरित इंजेक्शन एक मूलभूत सीमा है, न कि कोई ऐसी खामी जिसे ठीक करने की आवश्यकता हो। जटिल और संवेदनशील कार्यों को स्वायत्त रूप से संभालने वाले एआई एजेंटों की परिकल्पना के लिए इसके महत्वपूर्ण निहितार्थ हैं।

उपयोगकर्ताओं को किन बातों पर विचार करना चाहिए

सच्चाई यह है कि एआई ब्राउज़र उपयोगी उपकरण तो हैं, लेकिन इनमें कुछ अंतर्निहित सुरक्षा सीमाएँ हैं जिन्हें बेहतर इंजीनियरिंग से भी दूर नहीं किया जा सकता। उपयोगकर्ताओं को सुविधा और जोखिम के बीच संतुलन बनाना पड़ता है, जिसे कोई भी विक्रेता पूरी तरह से हल नहीं कर सकता।

ओपनएआई के दिशानिर्देश—पहुँच सीमित करना, पुष्टिकरण अनिवार्य करना, व्यापक आदेशों से बचना—वास्तव में उत्पाद के कम शक्तिशाली संस्करणों का उपयोग करने की सलाह देते हैं। यह कोई नकारात्मक दृष्टिकोण नहीं है; बल्कि वर्तमान सीमाओं की यथार्थवादी स्वीकृति है। एआई सहायक जो अधिक काम कर सकता है, उसे अधिक काम करने के लिए बरगलाया भी जा सकता है।

परंपरागत वेब सुरक्षा से इसकी तुलना करना शिक्षाप्रद है। दशकों पहले शुरू हुए फ़िशिंग हमलों के बावजूद, उपयोगकर्ता आज भी इनका शिकार हो जाते हैं। ब्राउज़र आज भी प्रतिदिन लाखों दुर्भावनापूर्ण साइटों को ब्लॉक करते हैं। यह खतरा सुरक्षा उपायों की तुलना में कहीं अधिक तेज़ी से बदलता रहता है, और उन्हें स्थायी रूप से हल करना संभव नहीं है।

एआई ब्राउज़र इस परिचित प्रक्रिया में एक नया आयाम जोड़ते हैं। जब मनुष्य ब्राउज़ करते हैं, तो वे संदिग्ध दिखने वाली चीज़ों के बारे में निर्णय लेते हैं। एआई एजेंट हर चीज़ को समान विश्वास के साथ संसाधित करते हैं, जिससे उनकी क्षमता बढ़ने के बावजूद उनमें हेरफेर की संभावना बढ़ जाती है।

पथ आगे

ओपनएआई की पारदर्शिता सराहनीय है। कंपनी अंतर्निहित समस्या की निरंतरता को स्वीकार किए बिना चुपचाप सुरक्षा अपडेट जारी कर सकती थी। इसके बजाय, इसने हमले के तरीकों और सुरक्षा प्रणालियों का विस्तृत विश्लेषण प्रकाशित किया - यह जानकारी उपयोगकर्ताओं को सोच-समझकर निर्णय लेने और प्रतिस्पर्धियों को अपनी सुरक्षा व्यवस्था में सुधार करने में मदद करती है।

लेकिन पारदर्शिता से मूल समस्या का समाधान नहीं होता। एआई एजेंट जितने अधिक शक्तिशाली होते जाते हैं, वे उतने ही आकर्षक लक्ष्य बन जाते हैं। एटलस को जटिल वर्कफ़्लो संभालने में सक्षम बनाने वाली क्षमताएं परिष्कृत हमलों के अवसर भी पैदा करती हैं।

फिलहाल, एआई ब्राउज़र के उपयोगकर्ताओं को इन्हें सार्थक सीमाओं वाले शक्तिशाली उपकरणों के रूप में देखना चाहिए—न कि पूरी तरह से स्वायत्त डिजिटल सहायकों के रूप में जो बिना किसी निगरानी के संवेदनशील कार्यों को संभालने के लिए तैयार हों। ओपनएआई ने इस वास्तविकता को लेकर असाधारण रूप से स्पष्टवादिता बरती है। सवाल यह है कि क्या उद्योग का विपणन उस जानकारी को अपना पाएगा जो सुरक्षा टीमें पहले से ही जानती हैं।