एआई चैटबॉट्स के खतरे – और उन्हें कैसे रोकें

एक समय में स्वचालित बात करने वाले कार्यक्रमों के रूप में सोचा जाता था, एआई चैटबॉट अब ऐसी बातचीत कर सकते हैं जो मानवों से लगभग अलग नहीं है। हालांकि, एआई चैटबॉट्स के खतरे उतने ही विविध हैं।

वे लोगों द्वारा उनके दुरुपयोग से लेकर वास्तविक साइबर सुरक्षा जोखिमों तक हो सकते हैं। जब मनुष्य एआई प्रौद्योगिकी पर अधिक से अधिक निर्भर हो रहे हैं, तो इन कार्यक्रमों का उपयोग करने के संभावित परिणामों को जानना आवश्यक है। लेकिन क्या बॉट्स खतरनाक हैं?

1. पूर्वाग्रह और भेदभाव

एआई चैटबॉट्स के सबसे बड़े खतरों में से एक उनकी हानिकारक पूर्वाग्रहों की ओर झुकाव है। क्योंकि एआई मानवों द्वारा अक्सर छूटे हुए डेटा बिंदुओं के बीच संबंध बनाता है, यह अपने प्रशिक्षण डेटा में सूक्ष्म, अंतर्निहित पूर्वाग्रहों को उठा सकता है ताकि यह स्वयं को भेदभावपूर्ण सिखा सके। परिणामस्वरूप, चैटबॉट जल्दी से नस्लवादी, लिंगवादी या अन्य भेदभावपूर्ण सामग्री को उगलने के लिए सीख सकते हैं, भले ही उसके प्रशिक्षण डेटा में ऐसा कुछ भी नहीं था।

एक प्रमुख उदाहरण अमेज़ॅन का त्याग किया गया हायरिंग बॉट है। 2018 में, यह पता चला कि अमेज़ॅन एक एआई परियोजना को त्याग दिया था जो आवेदकों के रिज्यूमे का पूर्व-मूल्यांकन करने के लिए था, क्योंकि यह महिलाओं के आवेदनों को दंडित कर रहा था। चूंकि बॉट ने जिन रिज्यूमे पर प्रशिक्षित किया था, उनमें से अधिकांश पुरुषों के थे, इसलिए उसने स्वयं को यह सिखाया कि पुरुष आवेदक पसंदीदा थे, भले ही प्रशिक्षण डेटा में ऐसा कुछ भी नहीं कहा गया था।

चैटबॉट जो इंटरनेट सामग्री का उपयोग करके स्वयं को प्राकृतिक रूप से संवाद करने के लिए सिखाते हैं, वे और भी अधिक चरम पूर्वाग्रह प्रदर्शित करते हैं। 2016 में, माइक्रोसॉफ्ट ने एक चैटबॉट को पेश किया जिसका नाम टे था, जिसने सोशल मीडिया पोस्ट की नकल करना सीखा। कुछ घंटों के भीतर, यह अत्यधिक अपमानजनक सामग्री ट्वीट करने लगा, जिससे माइक्रोसॉफ्ट को जल्द ही अकाउंट को निलंबित करना पड़ा।

यदि कंपनियां सावधानी से इन बॉट्स का निर्माण और तैनाती नहीं करती हैं, तो वे अनजाने में इसी तरह की स्थितियों को जन्म दे सकती हैं। चैटबॉट ग्राहकों के साथ दुर्व्यवहार कर सकते हैं या उन्हें रोकने के लिए हानिकारक पूर्वाग्रह सामग्री फैला सकते हैं।

2. साइबर सुरक्षा जोखिम

एआई चैटबॉट प्रौद्योगिकी के खतरे लोगों और व्यवसायों के लिए सीधे साइबर सुरक्षा खतरा पैदा कर सकते हैं। साइबर हमलों के सबसे प्रमुख रूपों में से एक फ़िशिंग और विशिंग स्कैम हैं। वे साइबर हमलावरों द्वारा विश्वसनीय संगठनों की नकल जैसे बैंक या सरकारी निकायों को शामिल करते हैं।

फ़िशिंग स्कैम आमतौर पर ईमेल और टेक्स्ट संदेशों के माध्यम से काम करते हैं – लिंक पर क्लिक करने से मैलवेयर कंप्यूटर सिस्टम में प्रवेश कर सकता है। एक बार अंदर, वायरस व्यक्तिगत जानकारी चोरी करने से लेकर सिस्टम को फिरौती के लिए पकड़ने तक कुछ भी कर सकता है।

फ़िशिंग हमलों की दर कोविड-19 महामारी के दौरान और बाद में लगातार बढ़ रही है। साइबर सुरक्षा और बुनियादी ढांचा सुरक्षा एजेंसी ने पाया कि 84% व्यक्ति ने फ़िशिंग संदेशों का जवाब दिया जिसमें संवेदनशील जानकारी या लिंक पर क्लिक किया गया था।

फ़िशर एआई चैटबॉट तकनीक का उपयोग पीड़ितों की खोज को स्वचालित करने, उन्हें लिंक पर क्लिक करने और व्यक्तिगत जानकारी देने के लिए मनाने के लिए कर रहे हैं। चैटबॉट का उपयोग कई वित्तीय संस्थानों द्वारा – जैसे बैंकों द्वारा – ग्राहक सेवा अनुभव को सुव्यवस्थित करने के लिए किया जाता है।

चैटबॉट फ़िशर बैंकों द्वारा उपयोग किए जाने वाले स्वचालित प्रॉम्प्ट की नकल कर सकते हैं ताकि पीड़ितों को धोखा दिया जा सके। वे स्वचालित रूप से फोन नंबर डायल कर सकते हैं या इंटरैक्टिव चैट प्लेटफ़ॉर्म पर सीधे पीड़ितों से संपर्क कर सकते हैं।

3. डेटा जहर

डेटा जहर एक नई तरह का साइबर हमला है जो सीधे कृत्रिम बुद्धिमत्ता को लक्षित करता है। एआई तकनीक डेटा सेट से सीखती है और उस जानकारी का उपयोग करके कार्यों को पूरा करती है। यह सभी एआई प्रोग्रामों के लिए सच है, चाहे उनका उद्देश्य या कार्य कुछ भी हो।

चैटबॉट एआई के लिए, इसका अर्थ है कि उन्हें कई प्रतिक्रियाएं सीखना जो उपयोगकर्ता उन्हें दे सकते हैं। हालांकि, यह एआई के खतरों में से एक है।

इन डेटा सेट अक्सर खुले स्रोत उपकरण और संसाधन होते हैं जो किसी के लिए भी उपलब्ध हैं। हालांकि एआई कंपनियां आमतौर पर अपने डेटा स्रोतों को एक सुरक्षित रूप से रखा जाता है, साइबर हमलावर यह निर्धारित कर सकते हैं कि वे कौन से उपयोग करते हैं और डेटा को बदल सकते हैं।

साइबर हमलावर एआई को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा सेट के साथ छेड़छाड़ करने के तरीके खोज सकते हैं, जिससे उन्हें अपने निर्णयों और प्रतिक्रियाओं को बदलने की अनुमति मिलती है। एआई उस जानकारी का उपयोग करेगा जो बदले हुए डेटा से आती है और हमलावरों के इच्छित कार्य करेगा।

उदाहरण के लिए, डेटा सेट के लिए सबसे अधिक उपयोग किए जाने वाले स्रोतों में से एक विकि संसाधन जैसे विकिपीडिया है। हालांकि डेटा लाइव विकिपीडिया लेख से नहीं आता है, यह विशिष्ट समय पर लिए गए डेटा के स्नैपशॉट से आता है। हैकर्स डेटा को संपादित करने का तरीका खोज सकते हैं जो उन्हें लाभान्वित करता है।

चैटबॉट एआई के मामले में, हैकर चैटबॉट प्रोग्राम को बदलने के लिए डेटा सेट को बदल सकते हैं जो चिकित्सा या वित्तीय संस्थानों के लिए काम करते हैं। वे चैटबॉट को ग्राहकों को गलत जानकारी देने के लिए मनिपुलेट कर सकते हैं जो उन्हें मैलवेयर वाले लिंक पर क्लिक करने या धोखाधड़ी वाली वेबसाइट पर ले जाने के लिए प्रेरित कर सकते हैं। एक बार एआई जहरीले डेटा से डेटा निकालना शुरू कर देता है, तो यह पता लगाना मुश्किल हो जाता है और यह एक महत्वपूर्ण साइबर सुरक्षा उल्लंघन का कारण बन सकता है जो लंबे समय तक अनदेखा किया जा सकता है।

एआई चैटबॉट्स के खतरों का सामना कैसे करें

इन जोखिमों को चिंताजनक है, लेकिन उनका अर्थ यह नहीं है कि बॉट्स स्वाभाविक रूप से खतरनाक हैं। बल्कि, आपको उन्हें सावधानी से देखना चाहिए और उनके निर्माण और उपयोग के दौरान इन खतरों पर विचार करना चाहिए।

एआई पूर्वाग्रह को रोकने की कुंजी प्रशिक्षण के दौरान इसकी तलाश करना है। सुनिश्चित करें कि आप इसे विविध डेटा सेट पर प्रशिक्षित करें और विशेष रूप से इसे जाति, लिंग या यौन अभिविन्यास जैसी चीजों को अपने निर्णय लेने में शामिल नहीं करने के लिए प्रोग्राम करें। यह भी सबसे अच्छा है कि डेटा वैज्ञानिकों की एक विविध टीम है जो चैटबॉट्स के आंतरिक कार्यों की समीक्षा करे और सुनिश्चित करे कि वे किसी भी पूर्वाग्रह को प्रदर्शित नहीं करते हैं, चाहे वह कितना भी सूक्ष्म क्यों न हो।

फ़िशिंग के खिलाफ सबसे अच्छा बचाव प्रशिक्षण है। सभी कर्मचारियों को फ़िशिंग प्रयासों के सामान्य संकेतों को पहचानने के लिए प्रशिक्षित करें ताकि वे इन हमलों का शिकार न हों। उपभोक्ता जागरूकता को बढ़ावा देना भी मदद करेगा।

आप चैटबॉट्स के प्रशिक्षण डेटा तक पहुंच को प्रतिबंधित करके डेटा जहर को रोक सकते हैं। केवल उन लोगों को ही अनुमति दें जिन्हें अपना काम सही ढंग से करने के लिए इस डेटा तक पहुंच की आवश्यकता है – एक概念 जिसे न्यूनतम विशेषाधिकार का सिद्धांत कहा जाता है। उन प्रतिबंधों को लागू करने के बाद, मल्टी-फैक्टर प्रमाणीकरण या बायोमेट्रिक्स जैसे मजबूत सत्यापन उपायों का उपयोग करके अधिकृत खाते में हैकिंग के जोखिमों को रोकें।

एआई निर्भरता के खतरों के खिलाफ सावधान रहें

कृत्रिम बुद्धिमत्ता वास्तव में एक अद्भुत प्रौद्योगिकी है जिसके लगभग अंतहीन अनुप्रयोग हैं। हालांकि, एआई के खतरे अस्पष्ट हो सकते हैं। क्या बॉट्स खतरनाक हैं? स्वाभाविक रूप से नहीं, लेकिन साइबर अपराधी उन्हें विभिन्न विघटनकारी तरीकों से उपयोग कर सकते हैं। यह उपयोगकर्ताओं पर निर्भर है कि वे इस नई प्रौद्योगिकी के अनुप्रयोग क्या हैं।