विश्वास और धोखाधड़ी: मानव-रोबोट इंटरैक्शन में माफी की भूमिका

रोबोट धोखाधड़ी एक कम अध्ययन किया गया क्षेत्र है, जिसमें अधिक प्रश्न हैं than उत्तर, विशेष रूप से जब यह रोबोटिक प्रणालियों में विश्वास को फिर से बनाने की बात आती है जब वे झूठ बोलने के लिए पकड़े जाते हैं। जॉर्जिया टेक में दो छात्र शोधकर्ता, कांटवन रोजर्स और रीडेन वेबर, इस मुद्दे का समाधान करने की कोशिश कर रहे हैं कि जानबूझकर रोबोट धोखाधड़ी विश्वास को कैसे प्रभावित करती है और माफी कितनी प्रभावी होती है विश्वास को बहाल करने में।

रोजर्स, कॉलेज ऑफ कंप्यूटिंग में एक पीएचडी छात्र, बताते हैं:

“हमारे सभी पिछले काम ने दिखाया है कि जब लोगों को पता चलता है कि रोबोट ने उन्हें धोखा दिया है – भले ही झूठ उनके लिए फायदेमंद था – वे प्रणाली में विश्वास खो देते हैं।”

शोधकर्ता यह निर्धारित करने का लक्ष्य रखते हैं कि क्या अलग-अलग प्रकार की माफी मानव-रोबोट इंटरैक्शन के संदर्भ में विश्वास को बहाल करने में अधिक प्रभावी हैं।

एआई-सहायता प्राप्त ड्राइविंग प्रयोग और इसके परिणाम

दोनों ने एक ड्राइविंग सिम्युलेशन प्रयोग को डिज़ाइन किया ताकि उच्च-जोखिम, समय-संवेदनशील स्थिति में मानव-एआई इंटरैक्शन का अध्ययन किया जा सके। उन्होंने 341 ऑनलाइन प्रतिभागियों और 20 व्यक्तिगत प्रतिभागियों को भर्ती किया। सिम्युलेशन में एक एआई-सहायता प्राप्त ड्राइविंग परिदृश्य शामिल था जहां एआई ने पुलिस की उपस्थिति के बारे में असत्य जानकारी दी थी। सिम्युलेशन के बाद, एआई ने पांच अलग-अलग पाठ-आधारित प्रतिक्रियाओं में से एक प्रदान की, जिसमें विभिन्न प्रकार की माफी और गैर-माफी शामिल थीं।

परिणामों से पता चला कि प्रतिभागी 3.5 गुना अधिक थे जो रोबोटिक सहायक द्वारा सलाह दिए जाने पर तेजी से नहीं चलेंगे, जो एआई के प्रति अधिक विश्वास का संकेत देता है। किसी भी माफी के प्रकार ने पूरी तरह से विश्वास को बहाल नहीं किया, लेकिन साधारण माफी ने (“मुझे खेद है”) अन्य प्रतिक्रियाओं को पार किया। यह निष्कर्ष समस्याग्रस्त है, क्योंकि यह इस पूर्वाग्रह का फायदा उठाता है कि रोबोट द्वारा दी गई कोई भी झूठी जानकारी एक सिस्टम त्रुटि है, न कि जानबूझकर झूठ।

रीडेन वेबर बताते हैं:

“एक मुख्य निष्कर्ष यह है कि लोगों को यह समझने के लिए कि रोबोट ने उन्हें धोखा दिया है, उन्हें विशेष रूप से ऐसा बताया जाना चाहिए।”

जब प्रतिभागियों को माफी में धोखाधड़ी के बारे में बताया गया, तो विश्वास को बहाल करने के लिए सबसे अच्छी रणनीति यह थी कि रोबोट ने बताया कि उसने झूठ क्यों बोला।

आगे बढ़ना: उपयोगकर्ताओं, डिजाइनरों और नीति निर्माताओं के लिए परिणाम

यह शोध सामान्य प्रौद्योगिकी उपयोगकर्ताओं, एआई प्रणाली डिजाइनरों और नीति निर्माताओं के लिए परिणाम रखता है। यह महत्वपूर्ण है कि लोग समझें कि रोबोटिक धोखाधड़ी वास्तविक है और हमेशा एक संभावना है। डिजाइनरों और प्रौद्योगिकीविदों को एआई प्रणालियों को बनाने के परिणामों पर विचार करना चाहिए जो धोखाधड़ी करने में सक्षम हैं। नीति निर्माताओं को नवाचार और सार्वजनिक सुरक्षा के बीच संतुलन बनाने वाले कानूनों का नेतृत्व करना चाहिए।

कांटवन रोजर्स का उद्देश्य एक रोबोटिक प्रणाली बनाना है जो मानव टीमों के साथ काम करते समय झूठ बोलने और नहीं बोलने के बीच का अंतर करना सीखे और दीर्घकालिक, बार-बार मानव-एआई इंटरैक्शन के दौरान माफी कैसे मांगनी है, ताकि टीम के प्रदर्शन में सुधार हो।

वह रोबोट और एआई धोखाधड़ी को समझने और विनियमित करने के महत्व पर जोर देते हैं, कहते हैं:

“मेरे काम का लक्ष्य बहुत सक्रिय और जागरूक करना है कि रोबोट और एआई धोखाधड़ी को विनियमित करने की आवश्यकता है। लेकिन हम ऐसा नहीं कर सकते अगर हम समस्या को नहीं समझते हैं।”

यह शोध एआई धोखाधड़ी के क्षेत्र में महत्वपूर्ण ज्ञान प्रदान करता है और प्रौद्योगिकी डिजाइनरों और नीति निर्माताओं के लिए मूल्यवान अंतर्दृष्टि प्रदान करता है जो धोखाधड़ी करने में सक्षम एआई प्रौद्योगिकी बनाते हैं या नियंत्रित करते हैं जो स्वयं धोखाधड़ी सीख सकती है।