स्वचालन की सुस्ती, और मानवों को वापस लूप में कैसे रखें

एक नाटकीय मोड़ में, रोबोटैक्सी, स्व-ड्राइविंग वाहन जो किसी मानव ऑपरेटर के बिना किराया उठाते हैं, हाल ही में सैन फ्रांसिस्को में छोड़े गए थे। एक 7 घंटे की सार्वजनिक सुनवाई के बाद, कैलिफोर्निया पब्लिक यूटिलिटीज आयोग द्वारा निर्णय लिया गया था। विरोध के बावजूद, हवा में एक अपरिहार्यता की भावना है। कैलिफोर्निया ने 2022 की शुरुआत से प्रतिबंधों को धीरे-धीरे ढीला कर दिया है। नए नियम दो कंपनियों – अल्फाबेट के वेमो और जीएम के क्रूज – को अनुमति देते हैं ताकि वे इन टैक्सियों को 7-वर्ग-मील शहर में कहीं भी भेज सकें, सिवाय राजमार्ग के, और यात्रियों से किराया वसूल सकें।

स्व-ड्राइविंग टैक्सी की अवधारणा दो विरोधाभासी भावनाओं को जन्म देती है: उत्साह (“टैक्सी बहुत कम लागत पर!”) और डर (“क्या वे मुझे या मेरे बच्चों को मारेंगे?”) इस प्रकार, नियामक अक्सर आवश्यकता के रूप में कारों को यात्रियों के साथ परीक्षण करने की आवश्यकता होती है जो दुर्घटना से पहले हस्तक्षेप कर सकते हैं और नियंत्रण का प्रबंधन कर सकते हैं। दुर्भाग्य से, वास्तविक समय में सिस्टम को ओवरराइड करने के लिए तैयार मानवों का होना सुरक्षा को सुनिश्चित करने का सबसे अच्छा तरीका नहीं हो सकता है।

वास्तव में, अमेरिका में स्व-ड्राइविंग कार दुर्घटनाओं से जुड़ी 18 मौतों में से (इस साल फरवरी तक), सभी में मानव नियंत्रण का कुछ रूप था, या तो कार में या दूरस्थ रूप से। यह एक सबसे प्रसिद्ध में से एक है, जो 2018 में टेम्पे, एरिजोना में एक विस्तृत उपनगरीय सड़क पर देर रात हुआ था। एक स्वचालित उबेर परीक्षण वाहन ने 49 वर्षीय महिला एलेन हेर्ज़बерг को मार डाला, जो सड़क पार करने के लिए अपनी बाइक के साथ दौड़ रही थी। यात्री सीट में मानव ऑपरेटर नीचे देख रहा था, और कार ने उन्हें प्रभाव से कम एक सेकंड पहले तक अलर्ट नहीं किया। उन्होंने पहिया पकड़ लिया, लेकिन देर से। दुर्घटना के कारण उबेर ने स्व-ड्राइविंग कारों के परीक्षण को निलंबित कर दिया। अंततः, इसने स्वचालित वाहन प्रभाग बेच दिया, जो इसकी व्यवसाय रणनीति का एक प्रमुख हिस्सा था।

ऑपरेटर स्वचालन सुस्ती के कारण जेल में समाप्त हो गया, एक घटना जो पायलट उड़ान प्रशिक्षण के शुरुआती दिनों में खोजी गई थी। एआई सिस्टम के साथ अति-विश्वास एक बार-बार देखी जाने वाली गतिशीलता है। सिस्टम जितना अधिक स्वायत्त होता है, मानव ऑपरेटर उस पर भरोसा करते हैं और पूरा ध्यान नहीं देते हैं। हम इन प्रौद्योगिकियों को देखते हुए ऊब जाते हैं। जब वास्तव में एक दुर्घटना होने वाली होती है, तो हम उसे अपेक्षा नहीं करते हैं और हम समय पर प्रतिक्रिया नहीं करते हैं।

मानव जोखिम विशेषज्ञ रॉन डेम्बो द्वारा “जोखिम सोच” के रूप में जानी जाने वाली चीजों में प्राकृतिक हैं – एक तरीका जिसे सबसे जटिल मशीन लर्निंग अभी तक अनुकरण नहीं कर सकता है। यह पहचानने की क्षमता है कि जब उत्तर स्पष्ट नहीं है, तो हमें धीमा करना या रोकना चाहिए। जोखिम सोच स्वचालित प्रणालियों के लिए महत्वपूर्ण है, और इससे एक दुविधा पैदा होती है। मानव चाहते हैं कि वे लूप में हों, लेकिन जब हम स्वचालित प्रणालियों पर इतनी सुस्ती से भरोसा करते हैं, तो उन्हें नियंत्रण में रखना वास्तव में चीजों को और खराब बना सकता है।

तो स्वचालित प्रणालियों के विकासकर्ता इस दुविधा को कैसे हल कर सकते हैं, ताकि सैन फ्रांसिस्को में हो रहे प्रयोग जैसे प्रयोग सकारात्मक रूप से समाप्त हों? उत्तर यह है कि न केवल प्रभाव के क्षण से पहले बल्कि डिजाइन और विकास के प्रारंभिक चरणों में अतिरिक्त सावधानी बरतनी चाहिए। सभी एआई सिस्टम जोखिम शामिल करते हैं जब वे अनियंत्रित होते हैं। स्व-ड्राइविंग कारें जोखिम से मुक्त नहीं होंगी, भले ही वे मानव-चालित कारों की तुलना में औसतन सुरक्षित हों।

उबेर दुर्घटना दिखाती है कि जब हम जानबूझकर जोखिम नहीं सोचते हैं तो क्या होता है। ऐसा करने के लिए, हमें रचनात्मक घर्षण की आवश्यकता है: इन प्रणालियों को जारी करने से बहुत पहले कई मानव दृष्टिकोणों को खेल में लाना। दूसरे शब्दों में, एआई प्रणालियों के आवेदनों के बजाय उनके परिणामों के बारे में सोचते हुए। प्रभावित समुदायों के दृष्टिकोण की आवश्यकता है जो प्रौद्योगिकी से सीधे प्रभावित होंगे।

वेमो और क्रूज दोनों ने अपने वाहनों के सुरक्षा रिकॉर्ड का बचाव किया है, सांख्यिकीय संभावना के आधार पर। फिर भी, यह निर्णय सैन फ्रांसिस्को को एक जीवित प्रयोग में बदल देता है। जब परिणामों को गिना जाएगा, तो यह बहुत महत्वपूर्ण होगा कि सही डेटा को पकड़ लिया जाए, सफलताओं और विफलताओं को साझा किया जाए, और प्रभावित समुदायों को विशेषज्ञों, राजनेताओं और व्यवसायियों के साथ वजन करने दें। दूसरे शब्दों में, सभी मानवों को लूप में रखें। अन्यथा, हम स्वचालन सुस्ती का जोखिम उठाते हैं – एआई सिस्टम को निर्णय लेने का प्रतिनिधित्व करने की इच्छा – एक बहुत बड़े पैमाने पर।

जूलियेट पॉवेल और आर्ट क्लीनर नए पुस्तक द एआई डाइलेमा: 7 सिद्धांत जिम्मेदार प्रौद्योगिकी के लिए के सह-लेखक हैं।