स्वचालन सुस्ती: मानवों को पुनः प्रक्रिया में कैसे शामिल किया जाए

एक नाटकीय मोड़ में, रोबोटैक्सी, स्व-ड्राइविंग वाहन जो किसी मानव ऑपरेटर के बिना यात्रियों को ले जाते हैं, हाल ही में सैन फ्रांसिस्को में शुरू किए गए थे। एक विवादास्पद 7-घंटे की सार्वजनिक सुनवाई के बाद, कैलिफोर्निया पब्लिक यूटिलिटीज आयोग द्वारा निर्णय लिया गया था। विरोध के बावजूद, हवा में एक अपरिहार्यता की भावना है। कैलिफोर्निया ने 2022 की शुरुआत से प्रतिबंधों को धीरे-धीरे ढीला कर दिया है। नए नियम दो कंपनियों – अल्फाबेट के वेमो और जीएम के क्रूज – को इन टैक्सियों को 7-वर्ग-मील शहर में कहीं भी भेजने और यात्रियों से किराया वसूलने की अनुमति देते हैं, सिवाय राजमार्ग के।

स्व-ड्राइविंग टैक्सियों का विचार दो विरोधाभासी भावनाएं पैदा करता है: उत्साह (“टैक्सी बहुत कम लागत पर!”) और डर (“क्या वे मुझे या मेरे बच्चों को मारेंगे?”)। इसलिए, नियामक अक्सर यह आवश्यकता रखते हैं कि कारें तब तक परीक्षण करें जब तक कि दुर्घटना नहीं हो जाती है, जब तक कि मानव हस्तक्षेप कर सकते हैं और नियंत्रण ले सकते हैं। दुर्भाग्य से, वास्तविक समय में प्रणालियों को ओवरराइड करने के लिए तैयार मानवों के साथ, सुरक्षा की गारंटी देने का यह तरीका सबसे अच्छा नहीं हो सकता है।

वास्तव में, इस साल फरवरी तक स्व-ड्राइविंग कार दुर्घटनाओं से जुड़ी 18 मौतों में से, सभी में मानव नियंत्रण का कुछ रूप था, या तो कार में या दूरस्थ रूप से। इसमें एक सबसे प्रसिद्ध मामला भी शामिल है, जो 2018 में टेम्पे, एरिजोना में एक विस्तृत उपनगरीय सड़क पर हुआ था। एक स्वचालित उबेर परीक्षण वाहन ने 49 वर्षीय महिला एलेन हेर्ज़बерг को मार डाला, जो सड़क पार करने के लिए अपनी बाइक के साथ दौड़ रही थी। यात्री सीट पर मानव ऑपरेटर नीचे देख रहा था, और कार ने उन्हें टक्कर से कम से कम एक सेकंड पहले नहीं चेतावनी दी। उन्होंने बहुत देर से स्टीयरिंग व्हील पकड़ा। दुर्घटना के कारण उबेर ने स्व-ड्राइविंग कारों के परीक्षण को निलंबित कर दिया। अंततः, इसने स्वचालित वाहनों के प्रभाग को बेच दिया, जो इसकी व्यावसायिक रणनीति का एक प्रमुख हिस्सा था।

ऑपरेटर को स्वचालन सुस्ती के कारण जेल में डाल दिया गया, जिसे पहली बार पायलट उड़ान प्रशिक्षण के शुरुआती दिनों में खोजा गया था। एआई प्रणालियों के साथ अति-विश्वास एक सामान्य गतिविधि है। प्रणाली जितनी अधिक स्वायत्त होगी, मानव ऑपरेटर उस पर भरोसा करते हैं और पूरा ध्यान नहीं देते हैं। हम इन प्रौद्योगिकियों को देखते समय ऊब जाते हैं। जब वास्तव में एक दुर्घटना होने वाली होती है, तो हम उसे उम्मीद नहीं करते हैं और समय पर प्रतिक्रिया नहीं देते हैं।

मानव जोखिम विशेषज्ञ रॉन डेम्बो द्वारा “जोखिम सोच” कहे जाने वाली चीज़ में प्राकृतिक हैं – एक ऐसी सोच जिसे अभी तक सबसे उन्नत मशीन लर्निंग नहीं अपना पाया है। यह पहचानने की क्षमता है कि जब उत्तर स्पष्ट नहीं है, तो हमें धीमा करना चाहिए या रुक जाना चाहिए। जोखिम सोच स्वचालित प्रणालियों के लिए महत्वपूर्ण है, और इससे एक दुविधा पैदा होती है। मानव चाहते हैं कि वे प्रक्रिया में शामिल हों, लेकिन जब हम स्वचालित प्रणालियों पर इतनी सुस्ती से भरोसा करते हैं, तो हमें नियंत्रण में रखना चीजों को और भी बदतर बना सकता है।

तो स्वचालित प्रणालियों के विकासकर्ता इस दुविधा का समाधान कैसे कर सकते हैं, ताकि सैन फ्रांसिस्को में हो रहे प्रयोग सकारात्मक रूप से समाप्त हों? उत्तर यह है कि प्रभाव के क्षण से पहले नहीं, बल्कि डिजाइन और विकास के शुरुआती चरणों में अतिरिक्त सावधानी बरतनी चाहिए। सभी एआई प्रणालियों में जोखिम शामिल होते हैं जब वे अनियंत्रित छोड़ दी जाती हैं। स्व-ड्राइविंग कारें जोखिम से मुक्त नहीं होंगी, भले ही वे मानव-चालित कारों की तुलना में औसतन सुरक्षित हों।

उबेर दुर्घटना दिखाती है कि जब हम जोखिम के बारे में सोचते हैं तो क्या होता है। ऐसा करने के लिए, हमें रचनात्मक घर्षण की आवश्यकता है: इन प्रणालियों को जारी किए जाने से बहुत पहले कई मानव दृष्टिकोणों को खेल में लाना। दूसरे शब्दों में, एआई प्रणालियों के परिणामों के बजाय उनके अनुप्रयोगों के बारे में सोचते हुए, प्रौद्योगिकी से सीधे प्रभावित होने वाले समुदायों के दृष्टिकोण की आवश्यकता है।

वेमो और क्रूज दोनों ने अपने वाहनों के सुरक्षा रिकॉर्ड का बचाव किया है, सांख्यिकीय संभावना के आधार पर। फिर भी, यह निर्णय सैन फ्रांसिस्को को एक जीवंत प्रयोग में बदल देता है। जब परिणाम गिने जाएंगे, तो सही डेटा को पकड़ना, सफलताओं और विफलताओं को साझा करना और प्रभावित समुदायों को विशेषज्ञों, राजनेताओं और व्यवसायियों के साथ वजन करने देना बहुत महत्वपूर्ण होगा। दूसरे शब्दों में, प्रक्रिया में सभी मानवों को शामिल रखें। अन्यथा, हम स्वचालन सुस्ती का जोखिम उठाते हैं – एआई प्रणालियों को निर्णय लेने के लिए प्रतिनिधित्व करने की इच्छा – एक बहुत बड़े पैमाने पर।

जूलियेट पॉवेल और आर्ट क्लीनर नए पुस्तक द एआई दुविधा: 7 सिद्धांत जिम्मेदार प्रौद्योगिकी के लिए के सह-लेखक हैं।