मानवरूपी रोबोट कारखानों में आ रहे हैं। उनके विफल होने पर ज़िम्मेदार कौन होगा?

कोई रोबोट प्रदर्शन परीक्षण सफलतापूर्वक पूरा कर सकता है, फिर भी सुरक्षा के लिए ख़तरा बन सकता है—अगर उसके सामने कोई अप्रत्याशित बाधा आ जाए, सॉफ़्टवेयर अपडेट के कारण उसके व्यवहार में बदलाव हो जाए या कोई वास्तविक कर्मचारी सामने आ जाए। अब सवाल यह नहीं है कि मानवरूपी रोबोट कोई काम कर सकते हैं या नहीं, बल्कि यह है कि वे उसे कैसे कर सकते हैं। क्या वे इसे सुरक्षित ढंग से कर सकते हैं—और अगर कुछ गड़बड़ हो जाए, तो ज़िम्मेदार कौन होगा?

Agility Robotics और FORT Robotics ने अक्टूबर में Agility के मानवरूपी रोबोट Digit 5 की सुरक्षा व्यवस्था को बेहतर बनाने के लिए साझेदारी की घोषणा की। उन्होंने रोबोट में ही सुरक्षा प्रणालियाँ शामिल करके और बाहरी इंटरफ़ेस, संचार तथा मैन्युअल ओवरराइड की व्यवस्था करके अपना दृष्टिकोण तैयार किया है। यह विकास एक महत्वपूर्ण बदलाव का संकेत देता है: रोबोटों को ऐसे कार्यस्थलों पर सुरक्षित होना चाहिए जहाँ लोग काम करते हैं, और इसका मतलब केवल रोबोट को सुरक्षित बनाना नहीं है।

हालाँकि, जवाबदेही के सवाल का उत्तर देने के लिए तकनीक ही काफ़ी नहीं है। अगर AI प्रणाली किसी ख़राब पुर्ज़े की ग़लत पहचान करे और उसके आधार पर रोबोट से कोई ग़लती हो जाए, तो निर्माता, सॉफ़्टवेयर डेवलपर, सिस्टम इंटीग्रेटर और उस प्रणाली का इस्तेमाल करने वाले नियोक्ता—सभी को इसके लिए उत्तरदायी ठहराया जा सकता है।

जब AI के फ़ैसले बन जाएँ शारीरिक जोखिम

औद्योगिक रोबोट आम तौर पर बंद कार्य-क्षेत्रों में होते हैं, जहाँ अवरोधों और सुरक्षा उपकरणों के ज़रिए उन्हें कर्मचारियों से अलग रखा जाता है। मानवरूपी रोबोट एक अलग चुनौती पेश करते हैं: उनसे मनुष्यों के लिए बनाए गए वातावरण में चलने-फिरने, अलग-अलग काम करने और विभिन्न परिवेशों के अनुसार ढलने की अपेक्षा की जाती है।

यह लचीलापन नए जोखिम पैदा करता है। अगर किसी चीज़ की ग़लत पहचान हो जाए, तो रोबोट ऐसी हरकत कर सकता है जिसकी ज़रूरत न हो। सॉफ़्टवेयर अपडेट से रोबोट का व्यवहार बदल सकता है। कारखाने की बनावट में बदलाव से ऐसे ख़तरे पैदा हो सकते हैं, जो पिछले परीक्षणों के दौरान मौजूद नहीं थे।

GFT Americas की उपाध्यक्ष और उद्योग प्रमुख Dana R. Wolfe ने Unite AI को बताया कि असुरक्षित हस्तक्षेपों को रोकने के लिए सुरक्षा की कई परतें ज़रूरी हैं। इनमें नियम-आधारित सॉफ़्टवेयर सुरक्षा-उपाय, कारखाने के लिए विशिष्ट विश्वास-सीमाएँ, सेंसर फ़्यूज़न और तैनाती से पहले चरणबद्ध सत्यापन शामिल हैं।

Wolfe ने कहा कि ग़लत सकारात्मक नतीजों से पूरी तरह बचने का कोई तरीका नहीं है। इसके बजाय, निर्माताओं को यह सुनिश्चित करना होगा कि ग़लतियाँ असुरक्षित शारीरिक गतिविधियों का कारण न बनें।

Wolfe ने कहा कि विश्वास-सीमाएँ और मनुष्यों का अधिकार प्रणाली की सुरक्षा व्यवस्था का हिस्सा होने चाहिए; हार्डवेयर इंटरलॉक भी इसमें शामिल होने चाहिए।

सुरक्षा मानकों को भी समय के साथ आगे बढ़ना होगा

औद्योगिक रोबोटिक्स के मौजूदा मानक एक उपयोगी आधार देते हैं, लेकिन ज़रूरी नहीं कि वे मोबाइल मानवरूपी रोबोटों से पैदा होने वाली सभी समस्याओं का समाधान हों।

अंतरराष्ट्रीय मानकीकरण संगठन (ISO) ने औद्योगिक रोबोटों के लिए सुरक्षा आवश्यकताएँ प्रकाशित की हैं, और ISO 10218-2 में रोबोटों को पूर्ण प्रणालियों में एकीकृत करने के बारे में प्रावधान हैं।

हालाँकि, ये मानक मनुष्यों के साथ काम करने वाले मोबाइल रोबोटों के सभी अनुप्रयोगों या उनसे जुड़े ख़तरों पर लागू नहीं होते।

Wolfe ने कहा कि उद्योग की कार्यप्रणालियों में बदलाव के साथ स्वतंत्र परीक्षण, परिदृश्य-आधारित सत्यापन और कार्यस्थल पर चरणबद्ध परीक्षण विशेष रूप से महत्त्वपूर्ण हैं।

अगर AI मॉडल, सॉफ़्टवेयर, गतिविधियों पर लगी पाबंदियों, कार्यों या कारखाने के वातावरण में बदलाव से पहले के सुरक्षा मूल्यांकन अमान्य हो सकते हैं, तो सुरक्षा मूल्यांकन दोहराना भी ज़रूरी है।

किसी बड़े बदलाव के बाद, जो रोबोट एक तरह की परिस्थितियों में सुरक्षित था, वह नई परिस्थितियों में सुरक्षित नहीं भी हो सकता है।

मानवीय निगरानी का अर्थ सिर्फ़ मंज़ूरी देना नहीं होना चाहिए

AI प्रणाली के हर फ़ैसले पर नज़र रखना व्यावहारिक नहीं है, लेकिन जब महत्त्वपूर्ण फ़ैसलों में लोग शामिल नहीं होते, तो एक और चुनौती सामने आती है: जवाबदेही साबित करना और मुश्किल हो जाता है।

Flexio और Routina के सह-संस्थापक और CEO Adrian Figueroa Ramos ने कहा कि निगरानी का ध्यान उन फ़ैसलों पर होना चाहिए जिनमें अनिश्चितता या जोखिम सबसे अधिक हो।

“आज की AI दुनिया में आउटपुट की मात्रा इतनी ज़्यादा है कि कोई व्यक्ति उन सब पर ध्यान नहीं दे सकता। हर चीज़ की समीक्षा करने से इंसान ही काम में अड़चन बन जाता है, लेकिन ज़्यादा जोखिम वाले या कम भरोसेमंद फ़ैसलों के लिए मानवीय विवेक अब भी ज़रूरी है,” उन्होंने Unite AI को बताया।

भौतिक AI के मामले में यह बात विशेष रूप से सही है। मानवीय निगरानी में ऐसे निर्दिष्ट लोग शामिल होने चाहिए जिन्हें प्रणाली का काम रोकने का अधिकार हो, और यह सुनिश्चित करने की ज़िम्मेदारी भी कि फ़ैसलों का दस्तावेज़ीकरण और उनकी जाँच हो—सिर्फ़ मंज़ूरी का बटन न दबाया जाए।

रोबोट के विफल होने पर ज़िम्मेदारी किसकी होगी?

जवाबदेही का बँटवारा इस आधार पर होना चाहिए कि प्रणाली पर किस पक्ष का कितना नियंत्रण है।

उदाहरण के लिए, सुरक्षा उपाय बनाने और उनका दस्तावेज़ीकरण करने की ज़िम्मेदारी निर्माताओं की है। ऐसे बदलावों का परीक्षण सॉफ़्टवेयर डेवलपरों को करना चाहिए जिनसे रोबोट की चीज़ों को समझने या चलने-फिरने की क्षमता प्रभावित हो सकती है।

इंटीग्रेटर को पूरी प्रणाली का सत्यापन उस वातावरण में करना चाहिए जहाँ उसका इस्तेमाल होना है। कर्मचारियों को प्रशिक्षण देना, सुरक्षा उपाय लागू हैं यह सुनिश्चित करना और असुरक्षित संचालन रोकने की प्रक्रियाएँ तय करना नियोक्ताओं की ज़िम्मेदारी है।

साइबर सुरक्षा भी महत्वपूर्ण है। रोबोटों से जुड़ी सेंसर, सॉफ़्टवेयर और बाहरी प्रणालियों की समस्याओं के कारण परिचालन प्रौद्योगिकी असुरक्षित हो सकती है। भौतिक व्यवहार को प्रभावित करने वाली सुरक्षा संबंधी विफलता कार्यस्थल की सुरक्षा के लिए भी समस्या है और आईटी की समस्या भी।

भविष्य में कारखानों में ह्यूमनॉइड रोबोटों के अधिक लचीले और उत्पादक होने की उम्मीद है। हालाँकि, उन्हें अपनाने का फ़ैसला केवल प्रदर्शन के मापदंडों के आधार पर नहीं होगा। स्पष्ट जवाबदेही, स्वतंत्र सत्यापन और रोबोट के पूरे कार्यकाल के दौरान बनाए रखे जाने वाले सुरक्षा उपायों की आवश्यकता है।

सवाल यह है: क्या रोबोट से गलतियाँ हो सकती हैं? हाँ, यदि उसका इस्तेमाल करने वाले लोगों ने ऐसी व्यवस्था बनाई हो जो उन गलतियों के लिए उन्हें जवाबदेह ठहराए।