ह्यूमन-इन-द-लूप का वास्तव में क्या अर्थ है?

20वीं शताब्दी की शुरुआत में, ब्रिटिश दार्शनिक गिल्बर्ट राइल ने “मशीन में भूत” शब्द का प्रयोग किया। द कॉन्सेप्ट ऑफ माइंड में, राइल ने इस रूपक का उपयोग मन-शरीर द्वैतवाद के खिलाफ प्रतिक्रिया करने के लिए किया, जो यह कहता है कि मन और शरीर अलग-अलग पदार्थ हैं। राइल के लिए, यह विभाजन एक गलती थी क्योंकि संज्ञान और शारीरिक क्रिया अविभाज्य थे और एक ही प्रणाली के हिस्से थे, न कि दो परस्पर क्रिया करने वाले भागों के।

एआई के आगमन के साथ, एक समान रूपक अब उभर रहा है जब हम एआई टूल्स का उपयोग करके उत्पादकता बढ़ाने वाले उपयोगकर्ताओं की बात करते हैं: अक्सर इस्तेमाल किया जाने वाला “मानव-इन-द-लूप”। यदि मानव और बुद्धिमान प्रणालियां अब पहले से अधिक एकजुट हो गई हैं, तो क्या हम एक निर्बाध संलयन बना रहे हैं या नियंत्रण का एक सुविधाजनक भ्रम पैदा कर रहे हैं?

स्टार्टअप इस अवधारणा पर बहुत अधिक निर्भर करते हैं ताकि वे अपने टूल्स के बारे में बात कर सकें। जबकि यह नवाचार और आश्वासन दोनों का वादा करता है, वास्तविकता अक्सर अधिक जटिल होती है। जिम्मेदारी आसानी से धुंधली हो सकती है और जवाबदेही का पता लगाना कठिन हो सकता है।

एआई प्रणालियां अब संवेदनशील क्षेत्रों में गहराई से जा रही हैं – शिक्षा से लेकर युद्ध तक – दांव अब अमूर्त नहीं हैं। मानव-इन-द-लूप का वास्तव में क्या अर्थ है और क्या यह बस एक शब्द है जब मनुष्य पूरी तरह से गायब हो जाते हैं?

1. मानव-इन-द-लूप जिम्मेदारी के लिए एक ढाल के रूप में

लापरवाही से उपयोग किए जाने पर, मानव-इन-द-लूप शब्द जिम्मेदारी को स्थानांतरित करने का एक आसान तरीका बन सकता है बिना वास्तव में इसके साथ जुड़े। जैसा कि कई लोगों ने देखा है, एक प्रक्रिया के अंत में मनुष्य का हस्ताक्षर नैतिक अखंडता की गारंटी नहीं देता है, खासकर यदि अंतर्निहित प्रणाली खराब तरीके से डिज़ाइन की गई है या पर्याप्त रूप से समझी नहीं गई है।

Scale X की संस्थापक और सीईओ मायसा हावाश ने लिखा जिम्मेदारी से दूर खिसकने के बारे में, और वह इस अवधारणा के आम इस्तेमाल पर बेबाकी से बात करती हैं। “यह वास्तव में अन्य तरीकों से बोझ स्थानांतरित करने से बहुत अलग नहीं है,” हावाश ने स्टार्टअप बीट को बताया, एचआर प्रबंधकों का एक उदाहरण देते हुए कि वे कंपनी को दायित्व से दूर ले जाने के लिए एक हस्ताक्षर नीति का उपयोग कैसे करते हैं। “यदि आपके पास यह नीति है और लोग इसे पढ़ते हैं और इस पर हस्ताक्षर करते हैं, तो कंपनी के रूप में, तकनीकी रूप से आप दायित्व से मुक्त हैं, सही?” उन्होंने कहा।

जो उभरा है वह एक पैटर्न है जो निगमित प्रणालियों में परिचित है जहां जिम्मेदारी विस्थापित हो जाती है न कि समाप्त हो जाती है। हावाश इसे आलसी तरीका मानती है जो आलोचनात्मक सोच या उन क्षेत्रों को समझने से बचती है जहां यह लोगों या समुदायों को प्रभावित कर सकता है। “तो आप बोझ को स्थानांतरित कर रहे हैं, और फिर यह मायने नहीं रखता कि लोग नीति को समझते हैं या नहीं, यह मायने नहीं रखता कि नीति का कोई अर्थ है या नहीं।”

इस फ्रेमिंग में, “मानव-इन-द-लूप” जोखिम में है कि यह अर्थपूर्ण हस्तक्षेप के बारे में कम और प्रक्रियात्मक कवर के बारे में अधिक हो जाए। यह खतरा केवल शब्दों के अर्थ तक सीमित नहीं है। जब निगरानी को हस्ताक्षर तक कम किया जाता है, तो मानव भूमिका प्रतीकात्मक बन जाती है न कि वास्तविक।

हावाश ने संदर्भित एक हालिया सैन्य अत्याचार – ईरान के मिनाब में स्कूल – जहां मानवों ने हमले को मंजूरी दी लेकिन मानव निर्णय लेने वाले की उपस्थिति का मतलब जरूरी नहीं कि नैतिक स्पष्टता या पर्याप्त विचार-विमर्श रहा हो। “जब आप युद्ध में हैं या आप एक जटिल सर्जरी कर रहे हैं, तो आपके पास मानव-इन-द-लूप को एक ढाल के रूप में उपयोग करने के लिए समय की सहूलियत नहीं है।”

2. जिम्मेदारी के लिए डिज़ाइन करना, न कि केवल पर्यवेक्षण के लिए

विकल्प मानव-इन-द-लूप प्रणालियों को छोड़ना नहीं है, बल्कि उन्हें डिज़ाइन प्रतिबद्धताओं के रूप में गंभीरता से लेना है। इसका अर्थ प्रतीकात्मक निगरानी से आगे बढ़कर सोच-समझकर बनाई गई जिम्मेदारी की संरचनाओं की ओर बढ़ना है।

“एक बड़ी दौड़ है जो बाजार में अधिक एआई प्राप्त करने के लिए है। डिज़ाइन के दृष्टिकोण से बहुत अधिक विचार नहीं किया जा रहा है, जैसे कि यह समुदायों, लोगों या अंतिम उपयोगकर्ताओं पर बाद में पड़ने वाले प्रभाव के बारे में क्या है,” हावाश ने कहा।

गति प्रमुख प्रतिस्पर्धी चर बन गई है। उस दौड़ में, जिम्मेदारी अक्सर प्रणाली में समाहित करने के बजाय टाल दी जाती है। परिणाम एक प्रतिक्रियात्मक मॉडल है जहां नैतिकता में समस्याओं को तैनाती के बाद ठीक किया जाता है, न कि विकास के दौरान उनका अनुमान लगाया जाता है।

सुलभता अपनाने को तेज कर सकती है, लेकिन यह परिणामों को भी बढ़ा देती है। प्रणालियां अब तकनीकी उपयोगकर्ताओं तक सीमित नहीं हैं क्योंकि वे विभिन्न स्तरों की समझ और संदर्भ वाले लोगों के लिए निर्णयों को आकार दे सकती हैं। ऐसे वातावरण में, जिम्मेदारी को अंतिम उपयोगकर्ता को आउटसोर्स नहीं किया जा सकता है।

3. मानव-इन-द-लूप सटीकता और जवाबदेही के रूप में

फ्रिज़ल के सह-संस्थापक अभय गुप्ता एक अधिक व्यावहारिक परिचालन दृष्टिकोण प्रदान करते हैं – एक जो एक प्रणाली बनाने में निहित है जहां मानव पर्यवेक्षण व्यावहारिक और आवश्यक है।

उनकी कंपनी एक विशिष्ट समस्या से उत्पन्न हुई: अधिक काम करने वाले शिक्षक। “शहर में आप बैंकरों और सलाहकारों के बारे में सुनते हैं जो सप्ताह में 70 घंटे काम करते हैं, लेकिन आप शिक्षकों के बारे में नहीं सुनते जो इतना काम करते हैं। इसलिए, जिज्ञासा से, हमने सैकड़ों शिक्षकों से साक्षात्कार किया और सभी समूहों में मूल्यांकन उनका सबसे अधिक समय लेने वाला काम था।”

ग्रेडिंग को स्वचालित करना सीधा लग सकता है, लेकिन हस्तलिखित गणित में एआई के लिए वास्तविक सीमाएं हैं। “वहाँ सटीकता का मुद्दा है। एआई परिपूर्ण नहीं है, इसलिए हमने एक मानव-इन-द-लूप प्रणाली बनाई। यदि एआई आश्वस्त नहीं है – जैसे कि अस्पष्ट हस्तलेखन के साथ – तो वह मामले को चिह्नित कर शिक्षक को समीक्षा और स्वीकृति या अस्वीकृति के लिए भेजता है।”

यहाँ, मानव भूमिका केवल आभूषण नहीं है। प्रणाली वास्तव में अपनी अनिश्चितता की पहचान करती है और उन मामलों को मानव को रूट करती है। “हमारे लिए यह सटीकता के बारे में है। हमेशा कुछ सीमांत मामले होंगे, शायद 1–3%, जिनमें एआई को कठिनाई होगी, इसलिए मानव को हस्तक्षेप करने की आवश्यकता है।”

यह दृष्टिकोण मानव-इन-द-लूप को गुणवत्ता नियंत्रण के तंत्र के रूप में पुनः परिभाषित करता है। लेकिन गुप्ता आगे बढ़ता है: “मूल बात यह है कि एआई 100% सटीक नहीं है – वह मतिभ्रमपूर्ण या गलत आउटपुट उत्पन्न कर सकता है। मानव-इन-द-लूप अंतिम गुणवत्ता जांच के रूप में कार्य करता है इससे पहले कि परिणाम अंतिम उपयोगकर्ता तक पहुंचे। यह जिम्मेदारी के बारे में भी है। किसी को आउटपुट के लिए जवाबदेह होना चाहिए, और अभी भी यह एक मानव होना चाहिए।”

महत्वपूर्ण रूप से, मानव भूमिका कुछ ऐसा भी बचाए रखती है जिसे मापना कठिन है: शिक्षण का संबंधपरक पहलू। “यह शिक्षण के मानव पक्ष को संरक्षित करने के बारे में भी है। शिक्षकों की अलग-अलग शैलियां होती हैं, इसलिए हम उन्हें प्रतिक्रिया कैसे वितरित की जाए, इसे अनुकूलित करने देते हैं”

मानव-इन-द-लूप को पुनः परिभाषित करना

“मानव-इन-द-लूप” शब्द एक सुकून देने वाली सरलता लाता है। यह सुझाव देता है कि चाहे हमारी प्रणालियां कितनी भी उन्नत क्यों न हो जाएं, एक मानव नियंत्रण में रहता है और हम केवल “मशीन में भूत” नहीं हैं। लेकिन जब स्टार्टअप उच्च जोखिम वाले वातावरण में एआई को तैनात करते हैं, तो यह आश्वासन संदेह के अधीन है।

गहरा मुद्दा डिज़ाइन है। यदि एक प्रणाली के जोखिमों को खराब तरीके से समझा जाता है या जानबूझकर कम करके दिखाया जाता है, तो अंत में एक मानव डालने से मूलभूत दोषों को ठीक करने में खास मदद नहीं मिलती। महत्वपूर्ण रूप से, इसका अर्थ मानव की भूमिका को एक फॉलबैक के रूप में नहीं, प्रणाली के संचालन के एक अभिन्न अंग के रूप में परिभाषित करना है। मानव-इन-द-लूप को केवल परिणाम को मंजूरी देना नहीं चाहिए। स्टार्टअप को अपने कर्मचारियों को परिणामों को आकार देने, उन पर सवाल उठाने और जरूरत पड़ने पर वास्तविक अधिकार से उन्हें पलटने के लिए सशक्त बनाने का प्रयास करना चाहिए।