मानव-इन-द-लूप का वास्तव में क्या अर्थ है?

20वीं शताब्दी की शुरुआत में, ब्रिटिश दार्शनिक गिल्बर्ट राइल ने “मशीन में भूत” शब्द का प्रयोग किया। द कॉन्सेप्ट ऑफ माइंड में, राइल ने इस रूपक का उपयोग मन-शरीर द्वैतवाद के खिलाफ प्रतिक्रिया करने के लिए किया, जो यह कहता है कि मन और शरीर अलग-अलग पदार्थ हैं। राइल के लिए, यह विभाजन एक गलती थी क्योंकि संज्ञान और शारीरिक क्रिया एक ही प्रणाली के हिस्से थे, न कि दो परस्पर क्रिया करने वाले भागों के।

एआई के आगमन के साथ, एक समान रूपक अब उभर रहा है जब हम एआई टूल्स का उपयोग करके उत्पादकता बढ़ाने वाले उपयोगकर्ताओं की बात करते हैं: अक्सर इस्तेमाल किया जाने वाला “मानव-इन-द-लूप”। यदि मानव और बुद्धिमान प्रणालियां अब पहले से अधिक एकजुट हो गई हैं, तो क्या हम एक निर्बाध संलयन बना रहे हैं या नियंत्रण का एक सुविधाजनक भ्रम पैदा कर रहे हैं?

स्टार्टअप इस अवधारणा पर बहुत अधिक निर्भर करते हैं ताकि वे अपने टूल्स के बारे में बात कर सकें। जबकि यह नवाचार और आश्वासन दोनों का वादा करता है, वास्तविकता अक्सर अधिक जटिल होती है। जिम्मेदारी आसानी से धुंधली हो सकती है और जवाबदेही का पता लगाना कठिन हो सकता है।

एआई प्रणालियां अब संवेदनशील क्षेत्रों में गहराई से जा रही हैं – शिक्षा से लेकर युद्ध तक – दांव अब अमूर्त नहीं हैं। मानव-इन-द-लूप का वास्तव में क्या अर्थ है और क्या यह बस एक शब्द है जब वे पूरी तरह से गायब हो जाते हैं?

1. मानव-इन-द-लूप जिम्मेदारी के लिए एक ढाल के रूप में

लापरवाही से उपयोग किए जाने पर, मानव-इन-द-लूप शब्द जिम्मेदारी को स्थानांतरित करने का एक आसान तरीका बन सकता है बिना वास्तव में इसके साथ जुड़े। जैसा कि कई लोगों ने देखा है, एक प्रक्रिया के अंत में एक मानव हस्ताक्षर नैतिक अखंडता की गारंटी नहीं देता है, खासकर यदि अंतर्निहित प्रणाली खराब तरीके से डिज़ाइन की गई है या पर्याप्त रूप से समझी नहीं गई है।

स्केल एक्स के संस्थापक और सीईओ मaysa हावाश ने लिखा जिम्मेदारी से दूर जाने के बारे में और इस तरह से स्पष्ट है कि यह अवधारणा अक्सर कैसे तैनात की जाती है। “यह वास्तव में अन्य तरीकों से बोझ स्थानांतरित करने से बहुत अलग नहीं है,” हावाश ने स्टार्टअप बीट को बताया, एचआर प्रबंधकों का एक उदाहरण देते हुए कि वे कंपनी को दायित्व से दूर ले जाने के लिए एक हस्ताक्षर नीति का उपयोग कैसे करते हैं। “यदि आपके पास यह नीति है और लोग इसे पढ़ते हैं और इस पर हस्ताक्षर करते हैं, तो कंपनी के रूप में, तकनीकी रूप से आप दायित्व से मुक्त हैं, सही?” उसने कहा।

जो उभरा है वह एक पैटर्न है जो निगमित प्रणालियों में परिचित है जहां जिम्मेदारी विस्थापित हो जाती है न कि समाप्त हो जाती है। हावाश इसे आलसी तरीका मानती है जो महत्वपूर्ण सोच या उन क्षेत्रों को समझने से बचती है जहां यह लोगों या समुदायों को प्रभावित कर सकता है। “तो आप बोझ को स्थानांतरित कर रहे हैं, और फिर यह मायने नहीं रखता कि लोग नीति को समझते हैं या नहीं, यह मायने नहीं रखता कि नीति का कोई अर्थ है या नहीं।”

इस फ्रेमिंग में, “मानव-इन-द-लूप” जोखिम में है कि यह अर्थपूर्ण हस्तक्षेप के बारे में कम और प्रक्रियात्मक कवर के बारे में अधिक हो जाए। यह खतरा केवल शब्दावली नहीं है। जब निगरानी को हस्ताक्षर तक कम किया जाता है, तो मानव भूमिका प्रतीकात्मक बन जाती है न कि वास्तविक।

हावाश ने संदर्भित एक हालिया सैन्य अत्याचार – ईरान के मिनाब में स्कूल – जहां मानवों ने हमले को मंजूरी दी लेकिन मानव निर्णय लेने वाले की उपस्थिति ने आवश्यक रूप से नैतिक स्पष्टता या पर्याप्त विचार-विमर्श का तात्पर्य नहीं किया। “जब आप युद्ध में हैं या आप एक जटिल सर्जरी कर रहे हैं, तो आपके पास मानव-इन-द-लूप को एक ढाल के रूप में उपयोग करने का समय की विलासिता नहीं है।”

2. जिम्मेदारी के लिए डिज़ाइन करना, न कि केवल पर्यवेक्षण के लिए

विकल्प मानव-इन-द-लूप प्रणालियों को छोड़ना नहीं है, बल्कि उन्हें डिज़ाइन प्रतिबद्धताओं के रूप में गंभीरता से लेना है। इसका अर्थ प्रतीकात्मक पर्यवेक्षण की ओर से जानबूझकर जिम्मेदारी संरचनाओं की ओर बढ़ना है।

“एक बड़ी दौड़ है जो बाजार में अधिक एआई प्राप्त करने के लिए है। डिज़ाइन के दृष्टिकोण से बहुत अधिक विचार नहीं किया जा रहा है, जैसे कि यह समुदायों, लोगों या अंतिम उपयोगकर्ताओं पर नीचे के प्रभाव के बारे में क्या है,” हावाश ने कहा।

गति प्रमुख प्रतिस्पर्धी चर बन गई है। उस दौड़ में, जिम्मेदारी अक्सर स्थगित की जाती है न कि निहित की जाती है। परिणाम एक प्रतिक्रियात्मक मॉडल है जहां नैतिकता में समस्याओं को तैनाती के बाद ठीक किया जाता है, न कि विकास के दौरान उन्हें先ाने के लिए।

सुलभता अपनाने को तेज कर सकती है, लेकिन यह परिणामों को भी बढ़ा देती है। प्रणालियां अब तकनीकी उपयोगकर्ताओं तक सीमित नहीं हैं क्योंकि वे विभिन्न स्तरों की समझ और संदर्भ वाले लोगों के लिए निर्णयों को आकार दे सकती हैं। ऐसे वातावरण में, जिम्मेदारी को अंतिम उपयोगकर्ता को आउटसोर्स नहीं किया जा सकता है।

3. मानव-इन-द-लूप सटीकता और जवाबदेही के रूप में

फ्रिज़ल के सह-संस्थापक अभय गुप्ता एक अधिक संचालित दृष्टिकोण प्रदान करते हैं – एक जो एक प्रणाली बनाने में निहित है जहां मानव पर्यवेक्षण व्यावहारिक और आवश्यक है।

उनकी कंपनी एक विशिष्ट समस्या से उत्पन्न हुई: अधिक काम करने वाले शिक्षक। “शहर में आप बैंकरों और सलाहकारों के बारे में सुनते हैं जो 70 घंटे काम करते हैं, लेकिन आप शिक्षकों के बारे में नहीं सुनते जो इतना काम करते हैं। इसलिए, जिज्ञासा से, हमने सैकड़ों शिक्षकों से साक्षात्कार किया और पार्षद में ग्रेडिंग उनका सबसे बड़ा समय निकासी था।”

ग्रेडिंग को स्वचालित करना सीधा लग सकता है, लेकिन हस्तलिखित गणित में एआई के लिए वास्तविक सीमाएं हैं। “वहाँ सटीकता का मुद्दा है। एआई परिपूर्ण नहीं है, इसलिए हमने एक मानव-इन-द-लूप प्रणाली बनाई। यदि एआई आत्मविश्वास नहीं है – जैसे कि गंदे हस्तलेखन के साथ – तो यह शिक्षक के लिए समीक्षा और अनुमोदन या अस्वीकृति के लिए झंडा लगाता है।”

यहाँ, मानव भूमिका केवल आभूषण नहीं है। प्रणाली वास्तव में अपनी अनिश्चितता की पहचान करती है और उन मामलों को मानव को रूट करती है। “हमारे लिए यह सटीकता के बारे में है। एआई के साथ हमेशा 1-3% के किनारे मामले होंगे जहां संघर्ष होगा, इसलिए मानव को हस्तक्षेप करने की आवश्यकता है।”

यह दृष्टिकोण मानव-इन-द-लूप को गुणवत्ता नियंत्रण के तंत्र के रूप में पुनः परिभाषित करता है। लेकिन गुप्ता आगे बढ़ता है: “एआई का मूल 100% सटीक नहीं है – यह हॉलुसिनेट या गलत आउटपुट उत्पन्न कर सकता है। मानव-इन-द-लूप अंतिम गुणवत्ता जांच के रूप में कार्य करता है इससे पहले कि परिणाम अंतिम उपयोगकर्ता तक पहुंचे। यह जिम्मेदारी के बारे में भी है। किसी को आउटपुट के लिए जवाबदेह होना चाहिए, और अभी भी यह एक मानव होना चाहिए।”

महत्वपूर्ण रूप से, मानव भूमिका भी शिक्षण के संबंधपरक पहलू को संरक्षित करती है। “यह शिक्षण के मानव पक्ष को संरक्षित करने के बारे में भी है। शिक्षकों की अलग-अलग शैलियां होती हैं, इसलिए हम उन्हें प्रतिक्रिया कैसे वितरित की जाए, इसे अनुकूलित करने देते हैं”

मानव-इन-द-लूप को पुनः परिभाषित करना

“मानव-इन-द-लूप” शब्द एक सुकून देने वाली सरलता लाता है। यह सुझाव देता है कि चाहे हमारी प्रणालियां कितनी भी उन्नत क्यों न हो जाएं, एक मानव नियंत्रण में रहता है और हम केवल “मशीन में भूत” नहीं हैं। लेकिन जब स्टार्टअप उच्च जोखिम वाले वातावरण में एआई को तैनात करते हैं, तो यह आश्वासन संदेह के अधीन है।

गहरा मुद्दा डिज़ाइन है। यदि एक प्रणाली के जोखिमों को खराब तरीके से समझा जाता है या जानबूझकर कम किया जाता है, तो अंत में एक मानव डालने से मूलभूत दोषों को ठीक नहीं किया जा सकता है। महत्वपूर्ण रूप से, इसका अर्थ मानव की भूमिका को एक फॉलबैक के रूप में नहीं, प्रणाली के संचालन के एक अभिन्न अंग के रूप में परिभाषित करना है। मानव-इन-द-लूप को केवल परिणाम को मंजूरी देना नहीं चाहिए। स्टार्टअप को अपने कर्मचारियों को उन्हें आकार देने, उन्हें चुनौती देने और जब आवश्यक हो अधिकार के साथ उन्हें ओवरराइड करने के लिए सशक्त बनाने का प्रयास करना चाहिए।