AI को अभी भी एक कोच की जरूरत है और मानव निगरानी को एक प्लेबुक चाहिए

AI हर जगह है जहाँ आप देखते हैं, और पेशेवर फुटबॉल इसका अपवाद नहीं है।

NFL ने डिजिटल एथलीट पेश किया है, जो डेटा और AI का उपयोग करके टीमों को उन परिस्थितियों की पहचान करने में मदद करता है जहाँ खिलाड़ियों को चोट का बढ़ा हुआ जोखिम हो सकता है। यह प्रशिक्षण, अभ्यास और खेलों से वीडियो और डेटा को मिलियन सिमुलेशन के साथ जोड़ता है, जिससे सभी 32 टीमों को लीग‑व्यापी प्रवृत्ति जानकारी तक पहुंच मिलती है। कोच और प्रशिक्षण स्टाफ फिर इस जानकारी का उपयोग करके व्यक्तिगत चोट‑रोकथाम, प्रशिक्षण और पुनर्प्राप्ति कार्यक्रम विकसित करते हैं।

जबकि तकनीक मैदान को पढ़ती है, कोच अभी भी निर्णय लेने के लिए जिम्मेदार होते हैं। जैसे-जैसे संगठन AI का उपयोग व्यावसायिक प्रक्रियाओं में, जिसमें अनुपालन और कार्यस्थल जांच शामिल हैं, विस्तारित करते हैं, स्वचालन की संभावनाएँ असीमित लगती हैं। लेकिन कौन से कार्य AI को करने चाहिए, किन परिस्थितियों में, और किस प्रकार की मानव निगरानी के साथ?

यहीं पर एक संगठनात्मक प्लेबुक दिशा निर्धारित कर सकती है: कोचों को AI टूल्स का उपयोग करने के साधन प्रदान करती है, जबकि जहाँ आवश्यक हो वहाँ मानव निगरानी बनाए रखती है।

AI को पूरे मैदान के बजाय एक विशिष्ट स्थान दें

जांचों में विभिन्न स्तरों का जोखिम शामिल होता है। AI प्रारंभिक रिपोर्टों से जानकारी को व्यवस्थित करने में मदद कर सकता है और:

• गुम विवरणों की पहचान करें
• जानकारी को अंतिम रिपोर्ट में सारांशित करें
• समयरेखा बनाएं
• ऐसे पैटर्न उजागर करें जिन्हें जांचकर्ता आगे जांचना चाहेंगे

ये उपयोग मामलों से मैन्युअल छंटाई कम हो सकती है और समय मुक्त होता है ताकि वह कार्य पर ध्यान दिया जा सके जिसमें मानव निर्णय की आवश्यकता होती है।

ध्यान रखें कि AI एक आरोप का सारांश बना सकता है, लेकिन यह तय नहीं कर सकता कि वह विश्वसनीय है या नहीं। AI असंगतियों की पहचान कर सकता है, लेकिन यह नहीं बता सकता कि वे क्यों मौजूद हैं। यही वह जगह है जहाँ संगठनों को केवल AI का उपयोग बिना सुरक्षा उपायों के करने से समस्याएँ हो सकती हैं।

निगरानी बनाए रखने के लिए, AI को एक स्पष्ट भूमिका चाहिए। संगठनों को तय करना चाहिए:

• सिस्टम द्वारा किए जाने वाले कार्य
• जिस जानकारी तक वह पहुंच सकता है
• जिसके लिए उसे अनुमति है उसकी सीमाएँ
• ऐसे स्थितियों को जहाँ व्यक्ति को नियंत्रण लेना आवश्यक हो

यह नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी का AI रिस्क मैनेजमेंट फ्रेमवर्क एक उपयोगी मानक प्रदान करता है। NIST की रोडमैप AI RMF प्रोफ़ाइल्स को इस तरह वर्णित करती है कि फ्रेमवर्क को विशेष क्षेत्रों, प्रौद्योगिकियों, संदर्भों या अन्य सेटिंग्स में कैसे लागू किया जा सकता है। दूसरे शब्दों में, जब संगठन व्यापक सिद्धांतों को विशिष्ट उपयोग केस की वास्तविकताओं में अनुवादित करते हैं, तो जिम्मेदार AI शासन अधिक व्यावहारिक बन जाता है।

एक AI प्लेबुक संचालन स्तर पर इसी प्रकार का काम कर सकती है। यह भूमिकाओं, स्थितियों और कार्यों को विशिष्ट रूप से परिभाषित करती है।

मानव निगरानी एक सिस्टम डिज़ाइन समस्या है

“ह्यूमन इन द लूप” शब्द जिम्मेदार AI पर चर्चा में सामान्य हो गया है। लेकिन कार्यप्रवाह में कहीं भी व्यक्ति की उपस्थिति स्वचालित रूप से AI सिस्टम को अच्छी तरह से शासित नहीं बनाती।

NIST ने ह्यूमन-AI टीमिंग को AI जोखिम प्रबंधन अनुसंधान और मार्गदर्शन के एक महत्वपूर्ण क्षेत्र के रूप में पहचाना है। यह उन मुद्दों को उजागर करता है जैसे कि लोग AI द्वारा उत्पन्न आउटपुट की व्याख्या कैसे करते हैं और मानव वास्तविक‑विश्व वातावरण में संचालित AI सिस्टम की निगरानी कैसे करते हैं।

मानव निगरानी को केवल तब तक एक अस्थायी समाधान नहीं माना जाना चाहिए जब तक AI अकेले कार्य करने के लिए पर्याप्त परिष्कृत न हो जाए। कई उच्च‑दांव वाले वातावरण में, यह दीर्घकालिक रूप से AI का जिम्मेदार उपयोग करने के लिए आवश्यक आर्किटेक्चर का हिस्सा है।

एक मानव निगरानी पर सहकर्मी‑समीक्षित अध्ययन के अनुसार, मानव पर्यवेक्षक सटीकता और सुरक्षा को बढ़ाने, मानव मूल्यों को बनाए रखने और भरोसा बनाने की अपेक्षा रखते हैं। हालांकि, मानव हमेशा विश्वसनीय पर्यवेक्षक नहीं होते। प्रभावी निगरानी कौशल, प्रोत्साहन और निगरानी भूमिका के डिज़ाइन पर निर्भर करती है।

एक जांचकर्ता के लिए, यदि उनके पास चुनौती देने के लिए आवश्यक जानकारी या अधिकार नहीं है, तो AI‑जनित सिफारिश को मंजूरी देने को कहा जाना पर्याप्त नहीं है। प्लेबुक को केवल यह नहीं परिभाषित करना चाहिए कि एक मानव शामिल है, बल्कि यह भी कि वह व्यक्ति कैसे और कब हस्तक्षेप कर सकता है।

हैंडऑफ़ मॉडल जितना ही महत्वपूर्ण है

एक और चुनौती है: यहाँ तक कि जब मानव के पास अंतिम अधिकार हो, तब भी AI द्वारा जानकारी प्रस्तुत करने का तरीका बाद के निर्णय को प्रभावित कर सकता है।

एक 2025 कैलिफ़ोर्निया विश्वविद्यालय, सांता बारबरा के शोधकर्ताओं द्वारा प्री‑प्रिंट अध्ययन दर्शाता है कि इंटरफ़ेस डिज़ाइन क्यों महत्वपूर्ण है। स्वास्थ्य‑सेवा निर्णय‑निर्धारण परिदृश्य में 108 प्रतिभागियों के साथ एक नियंत्रित प्रयोग में, शोधकर्ताओं ने AI निर्णय‑सहायता के छह रूपों का परीक्षण किया। उन्होंने पाया कि AI आत्मविश्वास जानकारी, पाठ्य व्याख्याएँ, और प्रदर्शन विज़ुअलाइज़ेशन जैसी तंत्रों ने उनके प्रयोग में मानव‑AI निर्णय की सटीकता को सुधारा।

अध्ययन यह भी उजागर करता है कि स्वचालन पक्षपात का जोखिम है: लोग AI सुझावों, यहाँ तक कि गलत सुझावों, पर अधिक निर्भर हो सकते हैं।

यह प्रयोग दर्शाता है कि मशीन और मानव के बीच हैंडऑफ़ को जानबूझकर डिज़ाइन और परीक्षण की आवश्यकता क्यों है।

जब हम इसे आगे विस्तारित करते हैं और जांच की अवधना पेश करते हैं, तो कई प्रश्न उत्पन्न होते हैं:

• क्या जांचकर्ता केवल AI‑जनित निष्कर्ष देखता है, या वह उसके पीछे की जानकारी की जाँच कर सकता है?

• क्या सिस्टम अनिश्चितता संप्रेषित कर सकता है?

• क्या यह स्पष्ट है जब जानकारी अनुपलब्ध है?

• क्या जांचकर्ता आउटपुट को अस्वीकार कर सकते हैं और कारण दस्तावेज़ कर सकते हैं?

ये प्रश्न तकनीकी ही नहीं, बल्कि शासन संबंधी प्रश्न भी हैं।

हर AI प्लेबुक को उत्तर देने वाले पाँच प्रश्न

एक उपयोगी AI प्लेबुक को “जिम्मेदार AI” और “मानव निगरानी” जैसे सारभूत सिद्धांतों को ठोस संचालन नियमों में बदलना चाहिए।

1. AI को क्या करने की अनुमति है? संगठनों को पूरे कार्यप्रवाह में AI का व्यापक उपयोग देने के बजाय विशिष्ट कार्यों को अधिकृत करना चाहिए।
2. AI कौन सी जानकारी उपयोग कर सकता है? जांच और व्हिसलब्लोइंग के लिए, संगठनों को AI सिस्टम को उपलब्ध जानकारी और उसकी हैंडलिंग पर स्पष्ट सीमाएँ निर्धारित करनी चाहिए।
3. लोग उसके आउटपुट का मूल्यांकन कैसे करेंगे? मानव समीक्षक को यह समझने के लिए पर्याप्त संदर्भ चाहिए कि सिस्टम ने क्या उत्पन्न किया, उसकी प्रासंगिक सीमाएँ क्या हैं, और परिणाम पर प्रश्न उठाने के लिए आवश्यक जानकारी क्या है।
4. मानव को कब हस्तक्षेप करना चाहिए? प्लेबुक को एस्केलेशन ट्रिगर स्थापित करने चाहिए, न कि व्यक्तिगत कर्मचारियों को यह तय करने देना चाहिए कि AI बहुत अधिक हो गया है।
5. AI का अधिकार कहाँ समाप्त होता है? कुछ निर्णयों में मानव निर्णय आवश्यक होना चाहिए, और उन निर्णयों के लिए जिम्मेदार लोगों को तकनीक को अनदेखा, ओवरराइड या रोकने का वास्तविक अधिकार होना चाहिए।

ये विचार दुनिया के सबसे महत्वपूर्ण AI नियमन में से एक में प्रतिबिंबित होते हैं। Article 14 of the EU AI Act यह AI सिस्टमों के लिए मानव‑निगरानी आवश्यकताओं को स्थापित करता है जो इस अधिनियम की उच्च‑जोखिम श्रेणी में आते हैं। यह कहता है कि निगरानी उपाय सिस्टम के जोखिम, स्वायत्तता और उपयोग संदर्भ के अनुपात में होने चाहिए। यह यह भी मांग करता है कि पर्यवेक्षक संबंधित क्षमताओं और सीमाओं को समझ सकें, आउटपुट को सही ढंग से व्याख्या करें, स्वचालन पक्षपात के प्रति सतर्क रहें, आउटपुट को अनदेखा या ओवरराइड कर सकें, और सिस्टम में हस्तक्षेप या उसे रोक सकें।

इसका अर्थ यह नहीं है कि जांच में उपयोग किया गया हर AI टूल स्वचालित रूप से एक उच्च‑जोखिम सिस्टम हो। यह फ्रेमवर्क AI शासन के लिए एक महत्वपूर्ण सिद्धांत को दर्शाता है। मानव निगरानी को मानवों को सार्थक क्षमताएँ प्रदान करनी चाहिए, न कि केवल कार्यप्रवाह में एक स्थान।

AI कोच को प्रतिस्थापित नहीं करता। यह कोच की दृष्टि को बदल देता है।

NFL का डिजिटल एथलीट आकर्षक इसलिए है क्योंकि यह दर्शाता है कि AI कोचों को बदल सकता है, बल्कि यह दिखाता है कि परिष्कृत तकनीक कैसे अनुभवी पेशेवरों के लिए उपलब्ध जानकारी को विस्तारित कर सकती है।

AI लोगों को जानकारी के माध्यम से काम करने, वह चीज़ उजागर करने जिसमें ध्यान देना चाहिए, और दोहराने योग्य कार्यों में अधिक स्थिरता बनाने में मदद कर सकता है। फिर भी, जांच में सबसे महत्वपूर्ण क्षण अक्सर कुछ अलग मांगते हैं: संदर्भ, संदेह, व्याख्या, और जवाबदेही।

इसलिए, AI से सबसे अधिक लाभ उठाने वाले संगठन केवल तकनीक द्वारा स्वचालित किए जा सकने वाले कार्यों से अधिक पूछेंगे। वे यह परिभाषित करेंगे कि इसे क्या करना चाहिए, क्या नहीं करना चाहिए, और मानव व AI कैसे साथ काम करेंगे।