अगर आपका कर्मचारी AI जैसा व्यवहार करता, तो आप अब तक उसे निकाल चुके होते

कल्पना कीजिए कि आपने अभी-अभी किसी नए व्यक्ति को नियुक्त किया है, और अधिकांश दिनों में वह कुशल, जानकार, स्पष्टवादी और आत्मविश्वासी रहता है। वह वही सब कुछ है जिसकी आप आशा कर रहे थे, और एक उत्कृष्ट कर्मचारी की कई गुणों का प्रदर्शन करता है।

अब कल्पना कीजिए कि कभी-कभी, जब उन्हें किसी प्रश्न का उत्तर नहीं पता होता, तो वे बस कुछ बना लेते हैं। यह प्रवाहपूर्ण और विश्वसनीय लगता है, इसलिए पहले आप इसे सतही रूप से मान लेते हैं। लेकिन जब इसका व्यवसाय पर प्रभाव पड़ता है, तो आप उस कर्मचारी के पास वापस जाते हैं, उसे चुनौती देते हैं – और वह अपनी सोच प्रक्रिया या कार्यविधि को समझा नहीं पाता। आप उसे यह भी बता सकते हैं कि वह गलत है, लेकिन वह इसके विपरीत दृढ़ता से अडिग रहता है और इसे समर्थन देने के लिए और अधिक बनावटी बातें पेश करता है। जब यह दूसरा या तीसरा बार होता है, तो क्या आप संभवतः उसे निकाल देते, या कम से कम उसे चेतावनी देते? अधिकांश नियोक्ताओं का उत्तर लगभग निश्चित रूप से हाँ है।

मुझे आश्चर्य होता है कि आज के व्यवसाय महत्वपूर्ण कार्यप्रवाह और निर्णय‑निर्धारण को ऐसे कर्मचारी को सौंप रहे हैं जो इस प्रकार के व्यवहार को प्रदर्शित करने के लिए जाना जाता है। इसका अनियंत्रित रहना केवल इसलिए है क्योंकि यह ‘कर्मचारी’ एक व्यक्ति नहीं, बल्कि सॉफ़्टवेयर है।

क्यों AI लोगों की तरह विफल नहीं होता

AI को लागू करने वाले व्यवसायों में एक आम, गलत धारणा है कि यदि प्रौद्योगिकी में त्रुटि दर है, तो यह मानव त्रुटि के समान समस्या है और इसे उसी तरह प्रबंधित किया जा सकता है। लेकिन बड़े भाषा मॉडलों (LLMs) के साथ जांच, समीक्षा और एस्केलेशन हमेशा काम नहीं करते। इन्हें मनुष्यों की तरह सुनाने के लिए बनाया गया है, लेकिन अगर आप अंदर देखें तो पाएँगे कि ये हमारे जैसे बिल्कुल नहीं चलते।

यदि एक उत्कृष्ट कर्मचारी गलती करता है, तो हम मानेंगे कि वह गलती ईमानदारी से हुई है – वह अपना सर्वश्रेष्ठ कर रहा था और चूक गया। ऐसी बातें होती हैं। यदि वह जानबूझकर कोई उत्तर बनाता है ताकि वह कुछ न जानने से बच सके, और यह बार‑बार करता है, तो हम इसे दुर्व्यवहार मानेंगे। प्रबंधकों को पता होता है कि निगरानी कहाँ केंद्रित करनी है, क्योंकि कठिनाई और त्रुटि सीमाएँ एक साथ आती हैं। वे कर्मचारी से उसकी तर्क प्रक्रिया समझाने को कह सकते हैं और उस पर प्रश्न उठा सकते हैं। कर्मचारी आमतौर पर जानता है कि वह अपनी क्षमता से बाहर है, और ऐसा कह देता है। और एक गलती के बाद, वह सीखता है, इसलिए वही गलती लगातार दोहराई नहीं जाती।

AI सिस्टम इन सभी धारणाओं को उलट देते हैं। विफलता पर उनका डिफ़ॉल्ट जवाब प्रवाहपूर्ण, आत्मविश्वासी आविष्कार होता है। वे एक संभावित उत्तर उत्पन्न करेंगे जो वास्तव में असत्य होता है, जो वही व्यवहार है जो एक मानव करियर को समाप्त कर देगा। LLM को इस तरह बनाया गया है कि वह किसी पाठ के सबसे सांख्यिकीय रूप से संभावित निरंतरता को उत्पन्न करे, और जब उन्हें उत्तर नहीं पता होता, तो वे अक्सर कुछ ऐसा बनाते हैं जो सही लग सकता है। OpenAI के शोधकर्ताओं ने स्वीकार किया है कि तथ्यात्मक त्रुटि का कुछ स्तर इन मॉडलों के काम करने के तरीके की सांख्यिकीय अनिवार्यता है, और कि प्रशिक्षण एक आत्मविश्वासी अनुमान को एक ईमानदार अनिश्चितता की स्वीकृति पर अधिक महत्व देता है।

न्यूरोसिंबॉलिक दृष्टिकोण कहाँ काम आते हैं

यही वह चीज़ है जिसे न्यूरोसिंबॉलिक दृष्टिकोण ठीक करने के लिए बनाया गया है। वे न्यूरल नेटवर्क को, जो अव्यवस्थित, वास्तविक‑विश्व भाषा और डेटा को समझने में उत्कृष्ट होते हैं, निर्धारक, नियम‑आधारित तर्क के साथ जोड़ते हैं। इसका अर्थ है कि प्रणाली के निष्कर्ष स्पष्ट तर्क से उत्पन्न होते हैं जिन्हें जाँच‑परख किया जा सकता है, न कि किसी ऐसे प्रक्रिया से जो अंदर से किसी को दिखाई नहीं देती।

न्यूरोसिंबॉलिक तकनीक द्वारा प्रदान की गई इस अतिरिक्त तर्क परत के बिना, AI की त्रुटियाँ कार्य की कठिनाई के साथ उस तरह से संबंधित नहीं होती जैसा कि मानव की त्रुटियों में होता है – वे अप्रत्याशित होती हैं। वे तुच्छ कार्यों में प्रकट हो सकती हैं जबकि कठिन कार्य बिना रुकावट के पूरे हो जाते हैं, जिससे यह तय करना कठिन हो जाता है कि मानव निगरानी को कहाँ सबसे अधिक केंद्रित किया जाए। उनके स्पष्टीकरण, जब दिए जाते हैं, तो परिणामस्वरूप उत्पन्न होते हैं न कि यह बताने के लिए कि उन्होंने निष्कर्ष कैसे निकाला। यही गलती अनिश्चितकाल तक दोहराई जा सकती है, क्योंकि प्रणाली के भीतर ऐसा कोई नहीं है जो इससे सीख सके या जिसके खिलाफ जवाबदेही हो सके।

समझ के बिना भरोसा

शोधकर्ताओं ने दस्तावेज़ किया है कि जब लोग किसी प्रणाली के नए होते हैं, तो वे एक ही स्पष्ट त्रुटि के बाद उसे छोड़ने की प्रवृत्ति रखते हैं; लेकिन जब वह परिचित हो जाती है तो वे विपरीत दिशा में झुकते हैं – उसके आउटपुट को स्वीकार करना केवल इसलिए क्योंकि वे उनके आदी हो गए हैं, न कि इसलिए कि वह आउटपुट अधिक विश्वसनीय हो गया है। जो कम देखा जाता है वह भरोसे का सही स्तर है, क्योंकि यह इस बात पर निर्भर करता है कि लोग समझते हैं कि AI प्रणाली कब गलत होने की संभावना रखती है और इसे पहचानने में सक्षम होते हैं।

इसका मतलब यह नहीं है कि महत्वपूर्ण कार्यों में AI पर भरोसा नहीं किया जाना चाहिए। इसका अर्थ है कि हम इसे वह भरोसा देने को तैयार रहे हैं जो हम किसी व्यक्ति को नहीं देंगे, आंशिक रूप से इसलिए क्योंकि जब यह विफल होता है तो जिम्मेदार ठहराने के लिए कोई स्पष्ट व्यक्ति नहीं होता।

यदि AI को एक मूल्यवान सहयोगी की तरह निर्णय‑आधारित कार्य संभालना है, तो उसे वही बुनियादी मानकों को पूरा करना होगा। उत्तरों को सत्यापनीय होना चाहिए, जिसमें तर्क दृश्यमान हो, और यह स्वीकार करना चाहिए कि कभी‑कभी सबसे अच्छा काम वह “मुझे नहीं पता” कहना है।