एआई पर अंधविश्वास आपका सबसे बुरा फैसला हो सकता है

1979 में, एक आईबीएम प्रशिक्षण मैनुअल ने एक सरल लेकिन आकर्षक चेतावनी दी: “एक कंप्यूटर को कभी भी जवाबदेह नहीं ठहराया जा सकता; इसलिए, एक कंप्यूटर को कभी भी प्रबंधन निर्णय नहीं लेना चाहिए।” और 45 से अधिक वर्षों के बाद, यह बयान एक उपेक्षित भविष्यवाणी की तरह लगता है।

2025 में, एआई केवल सहायता नहीं करता है; यह स्वतंत्र निर्णय लेता है, और कई मामलों में, यह न केवल निर्णय लेता है बल्कि नेतृत्व भी करता है। वास्तव में, लगभग 74% कार्यकारी अधिकारी व्यवसायिक सलाह के लिए एआई पर अपने सहयोगियों या दोस्तों की तुलना में अधिक विश्वास करते हैं, 38% एआई को व्यवसायिक निर्णय लेने के लिए विश्वास करते हैं, और 44% अपने स्वयं के अंतर्दृष्टि की तुलना में प्रौद्योगिकी के तर्क को प्राथमिकता देते हैं। परिवर्तन स्पष्ट है; एआई नई प्रवृत्ति है।

लेकिन एक समस्या है। एआई पर विश्वास तब तक संभव है जब तक एल्गोरिदम विश्वास करने योग्य हो। और जब विश्वास अंधाधुंध रखा जाता है, विशेष रूप से उन ब्लैक बॉक्स में जिन्हें हम समझ नहीं सकते हैं या ऑडिट नहीं कर सकते हैं, यह जोखिम प्रगति के रूप में छुपा होता है। मानव नेतृत्व की तरह, जबाबदेही के बिना विश्वास खतरनाक है, और जब एआई गलत हो जाता है, तो कौन जिम्मेदारी लेता है?

जब टूल बॉस बन जाता है

जो शुरू में पीछे के कार्यालय के संचालन को सुव्यवस्थित करने के लिए एक उपकरण के रूप में शुरू हुआ था, अब मुख्य व्यवसायिक प्रक्रियाओं में इसका उपयोग किया जा रहा है। लेकिन कंपनियां केवल एआई का उपयोग मानव निर्णयों का समर्थन करने के लिए नहीं कर रही हैं; वे अब व्यवसायिक निर्णय लेने के लिए एआई, विशेष रूप से जेनरेटिव एआई (जेनएआई) पर विश्वास कर रहे हैं, व्यवसायिक रणनीति से लेकर ग्राहक सेवा, वित्तीय मॉडलिंग और अधिक तक।

यह परिवर्तन समझ में आता है। एआई विचलित नहीं होता है, निर्देशों को भूल जाता है, या अपने निर्णय में भावनाओं को शामिल नहीं करता है। कई कंपनियों के लिए, यह मानव त्रुटि के जोखिम के लिए एक आकर्षक समाधान प्रदान करता है। हालांकि, एक प्रमुख प्रश्न बना हुआ है: क्या हम एआई पर विश्वास कर सकते हैं कि यह स्वतंत्र रूप से निर्णय ले?

यह एक सरल उत्तर नहीं है, लेकिन एक तरीका यह है कि हम लोगों की विश्वसनीयता का आकलन कैसे करते हैं: उनकी योग्यता, विश्वसनीयता और स्पष्ट इरादे से।同样的 सिद्धांत एआई पर भी लागू होते हैं।

विश्वास करने योग्य होने के लिए, एक एआई प्रणाली को सटीक, समय पर और उपयुक्त परिणाम प्रदान करने होंगे। लेकिन विश्वास का स्तर और त्रुटि के लिए मार्जिन संदर्भ के आधार पर भिन्न होते हैं। उदाहरण के लिए, जब चिकित्सा छवियों से कैंसर का निदान किया जाता है, तो विफलता के लिए बहुत कम जगह होती है। इसके विपरीत, जब एक विपणन अभियान के लिए विचार उत्पन्न करने की बात आती है, तो प्रयोग के लिए अधिक जगह होती है।

हमने एआई को स्वतंत्र निर्णय लेने के लिए उपयोग किया है, जैसे कि क्रेडिट अनुमोदन में, जहां बैंक एल्गोरिदम का उपयोग करके कुछ सेकंड में ऋण योग्यता का निर्धारण करते हैं। खुदरा विक्रेता मानव इनपुट के बिना इन्वेंट्री और मूल्य निर्धारण का प्रबंधन करने के लिए एआई का उपयोग करते हैं। लेकिन हमने विफलताओं को भी देखा है – जैसे स्व-ड्राइविंग कारें सड़क की स्थिति को गलत तरीके से आंकती हैं।

एक सावधानी भरा उदाहरण एआई पर अधिक विश्वास के जोखिम को दर्शाता है जब पर्याप्त निगरानी नहीं होती है। डेरेक मोबले – एक 40 से अधिक आयु के अश्वेत व्यक्ति – ने 2017 से वर्कडे एआई-संचालित भर्ती प्रणाली के माध्यम से 100 से अधिक पदों के लिए आवेदन किया और हर बार अस्वीकार कर दिया गया। उन्होंने आयु और जाति के आधार पर भेदभाव का आरोप लगाया। मई 2025 में, अदालत ने एक राष्ट्रव्यापी सामूहिक कार्रवाई को मंजूरी दी। वर्ग में उन सभी आवेदकों को शामिल किया गया है जो 40+ आयु के हैं और जिन्होंने सितंबर 2020 से वर्कडे के माध्यम से आवेदन किया था और एआई की सिफारिशों के आधार पर अस्वीकार कर दिया गया था।

यह उदाहरण एक महत्वपूर्ण बिंदु बनाता है: एआई में भावनात्मक बुद्धिमत्ता, नैतिक तर्क या प्राकृतिक न्याय की भावना का अभाव है। और चूंकि एआई मानव सहायक से स्वतंत्र निर्णय लेने वाले में बदल रहा है, अब एक जवाबदेही का शून्य है। जब एल्गोरिदम मानव जांच के बिना चलने की अनुमति दी जाती है, तो वे खराब निर्णय ले सकते हैं और मौजूदा पूर्वाग्रहों को मजबूत कर सकते हैं।

ब्लैक बॉक्स के आसपास का प्रश्न

ब्लैक बॉक्स – जब एआई की प्रणाली और तर्क पूरी तरह से दिखाई नहीं देते हैं – तेजी से सामान्य हो रहे हैं। हालांकि उनके पास दिखाई देने वाली परतें हो सकती हैं, विकासकर्ता और उपयोगकर्ता अभी भी यह नहीं देख सकते हैं कि प्रत्येक परत में क्या होता है, जिससे वे अपारदर्शी हो जाते हैं।

उदाहरण के लिए, चैटजीपीटी एक ब्लैक बॉक्स है, क्योंकि इसके निर्माता भी यह नहीं जानते हैं कि यह कैसे काम करता है, क्योंकि यह इतने बड़े डेटा सेट पर प्रशिक्षित है। लेकिन पारदर्शिता की कमी के कारण, क्या यह कभी भी एक एआई मॉडल पर विश्वास करना उचित है जिसे पूरी तरह से समझे बिना?

संक्षेप में, नहीं: एआई हॉलुसिनेशन और भी खराब हो रहे हैं। इसका अर्थ है कि उच्च जोखिम वाले दृश्यों में, जैसे वित्तीय निर्णय, कानूनी सलाह, और चिकित्सा अंतर्दृष्टि, एआई को कठोर सत्यापन, क्रॉस-रेफरेंसिंग, और मानव निगरानी की मांग करता है।

जून 2025 में दायर डिज़नी और यूनिवर्सल मुकदमा इस बिंदु को मजबूत करता है। स्टूडियो का आरोप है कि जेनएआई टूल्स को नए सामग्री बनाने के लिए कॉपीराइट सामग्री पर प्रशिक्षित किया गया था जिसके लिए सहमति नहीं ली गई थी। यह मामला एक नई वास्तविकता को रेखांकित करता है: जब कंपनियां एआई मॉडल तैनात करती हैं जिन्हें वे पूरी तरह से नहीं समझती हैं, तो वे निर्णयों के लिए जिम्मेदार ठहराए जा सकते हैं। और अज्ञानता कोई बचाव नहीं है; यह एक दायित्व है।

हालांकि, हम अक्सर जटिल प्रणालियों पर विश्वास करते हैं जिन्हें हम नहीं समझते हैं। उदाहरण के लिए, अधिकांश हवाई यात्री उड़ान के भौतिकी को समझा नहीं सकते हैं, फिर भी लोग विश्वास के साथ विमान में चढ़ते हैं क्योंकि हम बार-बार उजागर होने, सामूहिक अनुभव, और सुरक्षा के एक मजबूत रिकॉर्ड के माध्यम से विश्वास बनाते हैं।

समान तर्क फिर से एआई पर लागू किया जा सकता है। यह अपेक्षा करना अनुचित है कि हर कोई समझाए कि एलएलएम वास्तव में कैसे काम करते हैं। लेकिन विश्वास समझ पर नहीं बनता है; यह परिचितता, सीमाओं के बारे में पारदर्शिता, और विश्वसनीय प्रदर्शन के एक सिद्ध पैटर्न पर निर्भर करता है। एयरोस्पेस इंजीनियर जानते हैं कि किन परीक्षणों को लागू करना है और कैसे त्रुटियों को देखना है, और हमें जेनएआई प्रदाताओं से同样的 मांग करनी चाहिए। एआई का मूल सिद्धांत विश्वास होना चाहिए, लेकिन सत्यापित करना चाहिए।

इसके अलावा, व्यवसायिक नेता अक्सर मानते हैं कि एआई उनकी सभी व्यवसायिक समस्याओं का समाधान होगा। हालांकि, यह मिथक कई कंपनियों को एआई एकीकरण में परेशान करता है। नेता जटिल और परिष्कृत मॉडल पसंद कर सकते हैं, लेकिन एक सरल समाधान अधिक उपयुक्त हो सकता है अगर उन्होंने लागत-लाभ विश्लेषण किया हो। एआई एक शक्तिशाली उपकरण है, लेकिन यह हर कार्य के लिए उपयुक्त नहीं है। कंपनियों को समस्या को पहचानने की आवश्यकता है trước कि वे एक उपकरण चुनें।

एआई में विश्वास का पुनर्निर्माण

यह स्पष्ट है कि एआई पर अंधविश्वास एक समस्या है, एआई प्रणाली और एल्गोरिदम एक व्यवसाय के लिए सबसे बड़ा उपकरण हो सकता है – जब सुरक्षित रूप से उपयोग किया जाता है।

एआई टूल का लाभ उठाने के लिए व्यवसायों के लिए, पहली बात विक्रेता की जांच करना है। जब एक व्यवसाय ने एक क्षेत्र की पहचान की है जो एआई की दक्षता से लाभान्वित हो सकता है, तो व्यवसायिक नेताओं को विक्रेताओं का मूल्यांकन नहीं करना चाहिए, केवल प्रदर्शन दावों पर, बल्कि शासन नियंत्रणों पर भी। इसमें मॉडल के विकास, स्पष्टता उपकरणों की उपलब्धता, पूर्वाग्रह की निगरानी, और ऑडिट ट्रेल की जांच शामिल है। पारदर्शी प्रक्रियाओं वाले विक्रेता का चयन जोखिम को कम करने के लिए आवश्यक है।

शायद एआई प्रणालियों में विश्वास बनाने का सबसे महत्वपूर्ण बिंदु डेटा शासन के साथ स्वच्छ, प्रतिनिधि, और अच्छी तरह से प्रलेखित डेटासेट सुनिश्चित करना है। जैसा कि कहा जाता है: कचरा में, कचरा बाहर। इसलिए, यदि डेटा अधूरा है, पूर्वाग्रहपूर्ण है, या असटीक है, तो सबसे उन्नत मॉडल भी अविश्वसनीय परिणाम प्रदान करेगा।

एआई के लिए डेटा तैयार करने के लिए, व्यवसायों को:

• मौजूदा डेटासेट को अंतराल और दोहराव के लिए ऑडिट करें, और पूर्वाग्रह के स्रोतों की जांच करें

• डेटा प्रारूप मानकीकृत करें

• डेटा शासन नीतियों को लागू करें जो स्वामित्व और पहुंच नियंत्रण को परिभाषित करते हैं

व्यवसायिक नेताओं के लिए एक और महत्वपूर्ण कदम है विभिन्न परिस्थितियों में तनाव परीक्षण करना। हालांकि एक मॉडल नियंत्रित परीक्षणों में अच्छा प्रदर्शन कर सकता है, यह समझना महत्वपूर्ण है कि मॉडल की सीमाएं नए डेटा या इनपुट का सामना करने पर क्या होती हैं जो उन्हें उम्मीद नहीं थी। यही कारण है कि विभिन्न स्थितियों में, विभिन्न प्रकार के उपयोगकर्ताओं, विभिन्न उपयोग के मामलों, और विभिन्न समय अवधियों के डेटा के साथ एआई का परीक्षण करना महत्वपूर्ण है।

एआई सत्यापन एक निरंतर कार्य है। जैसे डेटा समय के साथ बदलता है, यहां तक कि विश्वसनीय एआई मॉडल भी सटीकता खो सकते हैं। यही कारण है कि नियमित निगरानी महत्वपूर्ण है। व्यवसायों को यह देखने की आवश्यकता है कि मॉडल दिन-प्रतिदिन कैसा प्रदर्शन कर रहा है: क्या यह अभी भी सटीक है? या झूठी सकारात्मकता बढ़ रही है? और जैसे किसी भी प्रणाली को रखरखाव की आवश्यकता होती है, मॉडल को ताज़ा डेटा के साथ नियमित रूप से पुन: प्रशिक्षित किया जाना चाहिए ताकि यह प्रासंगिक बना रहे।

एआई विश्वसनीय या अविश्वसनीय नहीं है; यह डेटा द्वारा आकारित होता है जिससे यह सीखता है, लोग जो इसे बनाते हैं, और नियम जो इसे नियंत्रित करते हैं। जैसे एआई एक उपयोगी उपकरण से व्यवसायिक सलाहकार में विकसित होता है, नेताओं के पास यह विकल्प है कि वे न केवल इसका उपयोग करें, बल्कि एक सोच-समझकर और नैतिक तरीके से ऐसा करें। यदि हम इसे सही तरीके से करते हैं, तो एआई न केवल भविष्य में शक्तिशाली होगा, बल्कि जिम्मेदार भी होगा, जिसमें जवाबदेही स्पष्ट रूप से इसके विकासकर्ता और पर्यवेक्षकों के साथ बैठेगी।