विचार नेता

एआई एजेंटों का बड़े पैमाने पर इस्तेमाल करने से पहले पूछें: वे क्या नहीं जानते

Dror Nadler
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुजब एजेंट पुरानी फाइलिंग तिथियों या वित्तीय कैलेंडर अंतरों जैसे संदर्भ छोड़ देते हैं तो…
और देखें
  • जब एजेंट पुरानी फाइलिंग तिथियों या वित्तीय कैलेंडर अंतरों जैसे संदर्भ छोड़ देते हैं तो आत्मविश्वासी उत्तर विफल हो जाते हैं।
  • लगभग 10 में से 6 व्यवसायों ने एक आत्मविश्वासी-लेकिन-गलत AI उत्तर को अनुपस्थित या अपूर्ण व्यावसायिक संदर्भ से जोड़ा।
  • मानवीय समीक्षा को जोखिम के अनुपात में बढ़ना चाहिए क्योंकि सही डेटा गलत तरीके से साझा किया जाए तो भी नियमों का उल्लंघन हो सकता है।

कल्पना कीजिए: एक मुख्य वित्तीय अधिकारी (CFO) किसी बड़े संस्थागत निवेशक के साथ बैठक की तैयारी कर रहा है। तैयारी में मदद के लिए निवेशक संबंध (IR) टीम एक एआई टूल से पृष्ठभूमि की कुछ जानकारी जुटाने को कहती है—उस फर्म के साथ पिछली बैठक की तारीख, उसमें बताई गई प्राथमिकताएँ, उसके पास मौजूद शेयरों की संख्या वगैरह।

टूल पूरे भरोसे के साथ बताता है कि निवेशक के पास 25 लाख शेयर हैं। किसी को इस पर संदेह नहीं होता और CFO इस अहम बातचीत की तैयारी पूरी रफ्तार से जारी रखता है।

लेकिन एक पेच है: एआई ने यह आँकड़ा Form 13F की एक रिपोर्ट से लिया था, जिसमें पिछली तिमाही के अंत तक की शेयर-होल्डिंग बताई जाती है। रिपोर्ट किए जाने के समय यह जानकारी सही थी… लेकिन अब इसे कई महीने हो चुके हैं। इस बीच, निवेशक ने चुपचाप 20 लाख शेयर बेच दिए हैं, जिससे उसकी हिस्सेदारी काफी घट गई है। बैठक का एजेंडा (और संभवतः बैठक भी!) अब प्रासंगिक नहीं लगता।

गलती कहाँ हुई? इस स्थिति में एआई ने न तो मनगढ़ंत बात कही, न ही कोई आँकड़ा गढ़ा। उसने वैध जानकारी हासिल की, लेकिन उसकी सीमाएँ स्पष्ट नहीं कीं और न ही उन पर कोई चेतावनी दी।

इस मामले में नतीजा असहज बातचीत या किसी अवसर का हाथ से निकल जाना हो सकता है, लेकिन दूसरी परिस्थितियों में अहम संदर्भ से रहित ऐसा ही कोई पक्का जवाब और भी बड़े जोखिम पैदा कर सकता है।

बेहतर मॉडल ही ज़रूरी नहीं कि समाधान हों

आधारभूत मॉडल लगातार बेहतर होते जा रहे हैं। फिर ऐसा क्यों लगता है कि पूरे भरोसे से दिए गए, मगर गलत जवाब बार-बार सामने आ रहे हैं—ऐसी समस्या से हर उद्योग के कारोबार जूझ रहे हैं?

शुरुआत इस बात से करें कि जनरेटिव एआई (GenAI) अब हर जगह पहुँच चुका है। McKinsey की 2026 में एआई की स्थिति रिपोर्ट के मुताबिक, लगभग 10 में से 9 कारोबारी पेशेवरों का कहना है कि उनके संगठन कम-से-कम एक कारोबारी कार्यक्षेत्र में नियमित रूप से एआई का इस्तेमाल करते हैं।

और जैसे-जैसे संगठन प्रयोग के दायरे से आगे बढ़कर रोज़मर्रा के कारोबारी कामों और फैसलों के लिए एआई पर अधिक निर्भर हो रहे हैं, वैसे-वैसे उन्हें यह भी पता चल रहा है कि ये टूल क्या जानते और समझते हैं, इसकी सीमाएँ हैं।

एक हालिया उद्योग सर्वेक्षण इसकी एक आम वजह बताता है: केवल पिछले छह महीनों में, लगभग 10 में से 6 कारोबारों (57%) ने एआई एजेंट के पूरे भरोसे से दिए गए, मगर गलत जवाब की वजह कारोबारी संदर्भ का न होना या अधूरा होना बताई।

एआई के लिए उपलब्ध इतने सारे डेटा को देखते हुए यह बात हैरान कर सकती है। लेकिन एक अहम अंतर समझना ज़रूरी है: संदर्भ और डेटा एक ही चीज़ नहीं हैं।

संदर्भ क्या है—और क्या नहीं है

संदर्भ में संस्थागत ज्ञान, नियमों के अपवाद, रिश्ते, प्रक्रियाएँ और काम करने के तरीकों से जुड़ी अपेक्षाएँ शामिल हो सकती हैं—ऐसी बारीकियाँ जो अक्सर हर कंपनी के लिए अलग होती हैं।

निवेशक संबंध टीमों के साथ अपने काम में, मैं देखता हूँ कि ये अंतर कितने अहम हो सकते हैं। कुछ ऐसे उदाहरणों पर गौर करें जो देखने में सीधे-सादे लगते हैं:

  • वित्तीय कैलेंडर: किसी कंपनी की पहली तिमाही कैलेंडर वर्ष के मुताबिक हो सकती है, जबकि दूसरी कंपनी की पहली तिमाही सितंबर में शुरू होती है। इस संदर्भ के बिना, एआई एजेंट गलत रिपोर्टिंग अवधियों के नतीजों की तुलना कर सकता है।
  • वित्तीय मापदंड: कोई संगठन GAAP और गैर-GAAP, दोनों के अनुसार प्रति शेयर आय रिपोर्ट कर सकता है। अगर एजेंट यह न समझे कि किसका उल्लेख करना उचित है (और कब), तो वह कारोबारी प्रदर्शन को गलत तरीके से पेश कर सकता है।
  • कंपनी की कथा: कंपनी के संदेश समय के साथ बदलते हैं। वे इस बारे में सोच-समझकर लिए गए फैसलों को दर्शाते हैं कि किन बातों पर ज़ोर देना है और किन्हें छोड़ना है। इसके इतिहास और उन फैसलों के पीछे की सोच को समझे बिना, एआई एजेंट ऐसी सामग्री तैयार कर सकता है जो सावधानी से गढ़ी गई कथा को कमज़ोर कर दे।

इन सब बातों को देखते हुए, यह हैरानी की बात नहीं कि एक ही मूल मॉडल अलग-अलग कंपनियों में बहुत अलग नतीजे दे सकता है—यह इस पर निर्भर करता है कि उसके लिए कौन-सा संदर्भ और विशेष ज्ञान उपलब्ध है।

किसी खास मकसद और उद्योग के लिए बनाए गए (या “वर्टिकल”) एआई से इन कमियों में से कुछ को दूर करने में मदद मिल सकती है, क्योंकि वह किसी क्षेत्र के विशेष ज्ञान, कार्यप्रवाहों और बारीकियों को पहचानता है। लेकिन सबसे परिष्कृत तकनीक भी किसी संगठन के संपूर्ण ज्ञान को समेट नहीं सकती। इसीलिए लोगों की भी भूमिका है।

आपके कारोबार के बारे में एआई क्या नहीं जानता

लेकिन लोग हमेशा साथ नहीं रहते। सोचिए, जब निवेशक संबंध का कोई अनुभवी अधिकारी (IRO), मान लीजिए, पाँच साल बाद कंपनी छोड़ता है, तो क्या होता है। संभव है कि उसने अपना समय संभावित निवेशकों की पहचान करने और उन्हें लक्षित करने, शेयरधारकों की गतिविधियों का विश्लेषण करने, रिश्ते बनाने, वित्तीय नतीजों की तैयारी करने, अधिकारियों को तैयार करने… और भी बहुत कुछ करने में बिताया हो।

कंपनी के पास वित्तीय नतीजों से जुड़े भाषणों की स्क्रिप्ट, प्रस्तुतियाँ और दूसरी फ़ाइलें तो रहती हैं। लेकिन इनके पीछे का संस्थागत ज्ञान? उसका भी बड़ा हिस्सा उनके साथ ही चला जाता है—खासकर यह देखते हुए कि 10 में से लगभग 8 IRO (78%) के पदों के लिए कोई उत्तराधिकारी तय नहीं है।

इसीलिए संगठनों को ज्ञान और समझ को इस तरह सहेजने के लिए मेहनत करनी चाहिए कि एआई प्रणालियाँ उनका इस्तेमाल कर सकें। एआई एजेंट को किसी साझा ड्राइव से जोड़ देना अक्सर पर्याप्त नहीं होता।

मुख्य ज्ञान और कार्यप्रवाहों को व्यवस्थित रूप से दर्ज करने का तरीका होना—जैसे अहम फैसलों के पीछे का तर्क, संबंधों का इतिहास और अन्य ऐसे अत्यंत महत्वपूर्ण तथ्य जो कभी किसी औपचारिक दस्तावेज़ में दर्ज ही नहीं हुए—हर उद्योग के व्यवसायों के लिए महत्वपूर्ण है।

ऐसा ज्ञान-आधार तैयार करने और उसे उपयोगी बनाने के लिए लोगों की ज़रूरत होती है—जानकारी दर्ज करने के लिए भी और उसके बारे में विवेकपूर्ण निर्णय लेने के लिए भी। AI ज्ञान को व्यवस्थित करने में मदद कर सकता है, लेकिन वह अहम संदर्भ कर्मचारी ही देते हैं जिन्हें तकनीक अक्सर समझ नहीं पाती।

जोखिम भरे माहौल में संदर्भ की कमी भारी पड़ती है

हमने चर्चा की है कि AI के गलत जवाब देने पर क्या होता है। लेकिन कभी-कभी AI एजेंट सही जानकारी हासिल कर सकता है—वह सटीक, ताज़ा और प्रासंगिक हो सकती है—और फिर भी उसे गलत परिस्थितियों में साझा करके समस्याएँ पैदा कर सकता है।

कड़े नियमन वाले उद्योगों में ऐसी चूकें खास तौर पर महँगी साबित होती हैं।

मिसाल के तौर पर, निवेशक संबंधों के क्षेत्र में किसी विश्लेषक या निवेशक के साथ ऐसी महत्वपूर्ण, सार्वजनिक न की गई जानकारी (MNPI) साझा करना—जैसे अभी तक जारी न किए गए वित्तीय नतीजे—जिससे अमेरिकी SEC के विनियमन फेयर डिस्क्लोज़र (Reg FD) का उल्लंघन हो सकता है और वित्तीय दंड के साथ-साथ प्रतिष्ठा को भी नुकसान पहुँच सकता है।

स्वास्थ्य सेवा, वित्तीय सेवाओं और कानूनी सेवाओं जैसे अन्य उद्योगों को भी नियमन से जुड़े ऐसे ही जोखिमों का सामना करना पड़ता है। इससे यह स्पष्ट होता है कि संवेदनशील जानकारी तक पहुँच रखने वाले AI एजेंटों पर सुरक्षा-सीमाएँ लगाना क्यों ज़रूरी है।

यह भी दिखाता है कि मनुष्य अब भी क्यों अहम हैं—वे संचारित की जाने वाली सामग्री की समीक्षा और मंज़ूरी का अनिवार्य हिस्सा हैं। कंपनियाँ यह विचार कर सकती हैं कि मानवीय समीक्षा का स्तर जोखिम की गंभीरता के अनुरूप हो और AI के अलग-अलग कार्यप्रवाह अलग-अलग स्तर की स्वायत्तता के साथ काम करें।

AI एजेंटों का विस्तार करने से पहले पूछें ये तीन सवाल

कामकाज में या आम ज़िंदगी में हम सभी ने शायद ऐसी परिस्थितियों का सामना किया होगा, जब हमें पता ही नहीं होता कि हमें क्या पता नहीं है। कभी-कभी इसके नतीजे बहुत गंभीर नहीं होते, तो कभी वे कहीं अधिक गंभीर हो सकते हैं।

आज AI के लिए उपलब्ध विशाल डेटासेट के चलते AI मॉडल बहुत अधिक जानते हैं… लेकिन जहाँ जानकारी में कमी हो, वहाँ उन्हें अब भी अपनी बात सामने रखनी चाहिए। इसलिए, जैसे-जैसे व्यवसाय अधिक रणनीतिक प्राथमिकताओं और कार्यप्रवाहों के लिए AI का उपयोग करते हैं, विस्तार से पहले ये सवाल पूछना ज़रूरी है:

  • क्या हमारा एजेंट बता सकता है कि उसके जवाब किन स्रोतों से आए—और उस जानकारी को आखिरी बार कब अपडेट किया गया था? क्या वह पूछे बिना भी यह जानकारी दे सकता है?
  • क्या एजेंट के पास अनुरोधों को समझने और उनका जवाब देने के लिए ज़रूरी व्यावसायिक संदर्भ है? क्या वह अपनी सीमाएँ बताएगा?
  • क्या हमें पता है कि समीक्षा और मंज़ूरी के लिए किसी व्यक्ति को कब हस्तक्षेप करना चाहिए? ऐसा किन परिस्थितियों में होगा और समीक्षा की प्रक्रिया कैसे शुरू की जाएगी?

समाधान AI से बचना नहीं है

मैं साफ़ कहना चाहता हूँ: AI को लेकर मेरी राय बेहद सकारात्मक है। मैं अपने काम में हर दिन इसका उपयोग करता हूँ, इसके मौजूदा और भविष्य के लाभ देखता हूँ, और मुझे लगता है कि कई मायनों में हम अभी AI की क्षमताओं की बस सतह ही छू पाए हैं। मुझे पूरा विश्वास है कि AI से दूर रहने वाली कंपनियों और इसे व्यवस्थित व प्रभावी ढंग से लागू न कर पाने वाली कंपनियों—दोनों के पिछड़ने का वास्तविक जोखिम है।

लेकिन AI अपनाने का मतलब यह नहीं है कि किसी सामान्य प्रयोजन वाले मॉडल को कंपनी के डेटा तक पहुँच दे दी जाए और उसे मनमाने ढंग से काम करने दिया जाए।

अभी, और जहाँ तक मैं देख पा रहा हूँ, पूरी तरह स्वायत्त AI हर व्यावसायिक काम या फैसले के लिए उपयुक्त नहीं है। संगठनों को समझना होगा कि AI कहाँ स्वतंत्र रूप से काम कर सकता है, कहाँ उसे अतिरिक्त संदर्भ चाहिए और कहाँ मानवीय विवेक से समझौता नहीं किया जा सकता।

इसलिए, AI एजेंट से यह पूछने से पहले कि वह क्या जानता है, पूछें कि वह क्या नहीं जानता। जवाबों से तय होता है कि आप उसे कैसे तैनात करेंगे, कौन-से काम उस पर भरोसा करके छोड़ेंगे और उसकी सफलता के लिए उसे कैसे तैयार करेंगे।

Dror Nadler Q4 Inc. में मुख्य उत्पाद अधिकारी हैं। यहाँ वे उत्पाद रणनीति और नवाचार का नेतृत्व करते हैं और निवेशक संबंध टीमों को अधिक प्रभावी ढंग से काम करने के लिए AI, डेटा और प्रौद्योगिकी का लाभ उठाने में मदद करते हैं। उन्हें उद्यम प्रौद्योगिकी, SaaS और वित्तीय सेवाओं के क्षेत्र में 25 से अधिक वर्षों का अनुभव है। इससे पहले वे Intralinks, Cellrox, Rapid7 और EMC में नेतृत्व की भूमिकाएँ निभा चुके हैं। अपने पूरे करियर में Dror ने प्रौद्योगिकी उत्पादों के विकास और विस्तार, नवाचार को बढ़ावा देने और कारोबार की वृद्धि तेज़ करने पर ध्यान दिया है। उनके पास Boston University से कार्यकारी MBA, Harvard University से सूचना प्रौद्योगिकी में मास्टर डिग्री और Reichman University से कानून की डिग्री है।