एआई अधिक स्मार्ट हो रहा है; सुसंगति बनाए रखना कठिन होता जा रहा है

मैंने अपना पूरा करियर बुद्धिमत्ता को समझने की कोशिश में बिताया है। एआई में मेरी दिलचस्पी थी, इसलिए मैंने तंत्रिका-विज्ञान का अध्ययन किया। मुझे लगा कि शुरुआत करने का अच्छा तरीका यह होगा कि पहले समझूँ कि मस्तिष्क कैसे काम करता है। पहले बुद्धिमत्ता, उसके बाद “कृत्रिम” बुद्धिमत्ता। उस प्रशिक्षण से मेरी एक आदत बन गई। कोई नई क्षमता या तकनीक सामने आती है, तो मेरा पहला सवाल व्यावहारिक होता है: यह वास्तव में क्या कर सकती है, और किस तरह की वास्तविक दुनिया की समस्याओं के लिए?

एआई के क्षेत्र में काम करने वाले व्यक्ति के तौर पर, मैं एआई से जुड़ी सुर्खियों पर शायद ही कभी उत्साहित होता हूँ। मैं शोर-शराबे से परे जाकर यह समझने की कोशिश करता हूँ कि नई क्षमताओं से जुड़ी सफलताएँ क्या हैं और उनकी सीमाएँ क्या हैं।

नीरस औज़ारों से दांव पर लगी विश्वसनीयता तक

2020 में, जब एआई सुरक्षा पर चर्चा प्रचार के शोर से गरमा रही थी, तब मैंने एक सीधी-सादी सलाह दी थी। एआई को एक औज़ार समझें—शक्तिशाली औज़ार, लेकिन फिर भी औज़ार। नीरस, रोज़मर्रा के उपयोगों पर टिके रहें। काम को कार्य-स्तर पर करें, जहाँ यह तकनीक मदद करने लायक विश्वसनीय थी। मेरा आशावादी परिदृश्य नीरस, मगर उपयोगी औज़ारों का था।

कुछ साल बाद जब एजेंट-आधारित प्रणालियों की लहर उठने लगी, तो मैंने उसी नज़रिए से उन्हें देखा और आश्वस्त नहीं हुआ। ऐसी प्रणाली उतनी ही मजबूत होती है, जितने उसके आधारभूत कार्य; और तब तक मैंने उन कार्यों के स्तर पर वह विश्वसनीयता नहीं देखी थी, जिसकी इन प्रणालियों को प्रभावी होने के लिए ज़रूरत थी।

हालाँकि, प्रचार का शोर बढ़ता जा रहा था। पिछले साल की शुरुआत में जब मैं RSA में शामिल हुआ, तब तक बातों और ठोस काम के बीच का अंतर अनदेखा करना मुश्किल था। “एजेंट-आधारित” का अर्थ क्या है, इस पर लोगों की साझा समझ तक नहीं थी; हर किसी की अपनी परिभाषा और नज़रिया था। मुझे एक ढाँचागत समस्या की भी चिंता थी। दस एजेंट लें, जिनमें से हर एक लगभग 95 प्रतिशत सटीक हो। उन्हें इस तरह जोड़ें कि एक का आउटपुट अगले का इनपुट बन जाए। इस सिलसिले के अंत तक सटीकता घटकर लगभग 60 प्रतिशत रह जाती है। परत-दर-परत जोड़ने पर विश्वसनीयता कायम नहीं रहती। तब तक मैं एजेंटों की प्रणालियों के बारे में सोचने लगा था, हालाँकि मेरी चिंता अब भी यही थी कि क्या उन पर भरोसा किया जा सकता है कि वे काम करें और कोई सार्थक बदलाव लाएँ।

फिर, कोडिंग एजेंटों में तेजी से हुए सुधारों ने मेरी सोच बदल दी।

इस विषय पर मेरे लेख के कुछ ही महीनों के भीतर, प्रगति की असाधारण रफ्तार ने मेरे लिए एक बात साफ कर दी। वास्तविक दुनिया के कई कार्यों के लिए विश्वसनीयता हासिल होना बस समय की बात थी। बेहतर मॉडल और उनके इर्द-गिर्द तैयार किए गए बेहतर इंजीनियरिंग ढाँचे उस अंतर को पाटने वाले थे, जिसकी मुझे चिंता थी। जिस सीमा को लेकर मैं चिंतित था, वह हटने वाली थी।

तभी असली समस्या स्पष्ट हुई—और वह वह समस्या नहीं थी, जिस पर मेरी नज़र थी। जब अलग-अलग एजेंटों पर भरोसा किया जा सकता है, तो पहले एजेंट को तैनात करने के बाद आप रुकते नहीं। आप बहुत सारे एजेंट तैनात करते हैं। हर कामकाजी क्षेत्र में उनके पूरे बेड़े—हर एजेंट सक्षम, हर एक अपना काम करता हुआ। और तब एक नया सवाल उठा, जिसका विश्वसनीयता से कोई लेना-देना नहीं था। अगर बेड़े का हर एजेंट वही करता है, जिसके लिए उसे बनाया गया था, तो क्या पूरा बेड़ा मिलकर भी वही हासिल करता है, जिसका संगठन ने इरादा किया था?

संगठनात्मक आत्मस्थिति-बोध की आवश्यकता

सक्षम अंगों वाला शरीर भी अपनी स्थिति के बोध के बिना ठीक से नहीं चल सकता—यह निरंतर आंतरिक एहसास कि उसके सभी अंग कहाँ हैं और क्या कर रहे हैं। अनुमस्तिष्क इस प्रतिक्रिया पर केवल प्रतिक्रिया नहीं देता, बल्कि पूर्वानुमान भी करता है। जब मस्तिष्क किसी गतिविधि का निर्देश देता है, तो वह अपेक्षा बनाता है कि उस गतिविधि से कैसा एहसास होना चाहिए; फिर वह इस अपेक्षा की तुलना वास्तव में होने वाली अनुभूति से करता है। इन दोनों के बीच का अंतर वह संकेत है, जो अगली गतिविधि को सही करता है। कुशल गति एक ऐसा चक्र है जिसमें परिणाम का पूर्वानुमान किया जाता है और अंतर के अनुसार सुधार किया जाता है।

एजेंटों के बेड़े चलाने वाले संगठन को भी अपने बारे में ऐसा ही बोध चाहिए। उसे लगातार पता होना चाहिए कि उसकी प्रणालियाँ कहाँ हैं और वे अपनी निर्धारित स्थिति से कितनी दूर भटक गई हैं। इस आंतरिक जागरूकता के बिना, सक्षम हिस्से मिलकर समन्वित कार्रवाई नहीं कर पाते। यह कोई ऐसी संवेदन-व्यवस्था नहीं है, जिसे बाद में शरीर को सुरक्षित बनाने के लिए उसमें जोड़ा जा सके। शरीर को चलने के लिए इसकी ज़रूरत होती है।

एक ऐसा मामला है, जिसका गहराई से अध्ययन किया गया है: Ian Waterman नाम के एक व्यक्ति का, जिसने अपने शरीर के अधिकांश हिस्से में यह बोध खो दिया था। उसने फिर से चलना सीखा, लेकिन केवल खुद को देखकर; आँखों से हर कदम और हाथ बढ़ाने की दिशा तय करते हुए। यह काम करता है। लेकिन यह थका देने वाला भी है और नाज़ुक भी। रोशनी बुझा दें, तो वह तालमेल बिल्कुल नहीं बिठा पाता। जो संगठन अपने एजेंटों को मैन्युअल ऑडिट और समय-समय पर की जाने वाली समीक्षाओं के ज़रिए नियंत्रित करता है, उसकी स्थिति भी ऐसी ही है। वह ऐसे बोध की कमी की भरपाई लगातार प्रयास करके करता है, जिसे उसने कभी विकसित ही नहीं किया; और इस भरपाई की कीमत उस चीज़ से भी अधिक पड़ती है, जिसकी जगह यह लेती है। परिस्थितियाँ बदलते ही पूरी व्यवस्था ढह जाती है।

एक और विचित्र विफलता का ज़िक्र करना भी ज़रूरी है, जिसका वर्णन तंत्रिका-विज्ञानी V S Ramachandran की एक रोचक पुस्तक में किया गया है। जब कोई अंग काट दिया जाता है, तो मस्तिष्क चुप नहीं हो जाता। वह उस अनुपस्थित अंग के लिए संकेत भेजना जारी रखता है, और व्यक्ति उन संकेतों को स्पष्ट रूप से महसूस करता है। शासन-व्यवस्था भी इसी तरह विफल हो सकती है। पुनर्गठन या उपेक्षा के ज़रिए निगरानी के किसी कार्य से वास्तविक निर्णय-क्षमता हटा दें, तो वह कार्य बंद नहीं होता। समीक्षाएँ अब भी पूरी की जाती हैं और मापदंड अब भी तैयार होते हैं। संगठन को निगरानी का एहसास होता रहता है, जबकि उसके पीछे की निर्णय-क्षमता खोखली हो चुकी होती है। यहाँ पारदर्शिता के बारे में मेरी 2020 की सलाह फिर प्रासंगिक हो जाती है। पारदर्शिता के बिना कोई निगरानी नहीं हो सकती, और ऐसी व्यवस्था में पारदर्शिता नहीं होती जो केवल निगरानी किए जाने का आभास पैदा करती हो।

दुर्लभ संसाधन के रूप में सुसंगति

बुद्धिमत्ता सस्ती होती जा रही है। जल्द ही यह हर कार्यप्रवाह और हर उपकरण में मौजूद होगी। उस दुनिया में सबसे दुर्लभ संसाधन है सामंजस्य—हर प्रणाली अपने आप में जो करती है और उद्यम जो हासिल करना चाहता है, उन दोनों के बीच जीवंत कड़ी। सामंजस्य वह जोड़ने वाला तंत्र है, जो वितरित बुद्धिमत्ता को एक ही उद्देश्य के अनुरूप बनाए रखता है।

मैंने वर्षों तक अध्ययन किया कि मस्तिष्क अपने अनेक हिस्सों को एक इकाई की तरह काम करते हुए कैसे बनाए रखता है। एजेंट-आधारित युग उद्यम के सामने भी यही सवाल रखता है। 2020 से लक्ष्य नहीं बदला है। अब भी नीरस, लेकिन उपयोगी। अब बनाने लायक नीरस, उपयोगी चीज़ स्वयं सामंजस्य है।