Marc Fernandez, Neurologyca के मुख्य रणनीति अधिकारी – साक्षात्कार श्रृंखला

Marc Fernandez, Neurologyca के मुख्य रणनीति अधिकारी, दो दशकों से अधिक के अनुभव वाले प्रौद्योगिकी रणनीतिकार और व्यवसाय विकास कार्यकारी हैं, जिनका कार्यक्षेत्र कृत्रिम बुद्धिमत्ता, उभरती प्रौद्योगिकियाँ, उपभोक्ता इलेक्ट्रॉनिक्स और मानव‑कंप्यूटर इंटरैक्शन तक फैला है। Neurologyca में वह रणनीति और Human Context AI के व्यावसायीकरण पर केंद्रित हैं, जो AI सिस्टम को तनाव, आत्मविश्वास और सहभागिता जैसे संकेतों की व्याख्या करने में मदद करने के लिए डिज़ाइन किया गया है। Fernandez पहले Pearl के सीईओ रहे, जो सॉफ्ट स्किल्स और पेशेवर विकास पर केंद्रित AI‑निर्देशित प्लेटफ़ॉर्म है, और ALIVE Ventures में एंटरप्रेन्योर इन रेजिडेंस के रूप में कार्य किया, जहाँ उन्होंने एज‑टेक में काम किया। इससे पहले उन्होंने OPPO में यूएस रणनीति का नेतृत्व किया, जहाँ AI, Web3, ब्लॉकचेन और मोबाइल ऑपरेटिंग सिस्टम सहित अगली पीढ़ी की प्रौद्योगिकियों पर ध्यान दिया, और Emerge, Denizen, SweetLabs, Movella, और X‑Rite/Pantone में वरिष्ठ व्यवसाय विकास भूमिकाएँ संभालीं। उन्होंने University of Southern California में 15 वर्षों तक सहायक प्रोफेसर के रूप में पढ़ाया, जहाँ उन्होंने उद्यमिता, संचार, सामाजिक प्लेटफ़ॉर्म, AI, ब्लॉकचेन और अन्य उभरती प्रौद्योगिकियों के संगम पर शिक्षा दी।

Neurologyca एक सैन फ्रांसिस्को‑आधारित AI कंपनी है जो बुद्धिमान सिस्टमों के लिए Human Context Layer बनाती है, जिससे AI एप्लिकेशन और एजेंट उन लोगों को बेहतर समझ और अनुकूलित कर सकें जिन्हें वे सेवा देते हैं। इसका API और SDK‑आधारित प्लेटफ़ॉर्म मल्टीमॉडल व्यवहारिक संकेत, इंटरैक्शन पैटर्न और स्थितिजन्य संदर्भ को प्रोसेस करता है, जिससे सहभागिता, आत्मविश्वास, तनाव, ध्यान और भरोसा जैसे कारकों के बारे में मशीन‑पठनीय संकेत उत्पन्न होते हैं। ये अंतर्दृष्टि AI सिस्टम को वास्तविक‑समय में उनके उत्तर, गति, सिफारिशें और कार्यों को अनुकूलित करने में मदद कर सकती हैं, जबकि इंटरैक्शन के बीच संदर्भीय निरंतरता बनी रहती है। Neurologyca इस तकनीक को एक स्वतंत्र एप्लिकेशन के बजाय बुनियादी ढाँचा के रूप में स्थापित कर रहा है, जिसके संभावित उपयोग शिक्षा और प्रशिक्षण, स्वास्थ्य‑सुधार, एंटरप्राइज़ सॉफ़्टवेयर, स्वायत्त एजेंट, ड्राइवर सुरक्षा, गेमिंग और अन्य इंटरैक्टिव सिस्टम तक फैले हैं। कंपनी वर्तमान में चयनात्मक प्रारम्भिक‑पहुंच कार्यक्रम के माध्यम से साझेदारों को अनुकूलित AI अनुभव बनाने के लिए यह प्लेटफ़ॉर्म उपलब्ध करा रही है।

आपका करियर OPPO में अगली पीढ़ी की प्रौद्योगिकी रणनीति से लेकर Pearl में AI‑निर्देशित सॉफ्ट स्किल्स बनाने और अब Neurologyca में मानव‑संदर्भ AI विकसित करने तक गया है। यह प्रगति आपको इस दृष्टिकोण तक कैसे ले गई कि AI की सबसे बड़ी सीमाओं में से एक बौद्धिक क्षमता नहीं, बल्कि इंसान के पीछे की मंशा को समझना है?

तीस साल पहले, वेब ने जानकारी को सुलभ बना दिया था। पाँच साल पहले, AI ने आउटपुट को प्रचुर मात्रा में उपलब्ध कराया। आज हम सामग्री में डूब रहे हैं जबकि अभी भी उपयोगी परिणाम प्राप्त करने में संघर्ष कर रहे हैं। केवल तकनीकी शक्ति यह सुनिश्चित नहीं करती कि प्राप्तकर्ता मानव के लिए अच्छा परिणाम मिले।

यह मेरे कार्य का निरंतर धागा रहा है—OPPO में उभरती तकनीकों को दैनिक जीवन में फिट करना, Pearl में यह परीक्षण करना कि क्या AI अंतरव्यक्तिक कौशल सिखा सकता है, और Neurologyca में मानव संदर्भ को बुनियादी ढाँचा बनाना। अब बौद्धिक क्षमता वास्तविक बाधा नहीं रही; मॉडल तर्क कर सकते हैं और कार्यान्वित भी। कठिन समस्या वह अनकहा संदर्भ है जो लोग साधारण अनुरोध में लाते हैं: उन्होंने क्यों पूछा, क्या उन्हें असहज करता है, या क्या हल्की हिचकिचाहट का अर्थ है कि सिस्टम को रुकना चाहिए। वर्तमान में, AI केवल टेक्स्ट के माध्यम से उस संदर्भ का संकुचित भाग देखता है, और जैसे ही एजेंट वास्तविक‑विश्व कार्य करने लगते हैं, यह अंधा बिंदु महत्वपूर्ण हो जाता है।

स्वायत्त एजेंटों द्वारा क्रेडेंशियल चोरी, नकली पहचान बनाना या अपने कार्यों को छिपाने के हालिया उदाहरण यह सवाल उठाते हैं कि जब AI लक्ष्य को प्राप्त करने में अत्यधिक प्रभावी हो जाता है लेकिन पीछे की मंशा को पूरी तरह समझ नहीं पाता, तो क्या होता है। क्या आप इसे मुख्यतः संरेखण समस्या, इंजीनियरिंग समस्या, या वर्तमान में एजेंटों को डिजाइन करने के मूलभूत प्रतिबंध मानते हैं?

यह एक डिज़ाइन विफलता है जो संरेखण और इंजीनियरिंग दोनों को सम्मिलित करती है। हमने सिस्टम को लक्ष्य तक पहुँचने के लिए अनुकूलित किया है, जबकि यह सिखाने में आधी मेहनत नहीं लगाई कि मानव उपयोगकर्ता के लिए वास्तविक सफलता कैसी दिखती है।

क्लासिक GPT‑4 TaskRabbit उदाहरण देखें: जब मॉडल को CAPTCHA का सामना करना पड़ा, तो उसने झूठ बोला और कहा कि वह दृष्टिहीन है ताकि एक मानव कार्यकर्ता इसे हल कर सके। किसी ने उसे किसी को धोखा देना नहीं सिखाया; उसने केवल एक बाधा पहचानी और सबसे आसान रास्ता चुना। यदि आप एजेंट को केवल परिणाम के आधार पर पुरस्कृत करते हैं, तो वह जंगली शॉर्टकट लेगा। मुख्य चुनौती यह है कि उन कार्यों को विभाजित किया जाए जिन्हें आर्किटेक्चर स्तर पर ब्लॉक किया जाना चाहिए और उन कार्यों को जिन्हें तकनीकी रूप से अनुमति है लेकिन संदर्भ में गलत है।

आपने कहा है कि कंपनियां AI एजेंटों को कौन सा लक्ष्य हासिल करना है यह बताने में बेहतर हो रही हैं, लेकिन उन्हें यह समझाने में पर्याप्त जानकारी नहीं देतीं कि “सफलता” मानव उपयोगकर्ता के लिए वास्तव में क्या मायने रखती है। एक एजेंट को वास्तविक इरादा समझने के लिए प्रॉम्प्ट के अलावा कौन‑सी जानकारी चाहिए?

प्रॉम्प्ट केवल सतही स्तर हैं। वास्तविक इरादा स्थितिजन्य गहराई पर निर्भर करता है: पूर्व इतिहास, कौन‑से समझौते स्वीकार्य हैं, वास्तविक दांव, और उपयोगकर्ता कार्य के मध्य में कैसे प्रतिक्रिया देता है।

इनमें से कुछ ऐप के पर्यावरणीय स्थिति या चैट इतिहास से आता है, लेकिन प्रत्यक्ष इंटरैक्शन में, व्यवहारिक संकेत ही संदर्भ को गतिशील रखते हैं। लोग हिचकिचाते हैं, बीच में अपना विचार बदलते हैं, या भ्रमित हो जाते हैं। यदि एजेंट इन बदलावों को नहीं पढ़ पाता, तो वह दो कदम पहले ही अप्रचलित हो चुके निर्देश को अडिग रूप से आगे बढ़ाता रहता है।

ऐसे कार्यों में महत्वपूर्ण अंतर है जो एजेंट के लिए तकनीकी रूप से असंभव होने चाहिए और ऐसे कार्य जो अनुमति योग्य हैं लेकिन विशेष संदर्भ में अनुचित हैं। डेवलपर्स को कठोर सुरक्षा गार्डरेल्स और AI सिस्टम की संदर्भीय निर्णय क्षमता के बीच जिम्मेदारी कैसे विभाजित करनी चाहिए?

कोई भी ऐसा कार्य जो गंभीर नुकसान पहुंचाए और जिसके कोई वैध उपयोग नहीं हो—जैसे क्रेडेंशियल चोरी, ऑडिट लॉग मिटाना, अनधिकृत विशेषाधिकार वृद्धि—को कोड स्तर पर हटाया जाना चाहिए। एजेंट को यह तय करने में कंप्यूट संसाधन बर्बाद नहीं करना चाहिए कि सुरक्षा नियंत्रण को बायपास किया जाए; सिस्टम आर्किटेक्चर को इसे असंभव बनाना चाहिए।

वास्तविक ग्रे ज़ोन दैनिक कार्य हैं जैसे ईमेल भेजना, मीटिंग रद्द करना, या आंतरिक वर्कफ़्लो बदलना। सिद्धांत में ये अनुमति योग्य हैं, लेकिन एजेंट को इन्हें स्वचालित रूप से निष्पादित करना चाहिए या नहीं, यह दांव, उपयोगकर्ता इतिहास, उलटने की क्षमता, और उपयोगकर्ता की हिचकिचाहट के सूक्ष्म संकेतों पर निर्भर करता है। जब संदर्भ अनुपलब्ध हो तो रुकना जानना कच्ची क्षमता से कहीं अधिक महत्वपूर्ण है।

Neurologyca ऐसी तकनीक विकसित कर रहा है जो तनाव, आत्मविश्वास, ध्यान, सहभागिता और भरोसा जैसे संकेतों को मशीन‑पठनीय संदर्भ में बदल सकती है। ऐसे संकेतों से एक स्वायत्त AI एजेंट के व्यवहार में व्यावहारिक रूप से क्या परिवर्तन आ सकता है जबकि वह कार्य कर रहा हो?

ये व्यवहारिक इनपुट मूलतः वास्तविक‑समय प्रतिक्रिया डेटा हैं—वर्तमान AI आर्किटेक्चर में जो अभाव है, वह ठीक वही फीडबैक लूप है। अभी मॉडल अपने कार्यों को ट्रैक करते हैं, लेकिन वे इस बात से पूरी तरह अंधे होते हैं कि मानव उन्हें कैसे प्राप्त कर रहा है। एक ट्यूशनिंग संदर्भ पर विचार करें: उपयोगकर्ता लिखता है “मैं समझ गया”, लेकिन उसके शारीरिक या व्यवहारिक संकेत बढ़ते भ्रम और घटते ध्यान को दर्शाते हैं। यह AI के लिए सीधे संकेत है कि वह दिशा बदलें, गति घटाएँ, या वैकल्पिक स्पष्टीकरण दें। लक्ष्य क्लिनिकल निदान नहीं है; यह केवल एक सघन फीडबैक लूप—संदर्भ, कार्रवाई, प्रतिक्रिया, अनुकूलन—स्थापित करना है, ताकि सिस्टम यह सीख सके कि उस विशिष्ट व्यक्ति के लिए वास्तव में क्या काम करता है।

मानव संदर्भ कभी‑कभी अस्पष्ट भी हो सकता है। सिस्टम हिचकिचाहट, तनाव, स्वर या अन्य व्यवहारिक संकेतों को गलत समझ सकता है। आप कैसे सुनिश्चित करेंगे कि संदर्भ‑सचेत AI यह न मान ले कि वह व्यक्ति क्या सोच रहा है या क्या इरादा रखता है, इस बारे में अत्यधिक आत्मविश्वास न रखे?

व्यवहारिक संकेत स्वाभाविक रूप से शोरयुक्त और संभाव्य होते हैं। तनाव में अचानक वृद्धि या टाइपिंग में विराम का मतलब भ्रम हो सकता है, या बस उपयोगकर्ता ने अपना कॉफ़ी गिरा दिया हो। एकल डेटा बिंदु को किसी व्यक्ति की भावनात्मक स्थिति के बारे में निश्चित दावा में बदलने वाले सिस्टम मूल रूप से त्रुटिपूर्ण होते हैं।

मजबूत सिस्टम समय के साथ संयोजनात्मक संकेतों को देखते हैं, पर्यावरणीय बेसलाइन को ध्यान में रखते हैं, और स्पष्ट रूप से आत्मविश्वास सीमा आउटपुट करते हैं। “बेसलाइन की तुलना में उन्नत संज्ञानात्मक लोड” को लॉग करने और यह तय करने (“उपयोगकर्ता चिंतित है”) के बीच बहुत बड़ा अंतर है। जब अनिश्चितता अधिक हो या दांव महत्वपूर्ण हों, तो एजेंट का काम अनुमान लगाना नहीं, बल्कि स्पष्टता के लिए प्रश्न पूछना है।

हर महत्वपूर्ण निर्णय में मानव को लूप में रखना स्वायत्त एजेंटों द्वारा वादा की गई दक्षता को काफी हद तक कम कर सकता है। एक स्केलेबल मानव निगरानी मॉडल कैसा दिखता है जहाँ एजेंट जानता है कि वह स्वतंत्र रूप से आगे बढ़ सकता है और कब उसे वास्तव में रुककर मार्गदर्शन माँगना चाहिए?

स्केलेबल निगरानी का मतलब स्थायी मानव‑इन‑द‑लूप बनाए रखना नहीं है; यह गतिशील एस्केलेशन है।

निम्न‑दांव, उलटने योग्य कार्य स्वचालित रूप से आगे बढ़ते हैं। लेकिन जैसे ही दांव बढ़ते हैं, पृष्ठभूमि शोर बढ़ता है, या संकेत उपयोगकर्ता की असहजता दर्शाते हैं, अनुमोदन थ्रेशोल्ड गतिशील रूप से बढ़ता है। महत्वपूर्ण बात यह है कि ये थ्रेशोल्ड व्यक्तिगत होने चाहिए—एक प्रबंधक कैलेंडर प्रबंधन को खुशी‑खुशी सौंप सकता है, जबकि दूसरा हर छोटे संपादन को मंजूरी देना चाहता है। सिस्टम को व्यक्तिगत सीमाओं को सीखना चाहिए, न कि कठोर वैश्विक नीतियों को लागू करना।

जैसे ही एजेंट स्थायी स्मृति विकसित करते हैं और उन लोगों के विस्तृत मॉडल बनाते हैं जिन्हें वे सेवा देते हैं, संदर्भ जल्दी ही संवेदनशील व्यक्तिगत डेटा बन सकता है। कंपनियों को सहमति, गोपनीयता, डेटा स्वामित्व, और यह सीमित करने के बारे में कैसे सोचना चाहिए कि AI को उपयोगकर्ता के बारे में क्या याद रखने की अनुमति होनी चाहिए?

यह स्वायत्त सिस्टमों के सामने मुख्य विश्वास बाधा है। स्थायी स्मृति एक सामान्य उपकरण को सहायक में बदल देती है, लेकिन कार्य‑प्रवाह प्राथमिकताओं को संग्रहीत करने और चुपचाप एक अनधिकृत मनोवैज्ञानिक प्रोफ़ाइल बनाने के बीच खतरनाक ओवरलैप होता है। डेटा शासन को यहाँ सख्त उद्देश्य सीमाओं की आवश्यकता है। यदि कोई एजेंट कार्यकारी कोचिंग सत्र के दौरान तनाव पैटर्न का अनुमान लगाता है, तो वह संदर्भ प्रदर्शन मूल्यांकन, बीमा एल्गोरिदम, या विज्ञापन प्रौद्योगिकी में लीक नहीं होना चाहिए। पारदर्शिता विस्तृत होनी चाहिए—उपयोगकर्ताओं को संग्रहीत संदर्भ की दृश्यता, एक‑क्लिक हटाने, और समझदार डिफ़ॉल्ट रिटेंशन सीमाएँ चाहिए। केवल इसलिए कि सिस्टम आपके बारे में कुछ अनुमान लगा सकता है, इसका मतलब नहीं कि उसे उसे संग्रहीत करने की अनुमति है।

हमें यह कैसे मूल्यांकन करना चाहिए कि कोई स्वायत्त एजेंट वास्तव में मानव इरादा समझता है? क्या आज के बेंचमार्क कार्य पूर्णता और सटीकता पर अधिक केंद्रित हैं, बजाय इस बात के कि एजेंट ने लक्ष्य को उस तरीके से हासिल किया जो उपयोगकर्ता वास्तव में स्वीकार्य मानता है?

कार्य पूर्णता एक अत्यधिक भ्रामक बेंचमार्क है। एक एजेंट निर्देश को शब्दशः पालन कर सकता है और फिर भी उपयोगकर्ता को नापसंद आने वाला परिणाम दे सकता है।

यदि कोई एजेंट अनुबंध पर सबसे कम कीमत सुरक्षित करता है लेकिन इसके लिए दशकों पुराना विक्रेता संबंध नष्ट कर देता है, तो पारंपरिक मूल्यांकन मेट्रिक्स 100 % सफलता दर दर्ज करेंगे। कार्यकारी के लिए यह आपदा है। हमें ऐसे बेंचमार्क चाहिए जो अप्रकाशित सीमाओं के भीतर प्रदर्शन को मापें: क्या उसने अनकहे मानदंडों का सम्मान किया? क्या परिस्थितियों में बदलाव होने पर उसने रुककर विचार किया? कच्ची पूर्णता और वास्तविक संतुष्टि के बीच का अंतर ही वर्तमान बेंचमार्क पूरी तरह नज़रअंदाज़ करते हैं।

आगे देखते हुए, क्या आप उम्मीद करते हैं कि मानव‑संदर्भ क्षमताएँ AI स्टैक में मॉडल, स्मृति, टूल और सुरक्षा के साथ एक मानक लेयर बन जाएँगी? उद्यमों को एजेंटों को निरंतर निगरानी के बिना सार्थक कार्य सौंपने से पहले अभी किन चुनौतियों को हल करना आवश्यक है?

जैसे ही AI सामग्री उत्पन्न करने से वास्तविक‑विश्व कार्य करने की ओर बढ़ता है, मानव संदर्भ एक आवश्यक लेयर बन जाता है। मॉडल तर्क संभालते हैं और टूल सिस्टम को हाथ देते हैं, लेकिन मानव संदर्भ के बिना, जो जीवंत फीडबैक लूप के रूप में कार्य करता है, स्मृति और सुरक्षा गार्डरेल्स मूलतः स्थिर धारणाओं पर चल रहे होते हैं।

उद्यमों को वास्तविक अधिकार सौंपने से पहले, हमें अभी भी संदर्भीय गोपनीयता, अनिश्चितता में संभाव्य तर्क, और विस्तृत शासन नियमों को हल करना है। केवल अलग‑अलग कार्यों को पूरा करने वाला AI बनाना अधिकांशतः हल हो चुका है; प्रॉम्प्ट के पीछे मानव के अनुसार सिस्टम को गतिशील रूप से अनुकूलित करना ही तय करेगा कि हम उन्हें कितनी वास्तविक स्वायत्तता देने को तैयार हैं।

उत्कृष्ट साक्षात्कार के लिए धन्यवाद, जो पाठक अधिक जानना चाहते हैं उन्हें Neurologyca पर जाना चाहिए।