आरोन फुल्केर्सन, ओपेक के सीईओ – साक्षात्कार श्रृंखला

आरोन फुल्केर्सन, ओपेक के सीईओ, एक दीर्घकालिक उद्यम सॉफ्टवेयर उद्यमी और ओपन-सोर्स पioneer हैं, जिनका करियर दो दशक से अधिक का है, जिसमें विश्वास, डेटा और डिजिटल परिवर्तन पर केंद्रित प्रौद्योगिकी प्लेटफार्मों का निर्माण और स्केलिंग शामिल है। ओपेक में शामिल होने से पहले, उन्होंने माइंडटच की स्थापना की, जो एक व्यापक रूप से अपनाई गई उद्यम ज्ञान प्लेटफॉर्म में विकसित हुई, जिसे बाद में नाइस सिस्टम्स द्वारा अधिग्रहित किया गया, और बाद में सर्विसनाउ इम्पैक्ट के लॉन्च का नेतृत्व किया, जो सर्विसनाउ के इतिहास में सबसे तेजी से बढ़ने वाला व्यवसाय इकाई है। अपने करियर के दौरान, फुल्केर्सन ने उभरती प्रौद्योगिकियों, उद्यम सॉफ्टवेयर और ओपन इकोसिस्टम के बीच काम किया है, साथ ही साथ कई प्रौद्योगिकी स्टार्टअप और संगठनों को सलाह दी है। हाल ही में, उन्होंने गोपनीय एआई के लिए एक प्रमुख समर्थक के रूप में उभरकर दावा किया है कि गोपनीयता, शासन और सत्यापन योग्य विश्वास एआई प्रणालियों के महत्वपूर्ण उद्यम कार्यप्रवाह में एम्बेडेड होने के रूप में मूलभूत आवश्यकताएं होंगी।

ओपेक एक गोपनीय एआई कंपनी है जो प्रसिद्ध यूसी बर्कले रिसलैब से उभरी है, जिसी प्रतिष्ठित अनुसंधान पारिस्थितिकी ने अपाचे स्पार्क और डेटाब्रिक्स जैसी प्रौद्योगिकियों को जन्म दिया है। कंपनी ने एक प्लेटफ़ॉर्म विकसित किया है जो उद्यमों को अत्यधिक संवेदनशील डेटा पर एआई मॉडल, एजेंट और कार्यप्रवाह चलाने की अनुमति देता है, जबकि क्रिप्टोग्राफ़िक रूप से सत्यापन योग्य गोपनीयता और अनुपालन गारंटी बनाए रखता है। एआई नवाचार और डेटा सुरक्षा के बीच चुनने के लिए संगठनों को मजबूर करने के बजाय, ओपेक गोपनीय कंप्यूटिंग, एन्क्रिप्टेड रनटाइम वातावरण और हार्डवेयर-वास्तविक कार्यान्वयन का उपयोग करके सुनिश्चित करता है कि संवेदनशील जानकारी एआई प्रसंस्करण से पहले, उसके दौरान और बाद में संरक्षित रहती है। इसकी प्रौद्योगिकी वित्त, बीमा, स्वास्थ्य सेवा और उच्च-प्रौद्योगिकी जैसे उच्च नियामक उद्योगों के लिए डिज़ाइन की गई है, जिसमें सर्विसनाउ, एंथ्रोपिक, एक्सेंचर और अन्य उद्यम संगठन शामिल हैं जो पायलट कार्यक्रमों से उत्पादन में एआई परियोजनाओं को स्थानांतरित करने का प्रयास कर रहे हैं बिना प्रोप्राइटरी या विनियमित डेटा का खुलासा किए।

आपने अपने करियर में कई उद्यम प्लेटफ़ॉर्म बनाए और स्केल किए हैं, तो आपको ओपेक के सीईओ की भूमिका में कदम रखने और अपने अगले अध्याय को विश्वास, गोपनीयता और एआई शासन पर केंद्रित करने के लिए क्या प्रेरित किया?

मैंने लगभग दो दशकों तक उद्यम प्लेटफ़ॉर्म बनाए हैं, पहले माइंडटच में, जिसका उपयोग अभी भी एक अरब से अधिक उपयोगकर्ता करते हैं, और फिर सर्विसनाउ में, जहां मैंने उनका सबसे तेजी से बढ़ने वाला उत्पाद बनाया। दोनों ने मुझे एक ही सबक सिखाया: सबसे शक्तिशाली प्रौद्योगिकी केवल तभी जीतती है जब लोग उस पर विश्वास करते हैं।

जब मैं ओपेक के सह-संस्थापक रालुका एडा पोपा, आयन स्टोइका और रिशभ पोद्दार से मिला, तो मैंने एक दुर्लभ प्रतिभा और दृष्टि का संयोजन देखा। रालुका दुनिया के सबसे अग्रणी शोधकर्ताओं में से एक हैं गोपनीयता और सुरक्षा में। आयन ने डेटाब्रिक्स की स्थापना की। रिशभ ने ओपेक की नींव बनाने वाली मूल क्रिप्टोग्राफ़िक प्रणाली बनाई।

यूसी बर्कले के रिसलैब में, उन्होंने कुछ ऐसा बनाया था जिसे मैं तुरंत पहचान सकता था जेनरेशनल। क्रिप्टोग्राफ़िक प्रमाण यह है कि डेटा हर एआई कार्यप्रवाह में निजी रहता है। न केवल वादे। न केवल नीतियाँ। प्रमाण।

मैंने देखा कि एआई कहां जा रहा था, एजेंट स्वायत्त रूप से उद्यम प्रणालियों में मशीन गति से कार्य करते हैं, और मैंने उसी अंतर को देखा जिसके बारे में विंट सेर्फ ने 30 वर्षों से चेतावनी दी है: कोई विश्वास परत नहीं है। इंटरनेट को एक दिखाई नहीं देने वाली गार्डरेल थी: हम। मानव सामग्री पढ़ते हैं, जानबूझकर क्लिक करते हैं और एक साथ सौ प्रणालियों में चुपचाप कार्य नहीं करते हैं।

एमसीपी (मॉडल कॉन्टेक्स्ट प्रोटोकॉल, एक मानक जो एआई एजेंटों को सुरक्षित रूप से उपकरण, अनुप्रयोगों और डेटा तक पहुंचने की अनुमति देता है) के उभरने के साथ एक सामान्य आधार के रूप में, आप यह देखते हैं कि यह उद्यमों द्वारा एजेंटिक एआई की तैनाती और स्केलिंग के तरीके को कैसे बदल रहा है?

एमसीपी एजेंटिक एआई की तैनाती और स्केलिंग के लिए एक महत्वपूर्ण कदम है। इसे एआई कार्यप्रवाह के लिए एक सार्वभौमिक कनेक्टर के रूप में सोचें। यह एजेंटों को उपकरण, अनुप्रयोगों और डेटा में प्लग करने के तरीके को मानकीकृत करता है, वास्तविक घर्षण को कम करता है और प्रयोग की गति बढ़ाता है।

लेकिन एक्सेस को मानकीकृत करना ही एजेंटिक एआई को सुरक्षित या स्केलेबल नहीं बनाता है। जैसे ही कनेक्शन का विस्तार होता है, अधिक एजेंट, अधिक उपकरण और अधिक डेटा स्रोतों के साथ, डेटा लीक की सतह का क्षेत्र हर नए एकीकरण के साथ बढ़ जाता है। प्रत्येक कनेक्शन बिंदु जो रनटाइम प्रवर्तन की कमी है एक संभावित एक्सपोज़र वेक्टर है। जब एआई एजेंट संवेदनशील प्रणालियों और प्रोप्राइटरी तर्क के साथ बातचीत करते हैं, तो एन्क्रिप्शन पर आराम और नेटवर्क नियंत्रण पर्याप्त नहीं हैं। सुरक्षा सीमा रनटाइम में स्थानांतरित हो गई है, और यह स्थानांतरण अधिक तत्काल हो जाता है क्योंकि पारिस्थितिकी तंत्र का विस्तार होता है।

इन आवश्यक कनेक्शन बिंदुओं पर सत्यापन योग्यता होना उद्यमों के लिए मिशन-क्रिटिकल होगा। उद्यम एमसीपी-शैली के एक्सेस को क्रिप्टोग्राफ़िक प्रमाण के साथ जोड़कर एजेंटिक एआई को स्केल कर सकते हैं कि कौन सा कोड चला, कहां चला, और किस नीति के तहत—निष्पादन से पहले, उसके दौरान और बाद में। एक्सेस प्लस सत्यापन योग्यता। यह संयोजन है जो उत्पादन को अनलॉक करता है।

एमसीपी एजेंट एक्सेस को मानकीकृत करते हुए, आप एजेंट-चालित प्रणालियों में सुरक्षा, नीति प्रवर्तन और विश्वास के मामले में आज सबसे बड़े अंतराल कहां देखते हैं?

हमने अपने 2026 एआई लीक सरफेस शोध पूरा किया और अपने निष्कर्षों का सारांश प्रकाशित किया, “आपका एआई स्टैक डेटा कैसे लीक हो रहा है” जो इस पर छूता है। हमने 8 श्रेणियों में 46 एक्सपोज़र वेक्टर की पहचान की, जो पूरे एआई ट्रस्ट बाउंडरी को कवर करते हैं: कंप्यूट, कंट्रोल, एप्लिकेशन, और उनके बीच हैंडओफ। यह दुर्भाग्यपूर्ण अभिनेताओं को ध्यान में रखे बिना है। ये ऐसे दृश्य हैं जहां कुछ भी टूटा नहीं है, लॉग साफ दिखते हैं, और आपकी प्रणाली अभी भी डेटा लीक कर रही है।

सबसे बड़े अंतराल कनेक्टिविटी में नहीं हैं; एमसीपी उसे हल कर रहा है। अंतराल कनेक्शन के बाद होते हैं। अधिकांश संगठन तीन बुनियादी प्रश्नों का उत्तर नहीं दे सकते: हमारा एआई वास्तव में कैसे व्यवहार करता है? यह कौन नियंत्रित करता है? और हम नीतियों को लागू किए जाने का प्रमाण कैसे देते हैं?

हमारे शोध से पता चला है कि सीमाएं कॉन्फ़िगर की जाती हैं लेकिन कभी भी लागू नहीं की जाती हैं। एक नीति एक दस्तावेज़ में, एक कॉन्फ़िग फ़ाइल में या एक तैनाती समय सेटिंग में मौजूद है, लेकिन चल रही प्रणाली उस द्वारा सीमित नहीं है। एक एआई कार्यकारी सहायक सामग्री गैर-सार्वजनिक जानकारी को एक कैलेंडर आमंत्रण पर रखता है। एक आरएजी कोपायलट एक जूनियर विश्लेषक को बोर्ड-स्तरीय वित्तीय विवरण परोसता है। एक विक्रेता एसडीके 12 महीनों में 10 मिलियन क्वेरी को चुपचाप निकालता है। प्रत्येक मामले में, एक्सेस नियंत्रण मौजूद थे। डेटा फिर भी लीक हो गया।

जब तक उद्यम संगठित नीति और लागू नीति के बीच के अंतर को बंद नहीं करते हैं, एमसीपी फ्रंट दरवाजे को मानकीकृत करता है। लेकिन घर अभी भी अनुरक्षित है।

जब एआई एजेंटों को संवेदनशील प्रणालियों और प्रोप्राइटरी डेटा तक पहुंच प्रदान की जाती है, तो जो नए गोपनीयता और अनुपालन जोखिम सामने आते हैं जिनके लिए उद्यम अक्सर तैयार नहीं होते हैं?

अधिकांश उद्यम गोपनीयता को डेटा पर आराम या पारगमन के रूप में सोचते हैं। यह मॉडल एजेंटिक कार्यप्रवाह में टूट जाता है क्योंकि सबसे बड़ा जोखिम डेटा के उपयोग के दौरान एक्सपोज़र है।

मेरा मतलब है कि एक प्रदर्शन कार निर्माता अपनी असेंबली लाइन पर एआई चलाता है। कच्चा डेटा निर्दोष लगता है: सेंसर रीडिंग, टाइमिंग अनुक्रम, गुणवत्ता जांच। लेकिन एक एलएलएम अब उस डेटा एक्सहॉस्ट से प्रोप्राइटरी निर्माण प्रक्रियाओं का पुनर्निर्माण कर सकता है। जो पांच साल पहले शोर था अब एक प्रतियोगी के लिए एक नीलाक्षर है।

हमारे एआई लीक सरफेस शोध इस पैटर्न का दस्तावेजीकरण करता है जो दर्जनों दृश्यों में होता है। ऑपरेशनल टेलीमेट्री टूल डिफ़ॉल्ट रूप से पूर्ण एआई पेलोड को कैप्चर करते हैं, और एक यूरोपीय बैंक के पास 2.1 मिलियन प्रॉम्प्ट थे जिनमें पीआईआई एक यूएस सास इंस्टेंस में बह रहा था क्योंकि किसी ने एपीएम डिफ़ॉल्ट नहीं बदला था। एजेंट मेमोरी सत्रों के बीच संदर्भ लीक करता है। चेन-ऑफ-थॉट ट्रेस पूर्ण जांच रिकॉर्ड को एक्सेस करने योग्य ठेकेदारों द्वारा दृश्यता प्लेटफ़ॉर्म को उजागर करता है। पारंपरिक अनुपालन ढांचे इस तरह के लीक का पता लगाने के लिए डिज़ाइन नहीं किए गए थे। उन्होंने माना कि मानव डेटा को मानव गति से स्थानांतरित कर रहे थे।

गोपनीय एआई एमसीपी के प्रतिपूरक क्यों बन रहा है, और यह एक्सेस मानकों के साथ जुड़े चुनौतियों को कैसे संबोधित करता है जो अकेले हल नहीं की जा सकती हैं?

एमसीपी यह हल करता है कि कौन क्या एक्सेस कर सकता है और कैसे, जबकि गोपनीय एआई यह हल करता है कि एक्सेस दिए जाने के बाद क्या होता है। वे पूरक परतें हैं।

एक्सेस मानक अकेले रनटाइम समझौता, नीति ड्रिफ्ट या अनधिकृत डेटा उपयोग को रोक नहीं सकते। इसे इस तरह से सोचें: एमसीपी आपको एक मानकीकृत तरीका देता है जिससे एजेंटों को आपकी प्रणालियों से जोड़ा जा सकता है। गोपनीय एआई आपको क्रिप्टोग्राफ़िक गारंटी देता है कि एक बार जुड़ने के बाद, वे एजेंट केवल वही कर सकते हैं जिसके लिए उन्हें अधिकृत किया गया है, और आप यह साबित कर सकते हैं।

गोपनीय एआई डेटा, पहचान, कोड, और संचार में रनटाइम पर गारंटी प्रदान करता है। यह निष्पादन और यह सुनिश्चित करता है कि गोपनीयता और नीति प्रवर्तन एक्सेस सीमा से परे बने रहते हैं क्योंकि एआई सक्रिय रूप से तर्क, उत्पन्न और कार्य करता है। इसके बिना, एमसीपी एक ठोस आधार है। लेकिन केवल नींव ही एक इमारत को सुरक्षित नहीं बनाती है।

व्यावहारिक रूप से, एक उद्यम के लिए जो स्वायत्त एआई एजेंटों को महत्वपूर्ण कार्यप्रवाह में चला रहा है, सत्यापन योग्य विश्वास क्या दिखता है?

सत्यापन योग्य विश्वास का अर्थ है कि मैं यह साबित कर सकता हूं कि कौन सा कोड चला, कहां चला, किस नीति के तहत, कौन सा डेटा एक्सेस किया गया, और प्रणाली ने समय के साथ कैसा व्यवहार किया।

व्यावहारिक रूप से, एक बीमा कंपनी को लें जो मांग पत्रों को संसाधित करने के लिए एआई एजेंटों का उपयोग करती है। निष्पादन से पहले, हार्डवेयर अटेस्टेशन एजेंट की पहचान और पर्यावरण की अखंडता की पुष्टि करता है। निष्पादन के दौरान, क्रिप्टोग्राफ़िक नीति बाइंडिंग एक हार्डवेयर-समर्थित ट्रस्टेड एक्ज़ीक्यूशन एनवायरनमेंट (TEE) के भीतर डेटा की सुरक्षा सुनिश्चित करती है और नीतियों को लागू करने की पुष्टि करती है। निष्पादन के बाद, एक टैम्पर-प्रूफ ऑडिट ट्रेल यह रिकॉर्ड करता है कि क्या हुआ।

एजेंटिक कार्यप्रवाह में जोखिम यह नहीं है कि एक एजेंट खराब हो जाता है। वास्तविक जोखिम यह है कि आप यह साबित नहीं कर सकते कि नीति लागू की गई थी या संवेदनशील डेटा संरक्षित था जब एजेंट संचालित थे—निष्पादन से पहले, उसके दौरान और बाद में। यही सत्यापन योग्य विश्वास दिखता है।

जैसे ही एजेंटिक प्रणालियां मशीन गति से कार्य करती हैं, मानव निगरानी क्यों टूट जाती है, और संगठनों को इस नए वातावरण में शासन को कैसे पुनः सोचते हैं?

दशकों से, इंटरनेट में एक अदृश्य गार्डरेल थी: हम। मानव सामग्री पढ़ते हैं, जानबूझकर क्लिक करते हैं और एक साथ सौ प्रणालियों में चुपचाप कार्य नहीं करते हैं।

एजेंटिक एआई इस धारणा को रातोंरात मिटा देता है। एजेंट निरंतर कार्य करते हैं, मशीन गति से निर्णय लेते हैं और मानवों के लिए डिज़ाइन किए गए पर्यावरण द्वारा मशीनों द्वारा शोषित किए जा सकते हैं। एक दुर्भाग्यपूर्ण वेबपेज को एक एआई को मानव की तरह धोखा देने की आवश्यकता नहीं है; यह बस इसे निर्देशित कर सकता है।

केवल 1% जोखिम प्रति एजेंट पर, 100 एजेंटों का नेटवर्क 63% संभावित उल्लंघन का सामना करता है। इसे 1,000 तक स्केल करें और आप 99.99% पर हैं। मानव-इन-द-लूप गवर्नेंस मशीन गति के साथ तालमेल नहीं रख सकता। निगरानी को प्रतिक्रियात्मक समीक्षा से रनटाइम गारंटी में स्थानांतरित करना होगा। इसका अर्थ है डिफ़ॉल्ट रूप से शून्य-विश्वास कार्यप्रवाह, नीति प्रवर्तन और सत्यापन योग्य निष्पादन जो मानव द्वारा事 के बाद पकड़ने पर निर्भर नहीं करता है।

आपको एजेंटिक एआई के साथ प्रयोग करते समय उद्यमों में सबसे आम सुरक्षा विफलता क्या दिखाई देती है बिना निर्मित विश्वास परत के?

मैं जो सबसे अधिक देखता हूं वह यह है कि उद्यम एजेंटों को उनके व्यवहार के आसपास क्रिप्टोग्राफ़िक गारंटी के बिना कार्य करने और समन्वय करने देते हैं। वे आशा पर संवेदनशील आईपी संसाधित कर रहे हैं।

इसका परिणाम अनुमानित है, और हमने विशिष्ट पैटर्न को हमारे एआई लीक सरफेस शोध में दस्तावेजीकृत किया है। रनटाइम समझौता पारंपरिक परिधि रक्षा को बायपास करता है क्योंकि एजेंट पहले से ही नेटवर्क के भीतर है। स्वायत्त एजेंट श्रृंखला दुर्घटना को ट्रिगर करते हैं। एक शोषित एजेंट जुड़ी हुई प्रणालियों में एक डोमिनो प्रभाव को ट्रिगर करता है। प्रोप्राइटरी तर्क डेटा एक्सहॉस्ट के माध्यम से लीक हो जाता है जिसे किसी ने निगरानी करने के लिए नहीं सोचा था। एजेंट उद्यम की मंशा और दुर्भाग्यपूर्ण इनपुट के बीच अंतर करने की क्षमता खो देते हैं क्योंकि रनटाइम में कोई सत्यापन योग्य पहचान या नीति बाइंडिंग नहीं है।

वे सैद्धांतिक नहीं हैं। हमने 46 वेक्टर को मैप किया है जहां डेटा अपने इच्छित नियंत्रण से बाहर निकलता है, भले ही कुछ भी टूटा नहीं हो। एआई एजेंट मशीन गति से डेटा उत्पन्न और साझा करते हैं। रनटाइम में निर्मित सत्यापन योग्य सुरक्षा गार्ड के बिना, विफलताएं सुरक्षा टीम की तुलना में तेजी से प्रसारित होती हैं जो पता लगा सकती है या प्रतिक्रिया दे सकती है।

अग्रिम एआई क्षमताओं को अनलॉक करने की आवश्यकता को संतुलित करने के लिए अपने सबसे संवेदनशील डेटा संपत्तियों की रक्षा करते हुए, अग्रणी संगठन कैसे काम कर रहे हैं?

जो संगठन इसे सही कर रहे हैं वे गोपनीयता और शासन को ब्रेक के रूप में नहीं बल्कि त्वरण के रूप में मानते हैं। यह मुख्य अंतर्दृष्टि है।

मैं क्षेत्र में जो देख रहा हूं वह यह है कि अग्रणी उद्यम उन्नत एआई क्षमताओं को गोपनीय एआई प्लेटफार्मों के साथ जोड़ते हैं जो सत्यापन योग्य गारंटी प्रदान करते हैं, न कि केवल अनुपालन चेकलिस्ट। वे संवेदनशील डेटा को एआई नवाचार के लिए अनलॉक करते हुए प्रोप्राइटरी जानकारी की सुरक्षा सुनिश्चित करते हुए स्वायत्त कार्यप्रवाह में चलने दे रहे हैं।

पुरानी फ्रेमिंग क्षमता बनाम सुरक्षा थी। जो संगठन सबसे तेजी से आगे बढ़ रहे हैं उन्होंने उस ट्रेड-ऑफ को पूरी तरह से खारिज कर दिया है। वे अपनी एआई रणनीति के आधार में सत्यापन योग्य विश्वास बनाते हैं, जिससे उन्हें अपने सबसे मूल्यवान डेटा का लाभ उठाने की अनुमति मिलती है। एक ही समय में, प्रतियोगी अभी भी पायलट मोड में चल रहे हैं, सैनिटाइज़ किए गए डेटासेट पर एआई चला रहे हैं जो सुई को नहीं हिलाते हैं।

आज जो आप देख रहे हैं, उसके आधार पर, आप अगले कुछ वर्षों में उद्यम एआई शासन मॉडल के विकास की उम्मीद कैसे करते हैं क्योंकि एजेंटिक प्रणाली पायलट से पूर्ण उत्पादन में जाती हैं?

शासन कागज से प्रमाण में विकसित होने जा रहा है। यह सबसे सरल तरीका है जिसमें मैं इसे रख सकता हूं। शुरुआती शासन मॉडल मानव-गति वाले सॉफ़्टवेयर के लिए बनाए गए थे: पेपर पर नीतियां, तैनाती से पहले अनुमोदन, कुछ गलत होने के बाद समीक्षा। एजेंटिक प्रणाली हर एक धारणा को तोड़ देती है। वे निरंतर कार्य करते हैं, स्वायत्त रूप से कार्य करते हैं और मशीन गति से कैस्केडिंग प्रभाव पैदा करते हैं।

जो हम देख रहे हैं वह यह है कि शासन रनटाइम सत्यापन योग्यता की ओर बढ़ रहा है जो एक नए सुरक्षा सीमा के रूप में कार्य करता है, जो एजेंट के जीवनचक्र के हर चरण में व्यवहार को साबित करने के लिए क्रिप्टोग्राफ़िक गारंटी द्वारा समर्थित है—निष्पादन से पहले, उसके दौरान और बाद में। वही पैटर्न जो हमने एचटीटीपीएस के साथ देखा है वेब ट्रैफ़िक के लिए डिफ़ॉल्ट बन रहा है। अब कोई एचटीटीपीएस वेब कनेक्शन को एन्क्रिप्ट करने के बारे में बहस नहीं करता है। कुछ वर्षों के भीतर, कोई यह तर्क नहीं देगा कि क्या एआई निष्पादन को रनटाइम में सत्यापित करना है। यह टेबल स्टेक्स होगा।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें ओपेक पर जाना चाहिए。