डेविड महेर, इंटरट्रस्ट के सीटीओ – साक्षात्कार श्रृंखला

डेविड महेर इंटरट्रस्ट के कार्यकारी उपाध्यक्ष और मुख्य प्रौद्योगिकी अधिकारी के रूप में कार्य करते हैं। 30 वर्षों से अधिक के अनुभव के साथ विश्वसनीय वितरित प्रणाली, सुरक्षित प्रणाली और जोखिम प्रबंधन में, डेव ने अनुसंधान और विकास प्रयासों का नेतृत्व किया है और कंपनी की सहायक कंपनियों में प्रमुख नेतृत्व पदों पर रहे हैं। वह सीडर्ट कॉर्पोरेशन के पूर्व अध्यक्ष थे, जो डिजिटल मीडिया और आईओटी के लिए एक प्रमाण पत्र प्राधिकरण है, और व्हाइटक्रिप्शन कॉर्पोरेशन के अध्यक्ष, जो सॉफ्टवेयर स्व-रक्षा के लिए प्रणालियों के विकासक हैं। उन्होंने मार्लिन ट्रस्ट प्रबंधन संगठन (एमटीएमओ) के सह-अध्यक्ष के रूप में भी कार्य किया, जो दुनिया के एकमात्र स्वतंत्र डिजिटल अधिकार प्रबंधन पारिस्थितिकी तंत्र की देखरेख करता है।

इंटरट्रस्ट ने वितरित ऑपरेटिंग सिस्टम को खुले नेटवर्क पर डेटा और गणना को सुरक्षित और शासित करने में सक्षम बनाने वाली नवाचारों का विकास किया, जिसके परिणामस्वरूप विश्वसनीय वितरित गणना पर एक मूलभूत पेटेंट हुआ।

मूल रूप से अनुसंधान में निहित, इंटरट्रस्ट एक उत्पाद-केंद्रित कंपनी में विकसित हुई है जो विश्वसनीय कंप्यूटिंग सेवाएं प्रदान करती है जो डिवाइस और डेटा ऑपरेशन को एकीकृत करती हैं, विशेष रूप से आईओटी और एआई के लिए। इसके बाजारों में मीडिया वितरण, डिवाइस पहचान/प्रमाणीकरण, डिजिटल ऊर्जा प्रबंधन, विश्लेषण और क्लाउड स्टोरेज सुरक्षा शामिल हैं।

हम एआई विश्वास अंतर को कैसे बंद कर सकते हैं और एआई सुरक्षा और विश्वसनीयता के बारे में बढ़ती चिंताओं को संबोधित कर सकते हैं?

पारदर्शिता सबसे महत्वपूर्ण गुण है जो मुझे लगता है कि एआई के बारे में बढ़ती चिंताओं को संबोधित करने में मदद करेगा। पारदर्शिता में ऐसी विशेषताएं शामिल हैं जो उपभोक्ताओं और प्रौद्योगिकीविदों को यह समझने में मदद करती हैं कि एआई तंत्र किस प्रकार के हैं, उनकी वंशावली क्या है, एआई मॉडल को कैसे प्रशिक्षित किया जाता है, कौन से गार्डरेल मौजूद हैं, मॉडल विकास में कौन से नीतियां लागू की गईं, और किसी तंत्र की सुरक्षा और सुरक्षा के लिए कौन से आश्वासन हैं। अधिक पारदर्शिता के साथ, हम वास्तविक जोखिमों और मुद्दों को संबोधित कर सकेंगे और अनुचित भय और अनुमानों से कम विचलित होंगे।

एआई आउटपुट की विश्वसनीयता सुनिश्चित करने में मेटाडेटा प्रमाणीकरण की भूमिका क्या है?

मेटाडेटा प्रमाणीकरण हमें यह विश्वास दिलाने में मदद करता है कि एआई मॉडल या अन्य तंत्र के बारे में आश्वासन विश्वसनीय हैं। एक एआई मॉडल कार्ड मेटाडेटा का एक संग्रह है जो एक विशिष्ट उद्देश्य के लिए एक एआई तंत्र (मॉडल, एजेंट, आदि) के उपयोग का मूल्यांकन करने में मदद कर सकता है। हमें मॉडल कार्ड के लिए स्पष्टता और पूर्णता के लिए मानक स्थापित करने की आवश्यकता है, जिसमें प्रदर्शन, पूर्वाग्रह, प्रशिक्षण डेटा की विशेषताओं आदि के लिए मात्रात्मक माप और प्रमाणित दावे शामिल हैं।

संगठन बड़े भाषा मॉडल (एलएलएम) में एआई पूर्वाग्रह और हॉलुसिनेशन के जोखिम को कैसे कम कर सकते हैं?

लाल टीमिंग जोखिमों को संबोधित करने के लिए एक सामान्य दृष्टिकोण है, जिसमें मॉडल के विकास और पूर्व-रिलीज़ के दौरान शामिल हैं। मूल रूप से सुरक्षित प्रणालियों का मूल्यांकन करने के लिए उपयोग किया जाने वाला दृष्टिकोण, अब एआई-आधारित प्रणालियों के लिए मानक बन रहा है। यह जोखिम प्रबंधन के लिए एक प्रणाली दृष्टिकोण है जो प्रणाली के पूरे जीवन चक्र को शामिल कर सकता है, जिसमें प्रारंभिक विकास से लेकर क्षेत्र तैनाती तक, पूरे विकास आपूर्ति श्रृंखला को कवर किया जा सकता है। विशेष रूप से महत्वपूर्ण है मॉडल के लिए उपयोग किए जाने वाले प्रशिक्षण डेटा का वर्गीकरण और प्रमाणीकरण।

कंपनियां एआई प्रणालियों में पारदर्शिता कैसे बना सकती हैं और “ब्लैक बॉक्स” समस्या से जुड़े जोखिमों को कम कर सकती हैं?

कंपनी मॉडल का उपयोग कैसे करने जा रही है और इसके तैनाती में किस प्रकार के दायित्व हो सकते हैं, यह समझना आवश्यक है, चाहे वह आंतरिक उपयोग के लिए हो या ग्राहकों द्वारा उपयोग के लिए, सीधे या परोक्ष रूप से। फिर, तैनात किए जाने वाले एआई तंत्रों की वंशावली को समझना आवश्यक है, जिसमें मॉडल कार्ड पर दावे, लाल टीम परीक्षण के परिणाम, कंपनी के विशिष्ट उपयोग पर अंतर विश्लेषण, क्या औपचारिक रूप से मूल्यांकन किया गया है, और अन्य लोगों के अनुभव क्या हैं। आंतरिक परीक्षण एक व्यापक परीक्षण योजना के साथ एक वास्तविक पर्यावरण में आवश्यक है। सर्वोत्तम प्रथाएं इस नवजात क्षेत्र में विकसित हो रही हैं, इसलिए यह महत्वपूर्ण है कि हम इसके साथ तालमेल बिठाएं।

एआई प्रणालियों को नैतिक दिशानिर्देशों के साथ कैसे डिज़ाइन किया जा सकता है, और विभिन्न उद्योगों में इसके लिए क्या चुनौतियां हैं?

यह एक अनुसंधान क्षेत्र है, और कई दावा करते हैं कि नैतिकता और वर्तमान एआई संस्करण असंगत हैं क्योंकि नैतिकता अवधारणात्मक रूप से आधारित है, और एआई तंत्र मुख्य रूप से डेटा-चालित हैं। उदाहरण के लिए, सरल नियम जो मानव समझते हैं, जैसे “धोखा न दें”, एआई तंत्र में सुनिश्चित करना मुश्किल है। हालांकि, सावधानी से विश्लेषण करना और लक्ष्य-आधारित सीखने में संघर्षों को दूर करना, संदिग्ध डेटा और गलत सूचना को बाहर करना, और नैतिक सिद्धांतों जैसे हिंसा के उपयोग की वकालत या सहानुभूति को प्रतिबंधित करने वाले आउटपुट फिल्टर का निर्माण करना आवश्यक है। इसी तरह, नैतिक सिद्धांतों के साथ एक मॉडल को संरेखित करने में मदद करने के लिए पूर्वाग्रह के लिए कठोर परीक्षण किया जा सकता है। फिर से, अधिकांश यह संकल्पनात्मक हो सकता है, इसलिए यह महत्वपूर्ण है कि हम एक दृष्टिकोण के प्रभावों का परीक्षण करने के लिए सावधानी बरतें, क्योंकि एआई तंत्र मानवों की तरह निर्देशों को नहीं समझेगा।

एआई का सामना करने वाले मुख्य जोखिम और चुनौतियां क्या हैं, विशेष रूप से जब यह आईओटी प्रणालियों के साथ एकीकृत होता है?

हम महत्वपूर्ण बुनियादी ढांचे की प्रक्रियाओं को अनुकूलित करने के लिए एआई का उपयोग करना चाहते हैं। उदाहरण के लिए, हम जानते हैं कि हम वर्चुअल पावर प्लांट का उपयोग करके ऊर्जा वितरण और उपयोग को अनुकूलित कर सकते हैं, जो ऊर्जा उत्पादन, भंडारण और उपयोग के हजारों तत्वों को समन्वयित करता है। यह केवल बड़े पैमाने पर स्वचालन और एआई के उपयोग से संभव है जो मिनट के निर्णय लेने में सहायता करता है। प्रणालियों में एजेंट शामिल होंगे जिनके विरोधाभासी अनुकूलन उद्देश्य होंगे (उदाहरण के लिए, उपभोक्ता के लिए लाभ के लिए बनाम आपूर्तिकर्ता के लिए)। एआई सुरक्षा और सुरक्षा ऐसी प्रणालियों के व्यापक तैनाती में महत्वपूर्ण होगी।

एआई प्रणालियों में संस्थाओं की सुरक्षित पहचान और प्रमाणीकरण के लिए किस प्रकार का बुनियादी ढांचा आवश्यक है?

हमें एक मजबूत और कुशल बुनियादी ढांचे की आवश्यकता होगी जिससे एआई प्रणालियों और उनके तैनाती का मूल्यांकन करने वाली संस्थाएं अधिकारी दावे और आश्वासन प्रकाशित कर सकें। यह बुनियादी ढांचा दावों और दावों की प्रमाणीकरण को कुशल बनाने के लिए भी आवश्यक होगा, जिसमें प्रशिक्षण डेटा की प्रमाणिकता, सेंसर डेटा की उत्पत्ति, सुरक्षा प्रभावी घटनाएं और घटनाएं शामिल हैं।

क्या आप हमें इंटरट्रस्ट में आपके द्वारा किए जा रहे काम के बारे में कुछ जानकारी दे सकते हैं और यह हमारे चर्चा से कैसे संबंधित है?

हम उस प्रकार के विश्वास प्रबंधन बुनियादी ढांचे का अनुसंधान और डिजाइन करते हैं जो पिछले प्रश्न में आवश्यक है। हम विशेष रूप से आईओटी प्रणालियों में एआई घटकों के साथ जुड़े स्केल, लेटेंसी, सुरक्षा और अंतरसंचालन के मुद्दों को संबोधित कर रहे हैं।

इंटरट्रस्ट की पब्लिक की इंफ्रास्ट्रक्चर (पीकेआई) सेवा आईओटी डिवाइसों को कैसे सुरक्षित करती है, और यह बड़े पैमाने पर तैनाती के लिए क्या बनाता है?

हमारा पीकेआई विशेष रूप से डिवाइस और डिजिटल सामग्री के शासन के लिए विश्वास प्रबंधन के लिए डिज़ाइन किया गया था। हमने अरबों क्रिप्टोग्राफिक कुंजियों और प्रमाण पत्रों को तैनात किया है जो अनुपालन की गारंटी देते हैं। हमारा वर्तमान अनुसंधान बड़े पैमाने पर औद्योगिक स्वचालन और महत्वपूर्ण विश्व स्तरीय बुनियादी ढांचे के लिए आवश्यक पैमाने और आश्वासनों को संबोधित करता है, जिसमें “शून्य विश्वास” तैनाती के लिए सर्वोत्तम प्रथाएं और डिवाइस और डेटा प्रमाणीकरण शामिल हैं जो लाखों सेंसर और घटना जनरेटर को समायोजित कर सकते हैं।

आपको एनआईएसटी की एआई पहल में शामिल होने के लिए क्या प्रेरित किया, और आपकी भागीदारी विश्वसनीय और सुरक्षित एआई मानकों के विकास में कैसे योगदान करती है?

एनआईएसटी के पास सुरक्षित प्रणालियों में मानकों और सर्वोत्तम प्रथाओं के विकास में बहुत अनुभव और सफलता है। इंटरट्रस्ट से यूएस एआईएसआईसी के प्रिंसिपल इन्वेस्टिगेटर के रूप में, मैं विश्वास प्रबंधन प्रणालियों में एआई तंत्रों को शामिल करने वाले महत्वपूर्ण मानकों और सर्वोत्तम प्रथाओं के लिए पैरवी कर सकता हूं। पिछले अनुभव से, मैं विशेष रूप से एनआईएसटी द्वारा अपनाई गई दृष्टिकोण की सराहना करता हूं, जो रचनात्मकता, प्रगति और औद्योगिक सहयोग को बढ़ावा देता है, जबकि अंतरसंचालन को बढ़ावा देने वाले महत्वपूर्ण तकनीकी मानकों को बनाने और प्रचारित करने में मदद करता है। ये मानक लाभकारी प्रौद्योगिकियों को अपनाने को बढ़ावा दे सकते हैं और समाज का सामना करने वाले जोखिमों को संबोधित कर सकते हैं।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें इंटरट्रस्ट पर जाना चाहिए।