डेविड माहेर, इंटरट्रस्ट के सीटीओ – साक्षात्कार श्रृंखला

डेविड माहेर इंटरट्रस्ट के कार्यकारी उपाध्यक्ष और मुख्य प्रौद्योगिकी अधिकारी के रूप में कार्य करते हैं। 30 वर्षों से अधिक के अनुभव के साथ विश्वसनीय वितरित प्रणाली, सुरक्षित प्रणाली और जोखिम प्रबंधन में, डेव ने अनुसंधान और विकास प्रयासों का नेतृत्व किया है और कंपनी की सहायक कंपनियों में प्रमुख नेतृत्व की स्थिति धारण की है। वह सी सर्ट कॉर्पोरेशन के पूर्व अध्यक्ष थे, जो डिजिटल मीडिया और आईओटी के लिए एक प्रमाण पत्र प्राधिकरण है, और व्हाइटक्रिप्शन कॉर्पोरेशन के अध्यक्ष, जो सॉफ्टवेयर स्व-रक्षा के लिए प्रणाली विकसित करता है। उन्होंने मार्लिन ट्रस्ट प्रबंधन संगठन (एमटीएमओ) के सह-अध्यक्ष के रूप में भी कार्य किया, जो दुनिया के एकमात्र स्वतंत्र डिजिटल अधिकार प्रबंधन पारिस्थितिकी तंत्र की देखरेख करता है।

इंटरट्रस्ट ने वितरित ऑपरेटिंग सिस्टम को खुले नेटवर्क पर डेटा और गणना को सुरक्षित और शासित करने में सक्षम करने वाली नवाचारों का विकास किया, जिसके परिणामस्वरूप विश्वसनीय वितरित गणना पर एक मूलभूत पेटेंट हुआ।

मूल रूप से अनुसंधान में निहित, इंटरट्रस्ट एक उत्पाद-केंद्रित कंपनी में विकसित हुई है जो डिवाइस और डेटा संचालन को एकीकृत करने वाली विश्वसनीय कंप्यूटिंग सेवाएं प्रदान करती है, विशेष रूप से आईओटी और एआई के लिए। इसके बाजारों में मीडिया वितरण, डिवाइस पहचान / प्रमाणीकरण, डिजिटल ऊर्जा प्रबंधन, विश्लेषण और क्लाउड स्टोरेज सुरक्षा शामिल हैं।

हम एआई ट्रस्ट गैप को कैसे बंद कर सकते हैं और एआई सुरक्षा और विश्वसनीयता के बारे में बढ़ती चिंताओं को संबोधित कर सकते हैं?

पारदर्शिता सबसे महत्वपूर्ण गुणवत्ता है जो मुझे लगता है कि एआई के बारे में बढ़ती चिंताओं को संबोधित करने में मदद करेगी। पारदर्शिता में ऐसी विशेषताएं शामिल हैं जो उपभोक्ताओं और प्रौद्योगिकीविदों को यह समझने में मदद करती हैं कि कौन से एआई तंत्र प्रणालियों का हिस्सा हैं जिनके साथ हम बातचीत करते हैं, उनकी क्या वंशावली है: एक एआई मॉडल को कैसे प्रशिक्षित किया जाता है, कौन से गार्डरेल मौजूद हैं, मॉडल विकास में कौन से नीतियां लागू की गईं, और किसी दिए गए तंत्र की सुरक्षा और सुरक्षा के लिए क्या अन्य आश्वासन हैं। अधिक पारदर्शिता के साथ, हम वास्तविक जोखिमों और मुद्दों को संबोधित करने में सक्षम होंगे और तर्कहीन डरों और अनुमानों से इतना विचलित नहीं होंगे।

एआई आउटपुट की विश्वसनीयता सुनिश्चित करने में मेटाडेटा प्रमाणीकरण की क्या भूमिका है?

मेटाडेटा प्रमाणीकरण हमें आश्वस्त करने में मदद करता है कि एआई मॉडल या अन्य तंत्र के बारे में आश्वासन विश्वसनीय हैं। एक एआई मॉडल कार्ड मेटाडेटा का एक उदाहरण है जो एक विशिष्ट उद्देश्य के लिए एक एआई तंत्र (मॉडल, एजेंट, आदि) के उपयोग का मूल्यांकन करने में मदद कर सकता है। हमें मॉडल कार्ड के लिए स्पष्टता और पूर्णता के लिए मानक स्थापित करने की आवश्यकता है जिसमें प्रदर्शन, पूर्वाग्रह, प्रशिक्षण डेटा की विशेषताओं आदि के लिए मात्रात्मक माप और प्रमाणित दावे के मानक हों।

संगठन बड़े भाषा मॉडल (एलएलएम) में एआई पूर्वाग्रह और हॉलुसिनेशन के जोखिम को कैसे कम कर सकते हैं?

रेड टीमिंग जोखिमों को संबोधित करने के लिए एक सामान्य दृष्टिकोण है और मॉडल के विकास और पूर्व-रिलीज़ के दौरान। सुरक्षित प्रणालियों का मूल्यांकन करने के लिए मूल रूप से उपयोग किया जाने वाला, यह दृष्टिकोण अब एआई-आधारित प्रणालियों के लिए मानक बन रहा है। यह जोखिम प्रबंधन के लिए एक प्रणाली दृष्टिकोण है जो और应该 मॉडल के पूरे जीवन चक्र को शामिल कर सकता है और कवर कर सकता है पूरी विकास आपूर्ति श्रृंखला को शामिल करते हुए प्रारंभिक विकास से लेकर क्षेत्र तैनाती तक। विशेष रूप से महत्वपूर्ण है मॉडल के लिए उपयोग किए जाने वाले प्रशिक्षण डेटा का वर्गीकरण और प्रमाणीकरण।

कंपनियां एआई प्रणालियों में पारदर्शिता बनाने और “ब्लैक बॉक्स” समस्या से जुड़े जोखिमों को कम करने के लिए क्या कदम उठा सकती हैं?

कंपनी मॉडल का उपयोग कैसे करने जा रही है और इसके तैनाती में किस प्रकार के दायित्व हो सकते हैं, यह समझने की आवश्यकता है, चाहे वह आंतरिक उपयोग के लिए हो या ग्राहकों द्वारा उपयोग के लिए,直接 या अप्रत्यक्ष रूप से। फिर, एआई तंत्रों के वंश को समझने की आवश्यकता है जिन्हें तैनात किया जाना है, जिसमें मॉडल कार्ड पर दावे, लाल टीम परीक्षण के परिणाम, कंपनी के विशिष्ट उपयोग पर अंतर विश्लेषण, क्या औपचारिक रूप से मूल्यांकन किया गया है, और दूसरों का अनुभव क्या रहा है। एक वास्तविक वातावरण में एक व्यापक परीक्षण योजना का उपयोग करके आंतरिक परीक्षण绝对 आवश्यक है। सर्वोत्तम अभ्यास इस नवजात क्षेत्र में विकसित हो रहे हैं, इसलिए यह महत्वपूर्ण है कि आप इसके साथ बने रहें।

एआई प्रणालियों को नैतिक दिशानिर्देशों के साथ कैसे डिज़ाइन किया जा सकता है, और विभिन्न उद्योगों में यह हासिल करने में क्या चुनौतियां हैं?

यह एक अनुसंधान क्षेत्र है, और कई दावा करते हैं कि नैतिकता की धारणा और एआई के वर्तमान संस्करण असंगत हैं क्योंकि नैतिकता संकल्पनात्मक रूप से आधारित है, और एआई तंत्र अधिकांश डेटा-चालित हैं। उदाहरण के लिए, मानवों द्वारा समझे जाने वाले सरल नियम, जैसे “धोखा न दें,” सुनिश्चित करना मुश्किल है। हालांकि, बातचीत और लक्ष्य-आधारित सीखने में संघर्षों का सावधानीपूर्वक विश्लेषण, संदिग्ध डेटा और दुष्प्रचार को बाहर करना, और नियमों का निर्माण करना जो आउटपुट फिल्टर का उपयोग करने की आवश्यकता होती है जो गार्डरेल को लागू करते हैं और हिंसा के उपयोग के साथ सहानुभूति या सहानुभूति को बढ़ावा देने वाली सामग्री में उल्लंघनों के लिए परीक्षण करते हैं। इसी तरह, पूर्वाग्रह के लिए कठोर परीक्षण एक मॉडल को नैतिक सिद्धांतों के साथ अधिक संरेखित करने में मदद कर सकता है। फिर से, अधिकांश इसे संकल्पनात्मक बना देता है, इसलिए दिए गए दृष्टिकोण के प्रभावों का परीक्षण करने के लिए सावधानी बरतनी चाहिए क्योंकि एआई तंत्र मानवों की तरह निर्देशों को “समझ” नहीं पाएगा।

एआई का सामना करने वाले मुख्य जोखिम और चुनौतियां क्या हैं, विशेष रूप से जब यह आईओटी प्रणालियों के साथ अधिक एकीकरण करता है?

हम महत्वपूर्ण बुनियादी ढांचे की प्रक्रियाओं को अनुकूलित करने के लिए एआई का उपयोग करना चाहते हैं। उदाहरण के लिए, हम जानते हैं कि हम वर्चुअल पावर प्लांट का उपयोग करके ऊर्जा वितरण और उपयोग को अनुकूलित कर सकते हैं, जो ऊर्जा उत्पादन, भंडारण और उपयोग के हजारों तत्वों को समन्वयित करता है। यह केवल बड़े पैमाने पर स्वचालन और मिनट के निर्णय लेने में एआई के उपयोग से व्यावहारिक है। प्रणालियों में एजेंट शामिल होंगे जिनके पास असंगत अनुकूलन उद्देश्य हैं (उपभोक्ता के लाभ के लिए बनाम आपूर्तिकर्ता के लिए)। एआई सुरक्षा और सुरक्षा ऐसे प्रणालियों के व्यापक तैनाती में महत्वपूर्ण होगी।

एआई प्रणालियों में संस्थाओं की सुरक्षित पहचान और प्रमाणीकरण के लिए किस प्रकार का बुनियादी ढांचा आवश्यक है?

हमें एक मजबूत और कुशल बुनियादी ढांचे की आवश्यकता होगी जिसमें एआई प्रणालियों और उनके तैनाती के सभी पहलुओं का मूल्यांकन करने वाले संस्थाओं को एआई प्रणालियों, उनके वंश, उपलब्ध प्रशिक्षण डेटा, सेंसर डेटा की उत्पत्ति, सुरक्षा प्रभावित घटनाओं और घटनाओं के बारे में अधिकृत और प्रमाणित दावे प्रकाशित करने में सक्षम हों। यह बुनियादी ढांचा यह भी सुनिश्चित करेगा कि उपयोगकर्ता और स्वचालित प्रणालियों के तत्व जो एआई मॉडल और अनुकूलकों के आउटपुट पर आधारित निर्णय लेते हैं, दावों और दावों की पुष्टि करना कुशल है।

क्या आप हमें इंटरट्रस्ट में आपके द्वारा किए जा रहे काम के बारे में कुछ जानकारी साझा कर सकते हैं और यह हमारे द्वारा चर्चा किए गए विषयों से कैसे संबंधित है?

हम विश्वसनीयता प्रबंधन बुनियादी ढांचे की प्रौद्योगिकी का अनुसंधान और डिजाइन करते हैं जो पिछले प्रश्न में आवश्यक है। हम विशेष रूप से आईओटी प्रणालियों में एआई घटकों के साथ जुड़े स्केल, विलंबता, सुरक्षा और अंतरसंचालन के मुद्दों को संबोधित कर रहे हैं।

इंटरट्रस्ट की पीकेआई (पब्लिक की इन्फ्रास्ट्रक्चर) सेवा आईओटी डिवाइसों को कैसे सुरक्षित करती है, और यह बड़े पैमाने पर तैनाती के लिए क्या बनाता है?

हमारा पीकेआई विशेष रूप से डिवाइस और डिजिटल सामग्री के शासन के लिए विश्वसनीयता प्रबंधन के लिए डिज़ाइन किया गया था। हमने अनुपालन सुनिश्चित करने वाले अरबों क्रिप्टोग्राफिक कुंजियों और प्रमाण पत्रों को तैनात किया है। हमारे वर्तमान अनुसंधान बड़े पैमाने पर औद्योगिक स्वचालन और महत्वपूर्ण विश्व स्तर पर बुनियादी ढांचे की आवश्यकता वाले पैमाने और आश्वासनों को संबोधित करता है, जिसमें “शून्य-विश्वास” तैनाती और डिवाइस और डेटा प्रमाणीकरण के लिए सर्वोत्तम अभ्यास शामिल हैं जो लाखों सेंसर और इवेंट जनरेटर को समायोजित कर सकते हैं।

आपको एनआईएसटी की एआई पहल में शामिल होने के लिए क्या प्रेरित किया, और आपकी भागीदारी विश्वसनीय और सुरक्षित एआई मानकों के विकास में कैसे योगदान करती है?

एनआईएसटी के पास सुरक्षित प्रणालियों में मानकों और सर्वोत्तम अभ्यासों का विकास करने का बहुत अनुभव और सफलता है। इंटरट्रस्ट से यूएस एआईएसआईसी के मुख्य अन्वेषक के रूप में, मैं विश्वसनीयता प्रबंधन प्रणालियों में एआई तंत्रों को शामिल करने वाले महत्वपूर्ण मानकों और सर्वोत्तम अभ्यासों के लिए वकालत कर सकता हूं। पिछले अनुभव से, मैं विशेष रूप से एनआईएसटी द्वारा अपनाई गई दृष्टिकोण की सराहना करता हूं जो रचनात्मकता, प्रगति और औद्योगिक सहयोग को बढ़ावा देता है, साथ ही साथ महत्वपूर्ण तकनीकी मानकों को बढ़ावा देने में मदद करता है जो अंतरसंचालन को बढ़ावा देते हैं। ये मानक लाभकारी प्रौद्योगिकियों के अपनाने को बढ़ावा देते हुए जोखिमों को संबोधित करने में मदद कर सकते हैं जिनका सामना समाज करता है।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें इंटरट्रस्ट पर जाना चाहिए।