यूएस संघीय और सैन्य एआई: नई प्लेटफ़ॉर्म एल्गोरिदम वैधता और मान्यता प्रदान करती है

एक स्टार्टअप, जिसकी सलाहकार बोर्ड में पूर्व सरकारी सैन्य हस्तियां शामिल हैं, ने एक नया प्लेटफ़ॉर्म जारी किया है जो एआई अनुप्रयोगों की सुरक्षा और तैनाती क्षमता का मूल्यांकन करने के लिए बनाया गया है। कहा जाता है कि इस प्रणाली के शुरुआती उपयोगकर्ताओं में यू.एस. एयर फ़ोर्स और होमलैंड सेक्योरिटी विभाग शामिल हैं।

यह प्लेटफ़ॉर्म VESPR कहलाता है, जो CalypsoAI द्वारा विकसित है, जिसकी स्थापना 2018 में हुई थी, मुख्यालय सिलिकॉन वैली, डबलिन में हैं, और वर्जीनिया में एक आधिकारिक रूप से ‘अप्रकाशित’ स्थान है – लैंगली में सीआईए के लिए टेरा फिर्मा।

VESPR एक मॉडल जोखिम प्रबंधन (MRM) प्रणाली है जो तैनात एल्गोरिदम के लिए संघीय‑अनुपालन मान्यता प्रणाली को सुगम बनाने के लिए डिज़ाइन की गई है। यह उपयोगकर्ता‑मित्र डैशबोर्ड‑शैली GUI वातावरण और अधिक उन्नत उपयोग के लिए CLI इंटरफ़ेस दोनों प्रदान करती है।

Click to enlarge.

VESPR CalypsoAI के मशीन लर्निंग वैधता, सत्यापन और मान्यता मानकों पर आधारित है, और इसमें हस्तनिर्मित प्रतिकूल मशीन लर्निंग लाइब्रेरीज़ शामिल हैं। यह संभावित तैनात एल्गोरिदम के लिए स्वचालित तनाव‑परीक्षण प्रक्रियाएँ भी प्रदान करता है।

राष्ट्रीय कृत्रिम बुद्धिमत्ता अनुसंधान संसाधन कार्य बल

रिलीज़ का समय संभवतः बाइडेन प्रशासन द्वारा कल लॉन्च किए गए नए राष्ट्रीय कृत्रिम बुद्धिमत्ता अनुसंधान संसाधन कार्य बल से संबंधित हो सकता है, जो कांग्रेस के राष्ट्रीय एआई पहल अधिनियम 2020 के तहत एक संघीय सलाहकार समिति के रूप में कार्य करने के लिए बनाया गया है।

संयुक्त राज्य और विश्व भर में मशीन लर्निंग प्रणालियों के लिए सार्थक नियामक मानकों की मांग बढ़ती जा रही है, विशेषकर मुख्य बुनियादी ढाँचा और सैन्य उपयोग जैसे मिशन‑क्रिटिकल क्षेत्रों में। चूँकि एमएल प्रणालियाँ अभी भी विकासात्मक चरण में हैं और तेज़ी से प्रगति कर रही हैं, वे अपेक्षाकृत अस्थिर और अक्सर विवादास्पद समाधान प्रस्तुत करती हैं, जिससे अब प्रतिकृति‑योग्य और विश्वसनीय विश्लेषणात्मक एल्गोरिदम की पहचान करना आवश्यक हो गया है – यदि यह संभव हो सके।

अप्रैल में CalypsoAI ने Endless Frontiers Act का समर्थन किया, जो चीन की एआई शक्ति के बढ़ते प्रभाव के सामने विज्ञान निधिकरण को सुधारने के लिए एक कांग्रेस बिल था, हालांकि यह विधेयक अंततः सीनेट चरण में कमजोर कर दिया गया।

संघीय एआई के लिए वैधता

VESPR प्रेस रिलीज़ के अनुसार, इस ढाँचे में शामिल क्षेत्रों में कंप्यूटर विज़न और प्राकृतिक भाषा प्रसंस्करण (NLP) शामिल हैं।

CalypsoAI का दावा है कि VESPR को ‘मौजूदा राष्ट्रीय सुरक्षा ग्राहकों से महत्वपूर्ण इनपुट के साथ और प्रतिकूल मशीन लर्निंग पर स्वतंत्र रूप से वित्तपोषित कई वर्षों के शोध के परिणामस्वरूप’ बनाया गया था।

प्रोमोशनल वीडियो (लेख के अंत में देखें) में दिखाई देने वाली प्रणाली की छवियों में डेटा विषाक्तता और शोर इंजेक्शन के लिए पता लगाने और/या सिमुलेशन प्रक्रियाएँ शामिल प्रतीत होती हैं, जो तैनात प्रणालियों पर संभावित हमलावरों की क्रियाओं के सिमुलेशन प्रदान करती हैं।

Click to enlarge.

यह प्रणाली राष्ट्रीय तथा विदेशी दोनों प्रकार की ऐतिहासिक कार्रवाई डेटा का उपयोग करती प्रतीत होती है। लक्ष्य वर्गों में ‘प्रदर्शन’ और ‘दंगा’ शामिल हैं, साथ ही कम स्पष्ट ‘रणनीतिक विकास’ भी। राष्ट्रीय आतंकवादी घटनाएँ भी प्रणाली के संदर्भ डेटाबेस में शामिल दिखाई देती हैं, जिसमें ‘नागरिकों के खिलाफ हिंसा’ एक अन्य उपलब्ध लक्ष्य वर्ग है। अन्य उपलब्ध लक्ष्य वर्गों में ‘युद्ध’ और ‘विस्फोट/दूरस्थ हिंसा’ शामिल हैं।

Click to enlarge.

प्रणाली कॉन्फ़िगरेशन के ‘BIAS management’ अनुभाग में विशेषताओं की सुरक्षा की अनुमति देती प्रतीत होती है, जो संभवतः ओवरफ़िटिंग से लड़ने या विश्लेषणात्मक प्रक्रिया में रुचिकर छोटे अपवर्जन घटनाओं को अनचाहे ढंग से हटाने से बचने के लिए डिज़ाइन किया गया है। वीडियो में, VESPR ‘यूक्रेन’ के बारे में तालिकाबद्ध ऐतिहासिक डेटा को प्रोसेस कर रहा है।

इस प्रारंभिक प्रोमोशनल धूम के परे, संभवतः (डिज़ाइन के कारण) हम इस सरकारी‑उन्मुख SaaS उत्पाद के बारे में अधिक नहीं सुनेंगे; इसका नाम एक कॉफ़ी बार फ्रैंचाइज़, एक सामाजिक डेटिंग ऐप और एक स्ट्रीमिंग एल्बम के साथ साझा करता है, और रैंकिंग परिणामों में लगातार VSEPR रसायन मॉडल द्वारा पीछे धकेला जाता है।

CalypsoAI ने जुलाई 2020 में Paladin Capital Venture Group से $13 मिलियन की सीरीज़ A फंडिंग प्राप्त की। अन्य निवेशकों में 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners और Pallas Ventures शामिल थे।

कंपनी की साइट पर एक ब्लॉग पोस्ट में, CalypsoAI के संस्थापक Neil Serebryany, जिन्होंने 2018 में रक्षा विभाग में अनिर्दिष्ट शोध कार्य किया था, बताते हैं कि कंपनी को एक संभावित समाधान के रूप में स्थापित किया गया था ताकि सरकारों के उन्नत एल्गोरिदमिक सिस्टम को अनियंत्रित माहौल में तैनात करने के भय को दूर किया जा सके:

‘एआई परियोजनाओं के इस भय का मुख्य कारण, जिससे सरकार के भीतर उन्हें छोड़ दिया जाता है, सतही लग सकता है, लेकिन वास्तव में काफी जटिल है। उन्हें गुणवत्ता आश्वासन की कमी के कारण छोड़ दिया जा रहा था […] एआई मॉडल को पारंपरिक सॉफ़्टवेयर मॉडल की तरह मूल्यांकन नहीं किया जा सकता। यह मॉडल संरचना की मूल प्रकृति और उनकी विफलता के अत्यधिक जटिल तरीकों के कारण है। गैर‑निर्धारित प्रणालियों को निर्धारक, ऑडिटेबल तरीके से मूल्यांकन करने के तंत्र की कमी के कारण, सरकार के भीतर संगठन बेंचमार्क के खिलाफ एआई मॉडलों की तथाकथित ‘गुणवत्ता’ का आकलन नहीं कर पाए। इससे यह भय उत्पन्न हुआ कि वे विफल हो सकते हैं, खराब काम कर सकते हैं, या सबसे अधिक आवश्यकता के समय—जैसे युद्ध, उड़ान, या जटिल चिकित्सा प्रक्रिया के दौरान—एक प्रतिद्वंद्वी द्वारा हैक किए जा सकते हैं।’

सलाहकार बोर्ड

निवेश दौर से एक महीने पहले, कंपनी ने एक राष्ट्रीय सुरक्षा सलाहकार बोर्ड बनाया, जिसमें टॉनी डीमार्टिनो (पूर्व रक्षा सचिव जिम मैटिस के सहायक, अब वॉशिंगटन‑आधारित रणनीतिक सलाहकार फर्म Pallas Advisors के संस्थापक साझेदार), करी बिंगेन (पूर्व प्रधान उप सचिव रक्षा खुफ़िया, राष्ट्रपति ट्रम्प के तहत), शॉन रोश (पूर्व CIA डिजिटल नवाचार सहायक उप निदेशक, उस संगठन में पूर्व साइबर‑इंटेलिजेंस विशेषज्ञ) और माइकल मोलीनो (पूर्व ASRC Federal के कॉर्पोरेट विकास के कार्यकारी उपाध्यक्ष, जो विभिन्न महत्वपूर्ण संघीय सेवाओं में सलाह, शोध और तकनीकी माइग्रेशन क्षमताएँ प्रदान करता है) शामिल थे।

रिलीज़ के अनुसार:

‘VESPR उन्नत एआई परीक्षण क्षमताएँ प्रदान करता है, एक सुव्यवस्थित कार्यप्रवाह के साथ यह सुनिश्चित करता है कि उत्पादन में डाले जाने वाले प्रत्येक मशीन लर्निंग एल्गोरिदम को सुरक्षित रूप से सत्यापित किया गया है। VESPR कंप्यूटर विज़न से लेकर प्राकृतिक भाषा प्रसंस्करण तक विभिन्न एआई प्रणालियों को बेजोड़ सुरक्षा और आश्वासन प्रदान करता है। VESPR प्रक्रिया सुरक्षित मशीन लर्निंग जीवन‑चक्र (SMLC) के दौरान परीक्षण, मूल्यांकन, सत्यापन और वैधता (TEVV) सुनिश्चित करती है, शोध और विकास चरण से लेकर मॉडल तैनाती तक। अंतिम परिणाम ऐसे एआई सिस्टम हैं जो मॉडल क्षमताओं, कमजोरियों और प्रदर्शन पर सटीक और व्यापक निगरानी और रिपोर्टिंग प्रदान करते हैं।’

अपडेट किया गया 11:07 AM EST यह दर्शाने के लिए कि Michael Molino अब ASRC Federal में कार्य नहीं करते, मूल लेख में एक त्रुटि थी।

अपडेट किया गया 1January 28, 2024 टूटा हुआ YouTube वीडियो हटाने के लिए।