क्रिप्टोग्राफ़िक एआई इन्फरेंस प्रमाणों के लिए Anthropic ने FlashProve जारी किया

Anthropic ने 2 नवंबर 2026 को FlashProve जारी किया: यह एक ओपन-सोर्स शोध प्रोटोटाइप है, जो क्रिप्टोग्राफ़िक प्रमाणों के ज़रिए दिखाता है कि भाषा-मॉडल का जवाब प्रतिबद्ध वेट से आया है, बिना उन वेट को उजागर किए। कंपनी ने बताया कि Meta के Llama 4 Maverick के लिए प्रमाण 110 टोकन प्रति सेकंड की दर से तैयार किए गए।

यह काम होस्टेड एआई में मौजूद सत्यापन की कमी को दूर करने की कोशिश करता है। किसी जवाब की उच्च गुणवत्ता से यह साबित नहीं होता कि उसे किस मॉडल ने तैयार किया है: रूटिंग सेवा उसकी जगह कोई दूसरी प्रणाली इस्तेमाल कर सकती है, मूल्यांकनकर्ता को परीक्षण के लिए तय मॉडल के बजाय कोई दूसरा मॉडल मिल सकता है, या कोई हमलावर टोकन-क्रम में बदलाव कर सकता है। जब वेट निजी हों और हार्डवेयर की ज़रूरतें काफ़ी अधिक हों, तो उपयोगकर्ताओं के लिए मॉडल को दोबारा चलाकर जाँच करना व्यावहारिक नहीं होता।

छिपे हुए वेट से जवाबों को जोड़ना

FlashProve, भरोसेमंद हार्डवेयर पर निर्भर रहने के बजाय, केवल सॉफ़्टवेयर पर आधारित डिज़ाइन में शून्य-ज्ञान संक्षिप्त ज्ञान-तर्क (zkSNARK) का इस्तेमाल करता है। ऑफ़लाइन चरण के दौरान, सेवा प्रदाता एक छोटी प्रतिबद्धता प्रकाशित करता है, जो वेट के एक सटीक समूह की पहचान करती है, जबकि उन वेट को गुप्त रखा जाता है। पूरे हो चुके प्रॉम्प्ट और जवाब के जोड़ों के लिए, यह प्रणाली प्रमाण तैयार करती है कि आउटपुट टोकन उसी प्रतिबद्ध मॉडल के आउटपुट हैं। प्रतिबद्धता, प्रॉम्प्ट और जवाब रखने वाला कोई भी व्यक्ति वेट तक पहुँच के बिना प्रमाण की जाँच कर सकता है।

इस डिज़ाइन में पूर्णता, सुदृढ़ता, शून्य-ज्ञान और संक्षिप्तता अपेक्षित गुण हैं। किसी ईमानदार प्रमाण को स्वीकार किया जाना चाहिए, जबकि किसी झूठे कथन को प्रमाणित करने के लिए व्यापक रूप से स्वीकृत क्रिप्टोग्राफ़िक मान्यताओं को तोड़ना पड़े। प्रमाण की जाँच से न तो वेट उजागर होने चाहिए, न ही गणना के बीच के मान। यह डिज़ाइन हर टोकन के लिए इस्तेमाल हुए मिक्सचर-ऑफ़-एक्सपर्ट्स सबनेटवर्क को भी छिपाता है, हालाँकि मॉडल की संरचना दिखाई देती रहती है।

इस कार्यान्वयन में Maverick की मिक्सचर-ऑफ़-एक्सपर्ट्स संरचना का लाभ उठाया गया है। प्रमाण तैयार करने का काम, सभी 400 अरब पैरामीटर के बजाय, प्रति टोकन सक्रिय लगभग 17 अरब पैरामीटर के अनुपात में बढ़ता है; साथ ही विशेषज्ञों के चयन छिपे रहते हैं। खंडों में बाँटे गए वेट होस्ट मेमोरी से स्ट्रीम किए जाते हैं, जिससे प्रमाण तैयार करने वाली प्रणाली लगभग 290 GB होस्ट मेमोरी के साथ एक 80 GB GPU पर काम कर सकती है।

Anthropic ने ग्राहक-स्तर की अखंडता जाँच, स्वतंत्र मूल्यांकन, नियामकीय टूल और स्वीकृत-मॉडल संबंधी आवश्यकताओं को लागू कराने में इसके संभावित उपयोग बताए हैं। इन्फरेंस प्रमाण यह पुष्टि कर सकते हैं कि अनुरोधों का जवाब दावे के मुताबिक मॉडल ने दिया, लेकिन वे यह साबित नहीं कर सकते कि उसी हार्डवेयर का इस्तेमाल किसी दूसरे मॉडल को प्रशिक्षित करने के लिए भी नहीं किया गया। इस अंतर के कारण, कंप्यूटिंग क्षमता के उपयोग पर आधारित अनुपालन आवश्यकताओं के बारे में ऐसे प्रमाण क्या दिखा सकते हैं, इसकी सीमा तय होती है।

प्रमाण के प्रदर्शन और इन्फरेंस पर अतिरिक्त भार

Anthropic के मूल्यांकन में मॉडल के सार्वजनिक रूप से उपलब्ध 4-बिट रूपांतरण का इस्तेमाल किया गया। एक H100 और 24 CPU कोर वाले सर्वर ने 24 अनुरोधों के एक बैच के प्रमाण लगभग 223 सेकंड में तैयार किए; हर अनुरोध के लिए 18.78 MB का प्रमाण बना। ऑफ़लाइन प्रतिबद्धता चरण में लगभग 39 मिनट लगे।

सत्यापन के लिए, क्लाइंट लगभग 6.5 MB की प्रतिबद्धता डाउनलोड करता है और GPU के बिना CPU पर प्रमाणों की जाँच करता है। Anthropic ने सत्यापन में 24 थ्रेड के साथ 17 सेकंड और एक थ्रेड के साथ 21 सेकंड मापे; इन समयों में ऑफ़लाइन चरण की जाँच भी शामिल थी।

इन मापों से केवल CPU पर होने वाली जाँच और इससे कहीं अधिक संसाधन लेने वाली प्रमाण-निर्माण प्रक्रिया के बीच का अंतर स्पष्ट होता है। vLLM पर चल रहे आठ H100 के साथ FP8 इन्फरेंस की Anthropic की तुलना में, समान बैच के लिए प्रमाण तैयार करने में प्रति GPU लगभग 72 गुना अधिक समय लगा; vLLM पर परीक्षण किए गए सबसे अधिक लोड पर यह समय लगभग 94 गुना अधिक था। इसलिए, बिना प्रमाण के मॉडल चलाने की तुलना में इस थ्रूपुट की कीमत काफ़ी अधिक है।

औपचारिक सत्यापन और व्यावहारिक सीमाएँ

FlashProve का रिपॉज़िटरी Apache 2.0 लाइसेंस के तहत एक प्रमाण-निर्माता, तेज़ C++ सत्यापक, धीमा Lean सत्यापक, उच्च-स्तरीय गणितीय कथनों के Lean प्रमाण और एक इंटरैक्टिव प्रमेय-दृश्यकार प्रदान करता है। इसमें संस्करण 0.16.0 को एक ऐसा शोध-संसाधन बताया गया है जिसका रखरखाव नहीं किया जा रहा और जिसमें योगदान स्वीकार नहीं किए जा रहे।

Lean में किया गया काम रैंडम-ओरेकल मॉडल के तहत पूर्णता, सुदृढ़ता और शून्य-ज्ञान से संबंधित है। औपचारिक कथनों की अभी भी मैन्युअल समीक्षा ज़रूरी है, ताकि यह तय हो सके कि वे अपनी लक्षित गारंटियों को सही ढंग से व्यक्त करते हैं। Lean सत्यापक औपचारिक रूप से सुदृढ़ता प्रमेय से जुड़ा है, लेकिन नियमित इस्तेमाल के लिए बनाया गया C++ सत्यापक कोई औपचारिक गारंटी नहीं देता; इसके बजाय, यह जाँचा गया कि उसके नतीजे Lean सत्यापक से मेल खाते हैं या नहीं।

परियोजना के ज्ञात सीमाओं संबंधी दस्तावेज़ में बताया गया है कि सॉफ़्टवेयर, Lean प्रमाणों और दस्तावेज़ीकरण का लगभग पूरा हिस्सा मानव निर्देशन में काम करने वाली एआई प्रणालियों ने लिखा, और बताई गई जाँचें भी उन्हीं ने चलाईं। कोई स्वतंत्र सुरक्षा ऑडिट नहीं हुआ है और वेट को छिपाने तथा विरोधी प्रमाणों की जाँच अभी सीमित है।

ये प्रमाण, वेट के एक सटीक पूर्णांक रूप पर, ग्रीडी डिकोडिंग के तहत लागू होते हैं। फ़्लोटिंग-पॉइंट इन्फरेंस या सैंपलिंग-आधारित डिकोडिंग उस गणना से अलग हो सकती है जिसे प्रमाणित किया जा रहा है, और सामान्य त्रुटि-जाँच में विरोधी इरादे से तैयार किए गए प्रॉम्प्ट शामिल नहीं हैं। संदर्भ की सीमा 1,024 टोकन है, जबकि समय-आधारित और अन्य साइड-चैनल हमले इस गारंटी के दायरे से बाहर हैं। इन्फरेंस के साथ-साथ प्रमाण तैयार करने की तुलना में, बाद में प्रमाण तैयार करने से गणना दोहरानी पड़ती है, आश्वासन मिलने में देरी होती है और परिणामों में अनिश्चितता आती है।

प्रमाणित की जा सकने वाली अनुमान-प्रक्रिया को सेवा दिए जा रहे ट्रैफ़िक की नियमित जाँच बनाने के लिए, आगे का काम उन कमियों को दूर करने पर केंद्रित है जिन्हें यह रिलीज़ उजागर करती है: प्रमाण तैयार करने की लागत घटाना, कम प्रतिबंधात्मक डिकोडिंग और लंबे संदर्भों को समायोजित करना, तथा तेज़ कार्यान्वयन को औपचारिक प्रोटोकॉल से और मज़बूती से जोड़ना।