एआई मॉडल और प्लेटफ़ॉर्म

AWS ने PolyAI Dialog-RSN-1 को SageMaker JumpStart कैटलॉग में शामिल किया

Jonas Reeve
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुजंपस्टार्ट मूल्यांकन से शासित AWS एंडपॉइंट तक के मार्ग को छोटा करता है, लेकिन टेलीफोनी…
और देखें
  • जंपस्टार्ट मूल्यांकन से शासित AWS एंडपॉइंट तक के मार्ग को छोटा करता है, लेकिन टेलीफोनी और वाक् संश्लेषण ग्राहकों पर छोड़ देता है।
  • डायलॉग-आरएसएन-1 केवल टेक्स्ट या फ़ंक्शन कॉल लौटाता है, इसलिए प्रत्येक परिनियोजन को अपनी स्वयं की टेक्स्ट-टू-स्पीच परत जोड़नी होती है।
  • बिलिंग तब शुरू होती है जब एंडपॉइंट सेवा में प्रवेश करता है और विलोपन तक जारी रहती है, भले ही कोई क्लाइंट जुड़ा न हो।

AWS ने 19 नवंबर, 2026 को घोषणा की कि PolyAI का Dialog-RSN-1 Amazon SageMaker JumpStart कैटलॉग में शामिल हो गया है। इससे ऑडियो-आधारित ग्राहक सेवा मॉडल के लिए एक-क्लिक तैनाती, मूल्यांकन उपकरण और अनुकूलन के चार प्रोफ़ाइल उपलब्ध हुए हैं। एंडपॉइंट ग्राहक के अपने AWS खाते में चलता है।

नई पहल कैटलॉग के ज़रिए कार्यप्रवाह उपलब्ध कराना है; इससे पहले PolyAI ने दो घोषणाएँ की थीं। PolyAI ने 30 जुलाई, 2026 को Dialog-RSN-1 पेश किया और 6 अक्टूबर, 2026 को AWS Marketplace के ज़रिए SageMaker एंडपॉइंट की तैनाती की घोषणा की। JumpStart मॉडल खोजने, उसका मूल्यांकन करने और पहले से कॉन्फ़िगर की गई तैनाती की सुविधा देता है, जबकि ग्राहकों को सदस्यता अब भी AWS Marketplace के ज़रिए लेनी होती है।

एक ही कैटलॉग में मूल्यांकन और तैनाती

SageMaker AI कंसोल के Model Hub में ग्राहक Dialog-RSN-1 चुनकर तैनाती का विकल्प चुनता है। JumpStart पहले से कॉन्फ़िगर किए गए सर्विंग स्टैक पर रीयल-टाइम इन्फरेंस एंडपॉइंट बनाता है। इससे कंटेनर को हाथ से चुनने और इन्फ्रास्ट्रक्चर के दर्जनों संयोजनों का मैन्युअल बेंचमार्क करने की ज़रूरत नहीं रहती। इसके बजाय, टीमें SageMaker Python SDK कोड की कुछ पंक्तियों का इस्तेमाल कर सकती हैं और तैनाती को सतत एकीकरण और सतत डिलीवरी पाइपलाइनों में शामिल कर सकती हैं।

तैनाती से पहले, मॉडल कार्ड P50 विलंबता, पहले टोकन तक का समय और थ्रूपुट दिखाता है। प्रोफ़ाइल विलंबता, थ्रूपुट, लागत या संतुलित सामान्य उपयोग को प्राथमिकता देते हैं: विलंबता वाला प्रोफ़ाइल पहले टोकन तक का समय कम करता है, थ्रूपुट वाला प्रति सेकंड टोकन की संख्या अधिकतम करता है और लागत वाला प्रति अनुरोध इन्फ्रास्ट्रक्चर की लागत घटाता है। इन विकल्पों से सर्विंग कॉन्फ़िगरेशन को कॉल की मात्रा, जवाब देने की गति और खर्च की ज़रूरतों के अनुरूप बनाया जा सकता है, बजाय इसके कि हर कार्यभार पर एक ही डिफ़ॉल्ट लागू किया जाए।

मूल्यांकन उसी कैटलॉग प्रविष्टि में उपलब्ध है। PolyAI की नमूना नोटबुक कॉल करने वालों की रिकॉर्ड की गई ऑडियो स्ट्रीम करती है और मॉडल के बारी लेने से जुड़े फ़ैसले, जवाब और प्रतिलेख दिखाती है। इससे टीम उन तरह की कॉल पर मॉडल के व्यवहार की जाँच कर सकती है जिन्हें संभालने की उससे अपेक्षा है। टीमें तैनाती से पहले परिचय और नमूनों की समीक्षा कर सकती हैं; अपनी ऑडियो को मॉडल के ज़रिए स्ट्रीम करने के लिए एंडपॉइंट की ज़रूरत होती है।

अलग वॉइस लेयर के साथ ऑडियो पर तर्क करना

Dialog-RSN-1 कॉल करने वाले की ऑडियो को सीधे संसाधित करता है और बारी-बारी से बातचीत, वाक् पहचान, जवाब तैयार करना और फ़ंक्शन कॉलिंग—इन सबको एक ही मॉडल में जोड़ता है। PolyAI का कहना है कि सीधे ऑडियो से आवाज़ का लहजा, हिचकिचाहट और समय-निर्धारण बरकरार रहता है, जो क्रमिक प्रणाली में खो सकता है, जब वाक् पहचान कॉल को केवल प्रतिलेख में बदल देती है। वॉइस एक्टिविटी डिटेक्टर हर प्रोब को सक्रिय करता है, जबकि मॉडल का पहला आउटपुट टोकन दर्ज करता है EMPTY, ONGOING या COMPLETE, जिससे बारी लेने का अंतिम फ़ैसला मॉडल करता है।

आउटपुट की प्रक्रिया अलग है। Dialog-RSN-1 स्ट्रीम किए गए जवाब का पाठ या फ़ंक्शन कॉल लौटाता है, जबकि कॉल करने वाले का प्रतिलेख अलग से आता है; यह वाक् संश्लेषण नहीं करता। इसलिए तैनाती में टेक्स्ट-टू-स्पीच की व्यवस्था करनी होती है। इससे ग्राहक अपनी पसंद की आवाज़ चुन सकता है, लेकिन मॉडल एंडपॉइंट के बाहर एक अतिरिक्त घटक जुड़ जाता है।

PolyAI की Marketplace सूची में बताया गया है कि पहले टोकन का जवाब मिलने का मध्यिका समय 300 मिलीसेकंड से कम है और उत्पादन परिवेश में कॉल करने वाले के एक सामान्य पूरे संवाद में लगभग 390 मिलीसेकंड लगते हैं। यह अंतर महत्त्वपूर्ण है, क्योंकि केवल मॉडल की विलंबता से उस पूरी वॉइस तैनाती में लगने वाली देरी का पता नहीं चलता जिसमें वाक् संश्लेषण, टेलीफ़ोनी और बाहरी टूल शामिल हों।

एकीकरण की सीमाएँ और प्रति घंटे की लागत

एंडपॉइंट ग्राहक के वर्चुअल प्राइवेट क्लाउड में रहता है, उसके AWS Identity and Access Management की भूमिकाओं का इस्तेमाल करता है और Amazon CloudWatch के ज़रिए उसकी निगरानी की जाती है। चूँकि इन्फरेंस उसी खाते में चलता है, कॉल की ऑडियो और प्रतिलेख ग्राहक के नियंत्रण वाले इन्फ्रास्ट्रक्चर के भीतर रहते हैं। डेटा-रेज़िडेंसी और ऑडिट की ज़रूरतों के लिहाज़ से यह व्यवस्था प्रासंगिक है।

एंडपॉइंट OpenAI Realtime प्रोटोकॉल लागू करता है। PolyAI का क्लाइंट ब्रिज Realtime क्लाइंट के लिए एक स्थानीय WebSocket उपलब्ध कराता है और उनके इवेंट को SageMaker की हस्ताक्षरित द्विदिशीय HTTP/2 स्ट्रीम के ज़रिए भेजता है; एप्लिकेशन उस स्ट्रीम को सीधे भी इस्तेमाल कर सकते हैं। टेलीफ़ोनी, ऑर्केस्ट्रेशन, बिज़नेस लॉजिक और टूल चलाने की ज़िम्मेदारी ग्राहकों की रहती है। PolyAI के एकीकरण संबंधी मार्गदर्शन के मुताबिक, टूल कॉल पर कार्रवाई करने से पहले तारीखों, संदर्भ संख्याओं और राशियों की पुष्टि करनी चाहिए।

ऑडियो इनपुट केवल 16 या 24 kHz पर base64-एन्कोडेड PCM16 मोनो तक सीमित है; G.711, Opus या स्टीरियो का समर्थन नहीं है। संदर्भ विंडो 32,000 टोकन की है और मॉडल केवल अंग्रेज़ी में काम करता है। कनेक्शन की अधिकतम अवधि 30 मिनट है और निष्क्रिय रहने पर पाँच मिनट में टाइमआउट हो जाता है। दोबारा कनेक्ट होने पर स्थिति आगे नहीं बढ़ती, इसलिए नया सत्र शुरू करते समय एप्लिकेशन को प्रासंगिक संदर्भ फिर से बहाल करना पड़ता है।

रीयल-टाइम इन्फरेंस की लागत प्रति होस्ट घंटे $45 है, पर ml.p4d.24xlarge और प्रति होस्ट घंटे $110 है, पर ml.p5.48xlarge। होस्ट घंटे का अर्थ है कंप्यूट इंस्टेंस के चलने का एक घंटा; AWS के अतिरिक्त इन्फ्रास्ट्रक्चर शुल्क भी लागू हो सकते हैं। एंडपॉइंट के सेवा में आते ही बिलिंग शुरू हो जाती है और उसे हटाए जाने तक जारी रहती है, भले ही कोई क्लाइंट उससे जुड़ा न हो। AWS के तैनाती उदाहरण सफ़ाई के दौरान एंडपॉइंट, एंडपॉइंट कॉन्फ़िगरेशन और मॉडल को हटा देते हैं।

JumpStart का मुख्य योगदान मॉडल के मूल्यांकन से लेकर नियामक नियंत्रणों के अनुरूप AWS एंडपॉइंट तक पहुँचने की परिचालन प्रक्रिया को छोटा करना है। मॉडल के इर्द-गिर्द उत्पादन से जुड़ा बाकी काम अभी भी करना पड़ता है: टेलीफोनी, वाक् संश्लेषण, टूल का सत्यापन, सत्र की बहाली और ऐसे एंडपॉइंट का प्रबंधन, जिस पर निष्क्रिय रहने के दौरान भी शुल्क लगता है। इसलिए व्यावसायिक औचित्य इस बात पर निर्भर करता है कि ग्राहक की अपनी ऑडियो रिकॉर्डिंग से कॉल संभालने के नतीजे क्या मिलते हैं और उनकी तुलना इंजीनियरिंग तथा होस्टिंग की लगातार जारी लागत से करने पर क्या सामने आता है।

Jonas Reeve एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो संज्ञानात्मक AI, कृत्रिम सामान्य बुद्धिमत्ता (AGI), और मशीन इंटेलिजेंस की सैद्धांतिक नींव पर केंद्रित हैं। उनका कार्य यह जांचता है कि सीखना, तर्क, स्मृति और अमूर्तन दोनों जैविक और कृत्रिम प्रणालियों में कैसे उभरते हैं, और आधुनिक AI आर्किटेक्चर को संज्ञानात्मक विज्ञान और मन के दर्शन में लंबे समय से मौजूद प्रश्नों से जोड़ता है।

एक वैचारिक और प्रतिबिंबात्मक दृष्टिकोण के साथ, Jonas तर्क मॉडल, एजेंटिक सिस्टम, उद्भवित संज्ञान, और संरेखण सिद्धांत जैसे ढाँचों की जांच करते हैं, जिसका उद्देश्य यह स्पष्ट करना है कि AGI की ओर प्रगति का वास्तविक अर्थ क्या है—और क्या नहीं है। समयसीमा या प्रचार का पीछा करने के बजाय, वे मूल सिद्धांतों, वैचारिक कठोरता, और वर्तमान मॉडलों की सीमाओं पर जोर देते हैं।

Jonas Reeve द्वारा लिखे गए लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा सटीकता, स्पष्टता, और उन्नत AI अवधारणाओं की जिम्मेदार चर्चा सुनिश्चित करने के लिए समीक्षित किए जाते हैं।