प्रॉम्प्ट इंजीनियरिंग
ओपनएआई के चैटजीपीटी कोड इंटरप्रेटर का अन्वेषण: इसकी क्षमताओं में गहराई से जाना
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुOpenAI's Code Interpreter transforms ChatGPT into a computational tool that executes…
और देखें
- OpenAI's Code Interpreter transforms ChatGPT into a computational tool that executes code and processes diverse file formats.
- The system's functional correctness is measured by pass@k using unit tests rather than traditional text matching metrics.
- Code Interpreter operates in a secure sandbox with over 300 libraries and temporary file storage for user safety.
प्राकृतिक भाषा प्रसंस्करण (NLP) में OpenAI की प्रगति बड़े भाषा मॉडल (LLM) के विकास से जुड़ी है। GitHub Copilot जैसे कोडिंग सहायक और Bing जैसे उत्पाद लाखों लोगों तक इन क्षमताओं को पहुँचाते हैं। जानकारी के पैटर्न सीखने और उन्हें जोड़ने की क्षमता से ऐसे मॉडल कोड और टेक्स्ट बनाने के कार्यों में उपयोगी हुए हैं। यह लेख मूल 2023 विवरण और उस समय दिखाए गए प्रयोगों पर आधारित है।
ChatGPT के Code Interpreter को समझना
Code Interpreter का महत्व समझने के लिए पहले जानें कि यह क्या करता है। यह ChatGPT की संवाद क्षमताओं के साथ कोड समझने, बनाने और चलाने की सुविधा जोड़ता है। इससे डेवलपर कोड समझने, त्रुटियाँ खोजने और नया कोड बनाने में सहायता ले सकते हैं। अलग-अलग भाषाओं के कोड पर चर्चा करने और उसके निष्पादन वातावरण में कोड चलाने को एक ही बात नहीं मानना चाहिए; आगे के प्रयोग Python वातावरण से संबंधित हैं।
कोडिंग के लिए GPT का प्रशिक्षण: Codex का दृष्टिकोण
मूल लेख GitHub Copilot और ChatGPT के Code Interpreter का परिचय देते हुए OpenAI के Codex मॉडल का शोध समझाता है। नीचे दिए बेंचमार्क Codex शोध के परिणाम हैं।
Codex Python कोड लिखने के लिए विशेष रूप से प्रशिक्षित GPT भाषा मॉडल है। GitHub के सार्वजनिक कोड पर प्रशिक्षण के बाद यह डॉकस्ट्रिंग से प्रोग्राम बनाने के मूल्यांकन में GPT-3 और GPT-J से बेहतर रहा। बार-बार नमूने बनाने पर सफलता बढ़ी: हर समस्या के लिए अधिकतम 100 नमूने देने पर 70.2% समस्याओं में सफल समाधान मिला। इससे हर नमूने का पूरा मूल्यांकन किए बिना सही समाधान चुनने के लिए अनुमान-आधारित रैंकिंग की संभावना सामने आती है।
मूल्यांकन में केवल डॉकस्ट्रिंग के आधार पर स्वतंत्र Python फ़ंक्शन बनाने को कहा गया और शुद्धता यूनिट टेस्ट से जाँची गई। भाषा की समझ, एल्गोरिदम और बुनियादी गणित से संबंधित 164 मौलिक समस्याओं में 12 अरब पैरामीटर वाले Codex ने एक प्रयास में 28.8% हल कीं।
Codex मॉडल का प्रशिक्षण डेटा: https://arxiv.org/abs/2107.03374
