ओपनएआई सुरक्षा परिषद का गठन करता है, विवादों के बीच अगली पीढ़ी के एआई मॉडल को प्रशिक्षित करता है

ओपनएआई ने आर्टिफ़िशियल इंटेलिजेंस तकनीकों को आगे बढ़ाने में महत्वपूर्ण प्रगति की है, जिसमें इसकी सबसे हालिया उपलब्धि जीपीटी-4ओ सिस्टम है जो लोकप्रिय चैटजीपीटी चैटबॉट को शक्ति प्रदान करता है। आज, ओपनएआई ने घोषणा की कि यह एक नई सुरक्षा समिति की स्थापना कर रहा है, ओपनएआई सुरक्षा परिषद, और खुलासा किया कि यह एक नए एआई मॉडल को प्रशिक्षित करना शुरू कर दिया है।

ओपनएआई की सुरक्षा परिषद में कौन है?

नई बनाई गई ओपनएआई सुरक्षा परिषद का उद्देश्य कंपनी की परियोजनाओं और संचालन से संबंधित महत्वपूर्ण सुरक्षा और सुरक्षा निर्णयों पर मार्गदर्शन और पर्यवेक्षण प्रदान करना है। परिषद का प्राथमिक उद्देश्य यह सुनिश्चित करना है कि ओपनएआई की एआई विकास प्रथाओं में सुरक्षा को प्राथमिकता दी जाए और नैतिक सिद्धांतों के साथ संरेखित किया जाए। सुरक्षा समिति में विविध व्यक्तियों का एक समूह शामिल है, जिसमें ओपनएआई के कार्यकारी, बोर्ड सदस्य और तकनीकी और नीति विशेषज्ञ शामिल हैं।

ओपनएआई सुरक्षा परिषद के उल्लेखनीय सदस्यों में शामिल हैं:

• सैम ऑल्टमैन, ओपनएआई के सीईओ
• ब्रेट टेलर, ओपनएआई के अध्यक्ष
• एडम डी’एंजेलो, क्वोरा के सीईओ और ओपनएआई बोर्ड सदस्य
• निकोले सेलिगमैन, सोनी के पूर्व महाधिवक्ता और ओपनएआई बोर्ड सदस्य

प्रारंभिक चरण में, नई सुरक्षा और सुरक्षा समिति ओपनएआई की मौजूदा सुरक्षा प्रक्रियाओं और सुरक्षा उपायों का मूल्यांकन और मजबूत करने पर केंद्रित होगी। ओपनएआई सुरक्षा परिषद ने बोर्ड को एआई विकास प्रथाओं और सुरक्षा प्रणालियों को बेहतर बनाने के तरीके पर सिफारिशें देने के लिए 90 दिन की समय सीमा निर्धारित की है। एक बार सिफारिशें अपनाई जाने के बाद, ओपनएआई सुरक्षा और सुरक्षा विचारों के साथ संगत तरीके से उन्हें सार्वजनिक रूप से जारी करने की योजना बना रहा है।

नए एआई मॉडल का प्रशिक्षण

ओपनएआई सुरक्षा परिषद की स्थापना के साथ-साथ, ओपनएआई ने घोषणा की है कि यह अपने अगले मॉडल को प्रशिक्षित करना शुरू कर दिया है। यह नवीनतम कृत्रिम बुद्धिमत्ता मॉडल वर्तमान में चैटजीपीटी को शक्ति प्रदान करने वाली जीपीटी-4 प्रणाली की क्षमताओं को पार करने की उम्मीद है। जबकि नए एआई मॉडल के बारे में विवरण दुर्लभ हैं, ओपनएआई ने कहा है कि यह क्षमता और सुरक्षा दोनों में उद्योग का नेतृत्व करेगा।
इस नए एआई मॉडल का विकास कृत्रिम बुद्धिमत्ता के क्षेत्र में नवाचार की तेज़ गति और कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) की संभावना को रेखांकित करता है। जैसे-जैसे एआई प्रणाली अधिक उन्नत और शक्तिशाली होती जा रही हैं, यह सुनिश्चित करना महत्वपूर्ण है कि सुरक्षा को प्राथमिकता दी जाए और इन प्रौद्योगिकियों को जिम्मेदारी से विकसित किया जाए।

ओपनएआई के हाल के विवाद और प्रस्थान

ओपनएआई का सुरक्षा पर संदेह के बीच नवीनीकृत फोकस आता है। हाल के हफ्तों में, कंपनी ने अपने ही रैंकों के भीतर से आलोचना का सामना किया है, जिसमें शोधकर्ता जान लीक ने इस्तीफा दे दिया और चिंता व्यक्त की कि सुरक्षा को “चमकदार उत्पादों” के विकास के लिए प्राथमिकता दी गई है। लीक के इस्तीफे के बाद, ओपनएआई के सह-संस्थापक और मुख्य वैज्ञानिक इल्या सुत्स्केवर का प्रस्थान हुआ।

लीक और सुत्स्केवर के प्रस्थान ने कंपनी की प्राथमिकताओं और एआई सुरक्षा के प्रति इसके दृष्टिकोण के बारे में सवाल उठाए हैं। दोनों शोधकर्ताओं ने संयुक्त रूप से ओपनएआई की “सुपरलाइनमेंट” टीम का नेतृत्व किया, जो दीर्घकालिक एआई जोखिमों से निपटने के लिए समर्पित थी। उनके इस्तीफे के बाद, सुपरलाइनमेंट टीम को भंग कर दिया गया, जिससे सुरक्षा के प्रति कंपनी की प्रतिबद्धता के बारे में चिंताएं और बढ़ गईं。

आंतरिक उथल-पुथल के अलावा, ओपनएआई ने अपने चैटजीपीटी चैटबॉट में आवाज़ की नकल के आरोपों का सामना किया है। कुछ उपयोगकर्ताओं ने दावा किया है कि चैटबॉट की आवाज़ अभिनेत्री स्कारलेट जोहानसन से मिलती-जुलती है। जबकि ओपनएआई ने जोहानसन की जानबूझकर नकल करने से इनकार किया है, यह घटना एआई-जनित सामग्री के नैतिक निहितार्थों और दुरुपयोग की संभावना के बारे में एक व्यापक चर्चा को जन्म देती है।

एआई नैतिकता पर व्यापक चर्चा

जैसे-जैसे कृत्रिम बुद्धिमत्ता का क्षेत्र तेजी से विकसित हो रहा है, यह आवश्यक है कि ओपनएआई जैसी कंपनियां शोधकर्ताओं, नीति निर्माताओं और जनता के साथ निरंतर संवाद और सहयोग में संलग्न हों ताकि यह सुनिश्चित किया जा सके कि एआई प्रौद्योगिकियों को जिम्मेदारी से और मजबूत सुरक्षा उपायों के साथ विकसित किया जाए। ओपनएआई सुरक्षा परिषद द्वारा प्रस्तुत सिफारिशें और ओपनएआई की पारदर्शिता की प्रतिबद्धता एआई शासन पर व्यापक चर्चा में योगदान देगी और इस परिवर्तनकारी प्रौद्योगिकी के भविष्य को आकार देने में मदद करेगी, लेकिन यह देखना बाकी है कि इसका क्या परिणाम होगा।