اوپن اے آئی نے سیفٹی کونسل تشکیل دی، تنازعات کے درمیان نیکسٹ-جنرل اے آئی ماڈل کو تربیت دی۔

OpenAI نے مصنوعی ذہانت کی ٹیکنالوجیز کو آگے بڑھانے میں اہم پیش رفت کی ہے، اس کی تازہ ترین کامیابی GPT-4o نظام جو مقبول ChatGPT چیٹ بوٹ کو طاقت دیتا ہے۔ آج، OpenAI کا اعلان کیا ہے ایک نئی حفاظتی کمیٹی، OpenAI سیفٹی کونسل کا قیام، اور انکشاف کیا کہ اس نے ایک نئے AI ماڈل کی تربیت شروع کر دی ہے۔

OpenAI کی حفاظتی کونسل میں کون ہے؟

نئی تشکیل شدہ OpenAI سیفٹی کونسل کا مقصد کمپنی کے منصوبوں اور آپریشنز سے متعلق اہم حفاظتی اور حفاظتی فیصلوں پر رہنمائی اور نگرانی فراہم کرنا ہے۔ کونسل کا بنیادی مقصد اس بات کو یقینی بنانا ہے کہ OpenAI کے AI ترقی کے طریقے حفاظت کو ترجیح دیں اور اخلاقی اصولوں کے مطابق ہوں۔ حفاظتی کمیٹی افراد کے متنوع گروپ پر مشتمل ہے، بشمول OpenAI ایگزیکٹوز، بورڈ ممبران، اور تکنیکی اور پالیسی ماہرین۔

اوپن اے آئی سیفٹی کونسل کے قابل ذکر ممبران میں شامل ہیں:

• سیم آلٹمین، OpenAI کے سی ای او
• بریٹ ٹیلراوپن اے آئی کے چیئرمین
• ایڈم ڈی اینجیلو، Quora کے CEO اور OpenAI بورڈ کے رکن
• نکول سیلگ مینسونی کے سابق جنرل کونسلر اور اوپن اے آئی بورڈ کے رکن

اپنے ابتدائی مرحلے میں، نئی حفاظت اور سلامتی کمیٹی OpenAI کے موجودہ حفاظتی عمل اور تحفظات کا جائزہ لینے اور اسے مضبوط بنانے پر توجہ دے گی۔ OpenAI سیفٹی کونسل نے بورڈ کو سفارشات فراہم کرنے کے لیے 90 دن کی ٹائم لائن مقرر کی ہے کہ کمپنی کے AI کی ترقی کے طریقوں اور حفاظتی نظام کو کیسے بہتر بنایا جائے۔ سفارشات کو اپنانے کے بعد، OpenAI انہیں حفاظت اور حفاظت کے تحفظات کے مطابق عوامی طور پر جاری کرنے کا ارادہ رکھتا ہے۔

نئے AI ماڈل کی تربیت

OpenAI سیفٹی کونسل کے قیام کے متوازی طور پر، OpenAI نے اعلان کیا ہے کہ اس نے اپنے اگلے فرنٹیئر ماڈل کی تربیت شروع کر دی ہے۔ اس جدید ترین مصنوعی ذہانت کے ماڈل سے GPT-4 سسٹم کی صلاحیتوں کو پیچھے چھوڑنے کی امید ہے جو اس وقت ChatGPT کو زیر کر رہا ہے۔ اگرچہ نئے AI ماڈل کے بارے میں تفصیلات بہت کم ہیں، OpenAI نے کہا ہے کہ یہ صلاحیت اور حفاظت دونوں میں صنعت کی قیادت کرے گا۔

اس نئے AI ماڈل کی ترقی مصنوعی ذہانت کے شعبے میں اختراع کی تیز رفتار اور ممکنہ صلاحیتوں کو واضح کرتی ہے۔ مصنوعی عمومی ذہانت (AGI)۔ جیسا کہ AI سسٹمز زیادہ جدید اور طاقتور ہوتے جاتے ہیں، حفاظت کو ترجیح دینا اور اس بات کو یقینی بنانا ضروری ہے کہ ان ٹیکنالوجیز کو ذمہ داری سے تیار کیا جائے۔

اوپن اے آئی کے حالیہ تنازعات اور روانگی

سلامتی پر OpenAI کی نئی توجہ اندرونی انتشار اور عوامی جانچ پڑتال کے دوران آتی ہے۔ حالیہ ہفتوں میں، کمپنی کو اپنی صفوں کے اندر سے تنقید کا سامنا کرنا پڑا ہے، محقق جان لیک نے استعفیٰ دے دیا ہے اور ان خدشات کا اظہار کیا ہے کہ حفاظت نے "چمکدار مصنوعات" کی ترقی کو پیچھے چھوڑ دیا ہے۔ Leike کا استعفیٰ OpenAI کے شریک بانی اور چیف سائنسدان الیا سوٹسکیور کی رخصتی کے بعد ہوا۔

Leike اور Sutskever کی روانگی نے کمپنی کی ترجیحات اور AI کی حفاظت کے بارے میں اس کے نقطہ نظر کے بارے میں سوالات اٹھائے ہیں۔ دونوں محققین نے مشترکہ طور پر OpenAI کی "superalignment" ٹیم کی قیادت کی، جو طویل مدتی AI خطرات سے نمٹنے کے لیے وقف تھی۔ ان کے استعفوں کے بعد، سپر الائنمنٹ ٹیم کو ختم کر دیا گیا، جس سے کمپنی کی حفاظت کے عزم کے بارے میں مزید خدشات بڑھ گئے۔

اندرونی ہلچل کے علاوہ، OpenAI کو اپنے ChatGPT چیٹ بوٹ میں آواز کی نقالی کے الزامات کا بھی سامنا کرنا پڑا ہے۔ کچھ صارفین نے دعویٰ کیا ہے کہ چیٹ بوٹ کی آواز اداکارہ اسکارلیٹ جوہانسن کی آواز سے خاصی مشابہت رکھتی ہے۔ اگرچہ OpenAI نے جان بوجھ کر جانسن کی نقالی کرنے سے انکار کیا ہے، اس واقعے نے AI سے تیار کردہ مواد کے اخلاقی مضمرات اور غلط استعمال کے امکانات کے بارے میں ایک وسیع تر گفتگو کو جنم دیا ہے۔

AI اخلاقیات پر ایک وسیع تر گفتگو

جیسا کہ مصنوعی ذہانت کا شعبہ تیزی سے ترقی کر رہا ہے، اوپن اے آئی جیسی کمپنیوں کے لیے یہ بہت ضروری ہے کہ وہ محققین، پالیسی سازوں اور عوام کے ساتھ جاری بات چیت اور تعاون میں مشغول ہوں تاکہ یہ یقینی بنایا جا سکے کہ AI ٹیکنالوجیز ذمہ داری کے ساتھ اور مضبوط حفاظتی اقدامات کے ساتھ تیار کی جائیں۔ اوپن اے آئی سیفٹی کونسل کی طرف سے پیش کردہ سفارشات اور شفافیت کے لیے اوپن اے آئی کی وابستگی اے آئی گورننس پر وسیع تر بات چیت میں حصہ ڈالے گی اور اس تبدیلی کی ٹیکنالوجی کے مستقبل کی تشکیل میں مدد کرے گی، لیکن وقت ہی بتائے گا کہ اس سے کیا نکلے گا۔