الذكاء الاصطناعي
تأسيس.OpenAI لمجلس السلامة وتدريب نموذج الذكاء الاصطناعي التالي في وسط الخلافات
حقق OpenAI تقدمًا كبيرًا في تطوير تقنيات الذكاء الاصطناعي، مع إنجازه الأخير هو نظام GPT-4o الذي يزوّد الشات بوت الشهير ChatGPT. اليوم، أعلنت OpenAI عن تأسيس لجنة سلامة جديدة، وهي مجلس السلامة في OpenAI، وأعلنت أنّها بدأت في تدريب نموذج الذكاء الاصطناعي الجديد.
من هم أعضاء مجلس السلامة في OpenAI؟
يهدف مجلس السلامة الجديد في OpenAI إلى توفير التوجيه والإشراف على القرارات الحيوية المتعلقة بالسلامة والأمان في مشاريع الشركة وعملياتها. الهدف الرئيسي للمجلس هو ضمان أنّ ممارسات تطوير الذكاء الاصطناعي في OpenAI تضع السلامة في المقام الأول وتتوافق مع المبادئ الأخلاقية. يتكون مجلس السلامة من مجموعة متنوعة من الأفراد، بما في ذلك مسؤولي OpenAI وأعضاء المجلس والخبراء الفنيين والسياسيين.
أعضاء بارزون في مجلس السلامة في OpenAI هم:
- Sam Altman، الرئيس التنفيذي لشركة OpenAI
- Bret Taylor، رئيس مجلس إدارة OpenAI
- Adam D’Angelo، الرئيس التنفيذي لشركة Quora وعضو مجلس إدارة OpenAI
- Nicole Seligman، السيدة الأولى السابقة لمجلس إدارة سوني وعضو مجلس إدارة OpenAI
في مرحلتها الأولية، ستُركز لجنة السلامة والأمان الجديدة على تقييم وتعزيز عمليات السلامة والحماية الحالية في OpenAI. وقد حدد مجلس السلامة في OpenAI جدول زمني لمدة 90 يومًا لتقديم توصيات إلى المجلس بشأن كيفية تعزيز ممارسات تطوير الذكاء الاصطناعي وأنظمة السلامة في الشركة. بمجرد تبني التوصيات، تعتزم OpenAI نشرها بشكل عام بطريقة تتوافق مع اعتبارات السلامة والأمان.
تدريب النموذج الجديد للذكاء الاصطناعي
بالتوازي مع تأسيس مجلس السلامة في OpenAI، أعلنت OpenAI أنها بدأت في تدريب نموذجها الجديد للذكاء الاصطناعي. ومن المتوقع أن يتجاوز هذا النموذج الجديد للذكاء الاصطناعي قدرات نظام GPT-4 الحالي الذي يعتمد عليه ChatGPT. على الرغم من أنّ التفاصيل حول النموذج الجديد للذكاء الاصطناعي لا تزال نادرة، إلا أنّ OpenAI قد ذكرت أنّه سيكون متقدمًا في القدرة والسلامة.
الخلافات والرحيلات الأخيرة في OpenAI
يأتي التركيز المتجدد من OpenAI على السلامة في وقت من الاضطراب الداخلي والانتقادات العامة. في الأسابيع الأخيرة، واجهت الشركة انتقادات من داخل صفوفها، حيث استقال الباحث Jan Leike وأعرب عن قلقه من أنّ السلامة قد أصبحت في المرتبة الثانية بعد تطوير “المنتجات المذهلة”. تمّ متابعة استقالة Leike برحيل Ilya Sutskever، المؤسس المشارك ورئيس العلماء في OpenAI.
أثارت رحيلات Leike وSutskever أسئلة حول أولويات الشركة ونهجها فيما يتعلق بالسلامة. قاد الباحثان معًا فريق “التناسب الفائق” في OpenAI، الذي كان مكرسًا لمواجهة المخاطر الطويلة الأجل للذكاء الاصطناعي. بعد استقالتهما، تمّ حلّ فريق التناسب الفائق، مما أثار المزيد من القلق حول التزام الشركة بالسلامة.
بالإضافة إلى الاضطراب الداخلي، واجهت OpenAI أيضًا اتهامات بتقليد الصوت في شات بوت ChatGPT. زعم بعض المستخدمين أنّ صوت الشات بوت يشبه صوت الممثلة سكارليت جوهانسون. في حين أنّ OpenAI نفيت أنّها قامت بتقليد جوهانسون عن قصد، إلا أنّ الحادث أثار نقاشًا أوسع حول الآثار الأخلاقية للمحتوى الذي يولده الذكاء الاصطناعي وإمكانية إساءة استخدامه.
نقاش أوسع حول أخلاقيات الذكاء الاصطناعي
مع استمرار تطور مجال الذكاء الاصطناعي بسرعة، من المهم أن تشارك الشركات مثل OpenAI في حوار مستمر وتعاون مع الباحثين والمشرّعين والجمهور لضمان تطوير تكنولوجيا الذكاء الاصطناعي بطريقة مسؤولة وضمن حماية قوية. ستساهم التوصيات التي قدمها مجلس السلامة في OpenAI والتزام OpenAI بالشفافية في النقاش الأوسع حول حوكمة الذكاء الاصطناعي ومساعدة تشكيل مستقبل هذه التكنولوجيا التحويلية، ولكن فقط الوقت سيكشف ما سيخرج منه.
