OpenAI ก่อตั้งสภาความปลอดภัย และฝึกอบรมโมเดล AI รุ่นใหม่ระหว่างความขัดแย้ง

OpenAI ได้ทำความก้าวหน้าอย่างมากในการพัฒนาเทคโนโลยี AI โดยผลงานล่าสุดคือระบบ GPT-4o ที่ขับเคลื่อน ChatGPT ชาตบดี วันนี้ OpenAI ประกาศ การก่อตั้งสภาความปลอดภัยใหม่ คือ OpenAI Safety Council และเปิดเผยว่าได้เริ่มฝึกอบรมโมเดล AI ใหม่

ใครอยู่ในคณะกรรมการความปลอดภัยของ OpenAI?

คณะกรรมการความปลอดภัยของ OpenAI ที่ก่อตั้งใหม่นี้มีเป้าหมายเพื่อให้คำแนะนำและกำกับดูแลการตัดสินใจที่สำคัญเกี่ยวกับความปลอดภัยและความมั่นคงเกี่ยวกับโครงการและดำเนินการของบริษัท เป้าหมายหลักของคณะกรรมการคือเพื่อให้แน่ใจว่าแนวปฏิบัติในการพัฒนา AI ของ OpenAI ให้ความสำคัญกับความปลอดภัยและสอดคล้องกับหลักการทางจริยธรรม คณะกรรมการความปลอดภัยประกอบด้วยบุคคลที่หลากหลาย รวมถึงผู้บริหารของ OpenAI สมาชิกคณะกรรมการ และผู้เชี่ยวชาญด้านเทคนิคและนโยบาย

สมาชิกที่มีชื่อเสียงของคณะกรรมการความปลอดภัยของ OpenAI ได้แก่

• Sam Altman ซีอีโอของ OpenAI
• Bret Taylor ประธานคณะกรรมการของ OpenAI
• Adam D’Angelo ซีอีโอของ Quora และสมาชิกคณะกรรมการของ OpenAI
• Nicole Seligman อดีตทนายความทั่วไปของ Sony และสมาชิกคณะกรรมการของ OpenAI

ในระยะแรก คณะกรรมการความปลอดภัยและความมั่นคงใหม่นี้จะเน้นประเมินและเสริมสร้างกระบวนการและมาตรการความปลอดภัยที่มีอยู่ของ OpenAI แล้ว คณะกรรมการความปลอดภัยของ OpenAI ได้กำหนดระยะเวลา 90 วันเพื่อให้คำแนะนำต่อคณะกรรมการเกี่ยวกับวิธีการเพิ่มความปลอดภัยในการพัฒนา AI และระบบความปลอดภัยของบริษัท เมื่อคำแนะนำถูกนำมาใช้ OpenAI มีแผนจะเผยแพร่สู่สาธารณะในลักษณะที่สอดคล้องกับความปลอดภัยและข้อพิจารณาด้านความมั่นคง

การฝึกอบรมโมเดล AI ใหม่

ในเวลาเดียวกับการก่อตั้งคณะกรรมการความปลอดภัยของ OpenAI บริษัทยังประกาศว่าได้เริ่มฝึกอบรมโมเดล AI ใหม่ โมเดล AI ล่าสุดนี้คาดว่าจะมีความสามารถที่เหนือกว่าระบบ GPT-4 ที่ใช้ในการขับเคลื่อน ChatGPT ในปัจจุบัน แม้ว่ารายละเอียดเกี่ยวกับโมเดล AI ใหม่นี้จะยังคงไม่ชัดเจน แต่ OpenAI ได้กล่าวว่าโมเดลนี้จะนำอุตสาหกรรมในด้านความสามารถและความปลอดภัย

การ разработкаของโมเดล AI ใหม่นี้เน้นย้ำถึงการเติบโตอย่างรวดเร็วของนวัตกรรมในด้าน AI และศักยภาพของ ความฉลาดทั่วไปของเครื่องจักร (AGI) เมื่อระบบ AI มีความซับซ้อนและทรงพลังมากขึ้น มันจึงเป็นสิ่งสำคัญที่จะต้องจัดลำดับความสำคัญด้านความปลอดภัยและรับรองว่าเทคโนโลยีเหล่านี้ถูกพัฒนาอย่างมีความรับผิดชอบ

ความขัดแย้งและ离职ล่าสุดของ OpenAI

การเน้นย้ำถึงความปลอดภัยของ OpenAI ในครั้งนี้เกิดขึ้นระหว่างช่วงเวลาที่บริษัทต้องเผชิญกับความวุ่นวายภายในและความกดดันจากสาธารณะ ในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัทได้รับการวิพากษ์วิจารณ์จากภายใน โดยนักวิจัย Jan Leike ลาออกและแสดงความกังวลว่าความปลอดภัยได้รับการจัดลำดับความสำคัญต่ำกว่าการพัฒนา “ผลิตภัณฑ์ที่สวยงาม” การลาออกของ Leike ถูกตามด้วยการ离职ของ Ilya Sutskever ผู้ร่วมก่อตั้งและหัวหน้านักวิทยาศาสตร์ของ OpenAI

การ离职ของ Leike และ Sutskever ได้ทำให้เกิดคำถามเกี่ยวกับลำดับความสำคัญของบริษัทและแนวทางในการรับรองความปลอดภัยของ AI ทั้งสองนักวิจัย曾เป็นผู้นำทีม “superalignment” ของ OpenAI ซึ่งมุ่งเน้นในการแก้ไขความเสี่ยง AI ในระยะยาว หลังจากการลาออก ทีม superalignment ถูกยุบ ทำให้เกิดความกังวลเกี่ยวกับการมุ่งเน้นของบริษัทต่อความปลอดภัยมากขึ้น

นอกเหนือจากความวุ่นวายภายใน บริษัทยังเผชิญกับการกล่าวหาว่า ChatGPT มีการเลียนแบบเสียงของนักแสดง Scarlett Johansson บางคนอ้างว่าเสียงของ ChatGPT มีลักษณะคล้ายกับเสียงของ Johansson แม้ว่า OpenAI จะปฏิเสธว่าไม่ได้เลียนแบบ Johansson อย่างเจตนา แต่เหตุการณ์นี้ก็ทำให้เกิดการอภิปรายที่กว้างขึ้นเกี่ยวกับผลกระทบทางจริยธรรมของเนื้อหาที่สร้างโดย AI และศักยภาพในการใช้ในทางที่ผิด

การอภิปรายที่กว้างขึ้นเกี่ยวกับจริยธรรม AI

เมื่ออุตสาหกรรม AI ต้องเผชิญกับการเปลี่ยนแปลงอย่างรวดเร็ว จึงเป็นสิ่งสำคัญที่บริษัทอย่าง OpenAI จะต้องมีส่วนร่วมในการสนทนาและความร่วมมือกับนักวิจัย นักการเมือง และสาธารณะเพื่อให้แน่ใจว่าเทคโนโลยี AI ถูกพัฒนาอย่างมีความรับผิดชอบและปลอดภัย คำแนะนำที่คณะกรรมการความปลอดภัยของ OpenAI เสนอและความมุ่งมั่นของ OpenAI ต่อความโปร่งใสจะช่วยให้เกิดการอภิปรายที่กว้างขึ้นเกี่ยวกับการกำกับดูแล AI และช่วย塑造อนาคตของเทคโนโลยีที่เปลี่ยนแปลงนี้ แต่ก็ยังคงต้องดูว่าอนาคตจะนำอะไรมาให้