OpenAI จัดตั้งสภาความปลอดภัย ฝึกอบรมโมเดล AI รุ่นต่อไป ท่ามกลางข้อถกเถียง

OpenAI มีความก้าวหน้าครั้งสำคัญในการพัฒนาเทคโนโลยีปัญญาประดิษฐ์ โดยความสำเร็จล่าสุดคือ GPT-4o ระบบที่ขับเคลื่อน Chatbot ChatGPT ยอดนิยม วันนี้ OpenAI ประกาศ การจัดตั้งคณะกรรมการความปลอดภัยชุดใหม่ OpenAI Safety Council พร้อมเผยว่าได้เริ่มฝึกอบรมโมเดล AI ใหม่แล้ว

ใครอยู่ในสภาความปลอดภัยของ OpenAI

OpenAI Safety Council ที่จัดตั้งขึ้นใหม่มีเป้าหมายในการให้คำแนะนำและการกำกับดูแลการตัดสินใจด้านความปลอดภัยและความมั่นคงที่สำคัญที่เกี่ยวข้องกับโครงการและการดำเนินงานของบริษัท วัตถุประสงค์หลักของสภาคือเพื่อให้แน่ใจว่าแนวทางปฏิบัติในการพัฒนา AI ของ OpenAI ให้ความสำคัญกับความปลอดภัยและสอดคล้องกับหลักจริยธรรม คณะกรรมการความปลอดภัยประกอบด้วยกลุ่มบุคคลที่หลากหลาย รวมถึงผู้บริหาร OpenAI สมาชิกคณะกรรมการ และผู้เชี่ยวชาญด้านเทคนิคและนโยบาย

สมาชิกที่โดดเด่นของสภาความปลอดภัย OpenAI ได้แก่:

• แซมอัลท์แมนซีอีโอของ OpenAI
• เบร็ท เทย์เลอร์, ประธาน OpenAI
• อดัม ดีแองเจโล, CEO ของ Quora และสมาชิกคณะกรรมการ OpenAI
• นิโคล เซลิกแมนอดีตที่ปรึกษาทั่วไปของ Sony และสมาชิกคณะกรรมการ OpenAI

ในระยะเริ่มแรก คณะกรรมการความปลอดภัยและความมั่นคงชุดใหม่จะมุ่งเน้นไปที่การประเมินและเสริมสร้างกระบวนการและการป้องกันด้านความปลอดภัยที่มีอยู่ของ OpenAI สภาความปลอดภัย OpenAI ได้กำหนดเวลา 90 วันเพื่อให้คำแนะนำแก่คณะกรรมการเกี่ยวกับวิธีการปรับปรุงแนวทางปฏิบัติในการพัฒนา AI และระบบความปลอดภัยของบริษัท เมื่อนำคำแนะนำไปใช้แล้ว OpenAI วางแผนที่จะเผยแพร่ต่อสาธารณะในลักษณะที่สอดคล้องกับข้อพิจารณาด้านความปลอดภัย

การฝึกอบรมโมเดล AI ใหม่

ควบคู่ไปกับการจัดตั้ง OpenAI Safety Council OpenAI ได้ประกาศว่าได้เริ่มฝึกอบรมโมเดลชายแดนถัดไปแล้ว โมเดลปัญญาประดิษฐ์ล่าสุดนี้คาดว่าจะเกินความสามารถของระบบ GPT-4 ที่รองรับ ChatGPT ในปัจจุบัน แม้ว่ารายละเอียดเกี่ยวกับโมเดล AI ใหม่จะยังคงมีอยู่ไม่มากนัก OpenAI กล่าวว่าโมเดลนี้จะเป็นผู้นำในอุตสาหกรรมทั้งในด้านความสามารถและความปลอดภัย

การพัฒนาโมเดล AI ใหม่นี้เน้นย้ำถึงความรวดเร็วของนวัตกรรมในด้านปัญญาประดิษฐ์และศักยภาพของ ปัญญาประดิษฐ์ทั่วไป (เอจีไอ). เมื่อระบบ AI มีความก้าวหน้าและทรงพลังมากขึ้น การจัดลำดับความสำคัญด้านความปลอดภัยและให้แน่ใจว่าเทคโนโลยีเหล่านี้ได้รับการพัฒนาอย่างมีความรับผิดชอบจึงเป็นสิ่งสำคัญ

ข้อโต้แย้งและการจากไปล่าสุดของ OpenAI

การมุ่งเน้นด้านความปลอดภัยครั้งใหม่ของ OpenAI เกิดขึ้นท่ามกลางช่วงเวลาแห่งความวุ่นวายภายในและการตรวจสอบข้อเท็จจริงของสาธารณะ ในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัทเผชิญกับคำวิพากษ์วิจารณ์จากภายในบริษัท โดยนักวิจัย Jan Leike ลาออกและแสดงความกังวลว่าความปลอดภัยได้เข้ามาครอบงำการพัฒนา "ผลิตภัณฑ์ที่แวววาว" การลาออกของ Leike ตามมาด้วยการจากไปของ Ilya Sutskever ผู้ร่วมก่อตั้งและหัวหน้านักวิทยาศาสตร์ของ OpenAI

การจากไปของ Leike และ Sutskever ทำให้เกิดคำถามเกี่ยวกับลำดับความสำคัญของบริษัทและแนวทางด้านความปลอดภัยของ AI นักวิจัยทั้งสองร่วมกันเป็นผู้นำทีม "superalignment" ของ OpenAI ซึ่งอุทิศตนเพื่อจัดการกับความเสี่ยง AI ในระยะยาว หลังจากการลาออก ทีมงาน superalignment ก็ถูกยุบ ซึ่งยิ่งกระตุ้นให้เกิดความกังวลเกี่ยวกับความมุ่งมั่นของบริษัทในเรื่องความปลอดภัย

นอกเหนือจากการเปลี่ยนแปลงภายในแล้ว OpenAI ยังเผชิญกับข้อกล่าวหาเรื่องการแอบอ้างบุคคลอื่นด้วยเสียงในแชทบอท ChatGPT ผู้ใช้บางคนอ้างว่าเสียงของแชทบอทมีความคล้ายคลึงกับเสียงของนักแสดงหญิงสการ์เลตต์ โจแฮนสันอย่างเห็นได้ชัด แม้ว่า OpenAI จะปฏิเสธการแอบอ้างเป็น Johansson โดยเจตนา แต่เหตุการณ์ดังกล่าวได้จุดประกายให้เกิดการสนทนาในวงกว้างเกี่ยวกับผลกระทบทางจริยธรรมของเนื้อหาที่สร้างโดย AI และศักยภาพในการใช้งานในทางที่ผิด

การสนทนาที่กว้างขึ้นเกี่ยวกับจริยธรรมของ AI

เนื่องจากสาขาปัญญาประดิษฐ์ยังคงมีการพัฒนาอย่างรวดเร็ว จึงเป็นเรื่องสำคัญสำหรับบริษัทอย่าง OpenAI ที่จะต้องมีส่วนร่วมในการเจรจาอย่างต่อเนื่องและร่วมมือกับนักวิจัย ผู้กำหนดนโยบาย และสาธารณชน เพื่อให้แน่ใจว่าเทคโนโลยี AI ได้รับการพัฒนาอย่างมีความรับผิดชอบและมีมาตรการป้องกันที่แข็งแกร่ง คำแนะนำที่นำเสนอโดย OpenAI Safety Council และความมุ่งมั่นต่อความโปร่งใสของ OpenAI จะมีส่วนทำให้เกิดการสนทนาในวงกว้างเกี่ยวกับการกำกับดูแล AI และช่วยกำหนดอนาคตของเทคโนโลยีการเปลี่ยนแปลงนี้ แต่เวลาเท่านั้นที่จะบอกได้ว่าอะไรจะเกิดขึ้น