OpenAI’s New Initiative: Steering Superintelligent AI in the Right Direction

OpenAI, ผู้นำในด้านปัญญาประดิษฐ์, ได้ประกาศการก่อตั้งทีมที่มุ่งเน้นในการจัดการความเสี่ยงที่เกี่ยวข้องกับ AI ที่มีความฉลาดเหนือมนุษย์ การเคลื่อนไหวครั้งนี้เกิดขึ้นในช่วงที่รัฐบาลทั่วโลกกำลังพิจารณาว่าจะควบคุมเทคโนโลยี AI ที่เกิดขึ้นใหม่อย่างไร

การทำความเข้าใจ AI ที่มีความฉลาดเหนือมนุษย์

AI ที่มีความฉลาดเหนือมนุษย์ หมายถึงแบบจำลอง AI ที่สมมุติซึ่งมีความสามารถเหนือมนุษย์ที่มีพรสวรรค์และฉลาดที่สุดในหลายๆ ด้าน ไม่ใช่แค่ด้านเดียวเหมือนกับแบบจำลองรุ่นก่อนๆ OpenAI คาดการณ์ว่าแบบจำลองดังกล่าวอาจเกิดขึ้นก่อนสิ้นสุดทศวรรษนี้ องค์กรเชื่อว่าความฉลาดเหนือมนุษย์อาจเป็นเทคโนโลยีที่มีผลกระทบมากที่สุดที่มนุษย์เคยประดิษฐ์ขึ้น ซึ่งอาจช่วยให้เราแก้ปัญหาที่ท้าทายที่สุดของโลกได้ อย่างไรก็ตาม ความสามารถอันมหาศาลของความฉลาดเหนือมนุษย์อาจก่อให้เกิดความเสี่ยงที่สำคัญ รวมถึงการทำให้มนุษย์หมดอำนาจหรือแม้กระทั่งการสูญพันธุ์ของมนุษย์

ทีม Superalignment ของ OpenAI

เพื่อแก้ไขข้อกังวลเหล่านี้ OpenAI ได้ก่อตั้งทีม ‘Superalignment’ ใหม่ ซึ่งได้รับการนำโดย Ilya Sutskever หัวหน้านักวิทยาศาสตร์ของ OpenAI และ Jan Leike หัวหน้าห้องปฏิบัติการวิจัยด้านการเทียบแนวทิศทาง ทีมจะมีการเข้าถึง 20% ของพลังการคำนวณที่ OpenAI ได้รับในปัจจุบัน เป้าหมายของพวกเขาคือการพัฒนา researcher การจัดแนวอัตโนมัติ ระบบที่สามารถช่วย OpenAI ในการรับรองว่าความฉลาดเหนือมนุษย์นั้นปลอดภัยต่อการใช้งานและสอดคล้องกับค่านิยมของมนุษย์
ในขณะที่ OpenAI ยอมรับว่าเป้าหมายนี้มีความทะเยอทะยานมาก และความสำเร็จไม่ได้รับประกัน องค์กรยังคงมีความหวังที่จะประสบความสำเร็จ การทดลองเบื้องต้นแสดงให้เห็นถึงความหวัง และมีมาตรการวัดความก้าวหน้าที่มีประโยชน์มากขึ้น นอกจากนี้ แบบจำลองปัจจุบันยังสามารถใช้ในการศึกษาปัญหาเหล่านี้ได้เชิงประจักษ์

ความจำเป็นในการควบคุม

การก่อตั้งทีม Superalignment เกิดขึ้นพร้อมกับที่รัฐบาลทั่วโลกกำลังพิจารณาว่าจะควบคุมอุตสาหกรรม AI ที่เกิดขึ้นใหม่อย่างไร CEO ของ OpenAI Sam Altman ได้พบกับสมาชิกสภานิติบัญญัติของรัฐบาลกลางอย่างน้อย 100 คนในเดือนที่ผ่านมา Altman ได้ประกาศต่อสาธารณะว่าการควบคุม AI เป็น “สิ่งจำเป็น” และ OpenAI “เต็มใจ” ที่จะทำงานร่วมกับผู้กำหนดนโยบาย
อย่างไรก็ตาม มันสำคัญที่จะเข้าใกล้คำประกาศดังกล่าวด้วยความกังขา โดยการเน้นย้ำถึงความเสี่ยงที่สมมุติซึ่งอาจไม่เกิดขึ้น องค์กรอย่าง OpenAI อาจจะเปลี่ยนภาระของการควบคุมไปสู่อนาคต แทนที่จะแก้ไขปัญหาเร่งด่วนเกี่ยวกับ AI และแรงงาน การให้ข้อมูลที่ผิด และลิขสิทธิ์ที่ผู้กำหนดนโยบายต้องจัดการในปัจจุบัน
การริเริ่มของ OpenAI ในการก่อตั้งทีมที่มุ่งเน้นในการจัดการความเสี่ยงที่เกี่ยวข้องกับ AI ที่มีความฉลาดเหนือมนุษย์เป็นก้าวสำคัญไปในทิศทางที่ถูกต้อง สิ่งนี้เน้นย้ำถึงความสำคัญของการดำเนินการเชิงรุกในการแก้ไขความท้าทายที่อาจเกิดขึ้นจาก AI ที่มีความก้าวหน้า เมื่อเรายังคงเดินหน้าต่อไปในความซับซ้อนของการพัฒนา AI และการควบคุม การริเริ่มเช่นนี้ให้ความระมัดระวังถึงความจำเป็นในการใช้แนวทางที่สมดุล ซึ่งสามารถใช้ประโยชน์จาก AI ในขณะเดียวกันก็ปกป้องความเสี่ยงของมัน