นักวิจัยระบุว่ามนุษย์ไม่สามารถควบคุม AI ที่มีความฉลาดเหนือมนุษย์ได้

ทุกคนที่รู้จักกับปัญญาประดิษฐ์ (AI) น่าจะได้ยินเรื่องราวเกี่ยวกับ AI ที่จะหลุดพ้นจากการควบคุมของมนุษย์ในอนาคต ซึ่งไม่ใช่แค่เรื่องราวจากภาพยนตร์ Sci-Fi แต่เป็นความเป็นไปได้ที่มีแนวโน้มมากที่จะเกิดขึ้นและทำให้นักวิจัยหลายคนในอุตสาหกรรมกังวล นักวิจัยหลายคน รวมถึงนักวิทยาศาสตร์ เสนอว่าเราควรเริ่มเตรียมพร้อมสำหรับความเป็นไปได้นี้และหลีกเลี่ยงมันใน mọiวิธีที่เป็นไปได้

ทีมนักวิจัยระหว่างประเทศได้พิสูจน์แนวคิดนี้ด้วยการคำนวณทางทฤษฎี ทีมนี้ซึ่งรวมนักวิจัยจากศูนย์สำหรับมนุษย์และเครื่องจักรที่สถาบันพัฒนามนุษย์ Max Planck ใช้การคำนวณเหล่านี้เพื่อแสดงให้เห็นว่าไม่สามารถควบคุม AI ที่มีความฉลาดเหนือมนุษย์ได้

การวิจัยนี้ได้รับการตีพิมพ์ในวารสาร Journal of Artificial Intelligence Research

ระบบ AI ที่มีความฉลาดเหนือมนุษย์

ความกลัวเกี่ยวกับระบบ AI ที่มีความฉลาดเหนือมนุษย์มีสาเหตุมาจากการที่ระบบดังกล่าวจะมีความสามารถมากกว่ามนุษย์ มันสามารถเรียนรู้ได้ด้วยตนเอง และสามารถเข้าถึงข้อมูลที่มีอยู่ทั้งหมดและประมวลผลได้อย่างรวดเร็ว

เหตุการณ์ดังกล่าวอาจทำให้ AI ที่มีความฉลาดเหนือมนุษย์เข้าควบคุมเครื่องจักรทั้งหมดที่เชื่อมต่ออินเทอร์เน็ต และแม้ว่ามันจะสามารถแก้ปัญหาที่ยากและรุนแรงที่ส่งผลกระทบต่อมนุษยชาติได้ แต่ก็มีความเสี่ยงสูงว่าเหตุการณ์จะเกินการควบคุม

Manuel Cebrian เป็นผู้ร่วมเขียนการศึกษาและเป็นผู้นำกลุ่ม Digital Mobilization ที่ศูนย์สำหรับมนุษย์และเครื่องจักร สถาบันพัฒนามนุษย์ Max Planck

“เครื่องจักรที่มีความฉลาดเหนือมนุษย์ที่ควบคุมโลกดูเหมือนเรื่องราวจากภาพยนตร์ Sci-Fi แต่มีเครื่องจักรที่ทำงานบางอย่างโดยอัตโนมัติโดยไม่ต้องมีการเขียนโปรแกรมที่เข้าใจอย่างสมบูรณ์แบบว่ามันเรียนรู้ได้อย่างไร จึงทำให้เกิดคำถามว่าในอนาคตอาจจะควบคุมไม่ได้และเป็นอันตรายต่อมนุษยชาติ” Cebrian กล่าว

การควบคุมระบบ

มีแนวคิดสองทางในการควบคุมระบบดังกล่าว ประการแรก มนุษย์สามารถจำกัดความสามารถของ AI ที่มีความฉ亮เหนือมนุษย์ได้โดยการจำกัดการเข้าถึงแหล่งข้อมูลบางอย่าง เช่น อินเทอร์เน็ตทั้งหมด ระบบสามารถทำงานได้โดยไม่ต้องสัมผัสกับโลกภายนอก แต่ปัญหาก็คือมันจะจำกัดศักยภาพของ AI อย่างมาก

ระบบจะถูกควบคุมโดยการจำกัดให้ระบบติดตามผลลัพธ์ที่เป็นประโยชน์ต่อมนุษยชาติเท่านั้น ซึ่งสามารถทำได้โดยการเขียนหลักการทางจริยธรรมเข้าไปในระบบ

การศึกษานี้เกี่ยวข้องกับการพัฒนาแอลกอริทึมการบรรจุภัณฑ์ทางทฤษฎีที่ป้องกันไม่ให้ AI ที่มีความฉลาดเหนือมนุษย์เป็นอันตรายต่อมนุษยชาติภายใต้สถานการณ์ใดๆ ซึ่งสามารถทำได้โดยการสร้างการจำลองการทำงานของ AI และตรวจจับการทำงานที่อาจเป็นอันตรายได้ แม้ว่าแนวคิดนี้จะมีแนวโน้มที่ดี แต่วิเคราะห์ปัจจุบันแสดงให้เห็นว่าไม่สามารถพัฒนาแอลกอริทึมดังกล่าวได้

Iyad Rahwan เป็นผู้อำนวยการศูนย์สำหรับมนุษย์และเครื่องจักร

“หากคุณแบ่งปัญหาออกเป็นกฎพื้นฐานจากวิทยาการคอมพิวเตอร์ทางทฤษฎี จะพบว่าแอลกอริทึมที่สั่งให้ AI ไม่ทำลายโลกอาจหยุดการทำงานของมันเองโดยไม่ตั้งใจ หากเกิดเหตุการณ์นี้ คุณจะไม่ทราบว่าแอลกอริทึมการบรรจุภัณฑ์ยังคงวิเคราะห์ภัยคุกคามหรือหยุดเพื่อควบคุม AI ที่เป็นอันตรายแล้ว ซึ่งทำให้แอลกอริทึมการบรรจุภัณฑ์ไม่สามารถใช้งานได้” Rahwan กล่าว

ปัญหาหนึ่งคือผู้เชี่ยวชาญอาจไม่ทราบว่าเมื่อไหร่เครื่องจักรที่มีความฉลาดเหนือมนุษย์จะถึงสถานะนั้น ส่วนใหญ่เนื่องจากมันจะฉลาดกว่ามนุษย์