ผู้นำ AI เตือน ‘ความเสี่ยงของการสูญพันธุ์’

ในยุคที่มีการพัฒนาทางเทคโนโลยีอย่างรวดเร็ว การเพิ่มขึ้นของปัญญาประดิษฐ์ (AI) ยืนอยู่ที่จุดเด่นของนวัตกรรม อย่างไรก็ตาม ความสามารถอันหลากหลายของปัญญาประดิษฐ์ที่ขับเคลื่อนความก้าวหน้าและความสะดวกสบายก็ทำให้เกิดความกังวลเกี่ยวกับอนาคตของมนุษยชาติเช่นกัน ซึ่งถูกแสดงออกมาโดยผู้นำ AI ที่มีชื่อเสียง

ศูนย์ความปลอดภัย AI ได้ตีพิมพ์คำสั่งซึ่งได้รับการสนับสนุนจากผู้บุกเบิกในอุตสาหกรรม เช่น Sam Altman ของ OpenAI, Demis Hassabis ของ Google DeepMind และ Dario Amodei ของ Anthropic ความรู้สึกที่ชัดเจนคือความเสี่ยงของการสูญพันธุ์ของมนุษย์จาก AI ควรเป็นลำดับความสำคัญระดับโลก การกล่าวอ้างนี้ได้กระตุ้นให้เกิดการถกเถียงในุมชน AI โดยบางคนมองว่าความกลัวนี้มีการพูดเกินจริง ในขณะที่บางคนสนับสนุนการเรียกร้องให้มีการใช้ความระมัดระวัง

การคาดการณ์ที่น่ากลัว: ความสามารถของ AI ที่จะก่อให้เกิดภัยพิบัติ

ศูนย์ความปลอดภัย AI ระบุหลายสถานการณ์ที่อาจเกิดขึ้นจากความผิดพลาดหรือการเติบโตที่ไม่สามารถควบคุมของ AI ได้ รวมถึงการนำ AI ไปใช้ในด้านอาวุธ การทำให้สังคมไม่มั่นคงผ่านข้อมูลที่ไม่ถูกต้องที่สร้างโดย AI และการควบคุมเทคโนโลยี AI ในลักษณะที่เป็นเอกสิทธิ์ ทำให้เกิดการเฝ้าดูและเซ็นเซอร์ที่กดขี่

สถานการณ์ของการอ่อนแอก็ได้รับการกล่าวถึงเช่นกัน โดยที่มนุษย์อาจจะพึ่งพา AI มากเกินไป เช่นเดียวกับในภาพยนตร์ Wall-E การพึ่งพานี้อาจทำให้มนุษย์เสี่ยงต่อการถูกทำลาย และทำให้เกิดคำถามที่สำคัญเกี่ยวกับจริยธรรมและความมั่นคง

ดร. เจฟฟรีย์ ฮินตัน ผู้ที่ได้รับการยกย่องในด้านนี้และเป็นผู้สนับสนุนการเรียกร้องให้มีการใช้ความระมัดระวังเกี่ยวกับ AI ที่มีความฉลาดสูง สนับสนุนคำเตือนของศูนย์ฯ ร่วมกับ Yoshua Bengio ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยมอนทรีออล

เสียงที่ไม่เห็นด้วย: การถกเถียงเกี่ยวกับความเสี่ยงของ AI

ในทางกลับกัน มีกลุ่มหนึ่งในุมชน AI ที่มองว่าคำเตือนเหล่านี้เป็นการพูดเกินจริง Yann LeCun ศาสตราจารย์จาก NYU และนักวิจัย AI ที่ Meta ได้แสดงความเบื่อหน่ายต่อ ‘คำพยากรณ์แห่งวันสิ้นโลก’เหล่านี้ ผู้วิจารณ์โต้แย้งว่าการคาดการณ์ที่น่ากลัวเหล่านี้ทำให้ปัญหาที่มีอยู่ของ AI เช่น ความลำเอียงของระบบและข้อพิจารณาด้านจริยธรรม ถูกมองข้าม

Arvind Narayanan นักวิทยาศาสตร์คอมพิวเตอร์จากมหาวิทยาลัย Princeton เสนอว่าความสามารถของ AI ในปัจจุบันอยู่ห่างไกลจากสถานการณ์ที่น่ากลัวที่มักถูกวาดภาพ เขาเน้นย้ำถึงความจำเป็นที่จะต้องมุ่งเน้นไปที่อันตรายที่เกิดจาก AI ในปัจจุบัน

ในทำนองเดียวกัน Elizabeth Renieris ผู้ช่วยวิจัยอาวุโสจากสถาบันจริยธรรม AI ของ牛津 ได้แบ่งปันความกังวลเกี่ยวกับความเสี่ยงในระยะใกล้ เช่น ความลำเอียง การตัดสินใจที่เลือกปฏิบัติ การแพร่กระจายของข้อมูลที่ไม่ถูกต้อง และการแบ่งแยกในสังคมที่เกิดจากความก้าวหน้าของ AI ความสามารถของ AI ในการเรียนรู้จากเนื้อหาที่มนุษย์สร้างขึ้น ทำให้เกิดความกังวลเกี่ยวกับการถ่ายโอนความมั่งคั่งและอำนาจจากสาธารณชนไปยังหน่วยงานเอกชนเพียงไม่กี่แห่ง

การรักษาสมดุล: การเดินระหว่างความกังวลในปัจจุบันและความเสี่ยงในอนาคต

ในขณะที่ยอมรับถึงความหลากหลายของมุมมอง Dan Hendrycks ผู้อำนวยการของศูนย์ความปลอดภัย AI เน้นย้ำว่าการแก้ไขปัญหาในปัจจุบันสามารถให้เส้นทางในการบรรเทาความเสี่ยงในอนาคต การแสวงหาคือการสร้างสมดุลระหว่างการใช้ประโยชน์จาก AI และการติดตั้งมาตรการรักษาความปลอดภัยเพื่อป้องกันการใช้ในทางที่ผิด

การถกเถียงเกี่ยวกับภัยคุกคามที่มีต่อการดำรงอยู่ของ AI ไม่ใช่เรื่องใหม่ มันเพิ่มขึ้นเมื่อผู้เชี่ยวชาญหลายคน รวมถึง Elon Musk ลงนามในจดหมายเปิดผนึกในเดือนมีนาคม 2023 เรียกร้องให้หยุดพัฒนาการของเทคโนโลยี AI รุ่นต่อไป การสนทนาได้พัฒนาไปตั้งแต่นั้น โดยการอภิปรายล่าสุดเปรียบเทียบความเสี่ยงนี้กับความเสี่ยงของสงครามนิวเคลียร์

แนวทางไปข้างหน้า: การรักษาความตื่นตัวและมาตรการกำกับดูแล

ในขณะที่ AI ยังคงมีบทบาทที่สำคัญมากขึ้นในสังคม มันเป็นสิ่งจำเป็นที่จะต้องจำไว้ว่าเทคโนโลยีนี้เป็นดาบสองคม มันถือมั่นให้ความก้าวหน้า แต่ก็เสี่ยงต่อการทำให้เกิดภัยพิบัติหากปล่อยทิ้งไว้ การสนทนาเกี่ยวกับความเสี่ยงของ AI เน้นย้ำถึงความจำเป็นในการทำงานร่วมกันระดับโลกในการกำหนดแนวทางจริยธรรม การสร้างมาตรการรักษาความปลอดภัยที่เข้มแข็ง และรับประกันว่าการพัฒนาและการใช้ AI จะดำเนินไปอย่างมีความรับผิดชอบ