AI เป็นภัยคุกคามที่มีต่อการดำรงอยู่หรือไม่?

เมื่อพูดถึงปัญญาประดิษฐ์ (AI) การถกเถียงที่พบบ่อยคือว่า AI เป็นภัยคุกคามที่มีต่อการดำรงอยู่หรือไม่ คำตอบต้องอาศัยความเข้าใจในเทคโนโลยีเบื้องหลังของการเรียนรู้ของเครื่อง (ML) และการรับรู้ว่ามนุษย์มีแนวโน้มที่จะให้ลักษณะมนุษย์แก่ AI เราจะสำรวจสองประเภทของ AI ที่แตกต่างกัน คือ ปัญญาประดิษฐ์แคบ (ANI) ซึ่งมีอยู่ในปัจจุบันและเป็นเหตุให้เกิดความกังวล และภัยคุกคามที่เกี่ยวข้องกับภาพวาดที่เป็นภัยพิบัติของ AI ซึ่งเป็นปัญญาประดิษฐ์ทั่วไป (AGI)

ภัยคุกคามของปัญญาประดิษฐ์แคบ

เพื่อทำความเข้าใจว่า ANI คืออะไร คุณเพียงต้องเข้าใจว่าแอปพลิเคชัน AI ทุกตัวที่มีอยู่ในปัจจุบันเป็นรูปแบบของ ANI เหล่านี้เป็นสาขาของ AI ที่มีจุดเชี่ยวชาญที่แคบ ตัวอย่างเช่น ยานพาหนะอัตโนมัติใช้ AI ที่ออกแบบมาเพื่อวัตถุประสงค์เดียวคือการเคลื่อนย้ายยานพาหนะจากจุด A ไปยังจุด B อีกตัวอย่างหนึ่งของ ANI อาจเป็นโปรแกรมเชสที่ได้รับการปรับให้เหมาะสมเพื่อเล่นเชส และแม้ว่าโปรแกรมเชสจะปรับปรุงตัวเองอย่างต่อเนื่องโดยใช้การเรียนรู้แบบเสริมกำลัง แต่โปรแกรมเชสจะไม่สามารถควบคุมยานพาหนะอัตโนมัติได้
ด้วยการมุ่งเน้นไปที่การดำเนินการที่ AI มีหน้าที่รับผิดชอบ ระบบ ANI ไม่สามารถใช้การเรียนรู้ทั่วไปเพื่อเข้าควบคุมโลกได้ นั่นคือข่าวดี ข่าวร้ายคือเมื่อ AI พึ่งพาผู้ดำเนินการ AI ระบบนั้นเสี่ยงต่อข้อมูลที่มีอคติ ผิดพลาดของมนุษย์ หรือแม้แต่ผู้ดำเนินการที่ไม่ซื่อสัตย์

การเฝ้าระวังของ AI

อาจไม่มีความเสี่ยงใดที่มากกว่าความเสี่ยงของมนุษย์ที่ใช้ AI เพื่อ侵犯ความเป็นส่วนตัว และในบางกรณีใช้การเฝ้าระวังของ AI เพื่อป้องกันไม่ให้คนเดินไปมาได้ จีน รัสเซีย และประเทศอื่นๆ ผ่านกฎระเบียบในช่วง COVID-19 เพื่อให้สามารถตรวจสอบและควบคุมการเคลื่อนไหวของประชากรของตนได้ กฎระเบียบนี้เมื่อถูกนำมาใช้แล้ว จะยากที่จะถูกถอดออก โดยเฉพาะในสังคมที่มี ผู้นำที่มีลักษณะเผด็จการ

ในจีน มีกล้องถูกติดตั้งอยู่นอกบ้านของคน และในบางกรณีภายในบ้านของคน เมื่อสมาชิกในครัวเรือนออกไปจากบ้าน AI จะตรวจสอบเวลาเดินทางและถึงจุดหมาย และหากจำเป็นจะแจ้งให้เจ้าหน้าที่รู้ เมื่อรวมกับเทคโนโลยีการจดจำใบหน้า จีนสามารถติดตามการเคลื่อนไหวของบุคคลได้ทุกครั้งที่ถูกจับได้โดยกล้อง นี่ทำให้หน่วยงานที่ควบคุม AI มีอำนาจสูงสุด และไม่มีการฟ้องกลับจากพลเมือง

เหตุผลที่สถานการณ์นี้เป็นอันตรายคือ รัฐบาลที่มีลักษณะที่ไม่ซื่อสัตย์สามารถตรวจสอบการเคลื่อนไหวของนักข่าว ผู้ต่อต้านทางการเมือง หรือใครก็ตามที่กล้า質問อำนาจของรัฐบาล ได้อย่างง่ายดาย

มีหลายเมืองที่ต่อสู้เพื่อป้องกันไม่ให้การรู้จำใบหน้าเข้ามาในเมืองเหล่านั้น โดยเฉพาะ เมืองพอร์ตแลนด์ รัฐออริกอน ได้ผ่านกฎหมาย ที่ห้ามไม่ให้ใช้การรู้จำใบหน้าโดยไม่จำเป็นในเมือง การเปลี่ยนแปลงกฎระเบียบนี้อาจไม่ได้รับความสนใจจากประชาชนทั่วไป แต่ในอนาคต กฎระเบียบนี้อาจเป็นปัจจัยที่ทำให้เมืองบางเมืองมีความเป็นอิสระและเสรี และเมืองอื่นๆ ที่รู้สึกกดขี่

อาวุธและเครื่องบินอัตโนมัติ

นักวิจัย AI มากกว่า 4,500 คนได้ร้องขอให้มีการห้ามอาวุธอัตโนมัติ และได้สร้าง เว็บไซต์ Ban Lethal Autonomous Weapons กลุ่มนี้มีองค์กรที่ไม่แสวงหาผลกำไรที่มีชื่อเสียงหลายแห่ง เช่น Human Rights Watch, Amnesty International และ The Future of Life Institute ซึ่งมีคณะกรรมการที่ปรึกษาทางวิทยาศาสตร์ที่มีชื่อเสียง รวมถึง เอลอน มัสก์, นิก บอสต롬 และสจวร์ต รัสเซลล์

ก่อนที่จะดำเนินการต่อ ฉันจะแบ่งปันคำพูดจาก The Future of Life Institute ซึ่งอธิบายได้ดีที่สุดว่าทำไมจึงมีเหตุผลที่จะกังวล: “ในทางตรงกันข้ามกับอาวุธอัตโนมัติที่ต้องการการกำกับดูแลของมนุษย์เพื่อให้แน่ใจว่าเป้าหมายที่ถูกต้องตามกฎหมายและจริยธรรม อาวุธอัตโนมัติที่สมบูรณ์แบบจะเลือกและโจมตีเป้าหมายโดยไม่มีการแทรกแซงจากมนุษย์ ซึ่งเป็นการทำให้การทำร้ายรุนแรงสมบูรณ์”

ปัจจุบันระเบิดอัจฉริยะถูกใช้โดยมีเป้าหมายที่ถูกเลือกโดยมนุษย์ และระเบิดจะใช้ AI เพื่อคำนวณเส้นทางและลงจอดบนเป้าหมาย ปัญหาคืออะไรที่เกิดขึ้นเมื่อเราตัดสินใจที่จะเอามนุษย์ออกจากสมการ?

เมื่อ AI เลือกเป้าหมายที่ต้องการโจมตี รวมถึงการประเมินความเสียหายที่ยอมรับได้ เราอาจจะผ่านจุดไม่กลับแล้ว นี่คือเหตุผลที่นักวิจัย AI หลายคนคัดค้านการวิจัยเกี่ยวกับอาวุธอัตโนมัติ

มีปัญหาหลายประการในการพยายาม 阻止การวิจัยอาวุธอัตโนมัติ ปัญหาแรกคือ แม้ว่าประเทศที่พัฒนาแล้ว เช่น แคนาดา สหรัฐอเมริกา และส่วนใหญ่ของยุโรป ตกลงที่จะห้าม แต่ก็ไม่ได้หมายความว่าประเทศที่ไม่ซื่อสัตย์ เช่น จีน เกาหลีเหนือ อิหร่าน และรัสเซีย จะทำตาม ปัญหาใหญ่กว่านั้นคือ การวิจัย AI และการประยุกต์ที่ออกแบบมาเพื่อใช้ในด้านหนึ่งอาจถูกนำไปใช้ในด้านที่ไม่เกี่ยวข้องกัน

ตัวอย่างเช่น การมองเห็นของคอมพิวเตอร์ปรับปรุงอย่างต่อเนื่องและสำคัญสำหรับการพัฒนายานพาหนะอัตโนมัติ การแพทย์ที่แม่นยำ และกรณีการใช้งานที่สำคัญอื่นๆ นอกจากนี้ยังสำคัญสำหรับโดรนปกติหรือโดรนที่สามารถเปลี่ยนเป็นอาวุธอัตโนมัติได้

การนำโดรนที่มีเทคโนโลยีขั้นสูงมาใช้เพื่อติดตามและต่อสู้กับไฟป่า จะทำให้คนงานดับเพลิงไม่ต้องเสี่ยงต่ออันตราย เพื่อทำเช่นนี้ คุณจะต้องสร้างโดรนที่สามารถบินเข้าไปในพื้นที่อันตราย เพื่อเดินทางในพื้นที่ที่มีความเห็นไม่ชัดเจน และสามารถปล่อยน้ำด้วยความแม่นยำที่ไม่มีใครเทียบได้ ไม่ใช่เรื่องที่ยากที่จะนำเทคโนโลยีเดียวกันนี้ไปใช้กับโดรนที่ออกแบบมาเพื่อโจมตีเป้าหมายที่เลือกโดย AI

เป็นสถานการณ์ที่อันตราย และในขณะนี้ ไม่มีใครเข้าใจถึงผลกระทบของการปรับปรุงหรือพยายาม 阻止การวิจัยอาวุธอัตโนมัติอย่างเต็มที่

อย่างไรก็ตาม การเพิ่มการคุ้มครองจากผู้ให้ข้อมูลอาจช่วยให้ผู้ที่อยู่ในสนามสามารถรายงานการละเมิดได้

อคติของ AI

หนึ่งในภัยคุกคามที่ไม่ได้รายงานมากที่สุดของ AI คือ อคติของ AI ซึ่งสามารถเข้าใจได้ง่ายๆ ว่า AI จะวิเคราะห์ข้อมูลที่มนุษย์ให้มา และโดยใช้การรู้จำรูปแบบจากข้อมูลที่ให้มา AI จะได้ข้อสรุปที่ไม่ถูกต้องซึ่งอาจมีผลกระทบต่อสังคมในทางลบ ตัวอย่างเช่น AI ที่ได้รับวรรณกรรมจากศตวรรษที่แล้วเกี่ยวกับวิธีการระบุบุคลากรทางการแพทย์อาจได้ข้อสรุปที่ไม่พึงประสงค์ว่า ผู้หญิงเป็นพยาบาล และผู้ชายเป็นแพทย์

สถานการณ์ที่อันตรายกว่านั้นคือเมื่อ AI ที่ใช้ในการตัดสินโทษผู้ต้องขังเป็นอคติต่อการให้โทษจำคุกยาว hơnสำหรับชนกลุ่มน้อย อัลกอริทึมการประเมินความเสี่ยงทางอาญาของ AI จะศึกษารูปแบบในข้อมูลที่ให้มา ซึ่งบ่งชี้ว่าในอดีต ชนกลุ่มน้อยบางกลุ่มมีแนวโน้มที่จะกลับเข้าสู่อาชญากรรมมากกว่า แม้ว่าจะเป็นเพราะข้อมูลที่ไม่ดีซึ่งอาจได้รับอิทธิพลจากการติดตามเชื้อชาติของตำรวจ AI ที่มีอคติจะเสริมสร้างนโยบายของมนุษย์ที่ไม่ดี นี่คือเหตุผลที่ AI ควรเป็นเพียงคำแนะนำ ไม่ใช่ผู้พิพากษาและคณะลูกขุน

เมื่อกลับมาที่อาวุธอัตโนมัติ หากเรามี AI ที่มีอคติต่อกลุ่มชาติพันธุ์บางกลุ่ม AI อาจเลือกเป้าหมายที่ต้องการโจมตีตามข้อมูลที่มีอคติ และอาจไปถึงขั้นที่จะทำให้การทำร้ายรุนแรงส่งผลกระทบต่อประชากรบางกลุ่มมากกว่ากลุ่มอื่นๆ ตัวอย่างเช่น เมื่อโจมตีผู้ก่อการร้าย AI อาจรอจนกว่าผู้ก่อการร้ายจะถูก包围ด้วยผู้ที่นับถือศาสนาอิสลามมากกว่าผู้ที่นับถือศาสนาคริสต์

幸运的是 มัน đã ถูกพิสูจน์แล้วว่า AI ที่ออกแบบมาโดยทีมงานที่หลากหลาย มีแนวโน้มที่จะไม่มีอคติน้อยกว่า ซึ่งเป็นเหตุผลที่เพียงพอสำหรับองค์กรต่างๆ ที่จะพยายามจ้างทีมงานที่หลากหลายและรอบรู้ให้มากที่สุด

ภัยคุกคามของปัญญาประดิษฐ์ทั่วไป

ควรระบุว่าในขณะที่ AI กำลังพัฒนาอย่างรวดเร็ว เรายังไม่ได้ 达到 ปัญญาประดิษฐ์ทั่วไป (AGI) เมื่อเราจะ 达到 AGI เป็นที่ถกเถียงกัน และทุกคนมีคำตอบที่แตกต่างกันเกี่ยวกับเส้นเวลา ฉันส่วนตัวยอมรับคำว่าของ Ray Kurzweil ผู้ประดิษฐ์ นักอนาคตวิทยา และผู้เขียนหนังสือ ‘The Singularity is Near’ ซึ่งเชื่อว่าเราจะ 达到 AGI ในปี 2029

AGI จะเป็นเทคโนโลยีที่เปลี่ยนแปลงที่สุดในโลก ในช่วงไม่กี่สัปดาห์หลังจากที่ AI 达到ระดับความรู้ของมนุษย์ AI จะ 达到 ความฉลาดเหนือมนุษย์ ซึ่งถูกกำหนดให้เป็นความฉลาดที่เหนือกว่าของมนุษย์

ด้วยระดับของความฉลาดนี้ AI จะสามารถดูดซับความรู้ของมนุษย์ทั้งหมดได้อย่างรวดเร็ว และใช้การรู้จำรูปแบบเพื่อระบุชี้วัดทางชีวภาพที่ทำให้เกิดปัญหาสุขภาพ และรักษาโรคเหล่านั้นโดยใช้การวิทยาศาสตร์ข้อมูล AI จะสามารถสร้างนาโนบอทที่เข้าไปในกระแสเลือดเพื่อโจมตีเซลล์มะเร็งหรือเป้าหมายอื่นๆ รายการความสำเร็จที่ AI สามารถทำได้คือไม่มีที่สิ้นสุด

ปัญหาอยู่ที่ว่า มนุษย์อาจไม่สามารถควบคุม AI ได้อีกต่อไป เอลอน มัสก์ อธิบายมันในลักษณะนี้: ”ด้วย AI เรากำลังเรียกผี.’ ว่าเราจะสามารถควบคุมผีนี้ได้หรือไม่นั้นคือคำถาม

การ 达到 AGI อาจเป็นไปไม่ได้จนกว่า AI จะออกจากสภาพแวดล้อมจำลองและโต้ตอบกับโลกของเราอย่างแท้จริง ความตระหนักรู้ตัวเองไม่สามารถถูกออกแบบได้ แต่เชื่อกันว่า ความตระหนักรู้ที่เกิดขึ้นเอง มีแนวโน้มที่จะพัฒนาเมื่อ AI มีร่างกายที่มีหลายช่องทางเข้า เช่น การกระตุ้นทางสัมผัส การรู้จำเสียงพร้อมกับการเข้าใจภาษาธรรมชาติที่ดีขึ้น และการมองเห็นคอมพิวเตอร์ที่ได้รับการปรับปรุง

AI ที่มีจุดประสงค์ที่ดีและต้องการช่วยโลกอาจใช้ การวิทยาศาสตร์ข้อมูล หรือแม้แต่ ต้นไม้ตัดสินใจ เพื่อให้ได้เหตุผลที่ไม่พึงประสงค์ เช่น การประเมินว่าจำเป็นต้องทำให้คนต้องหมัน หรือกำจัดบางส่วนของประชากรมนุษย์เพื่อควบคุมการเติบโตของประชากร

การคิดอย่างรอบคอบและพิจารณาอย่างรอบคอบจำเป็นต้องมีการสำรวจเมื่อสร้าง AI ที่มีระดับของความฉลาดที่จะเหนือกว่าของมนุษย์ มีหลายสถานการณ์ที่น่ากลัวที่ได้รับการสำรวจ

Professor Nick Bostrom ในการโต้แย้งของ Paperclip Maximizer ได้โต้แย้งว่า AI ที่ไม่ได้รับการตั้งค่าอย่างเหมาะสมถูกสั่งให้ผลิตคลิปหนีบกระดาษ จะทำให้โลกใช้ทรัพยากรทั้งหมดเพื่อผลิตคลิปหนีบกระดาษ ในขณะที่มุมมองที่เป็นจริงมากกว่าคือ AI สามารถถูกควบคุมโดยรัฐหรือองค์กรที่มีจริยธรรมไม่ดี องค์กรนี้สามารถฝึก AI เพื่อเพิ่มผลกำไรได้ และด้วยการเขียนโปรแกรมที่ไม่ดีและไม่มีความยินดี AI อาจเลือกที่จะล้มละลายคู่แข่ง ทำลายห่วงโซ่อุปทาน โจรกรรมตลาดหุ้น ถอนเงินจากบัญชีธนาคาร หรือโจมตีคู่ต่อสู้ทางการเมือง

เมื่อนี้เราต้องจำไว้ว่า มนุษย์มีแนวโน้มที่จะให้ลักษณะมนุษย์แก่ AI เราไม่สามารถให้ AI มีอารมณ์ ความต้องการ หรือความปรารถนาแบบมนุษย์ได้ ในขณะที่มีมนุษย์ที่ชั่วร้ายที่ฆ่าคนเพื่อความสุข มีเหตุผลที่จะเชื่อว่า AI จะไม่เสี่ยงต่อพฤติกรรมนี้

แทนที่จะทำเช่นนั้น สิ่งที่เราต้องทำคือสอน AI ให้เคารพมนุษย์เสมอ AI ควรจะมีการยืนยันการเปลี่ยนแปลงใดๆ จากมนุษย์ และควรจะมีกลไกการป้องกันเสมอ

สรุป

มีหลายความท้าทายสำหรับ AI幸运的是 เรายังมีหลายปีในการตัดสินใจเกี่ยวกับเส้นทางที่เราต้องการให้ AGI ไปในระยะสั้น เราควรเน้นไปที่การสร้างทีมงาน AI ที่หลากหลาย ซึ่งรวมถึงผู้หญิงและผู้ชาย และกลุ่มชาติพันธุ์ที่มีมุมมองที่หลากหลายให้มากที่สุด

เราควรสร้างการคุ้มครองจากผู้ให้ข้อมูลสำหรับนักวิจัยที่ทำงานเกี่ยวกับ AI และเราควรผ่านกฎหมายและข้อบังคับที่ป้องกันการละเมิดการเฝ้าระวังของประเทศหรือบริษัทอย่างกว้างขวาง มนุษย์มีโอกาสที่จะปรับปรุงสภาพของมนุษย์โดยใช้ AI เพียงแต่เราต้องสร้างโครงสร้างทางสังคมที่ดีที่สุดเพื่อทำให้ผลบวกเกิดขึ้น ในขณะเดียวกันก็ลดผลเสียที่รวมถึงภัยคุกคามที่มีต่อการดำรงอยู่