เทคโนโลยี AI ที่ซับซ้อนนำเสนอความท้าทายด้านจริยธรรม – ผู้นำความคิด

โดย Alfred Crews, Jr. รองประธานและที่ปรึกษาทั่วไปสำหรับภาคอุตสาหกรรมความมั่นคงและข่าวกรองของ BAE Systems Inc.

เมื่อต้นปีนี้ ก่อนการระบาดทั่วของโควิด-19 ฉันเข้าร่วมการประชุมด้านจริยธรรมข่าวกรองของ The Citadel ในชาร์ลสตัน โดยที่เราพูดถึงเรื่องจริยธรรมในการรวบรวมข่าวกรองที่เกี่ยวข้องกับการปกป้องความมั่นคงของชาติ ในอุตสาหกรรมป้องกันประเทศ เรากำลังเห็นการแพร่กระจายของความรู้ การคำนวณ และเทคโนโลยีที่ทันสมัย โดยเฉพาะในด้านปัญญาประดิษฐ์ (AI) และการเรียนรู้ของเครื่อง (ML) อย่างไรก็ตาม อาจมีปัญหาใหญ่เมื่อใช้ AI ในบริบทของการรวบรวมข่าวกรองหรือการต่อสู้แบบเรียลไทม์

AI ที่คู่กับควอนตัมคอมพิวเตอร์นำเสนอความเสี่ยง

สิ่งที่เราต้องตั้งคำถาม วิเคราะห์ และกำหนดเส้นทางไปข้างหน้า คือเมื่อใช้ AI ที่คู่กับควอนตัมคอมพิวเตอร์ในกระบวนการตัดสินใจในช่วงสงคราม ตัวอย่างเช่น จำเรื่อง Terminator ได้ไหม เมื่อเทคโนโลยีของเราทำให้เราทำสิ่งที่ Skynet เสนอได้ เราอาจถามตัวเองว่า “Skynet มาเพื่อเราหรือไม่?” ลองเดินไปตามความทรงจำกับฉัน; เครื่องจักรที่มี AI มีอำนาจในการคิดและตัดสินใจโดยไม่มีมนุษย์ควบคุม เมื่อเครื่องจักรตัดสินว่ามนุษย์เป็น “บั๊ก” มันจะพยายามทำลายมนุษยชาติ ไม่ผิดที่จะบอกว่า AI มีศักยภาพที่ดี แต่ฉันเชื่อว่ามันควรจะมีเกณฑ์การควบคุมเนื่องจากมีความเสี่ยง

ความคลุมเครือทางจริยธรรมและปัญหาทางปรัชญาของ AI

ฉันเชื่อว่านี่คือเหตุผลที่กระทรวงกลาโหมสหรัฐฯ (DoD) ออกหลักการทางจริยธรรมสำหรับ AI ของตนเอง เนื่องจากการใช้ AI ทำให้เกิดความคลุมเครือและความเสี่ยงใหม่ๆ เมื่อรวม AI กับควอนตัมคอมพิวเตอร์ ความสามารถในการตัดสินใจจะเปลี่ยนแปลงและความเสี่ยงในการสูญเสียการควบคุมจะเพิ่มขึ้น – มากกว่าที่เรารู้ในปัจจุบัน ควอนตัมคอมพิวเตอร์ทำให้ระบบปฏิบัติการของสมองมนุษย์เสียเปรียบ เนื่องจากซูเปอร์คอมพิวเตอร์สามารถคำนวณได้เร็วและแม่นยำมากกว่าสมองมนุษย์

นอกจากนี้ การใช้ AI ที่คู่กับควอนตัมคอมพิวเตอร์ยังนำไปสู่ปัญหาทางปรัชญา เมื่อใดที่โลกจะอนุญาตให้เครื่องจักรมีเจตจำนงของตนเอง และถ้าเครื่องจักรได้รับอนุญาตให้คิดด้วยตนเอง มันจะกลายเป็นเครื่องจักรที่มีชีวิตหรือไม่? ในฐานะสังคม เรายังไม่ได้กำหนดวิธีการที่จะแก้ไขสถานการณ์นี้ ดังนั้น ในปัจจุบัน เครื่องจักรที่ทำงานโดยไม่มีการควบคุมของมนุษย์อาจนำไปสู่ผลกระทบต่างๆ

เมื่อฉันเห็นมัน การใช้ AI ในด้านการป้องกันประเทศเป็นสิ่งที่ทำได้ง่าย แต่จะง่ายแค่ไหนหากเราเปลี่ยนไปใช้การรุกราน? ในการรุกราน เครื่องจักรจะทำการตัดสินใจยิงโดยไม่มีการควบคุมของมนุษย์ จะถือว่าเป็นการละเมิดอนุสัญญาเจนีวาและกฎหมายเกี่ยวกับการสู้รบหรือไม่? เมื่อเราเคลื่อนไปสู่พื้นที่นี้อย่างรวดเร็ว โลกจะต้องตกลงกันว่าการใช้ AI และควอนตัมคอมพิวเตอร์ในการต่อสู้จะต้องปฏิบัติตามกฎหมายที่มีอยู่

DoD มีตำแหน่งที่ชัดเจนเมื่อใช้ AI กับระบบอัตโนมัติ และระบุว่าจะมีมนุษย์เข้ามาเกี่ยวข้องกับการตัดสินใจเสมอ และมนุษย์จะเป็นผู้ตัดสินใจสุดท้ายในการยิงอาวุธ นั่นคือกฎของเรา แต่เกิดอะไรขึ้นหากฝ่ายตรงข้ามตัดสินใจที่จะใช้ AI ที่สามารถตัดสินใจได้ด้วยตนเองโดยไม่มีการควบคุมของมนุษย์? ในกรณีนั้น เครื่องจักรที่มี AI จะมีความได้เปรียบมากกว่า

ลองพิจารณาเรื่องของโดรนที่มี AI และการรู้จำใบหน้า: โดรนยิงโดยอัตโนมัติเนื่องจากเป้าหมายที่กำหนดไว้ล่วงหน้าเป็น “ผู้ก่อการร้าย” ใครที่รับผิดชอบต่อการยิงนั้น? มีใครรับผิดชอบหากเกิดข้อผิดพลาดเนื่องจากความลำเอียง?

ความลำเอียงที่ฝังอยู่ใน AI/ML

การวิจัยชี้ให้เห็นว่าเครื่องจักรน่าจะทำผิดพลาดน้อยกว่ามนุษย์ แต่การวิจัยยังชี้ให้เห็นว่ามีความลำเอียงใน AI และ ML ที่เกิดจาก “ครู” ที่สอนเครื่องจักร หลักการทางจริยธรรมของ AI ของ DoD ระบุถึงความลำเอียงที่มีอยู่แล้วเมื่อระบุว่า “กระทรวงจะดำเนินการอย่างตั้งใจเพื่อลดความลำเอียงที่ไม่ได้ตั้งใจในความสามารถของ AI” เรารู้แล้วจากการศึกษาที่พิสูจน์แล้วว่ามีความลำเอียงในแอปพลิเคชันการรู้จำใบหน้า โดยเฉพาะอย่างยิ่งสำหรับคนผิวสี

ดังนั้น วิธีการขจัดความลำเอียงคืออะไร? ผลลัพธ์ของ AI จะดีเท่ากับข้อมูลที่เข้ามาเท่านั้น ดังนั้นจึงต้องมีการควบคุม คุณต้องควบคุมข้อมูลที่เข้ามาเพราะมันอาจทำให้ผลลัพธ์ของ AI ไม่ถูกต้อง นักพัฒนาจะต้องเขียนโค้ดใหม่เพื่อขจัดความลำเอียงอย่างต่อเนื่อง

โลกที่จะกำหนดการใช้เทคโนโลยีที่ดีที่สุด

เทคโนโลยีในตัวมันเองไม่ใช่สิ่งที่ดีหรือไม่ดี แต่เป็นวิธีการที่ประเทศใช้มันอาจทำให้ความตั้งใจที่ดีกลายเป็นลบ เมื่อเทคโนโลยีเพิ่มขึ้นในลักษณะที่ส่งผลกระทบต่อชีวิตมนุษย์ โลกจะต้องทำงานร่วมกันเพื่อกำหนดการดำเนินการที่เหมาะสม หากเราเอามนุษย์ออกจากสมการในการใช้ AI เราก็จะเอา “การหยุดชั่วคราว” ก่อนที่จะกระทำการ – คือที่เรียกว่า “เข็มทิศทางศีลธรรม” ที่ชี้นำเรา; การหยุดชั่วคราวเมื่อเราหยุดและถามว่า “สิ่งนี้ถูกต้องหรือไม่?” เครื่องจักรที่ถูกสอนให้เข้าไปมีส่วนร่วมจะไม่มีการหยุดชั่วคราวนั้น ดังนั้น คำถามคือ ในอนาคต โลกจะยอมรับสิ่งนี้หรือไม่? โลกจะไปได้ไกลแค่ไหนเพื่อให้เครื่องจักรตัดสินใจในการต่อสู้?