การที่มนุษย์ไม่ค่อยมีส่วนร่วมในการควบคุมระบบอัตโนมัติ: วิธีการนำมนุษย์กลับมาควบคุมระบบอัตโนมัติ

ในเหตุการณ์ที่น่าตื่นเต้น Robotaxis หรือรถยนต์ขับอัตโนมัติที่ไม่มีผู้ควบคุมได้รับการอนุมัติให้เดินรถในซานฟรานซิสโก หลังจากการประชุมสาธารณะที่มีการถกเถียงกัน 7 ชั่วโมง การตัดสินใจนี้ได้รับการสนับสนุนจากคณะกรรมการสาธารณูปโภคแห่งรัฐแคลิฟอร์เนีย แม้ว่าจะมีการประท้วง แต่ก็มีความรู้สึกว่าเหตุการณ์นี้เป็นเรื่องที่ไม่สามารถหลีกเลี่ยงได้ แคลิฟอร์เนียได้ลดข้อจำกัดลงตั้งแต่ ต้นปี 2022 กฎใหม่อนุญาตให้บริษัทที่ได้รับอนุญาต 2 บริษัท คือ Waymo ของ Alphabet และ Cruise ของ GM ส่งรถยนต์เหล่านี้ไปทั่วเมืองซานฟรานซิสโก ยกเว้นทางหลวง และคิดค่าโดยสารจากผู้โดยสาร

ความคิดของรถแท็กซี่ที่ขับอัตโนมัติมักทำให้เกิดอารมณ์ที่ขัดแย้งกัน 2 อย่าง คือ ความตื่นเต้น (“รถแท็กซี่ที่มีค่าใช้จ่ายต่ำ!”) และ ความกลัว (“รถจะชนฉันหรือลูกของฉันหรือไม่?”) ดังนั้น ผู้ควบคุมมักต้องการให้รถยนต์เหล่านี้ได้รับการทดสอบกับผู้โดยสารที่สามารถเข้าแทรกแซงและควบคุมระบบได้ก่อนที่จะเกิดอุบัติเหตุ อย่างไรก็ตาม การมีมนุษย์อยู่ในระบบและพร้อมที่จะเข้าแทรกแซงระบบอัตโนมัติอาจไม่ใช่วิธีที่ดีที่สุดในการรับรองความปลอดภัย

ในความเป็นจริง จากการเสียชีวิต 18 รายใน美国ที่เกี่ยวข้องกับการชนรถยนต์ขับอัตโนมัติ (จนถึงเดือนกุมภาพันธ์ของปีนี้) ทั้งหมด มีการควบคุมของมนุษย์อยู่ในรถหรือควบคุมจากระยะไกล รวมถึงอุบัติเหตุที่มีชื่อเสียง ที่เกิดขึ้นในช่วงกลางคืนบนถนนชานเมืองใน Tempe, Arizona ในปี 2018 รถยนต์อัตโนมัติของ Uber ที่ทดสอบได้ชนและฆ่าผู้หญิงวัย 49 ปี ชื่อ Elaine Herzberg ที่กำลังวิ่งไปข้ามถนนพร้อมกับจักรยาน ผู้ควบคุมในที่นั่งผู้โดยสาร กำลังมองลง และรถไม่ได้เตือนพวกเขาจนกว่าจะเหลือเวลาไม่ถึง 1 วินาทีก่อนการชน พวกเขาจับพวงมาลัยช้าเกินไป อุบัติเหตุนี้ทำให้ Uber หยุดการทดสอบรถยนต์ขับอัตโนมัติ และในที่สุดก็ขายแผนกยานพาหนะอัตโนมัติซึ่งเป็นส่วนสำคัญของกลยุทธ์ทางธุรกิจ

ผู้ควบคุมรถยนต์ถูกจับเข้าเรือนจำเนื่องจากความประมาทเลินเล่อในการควบคุมระบบอัตโนมัติ ซึ่งเป็นปรากฏการณ์ที่ค้นพบครั้งแรกในสมัยเริ่มแรกของการฝึกอบรมการบินของนักบิน ความมั่นใจมากเกินไปเป็นพลวัตที่เกิดขึ้นบ่อยๆ กับระบบ AI มนุษย์มักจะเชื่อใจระบบอัตโนมัติมากเกินไปและไม่สนใจอย่างเต็มที่ เมื่อเกิดอุบัติเหตุจริงๆ เราไม่คาดคิดและไม่ตอบสนองอย่างทันที

มนุษย์เป็นธรรมชาติที่มีความสามารถในการคิดเรื่องความเสี่ยง ซึ่งเป็นเรื่องที่แม้แต่ระบบ Machine Learning ที่ซับซ้อนมากที่สุดก็ไม่สามารถทำได้ นี่คือความสามารถในการตระหนักเมื่อคำตอบไม่ชัดเจน ว่าเราควรชะลอหรือหยุด การคิดเรื่องความเสี่ยงเป็นสิ่งสำคัญสำหรับระบบอัตโนมัติ และสิ่งนี้ทำให้เกิดปัญหา มนุษย์ต้องการที่จะอยู่ในระบบ แต่การให้คนควบคุมระบบอัตโนมัติอาจทำให้สถานการณ์เลวร้ายขึ้น

ดังนั้น ผู้พัฒนาระบบอัตโนมัติสามารถแก้ไขปัญหานี้ได้อย่างไร เพื่อให้การทดลองเช่นที่เกิดขึ้นในซานฟรานซิสโกสิ้นสุดลงด้วยผลลัพธ์ที่ดี คำตอบคือความระมัดระวังมากขึ้น ไม่ใช่แค่ในขณะเกิดอุบัติเหตุ แต่ตั้งแต่ขั้นตอนการออกแบบและพัฒนา ระบบ AI ทั้งหมดมีความเสี่ยงเมื่อไม่มีการควบคุม รถยนต์ขับอัตโนมัติจะไม่ปราศจากความเสี่ยง แม้ว่าจะเป็นรถที่ปลอดภัยกว่ารถที่ขับโดยมนุษย์ก็ตาม

อุบัติเหตุของ Uber แสดงให้เห็นว่าเกิดอะไรขึ้นเมื่อเราทำงานโดยไม่มีการคิดเรื่องความเสี่ยงอย่างตั้งใจ เพื่อที่จะทำเช่นนี้ เราต้องการการสร้างแรงเสียดทานที่มีประสิทธิภาพ: นำมุมมองของมนุษย์หลายๆ มุมมองเข้ามาเกี่ยวข้องก่อนที่ระบบเหล่านี้จะถูกปล่อยออกสู่สาธารณะ ในอีกคำหนึ่ง คิดถึงผลกระทบของระบบ AI มากกว่าการใช้งานเพียงอย่างเดียว ต้องใช้มุมมองของชุมชนซึ่งจะได้รับผลกระทบโดยตรงจากเทคโนโลยี

Waymo และ Cruise ได้ป้องกันความปลอดภัยของรถยนต์ของตนโดยอ้างถึงความน่าจะเป็นทางสถิติ อย่างไรก็ตาม การตัดสินใจครั้งนี้ทำให้ซานฟรานซิสโกกลายเป็นการทดลองที่มีชีวิต เมื่อผลลัพธ์ถูกนับแล้ว จะเป็นเรื่องสำคัญที่จะต้องรวบรวมข้อมูลที่ถูกต้อง แบ่งปันความสำเร็จและความล้มเหลว และให้ชุมชนซึ่งได้รับผลกระทบมีส่วนร่วมพร้อมกับ chuyên家 นักการเมือง และผู้ประกอบการ ในอีกคำหนึ่ง คือ การให้ทุกคนมีส่วนร่วมในกระบวนการการตัดสินใจ

Juliette Powell และ Art Kleiner เป็นผู้เขียนร่วมของหนังสือใหม่ The AI Dilemma: 7 Principles for Responsible Technology.