ผู้นำทางความคิด
ความวางใจระบบอัตโนมัติมากเกินไป: วิธีให้มนุษย์กลับมามีส่วนร่วม

ประเด็นสำคัญผู้ควบคุมที่เป็นมนุษย์ซึ่งเฝ้าดูระบบอัตโนมัติจะเกิดความประมาทและล้มเหลวในการตอบสนองเมื่อ…
ดูเพิ่มเติม
- ผู้ควบคุมที่เป็นมนุษย์ซึ่งเฝ้าดูระบบอัตโนมัติจะเกิดความประมาทและล้มเหลวในการตอบสนองเมื่ออันตรายปรากฏขึ้นอย่างฉับพลัน
- ความประมาทต่อระบบอัตโนมัติหมายความว่าผู้คนไว้วางใจเครื่องจักรอย่างลึกซึ้งจนหยุดใส่ใจถนน
- ความขัดแย้งเชิงสร้างสรรค์ผ่านการมีส่วนร่วมจากชุมชนที่หลากหลายก่อนการนำไปใช้งานเป็นสิ่งจำเป็นเพื่อป้องกันความประมาทต่อระบบอัตโนมัติในวงกว้าง
ในเหตุการณ์ที่น่าตื่นเต้น Robotaxis หรือรถยนต์ขับอัตโนมัติที่ไม่มีผู้ควบคุมได้รับการอนุมัติให้เดินรถในซานฟรานซิสโก หลังจาก การรับฟังความคิดเห็นสาธารณะที่มีข้อถกเถียงนาน 7 ชั่วโมง การตัดสินใจนี้ได้รับการสนับสนุนจากคณะกรรมการสาธารณูปโภคแห่งรัฐแคลิฟอร์เนีย แม้ว่าจะมีการประท้วง แต่ก็มีความรู้สึกว่าเหตุการณ์นี้เป็นเรื่องที่ไม่สามารถหลีกเลี่ยงได้ แคลิฟอร์เนียได้ลดข้อจำกัดลงตั้งแต่ ต้นปี 2022 กฎใหม่อนุญาตให้บริษัทที่ได้รับอนุญาต 2 บริษัท คือ Waymo ของ Alphabet (GOOG ) และ Cruise ของ GM ส่งรถยนต์เหล่านี้ไปทั่วเมืองซานฟรานซิสโก ยกเว้นทางหลวง และคิดค่าโดยสารจากผู้โดยสาร
ความคิดของรถแท็กซี่ที่ขับอัตโนมัติมักทำให้เกิดอารมณ์ที่ขัดแย้งกัน 2 อย่าง คือ ความตื่นเต้น (“รถแท็กซี่ที่มีค่าใช้จ่ายต่ำ!”) และ ความกลัว (“รถจะชนฉันหรือลูกของฉันหรือไม่?”) ดังนั้น หน่วยงานกำกับดูแลมักกำหนดให้รถยนต์เหล่านี้ได้รับการทดสอบกับผู้โดยสารที่สามารถเข้าแทรกแซงและควบคุมระบบได้ก่อนที่จะเกิดอุบัติเหตุ อย่างไรก็ตาม การมีมนุษย์อยู่ในระบบและพร้อมที่จะเข้าแทรกแซงระบบอัตโนมัติอาจไม่ใช่วิธีที่ดีที่สุดในการรับรองความปลอดภัย
ในความเป็นจริง จากการเสียชีวิต 18 รายในสหรัฐอเมริกาที่เกี่ยวข้องกับการชนรถยนต์ขับอัตโนมัติ (จนถึงเดือนกุมภาพันธ์ของปีนี้) ทั้งหมด มีการควบคุมของมนุษย์อยู่ในรถหรือควบคุมจากระยะไกล รวมถึงอุบัติเหตุที่มีชื่อเสียง ที่เกิดขึ้นในช่วงกลางคืนบนถนนชานเมืองใน Tempe, Arizona ในปี 2018 รถยนต์อัตโนมัติของ Uber ที่ทดสอบได้ชนและฆ่าผู้หญิงวัย 49 ปี ชื่อ Elaine Herzberg ที่กำลังเดินจูงจักรยานข้ามถนน ผู้ควบคุมซึ่งนั่งในที่นั่งคนขับ กำลังมองลง เธอหันกลับมามองถนนประมาณหนึ่งวินาทีก่อนการชน และเริ่มหมุนพวงมาลัยช้าเกินไป อุบัติเหตุนี้ทำให้ Uber หยุดการทดสอบรถยนต์ขับอัตโนมัติ และในที่สุดก็ขายแผนกยานพาหนะอัตโนมัติซึ่งเป็นส่วนสำคัญของกลยุทธ์ทางธุรกิจ
ผู้ควบคุมรับสารภาพในความผิดฐานก่ออันตรายและถูกตัดสินให้คุมประพฤติภายใต้การกำกับดูแลสามปี ไม่ใช่จำคุก เหตุการณ์นี้สะท้อนความวางใจระบบอัตโนมัติมากเกินไป ซึ่งเป็นปรากฏการณ์ที่พบตั้งแต่ยุคแรกของการฝึกนักบิน ความมั่นใจมากเกินไปเป็นพลวัตที่เกิดขึ้นบ่อยๆ กับระบบ AI ยิ่งระบบทำงานได้ด้วยตนเองมาก ผู้ควบคุมก็ยิ่งไว้วางใจและใส่ใจน้อยลง เราเบื่อหน่ายเมื่อต้องเฝ้าดูเทคโนโลยีเหล่านี้ เมื่อเกิดอุบัติเหตุจริงๆ เราไม่คาดคิดและไม่ตอบสนองอย่างทันที
มนุษย์มีความสามารถตามธรรมชาติในสิ่งที่ผู้เชี่ยวชาญด้านความเสี่ยง Ron Dembo เรียกว่า “การคิดโดยคำนึงถึงความเสี่ยง” ซึ่งเป็นเรื่องที่แม้แต่ระบบ Machine Learning ที่ซับซ้อนมากที่สุดก็ไม่สามารถทำได้ นี่คือความสามารถในการตระหนักเมื่อคำตอบไม่ชัดเจน ว่าเราควรชะลอหรือหยุด การคิดเรื่องความเสี่ยงเป็นสิ่งสำคัญสำหรับระบบอัตโนมัติ และสิ่งนี้ทำให้เกิดปัญหา มนุษย์ต้องการที่จะอยู่ในระบบ แต่การให้คนควบคุมในขณะที่พึ่งพาระบบอัตโนมัติอย่างวางใจเกินไปอาจทำให้สถานการณ์เลวร้ายขึ้น
ดังนั้น ผู้พัฒนาระบบอัตโนมัติสามารถแก้ไขปัญหานี้ได้อย่างไร เพื่อให้การทดลองเช่นที่เกิดขึ้นในซานฟรานซิสโกสิ้นสุดลงด้วยผลลัพธ์ที่ดี คำตอบคือความระมัดระวังมากขึ้น ไม่ใช่แค่ในขณะเกิดอุบัติเหตุ แต่ตั้งแต่ขั้นตอนการออกแบบและพัฒนา ระบบ AI ทั้งหมดมีความเสี่ยงเมื่อไม่มีการควบคุม รถยนต์ขับอัตโนมัติจะไม่ปราศจากความเสี่ยง แม้ว่าจะเป็นรถที่ปลอดภัยกว่ารถที่ขับโดยมนุษย์ก็ตาม
อุบัติเหตุของ Uber แสดงให้เห็นว่าเกิดอะไรขึ้นเมื่อเราทำงานโดยไม่มีการคิดเรื่องความเสี่ยงอย่างตั้งใจ เพื่อที่จะทำเช่นนี้ เราต้องการการสร้างแรงเสียดทานที่มีประสิทธิภาพ: นำมุมมองของมนุษย์หลายๆ มุมมองเข้ามาเกี่ยวข้องก่อนที่ระบบเหล่านี้จะถูกปล่อยออกสู่สาธารณะ ในอีกคำหนึ่ง คิดถึงผลกระทบของระบบ AI มากกว่าการใช้งานเพียงอย่างเดียว ต้องใช้มุมมองของชุมชนซึ่งจะได้รับผลกระทบโดยตรงจากเทคโนโลยี
Waymo และ Cruise ได้ปกป้องประวัติความปลอดภัยของรถยนต์ของตนโดยอ้างถึงความน่าจะเป็นทางสถิติ อย่างไรก็ตาม การตัดสินใจครั้งนี้ทำให้ซานฟรานซิสโกกลายเป็นการทดลองที่มีชีวิต เมื่อผลลัพธ์ถูกนับแล้ว จะเป็นเรื่องสำคัญที่จะต้องรวบรวมข้อมูลที่ถูกต้อง แบ่งปันความสำเร็จและความล้มเหลว และให้ชุมชนซึ่งได้รับผลกระทบมีส่วนร่วมพร้อมกับ ผู้เชี่ยวชาญ นักการเมือง และผู้ประกอบการ ในอีกคำหนึ่ง คือการให้ทุกคนมีส่วนร่วมในกระบวนการตัดสินใจ มิฉะนั้นเราเสี่ยงต่อความวางใจระบบอัตโนมัติมากเกินไป จนยอมมอบการตัดสินใจให้ระบบ AI ในวงกว้าง
Juliette Powell และ Art Kleiner เป็นผู้เขียนร่วมของหนังสือใหม่ The AI Dilemma: 7 Principles for Responsible Technology.













