ผู้นำทางความคิด

ความวางใจระบบอัตโนมัติมากเกินไป: วิธีให้มนุษย์กลับมามีส่วนร่วม

Juliette Powell Art Kleiner
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญผู้ควบคุมที่เป็นมนุษย์ซึ่งเฝ้าดูระบบอัตโนมัติจะเกิดความประมาทและล้มเหลวในการตอบสนองเมื่อ…
ดูเพิ่มเติม
  • ผู้ควบคุมที่เป็นมนุษย์ซึ่งเฝ้าดูระบบอัตโนมัติจะเกิดความประมาทและล้มเหลวในการตอบสนองเมื่ออันตรายปรากฏขึ้นอย่างฉับพลัน
  • ความประมาทต่อระบบอัตโนมัติหมายความว่าผู้คนไว้วางใจเครื่องจักรอย่างลึกซึ้งจนหยุดใส่ใจถนน
  • ความขัดแย้งเชิงสร้างสรรค์ผ่านการมีส่วนร่วมจากชุมชนที่หลากหลายก่อนการนำไปใช้งานเป็นสิ่งจำเป็นเพื่อป้องกันความประมาทต่อระบบอัตโนมัติในวงกว้าง

ในเหตุการณ์ที่น่าตื่นเต้น Robotaxis หรือรถยนต์ขับอัตโนมัติที่ไม่มีผู้ควบคุมได้รับการอนุมัติให้เดินรถในซานฟรานซิสโก หลังจาก การรับฟังความคิดเห็นสาธารณะที่มีข้อถกเถียงนาน 7 ชั่วโมง การตัดสินใจนี้ได้รับการสนับสนุนจากคณะกรรมการสาธารณูปโภคแห่งรัฐแคลิฟอร์เนีย แม้ว่าจะมีการประท้วง แต่ก็มีความรู้สึกว่าเหตุการณ์นี้เป็นเรื่องที่ไม่สามารถหลีกเลี่ยงได้ แคลิฟอร์เนียได้ลดข้อจำกัดลงตั้งแต่ ต้นปี 2022 กฎใหม่อนุญาตให้บริษัทที่ได้รับอนุญาต 2 บริษัท คือ Waymo ของ Alphabet (GOOG ) และ Cruise ของ GM ส่งรถยนต์เหล่านี้ไปทั่วเมืองซานฟรานซิสโก ยกเว้นทางหลวง และคิดค่าโดยสารจากผู้โดยสาร

ความคิดของรถแท็กซี่ที่ขับอัตโนมัติมักทำให้เกิดอารมณ์ที่ขัดแย้งกัน 2 อย่าง คือ ความตื่นเต้น (“รถแท็กซี่ที่มีค่าใช้จ่ายต่ำ!”) และ ความกลัว (“รถจะชนฉันหรือลูกของฉันหรือไม่?”) ดังนั้น หน่วยงานกำกับดูแลมักกำหนดให้รถยนต์เหล่านี้ได้รับการทดสอบกับผู้โดยสารที่สามารถเข้าแทรกแซงและควบคุมระบบได้ก่อนที่จะเกิดอุบัติเหตุ อย่างไรก็ตาม การมีมนุษย์อยู่ในระบบและพร้อมที่จะเข้าแทรกแซงระบบอัตโนมัติอาจไม่ใช่วิธีที่ดีที่สุดในการรับรองความปลอดภัย

ในความเป็นจริง จากการเสียชีวิต 18 รายในสหรัฐอเมริกาที่เกี่ยวข้องกับการชนรถยนต์ขับอัตโนมัติ (จนถึงเดือนกุมภาพันธ์ของปีนี้) ทั้งหมด มีการควบคุมของมนุษย์อยู่ในรถหรือควบคุมจากระยะไกล รวมถึงอุบัติเหตุที่มีชื่อเสียง ที่เกิดขึ้นในช่วงกลางคืนบนถนนชานเมืองใน Tempe, Arizona ในปี 2018 รถยนต์อัตโนมัติของ Uber ที่ทดสอบได้ชนและฆ่าผู้หญิงวัย 49 ปี ชื่อ Elaine Herzberg ที่กำลังเดินจูงจักรยานข้ามถนน ผู้ควบคุมซึ่งนั่งในที่นั่งคนขับ กำลังมองลง เธอหันกลับมามองถนนประมาณหนึ่งวินาทีก่อนการชน และเริ่มหมุนพวงมาลัยช้าเกินไป อุบัติเหตุนี้ทำให้ Uber หยุดการทดสอบรถยนต์ขับอัตโนมัติ และในที่สุดก็ขายแผนกยานพาหนะอัตโนมัติซึ่งเป็นส่วนสำคัญของกลยุทธ์ทางธุรกิจ

ผู้ควบคุมรับสารภาพในความผิดฐานก่ออันตรายและถูกตัดสินให้คุมประพฤติภายใต้การกำกับดูแลสามปี ไม่ใช่จำคุก เหตุการณ์นี้สะท้อนความวางใจระบบอัตโนมัติมากเกินไป ซึ่งเป็นปรากฏการณ์ที่พบตั้งแต่ยุคแรกของการฝึกนักบิน ความมั่นใจมากเกินไปเป็นพลวัตที่เกิดขึ้นบ่อยๆ กับระบบ AI ยิ่งระบบทำงานได้ด้วยตนเองมาก ผู้ควบคุมก็ยิ่งไว้วางใจและใส่ใจน้อยลง เราเบื่อหน่ายเมื่อต้องเฝ้าดูเทคโนโลยีเหล่านี้ เมื่อเกิดอุบัติเหตุจริงๆ เราไม่คาดคิดและไม่ตอบสนองอย่างทันที

มนุษย์มีความสามารถตามธรรมชาติในสิ่งที่ผู้เชี่ยวชาญด้านความเสี่ยง Ron Dembo เรียกว่า “การคิดโดยคำนึงถึงความเสี่ยง” ซึ่งเป็นเรื่องที่แม้แต่ระบบ Machine Learning ที่ซับซ้อนมากที่สุดก็ไม่สามารถทำได้ นี่คือความสามารถในการตระหนักเมื่อคำตอบไม่ชัดเจน ว่าเราควรชะลอหรือหยุด การคิดเรื่องความเสี่ยงเป็นสิ่งสำคัญสำหรับระบบอัตโนมัติ และสิ่งนี้ทำให้เกิดปัญหา มนุษย์ต้องการที่จะอยู่ในระบบ แต่การให้คนควบคุมในขณะที่พึ่งพาระบบอัตโนมัติอย่างวางใจเกินไปอาจทำให้สถานการณ์เลวร้ายขึ้น

ดังนั้น ผู้พัฒนาระบบอัตโนมัติสามารถแก้ไขปัญหานี้ได้อย่างไร เพื่อให้การทดลองเช่นที่เกิดขึ้นในซานฟรานซิสโกสิ้นสุดลงด้วยผลลัพธ์ที่ดี คำตอบคือความระมัดระวังมากขึ้น ไม่ใช่แค่ในขณะเกิดอุบัติเหตุ แต่ตั้งแต่ขั้นตอนการออกแบบและพัฒนา ระบบ AI ทั้งหมดมีความเสี่ยงเมื่อไม่มีการควบคุม รถยนต์ขับอัตโนมัติจะไม่ปราศจากความเสี่ยง แม้ว่าจะเป็นรถที่ปลอดภัยกว่ารถที่ขับโดยมนุษย์ก็ตาม

อุบัติเหตุของ Uber แสดงให้เห็นว่าเกิดอะไรขึ้นเมื่อเราทำงานโดยไม่มีการคิดเรื่องความเสี่ยงอย่างตั้งใจ เพื่อที่จะทำเช่นนี้ เราต้องการการสร้างแรงเสียดทานที่มีประสิทธิภาพ: นำมุมมองของมนุษย์หลายๆ มุมมองเข้ามาเกี่ยวข้องก่อนที่ระบบเหล่านี้จะถูกปล่อยออกสู่สาธารณะ ในอีกคำหนึ่ง คิดถึงผลกระทบของระบบ AI มากกว่าการใช้งานเพียงอย่างเดียว ต้องใช้มุมมองของชุมชนซึ่งจะได้รับผลกระทบโดยตรงจากเทคโนโลยี

Waymo และ Cruise ได้ปกป้องประวัติความปลอดภัยของรถยนต์ของตนโดยอ้างถึงความน่าจะเป็นทางสถิติ อย่างไรก็ตาม การตัดสินใจครั้งนี้ทำให้ซานฟรานซิสโกกลายเป็นการทดลองที่มีชีวิต เมื่อผลลัพธ์ถูกนับแล้ว จะเป็นเรื่องสำคัญที่จะต้องรวบรวมข้อมูลที่ถูกต้อง แบ่งปันความสำเร็จและความล้มเหลว และให้ชุมชนซึ่งได้รับผลกระทบมีส่วนร่วมพร้อมกับ ผู้เชี่ยวชาญ นักการเมือง และผู้ประกอบการ ในอีกคำหนึ่ง คือการให้ทุกคนมีส่วนร่วมในกระบวนการตัดสินใจ มิฉะนั้นเราเสี่ยงต่อความวางใจระบบอัตโนมัติมากเกินไป จนยอมมอบการตัดสินใจให้ระบบ AI ในวงกว้าง

Juliette Powell และ Art Kleiner เป็นผู้เขียนร่วมของหนังสือใหม่ The AI Dilemma: 7 Principles for Responsible Technology.

Juliette Powell เป็นนักเขียน ผู้สร้างรายการโทรทัศน์ที่มี 9,000 รายการถ่ายทอดสด และเป็นนักเทคโนโลยีและนักสังคมวิทยา เธอยังเป็นผู้วิจารณ์บน Bloomberg TV/ Business News Networks และเป็นผู้พูดในงานประชุมที่จัดโดย The Economist และ International Finance Corporation การพูดที่ TED ของเธอได้รับการดู 130,000 ครั้งบน YouTube

อาร์ต ไคลเนอร์ เป็นนักเขียน บรรณาธิการ และนักอนาคตศาสตร์ หนังสือของเขาได้แก่ The Age of Heretics, Who Really Matters, Privilege and Success และ The Wise เขาเคยเป็นบรรณาธิการของ strategy+business นิตยสารที่ได้รับรางวัลซึ่งจัดพิมพ์โดย PwC