การวิจัยใหม่เผยให้เห็นความเชื่อมั่นของมนุษย์ต่อรถยนต์หุ่นยนต์

การวิจัยใหม่ภายใต้การนำของ U.S. Army Research Laboratory และ University of Central Florida Institute for Simulations and Training ได้เผยให้เห็นถึงระดับความเชื่อมั่นของมนุษย์ที่มีต่อรถยนต์หุ่นยนต์ การวิจัยใหม่นี้มุ่งเน้นไปที่ความสัมพันธ์ระหว่างมนุษย์และรถยนต์หุ่นยนต์ และวิธีที่มนุษย์มอบคุณค่าให้กับการให้เหตุผลหรือความผิดพลาดของรถยนต์หุ่นยนต์

การวิจัยใหม่นี้ได้ตรวจสอบการทำงานร่วมกันระหว่างมนุษย์และตัวแทน (human-agent teaming) และวิธีที่ความเชื่อมั่นของมนุษย์ การทำงาน และการรับรู้ของตัวแทน เช่น รถยนต์หุ่นยนต์ ยานพาหนะที่ไม่มีมนุษย์ขับ และตัวแทนซอฟต์แวร์ ถูกมีอิทธิพลจากความโปร่งใสของตัวแทน ความโปร่งใสของตัวแทนคือเมื่อมนุษย์สามารถระบุเจตนา การให้เหตุผล และแผนการในอนาคตของตัวแทนได้

การวิจัยใหม่พบว่าความเชื่อมั่นของมนุษย์ที่มีต่อรถยนต์หุ่นยนต์จะลดลงเมื่อรถยนต์หุ่นยนต์ทำผิดพลาด ซึ่งไม่คำนึงถึงว่ารถยนต์หุ่นยนต์จะให้เหตุผลหรือไม่

การวิจัยใหม่นี้ได้รับการตีพิมพ์ในฉบับเดือนสิงหาคมของ IEEE-Transactions on Human-Machine Systems บทความนี้มีชื่อเรื่องว่า “ความโปร่งใสและความน่าเชื่อถือของตัวแทนในปฏิสัมพันธ์ระหว่างมนุษย์และรถยนต์หุ่นยนต์: อิทธิพลต่อความเชื่อมั่นและความน่าเชื่อถือที่รับรู้”

การวิจัยแบบดั้งเดิมที่เกี่ยวข้องกับการทำงานร่วมกันระหว่างมนุษย์และตัวแทนจะใช้ตัวแทนอัจฉริยะที่เชื่อถือได้และไม่ทำผิดพลาด แต่การวิจัยใหม่นี้เป็นหนึ่งในไม่กี่ที่สำรวจวิธีที่ความโปร่งใสของตัวแทนโต้ตอบกับความน่าเชื่อถือของตัวแทน การศึกษานี้เกี่ยวข้องกับรถยนต์หุ่นยนต์ที่ทำผิดพลาดในขณะที่มนุษย์กำลังดู และมนุษย์ถูกขอให้ระบุว่าพวกเขาเห็นรถยนต์หุ่นยนต์เป็นตัวแทนไม่น่าเชื่อถือหรือไม่ ในระหว่างกระบวนการทั้งหมด มนุษย์ได้รับข้อมูลเกี่ยวกับการให้เหตุผลของรถยนต์หุ่นยนต์

ดร. จูเลีย ไรท์ เป็นผู้นำการวิจัยโครงการนี้ และเธอเป็นนักวิจัยที่ U.S. Army Combat Capabilities Development Command’s Army Research Laboratory หรือ ARL

“การทำความเข้าใจว่าพฤติกรรมของรถยนต์หุ่นยนต์จะส่งผลต่อทีมงานของมนุษย์เป็นสิ่งสำคัญในการพัฒนาทีมงานระหว่างมนุษย์และรถยนต์หุ่นยนต์ที่มีประสิทธิภาพ，以及การออกแบบอินเทอร์เฟซและวิธีการสื่อสารระหว่างสมาชิกในทีม” เธอกล่าว “การวิจัยนี้มีส่วนช่วยในการดำเนินงาน Multi-Domain Operations ของกองทัพเพื่อให้แน่ใจว่ามีการครอบงำในด้านความสามารถของปัญญาประดิษฐ์ แต่ก็เป็นเชิงวิชาการเช่นกัน เนื่องจากผลการวิจัยจะแจ้งให้ทราบถึงงานของนักจิตวิทยา นักหุ่นยนต์ วิศวกร และนักออกแบบระบบที่ทำงานเพื่ออำนวยความสะดวกในการทำความเข้าใจระหว่างมนุษย์และตัวแทนอัตโนมัติในการสร้างทีมงานอัตโนมัติแทนที่จะเป็นเพียงเครื่องมือ”

โครงการวิจัยใหม่นี้เป็นส่วนหนึ่งของโครงการที่ใหญ่กว่าซึ่งเรียกว่า Autonomous Squad Member (ASM) ซึ่งได้รับการสนับสนุนโดย Office of Secretary of Defense’s Autonomy Research Pilot Initiative ASM เป็นรถยนต์หุ่นยนต์ขนาดเล็กที่ใช้ภายในทีมรบและสามารถสื่อสารและโต้ตอบกับทีม

การศึกษานี้เกี่ยวข้องกับผู้เข้าร่วมที่ดูทีมทหาร-ตัวแทนในสถานการณ์จำลอง ASM เป็นส่วนหนึ่งของทีมและเคลื่อนที่ผ่านหลักสูตรฝึกอบรม ผู้เข้าร่วมมีหน้าที่ในการดูทีมและประเมินรถยนต์หุ่นยนต์ ในระหว่างหลักสูตรฝึกอบรม ทีมได้รับการนำเสนอเหตุการณ์และอุปสรรคต่างๆ ทหารสามารถผ่านอุปสรรคแต่ละอย่างได้อย่างถูกต้อง แต่มีบางครั้งที่รถยนต์หุ่นยนต์ไม่สามารถเข้าใจอุปสรรคและทำผิดพลาด รถยนต์หุ่นยนต์บางครั้งแบ่งปันเหตุผลและผลลัพธ์ที่คาดหวังของการกระทำ

การศึกษาพบว่าผู้เข้าร่วมมีความกังวลเกี่ยวกับความผิดพลาดของรถยนต์หุ่นยนต์มากกว่าการให้เหตุผลและตรรกะที่ซ่อนอยู่ ความน่าเชื่อถือของรถยนต์หุ่นยนต์มีบทบาทสำคัญในความเชื่อมั่นและความเข้าใจของผู้เข้าร่วม เมื่อรถยนต์หุ่นยนต์ทำผิดพลาด ผู้เข้าร่วมจะให้คะแนนความน่าเชื่อถือของมันต่ำลง

ความน่าเชื่อถือและความเชื่อมั่นจะเพิ่มขึ้นเมื่อความโปร่งใสของตัวแทนเพิ่มขึ้น หรือเมื่อรถยนต์หุ่นยนต์แบ่งปันรายละเอียดและเหตุผลเบื้องหลังการตัดสินใจของมัน อย่างไรก็ตาม ความน่าเชื่อถือและความเชื่อมั่นยังคงต่ำกว่ารถยนต์หุ่นยนต์ที่ไม่เคยทำผิดพลาด สิ่งนี้ชี้ให้เห็นว่าการแบ่งปันเหตุผลและตรรกะที่ซ่อนอยู่สามารถช่วยแก้ไขปัญหาความเชื่อมั่นและความน่าเชื่อถือที่เกี่ยวข้องกับรถยนต์หุ่นยนต์

“การศึกษาก่อนหน้านี้ชี้ให้เห็นว่าบริบทมีความสำคัญในการกำหนดความมีประโยชน์ของข้อมูลความโปร่งใส” ไรท์กล่าว “เราต้องเข้าใจว่างานใดต้องการความเข้าใจที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับการให้เหตุผลของตัวแทน และวิธีการตัดสินใจเกี่ยวกับความลึกนั้น การวิจัยในอนาคตควรสำรวจวิธีการในการส่งมอบข้อมูลความโปร่งใสตามความต้องการของงาน”

การวิจัยใหม่นี้จะมีบทบาทสำคัญในด้านนี้เนื่องจากการโต้ตอบที่เพิ่มขึ้นระหว่างมนุษย์และรถยนต์หุ่นยนต์ หนึ่งในพื้นที่ที่จะมีความสำคัญที่สุดคือกองทัพ เมื่อเห็นได้จากการสาธิตเหล่านี้ รถยนต์หุ่นยนต์และทหารในที่สุดก็จะอยู่เคียงข้างกัน เช่นเดียวกับที่ทหารต้องมีความเชื่อมั่นในอีกฝ่ายหนึ่ง ความเชื่อมั่นเดียวกันจะใช้กับรถยนต์หุ่นยนต์ หากสามารถบรรลุความเชื่อมั่นได้และรถยนต์หุ่นยนต์กลายเป็นส่วนหนึ่งของทีมรบ จะเป็นอีกตัวอย่างหนึ่งของปัญญาประดิษฐ์ที่เข้ามาในอุตสาหกรรมป้องกัน