หุ่นยนต์ฮิวแมนนอยด์กำลังจะเข้ามาในโรงงาน ใครต้องรับผิดชอบเมื่อหุ่นยนต์ทำงานผิดพลาด?

หุ่นยนต์อาจผ่านการทดสอบสมรรถนะได้สำเร็จ แต่ก็ยังกลายเป็นอันตรายต่อความปลอดภัยได้ หากพบสิ่งกีดขวางที่ไม่คาดคิด พฤติกรรมเปลี่ยนไปเนื่องจากการอัปเดตซอฟต์แวร์ หรือเผชิญหน้ากับคนงานจริง คำถามไม่ใช่อีกต่อไปว่าหุ่นยนต์ฮิวแมนนอยด์ทำงานได้หรือไม่ แต่อยู่ที่ว่าจะทำงานนั้นได้อย่างไร และจะทำได้อย่างปลอดภัยหรือไม่—รวมถึงใครต้องรับผิดชอบหากเกิดข้อผิดพลาด

Agility Robotics และ FORT Robotics ประกาศความร่วมมือในเดือนตุลาคม เพื่อยกระดับสถาปัตยกรรมความปลอดภัยของหุ่นยนต์ฮิวแมนนอยด์ Digit 5 ของ Agility โดยวางแผนแนวทางด้วยการติดตั้งระบบความปลอดภัยบนตัวหุ่นยนต์ พร้อมจัดให้มีอินเทอร์เฟซภายนอก ระบบสื่อสาร และระบบควบคุมด้วยมือ การพัฒนานี้ถือเป็นการเปลี่ยนแปลงครั้งสำคัญ เพราะหุ่นยนต์ต้องปลอดภัยเมื่อทำงานในสถานที่ทำงานร่วมกับมนุษย์ ซึ่งหมายถึงมากกว่าความปลอดภัยของตัวหุ่นยนต์เพียงอย่างเดียว

อย่างไรก็ตาม เทคโนโลยีเพียงอย่างเดียวไม่อาจตอบคำถามเรื่องความรับผิดได้ หากหุ่นยนต์ทำงานผิดพลาดจากชิ้นส่วนที่บกพร่องซึ่งระบบ AI ระบุผิด ผู้ผลิต นักพัฒนาซอฟต์แวร์ ผู้บูรณาการระบบ และนายจ้างที่ใช้ระบบดังกล่าวอาจต้องรับผิด

เมื่อการตัดสินใจของ AI กลายเป็นความเสี่ยงทางกายภาพ

โดยทั่วไป หุ่นยนต์อุตสาหกรรมแบบดั้งเดิมจะทำงานอยู่ในพื้นที่ปฏิบัติงานแบบปิด โดยมีสิ่งกีดขวางและอุปกรณ์ความปลอดภัยแยกหุ่นยนต์ออกจากคนงาน ส่วนหุ่นยนต์ฮิวแมนนอยด์มีความท้าทายอีกแบบหนึ่ง กล่าวคือ ต้องเคลื่อนที่ไปในสภาพแวดล้อมที่สร้างขึ้นสำหรับมนุษย์ ทำงานได้หลากหลาย และปรับตัวเข้ากับสภาพแวดล้อมที่แตกต่างกัน

ความยืดหยุ่นดังกล่าวก่อให้เกิดความเสี่ยงใหม่ หากระบบตรวจจับผิดพลาด ก็อาจทำให้หุ่นยนต์เคลื่อนไหวโดยไม่จำเป็น การอัปเดตซอฟต์แวร์อาจเปลี่ยนพฤติกรรมของหุ่นยนต์ได้ ส่วนการเปลี่ยนผังโรงงานอาจก่อให้เกิดอันตรายที่ไม่เคยพบในการทดสอบก่อนหน้านี้

Dana R. Wolfe รองประธานและหัวหน้าฝ่ายอุตสาหกรรมของ GFT Americas กล่าวกับ Unite AI ว่า เพื่อป้องกันการทำงานที่ไม่ปลอดภัย จำเป็นต้องมีมาตรการป้องกันหลายชั้น เช่น กลไกควบคุมการทำงานของซอฟต์แวร์ที่กำหนดผลลัพธ์แน่นอน เกณฑ์ความเชื่อมั่นที่ปรับให้เหมาะกับแต่ละโรงงาน การผสานข้อมูลจากเซ็นเซอร์หลายตัว และการตรวจสอบความถูกต้องเป็นขั้นตอนก่อนนำไปใช้งาน

Wolfe กล่าวว่า ไม่มีทางหลีกเลี่ยงผลบวกลวงได้อย่างสิ้นเชิง แต่ผู้ผลิตต้องทำให้แน่ใจว่าความผิดพลาดจะไม่ถูกแปลงเป็นการเคลื่อนไหวทางกายภาพที่ไม่ปลอดภัย

Wolfe กล่าวว่า เกณฑ์ความเชื่อมั่นและอำนาจการตัดสินใจของมนุษย์ควรเป็นส่วนหนึ่งของสถาปัตยกรรมความปลอดภัยของระบบ เช่นเดียวกับระบบอินเตอร์ล็อกของฮาร์ดแวร์

มาตรฐานความปลอดภัยต้องก้าวให้ทัน

มาตรฐานหุ่นยนต์อุตสาหกรรมในปัจจุบันเป็นพื้นฐานที่มีคุณค่า แต่ก็อาจไม่ใช่ทางออกสำหรับปัญหาทั้งหมดที่เกิดจากหุ่นยนต์ฮิวแมนนอยด์เคลื่อนที่

องค์การระหว่างประเทศว่าด้วยการมาตรฐาน (ISO) ได้เผยแพร่ข้อกำหนดด้านความปลอดภัยสำหรับหุ่นยนต์อุตสาหกรรม และ ISO 10218-2 ครอบคลุมการผสานหุ่นยนต์เข้ากับระบบที่สมบูรณ์

อย่างไรก็ตาม มาตรฐานเหล่านี้ไม่ได้ครอบคลุมการใช้งานหรืออันตรายทั้งหมดที่เกี่ยวข้องกับหุ่นยนต์เคลื่อนที่ซึ่งทำงานร่วมกับมนุษย์

Wolfe กล่าวว่า การทดสอบโดยหน่วยงานอิสระ การตรวจสอบความถูกต้องตามสถานการณ์จำลอง และโครงการนำร่องในสถานที่ทำงานแบบเป็นขั้นตอน มีความสำคัญเป็นพิเศษเมื่อแนวปฏิบัติในอุตสาหกรรมเปลี่ยนแปลงไป

ต้องประเมินความปลอดภัยซ้ำด้วย หากการเปลี่ยนแปลงโมเดล AI ซอฟต์แวร์ ข้อจำกัดในการเคลื่อนไหว งาน หรือสภาพแวดล้อมในโรงงาน อาจทำให้การประเมินความปลอดภัยก่อนหน้านี้ใช้ไม่ได้อีกต่อไป

หลังเกิดการเปลี่ยนแปลงครั้งใหญ่ หุ่นยนต์ที่เคยปลอดภัยภายใต้เงื่อนไขชุดหนึ่งอาจไม่ปลอดภัยภายใต้เงื่อนไขชุดใหม่

การกำกับดูแลโดยมนุษย์ต้องเป็นมากกว่าการอนุมัติ

การติดตามทุกการตัดสินใจของระบบ AI เป็นเรื่องที่ทำได้ยาก แต่เมื่อไม่มีมนุษย์เข้ามามีส่วนร่วมในการตัดสินใจที่สำคัญ ก็จะเกิดความท้าทายอีกประการหนึ่ง นั่นคือการพิสูจน์ความรับผิดจะยากขึ้น

Adrian Figueroa Ramos ผู้ร่วมก่อตั้งและซีอีโอของ Flexio และ Routina กล่าวว่า การกำกับดูแลควรมุ่งเน้นไปที่การตัดสินใจที่มีความไม่แน่นอนหรือความเสี่ยงสูงที่สุด

เขากล่าวกับ Unite AI ว่า “ในโลก AI ทุกวันนี้ ปริมาณผลลัพธ์มีมากเกินกว่าที่มนุษย์จะประมวลผลได้ การตรวจสอบทุกอย่างทำให้มนุษย์กลายเป็นคอขวด แต่การใช้วิจารณญาณของมนุษย์ยังคงจำเป็นต่อการตัดสินใจที่มีความเสี่ยงสูงหรือมีความเชื่อมั่นต่ำ”

เรื่องนี้ยิ่งเป็นจริงสำหรับ AI ที่ทำงานทางกายภาพ การกำกับดูแลโดยมนุษย์ควรระบุชื่อบุคคลที่มีอำนาจสั่งให้ระบบทำงานต่อไปหรือยับยั้งระบบได้ และทำให้แน่ใจว่ามีการบันทึกและตรวจสอบการตัดสินใจ ไม่ใช่เพียงคลิกปุ่มอนุมัติ

ใครต้องรับผิดชอบเมื่อหุ่นยนต์ทำงานผิดพลาด?

ควรกระจายความรับผิดตามระดับการควบคุมระบบของแต่ละฝ่าย

ตัวอย่างเช่น ผู้ผลิตมีหน้าที่จัดทำและบันทึกมาตรการความปลอดภัย ส่วนนักพัฒนาซอฟต์แวร์ควรทดสอบการเปลี่ยนแปลงที่อาจส่งผลต่อการรับรู้หรือการเคลื่อนไหว

ผู้บูรณาการระบบต้องตรวจสอบความถูกต้องของระบบทั้งหมดในสภาพแวดล้อมที่ตั้งใจจะนำไปใช้งาน นายจ้างมีหน้าที่ฝึกอบรมคนงาน ตรวจสอบให้แน่ใจว่ามีมาตรการป้องกันพร้อมใช้งาน และกำหนดขั้นตอนเพื่อหยุดการทำงานที่ไม่ปลอดภัย

ความมั่นคงปลอดภัยทางไซเบอร์ก็สำคัญเช่นกัน เทคโนโลยีเชิงปฏิบัติการ อาจมีช่องโหว่จากปัญหาด้านเซ็นเซอร์ ซอฟต์แวร์ และระบบภายนอกที่เชื่อมต่อกับหุ่นยนต์ หากระบบรักษาความปลอดภัยล้มเหลวจนส่งผลต่อการทำงานทางกายภาพ ก็ถือเป็นปัญหาด้านความปลอดภัยในที่ทำงาน เช่นเดียวกับที่เป็นปัญหาด้านไอที

คาดว่าในอนาคต หุ่นยนต์ฮิวแมนนอยด์จะมีความยืดหยุ่นและทำงานได้อย่างมีประสิทธิภาพมากขึ้นในโรงงาน อย่างไรก็ตาม การนำหุ่นยนต์มาใช้จะไม่ได้พิจารณาจากตัวชี้วัดด้านประสิทธิภาพเพียงอย่างเดียว จำเป็นต้องกำหนดความรับผิดชอบให้ชัดเจน มีการตรวจสอบยืนยันอย่างเป็นอิสระ และคงมาตรการป้องกันไว้ตลอดอายุการใช้งานของหุ่นยนต์

คำถามคือ หุ่นยนต์ทำผิดพลาดได้หรือไม่? ทำได้ หากผู้ที่ใช้งานหุ่นยนต์สร้างระบบที่กำหนดให้ตนต้องรับผิดชอบต่อข้อผิดพลาดเหล่านั้น