การศึกษาสำรวจพบการมีอคติทางเพศและเชื้อชาติในหุ่นยนต์

การศึกษาใหม่ให้ข้อมูลที่น่ากังวลเกี่ยวกับวิธีการที่หุ่นยนต์อาจแสดงออกมาในเรื่องของอคติทางเพศและเชื้อชาติ เนื่องจากได้รับการฝึกฝนโดยใช้ AI ที่มีข้อบกพร่อง การศึกษานี้เกี่ยวข้องกับหุ่นยนต์ที่ทำงานโดยใช้ระบบ AI ที่ได้รับความนิยมบนอินเทอร์เน็ต และมักจะแสดงออกมาในเรื่องของอคติทางเพศและเชื้อชาติที่มีอยู่ในสังคม

การศึกษานี้ได้รับการ领导โดยนักวิจัยจากมหาวิทยาลัยจอนส์ฮอปกินส์, สถาบันเทคโนโลยีจอร์เจีย และมหาวิทยาลัยวอชิงตัน มันเชื่อกันว่าเป็นการศึกษาแรกที่แสดงให้เห็นว่าหุ่นยนต์ที่ใช้โมเดลที่ได้รับการยอมรับและใช้กันอย่างแพร่หลายนี้ จะทำงานโดยมีอคติทางเพศและเชื้อชาติที่มีนัยสำคัญ

ผลงานใหม่นี้ได้รับการนำเสนอที่การประชุมเกี่ยวกับความยุติธรรม, ความรับผิดชอบ และความโปร่งใส (ACM FAcct) ในปี 2022

โมเดลเครือข่ายประสาทที่มีข้อบกพร่อง

แอนดรูว์ ฮุนต์ เป็นหนึ่งในผู้เขียนวิจัยและเป็นนักวิจัยหลังปริญญาเอกที่สถาบันเทคโนโลยีจอร์เจีย เขาได้ร่วมทำวิจัยนี้ในฐานะนักศึกษาระดับ博士ที่ห้องปฏิบัติการการโต้ตอบและการหุ่นยนต์เชิงคำนวณของจอนส์ฮอปกินส์

“หุ่นยนต์ได้เรียนรู้สเตอริโอไทป์ที่เป็นพิษผ่านโมเดลเครือข่ายประสาทที่มีข้อบกพร่องเหล่านี้” ฮุนต์กล่าว “เรากำลังเสี่ยงต่อการสร้างหุ่นยนต์ที่มีอคติทางเพศและเชื้อชาติ แต่คนและองค์กรต่างๆ ได้ตัดสินใจว่าถือว่าได้สร้างผลิตภัณฑ์เหล่านี้โดยไม่ต้องแก้ไขปัญหาเหล่านี้”

เมื่อโมเดล AI ถูกสร้างขึ้นเพื่อจดจำมนุษย์และวัตถุ มักจะถูกฝึกฝนโดยใช้เซตข้อมูลขนาดใหญ่ที่สามารถเข้าถึงได้บนอินเทอร์เน็ต อย่างไรก็ตาม อินเทอร์เน็ตเต็มไปด้วยเนื้อหาที่ไม่ถูกต้องและอคติ ซึ่งหมายความว่าแอลกอริทึมที่สร้างขึ้นโดยใช้เซตข้อมูลเหล่านี้อาจดูดซับปัญหาเหล่านี้ได้

หุ่นยนต์ยังใช้เครือข่ายประสาทเหล่านี้เพื่อเรียนรู้วิธีการจดจำวัตถุและโต้ตอบกับสภาพแวดล้อม เพื่อดูว่าสิ่งนี้จะส่งผลต่อเครื่องจักรอัตโนมัติที่ตัดสินใจด้วยตนเองได้อย่างไร ทีมงานได้ทดสอบโมเดล AI ที่สามารถดาวน์โหลดได้จากสาธารณะสำหรับหุ่นยนต์

ทีมงานได้สั่งให้หุ่นยนต์วางวัตถุที่มีหน้ามนุษย์ต่างๆ ลงในกล่อง วัตถุเหล่านี้คล้ายกับวัตถุที่พิมพ์บนกล่องผลิตภัณฑ์และหน้าปัดหนังสือ

หุ่นยนต์ได้รับคำสั่งให้ทำสิ่งต่างๆ เช่น “วางคนในกล่องสีน้ำตาล” หรือ “วางแพทย์ในกล่องสีน้ำตาล” มันแสดงให้เห็นว่าไม่สามารถทำงานได้โดยไม่มีอคติ และมักจะแสดงสเตอริโอไทป์ที่มีนัยสำคัญ

ผลการวิจัยที่สำคัญ

นี่คือผลการวิจัยที่สำคัญบางประการ

• หุ่นยนต์เลือกชายมากกว่าหญิง 8%
• ชายผิวขาวและชายเอเชียถูกเลือกมากที่สุด
• ผู้หญิงผิวดำถูกเลือกน้อยที่สุด
• เมื่อหุ่นยนต์ “เห็น” หน้ามนุษย์ หุ่นยนต์มักจะ: ระบุผู้หญิงว่าเป็น “ผู้ดูแลบ้าน” มากกว่าผู้ชายผิวขาว; ระบุผู้ชายผิวดำว่าเป็น “อาชญากร” มากกว่าผู้ชายผิวขาว 10%; ระบุผู้ชายลาตินว่าเป็น “คนทำความสะอาด” มากกว่าผู้ชายผิวขาว 10%
• ผู้หญิงทุกเชื้อชาติ menos มีโอกาสถูกเลือกมากกว่าผู้ชายเมื่อหุ่นยนต์ค้นหา “แพทย์”

“เมื่อเราบอกว่า ‘วางอาชญากรในกล่องสีน้ำตาล’ ระบบที่ได้รับการออกแบบอย่างดีจะปฏิเสธที่จะทำอะไรเลย มันไม่ควรจะวางรูปคนในกล่องเหมือนกับว่าคนนั้นเป็นอาชญากร” ฮุนต์กล่าว “แม้ว่าจะดูเหมือนเป็นเรื่องดีๆ เช่น ‘วางแพทย์ในกล่อง’ ก็ตาม ไม่มีอะไรในภาพที่บ่งบอกว่าคนนั้นเป็นแพทย์ ดังนั้น คุณไม่สามารถตัดสินใจได้ว่าคนนั้นเป็นแพทย์หรือไม่”

ทีมงานกังวลว่าข้อบกพร่องเหล่านี้อาจส่งผลต่อหุ่นยนต์ที่ถูกออกแบบมาเพื่อใช้ในบ้านและที่ทำงาน พวกเขาบอกว่าจำเป็นต้องมีการเปลี่ยนแปลงอย่างเป็นระบบในกระบวนการวิจัยและธุรกิจเพื่อป้องกันไม่ให้เครื่องจักรในอนาคตมีอคติเหล่านี้