สถาบัน AI Now เตือนถึงการละเมิดการใช้ซอฟต์แวร์ตรวจจับอารมณ์และประเด็นข้อกังวลด้านจริยธรรมอื่น ๆ

สถาบัน AI Now ได้เผยแพร่รายงานที่ขอร้องให้ผู้กำหนดนโยบายและหน่วยงานกำกับดูแลอื่น ๆ ตั้งขีดจำกัดที่เข้มงวดในการใช้เทคโนโลยีตรวจจับอารมณ์ โดยการห้ามใช้ในกรณีที่อาจใช้ในการตัดสินใจที่สำคัญ เช่น การจ้างพนักงานหรือการรับเข้าเรียนนักศึกษา นอกจากนี้ รายงานยังรวมคำแนะนำอื่น ๆ เกี่ยวกับหัวข้อต่าง ๆ ในสาขา AI

สถาบัน AI Now เป็นสถาบันวิจัยที่ตั้งอยู่ที่ NYU โดยมีภารกิจในการศึกษาอิทธิพลของ AI ต่อสังคม AI Now จัดทำรายงานประจำปีเพื่อแสดงผลการวิจัยเกี่ยวกับสภาพแวดล้อมของการวิจัย AI และผลกระทบด้านจริยธรรมของการใช้ AI ในปัจจุบัน ตามรายงานของ BBC รายงานปีนี้กล่าวถึงหัวข้อต่าง ๆ เช่น การเลือกปฏิบัติด้านอัลกอริทึม การขาดความหลากหลายในการวิจัย AI และประเด็นด้านแรงงาน

การรู้จำอารมณ์ (affect recognition) เป็นชื่อทางเทคนิคของอัลกอริทึมตรวจจับอารมณ์ ซึ่งเป็นสาขาวิจัย AI ที่เติบโตอย่างรวดเร็ว ผู้ที่ใช้เทคโนโลยีนี้ในการตัดสินใจมักอ้างว่าระบบสามารถให้ข้อมูลที่เชื่อถือได้เกี่ยวกับสถานะทางอารมณ์ของบุคคลโดยการวิเคราะห์การแสดงออกทางสีหน้าและเสียงพูด ร่วมกับการเคลื่อนไหวของร่างกาย สถาบัน AI Now ระบุว่าเทคโนโลยีนี้ถูกใช้ในหลาย ๆ แอปพลิเคชัน เช่น การเลือกบุคคลที่จะจ้าง การตั้งราคาความเสี่ยง และการตรวจสอบว่านักเรียนให้ความสนใจในชั้นเรียนหรือไม่

ศาสตราจารย์ Kate Crawford ผู้ร่วมก่อตั้ง AI Now อธิบายว่าบุคคลมักเชื่อว่าอารมณ์ของมนุษย์สามารถคาดเดาได้อย่างแม่นยำด้วยแบบจำลองที่เรียบง่าย Crawford กล่าวว่าบางบริษัทพัฒนาซอฟต์แวร์ของตนโดยอาศัยงานของ Paul Ekman นักจิตวิทยาที่เสนอทฤษฎีว่ามีอารมณ์พื้นฐานเพียง 6 ประเภทที่แสดงออกทางสีหน้า อย่างไรก็ตาม Crawford ชี้ว่าหลังจากทฤษฎีของ Ekman ถูกนำเสนอ มีงานวิจัยที่พบว่ามีความหลากหลายมากกว่าในน้ำเสียงและอารมณ์ และน้ำเสียงสามารถเปลี่ยนแปลงได้ง่ายตามสถานการณ์และวัฒนธรรม

“ในขณะเดียวกันกับที่เทคโนโลยีเหล่านี้ถูกปล่อยออกสู่ตลาด มีงานวิจัยจำนวนมากที่แสดงให้เห็นว่าไม่มีหลักฐานที่ชัดเจนว่าบุคคลมีความสัมพันธ์ที่สม่ำเสมอระหว่างอารมณ์ที่พวกเขารู้สึกและน้ำเสียงที่พวกเขาแสดงออก” Crawford กล่าวในการสัมภาษณ์กับ BBC

ด้วยเหตุผลนี้ สถาบัน AI Now แย้งว่าเทคโนโลยีตรวจจับอารมณ์หลายอย่างอาศัยทฤษฎีที่ไม่น่าเชื่อถือและวิทยาศาสตร์ที่น่าสงสัย ดังนั้น ระบบตรวจจับอารมณ์จึงไม่ควรใช้จนกว่าจะมีการวิจัยเพิ่มเติม และ “รัฐบาลควรห้ามการใช้การตรวจจับอารมณ์ในกระบวนการตัดสินใจที่มีความเสี่ยงสูง” AI Now แย้งว่าควรหยุดใช้เทคโนโลยีนี้ใน “บริบททางสังคมและทางการเมืองที่อ่อนไหว” เช่น การจ้างงาน การศึกษา และการบังคับใช้กฎหมาย

อย่างน้อยหนึ่งบริษัทที่พัฒนา AI ในสาขาการตรวจจับอารมณ์ Emteq ตกลงที่จะควบคุมการใช้เทคโนโลยีนี้ Charles Nduka ผู้ก่อตั้ง Emteq กล่าวแก่ BBC ว่าในขณะที่ระบบ AI สามารถระบุการแสดงออกทางสีหน้าที่แตกต่างกันได้อย่างแม่นยำ แต่ก็ไม่มีการแมปที่ชัดเจนจากน้ำเสียงถึงอารมณ์ Nduka แสดงความกังวลเกี่ยวกับการควบคุมที่เข้มงวดเกินไปซึ่งอาจขัดขวางการวิจัย โดยกล่าวว่า “หากสิ่งเหล่านี้ถูกห้าม มันสำคัญที่จะไม่โยนลูกออกไปพร้อมกับน้ำในอ่าง”

ตามรายงานของ NextWeb AI Now ยังแนะนำนโยบายและมาตรฐานอื่น ๆ ที่ควรเป็นแนวทางสำหรับอุตสาหกรรม AI ในอนาคต

AI Now เน้นย้ำถึงความจำเป็นที่อุตสาหกรรม AI จะต้องมีความหลากหลายมากขึ้นในสถานที่ทำงาน และพนักงานควรได้รับการรับประกันสิทธิในการแสดงความกังวลเกี่ยวกับ AI ที่รุกรานและแสวงหาผลประโยชน์ พนักงานด้านเทคควรได้รับสิทธิในการทราบว่าความพยายามของพวกเขากำลังถูกนำไปใช้ในการสร้างงานที่เป็นอันตรายหรือไม่จริยธรรม

AI Now ยังแนะนำให้ผู้กำหนดนโยบายดำเนินการเพื่อให้ได้รับการยินยอมโดยแจ้งให้ทราบสำหรับการใช้ข้อมูลที่ได้มาจาก AI ที่เกี่ยวข้องกับสุขภาพ นอกจากนี้ยังแนะนำให้ให้ความสำคัญกับความเป็นส่วนตัวของข้อมูลและให้รัฐออกแบบกฎหมายความเป็นส่วนตัวสำหรับข้อมูลไบโอเมตริกซ์ที่ครอบคลุมทั้งหน่วยงานส่วนตัวและภาครัฐ

สุดท้าย สถาบันแนะนำให้อุตสาหกรรม AI เริ่มคิดและดำเนินการในระดับโลกเพื่อจัดการกับผลกระทบทางการเมือง สังคม และนิเวศวิทยาที่กว้างขึ้นของ AI มีการแนะนำให้มีการพยายามที่จะคำนึงถึงผลกระทบของ AI ต่อการพลัดถิ่นและภาวะ气候 และให้รัฐบาลเผยแพร่ผลกระทบด้านสิ่งแวดล้อมของอุตสาหกรรม AI อย่างเปิดเผย