สถาบัน AI Now เตือนเกี่ยวกับการใช้ซอฟต์แวร์ตรวจจับอารมณ์ในทางที่ผิดและประเด็นด้านจริยธรรมอื่นๆ

สถาบัน AI Now ได้เผยแพร่รายงานที่เรียกร้องให้ฝ่ายนิติบัญญัติและหน่วยงานกำกับดูแลอื่น ๆ กำหนดข้อจำกัดที่เข้มงวดในการใช้เทคโนโลยีตรวจจับอารมณ์ โดยห้ามใช้เทคโนโลยีดังกล่าวในกรณีที่อาจนำไปใช้ในการตัดสินใจที่สำคัญ เช่น การจ้างพนักงานหรือการรับนักเรียน นอกจากนี้ รายงานยังมีข้อเสนอแนะอื่นๆ เกี่ยวกับหัวข้อต่างๆ ในฟิลด์ AI

พื้นที่ สถาบัน AI Now เป็นสถาบันวิจัยที่ตั้งอยู่ในมหาวิทยาลัยนิวยอร์ค มีพันธกิจในการศึกษาผลกระทบของ AI ต่อสังคม AI Now เผยแพร่รายงานประจำปีที่แสดงให้เห็นถึงการค้นพบของพวกเขาเกี่ยวกับสถานะของการวิจัย AI และนัยทางจริยธรรมของวิธีการใช้ AI ในปัจจุบัน ตามที่บีบีซีรายงานรายงานปีนี้กล่าวถึงหัวข้อต่างๆ เช่น การเลือกปฏิบัติด้วยอัลกอริทึม การขาดความหลากหลายในการวิจัย AI และปัญหาด้านแรงงาน

การรับรู้ผลกระทบ ซึ่งเป็นคำศัพท์ทางเทคนิคสำหรับอัลกอริทึมการตรวจจับอารมณ์ เป็นสาขาที่เติบโตอย่างรวดเร็วของการวิจัย AI ผู้ที่ใช้เทคโนโลยีในการตัดสินใจมักอ้างว่าระบบสามารถดึงข้อมูลที่เชื่อถือได้เกี่ยวกับสถานะทางอารมณ์ของผู้คนโดยการวิเคราะห์การแสดงออกในระดับจุลภาค ร่วมกับสัญญาณอื่นๆ เช่น น้ำเสียงและภาษากาย สถาบัน AI Now ตั้งข้อสังเกตว่าเทคโนโลยีนี้ถูกนำไปใช้งานหลากหลายประเภท เช่น การพิจารณาว่าจะจ้างใคร ตั้งราคาประกัน และติดตามว่านักเรียนให้ความสนใจในชั้นเรียนหรือไม่

ศ. เคท ครอว์ฟอร์ด ผู้ร่วมก่อตั้ง AI Now อธิบายว่า AI มักจะเชื่อว่าอารมณ์ของมนุษย์สามารถทำนายได้อย่างแม่นยำด้วยแบบจำลองที่ค่อนข้างง่าย Crawford กล่าวว่า บริษัทบางแห่งกำลังพัฒนาซอฟต์แวร์ของตนโดยอ้างอิงจากผลงานของ Paul Ekman นักจิตวิทยาผู้ตั้งสมมติฐานว่ามีอารมณ์พื้นฐานเพียง XNUMX ประเภทเท่านั้นที่แสดงออกบนใบหน้า อย่างไรก็ตาม Crawford ตั้งข้อสังเกตว่าตั้งแต่มีการนำเสนอทฤษฎีของ Ekman การศึกษาพบว่าความแปรปรวนของการแสดงออกทางสีหน้ามีมากขึ้นและการแสดงออกสามารถเปลี่ยนแปลงได้ในสถานการณ์และวัฒนธรรมได้อย่างง่ายดายมาก

“ในขณะเดียวกับที่เทคโนโลยีเหล่านี้กำลังเปิดตัว การศึกษาจำนวนมากแสดงให้เห็นว่าไม่มี… ไม่มีหลักฐานที่แน่ชัดว่าผู้คนมีความสัมพันธ์ที่สอดคล้องกันระหว่างอารมณ์ที่คุณรู้สึกกับลักษณะที่ใบหน้าของคุณปรากฏ” ครอว์ฟอร์ดกล่าวกับบีบีซี.

ด้วยเหตุนี้ สถาบัน AI Now จึงให้เหตุผลว่าการรับรู้ผลกระทบส่วนใหญ่มาจากทฤษฎีที่ไม่น่าเชื่อถือและวิทยาศาสตร์ที่น่าสงสัย ดังนั้น ไม่ควรใช้ระบบตรวจจับอารมณ์จนกว่าจะมีการวิจัยเพิ่มเติม และ "รัฐบาลควรห้ามการใช้การรับรู้ผลกระทบในกระบวนการตัดสินใจที่มีเดิมพันสูงเป็นการเฉพาะ" AI Now โต้แย้งว่าเราควรหยุดใช้เทคโนโลยีนี้โดยเฉพาะใน "บริบททางสังคมและการเมืองที่ละเอียดอ่อน" บริบทที่รวมถึงการจ้างงาน การศึกษา และการรักษาพยาบาล

บริษัทพัฒนา AI อย่างน้อยหนึ่งแห่งที่เชี่ยวชาญด้านการรับรู้ผลกระทบ Emteq เห็นพ้องกันว่าควรมีกฎระเบียบที่ป้องกันการใช้เทคโนโลยีในทางที่ผิด Charles Nduka ผู้ก่อตั้ง Emteq อธิบายกับ BBC ว่าในขณะที่ระบบ AI สามารถจดจำการแสดงสีหน้าต่างๆ ได้อย่างแม่นยำ แต่ไม่มีแผนที่ง่ายๆ จากการแสดงอารมณ์ไปสู่อารมณ์ Nduka แสดงความกังวลเกี่ยวกับกฎระเบียบที่ดำเนินไปไกลเกินไปและขัดขวางการวิจัย โดยสังเกตว่าหาก “สิ่งต่างๆ จะถูกแบน สิ่งสำคัญคือผู้คนจะไม่ทิ้งทารกไปกับน้ำอาบ”

ดังที่ NextWeb รายงานAI Now ยังแนะนำนโยบายและบรรทัดฐานอื่นๆ อีกจำนวนหนึ่งที่ควรเป็นแนวทางให้อุตสาหกรรม AI ก้าวไปข้างหน้า

AI Now เน้นย้ำถึงความจำเป็นของอุตสาหกรรม AI ในการทำให้สถานที่ทำงานมีความหลากหลายมากขึ้น และระบุว่าพนักงานควรได้รับสิทธิ์ในการแสดงความกังวลเกี่ยวกับ AI ที่รุกรานและแสวงประโยชน์ พนักงานด้านเทคนิคควรมีสิทธิ์ที่จะรู้ว่าความพยายามของพวกเขาถูกใช้เพื่อสร้างงานที่เป็นอันตรายหรือผิดจรรยาบรรณหรือไม่

AI Now ยังแนะนำให้ฝ่ายนิติบัญญัติดำเนินการเพื่อขอความยินยอมอย่างบอกกล่าวสำหรับการใช้ข้อมูลใด ๆ ที่ได้มาจาก AI ที่เกี่ยวข้องกับสุขภาพ นอกเหนือจากนี้ ขอแนะนำว่าควรให้ความสำคัญกับความเป็นส่วนตัวของข้อมูลอย่างจริงจังมากขึ้น และรัฐควรทำงานเพื่อออกแบบกฎหมายความเป็นส่วนตัวสำหรับข้อมูลไบโอเมตริกซ์ที่ครอบคลุมทั้งหน่วยงานเอกชนและหน่วยงานสาธารณะ

สุดท้าย สถาบันแนะนำว่าอุตสาหกรรม AI เริ่มคิดและดำเนินการทั่วโลกมากขึ้น โดยพยายามจัดการกับผลกระทบทางการเมือง สังคม และระบบนิเวศที่ใหญ่กว่าของ AI ขอแนะนำให้มีความพยายามอย่างมากในการอธิบายถึงผลกระทบของ AI ที่เกี่ยวข้องกับการเคลื่อนย้ายทางภูมิศาสตร์และสภาพอากาศ และรัฐบาลควรเผยแพร่ผลกระทบต่อสภาพอากาศของอุตสาหกรรม AI ต่อสาธารณะ