การพิจารณาด้านจริยธรรมเมื่อพัฒนา AI สำหรับการรับรู้อารมณ์

ปัญญาประดิษฐ์สำหรับการควบคุมอารมณ์เป็นหนึ่งในความก้าวหน้าทางเทคโนโลยีล่าสุดในด้านการเรียนรู้ของเครื่อง แม้ว่าจะแสดงถึงศักยภาพที่ยอดเยี่ยม แต่ปัญหาเกี่ยวกับจริยธรรมมีแนวโน้มที่จะส่งผลต่ออัตราการยอมรับและความยั่งยืนของมัน นักพัฒนา AI สามารถ克服มันได้หรือไม่?

อะไรคือ Emotion Recognition AI?

Emotion recognition AI เป็นประเภทหนึ่งของโมเดลการเรียนรู้ของเครื่อง มักจะพึ่งพาเทคโนโลยีวิชั่นคอมพิวเตอร์ที่บันทึกและวิเคราะห์น้ำเสียงบนใบหน้าเพื่อถอดรหัสอารมณ์ในรูปภาพและวิดีโอ แต่ก 也สามารถทำงานบนคลิปเสียงเพื่อกำหนดโทนเสียงหรือข้อความที่เขียนเพื่อประเมินความรู้สึกของภาษา

แอลกอริทึมนี้แสดงถึงความก้าวหน้าที่น่าสนใจในด้าน AI เนื่องจากจนถึงตอนนี้ โมเดลไม่สามารถเข้าใจความรู้สึกของมนุษย์ได้ ในขณะที่โมเดลภาษาขนาดใหญ่ เช่น ChatGPT สามารถ模拟อารมณ์และบุคลิกภาพได้อย่างน่าเชื่อถือ แต่ก็สามารถเชื่อมต่อคำศัพท์เข้าด้วยกันตามตรรกะเท่านั้น — ไม่สามารถรู้สึกอะไรได้และไม่แสดงความฉลาดทางอารมณ์ในขณะที่โมเดลการรับรู้อารมณ์ไม่สามารถมีอารมณ์ได้ แต่ก็สามารถตรวจจับและบันทึกมันได้ การพัฒนานี้มีความสำคัญเพราะส่งสัญญาณว่า AI อาจเข้าใจและแสดงความสุข ความเสียใจ หรือความโกรธได้จริงๆ ในไม่ช้า การกระโดดด้านเทคโนโลยีเหล่านี้บ่งชี้ถึงความก้าวหน้าที่เร็วขึ้น

กรณีการใช้งานสำหรับ AI Emotion Recognition

ธุรกิจ ผู้ศึกษา ผู้ให้คำปรึกษา และผู้เชี่ยวชาญด้านสุขภาพจิตเป็นกลุ่มที่สามารถใช้ AI สำหรับการรับรู้อารมณ์ได้

การประเมินความเสี่ยงในสำนักงาน

ทีมทรัพยากรบุคคลสามารถใช้แอลกอริทึมเพื่อทำการวิเคราะห์ความรู้สึกในอีเมลหรือแชทระหว่างสมาชิกในทีม แทนที่จะรวมแอลกอริทึมเข้ากับระบบการรักษาความปลอดภัยหรือวิชั่นคอมพิวเตอร์ ผู้ใช้สามารถติดตามอารมณ์เพื่อคำนวณเมตริก เช่น ความเสี่ยงในการลาออก อัตราการหมดแรง และความพึงพอใจของพนักงาน

การช่วยเหลือตัวแทนฝ่ายบริการลูกค้า

ผู้ค้าปลีกสามารถใช้ตัวแทนฝ่ายบริการลูกค้า AI ในร้านค้าหรือผู้ช่วยเสมือนเพื่อแก้ไขสถานการณ์ที่มีความกดดันสูง เมื่อโมเดลสามารถรับรู้อารมณ์ได้ มันสามารถแนะนำเทคนิคการลดความกดดันหรือเปลี่ยนโทนเมื่อมันรู้สึกว่าลูกค้ากำลังโกรธ การป้องกันเช่นนี้อาจปรับปรุงความพึงพอใจและความจงรักภักดีของลูกค้า

การช่วยเหลือนักเรียนในชั้นเรียน

ผู้ศึกษาสามารถใช้ AI นี้เพื่อป้องกันไม่ให้นักเรียนที่เรียนรู้ระยะไกลตกหล่น หนึ่งสตาร์ทอัพได้ใช้เครื่องมือของตนเพื่อวัดจุดกล้ามเนื้อบนใบหน้าของนักเรียนในขณะที่บันทึกความเร็วและเกรดของพวกเขา วิธีนี้กำหนดอารมณ์ การกระตุ้น ความแข็งแกร่ง และจุดอ่อนของพวกเขา ผู้ก่อตั้งสตาร์ทอัพ อ้างว่าพวกเขาได้คะแนนสูงขึ้น 10% ในการสอบเมื่อใช้ซอฟต์แวร์

การทำการวิจัยตลาดในองค์กร

ธุรกิจสามารถทำการวิจัยตลาดในองค์กรโดยใช้โมเดลการรับรู้อารมณ์ มันสามารถช่วยให้พวกเขาเข้าใจว่ากลุ่มเป้าหมายของพวกเขาตอบสนองต่อสินค้า บริการ หรือวัสดุการตลาดของพวกเขาอย่างไร โดยให้ข้อมูลเชิงลึกที่ขับเคลื่อนด้วยข้อมูลที่มีคุณค่า ในผลลัพธ์ พวกเขาอาจเร่งเวลาในการเข้าสู่ตลาดและเพิ่มรายได้

ปัญหาในการใช้ AI เพื่อตรวจจับอารมณ์

การวิจัยชี้ว่าความแม่นยำขึ้นอยู่กับข้อมูลการฝึกอบรมอย่างมาก หนึ่งกลุ่มวิจัย — ที่พยายามถอดรหัสความรู้สึกจากภาพ — พิสูจน์แนวคิดนี้เมื่อโมเดลของพวกเขา ได้รับความแม่นยำ 92.05% ในชุดข้อมูล Japanese Female Facial Expression และความแม่นยำ 98.13% ในชุดข้อมูล Extended Cohn-Kanade

แม้ว่าความแตกต่างระหว่าง 92% และ 98% อาจดูไม่สำคัญ แต่ก็มีความสำคัญ — ความแตกต่างเล็กน้อยนี้อาจมีผลกระทบอย่างมีนัยสำคัญ ตัวอย่างเช่น อัตราการปนเปื้อนของชุดข้อมูล ต่ำถึง 0.001% ได้พิสูจน์แล้วว่ามีประสิทธิภาพในการสร้าง backdoor ของโมเดลหรือทำให้เกิดการจำแนกประเภทที่ไม่ถูกต้องโดยเจตนา แม้แต่เศษส่วนของเปอร์เซ็นต์ก็มีความสำคัญ

นอกจากนี้ แม้ว่าการวิจัยจะดูสัญญานเชิงบวก — อัตราความแม่นยำสูงกว่า 90% แสดงถึงศักยภาพ — นักวิจัยดำเนินการในสถานการณ์ที่ควบคุม ในโลกแห่งความเป็นจริง ภาพที่模糊 น้ำเสียงที่หลอกลวง มุมมองที่ไม่ดี และความรู้สึกที่ละเอียดอ่อนพบได้บ่อยกว่า ในอีกคำหนึ่ง AI อาจไม่สามารถทำงานได้อย่างต่อเนื่อง

สถานะปัจจุบันของ Emotion Recognition AI

การวิเคราะห์ความรู้สึกเชิงอัลกอริทึมเป็นกระบวนการของการใช้อัลกอริทึมเพื่อกำหนดว่าโทนของข้อความเป็นบวก ทรงตัว หรือลบ เทคโนโลยีนี้ถือเป็นรากฐานของโมเดลการตรวจจับอารมณ์สมัยใหม่ เนื่องจากเปิดทางให้กับการประเมินอารมณ์เชิงอัลกอริทึม เทคโนโลยีที่คล้ายกัน เช่น ซอฟต์แวร์การรู้จำใบหน้า ก็ได้สนับสนุนความก้าวหน้า

อัลกอริทึมในปัจจุบันสามารถตรวจจับอารมณ์ง่ายๆ เช่น ความสุข ความเสียใจ ความโกรธ ความกลัว และความประหลาดใจ โดยมีความแม่นยำที่แตกต่างกัน อารมณ์เหล่านี้เป็นธรรมชาติและเข้าใจกันทั่วโลก — หมายความว่าพวกมันเป็นธรรมชาติและเข้าใจได้ทั่วโลก — ดังนั้นการฝึก AI เพื่อระบุพวกมันจึงค่อนข้างตรงไปตรงมา

นอกจากนี้ อารมณ์ขั้นพื้นฐานมักจะถูกขยายใหญ่ๆ คนจะ皱คิ้วเมื่อโกรธ หย่อนคิ้วเมื่อเสียใจ ยิ้มเมื่อมีความสุข และกว้างตาขึ้นเมื่อช็อค น้ำเสียงที่เรียบง่ายและน่าดึงดูดเหล่านี้สามารถแยกแยะได้ง่าย อารมณ์ที่ซับซ้อนกว่านั้นยากต่อการระบุเพราะพวกมันจะซับซ้อนหรือผสมผสานน้ำเสียงพื้นฐาน

เนื่องจากส่วนนี้ของ AI อยู่ในระหว่างการวิจัยและพัฒนา จึงยังไม่ก้าวหน้าไปสู่อารมณ์ที่ซับซ้อน เช่น ความคิดถึง ความอาย ความเศร้า ความอิจฉา ความโล่งใจ หรือความสับสน แม้ว่ามันจะครอบคลุมมากขึ้นในอนาคต แต่ก็ไม่มีการรับประกันว่ามันจะสามารถตีความพวกมันได้ทั้งหมด

ในความเป็นจริง อัลกอริทึมอาจไม่สามารถแข่งขันกับมนุษย์ได้ ตัวอย่างเช่น ในขณะที่ชุดข้อมูล GPT-4 ของ OpenAI มีขนาดประมาณ 1 เพตไบต์ ปริมาตร 1 มิลลิเมตรลูกบาศก์ของสมองมนุษย์จะมีข้อมูลประมาณ 1.4 เพตไบต์ นักประสาทวิทยาศาสตร์ไม่สามารถเข้าใจว่าสมองรับรู้อารมณ์ได้อย่างไร尽管มีการวิจัยมาหลายทศวรรษ ดังนั้นการสร้าง AI ที่มีความแม่นยำสูงอาจเป็นไปไม่ได้

แม้ว่าการใช้เทคโนโลยีนี้สำหรับการรับรู้อารมณ์จะมีประวัติก่อนหน้านี้ สาขานี้ยังคงอยู่ในระยะที่เป็นทารก การวิจัยมากมายเกี่ยวกับแนวคิดนี้ แต่มีตัวอย่างการนำไปใช้จริงขนาดใหญ่น้อยมาก สัญญาณบางอย่างบ่งชี้ว่าการนำไปใช้ที่ล่าช้าอาจเป็นผลมาจากความกังวลเกี่ยวกับความแม่นยำที่ไม่สอดคล้องกันและปัญหาเกี่ยวกับจริยธรรม

การพิจารณาด้านจริยธรรมสำหรับนักพัฒนา AI

ตามการสำรวจหนึ่ง 67% ของผู้ตอบแบบสอบถามเห็นด้วย ว่า AI ควรได้รับการควบคุมมากกว่าเล็กน้อยหรือมาก เพื่อให้ผู้คนมั่นใจ นักพัฒนาควรลดความลำเอียงให้เหลือน้อยที่สุด รับประกันว่าโมเดลของพวกเขาแสดงพฤติกรรมตามที่คาดหวัง และปรับปรุงผลลัพธ์ วิธีแก้ปัญหานี้เป็นไปได้หากพวกเขาให้ความสำคัญกับการพิจารณาด้านจริยธรรมระหว่างการพัฒนา

1. การเก็บรวบรวมและการใช้ข้อมูลที่ได้รับอนุญาต

การอนุญาตเป็นทุกอย่างในยุคที่การควบคุม AI เพิ่มขึ้น ถ้าพนักงานพบว่าน้ำเสียงบนใบหน้าของพวกเขาถูกบันทึกโดยไม่ทราบ จะเกิดอะไรขึ้น พ่อแม่ต้องลงนามในงานวิเคราะห์ความรู้สึกที่ใช้ในการศึกษาหรือไม่ หรือนักเรียนสามารถตัดสินใจด้วยตนเองได้หรือไม่

นักพัฒนาควรเปิดเผยข้อมูลที่ชัดเจนเกี่ยวกับข้อมูลที่โมเดลจะรวบรวม เมื่อใดที่จะทำงาน ใช้การวิเคราะห์สำหรับอะไร และใครสามารถเข้าถึงรายละเอียดเหล่านั้นได้ นอกจากนี้ พวกเขาควรรวมคุณสมบัติในการเลือกไม่ให้เข้าร่วมเพื่อให้บุคคลสามารถปรับแต่งสิทธิ์ได้

2. การวิเคราะห์ความรู้สึกที่ไม่ระบุชื่อ

การทำให้ข้อมูลไม่ระบุชื่อเป็นปัญหาด้านความเป็นส่วนตัวและความปลอดภัย นักพัฒนาควรทำให้ข้อมูลความรู้สึกที่รวบรวมเป็น匿นามเพื่อปกป้องบุคคลที่เกี่ยวข้อง อย่างน้อยที่สุด พวกเขาควรพิจารณาใช้การเข้ารหัสข้อมูลที่อยู่ในพื้นที่จัดเก็บ

3. การตัดสินใจโดยมีมนุษย์ในวงจร

เหตุผลเดียวที่จะใช้ AI เพื่อกำหนดสถานะทางอารมณ์ของใครสักคนคือเพื่อแจ้งการตัดสินใจ ไม่ว่าจะใช้ในบริบทด้านสุขภาพจิตหรือร้านค้า มันจะส่งผลกระทบต่อผู้คน นักพัฒนาควรใช้การป้องกันการทำงานโดยมีมนุษย์ในวงจรเพื่อลดพฤติกรรมที่ไม่คาดคิด

4. การให้ข้อมูลย้อนกลับจากมนุษย์สำหรับการแสดงผล AI

แม้ว่าอัลกอริทึมจะมีความแม่นยำเกือบ 100% ก็ยังจะผลิตผลลัพธ์บวกลวงอยู่ดี โดยพิจารณาว่ามันไม่แปลกที่จะบรรลุความแม่นยำ 50% หรือ 70% — และนั่นก็ไม่ได้สัมผัสกับประเด็นเกี่ยวกับความลำเอียงหรือปัญหาการหลอกลวง — นักพัฒนาควรพิจารณาใช้ระบบการให้ข้อมูลย้อนกลับ

ผู้คนควรสามารถตรวจสอบสิ่งที่ AI กล่าวเกี่ยวกับสถานะทางอารมณ์ของตนและอุทธรณ์หากพวกเขาเชื่อว่ามันไม่ถูกต้อง แม้ว่าระบบดังกล่าวจะต้องมีการป้องกันและมาตรการความรับผิดชอบ แต่ก็จะลดผลกระทบด้านลบจากผลลัพธ์ที่ไม่แม่นยำ

ผลที่ตามมาจากการเพิกเฉยต่อจริยธรรม

การพิจารณาด้านจริยธรรมควรเป็นลำดับความสำคัญสำหรับวิศวกร AI นักพัฒนา machine learning และเจ้าของธุรกิจ เนื่องจากสิ่งเหล่านี้ส่งผลกระทบต่อพวกเขา โดยพิจารณาจากความคิดเห็นของสาธารณชนที่ไม่แน่นอนและกฎระเบียบที่เข้มงวดที่มีผลบังคับใช้ ผลที่ตามมาจากการเพิกเฉยต่อจริยธรรมอาจมีนัยสำคัญ