การพิจารณาทางจริยธรรมเมื่อพัฒนา AI สำหรับการรับรู้อารมณ์

ปัญญาประดิษฐ์สำหรับการควบคุมอารมณ์เป็นหนึ่งในความก้าวหน้าทางเทคโนโลยีล่าสุดในด้านการเรียนรู้ของเครื่อง แม้ว่าจะแสดงถึงศักยภาพที่ดี แต่ปัญหาเกี่ยวกับจริยธรรมก็พร้อมที่จะส่งผลต่ออัตราการยอมรับและการใช้งานในระยะยาวได้ ผู้พัฒนา AI จะสามารถ克服ปัญหาเหล่านี้ได้หรือไม่?

อะไรคือ Emotion Recognition AI?

Emotion Recognition AI เป็นรูปแบบหนึ่งของโมเดลการเรียนรู้ของเครื่อง มักจะพึ่งพาเทคโนโลยีวิชั่นคอมพิวเตอร์ที่จับและวิเคราะห์น้ำเสียงบนใบหน้าเพื่อถอดรหัสอารมณ์จากภาพและวิดีโอ แต่ก็สามารถทำงานกับคลิปเสียงเพื่อกำหนดโทนเสียงหรือข้อความที่เขียนเพื่อประเมินความรู้สึกของภาษา

การออกแบบอัลกอริทึมนี้แสดงถึงความก้าวหน้าที่น่าสนใจในด้าน AI เนื่องจากจนถึงตอนนี้ โมเดลเหล่านี้ไม่สามารถเข้าใจความรู้สึกของมนุษย์ได้ ในขณะที่โมเดลภาษาขนาดใหญ่เช่น ChatGPT สามารถจำลองอารมณ์และบุคลิกภาพได้อย่างน่าเชื่อถือ แต่ก็สามารถเชื่อมโยงคำศัพท์ตามตรรกะเท่านั้น — ไม่สามารถรู้สึกหรือแสดงความฉลาดทางอารมณ์ได้ในขณะที่โมเดลการรับรู้อารมณ์ไม่สามารถมีอารมณ์ได้ แต่ก็สามารถตรวจจับและบันทึกอารมณ์ได้ การพัฒนานี้มีความสำคัญเนื่องจากบ่งชี้ว่า AI อาจเข้าใจและแสดงอารมณ์อย่างแท้จริงในอนาคต

กรณีการใช้งานสำหรับการรับรู้อารมณ์ด้วย AI

ธุรกิจ ผู้ศึกษา ที่ปรึกษา และผู้เชี่ยวชาญด้านสุขภาพจิตเป็นกลุ่มที่สามารถใช้ AI สำหรับการรับรู้อารมณ์ได้

การประเมินความเสี่ยงในสำนักงาน

ทีมทรัพยากรบุคคลสามารถใช้อัลกอริทึมเพื่อทำการวิเคราะห์ความรู้สึกจากอีเมลหรือแชทระหว่างสมาชิกในทีม หรือสามารถรวมอัลกอริทึมเข้ากับระบบการ giám sátหรือวิชั่นคอมพิวเตอร์ ผู้ใช้สามารถติดตามอารมณ์เพื่อคำนวณเมตริก เช่น ความเสี่ยงในการลาออก อัตราการเผาผลาญ และความพึงพอใจของพนักงาน

การช่วยเหลือตัวแทนบริการลูกค้า

ผู้ค้าปลีกสามารถใช้ตัวแทนบริการลูกค้า AI ในร้านค้าหรือผู้ช่วยเสมือนเพื่อแก้ไขสถานการณ์ที่มีความเครียดสูง เนื่องจากโมเดลสามารถรับรู้อารมณ์ได้ จึงสามารถแนะนำเทคนิคการลดความเครียดหรือเปลี่ยนโทนเสียงเมื่อรู้สึกว่าลูกค้ากำลังโกรธ การป้องกันเช่นนี้อาจปรับปรุงความพึงพอใจและความจงรักภักดีของลูกค้า

การช่วยเหลือนักเรียนในชั้นเรียน

ผู้ศึกษาสามารถใช้ AI นี้เพื่อป้องกันไม่ให้นักเรียนที่เรียนทางไกลตกหล่น หนึ่งสตาร์ทอัพได้ใช้เครื่องมือของตนเพื่อวัดจุดกล้ามเนื้อบนใบหน้าของนักเรียนในขณะที่บันทึกความเร็วและเกรดของพวกเขา วิธีนี้จะกำหนดอารมณ์ ความกระตือรือร้น ความแข็งแกร่ง และความอ่อนแอของพวกเขา ผู้ก่อตั้งสตาร์ทอัพอ้างว่านักเรียนที่ใช้ซอฟต์แวร์จะได้คะแนนสูงขึ้น 10% ในการทดสอบ

การทำการวิจัยตลาดในองค์กร

ธุรกิจสามารถทำการวิจัยตลาดในองค์กรโดยใช้โมเดลการรับรู้อารมณ์ มันสามารถช่วยให้พวกเขาเข้าใจว่ากลุ่มเป้าหมายของพวกเขาเกี่ยวข้องกับผลิตภัณฑ์ บริการ หรือวัสดุการตลาดของพวกเขาอย่างไร โดยให้ข้อมูลเชิงลึกที่มีคุณค่าแก่พวกเขา ซึ่งอาจช่วยให้พวกเขาเร่งเวลาในการเข้าสู่ตลาดและเพิ่มรายได้

ปัญหากับการใช้ AI เพื่อตรวจจับอารมณ์

การวิจัยชี้ว่าความแม่นยำขึ้นอยู่กับข้อมูลการฝึกอบรมอย่างมาก หนึ่งกลุ่มวิจัยที่พยายามถอดรหัสความรู้สึกจากภาพได้พิสูจน์แนวคิดนี้เมื่อโมเดลของพวกเขาได้รับผลลัพธ์ความแม่นยำ 92.05% ในฐานข้อมูลการแสดงออกทางใบหน้าของผู้หญิงญี่ปุ่น และ 98.13% ในฐานข้อมูล Cohn-Kanade ที่ขยายออกไป

แม้ว่าความแตกต่างระหว่าง 92% และ 98% อาจดูไม่สำคัญ แต่ก็มีความสำคัญ — ความแตกต่างเล็กน้อยนี้อาจมีผลกระทบอย่างมีนัยสำคัญ ตัวอย่างเช่น อัตราการปนเปื้อนของฐานข้อมูลต่ำถึง 0.001% ได้พิสูจน์แล้วว่ามีประสิทธิภาพในการสร้างช่องทางหลังหรือทำให้เกิดการจำแนกประเภทที่ไม่ถูกต้อง แม้แต่เศษส่วนของเปอร์เซ็นต์ก็มีความสำคัญ

นอกจากนี้ แม้ว่าการศึกษาดูเหมือนจะมีแนวโน้มที่ดี — อัตราความแม่นยำสูงกว่า 90% แสดงถึงศักยภาพ — นักวิจัยดำเนินการในสถานการณ์ที่ควบคุมได้ ในโลกแห่งความเป็นจริง ภาพที่ไม่ชัดเจน การแสดงออกทางใบหน้าที่ปลอม การมุมมองที่ไม่ดี และความรู้สึกที่ไม่ชัดเจนเป็นเรื่องธรรมดา มากกว่าที่ AI จะสามารถทำงานได้อย่างต่อเนื่อง

สถานะปัจจุบันของ Emotion Recognition AI

การวิเคราะห์ความรู้สึกโดยใช้อัลกอริทึมเป็นกระบวนการของการใช้อัลกอริทึมเพื่อกำหนดว่าโทนของข้อความเป็นบวก เป็นกลาง หรือลบ เทคโนโลยีนี้อาจเป็นพื้นฐานสำหรับโมเดลการตรวจจับอารมณ์สมัยใหม่ เนื่องจากเปิดทางให้กับการประเมินอารมณ์โดยอัลกอริทึม เทคโนโลยีที่คล้ายกัน เช่น ซอฟต์แวร์การรู้จำใบหน้า ก็ได้สนับสนุนความก้าวหน้า

อัลกอริทึมในปัจจุบันสามารถตรวจจับอารมณ์ง่ายๆ เช่น ความสุข ความเสียใจ ความโกรธ ความกลัว และความประหลาดใจ ด้วยความแม่นยำที่แตกต่างกัน อารมณ์เหล่านี้เป็นธรรมชาติและเข้าใจได้ทั่วโลก — หมายความว่าพวกมันเป็นธรรมชาติและเข้าใจได้ทั่วโลก — ดังนั้นการฝึกอบรม AI เพื่อระบุพวกมันจึงค่อนข้างตรงไปตรงมา

นอกจากนี้ การแสดงออกทางใบหน้าที่ง่ายๆ มักจะถูกขยายออกไป คนจะขมวดคิ้วเมื่อโกรธ มีสีหน้าเศร้าเมื่อเสียใจ ยิ้มเมื่อมีความสุข และตากว้างเมื่อช็อค การแสดงออกที่เรียบง่ายและเป็นละครนี้สามารถแยกแยะได้ง่าย อารมณ์ที่ซับซ้อนกว่านั้นยากต่อการระบุเพราะพวกมันไม่ชัดเจนหรือรวมการแสดงออกที่พื้นฐาน

เนื่องจากส่วนนี้ของ AI ยังคงอยู่ในระหว่างการวิจัยและพัฒนา จึงยังไม่ก้าวหน้าไปสู่การครอบคลุมอารมณ์ที่ซับซ้อน เช่น ความคิดถึง ความละอาย ความเศร้า ความอิจฉา ความโล่งใจ หรือความสับสน แม้ว่าจะมีแนวโน้มที่จะครอบคลุมมากขึ้นในอนาคต แต่ก็ไม่มีการรับประกันว่าจะสามารถตีความพวกมันได้ทั้งหมด

ในความเป็นจริง อัลกอริทึมอาจไม่สามารถแข่งขันกับมนุษย์ได้ ตัวอย่างเช่น ในขณะที่ชุดข้อมูล GPT-4 ของ OpenAI มีขนาดประมาณ 1 เพตะไบต์ ก็พบว่าหนึ่งลูกบาศก์มิลลิเมตรของสมองมนุษย์บรรจุประมาณ 1.4 เพตะไบต์ของข้อมูล นักประสาทวิทยาศาสตร์ไม่สามารถเข้าใจว่าสมองรับรู้อารมณ์ได้อย่างไร แม้จะศึกษามาหลายทศวรรษ ดังนั้นการสร้าง AI ที่มีความแม่นยำสูงจึงอาจเป็นไปไม่ได้

แม้ว่าการใช้เทคโนโลยีนี้สำหรับการรับรู้อารมณ์จะมีประวัติการใช้งาน แต่สาขานี้ยังคงอยู่ในช่วงวัยเด็ก มีการวิจัยมากมายเกี่ยวกับแนวคิดนี้ แต่มีตัวอย่างการนำไปใช้จริงขนาดใหญ่น้อยมาก บางสัญญาณบ่งชี้ว่าการใช้งานที่ล่าช้าอาจเกิดจากความกังวลเกี่ยวกับความแม่นยำที่ไม่สอดคล้องกันและปัญหาเกี่ยวกับจริยธรรม

การพิจารณาด้านจริยธรรมสำหรับผู้พัฒนา AI

ตามการสำรวจหนึ่ง 67% ของผู้ตอบแบบสอบถามเห็นด้วยว่า AI ควรได้รับการควบคุมบังคับใช้มากกว่าเดิม เพื่อให้ผู้คนมั่นใจ ผู้พัฒนาควรลดความลำเอียงให้เหลือน้อยที่สุด รับประกันว่าโมเดลของพวกเขาจะทำงานตามที่คาดหวัง และปรับปรุงผลลัพธ์ วิธีแก้ปัญหาเหล่านี้เป็นไปได้หากพวกเขาตั้งใจพิจารณาด้านจริยธรรมในการพัฒนา

1. การเก็บรวบรวมและใช้ข้อมูลโดยได้รับอนุญาต

การรับอนุญาตเป็นทุกอย่างในยุคที่การกำกับดูแล AI เพิ่มขึ้น สิ่งที่เกิดขึ้นถ้าพนักงานพบว่าน้ำเสียงของพวกเขาถูกบันทึกโดยไม่มีการบอกกล่าวล่วงหน้า ผู้พัฒนาควรเปิดเผยข้อมูลที่จะถูกเก็บรวบรวม ระยะเวลาที่จะดำเนินการ วิธีการวิเคราะห์ และใครที่สามารถเข้าถึงข้อมูลได้ นอกจากนี้ยังควรรวมคุณสมบัติในการเลือกไม่เข้าร่วมเพื่อให้บุคคลสามารถปรับเปลี่ยนสิทธิ์ได้

ผู้พัฒนาควรเปิดเผยข้อมูลที่จะถูกเก็บรวบรวม ระยะเวลาที่จะดำเนินการ วิธีการวิเคราะห์ และใครที่สามารถเข้าถึงข้อมูลได้ นอกจากนี้ยังควรรวมคุณสมบัติในการเลือกไม่เข้าร่วมเพื่อให้บุคคลสามารถปรับเปลี่ยนสิทธิ์ได้

2. การวิเคราะห์ความรู้สึกที่ไม่ระบุชื่อ

การทำให้ข้อมูลไม่ระบุชื่อเป็นปัญหาด้านความเป็นส่วนตัวและความปลอดภัย ผู้พัฒนาควรทำให้ข้อมูลอารมณ์ที่พวกเขาเก็บรวบรวมเป็นความลับเพื่อปกป้องบุคคลที่เกี่ยวข้อง อย่างน้อยที่สุดพวกเขาควรพิจารณาใช้การเข้ารหัสข้อมูลที่อยู่ในสถานะพัก

3. การตัดสินใจโดยมีมนุษย์อยู่ในวงจร

เหตุผลเดียวที่ใช้ AI เพื่อกำหนดสถานะทางอารมณ์ของใครบางคนคือเพื่อแจ้งการตัดสินใจ ไม่ว่าจะใช้ในความสามารถด้านสุขภาพจิตหรือในสถานการณ์การค้า ผู้พัฒนาควรใช้การป้องกันการทำงานที่ไม่คาดคิดของมนุษย์ในวงจรเพื่อลดพฤติกรรมที่ไม่คาดคิด

4. การให้ข้อมูลย้อนกลับโดยมีมนุษย์เป็นศูนย์กลางสำหรับการออกผลลัพธ์ของ AI

แม้ว่าอัลกอริทึมจะมีความแม่นยำเกือบ 100% ก็ยังจะผลิตผลลัพธ์บวกเท็จ ผู้พัฒนาควรพิจารณาใช้ระบบการให้ข้อมูลย้อนกลับ

บุคคลควรสามารถตรวจสอบสิ่งที่ AI กล่าวถึงสถานะทางอารมณ์ของตนและอุทธรณ์หากพวกเขาเชื่อว่ามันไม่ถูกต้อง แม้ว่าระบบดังกล่าวจะต้องมีการป้องกันและมาตรการรับผิดชอบ แต่ก็จะลดผลกระทบด้านลบจากผลลัพธ์ที่ไม่แม่นยำ

ผลที่ตามมาของการเพิกเฉยต่อจริยธรรม

การพิจารณาด้านจริยธรรมควรเป็นลำดับความสำคัญสำหรับวิศวกร AI นักพัฒนา machine learning และเจ้าของธุรกิจ เนื่องจากสิ่งเหล่านี้ส่งผลกระทบต่อพวกเขา เมื่อพิจารณาจากความคิดเห็นของสาธารณชนที่ไม่แน่นอนและกฎระเบียบที่เข้มงวด การเพิกเฉยต่อจริยธรรมอาจมีผลกระทบอย่างมีนัยสำคัญ