นักวิจัยพัฒนาเครื่องมือใหม่เพื่อต่อสู้กับความเอนเอียงในคอมพิวเตอร์วิชัน

หนึ่งในประเด็นที่เกิดขึ้นใหม่ในด้านปัญญาประดิษฐ์ (AI) คือ ความเอนเอียงในคอมพิวเตอร์วิชัน นักวิชาการหลายคนพบว่าระบบ AI มีความเอนเอียง ซึ่งนำไปสู่ผลลัพธ์ที่มีความเอนเอียงในหลาย ๆ แอปพลิเคชัน เช่น โปรแกรมพิจารณาคดีในศาล

มีความพยายามอย่างมากในการแก้ไขปัญหาเหล่านี้ โดยการพัฒนาเครื่องมือใหม่จากมหาวิทยาลัยพรินซ์ตัน นักวิจัยได้สร้างเครื่องมือที่สามารถระบุความเอนเอียงที่อาจเกิดขึ้นในภาพที่ใช้ในการฝึกอบรมระบบ AI

งานวิจัยนี้ได้นำเสนอในวันที่ 24 สิงหาคม ในการประชุมวิชาการคอมพิวเตอร์วิชันแห่งยุโรปแบบเสมือนจริง งานวิจัยนี้ได้รับการนำเสนอในวันที่ 24 สิงหาคม ในการประชุมวิชาการคอมพิวเตอร์วิชันแห่งยุโรปแบบเสมือนจริง

ความเอนเอียงในระบบ AI

หนึ่งในสาเหตุหลักของความเอนเอียงที่มีอยู่ในระบบ AI ในปัจจุบัน คือ ระบบเหล่านี้มักถูกฝึกอบรมด้วยชุดภาพขนาดใหญ่ที่มาจากแหล่งออนไลน์ ภาพเหล่านี้อาจมีลักษณะเหมือนกัน และเมื่อใช้ในการพัฒนาคอมพิวเตอร์วิชัน ผลลัพธ์อาจถูกมีอิทธิพลโดยไม่ตั้งใจ คอมพิวเตอร์วิชันทำให้เครื่องคอมพิวเตอร์สามารถระบุคน สิ่งของ และการกระทำได้

เครื่องมือที่พัฒนาขึ้นโดยนักวิจัยเป็นเครื่องมือแบบโอเพ่นซอร์ส และสามารถระบุความเอนเอียงที่อาจเกิดขึ้นในข้อมูลภาพได้อย่างอัตโนมัติ โดยการดำเนินการก่อนที่จะใช้ข้อมูลภาพในการฝึกอบรมโมเดลคอมพิวเตอร์วิชัน และปัญหาเกี่ยวกับการไม่มีการแสดงออกและการเหมารวมสามารถแก้ไขได้ก่อนที่จะส่งผลกระทบ

REVISE

เครื่องมือใหม่นี้เรียกว่า REVISE และพึ่งพาวิธีการทางสถิติในการระบุความเอนเอียงที่อาจเกิดขึ้นในข้อมูล โดยมุ่งเน้นไปที่สามด้าน ได้แก่ ด้านวัตถุ ด้านเพศ และด้านภูมิศาสตร์

REVISE เป็นเครื่องมือที่ทำงานอัตโนมัติและถูกสร้างขึ้นจากวิธีการก่อนหน้านี้ที่รวมถึงการกรองและการสร้างสมดุลของภาพในข้อมูลเพื่อให้ผู้ใช้สามารถควบคุมได้มากขึ้น

เครื่องมือใหม่นี้พึ่งพาการมีแอนโนเตชันและวัดค่าของภาพที่มีอยู่แล้วในการวิเคราะห์ข้อมูลภายในข้อมูล บางส่วนของแอนโนเตชันเหล่านี้รวมถึงการนับวัตถุและประเทศที่มาของภาพ

ในตัวอย่างหนึ่งของเครื่องมือนี้ REVISE แสดงให้เห็นว่าภาพของคนและดอกไม้ต่างกันไปตามเพศ ชายมักจะปรากฏพร้อมดอกไม้ในพิธีหรือการประชุม ในขณะที่หญิงมักจะปรากฏพร้อมดอกไม้ในภาพวาดหรือสถานการณ์ที่ถูกจัดเตรียม

Olga Russaskovsky เป็นรองศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์และหัวหน้าผู้วิจัยของ Visual AI Lab งานวิจัยนี้ได้รับการเขียนร่วมกับ Angelina Wang นักศึกษาระดับบัณฑิตศึกษา และ Arvind Narayanan รองศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์

หลังจากที่เครื่องมือระบุความไม่เท่าเทียมกัน “จากนั้นจะมีการถามว่านี่เป็นเพียงข้อเท็จจริงที่ไม่มีอันตรายหรือมีอะไรเกิดขึ้นอย่างลึกซึ้ง และสิ่งนี้ยากที่จะทำให้กลายเป็นระบบอัตโนมัติ” Russaskovsky กล่าว

ภูมิภาคที่ไม่ได้รับการแสดงออกหรือแสดงออกไม่ถูกต้อง

ภูมิภาคต่าง ๆ ทั่วโลกไม่ได้รับการแสดงออกในข้อมูลคอมพิวเตอร์วิชัน และสิ่งนี้สามารถนำไปสู่ความเอนเอียงในระบบ AI ได้ หนึ่งในสิ่งที่พบคือภาพจากสหรัฐอเมริกาและประเทศยุโรปมีจำนวนมากกว่ามาก REVISE ยังแสดงให้เห็นว่าภาพจากส่วนอื่น ๆ ของโลกมักไม่มีคำบรรยายภาพในภาษาท้องถิ่น ซึ่งหมายความว่าหลายภาพอาจมาจากมุมมองของนักท่องเที่ยว

“…การวิเคราะห์ทางภูมิศาสตร์นี้แสดงให้เห็นว่าการรู้จำวัตถุสามารถมีความเอนเอียงและไม่ครอบคลุม และสามารถส่งผลกระทบต่อภูมิภาคและคนต่าง ๆ ไม่เท่าเทียมกัน” Russaskovsky กล่าวต่อ

“การรวบรวมข้อมูลในด้านวิทยาการคอมพิวเตอร์ยังไม่ได้รับการตรวจสอบอย่างละเอียดจนถึงเมื่อเร็ว ๆ นี้” Wang กล่าว เมื่อพูดถึงการรวบรวมภาพ “พวกเขาถูกสแกนจากอินเทอร์เน็ต และคนไม่จำเป็นต้องรู้ว่าภาพของพวกเขาถูกใช้ [ในข้อมูล] เราควรรวบรวมภาพจากกลุ่มคนหลากหลาย แต่เมื่อเราทำเช่นนั้น เราควรระมัดระวังว่าเรากำลังได้รับภาพเหล่านั้นอย่างให้ความเคารพ”

Vicente Ordonez-Roman เป็นรองศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่มหาวิทยาลัยเวอร์จิเนีย

“เครื่องมือและมาตรฐานเป็นขั้นตอนที่สำคัญ … พวกมันช่วยให้เราสามารถจับข้อผิดพลาดเหล่านี้ได้ตั้งแต่เนิ่น ๆ และคิดใหม่เกี่ยวกับการตั้งค่าปัญหาและสมมติฐานของเรา เช่นเดียวกับการรวบรวมข้อมูล” Ordonez-Roman กล่าว “ในด้านคอมพิวเตอร์วิชันมีบางความท้าทายเกี่ยวกับการแสดงออกและการแพร่กระจายของสเตอริโอไทป์ งานเช่นงานของ Princeton Visual AI Lab ช่วยให้เราเข้าใจและจับข้อผิดพลาดเหล่านี้และเสนอแนวทางในการบรรเทา”

เครื่องมือใหม่ที่พัฒนาขึ้นโดยนักวิจัยเป็นขั้นตอนที่สำคัญในการช่วยแก้ไขปัญหาความเอนเอียงที่มีอยู่ในระบบ AI ในขณะนี้เป็นเวลาที่เหมาะสมในการแก้ไขปัญหาเหล่านี้ เนื่องจากจะยากขึ้นเมื่อระบบเหล่านี้พัฒนาและซับซ้อนมากขึ้น