การเปลี่ยนแปลงเพศและเชื้อชาติในผลการค้นหาภาพด้วยเครื่องมือการเรียนรู้ของเครื่อง

การวิจัยร่วมกันระหว่าง UC San Diego และ Adobe (ADBE ) Research ได้เสนอแนวทางแก้ไขที่สร้างสรรค์และมีประสิทธิภาพสำหรับการขาดความหลากหลายทางเชื้อชาติและเพศในผลการค้นหาภาพสำหรับอาชีพที่มีการครอบงำโดยคนผิวขาว: การใช้เครือข่าย Generative Adversarial (GANs) เพื่อสร้างภาพที่ไม่ใช่ของจริงของ ‘อาชีพที่มีอคติ’ โดยที่เพศและ/หรือเชื้อชาติของบุคคลในภาพถูกเปลี่ยนแปลง

ในตัวอย่างนี้จากเอกสารใหม่ ผู้วิจัยได้ป้อนคุณลักษณะที่ต้องการสำหรับภาพที่ไม่ได้แสดงอยู่ในคอลเลกชันภาพที่มีอยู่ หรือแสดงอยู่ในลักษณะที่ไม่เหมาะสม (เช่น เพศหรือในลักษณะที่ไม่เหมาะสมอื่นๆ) แหล่งที่มา

ในเอกสารใหม่ ชื่อเรื่อง ชื่อ การสร้างและควบคุมความหลากหลายในผลการค้นหาภาพ ผู้เขียนเสนอว่ามีข้อจำกัดในการแก้ไขความไม่สมดุลของภาพ/คุณลักษณะที่มีอคติด้วยการ การเรียงลำดับใหม่ และอาจต้องใช้ข้อมูลสังเคราะห์เพื่อเพิ่มความหลากหลายทางเชื้อชาติและเพศ

‘การแสวงหาอุดมคติของโลกต้องการให้ผู้ใช้เนื้อหามีโอกาสแสดงอาชีพใดๆ ก็ตามด้วยคุณลักษณะเชื้อชาติและเพศที่หลากหลาย ความเลือกที่จำกัดของเนื้อหาที่มีอยู่สำหรับอาชีพและเชื้อชาติและเพศบางอย่างนำเสนอความท้าทายให้กับผู้ให้บริการเนื้อหา

ไม่ได้แสดงหรือแสดงไม่เหมาะสม

ผู้วิจัยกล่าวถึงความท้าทายในแง่ของผลการค้นหาที่แท้จริงสำหรับ ‘ช่างประปา’ ใน Google Image search โดยสังเกตว่าผลลัพธ์ภาพถูกครอบงำโดยชายผิวขาววัยหนุ่ม

จากเอกสาร ผลลัพธ์การค้นหา ‘ช่างประปา’ ใน Google Image search มกราคม 2021

ภาพรวม

ความท้าทายหลักสำหรับผู้เขียนคือการผลิตระบบสังเคราะห์ภาพ GAN ที่สามารถผลิตภาพความละเอียด 1024×1024

ผู้เขียนระบุว่าความละเอียดที่ต่ำกว่าไม่สามารถคาดหวังที่จะประสบความสำเร็จในการค้นหาภาพ และทดลองกับกรอบ GAN ที่หลากหลายซึ่งสามารถผลิตภาพความละเอียดสูงได้ตามความต้องการ

การสร้างและประเมินข้อมูล

ผู้วิจัยได้เลือกอาชีพที่แสดงถึงอคติทางเชื้อชาติและเพศสูง และสร้างข้อมูลสังเคราะห์สำหรับอาชีพเหล่านั้น

ผู้วิจัยใช้ข้อมูล 10,000 ภาพจาก Adobe Stock library และใช้ ResNet32 เพื่อระบุเพศและเชื้อชาติของบุคคลในภาพ

การแพร่กระจาย

เอกสารใหม่ไม่ได้กล่าวถึงวิธีการที่ภาพสังเคราะห์ ‘ที่ถูกสร้างขึ้นใหม่’ จะถูกนำเข้าสู่การเผยแพร่

ฐานข้อมูลสังเคราะห์เช่นที่ผลิตโดยผู้วิจัยสามารถนำไปใช้ฟรีเป็นภาพสต็อกที่มีความละเอียดสูง โดยใช้แรงจูงใจในการประหยัดต้นทุนเป็นเครื่องยนต์ในการแพร่กระจาย

โครงการนี้ไม่ได้กล่าวถึงอคติทางอายุ ซึ่งอาจเป็นหัวข้อที่น่าสนใจสำหรับการวิจัยในอนาคต

* การค้นหาที่จับได้เมื่อวันที่ 5 มกราคม 2022 การค้นหาที่อ้างอิงในเอกสารดำเนินการในเดือนมกราคม 2021

เผยแพร่ครั้งแรกเมื่อวันที่ 5 มกราคม 2022