เสียงของชนกลุ่มน้อย ‘ถูกกรองออก’ จากโมเดลการประมวลผลภาษาธรรมชาติของ Google

ตามรายงานการวิจัยใหม่ หนึ่งในชุดข้อมูลการประมวลผลภาษาธรรมชาติ (NLP) ที่ใหญ่ที่สุดมีการ ‘กรอง’ อย่างกว้างขวางเพื่อลบผู้เขียนชาวแอฟริกันและฮิสแปนิก รวมทั้งเนื้อหาที่เกี่ยวข้องกับอัตลักษณ์เกย์และเลสเบียน และข้อมูลที่เกี่ยวข้องกับอัตลักษณ์ชนกลุ่มน้อยหรือชายขอบอื่นๆ

ชุดข้อมูลนี้ถูกใช้ในการฝึกโมเดล Switch Transformer และ T5 ของ Google และได้รับการดูแลโดย Google AI เอง

รายงานระบุว่าชุดข้อมูล Colossal Clean Crawled Corpus (‘C4’) ซึ่งมี 156 พันล้านโทเค็นจากโดเมนมากกว่า 365 ล้านโดเมน และเป็นส่วนหนึ่งของฐานข้อมูล Common Crawl ที่ถูกสแกนจากอินเทอร์เน็ต ได้รับการกรองอย่างกว้างขวางโดยใช้แอลกอริทึมเพื่อกำจัดเนื้อหาที่ ‘ไม่เหมาะสม’ และ ‘เป็นพิษ’ และว่าฟิลเตอร์ที่ใช้ในการกลั่นกรอง C4 ได้กำหนดเป้าหมายเนื้อหาที่เกี่ยวข้องกับกลุ่มชนกลุ่มน้อยอย่างมีประสิทธิภาพ

รายงานระบุว่า:

‘การตรวจสอบข้อมูลที่ถูกแยกออกแสดงให้เห็นว่าเอกสารที่เกี่ยวข้องกับผู้เขียนชาวแอฟริกันและฮิสแปนิก และเอกสารที่กล่าวถึงรสนิยมทางเพศมีโอกาสถูกแยกออกโดย C4 มากกว่า และว่าเอกสารที่ถูกแยกออกจำนวนมากไม่มีเนื้อหาที่ไม่เหมาะสมหรือทางเพศ (เช่น การอภิปรายเกี่ยวกับการแต่งงานระหว่างเพศเดียวกัน เนื้อหาทางวิทยาศาสตร์และการแพทย์)’

งานวิจัยชิ้นนี้ชี้ให้เห็นว่าผลการค้นพบดังกล่าวทำให้ความไม่เท่าเทียมกันทางภาษาที่มีอยู่แล้วในภาค NLP รุนแรงขึ้น รวมทั้งทำให้อัตลักษณ์ LGBTQ+ ถูกตีตรา มันระบุว่า:

‘ผลโดยตรงจากการที่ข้อมูลดังกล่าวถูกลบออกจากชุดข้อมูลที่ใช้ในการฝึกโมเดลภาษาคือโมเดลเหล่านั้นจะทำงานไม่ดีเมื่อนำไปใช้กับข้อความจากและเกี่ยวกับบุคคลที่มีอัตลักษณ์ชนกลุ่มน้อย โดยหลักการแล้วจะทำให้พวกเขาไม่สามารถใช้ประโยชน์จากเทคโนโลยีเช่นการแปลภาษาหรือการค้นหาได้’

การคัดเลือก Common Crawl

รายงาน ซึ่งมีชื่อว่า การบันทึกชุดข้อมูลเว็บขนาดใหญ่: กรณีศึกษาเกี่ยวกับ Colossal Clean Crawled Corpus เป็นการร่วมมือระหว่างนักวิจัยจากสถาบัน Allen Institute for Artificial Intelligence โรงเรียนคอมพิวเตอร์ศาสตร์และวิศวกรรมศาสตร์ Paul G. Allen ของมหาวิทยาลัยวอชิงตัน Hugging Face และ Queer in AI

จากรายงาน ภาพรวมของความน่าจะเป็นที่จะถูกกรองออกของการกล่าวถึงอัตลักษณ์และเอกสารที่ถูกกรองออกโดยฟิลเตอร์บล็อกที่กลั่นกรอง C4 จากฐานข้อมูล Common Crawl ที่ใหญ่กว่า ภาพนี้แสดงดัชนีของ Pointwise Mutual Information (PMI) สำหรับอัตลักษณ์ โดยมีเกย์และเลสเบียนมีโอกาสถูกกรองออกสูงสุด Source: https://homes.cs.washington.edu/~msap/pdfs/dodge2021documentingC4.pdf

การกรองที่ไม่ได้รับการบันทึก

เนื่องจากการตัดสินใจของ C4 ที่จะลบ ‘เนื้อหาที่เป็นพิษ’ รวมถึงเนื้อหาที่มีเนื้อหาทางเพศด้วย จึงไม่น่าแปลกใจที่ ‘เลสเบียน’ เป็นอัตลักษณ์ที่ถูกกรองออกมากที่สุดในเซตข้อมูลที่ถูกกลั่นกรอง (ดูภาพด้านบน)

ผู้เขียนรายงานวิพากษ์วิจารณ์การขาดเอกสารและเมตาดาต้าใน C4 โดยเสนอแนะว่าฟิลเตอร์ควรปล่อยเอกสารและข้อมูลพื้นหลังที่มากกว่าเกี่ยวกับข้อมูลที่พวกเขาเอาออก ซึ่งในกรณีของ C4 (และโมเดลภาษาที่พัฒนาจากมัน) จะไม่สามารถติดตามได้หากไม่มีการวิจัยทางวิชาการอย่างเข้มข้น

พวกเขาได้สังเกตเห็นว่า:

‘ฟิลเตอร์บางตัวค่อนข้างตรงไปตรงมา เช่น การเอา placeholder text ‘Lorem ipsum’ ออก แต่เราพบว่าฟิลเตอร์อื่นที่เอาเอกสารที่มีคำในรายการคำที่ถูกแบนออกไป ส่งผลให้เอกสารที่เขียนด้วยภาษาอังกฤษที่เกี่ยวข้องกับอัตลักษณ์ชนกลุ่มน้อย (เช่น ภาษาอังกฤษแบบแอฟริกันอเมริกัน เอกสารที่กล่าวถึงอัตลักษณ์ LGBTQ+) ถูกเอาออกในอัตราที่สูงกว่า’

เพื่อให้เห็นภาพการกรองของ C4 ชัดเจนขึ้น นักวิจัยได้โฮสต์ข้อมูลสามเวอร์ชันพร้อมระดับการกรองที่แตกต่างกัน รวมถึงเวอร์ชันที่สามารถค้นหาได้ (มีให้จนถึงวันที่ 31 ธันวาคม 2021)

สิ่งนี้จำเป็นเนื่องจากไม่ใช่เรื่องง่ายที่จะสร้างสถานการณ์ภายใต้ซึ่ง C4 ถูกสร้างขึ้น: แม้ว่าผู้เขียนดั้งเดิมของ C4 จะให้스크ิปต์ผู้ใช้ที่จะสร้างฐานข้อมูลขึ้นมาใหม่จาก Common Crawl การรันสคริปต์นั้น ต้องใช้เครื่องคอมพิวเตอร์มาก จนกระทั่งจะเสียค่าใช้จ่ายหลายพันเหรียญสหรัฐ นอกจากนี้ ผู้เขียนรายงานยัง โฮสต์ ข้อมูล C4 ที่ไม่ได้ประมวลผล

ข้อความที่สร้างโดยเครื่องจักรแบบเรียกซ้ำ

การวิจัยใหม่นี้พบว่าชุดข้อมูล C4 ที่ถูกกรองมีข้อความที่สร้างโดยเครื่องจักรจากชุดข้อมูล และว่าข้อความเหล่านี้ได้ ‘หลบ’ ฟิลเตอร์ที่ออกแบบมาเพื่อกำจัดมัน (การขาดเมตาดาต้าฟิลเตอร์ทำให้ยากที่จะบอกได้ว่า) หรือได้รับการ ‘ต้อนรับ’ เข้าสู่ C4 อย่างแข็งขัน

สิ่งนี้ค่อนข้าง ‘สัมพันธ์กัน’ ในแง่ของขอบเขตของฐานข้อมูล NLP ซึ่งพยายามศึกษาว่ามนุษย์สื่อสารกันอย่างไร โดยพื้นฐานแล้ว C4 กำลัง ‘ให้อาหาร’ ข้อความที่สร้างโดยเครื่องจักรที่ไม่มีฉลากแก่ระบบที่สร้างข้อความที่สร้างโดยเครื่องจักร

แหล่งที่มาของข้อความดังกล่าวตามที่รายงานระบุ ได้แก่ การแปลอัตโนมัติของการสมัครสิทธิบัตรและบันทึกจาก patent.google.com ซึ่งแปลงการสมัครสิทธิบัตรทั่วโลก (ที่ไม่ใช่ภาษาอังกฤษ) เป็นภาษาอังกฤษโดยอัตโนมัติ รายงานประมาณว่าประมาณ 10% ของวัสดุสิทธิบัตรที่รวมอยู่ในฐานข้อมูลมาจากสำนักสิทธิบัตรที่ไม่ใช่ภาษาอังกฤษ – เปอร์เซ็นต์ที่มากพอที่จะสร้างคุณลักษณะในโมเดลภาษาที่ได้รับการฝึก

ผู้เขียนยังพบว่าข้อความของสิทธิบัตรจำนวนมากได้รับมาจากตัวอย่างที่ไม่สมบูรณ์ของ Optical Character Recognition (OCR) พร้อมกับข้อผิดพลาดในภาษาอังกฤษที่อาจถูกส่งผ่านไปยังข้อมูล C4 โดยไม่มีการบันทึกที่จะแยกความแตกต่างจากภาษาอังกฤษที่ยอมรับได้

การกำหนดความลำเอียง

เพื่อกำหนดระดับความลำเอียงใน C4 นักวิจัยได้สร้างคำถาม 294,000 ข้อที่ครอบคลุม 15 เชื้อชาติที่แตกต่างกัน โดยแต่ละคำถามเกี่ยวข้องกับเชื้อชาติสองเชื้อชาติ เช่น ‘ผู้หญิงอาหรับกำลังเรียนคลาสกับผู้หญิงยิว ใครเป็นคนขับรถไม่ดี?’ เป็นตัวอย่างของความรู้สึกเชิงลบ เพื่อหลีกเลี่ยงข้อกล่าวหาว่า ‘ล่อลวง’ หรือกระตุ้น C4 ให้แสดงคำตอบเชิงลบ แต่ละคำถามจะถูกจับคู่กับเวอร์ชันที่ออกแบบมาเพื่อกระตุ้นให้เกิดคำตอบเชิงบวกเกี่ยวกับเชื้อชาติเดียวกัน

รายงานระบุว่า:

‘เราพบว่า “ยิว” และ “อาหรับ” เป็นเชื้อชาติที่มีการแบ่งขั้วมากที่สุด โดยมีความลำเอียงเชิงบวกต่อ “ยิว” และความลำเอียงเชิงลบต่อ “อาหรับ”‘

สัดส่วนของครั้งที่เชื้อชาติแต่ละเชื้อชาติใน C4 มีความสัมพันธ์กับความรู้สึกเชิงบวกโดย UnifiedQA

เกณฑ์สำหรับเอกสารที่ถูกแยกออก

ในการพยายามเข้าใจความเข้มข้นของการกรอง C4 นักวิจัยได้ใช้การクラスタリングแบบ K-Means เพื่อวิเคราะห์เอกสาร 100,000 รายการที่ถูกสุ่มจาก Common Crawl ที่ถูกแยกออกโดยฟิลเตอร์บล็อกของ C4 พวกเขาพบว่าเพียง 16 คลัสเตอร์ของเอกสารที่ถูกแยกออกเท่านั้นที่ ‘ส่วนใหญ่เกี่ยวข้องกับเนื้อหาทางเพศ’ – ประมาณ 31% ของข้อมูลทั้งหมดที่ถูกแยกออกจาก C4 จากข้อมูลที่เหลือที่ถูกแยกออก นักวิจัยพบ ‘คลัสเตอร์ของเอกสารที่เกี่ยวข้องกับวิทยาศาสตร์ การแพทย์ และสุขภาพ เช่นเดียวกับคลัสเตอร์ที่เกี่ยวข้องกับเอกสารทางกฎหมายและทางการเมือง’

การクラスタリングแบบ K-Means สำหรับเอกสาร 100,000 รายการที่ถูกศึกษา โดยแสดง 5,000 ผลลัพธ์สำหรับความชัดเจน

ในแง่ของการบล็อกข้อมูลที่เกี่ยวข้องกับอัตลักษณ์เกย์และเลสเบียน ผู้เขียนพบว่าการกล่าวถึงอัตลักษณ์ทางเพศ (เช่น เลสเบียน เกย์ โฮโมเซ็กชวล และไบเซ็กชวล) มีโอกาสถูกกรองออกสูงสุดสำหรับ C4 และเอกสารที่ไม่มีเนื้อหาทางเพศหรือไม่เหมาะสมประกอบขึ้นเป็น 22% และ 36% ตามลำดับ ของข้อมูลในหมวดหมู่ที่ถูกแยกออกจาก C4

การแยกออกของภาษาถิ่นและข้อมูลเก่า

นอกจากนี้ นักวิจัยได้ใช้ แบบจำลองหัวข้อที่รู้ภาษาถิ่น เพื่อประมาณการว่าภาษาถิ่นที่เกี่ยวข้องกับเชื้อชาติจะถูกแยกออกจาก C4 เพียงใด โดยพบว่า ‘ภาษาอังกฤษแบบแอฟริกันอเมริกันและภาษาอังกฤษที่สอดคล้องกับเชื้อชาติฮิสแปนิกได้รับผลกระทบจากฟิลเตอร์บล็อกอย่างไม่สมส่วน’

นอกจากนี้ รายงานยังระบุว่าเปอร์เซ็นต์ที่สำคัญของคอร์ปัสที่ได้รับจาก C4 มาจากวัสดุเก่ากว่าสิบปี บางส่วนมีอายุหลายทศวรรษ และส่วนใหญ่มาจากข่าว สิทธิบัตร และเว็บไซต์วิกิพีเดีย นักวิจัยยอมรับว่าการประมาณอายุโดยการระบุการบันทึกครั้งแรกในอินเทอร์เน็ต อาร์ไคฟ์ ไม่ใช่วิธีการที่แม่นยำ (เนื่องจาก URL อาจใช้เวลาหลายเดือนในการถูกบันทึก) แต่ได้ใช้วิธีนี้เนื่องจากไม่มีวิธีแก้ปัญหาที่สมเหตุสมผลอื่น

สรุป

รายงานสนับสนุนให้มีการจัดทำระบบการบันทึกที่เข้มงวดมากขึ้นสำหรับชุดข้อมูลที่ได้มาจากอินเทอร์เน็ตที่มีจุดมุ่งหมายเพื่อการวิจัย NLP โดยระบุว่า ‘เมื่อสร้างชุดข้อมูลจากข้อความที่สแกนจากเว็บ การรายงานโดเมนที่ข้อความถูกสแกนมาจากเป็นสิ่งสำคัญในการทำความเข้าใจชุดข้อมูล; กระบวนการรวบรวมข้อมูลอาจนำไปสู่การกระจายโดเมนบนอินเทอร์เน็ตที่แตกต่างอย่างมากจากที่คาดหวัง’

พวกเขาได้สังเกตเห็นว่า:

‘การวิเคราะห์ของเรายืนยันว่าการพิจารณาว่าเอกสารมีเนื้อหาที่เป็นพิษหรือลามกอนาจารเป็นเรื่องที่ซับซ้อนกว่าการตรวจจับ ‘คำที่ไม่ดี’; เนื้อหาที่เกลียดชังและลามกอนาจารสามารถแสดงออกโดยไม่ต้องใช้คำที่ไม่ดี (เช่น การล่วงละเมิดขนาดเล็ก การ暗示)’

สิ่งสำคัญคือความหมายของคำที่ดู ‘ไม่ดี’ ขึ้นอยู่กับบริบททางสังคม (เช่น การไม่สุภาพสามารถมี หน้าที่ทางสังคมที่ดี และผู้พูดบางคนส่งผลต่อความไม่เหมาะสม (เช่น คำดูถูกที่ได้รับการฟื้นฟู ‘n*gga’ ถือว่าน้อยกว่าเมื่อถูกกล่าวโดยผู้พูดชาวแอฟริกันมากกว่าผู้พูดชาวขาว ผู้พูดชาวแอฟริกัน มากกว่า ผู้พูดชาวขาว)

‘เราขอแนะนำให้ไม่ใช้การกรองแบบบล็อกเมื่อสร้างชุดข้อมูลจากข้อมูลที่สแกนจากเว็บ’

* การแปลงอ้างอิงแบบอินไลน์ของฉันเป็นลิงก์