โมเดลและแพลตฟอร์ม AI
ความเอนเอียงของ AI และสเตอริโอไทป์วัฒนธรรม: ผลกระทบ ข้อจำกัด และการบรรเทา
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ปัญญาประดิษฐ์ (AI) โดยเฉพาะ Generative AI ยังคงพัฒนาอย่างต่อเนื่องในการทำความเข้าใจและเลียนแบบการคิดและการทำงานของมนุษย์ อย่างไรก็ตาม ในหลายกรณี ผลลัพธ์หรือการคาดการณ์ของระบบ AI สามารถสะท้อนถึงความเอนเอียงของ AI ได้หลายประเภท เช่น สเตอริโอไทป์วัฒนธรรมและเชื้อชาติ
บล็อก “บาร์บี้ของโลก” ของ Buzzfeed (ซึ่งถูกลบแล้ว) แสดงให้เห็นถึงความเอนเอียงและความไม่ถูกต้องทางวัฒนธรรมเหล่านี้อย่างชัดเจน บาร์บี้เหล่านี้ถูกสร้างขึ้นโดยใช้ Midjourney ซึ่งเป็นเครื่องมือสร้างภาพ AI ที่นำมาใช้เพื่อดูว่าบาร์บี้จะดูเหมือนอย่างไรในแต่ละส่วนของโลก เราจะพูดถึงเรื่องนี้อีกครั้งในภายหลัง
แต่นี่ไม่ใช่ครั้งแรกที่ AI ถูกกล่าวหาว่าเป็น “คนร้าย” หรือผลิตผลลัพธ์ที่ไม่ถูกต้อง ตัวอย่างเช่น ในปี 2022 Apple (AAPL ) ถูกฟ้องร้องเกี่ยวกับการกล่าวหาว่าเซ็นเซอร์ออกซิเจนในเลือดของ Apple Watch มีความเอนเอียงต่อคนผิวสี ในอีกกรณีหนึ่ง ผู้ใช้ Twitter พบว่า ระบบการคัดภาพอัตโนมัติของ Twitter ให้ความสำคัญกับใบหน้าของคนผิวขาวมากกว่าคนผิวดำและผู้หญิงมากกว่าผู้ชาย สิ่งเหล่านี้เป็นความท้าทายที่สำคัญ และการแก้ไขปัญหาเหล่านี้เป็นเรื่องที่ท้าทายอย่างมาก
ในบทความนี้ เราจะพิจารณาความหมายของความเอนเอียงของ AI ว่ามันส่งผลกระทบต่อสังคมของเราอย่างไร และพูดถึงวิธีการบรรเทาเพื่อแก้ไขปัญหาเช่นสเตอริโอไทป์วัฒนธรรม
ความเอนเอียงของ AI คืออะไร?
ความเอนเอียงของ AI เกิดขึ้นเมื่อโมเดล AI ผลิตผลลัพธ์ที่มีการเลือกปฏิบัติต่อประชากรบางกลุ่ม มีความเอนเอียงหลายประเภทที่สามารถเข้ามาในระบบ AI และผลิตผลลัพธ์ที่ไม่ถูกต้อง บางส่วนของความเอนเอียงเหล่านี้คือ
- ความเอนเอียงแบบสเตอริโอไทป์: ความเอนเอียงแบบสเตอริโอไทป์หมายถึงปรากฏการณ์ที่ผลลัพธ์ของโมเดล AI ประกอบด้วยสเตอริโอไทป์หรือความคิดเห็นที่มีต่อประชากรบางกลุ่ม
- ความเอนเอียงเชื้อชาติ: ความเอนเอียงเชื้อชาติใน AI เกิดขึ้นเมื่อผลลัพธ์ของโมเดล AI มีการเลือกปฏิบัติและไม่ยุติธรรมต่อบุคคลหรือกลุ่มตามเชื้อชาติ
- ความเอนเอียงวัฒนธรรม: ความเอนเอียงวัฒนธรรมเกิดขึ้นเมื่อผลลัพธ์ของโมเดล AI ให้ความสำคัญกับวัฒนธรรมหนึ่งมากกว่าวัฒนธรรมอื่น
นอกจากความเอนเอียงแล้ว ปัญหาอื่นๆ ยังสามารถส่งผลต่อผลลัพธ์ของระบบ AI เช่น
- ความไม่ถูกต้อง: ความไม่ถูกต้องเกิดขึ้นเมื่อผลลัพธ์ที่ผลิตโดยโมเดล AI ไม่ถูกต้องเนื่องจากข้อมูลการฝึกที่ไม่สอดคล้องกัน
- การเห็นภาพ: การเห็นภาพเกิดขึ้นเมื่อโมเดล AI ผลิตผลลัพธ์ที่เป็นเท็จและไม่ขึ้นอยู่กับข้อมูลที่เป็นจริง
ผลกระทบของความเอนเอียงของ AI ต่อสังคม
ผลกระทบของความเอนเอียงของ AI ต่อสังคมสามารถเป็นอันตรายได้ ระบบ AI ที่มีความเอนเอียงสามารถผลิตผลลัพธ์ที่ไม่ถูกต้องซึ่งเพิ่มความลำเอียงที่มีอยู่แล้วในสังคม ผลลัพธ์เหล่านี้สามารถเพิ่มการเลือกปฏิบัติและละเมิดสิทธิ และส่งผลต่อกระบวนการสรรหาบุคคล และลดความเชื่อมั่นในเทคโนโลยี AI
นอกจากนี้ ผลลัพธ์ของ AI ที่มีความเอนเอียงมักจะนำไปสู่การคาดการณ์ที่ไม่ถูกต้องซึ่งสามารถมีผลกระทบอย่างรุนแรงต่อบุคคลที่ไม่มีความผิด ในเดือนสิงหาคม 2020 Robert McDaniel ถูกกำหนดเป็น “บุคคลที่ต้องสงสัย” โดยอัลกอริทึมการคาดการณ์犯罪ของกรมตำรวจนครชิคาโก
ในทำนองเดียวกัน ระบบ AI ด้านสุขภาพที่มีความเอนเอียงสามารถมีผลกระทบต่อผู้ป่วยได้ ในปี 2019 Science พบว่าอัลกอริทึมการเสี่ยงด้านสุขภาพที่ใช้กันอย่างแพร่หลายในประเทศสหรัฐอเมริกามีความเอนเอียงเชื้อชาติต่อคนผิวสี ซึ่งนำไปสู่การดูแลผู้ป่วยที่ไม่เหมาะสม
บาร์บี้ของโลก
ในเดือนกรกฎาคม 2023 Buzzfeed ตีพิมพ์บล็อก ที่ประกอบด้วยบาร์บี้ 194 ตัวที่ถูกสร้างขึ้นโดย AI จากทั่วโลก บล็อกนี้ได้รับความนิยมอย่างมากบน Twitter แม้ว่า Buzzfeed จะเขียนคำชี้แจง แต่ก็ไม่สามารถหยุดยั้งผู้ใช้บนอินเทอร์เน็ตจากการชี้ให้เห็นถึงความไม่ถูกต้องทางเชื้อชาติและวัฒนธรรม ตัวอย่างเช่น บาร์บี้ที่ถูกสร้างขึ้นโดย AI ซึ่งถูกกำหนดให้เป็นบาร์บี้จากเยอรมนี สวมเครื่องแบบของ ทหารเอสเอส
ในทำนองเดียวกัน บาร์บี้ที่ถูกสร้างขึ้นโดย AI ซึ่งถูกกำหนดให้เป็นบาร์บี้จากซูดานใต้ ถูกแสดงให้เห็นถืออาวุธปืนอยู่ข้างๆ ซึ่งสะท้อนถึงความเอนเอียงที่มีมากในอัลกอริทึม AI
นอกจากนี้ ภาพอื่นๆ ยังแสดงให้เห็นถึงความไม่ถูกต้องทางวัฒนธรรม เช่น บาร์บี้จากกาตาร์สวม กุทรา ซึ่งเป็นเครื่องแต่งกายแบบ传统ของชายอาหรับ
บล็อกนี้ได้รับการตอบรับที่ไม่ดีเนื่องจากสเตอริโอไทป์วัฒนธรรมและความเอนเอียง London Interdisciplinary School (LIS) เรียกสิ่งนี้ว่า การทำร้ายทางสังคม ที่ต้องได้รับการควบคุมโดยการกำหนดมาตรฐานคุณภาพและตั้งหน่วยงานกำกับดูแล AI
ข้อจำกัดของโมเดล AI
AI มีศักยภาพที่จะ ปฏิวัติอุตสาหกรรมหลายประเภท แต่หากสถานการณ์เช่นนี้เกิดขึ้นบ่อยๆ อาจนำไปสู่การลดการนำ AI ไปใช้ ซึ่งอาจทำให้พลาดโอกาสที่ดี กรณีเหล่านี้มักเกิดขึ้นเนื่องจากข้อจำกัดที่สำคัญในระบบ AI เช่น
- การขาดความคิดสร้างสรรค์: เนื่องจาก AI สามารถตัดสินใจได้เพียงจากข้อมูลการฝึกเท่านั้น จึงขาดความคิดสร้างสรรค์ในการคิดนอกกรอบ ซึ่งทำให้การแก้ปัญหาเชิงสร้างสรรค์เป็นเรื่องที่ท้าทาย
- การขาดความเข้าใจในบริบท: ระบบ AI มักจะพบปัญหาในการเข้าใจความแตกต่างทางภาษาหรือบริบทของภูมิภาค ซึ่งอาจนำไปสู่ข้อผิดพลาดในผลลัพธ์
- ความเอนเอียงในการฝึก: AI ขึ้นอยู่กับข้อมูลประวัติศาสตร์ที่อาจมีตัวอย่างที่มีการเลือกปฏิบัติ ระหว่างการฝึก ระบบสามารถเรียนรู้รูปแบบที่มีการเลือกปฏิบัติและผลิตผลลัพธ์ที่ไม่ยุติธรรมและเอนเอียง
วิธีการลดความเอนเอียงในโมเดล AI
ผู้เชี่ยวชาญ คาดการณ์ ว่าภายในปี 2026 90% ของเนื้อหาออนไลน์อาจถูกสร้างขึ้นโดย AI ดังนั้นจึงจำเป็นต้องลดปัญหาเหล่านี้ในเทคโนโลยี AI ที่สร้างขึ้นอย่างรวดเร็ว
มีกลยุทธ์หลักหลายประการที่สามารถนำไปใช้เพื่อลดความเอนเอียงในโมเดล AI เช่น
- การรับประกันคุณภาพข้อมูล: การนำข้อมูลที่สมบูรณ์, ถูกต้อง, และไม่มีข้อผิดพลาดเข้าไปในโมเดล AI สามารถช่วยลดความเอนเอียงและผลิตผลลัพธ์ที่ถูกต้องมากขึ้น
- ชุดข้อมูลที่หลากหลาย: การนำชุดข้อมูลที่หลากหลายเข้าไปในระบบ AI สามารถช่วยบรรเทาความเอนเอียงได้ เนื่องจากระบบ AI จะกลายเป็นระบบที่ครอบคลุมมากขึ้นเมื่อเวลาผ่านไป
- วงจรการให้ข้อมูลและเรียนรู้: ด้วยวงจรการให้ข้อมูลและเรียนรู้อย่างต่อเนื่อง ระบบ AI สามารถปรับปรุงผลลัพธ์ได้โดยที่ไม่ต้องมีการฝึกใหม่
- การเพิ่มการกำกับดูแล: การกำกับดูแล AI ในระดับโลกเป็นสิ่งสำคัญสำหรับการรักษาคุณภาพของระบบ AI ทั่วโลก ดังนั้น องค์กรระหว่างประเทศต้องทำงานร่วมกันเพื่อให้แน่ใจว่ามีการกำหนดมาตรฐาน AI
- การเพิ่มการนำ AI ที่มีความรับผิดชอบ: กลยุทธ์ AI ที่มีความรับผิดชอบมีส่วนช่วยในการบรรเทาความเอนเอียงของ AI โดยส่งเสริมความยุติธรรมและความถูกต้องในระบบ AI และให้แน่ใจว่าระบบเหล่านี้ให้บริการผู้ใช้ที่หลากหลายในขณะเดียวกันก็พยายามปรับปรุงอย่างต่อเนื่อง
โดยการนำชุดข้อมูลที่หลากหลาย, ความรับผิดชอบทางจริยธรรม, และช่องทางสื่อสารที่เปิดกว้าง เราสามารถให้แน่ใจว่า AI เป็นแหล่งของการเปลี่ยนแปลงเชิงบวกทั่วโลก
หากคุณต้องการเรียนรู้เพิ่มเติมเกี่ยวกับความเอนเอียงและบทบาทของ AI ในสังคมของเรา อ่านบล็อกต่อไปนี้
