อคติของ AI และแบบแผนทางวัฒนธรรม: ผลกระทบ ข้อจำกัด และการบรรเทาผลกระทบ

ปัญญาประดิษฐ์ (AI) โดยเฉพาะ กำเนิด AIยังคงเกินความคาดหมายด้วยความสามารถในการเข้าใจและเลียนแบบการรับรู้และสติปัญญาของมนุษย์ อย่างไรก็ตาม ในหลายกรณี ผลลัพธ์หรือการคาดการณ์ของระบบ AI สามารถสะท้อนถึงอคติด้าน AI ประเภทต่างๆ ได้ เช่น วัฒนธรรมและเชื้อชาติ

บัซฟีด”บาร์บี้แห่งโลก” บล็อก (ซึ่งตอนนี้ถูกลบไปแล้ว) แสดงให้เห็นอย่างชัดเจนถึงอคติทางวัฒนธรรมและความไม่ถูกต้อง 'บาร์บี้' เหล่านี้ถูกสร้างขึ้นโดยใช้ กลางการเดินทาง – เครื่องสร้างภาพ AI ชั้นนำเพื่อค้นหาว่าตุ๊กตาบาร์บี้จะมีหน้าตาเป็นอย่างไรในทุกส่วนของโลก เราจะพูดถึงเรื่องนี้เพิ่มเติมในภายหลัง

แต่นี่ไม่ใช่ครั้งแรกที่ AI "เหยียดเชื้อชาติ" หรือให้ผลลัพธ์ที่ไม่ถูกต้อง เช่น ในปี 2022 Apple เคยเป็น ฟ้อง เหนือข้อกล่าวหาที่ว่าเซ็นเซอร์ออกซิเจนในเลือดของ Apple Watch มีอคติต่อคนผิวสี ในอีกกรณีหนึ่งที่มีการรายงาน ผู้ใช้ Twitter พบว่า AI ครอบตัดรูปภาพอัตโนมัติของ Twitter ชอบใบหน้าของคนผิวขาวมากกว่าคนผิวดำ และผู้หญิงมากกว่าผู้ชาย สิ่งเหล่านี้ถือเป็นความท้าทายที่สำคัญ และการจัดการกับสิ่งเหล่านั้นถือเป็นความท้าทายอย่างมาก

ในบทความนี้ เราจะดูว่า AI Bias คืออะไร มีผลกระทบต่อสังคมของเราอย่างไร และอภิปรายสั้น ๆ ว่าผู้ปฏิบัติงานสามารถ บรรเทา เพื่อจัดการกับความท้าทายต่างๆ เช่น แบบเหมารวมทางวัฒนธรรม

AI อคติคืออะไร?

อคติของ AI เกิดขึ้นเมื่อแบบจำลอง AI สร้างผลลัพธ์ที่เลือกปฏิบัติต่อกลุ่มประชากรบางกลุ่ม อคติหลายประเภทสามารถเข้าสู่ระบบ AI และให้ผลลัพธ์ที่ไม่ถูกต้อง อคติด้าน AI เหล่านี้บางส่วนได้แก่:

• อคติแบบเหมารวม: อคติแบบเหมารวมหมายถึงปรากฏการณ์ที่ผลลัพธ์ของแบบจำลอง AI ประกอบด้วยแบบเหมารวมหรือความคิดที่รับรู้เกี่ยวกับกลุ่มประชากรบางกลุ่ม
• อคติทางเชื้อชาติ: อคติทางเชื้อชาติใน AI เกิดขึ้นเมื่อผลลัพธ์ของโมเดล AI มีการเลือกปฏิบัติและไม่ยุติธรรมต่อบุคคลหรือกลุ่มตามชาติพันธุ์หรือเชื้อชาติ
• อคติทางวัฒนธรรม: อคติทางวัฒนธรรมเกิดขึ้นเมื่อผลลัพธ์ของแบบจำลอง AI สนับสนุนวัฒนธรรมบางอย่างมากกว่าวัฒนธรรมอื่น

นอกเหนือจากอคติแล้ว ปัญหาอื่นๆ ยังสามารถขัดขวางผลลัพธ์ของระบบ AI ได้อีกด้วย เช่น:

• ความไม่ถูกต้อง: ความไม่ถูกต้องเกิดขึ้นเมื่อผลลัพธ์ที่สร้างโดยโมเดล AI ไม่ถูกต้องเนื่องจากข้อมูลการฝึกไม่สอดคล้องกัน
• ภาพหลอน: ภาพหลอนเกิดขึ้นเมื่อแบบจำลอง AI ให้ผลลัพธ์ที่สมมติและเป็นเท็จซึ่งไม่ได้ขึ้นอยู่กับข้อมูลที่เป็นข้อเท็จจริง

ผลกระทบของอคติ AI ต่อสังคม

ผลกระทบของอคติ AI ต่อสังคมอาจเป็นอันตรายได้ ระบบ AI ที่มีอคติสามารถสร้างผลลัพธ์ที่ไม่ถูกต้องซึ่งขยายอคติที่มีอยู่ในสังคมได้ ผลลัพธ์เหล่านี้สามารถเพิ่มการเลือกปฏิบัติและการละเมิดสิทธิ์ ส่งผลกระทบต่อกระบวนการจ้างงาน และลดความไว้วางใจในเทคโนโลยี AI

นอกจากนี้ ผลลัพธ์ของ AI ที่เอนเอียงมักนำไปสู่การคาดการณ์ที่ไม่ถูกต้อง ซึ่งอาจส่งผลร้ายแรงต่อผู้บริสุทธิ์ ตัวอย่างเช่น ในเดือนสิงหาคม 2020 โรเบิร์ต แมคแดเนียล กลายเป็นเป้าหมายของการกระทำผิดทางอาญาเนื่องจากอัลกอริทึมการรักษาตำรวจแบบคาดการณ์ของกรมตำรวจชิคาโกที่ระบุว่าเขาเป็น "บุคคลที่น่าสนใจ"

ในทำนองเดียวกัน ระบบ AI ด้านการดูแลสุขภาพที่มีอคติสามารถให้ผลลัพธ์ของผู้ป่วยแบบเฉียบพลันได้ ในปี 2019 วิทยาศาสตร์ พบว่ามีการใช้กันอย่างแพร่หลาย อัลกอริธึมทางการแพทย์ของสหรัฐฯ มีอคติทางเชื้อชาติต่อคนผิวสี ซึ่งทำให้ผู้ป่วยผิวดำได้รับการดูแลที่มีความเสี่ยงสูงน้อยลง

บาร์บี้แห่งโลก

ในเดือนกรกฎาคมที่ผ่านมา 2023, Buzzfeed เผยแพร่บล็อก ประกอบด้วยบาร์บี้ที่สร้างโดย AI จำนวน 194 ตัวจากทั่วทุกมุมโลก โพสต์ดังกล่าวกลายเป็นไวรัลบน Twitter แม้ว่า Buzzfeed จะเขียนข้อความปฏิเสธความรับผิดชอบ แต่ก็ไม่ได้หยุดชาวเน็ตจากการชี้ให้เห็นถึงความไม่ถูกต้องทางเชื้อชาติและวัฒนธรรม ตัวอย่างเช่น ภาพที่ AI สร้างขึ้นของตุ๊กตาบาร์บี้ชาวเยอรมันกำลังสวมเครื่องแบบของ เอสเอส นาซี ทั่วไป

ในทำนองเดียวกัน ภาพที่ AI สร้างขึ้นของตุ๊กตาบาร์บี้ซูดานใต้ก็แสดงให้เห็นโดยถือปืนอยู่ข้างๆ เธอ ซึ่งสะท้อนถึงอคติที่หยั่งรากลึกในอัลกอริธึม AI

นอกจากนี้ รูปภาพอื่นๆ อีกหลายภาพยังแสดงให้เห็นถึงความไม่ถูกต้องทางวัฒนธรรม เช่น ตุ๊กตาบาร์บี้ของกาตาร์สวมชุด กูตราซึ่งเป็นผ้าโพกศีรษะแบบดั้งเดิมที่ชายชาวอาหรับสวมใส่

โพสต์บนบล็อกนี้ได้รับการวิจารณ์อย่างมากจากทัศนคติแบบเหมารวมและอคติทางวัฒนธรรม ที่ โรงเรียนสหวิทยาการลอนดอน (LIS) เรียกสิ่งนี้ว่า ความเสียหายที่เป็นตัวแทน ที่ต้องได้รับการตรวจสอบโดยการกำหนดมาตรฐานคุณภาพและจัดตั้งหน่วยงานกำกับดูแล AI

ข้อจำกัดของโมเดล AI

AI มีศักยภาพในการ ปฏิวัติอุตสาหกรรมมากมาย. แต่หากสถานการณ์ดังที่กล่าวข้างต้นแพร่ขยายออกไป ก็อาจทำให้การนำ AI ทั่วไปมาใช้ลดลง ส่งผลให้เกิดการพลาดโอกาส กรณีดังกล่าวมักเกิดขึ้นเนื่องจากข้อจำกัดที่สำคัญในระบบ AI เช่น:

• ขาดความคิดสร้างสรรค์: เนื่องจาก AI สามารถตัดสินใจได้โดยอาศัยข้อมูลการฝึกอบรมที่ได้รับเท่านั้น จึงขาดความคิดสร้างสรรค์ในการคิดนอกกรอบ ซึ่งเป็นอุปสรรคต่อการแก้ปัญหาอย่างสร้างสรรค์

• ขาดความเข้าใจในบริบท: ระบบ AI เผชิญกับความยากลำบากในการทำความเข้าใจความแตกต่างตามบริบทหรือการแสดงออกทางภาษาของภูมิภาค ซึ่งมักจะนำไปสู่ข้อผิดพลาดในผลลัพธ์

• อคติในการฝึกอบรม: AI อาศัยข้อมูลในอดีตที่สามารถเก็บตัวอย่างที่เลือกปฏิบัติได้ทุกประเภท ในระหว่างการฝึกอบรม โมเดลสามารถเรียนรู้รูปแบบการเลือกปฏิบัติเพื่อสร้างผลลัพธ์ที่ไม่ยุติธรรมและลำเอียงได้อย่างง่ายดาย

วิธีลดอคติในโมเดล AI

ผู้เชี่ยวชาญ ประมาณการ ว่าภายในปี 2026 90% ของเนื้อหาออนไลน์สามารถสร้างขึ้นแบบสังเคราะห์ได้ ดังนั้นจึงจำเป็นอย่างยิ่งที่จะต้องลดปัญหาที่มีอยู่ในเทคโนโลยี Generative AI อย่างรวดเร็ว

สามารถใช้กลยุทธ์สำคัญหลายประการเพื่อลดอคติในโมเดล AI บางส่วนได้แก่:

• รับรองคุณภาพของข้อมูล: การนำเข้าข้อมูลที่สมบูรณ์ แม่นยำ และสะอาดลงในโมเดล AI สามารถช่วยลดอคติและให้ผลลัพธ์ที่แม่นยำยิ่งขึ้น
• ชุดข้อมูลที่หลากหลาย: การแนะนำชุดข้อมูลที่หลากหลายเข้าสู่ระบบ AI สามารถช่วยลดอคติได้ เนื่องจากระบบ AI มีความครอบคลุมมากขึ้นเมื่อเวลาผ่านไป

• ข้อเสนอแนะลูป: ด้วยความสม่ำเสมอ ข้อเสนอแนะและห่วงการเรียนรู้โมเดล AI สามารถค่อยๆ ปรับปรุงผลลัพธ์ได้

• กฎระเบียบที่เพิ่มขึ้น: กฎระเบียบด้าน AI ทั่วโลกมีความสำคัญอย่างยิ่งต่อการรักษาคุณภาพของระบบ AI ข้ามพรมแดน ดังนั้นองค์กรระหว่างประเทศจึงต้องทำงานร่วมกันเพื่อรับรองมาตรฐาน AI

• เพิ่มการยอมรับ AI ที่มีความรับผิดชอบ: กลยุทธ์ AI ที่มีความรับผิดชอบมีส่วนช่วยเชิงบวกในการบรรเทาอคติของ AI ปลูกฝังความเป็นธรรมและความแม่นยำในระบบ AI และสร้างความมั่นใจว่ากลยุทธ์เหล่านี้จะให้บริการฐานผู้ใช้ที่หลากหลาย ในขณะเดียวกันก็มุ่งมั่นที่จะปรับปรุงอย่างต่อเนื่อง

ด้วยการรวมชุดข้อมูลที่หลากหลาย ความรับผิดชอบด้านจริยธรรม และสื่อการสื่อสารแบบเปิด เราจึงมั่นใจได้ว่า AI จะเป็นแหล่งที่มาของการเปลี่ยนแปลงเชิงบวกทั่วโลก

หากคุณต้องการเรียนรู้เพิ่มเติมเกี่ยวกับอคติและบทบาทของปัญญาประดิษฐ์ในสังคมของเรา โปรดอ่านบล็อกต่อไปนี้

• เมืองต่าง ๆ กำลังปรับใช้เทคโนโลยีชั้นนำโดยใช้ประโยชน์จากอัลกอริทึม AI ที่เป็นกลางอย่างไร
• AI สามารถต่อสู้กับข้อมูลที่ผิดและความลำเอียงในข่าวได้
• อคติและความเป็นธรรมของระบบที่ใช้ AI ภายในอาชญากรรมทางการเงิน
• ตัวตรวจสอบอคติที่ขับเคลื่อนด้วย AI สำหรับบทความข่าว มีให้ใน Python