AI ไม่ได้ขจัดอคติของมนุษย์ แต่ขยายอคตินั้นให้ใหญ่ขึ้น

มักมีการนำเสนอว่า AI ช่วยให้การตัดสินใจเป็นกลางมากขึ้น โดยมีแนวคิดว่า หากขจัดวิจารณญาณของมนุษย์ออกไป ก็จะขจัดอคติของมนุษย์ได้ด้วย แต่งานวิจัยที่เพิ่มขึ้นเรื่อย ๆ กลับโต้แย้งแนวคิดนี้

ระบบ AI เรียนรู้จากประวัติศาสตร์ของมนุษย์ โดยฝึกจากการตัดสินใจ ภาษา สถาบัน และจุดบอดของเราอย่างหลีกเลี่ยงไม่ได้ เมื่อระบบเหล่านี้คัดกรองผู้สมัคร จัดสรรบริการสุขภาพ หรือประเมินพนักงาน ก็อาจทำให้อคติเหล่านั้นเกิดซ้ำในระดับและด้วยความเร็วที่มนุษย์คนใดคนหนึ่งไม่อาจเทียบได้

ปัญหาที่ใหญ่กว่านั้นคือ การตัดสินใจเหล่านี้ดูเป็นกลาง มีคะแนนปรากฏขึ้น มีการจัดอันดับ และมีคำแนะนำถูกสร้างขึ้น โดยไม่มีร่องรอยให้เห็นว่าเบื้องหลังมีสมมติฐานใดอยู่ และคนในห้องประชุมก็ไม่จำเป็นต้องรู้สึกว่าตนต้องรับผิดชอบต่อผลลัพธ์นั้น

นั่นจึงเป็นเหตุผลที่อคติใน AI ไม่ใช่ปัญหาของตัวโมเดลเป็นหลัก แต่เป็นปัญหาด้านการกำกับดูแล เราฝึกโมเดลใหม่ได้ แต่คำถามที่ยากกว่านั้นเป็นเรื่องขององค์กร ได้แก่ ใครเป็นเจ้าของการตัดสินใจแต่ละเรื่อง ระบบกำลังปรับให้เหมาะกับสิ่งใด และใครมีอำนาจทักท้วงระบบได้

อคติของมนุษย์ถูกป้อนเข้า AI แล้วกลับมาในความเร็วระดับเครื่องจักร

กลไกเบื้องหลังไม่ได้ลึกลับแต่อย่างใด โมเดลจะจับรูปแบบทางสถิติในข้อมูลที่ใช้ฝึก และเมื่อผลลัพธ์ในอดีต (ใครได้รับการจ้างงาน ใครได้รับการดูแล) สะท้อนการเลือกปฏิบัติอยู่แล้ว เป้าหมายที่โมเดลเรียนรู้เพื่อทำนายก็ย่อมเอนเอียงมาตั้งแต่ต้น งานวิจัยล่าสุดแสดงให้เห็นว่าเรื่องนี้เกิดขึ้นได้ง่ายเพียงใดกับผู้ให้บริการและงานที่หลากหลาย:

• การจ้างงานในวงกว้าง ผลการวิเคราะห์ใบสมัครงานจริง 4 ล้านใบของ Stanford พบว่า ผู้สมัครผิวดำ 26% และผู้สมัครชาวเอเชีย 15% สมัครงานในตำแหน่งที่ระบบ AI เลือกปฏิบัติต่อกลุ่มเชื้อชาติของตน โมเดลเหล่านี้เรียนรู้จากการตัดสินใจจ้างงานของมนุษย์ที่สั่งสมมานานหลายทศวรรษ
• การจัดอันดับประวัติย่อ นักวิจัยจาก University of Washington ประเมินประวัติย่อจริงมากกว่า 550 ฉบับ ด้วยโมเดลภาษาที่ใช้อยู่ในปัจจุบัน และพบว่าโมเดลให้ความสำคัญกับชื่อที่เชื่อมโยงกับคนผิวขาวถึง 85% ของกรณี ขณะที่แทบไม่เลือกชื่อผู้ชายผิวดำ
• การสื่อสารในที่ทำงาน งานวิจัยจาก Johns Hopkins ที่เผยแพร่เมื่อต้นปีนี้ พบว่า GPT-4, Llama, Gemma และ Mistral สร้างอีเมลเกี่ยวกับงานที่ซับซ้อนน้อยกว่าและเป็นทางการน้อยกว่า เมื่อพรอมป์ต์มีรูปแบบภาษาที่มักเชื่อมโยงกับผู้หญิง

เมื่อมีการนำระบบเช่นนี้ไปใช้งาน รูปแบบเหล่านั้นก็จะไม่ใช่แค่คุณสมบัติของข้อมูลที่ใช้ฝึกอีกต่อไป แต่กลายเป็นส่วนหนึ่งของการตัดสินใจในชีวิตประจำวัน

อันตรายที่แท้จริงคือการขยายผลในวงกว้างและการไม่ส่งเสียงทักท้วง

นายหน้าจัดหางานที่มีอคติอาจคัดกรองประวัติย่อหลายร้อยฉบับในหนึ่งปี ส่วนระบบคัดกรองที่มีอคติสามารถประมวลผลใบสมัครนับล้านฉบับข้ามคืน โดยใช้ตรรกะที่บกพร่องแบบเดียวกันกับทุกใบ การตัดสินใจที่มีอคติของมนุษย์มักเป็นเหตุการณ์เฉพาะครั้ง แต่การตัดสินใจที่มีอคติของโมเดลอาจกลายเป็นนโยบายได้อย่างรวดเร็ว

บริการสุขภาพเป็นหนึ่งในตัวอย่างที่เห็นได้ชัดที่สุด อัลกอริทึมที่ใช้กันอย่างแพร่หลายและส่งผลต่อผู้ป่วยนับล้านคน ถูกออกแบบมาเพื่อระบุผู้ที่น่าจะได้รับประโยชน์จากการดูแลเพิ่มเติม อัลกอริทึมให้คะแนนผู้ป่วยผิวดำว่ามีสุขภาพดีกว่าผู้ป่วยผิวขาวที่ป่วยหนักพอกัน ไม่มีใครเขียนกฎเหยียดเชื้อชาติไว้ในระบบ อัลกอริทึมใช้ค่าใช้จ่ายด้านสุขภาพเป็นตัวแทนของความจำเป็นทางการแพทย์ และเนื่องจากในอดีตผู้ป่วยผิวดำได้รับการดูแลน้อยกว่า จึงมีค่าใช้จ่ายต่ำกว่า ระบบจึงตีความว่าค่าใช้จ่ายที่ต่ำกว่าหมายถึงสุขภาพที่ดีกว่า ตามผลการวิเคราะห์ของนักวิจัยในวารสาร Science หากแก้ไขการออกแบบเพียงจุดเดียวดังกล่าว สัดส่วนผู้ป่วยผิวดำที่ระบบระบุว่าควรได้รับความช่วยเหลือเพิ่มเติมจะเพิ่มจาก 17.7% เป็น 46.5%

ระบบ AI ไม่ได้เพียงสะท้อนตัวชี้วัดที่เรากำหนดให้ แต่ยังสะท้อนสมมติฐานที่อยู่เบื้องหลังตัวชี้วัดเหล่านั้นด้วย อคติของมนุษย์ก็มีอยู่จริงไม่ต่างกัน เพียงแต่สังเกตเห็นและทดสอบได้ยากกว่า ด้วยเหตุนี้ ทางออกจึงอยู่ที่การกำกับดูแลที่ดีขึ้น ไม่ใช่การเลิกใช้ระบบอัตโนมัติ

กำหนดความรับผิดชอบให้เป็นส่วนหนึ่งของการตัดสินใจ

แนวทางมาตรฐานในการนำ AI มาใช้คือเลือกโมเดล ผสานโมเดลเข้ากับกระบวนการทำงาน ติดตามประสิทธิภาพ และปรับปรุงเมื่อเวลาผ่านไป แต่เมื่อผลลัพธ์จากระบบส่งผลต่อผู้คน แนวทางนี้ยังไม่เพียงพอ

ผมเรียกแนวทางทางเลือกนี้ว่า “การผสานเข้ากับกระบวนการแทนการมุ่งนำไปใช้งาน” โดยให้มนุษย์ผู้รับผิดชอบมีส่วนอยู่ในกระบวนการตัดสินใจและมีอำนาจจริงในการเปลี่ยนแปลงผลลัพธ์ แทนที่จะคอยตรวจดูแดชบอร์ดทุกไตรมาสหลังจากเกิดเรื่องไปแล้ว แนวทางนี้เริ่มจากสามขั้นตอน:

1. ทำแผนผังการตัดสินใจทุกเรื่อง ที่ AI ใช้คัดกรอง ให้คะแนน หรืออนุมัติอยู่ในขณะนี้ แล้วกำหนดชื่อผู้รับผิดชอบที่เป็นมนุษย์ให้แต่ละเรื่อง
2. ตรวจสอบประวัติการตัดสินใจ ที่ป้อนเข้าสู่โมเดล ก่อนที่ประวัติเหล่านั้นจะกลายเป็นนโยบาย
3. ทำให้การทักท้วงโมเดลเป็นเรื่องที่ทำได้อย่างปลอดภัย และติดตามอัตราการทักท้วง

ขั้นตอนที่สามสำคัญที่สุด หากพนักงานเรียนรู้ว่าการไม่เห็นด้วยกับเครื่องจักรจะถูกมองว่าเป็นความผิด พวกเขาก็จะเลิกทักท้วง และ AI จะกลายเป็นผู้ตัดสินใจโดยพฤตินัย แม้ในทางเทคนิคจะยังมีมนุษย์ “อยู่ในวงจรการทำงาน” ก็ตาม คำถามไม่ใช่ว่ามนุษย์มีอำนาจตัดสินใจขั้นสุดท้ายหรือไม่ แต่อยู่ที่ว่าบุคคลนั้นมีอำนาจ มีข้อมูล และรู้สึกปลอดภัยพอที่จะพูดว่า “เครื่องจักรตัดสินผิด” หรือไม่

การฝึกโมเดลใหม่ช่วยได้ แต่อคติแทรกเข้ามาผ่านการตัดสินใจต่าง ๆ ได้แก่ โมเดลปรับให้เหมาะกับสิ่งใด ข้อมูลชุดใดถูกนำมาใช้ และใครเป็นผู้ตรวจสอบผลลัพธ์ จุดเหล่านี้คือสิ่งที่ควรตรวจสอบ นอกจากนี้ เรายังต้องมีผู้นำด้าน AI ที่ตั้งคำถามได้ว่าเหตุใดระบบจึงจัดอันดับสิ่งต่าง ๆ เช่นนั้น และมีอำนาจพอที่จะลงมือดำเนินการตามคำตอบ

อัตราการไม่ทำตามคำแนะนำของระบบเป็นข้อมูลที่มีประโยชน์ เพราะตีความได้หลายแบบ หากผู้คนแทบไม่เคยไม่ทำตามระบบเลย ก็อาจเป็นเพราะระบบแม่นยำจริง หรือพวกเขาอาจเรียนรู้มาว่าการเห็นต่างไม่ปลอดภัย หากมีเพียงผู้มีอาวุโสที่ไม่ทำตามระบบ พนักงานระดับต้นก็อาจเรียนรู้ที่จะเงียบไว้ ทั้งที่บ่อยครั้งพวกเขาใกล้ชิดกับผลลัพธ์และผู้ที่ได้รับผลกระทบมากที่สุด เป้าหมายไม่ใช่การทำให้ไม่มีใครไม่ทำตามระบบเลย แต่คือการสร้างวัฒนธรรมที่มองว่าการไม่ทำตามระบบโดยมีเหตุผลรองรับอย่างหนักแน่นเป็นสัญญาณว่าระบบกำลังทำงาน เมื่อมีใครไม่ทำตามโมเดลแล้วปรากฏว่าตัดสินใจถูกต้อง ก็ควรบอกเล่าเรื่องนั้นให้แพร่หลาย นี่อาจเป็นสื่อฝึกอบรม AI ที่ดีที่สุดเท่าที่บริษัทของคุณเคยสร้างขึ้น

ทดสอบผลลัพธ์ ไม่ใช่เจตนา

องค์กรไม่จำเป็นต้องรอให้เกิดความล้มเหลวครั้งใหญ่ก่อนจึงจะเริ่มตรวจจับอคติได้ ตอนนี้สามารถทำการทดสอบได้สามแบบ:

1. การเปรียบเทียบแบบควบคุม ทำงานเดียวกันโดยเปลี่ยนเพียงสัญญาณบ่งชี้ด้านประชากรศาสตร์ เช่น ชื่อในประวัติย่อหรือสำเนียงของข้อความสั่งงาน ควบคุมปัจจัยอื่นทั้งหมดให้เหมือนเดิม รวมถึงแม่แบบข้อความสั่งงานและลำดับของข้อมูลนำเข้า เนื่องจากผลลัพธ์ของโมเดลแตกต่างกันได้ในแต่ละครั้งที่เรียกใช้ จึงควรทดสอบแต่ละคู่ซ้ำหลายครั้ง และใช้คู่เปรียบเทียบให้มากพอที่จะไม่สามารถมองข้ามช่องว่างที่พบว่าเป็นเพียงความผันผวนแบบสุ่มได้ วิธีนี้โดยพื้นฐานแล้วเป็นวิธีที่นักวิจัยใช้ระบุความเหลื่อมล้ำในการจัดอันดับประวัติย่อและการสร้างข้อความสื่อสารในที่ทำงาน และทีมภายในองค์กรก็สามารถทำการทดสอบฉบับแรกให้เสร็จได้ภายในช่วงบ่ายวันหนึ่ง
2. การตรวจสอบตัวชี้วัดตัวแทน สำหรับตัวชี้วัดทุกตัวที่ระบบใช้ปรับผลลัพธ์ให้เหมาะสม ให้ถามสองข้อว่า ตัวเลขนี้วัดอะไรกันแน่ และอาจนับใครต่ำกว่าความเป็นจริงบ้าง อัลกอริทึมด้านสุขภาพไม่ได้ทำนายตัวชี้วัดที่เลือกไว้ได้ไม่ดี ตรงกันข้าม มันทำนายค่าใช้จ่ายได้ดี ปัญหาคือค่าใช้จ่ายถูกใช้แทนความจำเป็นทางการแพทย์ ระบบหนึ่งอาจแม่นยำตามตัวชี้วัดของตัวเอง แต่ก็ยังผิดพลาดอย่างร้ายแรงต่อผู้คนที่ได้รับผลกระทบจากระบบนั้น
3. การเปรียบเทียบผลลัพธ์ เปรียบเทียบอัตราการได้รับเลือกหรือการอนุมัติระหว่างกลุ่มต่าง ๆ ในการใช้งานจริง หลักเกณฑ์สี่ในห้าที่ใช้กันโดยทั่วไปในแนวปฏิบัติด้านการจ้างงานของสหรัฐฯ ซึ่งเตือนเมื่ออัตราของกลุ่มหนึ่งต่ำกว่า 80% ของอัตราของกลุ่มที่มีค่าสูงสุด เป็นเกณฑ์คัดกรองเบื้องต้นที่ใช้กันทั่วไป ควรใช้ควบคู่กับการติดตามการไม่ทำตามระบบตามที่อธิบายไว้ข้างต้น

การทดสอบเหล่านี้มีข้อจำกัด การสลับชื่อช่วยตรวจจับสัญญาณด้านประชากรศาสตร์ที่ระบุโดยตรงได้ แต่ตรวจจับตัวแปรแฝงที่ใช้แทน เช่น รหัสไปรษณีย์ โรงเรียน หรือช่วงว่างระหว่างการทำงานไม่ได้ นี่จึงเป็นเหตุผลที่การเปรียบเทียบผลลัพธ์มีความสำคัญ มาตรการบรรเทาปัญหาทางเทคนิค (การถ่วงน้ำหนักข้อมูลฝึกใหม่ การเพิ่มข้อกำหนดด้านความเป็นธรรม และการปรับเกณฑ์การตัดสินใจ) ช่วยลดความเหลื่อมล้ำได้ แต่ก็ทำให้ต้องเลือกอย่างใดอย่างหนึ่ง งานวิจัยของ Kleinberg, Mullainathan และ Raghavan รวมถึงงานวิจัยอีกชิ้นของ Chouldechova แสดงให้เห็นว่า เมื่อกลุ่มต่าง ๆ มีอัตราพื้นฐานแตกต่างกัน โดยทั่วไปโมเดลจะไม่สามารถทำให้การปรับเทียบและอัตราความผิดพลาดเท่ากันเป็นจริงได้พร้อมกัน โมเดลไม่สามารถตอบได้ว่าควรให้ความสำคัญกับนิยามความเป็นธรรมแบบใด นี่เป็นการตัดสินใจที่ใครสักคนต้องรับผิดชอบและบันทึกไว้ ซึ่งทำให้เรากลับมาสู่ประเด็นเรื่องการกำกับดูแล

ทบทวนความเป็นธรรมควบคู่กับความแม่นยำ

บ่อยครั้งเกินไปที่ความเป็นธรรมถูกมองเป็นโครงการแยกต่างหาก เป็นเรื่องที่ฝ่ายทรัพยากรบุคคลหรือฝ่ายกฎหมายเข้ามาทบทวนหลังจากทีมเทคนิคประเมินความแม่นยำ ประสิทธิภาพ และต้นทุนแล้ว การแยกส่วนเช่นนี้เองก็เป็นส่วนหนึ่งของปัญหา ควรทบทวนความเป็นธรรมในการประชุมเดียวกับที่พิจารณาความแม่นยำและต้นทุน โดยกำหนดความรับผิดชอบในระดับเดียวกันและระบุผู้รับผิดชอบให้ชัดเจน

การพูดคุยดังกล่าวควรมีฝ่ายทรัพยากรบุคคลและฝ่ายกฎหมายเข้าร่วม และควรมีผู้ที่เคยถูกระบบลักษณะนี้ตัดสินผิดพลาดด้วย ผู้ที่ถูกประเมินต่ำกว่าความเป็นจริงมักมองเห็นสิ่งที่ระบบมองข้ามได้ก่อนใคร นี่คือแนวคิดสำคัญในหนังสือของฉัน The Bias Advantage นั่นคือ เมื่อมุมมองที่องค์กรเคยมองข้ามมาโดยตลอดเข้ามาเป็นส่วนหนึ่งของกระบวนการตัดสินใจ มุมมองเหล่านั้นจะกลายเป็นแหล่งข้อมูลเชิงลึกที่ทรงพลัง

เป้าหมายไม่ใช่การสร้างระบบ AI ที่ไม่เคยทำผิดพลาด เพราะนั่นเป็นสิ่งที่ไม่สมจริง แต่คือการสร้างองค์กรที่รู้เท่าทันเมื่อ AI ทำงานผิดพลาด เข้าใจสาเหตุ และเข้าแทรกแซงก่อนที่ข้อผิดพลาดนั้นจะกลายเป็นความจริงที่ผู้อื่นต้องเผชิญ