นักวิจัยท้าทายสมมติฐานที่ยอมรับกันมานานเกี่ยวกับการเรียนรู้ของเครื่องจักร

นักวิจัยจากมหาวิทยาลัยคาร์เนกีเมลลอนกำลังท้าทายสมมติฐานที่ยอมรับกันมานานเกี่ยวกับการเรียนรู้ของเครื่องจักรที่ว่า มีการแลกเปลี่ยนระหว่างความแม่นยำและความเป็นธรรมในอัลกอริทึมที่ใช้ในการตัดสินใจนโยบายสาธารณะ

การใช้งานการเรียนรู้ของเครื่องจักรเพิ่มขึ้นในหลายๆ ด้าน เช่น การยุติธรรมทางอาญา การจ้างงาน การให้บริการสุขภาพ และการแทรกแซงทางสังคม ซึ่งทำให้เกิดความกังวลเกี่ยวกับว่าแอปพลิเคชันใหม่ๆ เหล่านี้จะทำให้ความไม่เท่าเทียมที่ที่มีอยู่แล้วรุนแรงขึ้น หรือไม่

การปรับระบบ

มีการปรับเปลี่ยนข้อมูล ลาเบล การฝึกอบรมแบบจำลอง ระบบการให้คะแนน และด้านอื่นๆ ของระบบอย่างต่อเนื่อง เพื่อป้องกันการเอนเอียง แต่สมมติฐานทางทฤษฎีได้ถูกตั้งขึ้นว่า ระบบจะ变得ไม่แม่นยำเมื่อมีการปรับเปลี่ยนเหล่านี้

ทีมนักวิจัยจาก CMU ได้ตั้งใจที่จะท้าทายทฤษฎีนี้ในงานวิจัยใหม่ที่ตีพิมพ์ใน Nature Machine Intelligence.

Rayid Ghani เป็นศาสตราจารย์ในภาควิชาวิทยาการคอมพิวเตอร์ของ School of Computer Science และ Heinz College of Information Systems and Public Policy (PPHC ) เขาได้ร่วมงานกับ Kit Rodolfa นักวิจัยจาก MLD และ Hemank Lamba นักวิจัยหลังปริญญาเอกจาก SCS

การทดสอบการประยุกต์ใช้ในโลกแห่งความเป็นจริง

นักวิจัยได้ทดสอบสมมติฐานนี้ในสถานการณ์จริง และสิ่งที่พวกเขาพบคือ การแลกเปลี่ยนระหว่างความแม่นยำและความเป็นธรรมนั้นแทบจะไม่มีผลกระทบในหลายๆ ด้านของนโยบาย

“คุณสามารถได้ทั้งสองอย่าง คุณไม่ต้องเสียสละความแม่นยำเพื่อสร้างระบบที่เป็นธรรมและเท่าเทียม” Ghani กล่าว “แต่มันจำเป็นต้องออกแบบระบบให้เป็นธรรมและเท่าเทียมอย่างตั้งใจ ระบบที่มีอยู่แล้วไม่ทำงาน”

ทีมนักวิจัยได้เน้นไปที่สถานการณ์ที่ทรัพยากรที่ต้องการมีจำนวนจำกัด การจัดสรรทรัพยากรเหล่านี้ได้รับการช่วยเหลือจากเครื่องจักรเรียนรู้

พวกเขามุ่งเน้นไปที่ระบบใน 4 ด้าน ได้แก่

• การจัดลำดับความสำคัญของการเข้าถึงการดูแลสุขภาพจิตที่มีการจำกัดตามความเสี่ยงของการกลับเข้าไปในเรือนจำเพื่อลดการกลับเข้าไปในเรือนจำ;
• การคาดการณ์การละเมิดความปลอดภัยที่รุนแรงเพื่อจัดสรรผู้ตรวจสอบบ้านที่มีการจำกัดของเมือง;
• การสร้างแบบจำลองความเสี่ยงของนักเรียนที่ไม่จบการศึกษาที่จะระบุผู้ที่ต้องการการสนับสนุนเพิ่มเติม;
• และช่วยให้ครูบรรลุเป้าหมายการระดมทุนสำหรับความต้องการในห้องเรียน

นักวิจัยพบว่าแบบจำลองที่ได้รับการปรับให้เหมาะสมสำหรับความแม่นยำสามารถคาดการณ์ผลลัพธ์ที่ต้องการได้อย่างมีประสิทธิภาพ แต่พวกเขาก็แสดงให้เห็นถึงความแตกต่างที่มีนัยสำคัญในคำแนะนำสำหรับการแทรกแซง

ผลลัพธ์ที่สำคัญเกิดขึ้นเมื่อนักวิจัยใช้การปรับเปลี่ยนกับผลลัพธ์ของแบบจำลองที่มุ่งเน้นไปที่การปรับปรุงความเป็นธรรม พวกเขาพบว่าไม่มีการสูญเสียความแม่นยำเมื่อความแตกต่างที่อิงตามเชื้อชาติ อายุ หรือรายได้ถูกเอาออก

“เราต้องการให้ชุมชนปัญญาประดิษฐ์ วิทยาการคอมพิวเตอร์ และการเรียนรู้ของเครื่องจักรหยุดยอมรับสมมติฐานที่ว่ามีการแลกเปลี่ยนระหว่างความแม่นยำและความเป็นธรรม และเริ่มออกแบบระบบที่เพิ่มทั้งสองอย่าง” Rodolfa กล่าว “เราหวังว่านักกำหนดนโยบายจะยอมรับการเรียนรู้ของเครื่องจักรเป็นเครื่องมือในการตัดสินใจเพื่อช่วยให้พวกเขาบรรลุผลลัพธ์ที่เท่าเทียม”