ทุนสนับสนุนการวิจัยจาก NSF และ Amazon ช่วยให้ NYU ลดความลำเอียงในการตัดสินใจโดยใช้ AI

ทีมนักวิจัยจากมหาวิทยาลัยนิวยอร์กจะพัฒนาวิธีการและเครื่องมือใหม่เพื่อลดความลำเอียงระบบและผลกระทบของนโยบายสาธารณะที่เท่าเทียมกันในพื้นที่ต่างๆ เช่น การตรวจสอบที่อยู่อาศัย การบังคับใช้กฎหมาย และศาล

ภายใต้ทุนสนับสนุน 1 ล้านดอลลาร์จาก National Science Foundation (NSF) และ Amazon (AMZN ) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ Daniel B. Neill จะเป็นผู้นำโครงการวิจัย三年ซึ่งมุ่งเน้นไปที่การใช้ Artificial Intelligence (AI) ที่เพิ่มขึ้นขององค์กรภาคสาธารณะในเมืองๆ และจะรวมถึงการสร้างเครื่องมือโอเพ่นซอร์สสำหรับการประเมินและแก้ไขความลำเอียง

“การตัดสินใจของมนุษย์และการตัดสินใจโดยอัลกอริทึมมีศักยภาพในการมีความลำเอียงระบบซึ่งอาจนำไปสู่ผลลัพธ์ที่ไม่ดี เช่น ความไม่เท่าเทียมกันในเชิงรัศมี เพศ และเศรษฐกิจ” Neill กล่าว ซึ่งเป็นสมาชิกของคณะกรรมการของ Center for Urban Science and Progress (CUSP) ที่ NYU Tandon School of Engineering และเป็นศาสตราจารย์ที่ NYU’s Wagner Graduate School of Public Service

“สิ่งที่เราต้องการคือการทำความเข้าใจว่าอัลกอริทึมสามารถเพิ่มการตัดสินใจของมนุษย์ได้อย่างไรโดยการกำจัดความลำเอียงที่ไม่ชัดเจน และพัฒนาวิธีการและเครื่องมือเพื่อช่วยเหลือผู้ออกแบบและนำนโยบายสาธารณะไปใช้ในเมืองๆ”

ในการตรวจสอบความเสี่ยงและผลประโยชน์ของการตัดสินใจโดยอัลกอริทึม ทีมงานจะพัฒนาความเข้าใจใหม่เกี่ยวกับความเป็นธรรมที่ประกอบด้วย 7 ระยะ: ข้อมูล โมเดล การคาดการณ์ การแนะนำ การตัดสินใจ ผลกระทบ และผลลัพธ์ “การขนส่งความเป็นธรรม” นี้จะคำนึงถึงแหล่งที่มาของความลำเอียงหลายแหล่ง และประเมินความไวต่อความลำเอียงที่ไม่ได้วัด

ทีมงานจะสร้างกรอบวิธีการทั่วไปสำหรับการระบุและแก้ไขความลำเอียงในแต่ละระยะของการขนส่ง และพัฒนาเครื่องมือสนับสนุนการตัดสินใจโดยอัลกอริทึมที่ให้คำแนะนำแก่ผู้ตัดสินใจ (เช่น การ “บิด” อัลกอริทึมเพื่อชี้นำการตัดสินใจของมนุษย์สู่ความเป็นธรรม)

ในที่สุด ทีมงานจะสร้างมาตรการใหม่สำหรับการวัดความมีอยู่และขอบเขตของความลำเอียงในด้านกระบวนการยุติธรรมและที่อยู่อาศัย และเครื่องมือที่สามารถใช้เพื่อ: (a) ลดการจำคุกโดยการให้การแทรกแซงที่เท่าเทียมกันแก่ผู้ที่เกี่ยวข้องกับกระบวนการยุติธรรม; (b) จัดลำดับความสำคัญของการตรวจสอบและซ่อมแซมที่อยู่อาศัย; (c) ประเมินและปรับปรุงความเป็นธรรมของกระบวนการยุติธรรมแพ่งและอาญา; และ (d) วิเคราะห์ผลกระทบต่อสุขภาพที่แตกต่างกันของการได้รับสิ่งแวดล้อมที่ไม่ดี รวมถึงที่อยู่อาศัยที่ไม่ดีและการบังคับใช้กฎหมายที่ไม่ยุติธรรม

“ผลกระทบสุดท้ายของงานนี้คือการเพิ่มความยุติธรรมทางสังคมสำหรับผู้ที่อาศัยอยู่ในเมืองและพึ่งพาบริการของเมืองหรือเกี่ยวข้องกับกระบวนการยุติธรรม โดยการประเมินและบรรเทาผลกระทบของความลำเอียงในการตัดสินใจและลดความไม่เท่าเทียมกัน” Neill กล่าว ซึ่งเป็นกรรมการบริหารของ NYU’s Learning for Good Laboratory และเป็นสมาชิกของ NYU’s Courant Institute of Mathematical Sciences

除了 Neill ทีมงานวิจัยยังรวมถึง Ravi Shroff ผู้ช่วยศาสตราจารย์ที่ CUSP และ NYU’s Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta ผู้ช่วยศาสตราจารย์ที่ NYU’s Marron Institute of Urban Management และ NYU Tandon; และ Edward McFowland III ผู้ช่วยศาสตราจารย์ที่ University of Minnesota’s Carlson School of Management

ทุนสนับสนุนนี้ได้รับการสนับสนุนจาก NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898)