NSF และ Amazon Grant สนับสนุนการวิจัยที่ NYU เพื่อช่วยเมืองต่างๆ ลดอคติใน AI สนับสนุนการตัดสินใจ

ทีมนักวิจัยของมหาวิทยาลัยนิวยอร์กจะพัฒนาวิธีการและเครื่องมือใหม่ที่มุ่งลดอคติเชิงระบบและสร้างผลกระทบต่อนโยบายสาธารณะที่เท่าเทียมกันมากขึ้นในด้านต่างๆ เช่น การตรวจสอบที่อยู่อาศัยในเมือง การรักษา และศาล

ภายใต้ทุนสนับสนุน 1 ล้านดอลลาร์จากมูลนิธิวิทยาศาสตร์แห่งชาติ (NSF) และ Amazon ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ Daniel B. Neill จะนำโครงการวิจัยระยะเวลา XNUMX ปีที่มีศูนย์กลางอยู่ที่การใช้ปัญญาประดิษฐ์ (AI) ที่เพิ่มมากขึ้นโดยองค์กรภาครัฐและเอกชนในเมือง ซึ่งจะรวมถึงการสร้างเครื่องมือโอเพ่นซอร์สสำหรับการประเมินและแก้ไขอคติ

“การตัดสินใจของมนุษย์และการตัดสินใจด้วยอัลกอริทึมมีศักยภาพสำหรับอคติอย่างเป็นระบบ ซึ่งอาจนำไปสู่ผลลัพธ์ที่ย่ำแย่ตามมา เช่น ความไม่เสมอภาคและความไม่เท่าเทียมทางเชื้อชาติ เพศ และทางเศรษฐกิจและสังคม” นีล สมาชิกของคณะวิจัยกล่าว ศูนย์วิทยาศาสตร์เมืองและความก้าวหน้า (CUSP) ณ โรงเรียนวิศวกรรม NYU Tandonและอาจารย์ที่ NYU's Wagner บัณฑิตวิทยาลัยการบริการสาธารณะ.

“สิ่งที่เราต้องการทำความเข้าใจคือวิธีที่อัลกอริทึมสามารถปรับปรุงการตัดสินใจของมนุษย์โดยขจัดอคติโดยนัย และพัฒนาวิธีการและเครื่องมือเพื่อช่วยในการออกแบบและดำเนินการแทรกแซงนโยบายในเมืองต่างๆ”

ในการดูทั้งความเสี่ยงและประโยชน์ของการตัดสินใจด้วยอัลกอริทึม ทีมโครงการจะพัฒนาแนวคิดใหม่เกี่ยวกับความเป็นธรรมซึ่งประกอบด้วยขั้นตอนที่แตกต่างกัน XNUMX ขั้นตอน ได้แก่ ข้อมูล แบบจำลอง การคาดการณ์ คำแนะนำ การตัดสินใจ ผลกระทบ และผลลัพธ์ “ท่อส่งความเป็นธรรมแบบ end-to-end” นี้จะอธิบายแหล่งที่มาของอคติหลายแหล่ง จำลองวิธีที่อคติแพร่กระจายผ่านท่อเพื่อส่งผลให้เกิดผลลัพธ์ที่ไม่เท่าเทียมกัน และประเมินความอ่อนไหวต่ออคติที่ไม่ได้วัด

ประการที่สอง ทีมงานจะสร้างกรอบวิธีการทั่วไปสำหรับการระบุและแก้ไขอคติในแต่ละขั้นตอนของไปป์ไลน์ ซึ่งเป็นการสแกนอคติชนิดหนึ่ง พร้อมกับเครื่องมือสนับสนุนการตัดสินใจแบบอัลกอริทึมที่ให้คำแนะนำแก่ผู้มีอำนาจตัดสินใจที่เป็นมนุษย์ (เช่น "การเขยิบ" แบบอัลกอริทึม เพื่อชี้นำการตัดสินใจของมนุษย์ไปสู่ความเป็นธรรม)

สุดท้าย ทีมงานโครงการจะสร้างเมตริกใหม่สำหรับการวัดการมีอยู่และขอบเขตของอคติในกระบวนการยุติธรรมทางอาญาและขอบเขตที่อยู่อาศัย และเครื่องมือที่สามารถใช้เพื่อ: (ก) ลดการกักขังโดยจัดให้มีการแทรกแซงที่สนับสนุนอย่างเท่าเทียมกันแก่ประชากรที่เกี่ยวข้องกับกระบวนการยุติธรรม; (b) จัดลำดับความสำคัญในการตรวจสอบและซ่อมแซมที่อยู่อาศัย; (ค) ประเมินและปรับปรุงความเป็นธรรมของการพิจารณาคดีแพ่งและคดีอาญา; และ (d) วิเคราะห์ผลกระทบด้านสุขภาพที่แตกต่างกันของความเสี่ยงต่อสิ่งแวดล้อมที่ไม่พึงประสงค์ รวมถึงที่อยู่อาศัยที่มีคุณภาพต่ำและการปฏิบัติที่ก้าวร้าวและไม่เป็นธรรม

“ผลกระทบสูงสุดของงานนี้คือการพัฒนาความยุติธรรมทางสังคมสำหรับผู้ที่อาศัยอยู่ในเมืองและผู้ที่พึ่งพาบริการของเมืองหรือเกี่ยวข้องกับระบบยุติธรรม โดยการประเมินและลดอคติในกระบวนการตัดสินใจและลดความเหลื่อมล้ำ” นีลกล่าว ยังเป็นผู้อำนวยการของ Learning for Good Laboratory ของ NYU และคณาจารย์ของ Courant Institute of Mathematical Sciences ของ NYU

นอกจาก Neill แล้ว ทีมวิจัยยังรวมถึง Ravi Shroff ผู้ช่วยศาสตราจารย์ที่ CUSP และ Steinhardt School of Culture, Education และ Human Development ของ NYU; Constantine Kontokosta ศาสตราจารย์แห่ง Marron Institute of Urban Management ของ NYU และคณะที่เกี่ยวข้องที่ NYU Tandon; และ Edward McFowland III ศาสตราจารย์แห่ง Carlson School of Management แห่งมหาวิทยาลัยมินนิโซตา

ทุนดังกล่าวจัดทำขึ้นภายใต้โครงการ NSF เรื่องความยุติธรรมในปัญญาประดิษฐ์ในการทำงานร่วมกันกับ Amazon (2040898)