สหพันธ์จริยธรรม AI ประณามอัลกอริทึมการทำนายการกระทำผิดกฎหมาย

เมื่อวันอังคาร นักวิจัย AI นักจริยศาสตร์ นักวิทยาศาสตร์ข้อมูล และนักสังคมศาสตร์จำนวนหนึ่งได้เผยแพร่บทความในบล็อก โดยให้เหตุผลว่านักวิจัยทางวิชาการควรหยุดการวิจัยที่พยายามคาดการณ์ความน่าจะเป็นที่บุคคลจะกระทำการผิดกฎหมายตามตัวแปร เช่น สถิติอาชญากรรมและการสแกนใบหน้า

บทความในบล็อกถูกเขียนโดย Coalition for Critical Technology ซึ่งให้เหตุผลว่าการใช้อัลกอริทึมดังกล่าวทำให้เกิดวงจรของการแบ่งแยกทางเชื้อชาติ การศึกษาจำนวนมากเกี่ยวกับประสิทธิผลของอัลกอริทึมการรู้จำใบหน้าและการทำนายการกระทำผิดกฎหมายพบว่าอัลกอริทึมเหล่านี้มักจะพิพากษาลงโทษชนกลุ่มน้อยอย่างรุนแรง ซึ่งผู้เขียนบทความในบล็อกให้เหตุผลว่าเนื่องมาจากความไม่เท่าเทียมกันในระบบยุติธรรมทางอาญา ระบบยุติธรรมทางอาญาผลิตข้อมูลที่มีอคติ และดังนั้นอัลกอริทึมที่ฝึกอบรมจากข้อมูลนี้จึงส่งต่ออคติเหล่านั้นไป Coalition for Critical Technology ให้เหตุผลว่าแนวคิดเรื่อง “การกระทำผิดกฎหมาย” มักจะขึ้นอยู่กับเชื้อชาติ และดังนั้นการวิจัยเกี่ยวกับเทคโนโลยีเหล่านี้จึงสมมติว่าอัลกอริทึมมีความเป็นกลาง แต่ในความเป็นจริงแล้วไม่มีความเป็นกลางใดๆ

ตามรายงานของ The Verge ผู้จัดพิมพ์ผลงานวิชาการชื่อดัง Springer ได้วางแผนจะเผยแพร่การศึกษาที่มีชื่อเรื่อง “A Deep Neural Network Model to Predict Criminality using Image Processing” ผู้เขียนการศึกษานี้อ้างว่าได้สร้างอัลกอริทึมการรู้จำใบหน้าที่สามารถคาดการณ์ความน่าจะเป็นที่บุคคลจะกระทำการผิดกฎหมายโดยไม่มีอคติและความแม่นยำประมาณ 80% แต่ Coalition for Critical Technology ได้เขียนจดหมายเปิดผนึกถึง Springer โดยขอให้ผู้จัดพิมพ์หลีกเลี่ยงการเผยแพร่การศึกษานี้หรือการศึกษาที่คล้ายกันในอนาคต

“การเผยแพร่ผลงานนี้โดยผู้จัดพิมพ์รายใหญ่เช่น Springer จะเป็นก้าวสำคัญในการยอมรับและใช้การวิจัยที่ถูก驳斥ซ้ำแล้วซ้ำอีกซึ่งเป็นอันตรายต่อสังคมในโลกแห่งความเป็นจริง” Coalition ให้เหตุผล

Springer ระบุว่าจะไม่เผยแพร่บทความนี้ ตามรายงานของ MIT Technology Review Springer ระบุว่าบทความนี้ถูกส่งมาเพื่อการประชุมที่กำลังจะมาถึง แต่หลังจากกระบวนการตรวจสอบโดยผู้ทรงคุณวุฒิ บทความนี้ถูกปฏิเสธไม่ให้เผยแพร่

Coalition for Critical Technology ให้เหตุผลว่าบทความการทำนายการกระทำผิดกฎหมายเป็นเพียงตัวอย่างเดียวของแนวโน้มที่เป็นอันตรายที่ใหญ่ขึ้น โดยวิศวกรและนักวิจัย AI พยายามคาดการณ์พฤติกรรมตามข้อมูลที่ประกอบด้วยตัวแปรที่ละเอียดอ่อนและสร้างขึ้นโดยสังคม Coalition ให้เหตุผลว่าการวิจัยส่วนใหญ่ของการทำนายการกระทำผิดกฎหมายมีพื้นฐานมาจากแนวคิดและทฤษฎีที่ไม่มีหลักฐานทางวิทยาศาสตร์ เช่น การศึกษาที่นักวิจัยจาก Princeton และ Google เผยแพร่บทความ โดยเตือนว่าอัลกอริทึมที่อ้างว่าสามารถคาดการณ์การกระทำผิดกฎหมายตามคุณลักษณะของใบหน้าเป็นไปตามวิทยาศาสตร์เทียมที่ถูก驳斥และอันตราย เช่น physiognomy นักวิจัยเตือนไม่ให้ปล่อยให้การเรียนรู้ของเครื่องจักรถูกนำมาใช้ในการฟื้นฟูแนวคิดที่ถูก驳斥ซ้ำแล้วซ้ำอีกเพื่อสนับสนุนระบบที่มีอคติทางเชื้อชาติ

การเคลื่อนไหว Black Lives Matter ล่าสุดได้กระตุ้นให้บริษัทต่างๆ ที่ใช้อัลกอริทึมการรู้จำใบหน้าประเมินการใช้งานระบบเหล่านี้อีกครั้ง การวิจัยพบว่าอัลกอริทึมเหล่านี้มักจะมีอคติและขึ้นอยู่กับข้อมูลการฝึกอบรมที่มีอคติและไม่ครอบคลุม

ผู้ลงนามในจดหมายเปิดผนึกนี้ นอกจากการให้เหตุผลว่านักวิจัย AI ควรละทิ้งการวิจัยเกี่ยวกับการทำนายการกระทำผิดกฎหมายแล้ว ยังแนะนำให้นักวิจัยประเมินวิธีการวัดความสำเร็จของแบบจำลอง AI ใหม่ Coalition ให้เหตุผลว่าผลกระทบต่อสังคมของอัลกอริทึมควรเป็นหนึ่งในมาตรการวัดความสำเร็จ นอกเหนือจากมาตรการเช่น ความแม่นยำ ความถูกต้อง และความแม่นยำ ตามที่ผู้เขียนบทความเขียนว่า

“หากการเรียนรู้ของเครื่องจักรต้องการนำ ‘สิ่งที่ดี’ มาสู่สังคมตามที่กล่าวไว้ในข้อเสนอและข่าวประชาสัมพันธ์ นักวิจัยในพื้นที่นี้จะต้องสะท้อนถึงโครงสร้างอำนาจ (และการกดขี่ที่เกี่ยวข้อง) ที่ทำให้การทำงานของพวกเขาเป็นไปได้”