สหรัฐฯ พบกรณีแรกของการ逮ตัวผิดพลาดเนื่องจากอัลกอริทึมที่ไม่ดี

เมื่อสัปดาห์ที่แล้ว นิวยอร์กไทมส์รายงาน เกี่ยวกับกรณีแรกของการ逮ตัวผิดพลาดที่เกิดจากอัลกอริทึมที่ไม่ดีในประเทศสหรัฐอเมริกา เหตุการณ์นี้เกิดขึ้นที่เมืองดีทรอยต์ เมื่อ Robert Julian-Borchak Williams ชายผิวดำถูกจับกุมหลังจากถูกจับคู่ผิดพลาดกับภาพจากกล้องวงจรปิดที่แสดงบุคคลที่กระทำการขโมยร้านค้า

สหภาพเสรีภาพพลเรือนอเมริกัน (ACLU) ได้ดำเนินการอย่างรวดเร็วและยื่นคำร้องต่อตำรวจดีทรอยต์ หลังจากที่ ACLU ขอให้ยกฟ้องคดีของ Williams และลบข้อมูลของเขาจากฐานข้อมูลอาชญากรในดีทรอยต์ ผู้ฟ้องร้องได้ดำเนินการตามคำขอนั้น

การพัฒนานี้เป็นครั้งแรกของประเทศสหรัฐอเมริกา และเน้นย้ำถึงความกังวลที่ร้ายแรงที่เกิดขึ้นทั่วโลกเกี่ยวกับการใช้เทคโนโลยีการรู้จำใบหน้าโดยรัฐ

ปัญหาเกี่ยวกับระบบการรู้จำใบหน้า

ระบบการรู้จำใบหน้าได้กลายเป็นเรื่องที่ถูกถกเถียงกันมาเป็นเวลานาน และกลายเป็นจุดสนใจในการถกเถียงกันของบุคคลที่กังวลเกี่ยวกับความเป็นส่วนตัวและข้อกล่าวหาที่ไม่ถูกต้อง

ด้วยการประท้วงที่เกิดขึ้นทั่วประเทศและในหลายส่วนของโลกต่อต้านความรุนแรงของตำรวจและการเลือกปฏิบัติ การตรวจสอบนี้ได้เพิ่มมากขึ้น

อัลกอริทึมเหล่านี้ได้นำมุมมองใหม่ๆ มาสู่การบังคับใช้กฎหมาย และเต็มไปด้วยข้อผิดพลาด

การกล่าวหาที่ไม่ถูกต้อง

การปล้นสะดมที่ Williams ถูกจับคู่ผิดพลาดว่าเป็นผู้กระทำผิดเกิดขึ้นในเดือนตุลาคม 2018 วิดีโอการ giám sátถูกอัปโหลดไปยังฐานข้อมูลการรู้จำใบหน้าของรัฐมิชิแกนในเดือนมีนาคม 2019

รูปภาพของ Williams ถูกจับคู่เข้ากับภาพในรายชื่อภาพ และผู้ค้นพบได้ระบุ Williams ว่าเป็นผู้กระทำผิด

ตาม ACLUs ระบุว่าผู้ค้นพบไม่ได้เห็นการปล้นสะดมด้วยตัวเอง

ในเดือนมกราคม Williams ได้รับโทรศัพท์จากกรมตำรวจดีทรอยต์แจ้งให้เขาทราบถึงการ逮ตัวของเขา เมื่อเขาพิจารณาว่าเป็นเรื่องล้อเล่น โทรศัพท์จากตำรวจก็มาถึงบ้านของเขาเพียงหนึ่งชั่วโมงถัดมา

Williams ถูกนำตัวไปที่ศูนย์กักขังและถูกถ่ายรูป ถูกเก็บข้อมูลลายนิ้วมือและ DNA และถูกกักขังทั้งคืน

สิ่งที่ตามมาเป็นการซักถามเกี่ยวกับการกระทำผิดที่เขาไม่ได้กระทำ เพียงเพราะระบบการรู้จำใบหน้าที่มีข้อผิดพลาด

คดีของ Williams ถูกยกฟ้องสองสัปดาห์หลังจากการ逮ตัว แต่ในระดับที่กว้างขึ้น เหตุการณ์นี้มีความหมายมากและเป็นผลกระทบต่อความเป็นส่วนตัวอย่างมาก ด้วยการใช้ซอฟต์แวร์การรู้จำใบหน้าโดยรัฐบาลและหน่วยงานบังคับใช้กฎหมาย คดีนี้อาจเป็นจุดเริ่มต้นของการละเมิดอย่างร้ายแรง ซึ่งได้เกิดขึ้นแล้วในประเทศจีน แต่ยังไม่เกิดขึ้นในสหรัฐอเมริกา

การละเมิดอย่างหนึ่งคือตัวอย่าง DNA ของ Williams ภาพถ่าย และลายนิ้วมือของเขาได้ถูกเก็บไว้ในฐานข้อมูลแล้ว นอกจากนี้การ逮ตัวของเขายังถูกบันทึกไว้

บริษัทเอกชนและหน่วยงานบังคับใช้กฎหมาย

คดีของ Williams เกิดขึ้นเมื่อบริษัทใหญ่ๆ เช่น IBM, Microsoft (MSFT ) และ Amazon (AMZN ) หยุดให้บริการเทคโนโลยีการรู้จำใบหน้าแก่หน่วยงานบังคับใช้กฎหมาย

บริษัทแรกที่ดำเนินการดังกล่าวคือ IBM เมื่อ CEO Arvind Krishna ส่งจดหมายถึงรัฐสภาเกี่ยวกับการ ไม่ให้บริการซอฟต์แวร์การรู้จำใบหน้าหรือการวิเคราะห์แบบทั่วไป นอกจากนี้ บริษัทยังหยุดการวิจัยและพัฒนาของเทคโนโลยีนี้

“IBM ต่อต้านและไม่สนับสนุนการใช้เทคโนโลยีการรู้จำใบหน้า รวมถึงซอฟต์แวร์การรู้จำใบหน้าที่นำเสนอโดยผู้ขายอื่นๆ สำหรับการเฝ้าระวังแบบมวลชน การเลือกปฏิบัติทางเชื้อชาติ การละเมิดสิทธิมนุษยชนขั้นพื้นฐานและเสรีภาพ หรือวัตถุประสงค์ใดๆ ที่ไม่สอดคล้องกับค่านิยมและหลักการของความไว้วางใจและความโปร่งใสของเรา” ตามจดหมาย “เราคิดว่าตอนนี้เป็นเวลาที่เหมาะสมที่จะเริ่มการอภิปรายระดับชาติเกี่ยวกับว่าควรใช้เทคโนโลยีการรู้จำใบหน้าโดยหน่วยงานบังคับใช้กฎหมายภายในประเทศหรือไม่ และควรใช้อย่างไร”

Amazon ติดตามหลัง IBM เมื่อประกาศ การห้ามใช้ซอฟต์แวร์การรู้จำใบหน้า Rekognition ของ Amazon เป็นเวลาหนึ่งปี ต่อหน่วยงานบังคับใช้กฎหมาย

การประกาศดังกล่าวเกิดขึ้นเพียงไม่กี่วันหลังจากการตัดสินใจของ IBM

หนึ่งในงานสำคัญที่เกี่ยวข้องกับปัญหาเรื่องการเลือกปฏิบัติและเทคโนโลยีการรู้จำใบหน้าคือ งานวิจัยในปี 2018 ที่เขียนร่วมกันโดย Joy Buolamwini และ Timnit Gebru Buolamwini เป็นนักวิจัยที่ MIT Media Lab และ Gebru เป็นสมาชิกที่ Microsoft Research

งานวิจัยในปี 2018 พบว่า “อัลกอริทึมการเรียนรู้ของเครื่องสามารถเลือกปฏิบัติตามชั้นเรียน เช่น เชื้อชาติและเพศ”

คดีของ Robert Julian-Borchak Williams เป็นเรื่องที่น่ากังวลอย่างมากสำหรับหลายคนที่อาศัยอยู่ในสหรัฐอเมริกา แต่ก็เป็นตัวบ่งชี้ถึงสิ่งที่เกิดขึ้นทั่วโลก การใช้เทคโนโลยีการรู้จำใบหน้าโดยรัฐบาลและหน่วยงานบังคับใช้กฎหมายเพิ่มขึ้น และยังไม่มีอะไรที่จะป้องกันไม่ให้มันถูกใช้ในทางที่ผิด