สุนัขป่าแดง สุนัขป่าฟ้า: ระบบการรู้จำใบหน้าที่ใช้พลังงาน AI และการเฝ้าระวังชาวปาเลสไตน์

ไม่มีที่ใดบนโลกที่ถูกเฝ้าระวังอย่างไม่หยุดยั้งเหมือนดินแดนปาเลสไตน์ที่ถูกยึดครอง

ในถนนของเมืองเฮブロน ที่จุดตรวจคนเข้าเมืองในยีรูซาเล็มตะวันออก และในชีวิตประจำวันของคนหลายล้านคน ระบบ AI ที่ซับซ้อนกำลังทำงานเป็นทั้งผู้ดูแลและผู้ตรวจสอบ

เบื้องหลังกล้องและฐานข้อมูลมีเครื่องมือสองชิ้นที่น่ากลัว ซึ่งก็คือ สุนัขป่าแดง และสุนัขป่าฟ้า ซึ่งเป็นระบบการรู้จำใบหน้าที่ออกแบบมาเพื่อการควบคุม ไม่ใช่เพื่อความสะดวกหรือการค้า

งานของระบบเหล่านี้คือการสแกนใบหน้า จับคู่ใบหน้ากับฐานข้อมูลไบโอเมตริกขนาดใหญ่ และตัดสินใจว่าใครสามารถเคลื่อนย้ายได้หรือไม่

สิ่งที่ทำให้ระบบเหล่านี้น่ากลัวไม่ใช่แค่เทคโนโลยี แต่ยังรวมถึงวิธีการใช้งานด้วย ซึ่งก็คือ การกำหนดเป้าหมายไปยังประชากรทั้งหมดตามเชื้อชาติ การรวบรวมข้อมูลโดยไม่ได้รับอนุญาต และการฝังตัวของอัลกอริทึมเข้ากับเครื่องจักรของการยึดครอง

ในบทความต่อไปนี้ เราจะสำรวจว่าระบบ AI เหล่านี้ทำงานอย่างไร ที่ไหนได้รับการติดตั้ง การละเมิดที่เกิดขึ้น และทำไมพวกมันจึงมีความสำคัญต่อโลกนอกปาเลสไตน์

วิธีการทำงานของสุนัขป่าแดงและสุนัขป่าฟ้า

สุนัขป่าฟ้าเป็นแอปพลิเคชันมือถือที่ถูกใช้โดยทหารขณะทำการลาดตระเวน การถ่ายภาพใบหน้าคนปาเลสไตน์สามารถกระตุ้นการค้นหาทันทีในฐานข้อมูลไบโอเมตริกขนาดใหญ่ที่เรียกว่า กลุ่มสุนัขป่า

คำตอบคือการให้โค้ดสี เขียว หมายถึงผ่าน เหลือง หมายถึงหยุดและซักถาม แดง หมายถึงจับกุมหรือปฏิเสธการเข้า

สุนัขป่าฟ้าไม่ใช่แค่เครื่องมือค้นหาข้อมูล แต่ยังสามารถบันทึกใบหน้าใหม่ๆ ได้ เมื่อไม่มีการจับคู่ ใบหน้าและข้อมูลอื่นๆ สามารถถูกเพิ่มเข้าไปในฐานข้อมูลได้

สุนัขป่าแดงใช้การระบุใบหน้าที่จุดตรวจคนเข้าเมือง กล้องถ่ายรูปที่จุดตรวจสามารถสแกนใบหน้าทุกคนได้ และเปรียบเทียบกับโปรไฟล์ที่มีอยู่ในฐานข้อมูล

หากระบบไม่สามารถจับคู่ใบหน้าได้ ใบหน้านั้นจะถูกบันทึกและจัดเก็บสำหรับการใช้งานในอนาคต

AI และการเรียนรู้ของเครื่องจักรภายใต้ระบบ

ไม่มีข้อมูลเกี่ยวกับซัพพลายเออร์หรือโครงสร้างแบบจำลองที่ใช้ แต่พฤติกรรมของระบบสอดคล้องกับ การมองเห็นของเครื่องจักร ทั่วไป:

• การตรวจจับ: กล้องหรือเซ็นเซอร์โทรศัพท์สามารถระบุใบหน้าในเฟรมได้
• การทำเครื่องหมาย: จุดสำคัญ (ดวงตา จมูก มุมปาก) ถูกทำเครื่องหมายเพื่อปรับเปลี่ยนการวางท่าและแสง
• การฝังตัว: เครือข่ายประสาทที่ลึกสามารถแปลงใบหน้าเป็นเวกเตอร์ขนาดกะทัดรัด (“รอยบันทึกใบหน้า”)
• การค้นหาคู่: เวกเตอร์นั้นถูกเปรียบเทียบกับเวกเตอร์ที่เก็บไว้ในฐานข้อมูลโดยใช้ความคล้ายคลึงกันของคอไซน์หรือการค้นหาที่ใกล้ที่สุด
• การตัดสินใจ: หากความคล้ายคลึงกันเกินขีดจำกัด โปรไฟล์จะถูกส่งกลับพร้อมกับสถานะ; ไม่เช่นนั้น โปรไฟล์ใหม่อาจถูกสร้างขึ้น

สิ่งที่โดดเด่นที่นี่คือการมุ่งเน้นไปที่ประชากรเฉพาะ กลุ่มการฝึกอบรมและข้อมูลอ้างอิงประกอบด้วยใบหน้าชาวปาเลสไตน์เป็นส่วนใหญ่ ซึ่งทำให้ประสิทธิภาพของแบบจำลองมุ่งเน้นไปที่กลุ่มเดียว และเข้ารหัสการสร้างโปรไฟล์ดิจิทัลโดยการออกแบบ

ในระดับใหญ่ ระบบเหล่านี้อาจใช้ การอนุมานขอบ สำหรับความเร็ว (โทรศัพท์และหน่วยตรวจคนเข้าเมืองที่ใช้แบบจำลองที่ได้รับการปรับให้เหมาะสม) พร้อมการซิงค์แบบไม่สม่ำเสมอไปยังเซิร์ฟเวอร์กลาง ซึ่งลดความหน่วงช้าที่จุดตรวจคนเข้าเมืองในขณะที่รักษาฐานข้อมูลกลางให้ใหม่

ขีดจำกัดสามารถปรับได้ในซอฟต์แวร์ การเพิ่มขีดจำกัดจะลดผลลัพธ์เท็จบวก แต่เพิ่มผลลัพธ์เท็จลบ; การลดขีดจำกัดจะทำสิ่งที่ตรงกันข้าม ในบริบทของจุดตรวจคนเข้าเมือง สิ่งจูงใจมักจะเอียงไปทางการระบุผิดพลาดมากเกินไป โดยโอนภาระของข้อผิดพลาดไปยังพลเรือน

ข้อมูล การทำเครื่องหมาย และการเปลี่ยนแปลง

การรู้จำใบหน้า ดีเท่ากับข้อมูลที่ใช้

การรวบรวมภาพถ่ายจำนวนมากของสุนัขป่าฟ้าเป็นการรวบรวมข้อมูล ใบหน้าถูกจับภาพในแสงและมุมต่างๆ พร้อมกับข้อมูลที่แนบมาหลังการถ่ายภาพ: อัตลักษณ์ ที่อยู่ หมายเลขโทรศัพท์ และอันดับความปลอดภัย

ข้อมูลเหล่านี้ไม่ใช่ความจริงที่เป็นรากฐาน แต่เป็นการยืนยันของฝ่ายบริหารที่อาจล้าสมัย มีอคติ หรือไม่ถูกต้อง เมื่อข้อมูลเหล่านี้ถูกใช้ในการฝึกอบรมแบบจำลองใหม่ ข้อผิดพลาดจะกลายเป็นคุณลักษณะ

เมื่อเวลาผ่านไป การเปลี่ยนแปลงของชุดข้อมูล จะเกิดขึ้น เด็กๆ จะเติบโตขึ้น คนจะเปลี่ยนรูปร่าง การขาดตัวอย่าง “หนัก” (คนดูเหมือนกัน การบดบัง การสวมหน้ากาก) สามารถทำให้อัตราความผิดพลาดในโลกแห่งความเป็นจริงเพิ่มขึ้น หากการตรวจสอบและปรับสมดุลมีความอ่อนแอ ระบบจะเสื่อมลงอย่างเงียบๆ ในขณะที่ยังคงมีลักษณะของความแน่นอนเหมือนเดิมที่จุดตรวจคนเข้าเมือง

ที่ไหนได้รับการติดตั้งและวิธีการขยาย

เขต H2 ของเมืองเฮブロน เป็นจุดศูนย์กลาง มีจุดตรวจคนเข้าเมืองภายในหลายจุดควบคุมการเคลื่อนย้ายผ่านถนนเมืองเก่าและบ้านของชาวปาเลสไตน์

สุนัขป่าแดงถูกติดตั้งที่จุดตรวจคนเข้าเมืองบางจุด สร้าง การบันทึกใบหน้าแบบบังคับ สุนัขป่าฟ้าตามมาในภายหลัง โดยขยายการครอบคลุมไปยังตลาด ถนนข้าง และบ้านส่วนตัว

ใน ยีรูซาเล็มตะวันออก ฝ่ายบริหารได้ติดตั้งกล้องวงจรปิดที่สามารถใช้ AI ได้ครอบคลุมถึงย่านชาวปาเลสไตน์ และรอบๆ สถานที่ศักดิ์สิทธิ์

ความหนาแน่นของการเฝ้าระวังมีความสำคัญ ยิ่งมีกล้องและจุดบันทึกใบหน้ามากเท่าไหร่ กราฟของประชากรก็จะสมบูรณ์เท่านั้น: ใครอาศัยอยู่ที่ไหน ใครไปเยี่ยมใคร บ้าง ใครเข้าร่วมอะไร เมื่อกราฟนั้นถูกสร้างขึ้นแล้ว จะใช้ไม่เพียงแต่การรู้จำใบหน้า แต่ยังรวมถึงการวิเคราะห์เครือข่ายและแบบจำลองการดำเนินชีวิต

เฮブロน: เมืองที่อยู่ภายใต้การล็อกดาวน์ดิจิทัล

ผู้อยู่อาศัยอธิบาย จุดตรวจคนเข้าเมืองที่รู้สึกเหมือนประตูอัตโนมัติ มากกว่าจุดตรวจคนเข้าเมืองทั่วไป จอแสดงสีแดงสามารถล็อกคนออกจากถนนของตัวเองได้จนกว่าคนจะมาถึง — ถ้ามีคนมา

นอกเหนือจากการควบคุมการเข้าถึง กล้องวงจรปิดครอบคลุมชีวิตประจำวัน กล้องจับภาพจากหลังคาและเสาไฟฟ้า บางกล้องจับภาพเข้าไปในลานบ้านและหน้าต่าง

ค่าใช้จ่ายทางสังคมเป็นเรื่องที่ซับซ้อนแต่遍布ทั่ว: การรวมตัวในลานบ้านน้อยลง การสนทนาที่ไม่คาดคิดน้อยลง เด็กเล่นน้อยลงในถนน การเฝ้าระวังทำให้เมืองเงียบไม่ใช่เพราะปลอดภัย แต่เพราะถูกเฝ้าดู

ยีรูซาเล็มตะวันออก: กล้องในมุมทุกมุม

ในย่านเมืองเก่าและรอบๆ ย่านชาวปาเลสไตน์ในยีรูซาเล็มตะวันออก การรู้จำใบหน้าถูกใช้ร่วมกับกล้องวงจรปิดที่ครอบคลุม

วิดีโอสามารถค้นหาได้ ใบหน้าจากการประท้วงสามารถจับคู่ได้หลายวันหลังจากนั้น ตรรกะเป็นเรื่องง่าย: คุณอาจออกไปวันนี้ แต่คุณ ไม่ ออกไปจากฐานข้อมูล

ผู้อยู่อาศัยพูดถึง “ความรู้สึกที่สอง” ที่คุณพัฒนา — ความตระหนักถึงกล้องโดมที่ติดตั้งบนเสา — และการเซ็นเซอร์ภายในที่มาพร้อมกัน

วิกฤตสิทธิมนุษยชน

หลายเส้นแดงถูกข้ามพร้อมกัน:

• ความเท่าเทียม: เฉพาะชาวปาเลสไตน์เท่านั้นที่ถูกบันทึกใบหน้าแบบไบโอเมตริกที่จุดตรวจคนเข้าเมืองเหล่านี้ เส้นทางแยกทำให้คนตั้งถิ่นฐานหลบเลี่ยงการตรวจสอบที่คล้ายกัน
• การอนุญาต: การบันทึกใบหน้าเป็นเรื่องไม่สมัครใจ การปฏิเสธการถ่ายภาพหมายถึงการปฏิเสธการเคลื่อนย้าย
• ความโปร่งใส: คนไม่สามารถเห็น ข้อโต้แย้ง หรือแก้ไขข้อมูลที่ควบคุมพวกเขา
• ความเหมาะสม: การตรวจสอบแบบไบโอเมตริกที่ไม่มีการขัดขวางและเปิดตลอดเวลาถือว่าประชากรทั้งหมดเป็นผู้ต้องสงสัยโดยค่าเริ่มต้น

การรู้จำใบหน้า ยังสามารถระบุผิด — โดยเฉพาะอย่างยิ่งเมื่อมีแสงไม่ดี การบดบังบางส่วน หรือการเปลี่ยนแปลงของอายุ ในบริบทนี้ การจับคู่ที่ไม่ถูกต้องสามารถหมายถึงการกักขังหรือการปฏิเสธการเข้า; การไม่จับคู่สามารถทำให้คนติดอยู่ที่จุดตรวจคนเข้าเมือง

ผลกระทบทางจิตใจ

ชีวิตภายใต้การเฝ้าระวังด้วย AI อย่างต่อเนื่องสอนให้ระมัดระวัง

คนหลีกเลี่ยงการรวมตัว เปลี่ยนกิจวัตรประจำวัน และดูแลเด็กๆ อย่างใกล้ชิดมากขึ้น คำพูดถูกชั่งน้ำหนักใน公共สังคม การเคลื่อนไหวถูกคำนวณ

หลายคนอธิบายถึงผลกระทบที่ทำให้คนเสื่อมถอยของการถูกลดให้เหลือ เขียว เหลือง หรือแดง การตัดสินของเครื่องจักรกลกลายเป็นข้อเท็จจริงที่สำคัญที่สุดของวัน

การบริหาร การบังคับใช้กฎหมาย และความรับผิดชอบ

ภายในอิสราเอล การรู้จำใบหน้าได้พบกับการต่อต้านเรื่องความเป็นส่วนตัว ในดินแดนยึดครอง มีกฎหมายที่แตกต่าง และ คำสั่งทางทหาร มีอำนาจเหนือกฎหมายความเป็นส่วนตัวของพลเรือน

ช่องว่างสำคัญ:

• ไม่มีการกำกับดูแลอิสระ ที่มีอำนาจในการตรวจสอบชุดข้อมูล ขีดจำกัด หรืออัตราความผิดพลาด
• ไม่มีกระบวนการอุทธรณ์ สำหรับบุคคลที่ถูกจับคู่ผิดหรือถูกบันทึกใบหน้า
• การเก็บรักษาและแบ่งปันข้อมูลไบโอเมตริก และโปรไฟล์ที่ได้รับไม่ได้ถูกกำหนดไว้อย่างชัดเจน
• ความเสี่ยงของการขยายขอบเขต เมื่อชุดข้อมูลและเครื่องมือถูกนำมาใช้ใหม่สำหรับการกำหนดเป้าหมายข่าวกรองและการเฝ้าระวังเครือข่าย

หากไม่มีข้อจำกัดที่มีผลผูกพัน การขยายตัวจะเป็นเส้นทางเริ่มต้น: กล้องมากขึ้น รายชื่อเฝ้าระวังที่กว้างขึ้น การผสานเข้ากับชุดข้อมูลอื่นๆ (โทรศัพท์ ยานพาหนะ สาธารณูปโภค) มากขึ้น

ภายในวงจรการตัดสินใจ

การรู้จำใบหน้าไม่ทำงานในสุญญากาศ มันถูกผสมผสานกับ:

• รายชื่อเฝ้าระวัง: รายชื่อชื่อ ที่อยู่ และ “ผู้ที่เกี่ยวข้อง” ที่ชี้นำผลลัพธ์ของสี
• กฎการจำกัดพื้นที่: สถานที่หรือช่วงเวลาที่กระตุ้นการตรวจสอบที่เข้มงวดมากขึ้น
• อินเทอร์เฟซผู้ใช้: สีสามสีง่ายๆ ที่กระตุ้น อคติของการทำงานอัตโนมัติ — การยอมจำนนของมนุษย์ต่อผลลัพธ์ของเครื่องจักร
• แผงควบคุม: แผนที่ความร้อน การแจ้งเตือน และสถิติที่สามารถเปลี่ยน “การหยุดมากขึ้น” เป็น “ประสิทธิภาพที่ดีกว่า”

เมื่อเมตริกคำสั่งให้คุณค่าปริมาณ — การสแกนมากขึ้น การจับคู่มากขึ้น การค้นหามากขึ้น — ระบบจะเคลื่อนไปสู่การเพิ่มการเสียดสีให้กับประชากรที่ถูกควบคุม

สิ่งที่ทำให้แตกต่างจากการเฝ้าระวังแบบดั้งเดิม

สามคุณลักษณะที่ทำให้สุนัขป่าแดงและสุนัขป่าฟ้าแตกต่าง:

1. การบันทึกใบหน้าแบบบังคับ: การเคลื่อนย้ายมักต้องมีการสแกน การปฏิเสธการถ่ายภาพหมายถึงการล็อกออก
2. การมุ่งเน้นไปที่ประชากรเฉพาะ: แบบจำลองและฐานข้อมูลมุ่งเน้นไปที่กลุ่มชาติพันธุ์เดียว ซึ่งทำให้เกิดการเลือกปฏิบัติในกระบวนการ
3. การผสานเข้ากับการบังคับใช้: การออกผลลัพธ์กระตุ้นการเข้าถึงและบังคับใช้ทันที ไม่ใช่แค่การวิเคราะห์หลังเหตุการณ์

องค์ประกอบเหล่านี้สะท้อนถึงการนำไปใช้ในที่อื่นๆ ทั่วโลก: กล้องวงจรปิดที่หนาแน่น การค้นหาใบหน้าในภาพถ่ายการประท้วง การตำรวจที่ใช้ข่าวกรองเชิง예측ที่ได้รับจากชุดข้อมูลที่มีอคติ

แต่การผสมผสานการยึดครองทางทหารและการเคลื่อนไหวที่ควบคุมด้วย AI นั้นไม่เหมือนใคร มันแสดงให้เห็นว่าความมองเห็นของเครื่องจักรสมัยใหม่สามารถทำให้ระบบการแบ่งแยกกลายเป็นเร็วขึ้น เงียบขึ้น และยากต่อการโต้แย้งมากขึ้น

เจ้าหน้าที่รักษาความปลอดภัยอ้างว่าเครื่องมือเหล่านี้ป้องกันความรุนแรงและทำให้การตรวจสอบ มีประสิทธิภาพมากขึ้น

ผู้วิพากษ์วิจารณ์โต้แย้งว่าการ “ยึดครองอย่างมีประสิทธิภาพ” ไม่ใช่การอัปเกรดทางจริยธรรม มันเพียงแต่ อุตสาหกรรม การควบคุม — และโอนต้นทุนของข้อผิดพลาดไปยังพลเรือนที่ไม่มีทางแก้ไข

สิ่งที่ต้องดูถัดไป

• การขยายแบบจำลอง: การขยายจากการรู้จำใบหน้าไปยังการวิเคราะห์ทางพฤติกรรมและการเดิน
• การปรับขีดจำกัด: การเปลี่ยนแปลงนโยบายที่เพิ่มหรือลดขีดจำกัดการจับคู่ — และภาระของพลเรือน
• การผสานข้อมูล: การเชื่อมโยงข้อมูลไบโอเมตริกกับข้อมูลเมตาดาต้าของโทรศัพท์ การอ่านป้ายทะเบียนรถ การชำระเงิน และสาธารณูปโภค
• การส่งออก: การนำระบบ “ที่ทดสอบในสนามรบ” เหล่านี้ไปใช้โดยรัฐบาลอื่นๆ ในฐานะโซลูชันความปลอดภัยของเมืองอัจฉริยะหรือชายแดน

สรุป: คำเตือนสำหรับโลก

ที่จุดตรวจคนเข้าเมืองในเฮブロนหรือในซอกซอยของประตูดามัสกัส AI ได้กลายเป็นตัวตัดสินความเคลื่อนไหวของมนุษย์

อันตรายไม่ใช่แค่กล้อง แต่เป็นระบบ: การบันทึกใบหน้าแบบบังคับ ฐานข้อมูลที่ไม่โปร่งใส การตัดสินใจทันที และ การขาดความรับผิดชอบ ที่มองว่าคนกลุ่มหนึ่งเป็นผู้ต้องสงสัยตลอดไป

สิ่งที่ถูกทำให้เป็นปกติคือ แบบจำลอง — วิธีการ บริหารจัดการผ่านอัลกอริทึม ทางเลือกที่เผชิญหน้าโลกคือการยอมรับแบบจำลองนี้หรือวาดเส้นแข็งก่อนที่ความสงสัยอัตโนมัติจะกลายเป็นการตั้งค่าเริ่มต้นของชีวิตสาธารณะ