ข้อผิดพลาดของร่างกฎหมายอินเทลลิเจนต์เทียมของสหภาพยุโรป

การวิจารณ์ทางกฎหมายใหม่ของร่าง ‘AI Act’ ของสหภาพยุโรปได้กล่าวถึงคำวิจารณ์มากมายต่อกฎระเบียบที่เสนอ ที่เผยแพร่ในเดือนเมษายน โดยสรุปว่าส่วนใหญ่ของเอกสารนี้เป็น ‘การเย็บติด’ จากกฎระเบียบผู้บริโภคในยุค 1980 ที่ใช้ไม่ได้จริง และว่ากฎระเบียบดังกล่าวส่งเสริมสภาพแวดล้อมอินเทลลิเจนต์เทียมที่ไม่มีการควบคุมในยุโรป มากกว่าที่จะนำภาคส่วนนี้มาอยู่ภายใต้การควบคุมที่สอดคล้องกัน และ – ในบรรดาคำวิจารณ์อื่นๆ – ว่าข้อเสนอดังกล่าวกำหนดกรอบการทำงานของการควบคุมอินเทลลิเจนต์เทียมในอนาคตที่ ‘ไม่มีความหมายและผลกระทบ’

เรื่องราวที่มีชื่อว่า การทำความเข้าใจร่างกฎหมายอินเทลลิเจนต์เทียมของสหภาพยุโรป เป็นผลงานร่วมกันของนักวิจัยจาก UCL ลอนดอนและมหาวิทยาลัย Radboud ใน Nijmegen

เอกสารดังกล่าวเพิ่มเข้าไปในความคิดเห็นที่ไม่ดีเกี่ยวกับการนำกฎระเบียบอินเทลลิเจนต์เทียมไปใช้ (มากกว่าความตั้งใจที่ได้รับการยกย่อง) รวมถึงข้อโต้แย้ง ในเดือนเมษายน ของหนึ่งในผู้ร่วมให้ข้อมูลในการกำหนดนี้ว่าแนวทางที่เสนอ ‘อ่อนแอ สั้น และคลุมเครือ’ ซึ่งอธิบายเอกสารของกรรมาธิการยุโรปว่าเป็นผู้สนับสนุน ‘จริยธรรมปลอม’

ระบบอินเทลลิเจนต์เทียมที่หลอกลวง

เอกสารใหม่ระบุว่าการจำกัด ‘ระบบที่หลอกลวง’ ที่เสนอใน AI Act ถูกขัดขวางโดยคำจำกัดความที่คลุมเครือและแม้กระทั่ง矛盾ของ ‘อันตราย’ โดยกล่าวว่า ‘[ผู้ที่เห็นด้วยอาจรู้สึกว่ากรรมาธิการสนใจคุณค่าเชิงพูดของการห้ามมากกว่าผลกระทบทางปฏิบัติ’

การกำหนดนี้กำหนดแนวทางปฏิบัติที่ห้ามสองประการ:

(ก) การวางตลาด การใช้งานหรือการใช้ระบบอินเทลลิเจนต์เทียมที่ใช้เทคนิคซับลิเมนอลที่อยู่นอกความตระหนักของบุคคลเพื่อเปลี่ยนแปลงพฤติกรรมของบุคคลในลักษณะที่ก่อให้เกิดหรืออาจก่อให้เกิดอันตรายต่อบุคคลนั้นหรือบุคคลอื่น

(ข) การวางตลาด การใช้งานหรือการใช้ระบบอินเทลลิเจนต์เทียมที่ใช้ประโยชน์จากจุดอ่อนของกลุ่มบุคคลโดยเฉพาะเนื่องจากอายุ ความพิการทางกายหรือจิต เพื่อเปลี่ยนแปลงพฤติกรรมของบุคคลในลักษณะที่ก่อให้เกิดหรืออาจก่อให้เกิดอันตรายต่อบุคคลนั้นหรือบุคคลอื่น

นักวิจัยโต้แย้งว่าการจำกัดเหล่านี้ไม่ได้กล่าวถึงว่าผู้ให้บริการหรือซอฟต์แวร์ของผู้ให้บริการอินเทลลิเจนต์เทียมประสบความสำเร็จในการบรรลุเป้าหมายของตนหรือไม่ แต่กลับกล่าวถึงว่าผู้ใช้สุดท้ายได้รับ ‘อันตราย’ ในกระบวนการนี้ พวกเขายังเพิ่มเติมว่าคำจำกัดความของ ‘อันตราย’ ในร่างกฎหมายนี้มีข้อจำกัดอย่างมาก โดยเฉพาะอย่างยิ่งอันตรายที่เกิดขึ้นกับผู้ใช้แต่ละคน มากกว่าอันตรายที่เกิดขึ้นกับกลุ่มหรือสังคม ซึ่งสามารถอนุมานได้จากความขัดแย้งของอินเทลลิเจนต์เทียมหลายกรณีในไม่กี่ปีที่ผ่านมา เช่นเรื่องอื้อฉาวของ Cambridge Analytica

เอกสารดังกล่าวระบุว่า ‘ในชีวิตจริง อันตรายสามารถสะสมได้โดยไม่ต้องมีเหตุการณ์ใดเหตุการณ์หนึ่งที่ทำให้เกิดความร้ายแรง ทำให้ยากต่อการพิสูจน์’

ระบบอินเทลลิเจนต์เทียมที่เป็นอันตรายที่ได้รับอนุญาต แต่ไม่ใช่สำหรับการบริโภคใน EU

AI Act เสนอการห้ามใช้ ‘ระบบไบโอเมตริกแบบเรียลไทม์’ ในพื้นที่สาธารณะโดยเจ้าหน้าที่บังคับใช้กฎหมาย แม้ว่าจะมีความกังวลจากสาธารณชนที่มีต่อข้อยกเว้นที่เสนอสำหรับการต่อต้านการก่อการร้าย การค้ามนุษย์ และการออกหมายจับของยุโรป แต่นักวิจัยก็ชี้ว่าไม่มีอะไรที่จะหยุดผู้จัดหาสินค้าที่ขัดแย้งกับระบบไบโอเมตริกเหล่านี้ให้กับระบอบการปกครองที่กดขี่

เอกสารดังกล่าวระบุว่านี่เป็นแนวปฏิบัติที่มีอยู่แล้ว ตามรายงานของ Amnesty International ในปี 2020

ยิ่งไปกว่านั้น ระบุว่าข้อกำหนดของ AI Act เกี่ยวกับ ‘ระบบไบโอเมตริกแบบเรียลไทม์’ เป็นเรื่องของความบังเอิญ และไม่รวมถึงระบบวิเคราะห์แบบออฟไลน์ เช่น การประมวลผลวิดีโอจากเหตุการณ์ประท้วง

นอกจากนี้ยังระบุด้วยว่าข้อเสนอไม่มีกลไกในการจำกัดระบบไบโอเมตริกที่ไม่เกี่ยวข้องกับการบังคับใช้กฎหมาย ซึ่งถูกเลื่อนออกไปเป็น GDPR และ GDPR ต้องมีการยินยอมส่วนบุคคลที่มีคุณภาพสูงสำหรับบุคคลที่ถูกสแกน ซึ่งเป็นเรื่องที่ยากจะปฏิบัติตาม

ภาษาของส่วนนี้ของ AI Act ยังถูกวิพากษ์วิจารณ์จากนักวิจัยด้วย การกำหนดนี้ระบุว่าจะต้องมีการอนุมัติล่วงหน้าสำหรับการใช้ระบบไบโอเมตริกสำหรับการใช้งาน ‘ส่วนบุคคล’ ของหน่วยงานที่มีอำนาจ – แต่ไม่ได้ทำให้คำว่า ‘การใช้งานส่วนบุคคล’ ในบริบทนี้ชัดเจน

การปล่อยให้การกำกับดูแลไปสู่ ‘มาตรฐานที่สอดคล้องกัน’

การวิจัยระบุว่าสิ่งที่สำคัญที่สุดใน AI Act จริงๆ แล้วไม่ได้ถูกกล่าวถึงแม้แต่ครั้งเดียวในร่างกฎหมายนี้: CEN (คณะกรรมการมาตรฐานยุโรป) และ CENELEC (คณะกรรมการมาตรฐานทางไฟฟ้าและอิเล็กทรอนิกส์ของยุโรป) – สองในสามองค์กรมาตรฐานยุโรปที่กรรมาธิการยุโรปสามารถมอบหมายให้สร้างมาตรฐานที่สอดคล้องกัน ซึ่งในหลายกรณีจะยังคงเป็นกรอบการกำกับดูแลที่ใช้บังคับสำหรับบริการและระบบอินเทลลิเจนต์เทียมบางประเภท

สิ่งนี้หมายความว่าผู้ผลิตอินเทลลิเจนต์เทียมสามารถเลือกที่จะปฏิบัติตามมาตรฐานที่แข่งขันกันมากกว่ามาตรฐานที่สอดคล้องกัน แทนที่จะปฏิบัติตามข้อกำหนดที่จำเป็นในร่าง AI Act สิ่งนี้ทำให้ผู้ให้บริการสามารถตีความกฎระเบียบที่เสนอได้อย่างหลวมกว่าเมื่อมีผลบังคับใช้ในปี 2024-5

นักวิจัยยังแสดงความคิดเห็นว่าปีของการล็อบบี้อุตสาหกรรมระหว่างองค์กรมาตรฐานเหล่านี้มีแนวโน้มที่จะเปลี่ยน ‘มาตรฐานที่จำเป็น’ เหล่านี้อย่างมาก และแนะนำว่า ‘กฎระเบียบที่ดี’ ควรเริ่มต้นด้วยระดับจริยธรรมและความชัดเจนทางกฎหมายที่สูงกว่า เพื่อพิจารณากระบวนการนี้ของการกัดเซาะ

การทำให้การรับรู้อารมณ์เป็นระบบที่ถูกต้อง

AI Act มีบทบัญญัติในการต่อต้านการนำระบบการรับรู้และจัดหมวดหมู่อารมณ์มาใช้ – ระบบที่อาจไม่จำเป็นต้องระบุตัวบุคคล แต่อาจอ้างว่าเข้าใจสิ่งที่พวกเขา cảm覺หรือสามารถจัดหมวดหมู่ตามเพศ ชาติพันธุ์ และสัญลักษณ์ทางเศรษฐกิจและสังคมอื่นๆ

นักวิจัยโต้แย้งว่าข้อกำหนด nàyไม่มีประโยชน์ เนื่องจาก GDPR ต้องมีการให้ข้อมูลที่ชัดเจนแก่ผู้ใช้เกี่ยวกับการใช้ระบบเหล่านี้ เพื่อให้ผู้ใช้สามารถเลือกที่จะไม่ใช้ (ซึ่งอาจไม่ใช้บริการออนไลน์หรือไม่เข้าไปในพื้นที่ที่มีการใช้ระบบเหล่านี้)

สิ่งสำคัญกว่านั้น เอกสารดังกล่าวอ้างว่าข้อกำหนด nàyทำให้เทคโนโลยีที่ถูกแยกออกมาจากความเป็นจริง合法 และอธิบายระบบการรับรู้อารมณ์แบบ FACS ในบริบทของประวัติศาสตร์ที่น่าละอายของการวิเคราะห์ลักษณะบุคคลจากโครงหน้าและแนวทางอื่นๆ ที่ใกล้เคียงกับการทำนายของชามานในยุคอุตสาหกรรม

‘ผู้ที่อ้างว่าสามารถตรวจจับอารมณ์ได้ใช้ระบบการจำแนกประเภทที่ง่ายเกินไปและไม่แน่นอน และมีความเสี่ยงต่อการ ‘กลับไปสู่อดีตของการวิเคราะห์ลักษณะบุคคลจากโครงหน้า’

ข้อเสนอที่ไม่เพียงพอ

นอกเหนือจากสิ่งเหล่านี้ นักวิจัยยังกล่าวถึงข้อบกพร่องที่รับรู้อื่นๆ ใน AI Act เกี่ยวกับการควบคุม deepfakes การขาดการกำกับดูแลการปล่อยก๊าซคาร์บอนของระบบอินเทลลิเจนต์เทียม การซ้ำซ้อนของการกำกับดูแลกับกรอบการทำงานอื่นๆ และการกำหนดข้อกำหนดที่ไม่เพียงพอของหน่วยงานทางกฎหมายที่สามารถฟ้องร้องได้

พวกเขาส่งเสริมให้ผู้กำหนดนโยบายและผู้เคลื่อนไหวทางสังคมดำเนินการเพื่อแก้ไขปัญหาที่ระบุ และยังชี้ว่าแม้การวิเคราะห์อย่างละเอียดของการกำหนดนี้จะมีการละเว้นหลายด้านที่ต้องห่วงใยอื่นๆ เนื่องจากขาดพื้นที่

อย่างไรก็ตาม เอกสารดังกล่าวยกย่องความพยายามของ AI Act ในการนำระบบการกำกับดูแลอินเทลลิเจนต์เทียมมาใช้ โดยอ้างถึง ‘องค์ประกอบที่มีเหตุผล’ มากมาย เช่น การสร้างลำดับของระดับการประเมินความเสี่ยง การมุ่งมั่นที่จะแนะนำการห้าม และการเสนอฐานข้อมูลสาธารณะของระบบที่ผู้จัดหาต้องมีส่วนร่วมเพื่อให้ได้รับการยอมรับจากยุโรป แม้ว่าจะต้องทราบถึงปัญหาทางกฎหมายที่ต้องการนี้ก็ตาม