التنظيم
عيوب مشروع قانون الاتحاد الأوروبي للذكاء الاصطناعي
يُقدم نقد قانوني جديد لمشروع قانون الاتحاد الأوروبي للذكاء الاصطناعي، ويُوجه انتقادات واسعة النطاق لللوائح المقترحة المنشورة في أبريل، ويُستنتج أن جزءًا كبيرًا من الوثيقة يتم تجميعها من لوائح استهلاك من الثمانينيات التي تطبق بشكل ضعيف؛ وأنها تعزز في الواقع بيئة غير منظمة للذكاء الاصطناعي في أوروبا، بدلاً من وضع القطاع تحت تنظيم متسق؛ ومن بين انتقادات أخرى عديدة، أن المقترحات تحدد إطارًا تنظيميًا مستقبليًا للذكاء الاصطناعي يفتقر إلى المعنى والimpact.
يُسمى كشف الغموض عن مشروع قانون الاتحاد الأوروبي للذكاء الاصطناعي، وهو مسودة من сотрудاء من جامعة لندن وجامعة رادبود في نايميخن.
يضيف هذا البحث إلى جسم متزايد من الآراء السلبية حول تنفيذ الإطار التنظيمي للذكاء الاصطناعي ( chứ لا النية الحسنة)، بما في ذلك الادعاء في أبريل من أحد مساهمي مشروع اللوائح أن الإرشادات المقترحة “غير حازمة، قصيرة النظر ومبهمة بشكل متعمد”، والتي وصفت وثيقة اللجنة الأوروبية بأنها مناصرة لـ “الآداب الكاذبة”.
أنظمة الذكاء الاصطناعي الخادعة
يُدعي البحث أن القيود المقترحة على “الأنظمة الخادعة” في مشروع قانون الذكاء الاصطناعي معوقة بسبب تعريف غامض ومتناقض حتى للضرر، ويُعلق بأن “[ي]مكن أن يشعر السخيف بأن اللجنة أكثر اهتمامًا بقيمة البيان الت禁止ية منها الفعلي”.
يحدد المشروع المقترح للوائح ممارسات محظورة محتملة:
(أ) وضع نظام ذكاء اصطناعي في السوق أو وضعها في الخدمة أو استخدامها يعتمد تقنيات خفية تتجاوز وعي الشخص لتشويش سلوك الشخص بشكل مادي يسبب أو قد يسبب ضررًا جسديًا أو نفسيًا للشخص أو شخص آخر؛
(ب) وضع نظام ذكاء اصطناعي في السوق أو وضعها في الخدمة أو استخدامها يعتمد على نقاط الضعف لأفراد معينين بسبب سنهم أو إعاقتهم الجسدية أو النفسية، من أجل تشويش سلوك الشخص التابع لهذه المجموعة بشكل مادي يسبب أو قد يسبب ضررًا جسديًا أو نفسيًا للشخص أو شخص آخر؛
يُجادل الباحثون بأن هذه القيود لا تُعالج ما إذا كان تطبيق أو برنامج مورد الذكاء الاصطناعي ناجحًا في تحقيق أهدافه، ولكن فقط إذا كان المستخدم النهائي يعاني من “ضرر” خلال العملية. يضيفون أن تعريف الضرر في المشروع مقيد بدرجة كبيرة بالمستخدمين الفرديين، بدلاً من النوع من الضرر الجماعي أو الاجتماعي الذي يمكن استخلاصه بشكل معقول من عدد من الجدل حول الذكاء الاصطناعي في السنوات الأخيرة، مثل فضيحة كامبريدج أناليتيكا.
يلاحظ البحث أن “في الحياة الواقعية، يمكن أن تتراكم الأضرار دون حدث واحد يصل إلى عتبة الجدية، مما يجعله صعبًا لإثباته”.
نظم الذكاء الاصطناعي الضارة مسموح بها، ولكن ليس لاستهلاك الاتحاد الأوروبي
يُقترح مشروع قانون الذكاء الاصطناعي حظر الأنظمة البيومترية في الوقت الفعلي في الأماكن العامة من قبل قوات إنفاذ القانون. على الرغم من بعض الشكوك العامة الموجهة إلى الاستثناءات التي يقترحها المشروع للتحليلات المضادة للإرهاب والاتجار بالبشر ومطاردة مذكرة التوقيف الأوروبية، يلاحظ الباحثون أيضًا أن لا شيء سيمنع الموردين من بيع أنظمة بيومترية مخالفة للأنظمة القمعية.
يُلاحظ البحث أن هذا هو الممارسة التاريخية، كما كشفت عنه تقرير صدر في عام 2020 من منظمة العفو الدولية.
كما يُذكر أن مشروع قانون الذكاء الاصطناعي يحدد بشكل تعسفي “النظام البيومتري في الوقت الفعلي”، ويستثني الأنظمة التحليلية غير المتصلة بالإنترنت، مثل معالجة لاحقة للفيديو من أحداث الاحتجاج.
بالإضافة إلى ذلك، يُلاحظ أن المقترحات لا تقدم آلية لتقيد الأنظمة البيومترية التي لا تُستخدم ليس لإنفاذ القانون، والتي بدلاً من ذلك يتم التخلي عنها بلا جهد إلى اللائحة العامة لحماية البيانات؛ وأن اللائحة العامة لحماية البيانات herself تضع شرطًا لexistence موافقة فردية عالية الجودة لكل شخص تم مسحه، وهو ما يُعتبر عمليًا مستحيلًا.
كلمات هذا الجزء من مشروع قانون الذكاء الاصطناعي cũng يُنتقد من قبل الباحثين. يُحدد المشروع أن الموافقة المسبقة سوف تكون مطلوبة لتنفيذ الأنظمة البيومترية لاستخدام السلطات المختصة “الفردية” لهذه الأنظمة – ولكن لا يُشر إلى ما يعني “استخدام فردي” في هذا السياق. يُلاحظ البحث أن مذكرات التوقيف المثيرة للجدل يمكن أن تكون مواضيعية، وترتبط بأrganizations وغايات ومواقع واسعة.
أيضًا، لا يُحدد المشروع آلية شفافية لعدد ونوع التصاريح الصادرة، مما يجعل التدقيق العام مشكلة.
التنظيم الخارجي للمعايير “الموحدة”
يُذكر البحث أن الكيانات الأكثر أهمية في مشروع قانون الذكاء الاصطناعي لا تُذكر حتى مرة واحدة في المشروع: CEN (اللجنة الأوروبية لمواصفات معايير) وCENELEC (اللجنة الأوروبية لمعايير الكهربائية) – وهما من بين ثلاث منظمات معايير أوروبية (ESOs) التي يمكن للجنة الأوروبية أن توجيهها لصياغة معايير موحدة، والتي في كثير من الحالات سوف تظل الإطارات التنظيمية الحاكمة لبعض أنواع خدمات وتنفيذ الذكاء الاصطناعي.
هذا يعني بشكل فعال أن منتجي الذكاء الاصطناعي يمكنهم اختيار اتباع معايير ما هي في الواقع لوائح منافسة وليست مكمِّلة، بدلاً من تلبية المتطلبات الأساسية المحددة في مشروع قانون الذكاء الاصطناعي. هذا يسمح للموردين بتفسير المقترحات بطرق أكثر مرونة عند دخولها حيز التنفيذ في 2024-5.
يُعتبر الباحثون أيضًا أن السنوات الوسطى من الضغط الصناعي بين هيئات المعايير من المرجح أن يعيد تعريف هذه “المعايير الأساسية” بشكل كبير، ويشير إلى أن اللوائح “المثالية” يجب أن تبدأ بمستوى أعلى من المستوى الأخلاقي والوضوح التشريعي، إذا كان ذلك فقط لتبرير هذا النزيف الحتمي.
مصادقة وهمية أنظمة التعرف على المشاعر
يتميز مشروع قانون الذكاء الاصطناعي بوجود حكم ضد نشر أنظمة التعرف على المشاعر والتصنيف – إطارات قد لا تحدد بالضرورة فردًا، ولكنها تدعي فهم ما يشعر به أو القدرة على تصنيفه من حيث الجنس والعرق والعديد من المؤشرات الاقتصادية والاجتماعية الأخرى.
يُجادل الباحثون بأن هذا البند هو بلا فائدة، لأن اللائحة العامة لحماية البيانات تُلزم بالفعل مزودي هذه الأنظمة بتزويد المستخدمين بمعلومات واضحة حول استخدام هذه الأنظمة، بحيث يمكن للمستخدمين الخروج (الذي قد يتضمن عدم استخدام خدمة على الإنترنت أو عدم الدخول إلى منطقة حيث يتم الإعلان عن وجود مثل هذه الأنظمة).
أكثر من ذلك، يُدعي البحث أن هذا البند يُصادق على تكنولوجيا مُبطلة، ويُشير إلى أنظمة التعرف على المشاعر من نمط FACS في ضوء التاريخ المشين للفهرسة والمناهج القريبة من الشامانية الأخرى للتصنيف الاجتماعي من العصر الصناعي المبكر.
أولئك الذين يزعمون اكتشاف المشاعر يستخدمون تصنيفات مبسطة ومشكوك فيها؛ يفترضون بشكل غير صحيح عالمية عبر الثقافات والسياقات؛ ويتعرضون لخطر “إعادةنا إلى الماضي الفренولوجي” لتحليل السمات الشخصية من هياكل الوجه. يبدو أن أحكام القانون المتعلقة بالتعرف على المشاعر والتصنيف البيومتري غير كافية للتخفيف من المخاطر.’
مقترح متواضع جدًا
إلى جانب هذه، يُعالج الباحثون عيوبًا أخرى يُعتقد أنها موجودة في مشروع قانون الذكاء الاصطناعي فيما يتعلق بتنظيم Deepfakes، وعدم وجود إشراف على انبعاثات الكربون لأنظمة الذكاء الاصطناعي، وازدواجية الإشراف التنظيمي مع الإطارات الأخرى، وتعريف غير كافٍ للكيانات القانونية القابلة للمقاضاة.
يُحض الباحثون المشرعين والناشطين المدنيين على اتخاذ إجراءات لتصحيح المشاكل المحددة، ويُلاحظون أيضًا أن تحليلهم الشامل لمشروع اللوائح قد اضطر إلى استبعاد العديد من مجالات القلق الأخرى، بسبب نقص المساحة.
مع ذلك، يُحمد البحث محاولة القانون الرائدة لإدخال نظام تنظيمي أفقي لأنظمة الذكاء الاصطناعي، مشيرًا إلى عناصرها “الحسنة”، مثل إنشاء هرمية لمستويات التقييم، والالتزام بإدخال حظراً، واقتراح قاعدة بيانات عامة لأنظمة التي سيتعين على الموردين المساهمة فيها للحصول على الشرعية الأوروبية، على الرغم من ملاحظة المشاكل القانونية التي يُحتمل أن تثيرها هذه المتطلبات الأخيرة.
