زاوية Anderson
المقترحات الأوروبية والبريطانية لتنظيم التزييف العميق محدودة بشكل مفاجئ

النقاط الرئيسيةتنظيم الاتحاد الأوروبي للصور المزيفة العميقة يستهدف الإعلانات لكنه يتجاهل تمامًا المواد…
عرض المزيد
- تنظيم الاتحاد الأوروبي للصور المزيفة العميقة يستهدف الإعلانات لكنه يتجاهل تمامًا المواد الإباحية غير التوافقية.
- لا يمكن للقانون البريطاني مقاضاة المواد الإباحية المزيفة العميقة ما لم تكن الضحية تتعرض للمضايقة المباشرة من قبل المنشئ.
- تحظر ولايات أمريكية مثل كاليفورنيا ونيويورك المواد الإباحية المزيفة العميقة، لكن معظم الولايات لا تزال تفتقر إلى أي قانون.
التحليلبالنسبة إلى الناشطين الذين يأملون أن يكون عام 2022 السنة التي تقع فيها الصور المزيفة ضمن نطاق قانوني أكثر صرامة ، فإن المؤشرات المبكرة غير مواعدة.
في يوم الخميس الماضي ، أقر البرلمان الأوروبي تعديلات على قانون الخدمات الرقمية (DSA ، الذي من المقرر أن يدخل حيز التنفيذ في عام 2023) ، فيما يتعلق بنشر الصور المزيفة. وتتضمن التعديلات مواضيع الصور المزيفة عبر قسمين ، كل منهما يتعلق بالإعلان عبر الإنترنت: التعديل 1709 المتعلق بالمادة 30 ، والتعديل المرتبط بالمادة 63.
الأول يقترح مادة جديدة تماما 30a ، بعنوان الصور المزيفة ، والتي تنص على:
‘عندما تعلم منصة إلكترونية كبيرة جدًا على دراية بأن محتوى معين هو صورة أو صوت أو فيديو مُولّدًا أو متلاعبًا به ويشبه إلى حد كبير أشخاصا أو أشياء أو أماكن أو أحداث أخرى ويكون كاذبا ويبدو للشخص أنه حقيقي أو صحيح (الصور المزيفة) ، يجب على المزود وضع علامة على المحتوى بطريقة تخبر بأن المحتوى غير حقيقي، وتكون العلامة واضحة لمتلقي الخدمة.’
يضيف الثاني نصا إلى المادة 63 الحالية ، التي تتعلق في الغالب بزيادة شفافية منصات الإعلان الكبيرة. النص المعمول به هو:
‘بالإضافة إلى ذلك ، يجب على منصات الإنترنت الكبيرة جدًا وضع علامة على أي فيديوهات أو صوت أو ملفات مزيفة معروفة.’
بصورة فعالة ، يبدو أن التشريع يستعد لممارسة الصور المزيفة “الشرعية” ، حيث تم الحصول على إذن وتم تأمين الحقوق لاستبدال الوجه في المواد الترويجية أو الإعلانية – مثل الاستخدام المرخص لهوية بروس ويليس في حملة إعلانية حديثة لشركة الاتصالات الروسية Telefon.
تردد في التشريع
DSA ، حتى الآن ، لا يبدو أنه يعالج مخاوف الناشطين بشأن استخدام تقنيات الصور المزيفة كما يتم استخدامها الأكثر شيوعا – لاستبدال وجوه المؤدين في مقاطع الفيديو الإباحية. كما لا يعالج مدى ، إن وجد ، الذي سيتم بموجبه إعلان استخدام الصور المزيفة في الأفلام والتلفزيون للمشاهدين بنفس الطريقة التي سيتم بموجبها إعلان الصور المزيفة في الإعلان ، على الأقل في الاتحاد الأوروبي ، من عام 2023 فصاعدًا.
تم تمرير عملية التصديق على DSA الآن إلى مفاوضات مع دول الاتحاد الأوروبي ، جنبًا إلى جنب مع نطاق أوسع لقانون الأسواق الرقمية (DMA).
أكد تقرير يوروبول الصادر في ديسمبر 2020 تقرير الاستخدامات والاستغلالات الخبيثة للذكاء الاصطناعي أنه سيكون من الخطأ على الاتحاد الأوروبي معالجة تقنيات الصور المزيفة الحالية (مثل DeepFaceLive) ، والتي قد تؤدي إلى قانون الاتحاد الأوروبي الذي يلعب دائمًا اللحاق بالتقنيات الأخيرة أو الإطار أو الطريقة.
أشار التقرير إلى ما يلي:
‘على وجه الخصوص ، يجب أن تكون هذه السياسات محايدة من حيث التكنولوجيا من أجل أن تكون فعالة في الأجل الطويل وتجنب الحاجة إلى مراجعة واستبدالها بانتظام مع تطور التكنولوجيا التي تقف وراء إنشاء واستغلال الصور المزيفة. ‘
‘ومع ذلك ، يجب أن تتجنب هذه التدابير أيضًا عرقلة التطبيقات الإيجابية للGANs.’
تعليق الختام في الاقتباس أعلاه ، بشأن الشبكات التوليدية المعارضة (GANs) بشكل عام ، يصف تردد أوروبا وأمريكا الشمالية في تطبيق قوانين قد تعطل قطاع البحث والتطوير في مجال الذكاء الاصطناعي الذي يُعتبر بالفعل متأخرًا عن آسيا، التي استطاعت دولها الأكثر توجيهًا تسريع تشريعات التزييف العميق.
على سبيل المثال ، أكد تقرير صادر عن لجنة اختيار الذكاء الاصطناعي في مجلس اللوردات في المملكة المتحدة في عام 2018 تقرير عدة مرات على خطر السماح للتردد بكبح تطوير الذكاء الاصطناعي في المملكة المتحدة ، كما هو موضح في عنوانه: الذكاء الاصطناعي في المملكة المتحدة: جاهز ، راغب وقادر؟. في أبريل الماضي ، أصبحت بريطانيا أيضًا أول دولة تسمح بتشغيل سيارات ذاتية القيادة على الطرق السريعة.
أما أمريكا فهي لا تقل حماسة; في الولايات المتحدة ، حثت مؤسسة بروكينجز على الحاجة إلى تشريعات أكثر للذكاء الاصطناعي ، وانتقدت المشرعين لمواقفهم “انتظر و انظر” بشأن الآثار المترتبة على تقنيات التعلم الآلي
بالإضافة إلى نهج DSA الخامل تجاه معالجة القضايا الاجتماعية (بدلاً من السياسية) حول الصور المزيفة ، تعرض الإطار التنظيمي المقترح للاتحاد الأوروبي للذكاء الاصطناعي ، الذي صدر في أبريل 2021 ، لانتقادات سريعة لتفاديه موضوع الصور المزيفة.
تنظيم الصور المزيفة القليل في المملكة المتحدة
كإحباط إضافي للمناصرين ضد الصور المزيفة مثل المؤلفة هيلين مورت ، التي نظمت حملة لتشريع جديد في المملكة المتحدة في عام 2021 بعد تمثيلها بدون موافقة في مقاطع فيديو إباحية مزيفة ، ينتقد تقرير صادر اليوم عن لجنة الثقافة الرقمية والوسائط والرياضة في البرلمان البريطاني الحكومة البريطانية لعدم معالجة الصور المزيفة في مشروع قانون السلامة عبر الإنترنت.
متعرضا لانتقادات مشروع القانون الحالي بسبب عدم وضوح الإجراءات القانونية المتاحة ضد إساءة استخدام الصور المزيفة وعدم عمليتها ، يوصي التقرير بأن الحكومة يجب أن تعالج أنواع المحتوى التي هي “قانونية ولكن ضارة” ، مثل تقنيات التلاعب بالصور الإباحية والصور الإباحية المزيفة ، من خلال جلبها في نطاق التشريعات الأساسية أو كأشكال من المحتوى الضار الذي يخضع لواجبات العناية:
‘نوصي الحكومة بأن تعالج أنواع المحتوى التي هي قانونية ولكن ضارة ، مثل أجزاء خبيثة من تسلسلات إساءة معاملة الأطفال مثل ترك إشارات متدرجة تقود إلى المحتوى (breadcrumbing) والعنف عبر الإنترنت ضد النساء والفتيات مثل التكنولوجيا التي تمكّن “إزالة اللباس” والصور الإباحية المزيفة ، من خلال إحضارها في نطاق التشريعات الأساسية أو كأشكال من المحتوى الضار الذي يخضع لواجبات العناية.’
القانون الساري في المملكة المتحدة حاليًا يقتصر على نشر “صور حقيقية” ، مثل حالات الانتقام الإباحي ، حيث يتم نشر مواد فاضحة وسرية وخاصة علنًا من قبل شريك سابق. إذا قام مُطارد بإنشاء مواد مزيفة ونشرها ، يمكن مقاضاته فقط إذا كان يُضايق مباشرة المستهدف من خلال توجيه المواد إليه ، أو بموجب تشريعات متعلقة بحقوق المؤلف.
في الحالة الأولى ، يؤدي سهولة انتشار محتوى جديد مزيف وجماهيره إلى حماية المزيف ، حيث يصل عمله إلى المستهدف من خلال أطراف ثالثة غير متعلقة.
في الحالة الثانية، لا يُرجح أن تكون الملاحقة ممكنة إلا إذا كان الفيديو الإباحي الأصلي غير المعدل لطرف ثالث، الذي تُركب عليه لاحقًا هوية الضحية، منتجًا باحتراف ومحميًا بصورة مشروعة بحقوق المؤلف في المملكة المتحدة، حتى لو أمكن الحصول على فيديو مناسب بحرية من أي ولاية قضائية قانونية في العالم. ولا يتمتع فيديو «هواة» من أي ولاية قضائية بوضع واضح لحقوق المؤلف. أما الفيديو الذي صوره صانع التزييف خصيصًا لتركيب الضحية فيه فهو، على نحو ساخر، محمي هو نفسه بحقوق المؤلف ما دام متوافقًا مع القوانين الأخرى.
متأخرون عن التطورات
في ديسمبر 2021 ، اقترحت لجنة القانون في المملكة المتحدة توسيع قوانين الكراهية لتشمل العداء القائم على الجنس ، لكنه لم يُقترح إدراج الصور المزيفة في هذه الفئة ، على الرغم من وجود أمثلة متعددة لاستخدام هذه التكنولوجيا في جميع أنحاء العالم (خصوصًا في الهند) ضد السياسيات النساء والناشطات. والنساء هن الغالبية الساحقة من أهداف التزييف العميق غير المشروع، سواء كانت دوافع صانعيه اجتماعية علنية، مثل الإذلال والإقصاء من المنصات وسلب القوة، أو شهوانية بحتة، أي إباحية.
في مارس 2021 ، انتقدت المراجعة الوطنية للقانون الإطار القانوني في المملكة المتحدة بوصفه غير كافٍ إطلاقًا في ذلك الوقت للتعامل مع التزييف العميق، ويفتقر حتى إلى الآليات القانونية الأساسية لحماية صورة الشخص.
قوانين الصور المزيفة في الولايات المتحدة
في المقابل ، تحمي الولايات المتحدة إلى حد ما حق الأشخاص في التحكم في الاستخدام التجاري لهوياتهم (right of publicity) ، على الرغم من أن هذه القوانين لا توجد على المستوى الفيدرالي (في الوقت الحالي ، توجد هذه القوانين في نحو نصف من الولايات الأمريكية ، مع آليات قانونية متباينة).
ورغم تحسن وضع الولايات المتحدة مقارنة بالمملكة المتحدة، فإن تغطيتها تظل متفرقة بحسب الولاية، ويبدو أنها مصممة على معالجة قدرة التقنية على التلاعب السياسي قبل الانتقال لاحقًا إلى أثرها على الأفراد.
في عام 2019 ، جرمت ولاية تكساس إنشاء أو نشر الصور المزيفة السياسية ، مع مشروع قانون تكساس السناتور 751 (SB751) ، دون ذكر للمواد الإباحية المزيفة. وفي السنة نفسها، أضافت ولاية فرجينيا تعديلًا إلى قانون قائم بشأن النشر أو البيع غير المشروع لصور شخص آخر، بإضافة التعبير الواسع «صورة فيديو أو صورة ثابتة مُنشأة على نحو زائف».
في عام 2020 ، سنّت ولاية كاليفورنيا قانون جمعية كاليفورنيا 602 (AB 602) الذي يحظر إنشاء أو نشر الصور الإباحية المزيفة. لا يحتوي القانون على فترة انتهاء سريانه ، ولكنه يحتوي على فترة حد زمني مدتها ثلاث سنوات ، ويرافقها بند منفصل يغطي الصور المزيفة السياسية.
في نهاية عام 2020 ، مررت ولاية نيويورك مشروع قانون مجلس الشيوخ S5959D ، الذي يحظر ليس فقط إنشاء أو إعادة نشر الصور الإباحية المزيفة ، ولكن أيضًا يحمي حق الشخص في التحكم في الاستخدام التجاري لهويته فيما يتعلق بصورة شبيهة به مولدة حاسوبيًا ، من خلال الصور المزيفة أو CGI أو أي وسيلة أخرى ، حتى بعد الوفاة (إذا كان الشخص المعني مقيمًا في نيويورك في وقت وفاته).
أخيرًا ، قامت ولاية ماريلاند بتعديل قوانينها حول المواد الإباحية للأطفال لتشمل وجرائم استخدام الصور المزيفة ، على الرغم من عدم معالجة تأثير الصور المزيفة على الأهداف البالغين.
في انتظار “DeepfakeGate”
يشير التاريخ إلى أن الأضرار التي قد تسببها التكنولوجيا الجديدة يجب أن تصبح شخصية لأمة لتعجيل استجابتها التشريعية. الموت الحديث لشابة في مصر التي كانت تُزعم أنها تُ ابتز من قبل صور إباحية مزيفة موت شابة تلقى تغطية محدودة في وسائل الإعلام الغربية ، في حين أن الكشف عن سرقة 35 مليون دولار في الإمارات العربية المتحدة ، الذي تم الكشف عنه في عام 2021 ، يمثل أيضًا “حدثًا بعيدًا” غير محتمل أن يسرع استجابة مجلس الشيوخ أو يُشعل النار تحت الدول الـ 45 المتبقية التي لم تسن تشريعات الصور المزيفة بعد.
إذا اتخذت الولايات المتحدة موقفًا موحدًا حول إساءة استخدام تقنية الصور المزيفة ، فمن المحتمل أن تؤثر التشريعات الشاملة على حوكمة البنية التحتية للاتصالات والبيانات وتخزينها ، مما يؤدي إلى تغييرات سريعة في السياسات التي تفرضها على شركائها التجاريين في جميع أنحاء العالم. حقيقة أن تبني أوروبا للائحة العامة لحماية البيانات لم يؤد إلى تغييرات متقابلة في سياسة جمع البيانات وتخزينها في أمريكا الشمالية لا يعني أن الاتحاد الأوروبي لن يتمكن من الحصول على رافعةضغط على الدول الأقل مطاوعة التي تتعامل معها إذا ما اتخذ موقفًا تشريعيًا أكثر التزاما بشأن إنشاء وتخزين الصور الإباحية المزيفة.
لكن شيئًا ما يجب أن يحدث في “المنطقة الصفراء” أولاً ، في واحدة من هذه المجموعات الرائدة من البلدان; ونحن لا تزال ننتظر ذلك: مصادرة السلطات على الشبكة المظلمة لكمية هائلة من مواد تصور الاعتداء الجنسي على الأطفال (CSAM); سرقة كبيرة باستخدام تقنيات الصور المزيفة الصوتية والمرئية لخداع مدير شركة أمريكي في توجيه مبلغ كبير من المال; أو ما يعادل الأمريكي لاستخدام الصور المزيفة لضرب النساء في بلدان أكثر أبويّة (إذا كانت ثقافة الولايات المتحدة حقًا مجهزة لعكس هذه الأحداث ، وهو ما يشكك فيه). هذه أمور صعبة للتمني ، وأمور جيدة لتجنبها ب أي طريقة أخرى غير وضع الرأس في الرمال أو انتظار حدث “مؤثر”.
إحدى المشكلات الأساسية التي يتفاداها الاتحاد الأوروبي حاليًا بتوجيه قوته التشريعية إلى شركات الإعلان التي تريد الترويج لتزييفاتها الذكية والمشروعة، هي أن التزييفات لا تزال صعبة في الكشف عنها بشكل خوارزمي; تعتمد معظم أساليب الكشف التي تظهر على arXiv كل شهر على وضع العلامات المائية أو التحقق القائم على البلوك تشين أو تغيير البنية التحتية التي نستخدمها حاليًا لاستهلاك الفيديو بحرية – حلول تنطوي على مراجعة قانونية جذرية لمفهوم الفيديو بوصفه بديلًا عن «الحقيقة». أما الطرق الأخرى فتتجاوزها باستمرار التطورات في مشاريع التزييف العميق الشائعة مفتوحة المصدر.
مشكلة أخرى هي أن الدول الغربية الكبرى لها حق ، في أحد الجوانب ، في عدم تقديم رد فعل انعكاسي لخيط مشكلة في حزمة من التكنولوجيا الجديدة ، العديد منها واعد بفوائد هائلة للمجتمع والصناعة ، والذي يمكن أن يتأثر سلبًا بطرق مختلفة إذا بدأت الحظر والتنظيم السريع لأنظمة التوليد الصورية استجابة لحدث كبير وللاحتجاجات اللاحقة.
ومع ذلك ، قد يكون من الجيد على الأقل تسريع المسار البطيء والغالبًا ما يكون بدون هدف نحو تنظيم الصور المزيفة ، والتقاء المشاكل المحتملة في منتصف الطريق ، وبشروطنا الخاصة ، بدلاً من أن نُجبر من قبل الأحداث اللاحقة على استجابة أقل تفكيرًا.
* يُتهم المتهمون بالابتزاز; لا يوجد قانون مصري يغطي الصور الإباحية المزيفة.
نشر لأول مرة في 24 يناير 2022.












