التعريف الغامض لـ “Deepfake”

دراسة جديدة ومثيرة للاهتمام من ألمانيا تنتقد تعريف قانون الاتحاد الأوروبي للذكاء الاصطناعي لمصطلح “Deepfake” بأنه غامض للغاية، خاصة في سياق التلاعب بالصور الرقمية. يجادل المؤلفون بأن القانون يركز على المحتوى الذي يشبه الأشخاص أو الأحداث الحقيقية – ولكن قد يظهر على أنه مزيف – ويتعرض لانتقادات بسبب عدم وضوح تعريفه.

كما يسلطون الضوء على أن استثناءات القانون لتعديلات “التركيب القياسي” (أي التعديلات التي يتم إجراؤها على الصور باستخدام الذكاء الاصطناعي) لا تأخذ في الاعتبار تأثير الذكاء الاصطناعي الواسع في التطبيقات الاستهلاكية وطبيعة التقاليد الفنية التي تسبق ظهور الذكاء الاصطناعي.

التشريعات الغامضة حول هذه القضايا تؤدي إلى Appearancekhatarين رئيسيين: “تأثير التبريد”، حيث يثبط نطاق تفسير القانون الواسع الابتكار واعتماد أنظمة جديدة؛ و “تأثير المخالف”، حيث يتم تجاهل القانون لأنه يُعتبر متجاوزًا أو غير ذي صلة.

في كلتا الحالتين، التشريعات الغامضة تؤدي إلى نقل مسؤولية وضع تعريفات قانونية عملية إلى أحكام المحكمة في المستقبل – وهو نهج حذر ومتحفظ في التشريع.

تكنولوجيا التلاعب بالصور باستخدام الذكاء الاصطناعي لا تزال متقدمة بشكل ملحوظ على قدرة التشريعات على التعامل معها. على سبيل المثال، يلاحظ المؤلفون أن وظيفة “Scene Optimizer” في الكاميرات الحديثة من سامسونج يمكن أن تحل محل الصور التي التقطها المستخدمون من القمر (موضوع صعب) بصور محسنة بواسطة الذكاء الاصطناعي:

أعلى 왼쪽، مثال من الورقة الجديدة لصورة حقيقية التقطها مستخدم من القمر، إلى 왼쪽 صورة محسنة بواسطة سامسونج تلقائيًا باستخدام Scene Optimizer؛ يمين، رسم توضيحي رسمي من سامسونج لعملية هذا؛ أسفل 왼쪽، أمثلة من مستخدم Reddit u/ibreakphotos، مما يظهر (왼쪽) صورة مقصودة للقمر و (يمين)، إعادة تصور سامسونج لهذه الصورة – على الرغم من أن الصورة الأصلية كانت صورة لشاشة، وليس القمر الحقيقي. مصادر (ساعة من أعلى 왼쪽): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

في الجزء السفلي الأيسر من الصورة أعلاه، نرى صورتين للقمر. الصورة على 왼쪽 التقطها مستخدم Reddit. هنا، تم تقليل دقة الصورة وتحويلها إلى صورة أقل جودة بواسطة المستخدم.

إلى يمينها نرى صورة للصورة نفسها التقطت بكاميرا سامسونج مع تمكين المعالجة التلقائية بواسطة الذكاء الاصطناعي. الكاميرا قامت تلقائيًا بتعزيز الكائن المعروف “القمر”، حتى لو لم يكن القمر الحقيقي.

الورقة تنتقد بشكل أعمق ميزة “Best Take” المضمنة في الهواتف الذكية الأخيرة من جوجل – ميزة الذكاء الاصطناعي المثيرة للجدل التي تحرر أفضل أجزاء صورة جماعية، من خلال مسح عدة ثوان من تسلسل التصوير بحيث يتم تقديم الابتسامة إلى الأمام أو إلى الخلف في الوقت المناسب – ولا يظهر أحد في منتصف النوم.

الورقة تدعي أن هذا النوع من العملية المركبة له القدرة على تشويه الأحداث:

‘[في] إعداد صورة جماعية نموذجية، سيظل المشاهد العادي يعتبر الصورة الناتجة حقيقية. الابتسامة التي تم إدراجها موجودة في غضون بضع ثوان من الصورة المتبقية.

‘من ناحية أخرى، إطار زمني ميزة أفضل اختبار كافٍ لتغيير المزاج. قد يتوقف شخص ما عن الابتسامة بينما يضحك باقي المجموعة على نكتة على حسابه.

‘نتيجة لذلك، نعتقد أن مثل هذه الصورة الجماعية قد تشكل بالفعل عميقًا.

الورقة الجديدة بعنوان ما يشكل عميقًا؟ الخط الفاصل بين المعالجة الشرعية والتحريف بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي، ويأتي من باحثين في مختبر القانون الحاسوبي بجامعة توبينغن، وجامعة سارلاند.

حيل قديمة

التلاعب بالزمن في التصوير هو أقدم بكثير من تكنولوجيا الذكاء الاصطناعي المستخدمة من قبل المستهلكين. يلاحظ مؤلفو الورقة الجديدة وجود تقنيات أقدم بكثير يمكن أن يُعتبرها “غير حقيقية”، مثل دمج عدة صور متتالية في صورة عالية الدقة (HDR) أو صورة مخيطة بانورامية.

في الواقع، كانت بعض الأكاذيب الفوتوغرافية الأكثر قدامة ومسلية تم إنشاؤها تقليديًا بواسطة طلاب المدارس الذين يركضون من أحد طرفي صورة جماعية إلى الطرف الآخر، أمام مسار الكاميرات البانورامية الخاصة التي كانت تستخدم في التصوير الرياضي والجماعي – مما يسمح للطالب بالظهور مرتين في نفس الصورة:

كانت إغراء خداع الكاميرات البانورامية خلال الصور الجماعية كبيرًا جدًا للطلاب، الذين كانوا على استعداد للمخاطرة بجلدة سيئة في مكتب المدير من أجل “تكرار” أنفسهم في الصور المدرسية. مصدر: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

إذا لم تكن ت拍صورة في وضع RAW، الذي يفرغ حساس العدسة إلى ملف كبير جدًا دون أي تفسير، فمن المحتمل أن تكون صورك الرقمية غير حقيقية تمامًا. الأنظمة الكاميرا تطبق روتينًا من خوارزميات “التحسين” مثل تحسين الصورة وضبط الأبيض، افتراضيًا – وقد فعلت ذلك منذ أصول التصوير الرقمي للمستهلكين.

يجادل مؤلفو الورقة الجديدة بأن حتى هذه الأنواع القديمة من تعديل الصور الرقمية لا تمثل “الواقع”، لأن هذه الأساليب مصممة لجعل الصور أكثر جاذبية، وليس أكثر “حقيقية”.

الدراسة تشير إلى أن قانون الاتحاد الأوروبي للذكاء الاصطناعي، حتى مع التعديلات اللاحقة مثل المراجع 123-27، يضع جميع الإخراج الفوتوغرافي في إطار إثباتي غير مناسب للسياق الذي يتم فيه إنتاج الصور هذه الأيام، على عكس (الطبيعة الموضوعية) لفيلم الأمان أو التصوير الفوتوغرافي الشرعي.

يُشير الباحثون إلى أن الصور “لم تكن تمثيلاً موضوعيًا للواقع أبدًا”. العوامل مثل موقع الكاميرا، وعمق المجال المحدد، وخيارات الإضاءة، كلها تساهم في جعل الصورة глубoko ذاتية.

تُشير الورقة إلى أن مهام “التنظيف” الروتينية – مثل إزالة الغبار من الحساس أو الأسلاك غير المرغوب فيها من مشهد معماري جيد – كانت نصف آلية فقط قبل ظهور الذكاء الاصطناعي: كان على المستخدمين اختيار منطقة أو إطلاق عملية لتحقيق النتيجة المرغوبة.

اليوم، يتم تشغيل هذه العمليات غالبًا بواسطة نصوص التحفيز التي يقدمها المستخدم، و特别 في أدوات مثل Photoshop. على مستوى المستهلك، يتم توفير هذه الميزات بشكل متزايد تلقائيًا دون مدخلات من المستخدم – وهو نتيجة يُعتبرها المصنعون والمنصات مرغوبة بشكل واضح.

معنى “Deepfake” المخفف

التحدي الرئيسي للتشريعات حول الصور والصور المتحركة المعدلة بواسطة الذكاء الاصطناعي هو غموض مصطلح “Deepfake”، الذي تم توسيعه بشكل ملحوظ خلال العامين الماضيين.

في الأصل، تم تطبيق المصطلح فقط على الإخراج الفيديوي من أنظمة الترميز التلقائي مثل DeepFaceLab و FaceSwap، والتي تم اشتقاقها من رمز مجهول تم نشره على Reddit في أواخر عام 2017.

من عام 2022، جاءت نماذج الانتشار الكامن (LDMs) مثل الانتشار المستقر و الانتشار، بالإضافة إلى أنظمة النص إلى الفيديو مثل سورا، مما يسمح بالتبادل الهويات والتعديل بdecision أفضل دقة وتنوع وواقعية. الآن، كان من الممكن إنشاء نماذج انتشار يمكنها تصوير المشاهير والسياسيين.

لاحقًا، في وسائل الإعلام والأدب البحثي، تم تضمين المصطلح أيضًا التقليد النصي. في هذه المرحلة، كان المعنى الأصلي لـ “Deepfake” قد فقد تمامًا، بينما كان معناه الموسع يتطور باستمرار ويتلاشى بشكل متزايد.

لكن بما أن الكلمة كانت كلمة رائعة وجذابة، وأصبحت نقطة توجيه قوية في السياسة والإعلام، فقد ثبت أنه من المستحيل التخلي عنها. لقد جذبت القراء إلى المواقع، والتمويل إلى الباحثين، والانتباه إلى السياسيين. هذه الغموض اللغوي هو焦点 البحث الجديد.

كما يلاحظ المؤلفون، ينص المادة 3(60) من قانون الاتحاد الأوروبي للذكاء الاصطناعي على أربعة شروط تحدد “Deepfake”.

1: القمر الحقيقي

أولاً، يجب أن يكون المحتوى مُنشأ أو مُعدل، أي أن يكون قد تم إنشاؤه من الصفر باستخدام الذكاء الاصطناعي (الإنشاء) أو تعديله من البيانات الحالية (التعديل). تسلط الورقة الضوء على صعوبة التمييز بين نتائج تحرير الصور “مقبولة” و “Deepfakes” المخادعة، بالنظر إلى أن الصور الرقمية ليست في أي حال تمثيلاً حقيقياً للواقع.

تدعي الورقة أن صورة القمر التي تم إنشاؤها بواسطة سامسونج يمكن أن تكون حقيقية، لأن القمر غير مرجح أن يتغير مظهره، وأن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، والمدرب على صور قمر حقيقية، من المحتمل أن يكون دقيقًا.

然而، يذكر المؤلفون أيضًا أنه منذ أن أظهر نظام سامسونج القدرة على إنشاء صورة “مُحسنة” للقمر في حالة كانت الصورة الأصلية ليست القمر نفسه، فإن هذا سيكون considered “Deepfake”.

سيكون من غير الواقعي وضع قائمة شاملة للاستخدامات المتنوعة حول هذا النوع من الوظائف العرضية. لذلك يبدو أن عبء التعريف يمر مرة أخرى إلى الأحكام القضائية.

2: TextFakes

ثانيًا، يجب أن يكون المحتوى في شكل صورة أو صوت أو فيديو. المحتوى النصي، على الرغم من خضوعه لالتزامات الشفافية الأخرى، لا يُعتبر “Deepfake” بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي. هذا لا يتم تغطيته بالتفصيل في الدراسة الجديدة، على الرغم من أنه يمكن أن يكون تأثيرًا كبيرًا على فعالية “Deepfakes” البصرية (انظر أدناه).

3: مشاكل العالم الحقيقي

ثالثًا، يجب أن يشبه المحتوى أشخاصًا أو أشياء أو أماكن أو كيانات أو أحداث حقيقية. هذا الشرط يحدد اتصالًا بالعالم الحقيقي، مما يعني أن الصور المخترعة بالكامل، حتى لو كانت فوتوغرافية، لن تُعتبر “Deepfake”. يُشدد المرجع 134 من قانون الاتحاد الأوروبي للذكاء الاصطناعي على جانب “الشبه” من خلال إضافة كلمة “كبير” (إشارة واضحة إلى الأحكام القضائية اللاحقة).

يطرح المؤلفون، مستشهدين بأعمال سابقة، السؤال عما إذا كان يجب أن ينتمي وجه تم إنشاؤه بواسطة الذكاء الاصطناعي إلى شخص حقيقي، أو ما إذا كان يجب أن يكون فقط مشابهًا بشكل كافٍ لشخص حقيقي لتحقيق هذا التعريف.

على سبيل المثال، كيف يمكن تحديد ما إذا كانت تسلسل صور فوتوغرافية حقيقية تظهر دونالد ترامب له意图 التقليد، إذا لم تذكر الصور (أو النصوص المرفقة) ترامب بشكل محدد؟ التعرف على الوجه? استطلاعات المستخدمين؟ تعريف القاضي للعقل السليم؟

بالنسبة إلى قضية “TextFakes” (انظر أعلاه)، غالبًا ما تشكل الكلمات جزءًا كبيرًا من عمليات التقليد البصري. على سبيل المثال، يمكن أخذ صورة (غير معدلة) ل “شخص أ“، ويمكن القول في عنوان أو منشور على وسائل التواصل الاجتماعي، أن الصورة هي ل “شخص ب” (افتراض أن الشخصين يتشابهان).

في مثل هذه الحالة، لا يُستخدم الذكاء الاصطناعي، ويمكن أن يكون النتيجة فعالة بشكل ملحوظ – ولكن هل يُعتبر هذا النهج البسيط “Deepfake”؟

4: تعديل واعادة بناء

أخيرًا، يجب أن يظهر المحتوى حقيقيًا أو صادقًا للمشاهد. هذا الشرط يؤكد على إدراك المشاهدين البشر. المحتوى الذي يتم التعرف عليه فقط على أنه يمثل شخصًا أو كيانًا حقيقيًا بواسطة خوارزمية لن يُعتبر “Deepfake”.

من بين جميع الشروط في 3(60)، هذا هو الذي يُعتبر أكثر توجيهًا إلى الأحكام القضائية اللاحقة، لأنه لا يسمح بأي تفسير من خلال الوسائل الفنية أو الميكانيكية.

هناك بعض الصعوبات الواضحة في التوصل إلى إجماع حول هذا التحديد الذاتي. يلاحظ المؤلفون، على سبيل المثال، أن أشخاصًا مختلفين، وأشخاصًا من أنواع مختلفة (مثل الأطفال والكبار)، قد يكونون معرضين للاعتقاد في “Deepfake” معين.

كما يلاحظ المؤلفون أن قدرات الذكاء الاصطناعي المتقدمة لأدوات مثل Photoshop تثير تحديات لتعريفات التقليد التقليدية. بينما قد تتضمن هذه الأنظمة حماية أساسية ضد المحتوى المثير للجدل أو المحظور، فإنها توسع مفهوم “التouch-up” بشكل كبير. يمكن للمستخدمين الآن إضافة أو إزالة كائنات في صورة فوتوغرافية ذات جودة عالية، مما يسمح لهم بتحقيق مستوى احترافي من الصدق الذي يعيد تعريف حدود التلاعب بالصورة.

يصرح المؤلفون:

‘نحن نجادل بأن تعريف Deepfakes الحالي في قانون الاتحاد الأوروبي للذكاء الاصطناعي والالتزامات المترتبة عليه غير محددة بما فيه الكفاية لمواجهة التحديات التي تطرحها Deepfakes. من خلال تحليل دورة حياة صورة رقمية من حساس الكاميرا إلى الميزات التحريرية الرقمية، نجد أن:

‘(1) Deepfakes غير محددة في قانون الاتحاد الأوروبي للذكاء الاصطناعي. التعريف يترك مجالًا واسعًا لما هو Deepfake.

‘(2) لا يزال غير واضح كيف يمكن اعتبار وظائف تحرير مثل ميزة “Best Take” من جوجل استثناءً من الالتزامات الشفافية.

‘(3) استثناء الصور المعدلة بشكل كبير يثير أسئلة حول ما يشكل تحريرًا كبيرًا للمحتوى وما إذا كان يجب أن يكون هذا التحرير ملحوظًا من قبل شخص طبيعي.’

استثناءات

يحتوي قانون الاتحاد الأوروبي للذكاء الاصطناعي على استثناءات يجادل المؤلفون بأنها يمكن أن تكون muy مرنة. ينص المادة 50(2) على استثناء في الحالات التي لا يتم تعديل معظم الصورة الأصلية. يلاحظ المؤلفون:

‘ما يمكن اعتباره محتوى في سياق المادة 50(2) في حالات الصوت والصور والفيديو؟ على سبيل المثال، في حالة الصور، هل يجب أن نعتبر مساحة البكسل أو المساحة المرئية للبشر؟ قد لا تتغير التلاعب الجوهرية في مساحة البكسل إدراك الإنسان، وعلى الجانب الآخر، قد تتغير التغيرات الصغيرة في مساحة البكسل إدراك الإنسان بشكل كبير.’

يقدم الباحثون مثالًا بإضافة سلاح ناري إلى صورة شخص يُشير إلى شخص آخر. من خلال إضافة السلاح، يتم تغيير ما لا يزيد عن 5% من الصورة؛ ومع ذلك، فإن الدلالة الإيحائية للجزء المتغير ملحوظة. لذلك يبدو أن هذا الاستثناء لا يأخذ في الاعتبار أي فهم “عقلاني” لتأثير تفاصيل صغيرة على دلالة الصورة الكلية.

كما يسمح القسم 50(2) باستثناءات ل “وظائف المساعدة للتعديل القياسي”. منذ أن لا يحدد القانون ما يعني “التعديل القياسي”، يبدو أن ميزات المعالجة اللاحقة المتطرفة مثل ميزة “Best Take” من جوجل محمية بهذا الاستثناء، وفقًا للمؤلفين.

الختام

الغرض المعلن من العمل الجديد هو تشجيع الدراسة متعددة التخصصات حول تنظيم Deepfakes، وتوفير نقطة انطلاق للحوارات الجديدة بين علماء الحاسوب والباحثين القانونيين.

然而، يخضع البحث نفسه إلى التكرار في عدة نقاط: غالبًا ما يستخدم مصطلح “Deepfake” كما لو كان معناه واضحًا، بينما ينتقد قانون الاتحاد الأوروبي للذكاء الاصطناعي لعدم تحديده ما يشكل Deepfake.

نُشر لأول مرة يوم الإثنين، 16 ديسمبر 2024