حماية حقوق النشر في الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي

كما ناقشنا الأسبوع الماضي، حتى النماذج الأساسية التي تقف وراء أنظمة الذكاء الاصطناعي التوليدية الشهيرة يمكن أن تنتج محتوى مخالفًا لحقوق النشر، بسبب التنضيد غير الكافي أو المتعارض، بالإضافة إلى وجود نسخ متعددة من نفس الصورة في بيانات التدريب، مما يؤدي إلى الانطباق المفرط، وزيادة احتمالية الإنتاجات القابلة للتعرف.

على الرغم من الجهود المبذولة للهيمنة على فضاء الذكاء الاصطناعي التوليدي، والضغط المتزايد لمنع انتهاك حقوق الملكية الفكرية، لا تزال المنصات الكبيرة مثل MidJourney وDALL-E من OpenAI تواجه تحديات في منع إعادة إنتاج المحتوى المحمي بحقوق النشر بشكل غير مقصود:

قدرة الأنظمة التوليدية على إعادة إنتاج البيانات المحمية بحقوق النشر تظهر بانتظام في وسائل الإعلام.

كما ظهرت نماذج جديدة، وازدادت هيمنة النماذج الصينية، فإن قمع المحتوى المحمي بحقوق النشر في النماذج الأساسية هو منظور مرهق؛ في الواقع، أعلنت شركة Open.ai الرائدة في السوق العام الماضي أن من المستحيل ‘إنشاء نماذج مفيدة ومهمة دون استخدام مواد محمية بحقوق النشر‘.

الفن السابق

فيما يتعلق bằng إنتاج المحتوى المخالف لحقوق النشر بشكل غير مقصود، فإن المشهد البحثي يواجه تحديًا مشابهًا لما يواجهه فيما يتعلق بتشمل المواد الإباحية وغيرها من المواد غير المناسبة في بيانات المصدر: يرغب المرء في الحصول على الفوائد من المعرفة (أي التركيب الصحيح للجسم البشري، الذي كان دائمًا مبنيًا على الدراسات العارية) دون القدرة على إساءة استخدامها.

كما يرغب مصممو النماذج في الحصول على فوائد المواد الكبيرة المحمية بحقوق النشر التي توجد في مجموعات بيانات كبيرة مثل LAION، دون أن تطور النموذج القدرة على انتهاك حقوق النشر.

تجاهل المخاطر الأخلاقية والقانونية لمحاولة إخفاء استخدام المواد المحمية بحقوق النشر، فإن الترشيح للحالة الثانية أكثر صعوبة بكثير. غالبًا ما تحتوي المواد الإباحية على سمات كامنة واضحة يمكن اكتشافها بسهولة دون الحاجة إلى مقارنات مباشرة مع المواد الحقيقية. في المقابل، فإن التضمين الكامن الذي يحدد ملايين الأعمال المحمية بحقوق النشر لا يقلل إلى مجموعة من العلامات القابلة للتعرف بسهولة، مما يجعل الكشف التلقائي أكثر تعقيدًا.

CopyJudge

الاحكام البشرية هي سلعة نادرة ومكلفة، سواء في تنضيد مجموعات البيانات أو في إنشاء مرشحات ما بعد المعالجة وأنظمة “الأمان” المصممة لضمان عدم تسليم مواد محمية بحقوق النشر إلى مستخدمي منصات API مثل MidJourney ووظيفة إنشاء الصور في ChatGPT.

لذلك تقدم التعاون الأكاديمي الجديد بين سويسرا و Sony AI والصين CopyJudge – وهي طريقة آلية لتنسيق مجموعات متتالية من “القضاة” الذين يمكنهم فحص الإدخالات بحثًا عن علامات على انتهاك حقوق النشر المحتملة.

CopyJudge تقييم مختلف التوليدات التي تنتهك حقوق النشر. Source: https://arxiv.org/pdf/2502.15278

CopyJudge تقدم إطارًا تلقائيًا يستخدم نماذج اللغة والرؤية الكبيرة (LVLMs) لتحديد التشابه الكبير بين الصور المحمية بحقوق النشر والصور التي تنتجها نماذج التوليد من الصور إلى النص.

منهج CopyJudge يستخدم التعلم بالتعزيز لتحسين التوليدات التي تنتهك حقوق النشر، ثم يستخدم المعلومات من هذه التوليدات لإنشاء توليدات جديدة أقل احتمالاً لاستدعاء الصور المحمية بحقوق النشر.

على الرغم من أن العديد من مولدات الصور التلقائية عبر الإنترنت تفرز إدخالات المستخدمين بحثًا عن المحتوى الإباحي والمواد المحمية بحقوق النشر وإعادة إنشاء الأشخاص الحقيقين والمجالات المحظورة الأخرى، فإن CopyJudge يستخدم بدلاً من ذلك التوليدات “المخالفة” الم tinhة لإنشاء توليدات “منظفة” أقل احتمالاً لاستدعاء الصور المحظورة، دون意图 حجب إدخال المستخدم مباشرة.

على الرغم من أن هذه ليست طريقة جديدة، إلا أنها تسهم في تحرير أنظمة التوليد التلقائية القائمة على واجهات برمجة التطبيقات من رفض إدخالات المستخدمين فقط (أقل على الأقل لأن هذا يسمح للمستخدمين بتطوير دخول خلفي إلى توليدات محظورة من خلال التجربة).

كان هناك اختراق حديث (الذي أغلقه المطورون) سمح للمستخدمين بإنشاء مواد إباحية على منصة Kling التوليدية ببساطة عن طريق إدراج صليب أو صليب في الصورة التي تم تحميلها في تدفق الصورة إلى الفيديو.

في ثغرة تم إغلاقها بواسطة مطورو Kling في أواخر عام 2024، يمكن للمستخدمين إجبار النظام على إنتاج مخرجات محظورة ببساطة عن طريق إدراج صليب أو صليب في صورة تدفق الصورة إلى الفيديو. Source: Discord

تؤكد الحالات مثل هذه على ضرورة تنقية الإدخالات في الأنظمة التوليدية عبر الإنترنت، لا سيما لأن إعادة تعلم الآلة، حيث يتم تعديل نموذج الأساس نفسه لإزالة المفاهيم المحظورة، يمكن أن يكون لها آثار غير مرغوب فيها على قابلية استخدام النموذج النهائي.

البحث عن حلول أقل دراماتيكية، نظام CopyJudge يقلد الأحكام القضائية البشرية باستخدام الذكاء الاصطناعي لتقسيم الصور إلى عناصر رئيسية مثل التكوين واللون، لتصفية الأجزاء غير المحمية بحقوق النشر، ومقارنة ما تبقى.

كما يتضمن نظام CopyJudge طريقة مدفوعة بالذكاء الاصطناعي لتعديل الإدخالات وتعديل توليد الصور، مما يساعد في تجنب مشاكل حقوق النشر مع الحفاظ على المحتوى الإبداعي.

النتائج التجريبية، كما يؤكد المؤلفون، تظهر أن نظام CopyJudge ي相当 في القوة مع النهج الحديث في هذا السعي، ويشير إلى أن النظام يظهر تفوقًا في التعميم والفهم، بالمقارنة مع الأعمال السابقة.

الورقة الجديدة بعنوان CopyJudge: تحديد وتخفيف انتهاك حقوق النشر التلقائي في نماذج التوليد من الصور إلى النص، وهي من تأليف خمسة باحثين من EPFL و Sony AI وجامعة Westlake في الصين.

الطريقة

على الرغم من أن نظام CopyJudge يستخدم GPT لإنشاء هيئات قضائية آلية متتالية، يشير المؤلفون إلى أن النظام ليس محسّنًا لمنتج OpenAI، وأن أي عدد من نماذج اللغة والرؤية الكبيرة (LVLMs) البديلة يمكن استخدامها بدلاً من ذلك.

في البداية، يتطلب إطار العمل التجريدي-الترشيح-المقارنة للمؤلفين تحليل الصور المصدر إلى أجزاء متكونة، كما هو موضح في الجانب الأيسر من المخطط أدناه:

مخطط مفاهيمي للphase الأول من تدفق عمل CopyJudge.

في الزاوية اليسرى السفلى، نرى وكالة ترشيح تقوم بتحليل أقسام الصور في محاولة لتحديد السمات التي قد تكون أصلية في عمل محمي بحقوق النشر، ولكنها في حد ذاتها تكون quá عامة لتحديد انتهاك.

ثم يتم استخدام نماذج اللغة والرؤية الكبيرة متعددة لتقدير العناصر المرشحة – وهي نهج أثبتت فاعليتها في الأوراق مثل عرض 2023 من CSAIL بعنوان تحسين الحقيقة والاستدلال في نماذج اللغة من خلال المناقشة متعددة الوكلاء، و ChatEval، من بين أوراق أخرى متنوعة معترف بها في الورقة الجديدة.

يصرح المؤلفون:

‘[نحن] نتبنى نهجًا للترشيح المتزامن بالكامل للتواصل، حيث يتلقى كل نموذج لغة ورؤية كبيرة استجابات النماذج الأخرى قبل إصدار الحكم التالي. هذا يخلق حلقة تغذية راجعة ديناميكية تعزز من موثوقية وعمق التحليل، حيث يتكيف النماذج مع تقييماتها بناءً على رؤى جديدة مقدمة من زملائهم. ‘

‘يمكن لكل نموذج لغة ورؤية كبيرة تعديل درجةه بناءً على استجابات النماذج الأخرى أو إبقائها دون تغيير.’

كما يتم تضمين أزواج متعددة من الصور التي تم تقييمها من قبل البشر في العملية من خلال التعلم في السياق القليل.

مرة واحدة بعد أن توصلت “المحاكم” في الحلقة إلى درجة إجماع تقع في نطاق القبول، يتم تمرير النتائج إلى “قاضي” نموذج لغة ورؤية كبيرة، الذي يدمج النتائج في درجة نهائية.

التخفيف

بعد ذلك، ركز المؤلفون على عملية تخفيف الإدخالات الموصوفة سابقًا.

مخطط CopyJudge لتخفيف انتهاك حقوق النشر من خلال تحسين الإدخالات والضوضاء الكامنة. النظام يعدل الإدخالات بشكل متكرر بناءً على التغذية المرتدة المتكررة ويتعلم بالتعزيز لتعديل المتغيرات الكامنة، مما يقلل من خطر الانتهاك.

استخدم المؤلفون نهجين لخفيف الإدخالات: التحكم في الإدخالات القائم على نموذج لغة ورؤية كبيرة، حيث يتم تطوير إدخالات غير مخالفة بشكل متكرر عبر مجموعات GPT – وهي نهج كلي تمامًا، لا يتطلب الوصول الداخلي إلى هيكل النموذج؛ ونهج قائم على التعلم بالتعزيز، حيث يتم تصميم المكافأة لتحديد النتائج التي تنتهك حقوق النشر.

البيانات والاختبارات

لاختبار نظام CopyJudge، تم استخدام مجموعات بيانات متعددة، بما في ذلك D-Rep، التي تحتوي على أزواج صور حقيقية ومزيفة تم تقييمها من قبل البشر على تصنيف من 0 إلى 5.

استكشاف مجموعة بيانات D-Rep في Hugging Face. هذه المجموعة تجمع بين الصور الحقيقية والمولدة. Source: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

تم اعتبار الصور في D-Rep التي تم تقييمها بدرجة 4 أو أعلى كمثال على انتهاك حقوق النشر، مع احتفاظ الباقي كأمثلة غير متعلقة بحقوق النشر. تم استخدام 4000 صورة رسمية في المجموعة البيانية كصور اختبار. بالإضافة إلى ذلك، قام الباحثون باختيار وتحضير صور لمجموعة من 10 شخصيات كرتونية مشهورة من ويكيبيديا.

تم استخدام ثلاثة هياكل توليدية قائمة على الانتشار لإنشاء صور قد تنتهك حقوق النشر: Stable Diffusion V2؛ Kandinsky2-2؛ و Stable Diffusion XL. تم اختيار صورة مخالفة وصورة غير مخالفة يدوياً من كل نموذج، مما أدى إلى 60 عينة إيجابية و 60 عينة سلبية.

تم اختيار الأساليب الأساسية للمقارنة هي: L₂ norm؛ Learned Perceptual Image Patch Similarity (LPIPS)؛ SSCD؛ RLCP؛ و PDF-Emb. تم استخدام الدقة و درجة F1 كمعايير لانتهاك حقوق النشر.

تم استخدام GPT-4o لتحديث فرق المناقشة الداخلية لنظام CopyJudge، باستخدام ثلاثة وكلاء لحد أقصى خمس تكرارات على أي صورة معينة تم تقديمها. تم استخدام ثلاث صور عشوائية من كل تصنيف في D-Rep كأولويات بشرية للوكلاء.

نتائج انتهاك حقوق النشر لنظام CopyJudge في الجولة الأولى.

من هذه النتائج، يعلق المؤلفون:

‘من الواضح أن أساليب الكشف عن النسخ التقليدية تظهر حدودًا في مهمة تحديد انتهاك حقوق النشر. نهجنا يتفوق بشكل كبير على معظم الأساليب. بالنسبة لنهج PDF-Emb، الذي تم تدريبه على 36,000 عينة من D-Rep، أداءنا على D-Rep أقل قليلاً. ‘

‘然而، أداءه الضعيف على مجموعة Cartoon IP و Artwork يبرز نقصًا في القدرة على التعميم، بينما يظهر نهجنا نتائج ممتازة بشكل متساوٍ عبر المجموعات البيانية.’

كما يشير المؤلفون إلى أن نظام CopyJudge يوفر “حدودًا أكثر تمييزًا” بين الحالات الصالحة والانتهاكات:

أمثلة إضافية من جولات الاختبار، في المواد الإضافية للورقة الجديدة.

قارن الباحثون نهجهم بتعاون تم إجراؤه مع Sony AI في عام 2024 بعنوان الكشف عن التفسير والتخفيف من التذكر في نماذج الانتشار. هذا العمل استخدم نموذجًا من نموذج Stable Diffusion المحدد الذي تم تعديله لاستدعاء بيانات محمية بحقوق النشر في وقت الاستدلال.

وجد مؤلفو العمل الجديد أن نهجهم لتخفيف الإدخالات كان قادرًا على إنتاج صور أقل احتمالاً لانتهاك حقوق النشر.

نتائج تخفيف التذكر مع نظام CopyJudge مقابل العمل في عام 2024.

يعلق المؤلفون هنا:

‘نهجنا يمكن أن يولد صورًا أقل احتمالاً لانتهاك حقوق النشر مع الحفاظ على دقة مطابقة الصور والنصوص. كما هو موضح في الصورة أدناه، نهجنا يتفوق على نهج السابق في تجنب التذكر وإنشاء صور منحرفة.’

مقارنة بين الصور المولدة وقبل وبعد تخفيف التذكر.

أجرى المؤلفون اختبارات إضافية تتعلق بتخفيف انتهاك حقوق النشر، دراسة الانتهاك الصريح و الانتهاك الضمني.

الانتهاك الصريح يحدث عندما تشير الإدخالات بشكل مباشر إلى مواد محمية بحقوق النشر، مثل ‘إنشاء صورة لميكي ماوس’. لاختبار ذلك، استخدم الباحثون 20 عينة من الكرتون والفنون، وإنشاء صور مخالفة في Stable Diffusion v2 باستخدام إدخالات تحتوي على أسماء أو إسنادات مؤلف.

مقارنة بين نهج التحكم في الإدخالات (LC) ونهج التحكم في الإدخالات السابق (PC) في Stable Diffusion لإنشاء صور تظهر انتهاكًا صريحًا.

الانتهاك الضمني يحدث عندما لا تحتوي الإدخال على إشارات صريحة إلى حقوق النشر، ولكنها تؤدي إلى إنشاء صورة مخالفة بسبب عناصر وصفية معينة – سيناريو ذو صلة خاصة بالنماذج التوليدية التجارية التي غالبًا ما تتضمن أنظمة كشف المحتوى لتحديد وتحجب الإدخالات المتعلقة بحقوق النشر.

للاتطلاع على ذلك، استخدم المؤلفون نفس العينات المحمية بحقوق النشر كما في اختبار الانتهاك الصريح، وإنشاء صور مخالفة دون إشارات صريحة إلى حقوق النشر، باستخدام DALL-E 3 (على الرغم من أن الورقة تشير إلى أن وحدة الكشف عن الأمان المدمجة في النموذج تم رفض بعض الإدخالات التي أطلقت فلتره).

الانتهاك الضمني باستخدام DALLE-3، مع درجات انتهاك و CLIP.

يصرح المؤلفون:

‘من الواضح أن نهجنا يقلل بشكل كبير من احتمال الانتهاك، لكل من الانتهاك الصريح والضمني، مع انخفاض طفيف في درجة CLIP. درجة الانتهاك بعد التحكم الكامن فقط أعلى قليلاً بعد التحكم في الإدخال لأن استرجاع الكامنات غير المخالفة دون تغيير الإدخال هو تحدي.’

‘الصور أدناه تظهر نتائج التخفيض، حيث نرى أننا نتجنب انتهاك حقوق النشر مع الحفاظ على متطلبات المستخدم.’

الصور المولدة قبل وبعد تخفيف انتهاك حقوق النشر.

الاستنتاج

على الرغم من أن الدراسة تقدم نهجًا واعدًا لحماية حقوق النشر في الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، فإن الاعتماد على نماذج اللغة والرؤية الكبيرة (LVLMs) لتحديد انتهاك حقوق النشر قد يثير مخاوف بشأن الانحياز والاتساق، لأن الأحكام القائمة على الذكاء الاصطناعي قد لا تتطابق دائمًا مع المعايير القانونية.

ربما الأكثر أهمية، يفترض المشروع أيضًا أن يمكن تلقين تنفيذ حقوق النشر، على الرغم من أن القرارات القانونية في العالم الحقيقي غالبًا ما تتضمن عوامل موضوعية وسياقية قد يجد الذكاء الاصطناعي صعوبة في تفسيرها.

في العالم الحقيقي، يبدو من المحتمل أن يبقى تلقين الإجماع القانوني، وخاصة حول مخرجات الذكاء الاصطناعي، قضية خلافية تتجاوز هذه الفترة وتتجاوز نطاق المجال المعالج في هذا العمل.

نشر لأول مرة يوم الإثنين، 24 فبراير 2025