يمكن استعادة الهويات الحقيقية من مجموعات البيانات الاصطناعية

إذا كان عام 2022 يمثل اللحظة التي أصبحت فيها القدرة الإضافية للذكاء الاصطناعي على إحداث تغيير جذري تلقى انتباهًا واسعًا من الجمهور، فإن عام 2024 كان العام الذي أصبحت فيه أسئلة حول قانونية البيانات الأساسية لهذا التكنولوجيا في صدارة اهتمامات الشركات التي تتطلع إلى استغلال قوتها.

مبدأ الاستخدام العادل في الولايات المتحدة، إلى جانب الرخصة الأكاديمية الضمنية التي سمحت لفترة طويلة للقطاعات البحثية الأكاديمية والتجارية بدراسة الذكاء الاصطناعي التوليدي، أصبح غير قابل للتطبيق بشكل متزايد مع ظهور أدلة متزايدة على الانتحال. ونتيجة لذلك، منعت الولايات المتحدة، على الأقل في الوقت الحالي، محتوى الذكاء الاصطناعي المولّد من الحصول على حقوق النشر.

هذه المسائل بعيدة عن الحل، ولا تظهر أي علامات على حلها في المستقبل القريب. في عام 2023، بسبب القلق المتزايد من وسائل الإعلام والجمهور بشأن الوضع القانوني للمخرجات التي يولدها الذكاء الاصطناعي، أطلقت مكتب حقوق النشر في الولايات المتحدة تحقيقًا استمر لسنوات في هذا الجانب من الذكاء الاصطناعي التوليدي، ونشرت الجزء الأول ( المتعلق بالنسخ الرقمية) في يوليو 2024.

في غضون ذلك، لا تزال مصالح الأعمال محبطة بسبب إمكانية أن تكشف النماذج المكلفة التي ترغب في استغلالها عن عواقب قانونية عندما تظهر التشريعات والتعريفات النهائية.

الحل قصير الأمد المكلف هو شرعنة نماذج الذكاء الاصطناعي من خلال تدريبها على بيانات التي تمتلك الشركات الحق في استغلالها. تعتمد عمارة النص إلى الصورة (والآن النص إلى الفيديو) من Adobe Firefly بشكل أساسي على استحواذها على مجموعة صور فوتوليا في عام 2014، مplemented بواسطة استخدام بيانات المجال العام التي انتهت صلاحية حقوق النشر*. في الوقت نفسه، استفادت موردي الصور الفوتوغرافية المتعاقبة مثل جيتي وشاتเตอรستوك من القيمة الجديدة لبياناتهم المرخصة، مع زيادة عدد الصفقات لتسويق المحتوى أو تطوير أنظمة الذكاء الاصطناعي التوليدي المتوافقة مع الملكية الفكرية.

حلول اصطناعية

من الصعب إزالة البيانات المحمية بحقوق النشر من الفضاء الكامن لنماذج الذكاء الاصطناعي، ويمكن أن تكون الأخطاء في هذا المجال مكلفة للغاية للشركات التي تجرب حلولًا تعتمد على التعلم الآلي.

بديل رخيص لأنظمة الرؤية الحاسوبية (وأيضًا نماذج اللغة الكبيرة، أو LLMs)، هو استخدام البيانات الاصطناعية، حيث تتكون مجموعة البيانات من أمثلة محددة بشكل عشوائي من المجال المستهدف (مثل الوجوه أو القطط أو الكنائس أو حتى مجموعة أكثر تعميمًا).

أشاد الموقع thispersondoesnotexist.com منذ فترة طويلة بفكرة أن الصور الواقعية لوجوه “غير حقيقية” يمكن توليدها دون أي علاقة بال أشخاص الحقيقين في العالم الحقيقي.

لذلك، إذا قمت بتدريب نظام تعرف الوجوه أو نظام توليدي على أمثلة مجردة وغير حقيقية، يمكنك نظريًا الحصول على معيار واقعي لإنتاجية نموذج الذكاء الاصطناعي دون الحاجة إلى النظر فيما إذا كانت البيانات قانونية للاستخدام.

توازن

المشكلة هي أن الأنظمة التي تنتج البيانات الاصطناعية مدربة بنفسها على البيانات الحقيقية. إذا تسربت آثار تلك البيانات إلى البيانات الاصطناعية، فإن هذا قد يوفر أدلة على أن مواد مقيدة أو غير مصرح بها استخدمت من أجل الربح.

للتغلب على هذا، ولإنتاج صور عشوائية حقًا، تحتاج هذه النماذج إلى ضمان أنها مدربة جيدًا. التعميم هو مقياس لقدرة نموذج الذكاء الاصطناعي المدرب على فهم المفاهيم عالية المستوى (مثل الوجه أو الرجل أو المرأة) دون اللجوء إلى تكرار البيانات الحقيقية المستخدمة في التدريب.

ومع ذلك، يمكن أن يكون من الصعب على الأنظمة المدربة إنتاج (أو التعرف على) تفاصيل دقيقة ما لم يتم تدريبها بشكل مكثف على مجموعة بيانات. هذا يعرّض النظام لمخاطر التذكر: وهو ميل إلى إعادة إنتاج، إلى حد ما، أمثلة من البيانات الحقيقية المستخدمة في التدريب.

يمكن التغلب على هذا من خلال تعيين معدل تعلم أكثر استرخاء، أو من خلال إنهاء التدريب في مرحلة حيث لا تزال المفاهيم الأساسية مرنة ولا ترتبط بنقطة بيانات محددة (مثل صورة معينة لشخص، في حالة مجموعة الوجوه).

然而، من المرجح أن يؤدي كلا هذه الإصلاحات إلى نماذج بأفكار أقل دقة، لأن النظام لم يكن لديه فرصة للتقدم إلى ما وراء “الأساسيات” من المجال المستهدف، وصولاً إلى التفاصيل.

لذلك، في الأدبيات العلمية، يتم تطبيق معدلات تعلم عالية جدًا وجداول تدريب شاملة. بينما يحاول الباحثون عادةً التوفيق بين التطبيق الواسع والتفاصيل الدقيقة في النموذج النهائي، يمكن لنظم “متذكرة” قليلاً أن تظهر نفسها على أنها معممة جيدًا – حتى في الاختبارات الأولية.

كشف الوجه

هذا يأتي بنا إلى ورقة بحثية جديدة من سويسرا، التي تدعي أنها أول من يثبت أن الصور الحقيقية الأصلية التي تعمل بالبيانات الاصطناعية يمكن استردادها من الصور المولدة التي يجب أن تكون، في النظرية، عشوائية تمامًا:

تظهر النتائج، بحسب المؤلفين، أن مولدات “الاصطناعية” قد تذكر بالفعل الكثير من نقاط بيانات التدريب في بحثها عن دقة أعلى. كما تشير إلى أن الأنظمة التي تعتمد على البيانات الاصطناعية لحماية منتجي الذكاء الاصطناعي من العواقب القانونية قد تكون غير موثوقة في هذا الصدد.

أجرى الباحثون دراسة شاملة على ست مجموعات بيانات اصطناعية متقدمة، وبرهنت على أن جميع الحالات يمكن استرداد البيانات الأصلية (المحمية بحقوق النشر أو المحمية) منها. ويعلقون قائلين:

‘تظهر تجاربنا أن مجموعات بيانات التعرف على الوجوه الاصطناعية المتقدمة تحتوي على عينات قريبة جدًا من عينات بيانات التدريب لأنماطها المولدة. في بعض الحالات، تحتوي العينات الاصطناعية على تغييرات صغيرة على الصورة الأصلية، ومع ذلك، يمكننا أيضًا ملاحظة في بعض الحالات أن العينة المولدة تحتوي على المزيد من التباين (مثل وضع مختلف أو حالة إضاءة، إلخ.) بينما يتم الحفاظ على الهوية.’

‘هذا يشير إلى أن أنماط المولدات تتعلم وتتذكر المعلومات المتعلقة بالهوية من بيانات التدريب وقد تولد هويات مشابهة. هذا يخلق مخاوف حرجة بشأن تطبيق البيانات الاصطناعية في مهام حساسة للخصوصية، مثل البيومترية والتعرف على الوجوه.’

الورقة بعنوان كشف الوجوه الاصطناعية: كيف يمكن لمجموعات البيانات الاصطناعية كشف الهويات الحقيقية، وهي من تأليف باحثين من معهد أيداب البحثي في مارتيني، والجامعة الفدرالية السويسرية في لوزان، وجامعة لوزان.

الطريقة والبيانات والنتائج

كشفت عن وجوه متذكرها في الدراسة من خلال هجوم على العضوية. على الرغم من أن المفهوم يبدو معقدًا، إلا أنه ي объясن نفسه: الاستدلال على العضوية، في هذه الحالة، يشير إلى عملية استجواب النظام حتى يكشف عن بيانات تشبه أو تتشابه بشكل كبير مع البيانات التي تبحث عنها.

درست الباحثون ست مجموعات بيانات اصطناعية التي كانت مصدر بياناتها الحقيقي معروفًا. منذ أن تحتوي كل من مجموعتي البيانات الحقيقية والبيانات الاصطناعية على حجم كبير من الصور، فإن هذا يعادل البحث عن إبرة في كومة قش.

لذلك، استخدم المؤلفون نموذج تعرف الوجوه جاهزًا مع هيكل ResNet100 مدرب على وظيفة الخسارة AdaFace (على مجموعة بيانات WebFace12M).

كانت المجموعات الاصطناعية الست المستخدمة هي: DCFace (نموذج انتشار الكمون); IDiff-Face (الانتشار الموحد – نموذج انتشار يستند إلى FFHQ); IDiff-Face (مرحلة مزدوجة – متغير يستخدم طريقة عينة مختلفة); GANDiffFace (استنادًا إلى الشبكات التوليدية المعارضة والانتشار، باستخدام StyleGAN3 لتوليد هويات أولية، ثم DreamBooth لإنشاء أمثلة متنوعة); IDNet (طريقة الشبكات التوليدية المعارضة، استنادًا إلى StyleGAN-ADA); وSFace (إطار حماية الهوية).

منذ أن يستخدم GANDiffFace كلاً من الطرق التوليدية المعارضة والانتشار، فقد قورنت مع مجموعة بيانات التدريب لنموذج StyleGAN – أقرب ما يمكن أن يقدمه هذا الشبكة إلى “أصل الوجه الحقيقي”.

استثنى المؤلفون مجموعات بيانات اصطناعية تستخدم تقنيات الرسومات الحاسوبية بدلاً من الأساليب التي تعتمد على الذكاء الاصطناعي، وقيموا النتائج مع خصم المطابقات لصور الأطفال، بسبب الشوائب التوزيعية في هذا الصدد، بالإضافة إلى صور غير وجوه (التي يمكن أن تحدث بانتظام في مجموعات بيانات الوجوه، حيث تنتج أنظمة الحفريات على الويب إيجابيات خاطئة لعناصر أو أشياء تتمتع بخصائص تشبه الوجه).

تم حساب التماثل الكوزيني لجميع الأزواج المستردة، وتم دمجها في مخططات توزيع، كما هو موضح أدناه:

تمثل عدد المخاطر في النقاط على الرسم البياني أعلاه. تشير الورقة أيضًا إلى مقارنات العينات من المجموعات الست، وعيناتها المقابلة المقدرة في المجموعات الحقيقية، وبعض الاختيارات موضحة أدناه:

تعليق الورقة:

‘[تحتوي] مجموعات البيانات الاصطناعية المولدة على صور قريبة جدًا من الصور في مجموعة بيانات نموذج المولد، مما يثير مخاوف بشأن توليد مثل هذه الهويات.’

يلاحظ المؤلفون أن توسيع النطاق ل مجموعات بيانات أكبر سيكون غير فعال، حيث سيكون الحساب اللازم شديدًا. ويلاحظون أيضًا أن المقارنة البصرية كانت ضرورية لاستنتاج المطابقات، وأن التعرف التلقائي على الوجوه وحده لن يكون كافياً لمهمة أكبر.

فيما يتعلق_by أهمية البحث، ومع نظر إلى الطرق المستقبلية، تنص الورقة على:

‘نود أن نشير إلى أن الدافع الرئيسي لتوليد مجموعات بيانات اصطناعية هو معالجة مخاوف الخصوصية عند استخدام مجموعات بيانات الوجوه على نطاق واسع من الإنترنت. ‘

‘لذلك، تسرب أي معلومات حساسة (مثل هويات الصور الحقيقية في بيانات التدريب) في مجموعة البيانات الاصطناعية يثير مخاوف حرجة بشأن تطبيق البيانات الاصطناعية في مهام حساسة للخصوصية، مثل البيومترية. دراستنا تسلط الضوء على مخاطر الخصوصية في توليد مجموعات بيانات التعرف على الوجوه الاصطناعية وتفتح الطريق لدراسات مستقبلية لتوليد مجموعات بيانات الوجوه الاصطناعية المسؤولة.’

على الرغم من وعد المؤلفين بنشر الشفرة لهذه الأعمال في صفحة المشروع، لا يوجد حاليًا رابط للمستودع.

الخلاصة

في الآونة الأخيرة، ركزت وسائل الإعلام على الrendements المتضائل الذي يتم الحصول عليه من خلال تدريب نماذج الذكاء الاصطناعي على بيانات الذكاء الاصطناعي المولدة.

然而، يأتي البحث السويسري الجديد إلى الواجهة بموضوع قد يكون أكثر إلحاحًا للعديد من الشركات التي ترغب في استغلال واستفادة من الذكاء الاصطناعي التوليدي – استمرار أنماط البيانات المحمية بحقوق النشر أو غير المصرح بها، حتى في مجموعات بيانات مصممة لمكافحة هذه الممارسة. إذا كان علينا أن نعرفه، فقد يطلق عليه “غسيل الوجه”.

* ومع ذلك، فإن قرار أدوبي السماح بتحميل صور مولدة بالذكاء الاصطناعي إلى أدوبي ستوك قد أضعف من “نقاء” هذه البيانات بشكل فعال. وادعى بلومبرغ في أبريل 2024 أن الصور التي قدمها المستخدمون من نظام MidJourney للذكاء الاصطناعي التوليدي تم دمجها في قدرات Firefly.

^† لم يتم تحديد هذا النموذج في الورقة.

نشر لأول مرة يوم الأربعاء، 6 نوفمبر 2024