إعادة تحديد بيانات المصدر للمولدات GAN

أقترحت أبحاث جديدة من فرنسا تقنية لتحديد هوية المصادر التي ساهمت في توليد بيانات اصطناعية، مثل الأشخاص غير الموجودة في مشاريع توليد الوجوه مثل لا يوجد شخص مثل هذا.

تُشرح الطريقة المحددة في الورقة، والتي تحمل عنوان هذا الشخص (ربما) موجود. هجمات عضوية الهوية ضد الوجوه التي تم توليدها بواسطة GAN، لا تتطلب الوصول إلى بنية التدريب أو بيانات النموذج، ويمكن تطبيقها على مجموعة متنوعة من التطبيقات التي يتم استكشاف استخدام الشبكات التوليدية المعارضة (GANs) كوسيلة لتحقيق المجهولية أو توليد بيانات اصطناعية مع حماية المواد المصدر.

صاغ الباحثون طريقة تسمى هجوم عضوية الهوية، والتي تقييم احتمال ظهور هوية واحدة بصورة متكررة في مجموعة بيانات مساهمة، بدلاً من محاولة التركيز على سمات معينة للهوية (أي على مجموعات البكسل من الصورة الأصلية التي تم استخدامها لتدريب النموذج التوليدي).

المصدر: https://arxiv.org/pdf/2107.06018.pdf

في الصورة أعلاه، من البحث، تبدأ كل صفحة بصور توليدية بواسطة StyleGAN. تم إنشاء الكتلة اليسرى من الصور من قاعدة بيانات تضم 40.000 صورة، والكتلة الوسطى من 80.000 صورة، والكتلة اليمنى من 46.000 صورة. جميع الصور来自 مجموعة بيانات VGG2Face2.

بعض العينات لها شبه خفيف، في حين أن البعض الآخر يرتبط بقوة بالبيانات المستخدمة في التدريب. تم تحديد الوجوه بنجاح من قبل الباحثين باستخدام شبكة تحديد الوجه.

أكثر من القيمة الظاهرة

لهذه المناهج إعادة تحديد هوية أثر далеко المدى في العديد من مجالات البحث؛ يشدد الباحثون، الذين يقع مقرهم في جامعة كاين في نورماندي، على أن تقنيتهم لا تتعلق فقط بمجموعات الوجوه أو إطارات توليد الوجوه، ولكنها قابلة للتطبيق أيضًا على مجموعات بيانات التصوير الطبي والبيانات البيومترية، من بين سطوح الهجوم الأخرى الممكنة في إطارات التوليد الصورية.

‘نعتقد أنه إذا نجح هذا الهجوم، فإنه سيكون عقبة خطيرة لتبادل GANs الآمن في السياقات الحساسة. على سبيل المثال، في سياق اللوحات أو الأعمال الفنية الأخرى، قد يتم حظر توزيع مولد غير خاص بسبب مشاكل حقوق النشر الواضحة. وأهم من ذلك، فكر في شركة بيومترية تطرح مولدًا يكشف عن هوية عملائها. قد يكون من الممكن لشركة أخرى كشف ما إذا كان بعض عملائها أيضًا عملاء لشركة أ. يمكن أن تطرح حالات مماثلة مشاكل خطيرة لبيانات طبية، حيث قد يؤدي الكشف عن مولد GAN إلى انتهاك المعلومات الشخصية حول مرض المريض.’

إعادة تحديد البيانات الخاصة أو المخترقة من الويب

على الرغم من أن الورقة تلمس هذا الموضوع بشكل خفيف فقط، فإن القدرة على تحديد بيانات المصدر الأصلية من الإخراج المجرد (مثل الوجوه التي تم توليدها بواسطة GAN، على الرغم من أن هذا ينطبق أيضًا على أنظمة التشفير / فك التشفير وغيرها من الهياكل) لها أثر ملحوظ على تطبيقات حماية حقوق النشر خلال السنوات الخمس إلى عشر القادمة.

في الوقت الحالي، تعمل معظم البلدان بنهج السماح لتحديد مواقع الويب العامة من أجل عدم التخلف عن المرحلة التطويرية لاقتصادات التعلم الآلي القادمة. مع تطور وتوطيد هذا المناخ، هناك إمكانية كبيرة لجيل جديد من “أشباح البيانات” لتقديم مطالبات حقوق النشر حول الصور المؤكدة أنها تم استخدامها تاريخيًا في مجموعات بيانات ساهمت في خوارزميات التعلم الآلي.

随着 نضج الخوارزميات المتطورة وتكلفة أكثر قيمة مع مرور الوقت، أي صور غير مصرح بها تم استخدامها في مراحل تطويرها المبكرة، والتي يمكن استنتاجها من مخرجاتها bằng طرق مشابهة لتلك الم提حة في الورقة الفرنسية الجديدة، تشكل مسؤولية قانونية على مستوى SCO Vs IBM (قضية تقنية طويلة الأمد ما زالت تهدد نظام التشغيل لينكس).

استغلال مواجهة المكسيك بين التنوع والتكرار

الطريقة الأساسية التي يستخدمها الباحثون الفرنسيون هي استغلال تكرار الصور الأصلية في مجموعة البيانات كوسيلة لتحديد الهوية. كلما زادت تكرار هوية معينة في مجموعة البيانات، زادت احتمالية إمكانية تحديد تلك الهوية الأصلية من خلال ربط نتائج الهجوم ببيانات عامة أو خاصة.

يشير الباحثون إلى أن هذا يمكن تقليله من خلال تضمين تنوع أكبر من البيانات (على سبيل المثال، من الوجوه) في مجموعة البيانات الأصلية، وعدم تدريب مجموعة البيانات لمدة طويلة حتى يحدث التجاوز. المشكلة في ذلك هو أن النموذج يجب أن يصل إلى تجريد جيد في فضاء بعدي أعلى بكثير، ومع كمية أكبر من البيانات مما هو مطلوب بشكل صارم للحصول على نتائج اصطناعية مقبولة.

لتحقيق هذا النوع من التعميم المثالي، من الممكن أن يكون مكلفًا ومستهلكًا للوقت؛ سيتطلب الفضاء الكامن (جزء التحليل الرياضي من نموذج التعلم الآلي الذي يتم تغذية البيانات إليه) المزيد من الموارد؛ سيتطلب مجموعة البيانات المزيد من التنظيم؛ ومنذ أن يجب أن تكون كمية البيانات كبيرة، يجب تحسين أحجام الدفعات وتخطيط معدل التغذية لضمان جودة عالية ومستويات تعميم عالية، بدلاً من سرعة التدريب والاقتصاد، مما يؤدي إلى زيادة التكاليف وأوقات التطوير.

علاوة على ذلك، يمكن للخوارزميات التوليدية المتجاوزة تحقيق بيانات اصطناعية واقعية للغاية، حتى لو كانت البيانات الإخراجية (أي الوجوه والخرائط والصور الطبية، إلخ) ليست مجردة تمامًا، ولكنها تتميز بسمات تمييزية أكبر من البيانات الأصلية مما هو مثالي -捷径 مغرية. في المناخ الحالي “الغرب المتوحش” لقطاع التعلم الآلي، حيث تحاول المبادرات الصغيرة تحدي تقدم FAANG بموارد أقل (أو الحصول على الانتباه من أجل الاستحواذ)، فمن الممكن أن تظل المعايير دائمًا على هذا المستوى.

كما لاحظت الورقة أن تنوع نقاط البيانات الأصلية (مثل الوجوه) لا يكفي بحد ذاته لمنع إعادة تحديد الهوية من خلال هذه الطرق المماثلة، منذ توقف التدريب المبكر يمكن أن يترك هوية المصدر غير مجردة بشكل كافٍ.