بيانات اصطناعية لا تحمي الخصوصية بشكل موثوق، يزعمها الباحثون

تثير دراسة بحثية جديدة بين فرنسا والمملكة المتحدة الشكوك حول الثقة المتزايدة في الصناعة بأن البيانات الاصطناعية يمكن أن تحل مشاكل الخصوصية والجودة والتوافر (من بين مشاكل أخرى) التي تهدد التقدم في قطاع التعلم الآلي.

من بين النقاط الرئيسية التي تناولها المؤلفون، يؤكدون أن البيانات الاصطناعية المodelة من البيانات الحقيقية تحتفظ بمعلومات كافية من المعلومات الحقيقية بحيث لا توفر حماية موثوقة من الهجمات الاستدلالية والانضمام، والتي تهدف إلى إزالة 匿名ية البيانات وإعادة ربطها بال أشخاص الحقيقيين.

علاوة على ذلك، فإن الأفراد الأكثر عرضة لخطر هذه الهجمات، بما في ذلك أولئك الذين يعانون من حالات طبية حرجة أو فواتير مستشفى عالية (في حالة匿名ية السجلات الطبية) هم، من خلال طبيعة “الخارجية” لحالتهم، الأكثر احتمالاً لإعادة التعريف بواسطة هذه التقنيات.

تلاحظ الورقة:

‘مع الوصول إلى مجموعة بيانات اصطناعية، يمكن للمهاجم الاستراتيجي استنتاج، مع ثقة عالية، وجود سجل هدف في البيانات الأصلية.’

كما تلاحظ الورقة أن البيانات الاصطناعية الخاصة بالفرق، التي تخفي توقيع السجلات الفردية، توفر في الواقع حماية لخصوصية الأفراد، ولكن فقط عن طريق تقييد فعالية أنظمة استرجاع المعلومات التي تستخدمها بشكل كبير.

إذا كان هناك شيء، فإن الباحثين يلاحظون، فإن النهجات الخاصة بالفرق – التي تستخدم “معلومات حقيقية” ‘على بعد واحد’ من خلال البيانات الاصطناعية – تجعل السيناريو الأمني أسوأ مما كان سيحدث دون ذلك:

‘مجموعات البيانات الاصطناعية لا توفر أي شفافية حول هذا التبادل. من المستحيل التنبؤ بما هي سمات البيانات التي سيتم الحفاظ عليها وما هي الأنماط التي سيتم قمعها.’

الورقة الجديدة الورقة، التي تحمل عنوان البيانات الاصطناعية – يوم 匿名ية مجدد، تأتي من باحثين اثنين في École Polytechnique Fédérale de Lausanne (EPFL) في باريس و باحث من جامعة كوليدج لندن (UCL).

أجري الباحثون اختبارات لخوارزميات تدريب النماذج التوليدية الخاصة، ووجدوا أن بعض قرارات التنفيذ تنتهك الضمانات الرسمية للخصوصية المحددة في الإطارات، مما يترك سجلات متنوعة معرضة للهجمات الاستدلالية.

يقدم المؤلفون إصدارًا منقحًا من كل خوارزمية قد يخفف من هذه التعرضات، ويتوفر الكود متاحًا كمكتبة مفتوحة المصدر. يزعمون أن هذا سيساعد الباحثين على تقييم مكاسب الخصوصية للبيانات الاصطناعية ومقارنة أساليب التمويه الشائعة بشكل مفيد. يتضمن الإطار الجديد طريقتين هامتين للهجمات على الخصوصية يمكن تطبيقها على أي خوارزمية تدريب نموذج توليدي.

البيانات الاصطناعية

تستخدم البيانات الاصطناعية لتدريب نماذج التعلم الآلي في سيناريوهات مختلفة، بما في ذلك الحالات التي يمكن فيها ملء نقص المعلومات الشاملة بالبيانات الاصطناعية. مثال على ذلك هو إمكانية استخدام وجوه تم إنشاؤها بواسطة الحاسوب لتقديم صور “صعبة” أو نادرة لوجوه لبيانات合成 الصور، حيث تكون الصور الشخصية، الزوايا الحادة أو التعبيرات الغير عادية نادرة في المواد الأصلية.

تم استخدام أنواع أخرى من الصور التي تم إنشاؤها بواسطة الحاسوب لملء مجموعات البيانات التي ستكون في النهاية قيد التشغيل على بيانات غير اصطناعية، مثل مجموعات البيانات التي تتميز أيادي و أثاث.

فيما يتعلق بحماية الخصوصية، يمكن إنشاء البيانات الاصطناعية من البيانات الحقيقية بواسطة أنظمة الشبكات التوليدية المعادية (GAN) التي تستخرج سمات من البيانات الحقيقية وتخلق سجلات وهمية مشابهة من المحتمل أن ت일반 جيدًا إلى بيانات حقيقية لاحقة (غير مرئية، حقيقية)، ولكنها تهدف إلى إخفاء تفاصيل الأشخاص الحقيقيين الموجودين في البيانات الأصلية.

المنهجية

لأغراض البحث الجديد، قيم المؤلفون مكاسب الخصوصية عبر خمس خوارزميات تدريب نموذج توليدي. ثلاثة من النماذج لا توفر حماية خصوصية صريحة، بينما يأتي النموذجان الآخران مع ضمانات خصوصية فرقية. تم اختيار هذه النماذج الجدولية لتمثيل مجموعة واسعة من الهياكل.

كانت النماذج التي تم مهاجمتها BayNet و PrivBay (مشتق من PrivBayes/BayNet) و CTGAN و PATEGAN و IndHist.

تم تنفيذ إطار التقييم للنماذج كمكتبة بايثون مع فئتين رئيسيتين – GenerativeModels و PrivacyAttacks. يتضمن الأخير两个 جوانب – عدو استدلال عضوية، وهجوم استدلال عضوية. يمكن للإطار أيضًا تقييم المنافع الخصوصية للبيانات “المحسنة” (أي 匿名ية) والبيانات الاصطناعية.

استخدم الباحثون مجموعتي بيانات في الاختبارات: مجموعة بيانات Adult من مخزن التعلم الآلي في UCI، ومجموعة بيانات إطلاق المستشفى العامة لملف بيانات الاستخدام العام من دائرة خدمات الصحة الحكومية في تكساس. تحتوي مجموعة بيانات تكساس التي استخدمها الباحثون على 50,000 سجل تمت عينته من سجلات المرضى للسنة 2013.

الهجمات والنتائج

الهدف العام للبحث هو تحقيق “الارتباط” (إعادة ربط البيانات الحقيقية بالبيانات الاصطناعية التي ألهمتها). تشمل نماذج الهجوم المستخدمة في الدراسة الانحدار اللوجستي والغابات العشوائية وأقرب جيران تصنيفات.

اختار المؤلفون مجموعتين من الأهداف تتكونان من خمسة سجلات تم اختيارها عشوائيًا لفئات “الأقليات” من السكان، لأن هذه هي الأكثر احتمالا لتكون عرضة لهجوم ربط. كما اختاروا سجلات ذات قيم فئوية نادرة خارج نطاق 95% للسمات. تشمل الأمثلة سجلات تتعلق بمخاطر عالية من الوفاة، وتحملات مستشفى عالية، وخطورة المرض.

على الرغم من أن الورقة لا تُطوِّر هذه النقطة، من وجهة نظر المهاجمين الحقيقيين المحتملين، هذه هي بالضبط نوع “المرضى الغاليين” أو “المخاطر العالية” الذين من المحتمل أن يكونوا مستهدفين بهجمات استدلال العضوية والأنواع الأخرى لنهج إزالة البيانات.

تم تدريب عدة نماذج هجوم على معلومات مرجعية عامة لتطوير “نماذج ظل” على عشرة أهداف. تشير النتائج عبر مجموعة من التجارب (كما هو موضح سابقًا) إلى أن عددًا من السجلات كان “معرّضًا بشدة” للهجمات الارتباطية التي استهدفتها الباحثون. كما وجدت النتائج أن 20% من جميع الأهداف في التجارب حصلت على مكسب خصوصية من صفر من البيانات الاصطناعية التي أنتجها أساليب GAN.

يلاحظ الباحثون أن النتائج تختلف، اعتمادًا على الطريقة المستخدمة لإنشاء البيانات الاصطناعية، ومتجه الهجوم، وسمات مجموعة البيانات المستهدفة. يجد التقرير أن خفض الهوية الفعال من خلال نهج البيانات الاصطناعية يخفض من فائدة الأنظمة الناتجة في كثير من الحالات. في الواقع، يمكن أن يكون فائدة و دقة هذه الأنظمة في كثير من الحالات مؤشرًا مباشرًا لمدى تعرضها للهجمات إعادة التعريف.

يخلص الباحثون إلى:

‘إذا كانت مجموعة بيانات اصطناعية تحافظ على سمات البيانات الأصلية بدقة عالية، وبالتالي تحتفظ بفائدة البيانات للاستخدامات التي يتم الترويج لها، فإنها تتيح في الوقت نفسه للمهاجمين استخراج معلومات حساسة عن الأفراد. ‘

‘مكسب كبير في الخصوصية من خلال أي من آليات التمويه التي قيمناها يمكن تحقيقه فقط إذا لم تحمل الإصدار الاصطناعي أو المحسّن من البيانات الأصلية إشارة السجلات الفردية في البيانات الخام وبالفعل قمع سجلاتهم.’