يمكن أن تخدع التكنولوجيا العمياء العديد من واجهات برمجة التطبيقات الرئيسية لتعريف الوجه “الحية”

أظهرت دراسة جديدة مشتركة بين الولايات المتحدة والصين مدى تأثر بعض أكبر أنظمة التحقق من الهوية القائمة على الوجه في العالم بالتكنولوجيا العمياء، ووجدت أن معظمها معرض للخطر من أشكال التكنولوجيا العمياء المتطورة والمنشأة.

أجريت الدراسة باستخدام إطار عمل مخصص تم تطبيقه على أنظمة التحقق من صحة الوجه (FLV) التي يتم توفيرها بشكل شائع من قبل البائعين الرئيسيين، وبيعها كخدمة للعملاء النهائيين مثل شركات الطيران وشركات التأمين.

من الورقة، نظرة عامة على عمل واجهات برمجة التطبيقات FLV عبر الموردين الرئيسيين. مصدر: https://arxiv.org/pdf/2202.10673.pdf

يتمثل الهدف من تعريف الوجه الحية في منع استخدام تقنيات مثل الهجمات على الصور المعادية، استخدام الأقنعة والفيديو المسجل مسبقًا، والمعروفة باسم ‘الوجوه الرئيسية’، وأشكال أخرى من الاستنساخ المرئي.

خلصت الدراسة إلى أن عدد وحدات الكشف عن التكنولوجيا العمياء المployed في هذه الأنظمة، والتي تخدم ملايين العملاء، بعيد عن الكمال، وقد تم تكوينها على تقنيات التكنولوجيا العمياء التي أصبحت الآن قديمة، أو قد تكون محددة بشكل كبير للبنية التحتية.

يشير المؤلفون إلى:

‘تظهر طرق التكنولوجيا العمياء المختلفة اختلافات عبر الموردين المختلفين… بدون الوصول إلى التفاصيل الفنية للموردين المستهدفين، نعتقد أن هذه الاختلافات تعزى إلى إجراءات الدفاع التي يployها الموردين المختلفون. على سبيل المثال، قد يploy بعض الموردين دفاعات ضد هجمات التكنولوجيا العمياء المحددة.’

ويستمر المؤلفون:

‘معظم واجهات برمجة التطبيقات FLV لا تستخدم الكشف عن التكنولوجيا العمياء؛ حتى بالنسبة لأولئك الذين لديهم دفاعات، فإن فعاليتها مثيرة للقلق (على سبيل المثال، قد يكتشفون مقاطع الفيديو الم合صة عالية الجودة ولكنهم يفشلون في الكشف عن المقاطع منخفضة الجودة).’

يشير الباحثون في هذا الصدد إلى أن ‘الصحة’ هي نسبي:

‘حتى لو كانت مقطع الفيديو الم合صة غير حقيقية للبشر، يمكنها أن تتجاوز آلية الكشف عن التكنولوجيا العمياء الحالية بنسبة نجاح عالية.’

في الجزء العلوي، صور التكنولوجيا العمياء التي تمكنت من التحقق في تجارب المؤلفين. في الجزء السفلي، صور مزيفة تبدو أكثر واقعية فشلت في التحقق.

كانت إحدى النتائج الأخرى أن تكوين أنظمة التحقق من الهوية القائمة على الوجه الحالية معيب تجاه الذكور البيض. ونتيجة لذلك، وجد أن الهويات الأنثوية والهويات غير البيضاء أكثر فعالية في تجاوز أنظمة التحقق، مما يضع العملاء في هذه الفئات في خطر أكبر من اختراق تقنيات التكنولوجيا العمياء.

تجد التقرير أن الهويات الذكورية البيضاء يتم تقييمها بدقة أكبر بواسطة واجهات برمجة التطبيقات FLV الشائعة. في الجدول أعلاه، نرى أن الهويات الأنثوية والهويات غير البيضاء يمكن أن تتجاوز الأنظمة بسهولة أكبر.

يشير التقرير إلى أن ‘هناك تحيزات في التحقق من صحة الوجه، والتي قد ت представляет مخاطر أمنية كبيرة لمجموعة معينة من الناس‘.

كما قام المؤلفون بعمليات اختراق اختبار لتحقق الوجه ضد حكومة صينية، وشركة طيران صينية كبرى، وشركة تأمين حياة كبرى في الصين، وR360، واحدة من أكبر مجموعات الاستثمار في العالم، وreported نجاحهم في تجاوز استخدام هؤلاء العملاء لواجهات برمجة التطبيقات FLV.

في حالة تجاوز التحقق الناجح لشركة الطيران الصينية، تطلب واجهة برمجة التطبيقات النهائية من المستخدم ‘هز رأسهم’ كدليل على المحتوى المحتمل للتكنولوجيا العمياء، ولكن هذا ثبت أنه لا يعمل ضد الإطار الذي صممه الباحثون، والذي يتضمن ستة هياكل تكنولوجيا عمياء.

على الرغم من تقييم شركة الطيران لحركة رأس المستخدم، تمكنت المحتوى التكنولوجيا العمياء من اجتياز الاختبار.

يشير التقرير إلى أن المؤلفين اتصلوا بالبائعين المعنيين، الذين أقروا بالعمل.

يقدم المؤلفون قائمة من التوصيات لتحسين حالة الفن الحالية في FLV، بما في ذلك التخلي عن التحقق القائم على الصورة (‘التحقق القائم على الصورة’), حيث يتم التحقق بناءً على إطار واحد من فيديو العميل؛ وتحديث أكثر مرونة وشاملًا لأنظمة الكشف عن التكنولوجيا العمياء عبر مجالات الصورة والصوت؛ وإلزام التحقق الصوتي في فيديو المستخدم بالتزامن مع حركات الشفاه (الذي لا يتم حاليًا بشكل عام)؛ وطلب من المستخدمين أداء الإشارات والحركات التي يصعب على أنظمة التكنولوجيا العمياء إعادة إنتاجها (على سبيل المثال، مشاهد الملف الشخصي وطمس جزئي للوجه).

التقرير بعنوان هل الرؤية هي الحياة؟ إعادة التفكير في أمن التحقق من صحة الوجه في عصر التكنولوجيا العمياء، ويأتي من المؤلفين الرئيسيين Changjiang Li وLi Wang، وخمسة مؤلفين آخرين من جامعة ولاية بنسلفانيا، وجامعة زيجيانغ، وجامعة شاندونغ.

الأهداف الأساسية

استهدف الباحثون ستة موردين تمثiliين لتحقق الوجه الحية (FLV)، الذين تم إعطاؤهم أسماء مستعارة في البحث.

تم تمثيل الموردين على النحو التالي: ‘BD’ و ‘TC’ يمثلان موردًا مجمعًا له أكبر عدد من مكالمات واجهة برمجة التطبيقات القائمة على الوجه، واكبر حصة في خدمات السحابة الاصطناعية في الصين؛ ‘HW’ هو ‘واحد من الموردين الذين لديهم أكبر سوق سحابة عامة في الصين’؛ ‘CW’ لديه أسرع معدل نمو في رؤية الكمبيوتر، ويتحصل على مركزًا رائدًا في السوق؛ ‘ST’ هو واحد من أكبر موردي رؤية الكمبيوتر؛ و ‘iFT’ هو واحد من أكبر موردي البرمجيات الاصطناعية في الصين.

البيانات والهيكل

تتضمن البيانات الأساسية للمشروع مجموعة بيانات تضم 625,537 صورة من مبادرة CelebA-Spoof الصينية، إلى جانب فيديوهات حية من مجموعة SiW-M في جامعة ولاية ميشيغان في عام 2019.

تم إجراء جميع التجارب على خادم يضم معالجين Intel Xeon E5-2640 v4 سعة 2.40GHz يعملان على 256 غيغابايت من ذاكرة الوصول العشوائي مع قرص صلب سعة 4 تيرابايت، وأربعة بطاقات رسومات NVIDIA 1080Ti المنظمة، لمجموعة 44 غيغابايت من ذاكرة الفيديو الرسومات.

ستة في واحد

الإطار الذي صممه مؤلفو الورقة يسمى LiveBugger، ويتضمن ستة هياكل تكنولوجيا عمياء متقدمة موجهة ضد أربعة دفاعات رئيسية في أنظمة FLV.

LiveBugger يحتوي على نهج تكنولوجيا عمياء متنوعة، ويركز على أربعة vecteurs رئيسية للهجوم في أنظمة FLV.

الهياكل الستة للتكنولوجيا العمياء المستخدمة هي: إطار X2Face من جامعة أكسفورد في عام 2018؛ التعاون الأكاديمي الأمريكي ICface؛ نسختان من مشروع FSGAN الإسرائيلي في عام 2019؛ نموذج الطريقة الأولى الإيطالي (FOMM)، من أوائل عام 2020؛ وشراكة جامعة بكين مع Microsoft Research FaceShifter (على الرغم من أن FaceShifter ليس مفتوحًا المصدر، فقد كان على المؤلفين إعادة بناءه بناءً على تفاصيل الهيكل المنشورة).

الطرق المستخدمة بين هذه الهياكل تشمل استخدام فيديو مسبق التسجيل الذي يؤدي فيه موضوعات فيديو الخدعة إجراءات روتينية تم استخراجها من متطلبات التحقق من واجهة برمجة التطبيقات في وحدة تقييم سابقة في LiveBugger، وأيضًا استخدام دمى التكنولوجيا العمياء الفعالة، التي تترجم حركات المستخدم الحية إلى تيار تكنولوجيا عمياء تم إدراجه في تيار كاميرا ويب محتجز.

مثال على ذلك هو DeepFaceLive، الذي تم إصداره في الصيف الماضي كبرنامج مرفق مع برنامج DeepFaceLab الشهير، لتمكين بث التكنولوجيا العمياء في الوقت الفعلي، ولكن الذي لم يتم تضمينه في بحث المؤلفين.

مهاجمة الأربعة vecteurs

الأربعة vecteurs للهجوم في نظام FLV典型ي هم: FLV القائمة على الصورة، الذي يستخدم صورة واحدة مقدمة من المستخدم كرمز تحقق مقابل هوية الوجه المسجلة في النظام؛ FLV القائمة على الصمت، الذي يتطلب من المستخدم تحميل مقطع فيديو؛ FLV القائمة على الإجراء، الذي يتطلب من المستخدم أداء إجراءات محددة من قبل المنصة؛ و FLV القائمة على الصوت، الذي يطابق نمط الكلام للمستخدم مع قاعدة بيانات النظام لنمط كلام المستخدم.

التحدي الأول للنظام هو تحديد مدى إفصاح واجهة برمجة التطبيقات عن متطلباتها، لأنها يمكن أن تتوقع وتلبي في عملية التكنولوجيا العمياء. يتم التعامل مع هذا من قبل محرك الاستخبارات في LiveBugger، الذي يجمع المعلومات حول المتطلبات من وثائق واجهة برمجة التطبيقات المتاحة للجمهور ومصادر أخرى.

由于 متطلبات واجهة برمجة التطبيقات قد تكون غير موجودة (لأسباب مختلفة) من روتين واجهة برمجة التطبيقات الفعلي، يحتوي محرك الاستخبارات على مسبار يجمع المعلومات الضمنية بناءً على نتائج مكالمات واجهة برمجة التطبيقات الاستكشافية. في مشروع البحث، تم تسهيل ذلك بواسطة واجهات برمجة التطبيقات ‘الاختبارية’ الرسمية الموفرة لمصلحة المطورين، وأيضًا بواسطة متطوعين قدموا حساباتهم الحية للاختبار.

يبحث محرك الاستخبارات عن أدلة حول ما إذا كانت واجهة برمجة التطبيقات تستخدم حاليًا نهجًا معينًا يمكن أن يكون مفيدًا في الهجمات. يمكن أن تشمل الميزات من هذا القبيل كشف الاتساق، الذي يتحقق من ما إذا كانت الإطارات في مقطع فيديو متصلة زمنيًا – متطلب يمكن تحديده عن طريق إرسال إطارات فيديو مشوشة ومراقبة ما إذا كان ذلك يساهم في فشل التحقق.

يبحث الموديول أيضًا عن كشف لغة الشفاه، حيث قد تتحقق واجهة برمجة التطبيقات من ما إذا كان الصوت في مقطع الفيديو مزامن مع حركات شفاه المستخدم (نادرًا ما يكون الحال كذلك – انظر ‘النتائج’ أدناه).

النتائج

وجد المؤلفون أن جميع واجهات برمجة التطبيقات الستة التي تم تقييمها لا تستخدم كشف الاتساق في وقت التجارب، مما سمح لمحرك التكنولوجيا العمياء في LiveBugger ببساطة تجميع الصوت الم合성 مع فيديو التكنولوجيا العمياء، بناءً على المواد المقدمة من المتطوعين.

然而، وجد أن بعض التطبيقات النهائية (أي عملاء إطارات واجهة برمجة التطبيقات) قد أضافت كشف الاتساق إلى العملية، مما يتطلب تسجيل مقطع فيديو مخصص لتجاوز ذلك.

بالإضافة إلى ذلك، يستخدم فقط عدد قليل من موردي واجهة برمجة التطبيقات كشف لغة الشفاه؛ بالنسبة لمعظمهم، يتم تحليل الفيديو والصوت كميات منفصلة، ولا توجد وظيفة تحاول مطابقة حركة الشفاه مع الصوت المقدم.

نتائج متنوعة تغطي نطاق تقنيات التكنولوجيا العمياء المتاحة في LiveBugger ضد مجموعة متنوعة من vecteurs الهجوم في واجهات برمجة التطبيقات FLV. الأرقام الأعلى تشير إلى معدل نجاح أعلى في اختراق FLV باستخدام تقنيات التكنولوجيا العمياء. لا تتضمن جميع واجهات برمجة التطبيقات جميع الدفاعات الممكنة لFLV؛ على سبيل المثال، لا توفر بعضها أي دفاع ضد التكنولوجيا العمياء، في حين أن البعض الآخر لا يتحقق من مطابقة حركة الشفاه والصوت في مقطع فيديو المستخدم أثناء التحقق.

الخلاصة

تكون نتائج الورقة واضحة للغاية، وقد جمعت المؤلفونها في ‘هيكل من الثغرات’ الوظيفي الذي يمكن أن يساعد مطوري FLV على فهم بعض القضايا التي تم الكشف عنها.

شبكة التوصيات في الورقة بشأن الثغرات الحالية والمحتملة لروتين تحديد الوجه القائم على الفيديو للتكنولوجيا العمياء.

تُشير التوصيات إلى:

‘المخاطر الأمنية لFLV موجودة على نطاق واسع في العديد من التطبيقات الحقيقية، وبالتالي تهدد أمن ملايين المستخدمين النهائيين’

كما يلاحظ المؤلفون أن استخدام FLV القائم على الإجراء ‘هامشي’، وزيادة عدد الإجراءات التي يتعين على المستخدمين أداؤها ‘لا يمكن أن يؤدي إلى أي مكاسب أمنية’.

كما يشير المؤلفون إلى أن الجمع بين التعرف على الصوت والتعرف على الوجه في الفيديو هو دفاع بلا فائدة ما لم يبدأ مقدمو واجهة برمجة التطبيقات في المطالبة بمطابقة حركات الشفاه مع الصوت.

يأتي التقرير في ضوء تحذير最近 من FBI للأعمال من مخاطر الاحتيال بالتكنولوجيا العمياء، بعد عام تقريبًا من تحذيرهم من استخدام التكنولوجيا في العمليات التأثير الأجنبي، ومخاوف عامة من أن تكنولوجيا التكنولوجيا العمياء الحية ستسهل موجة جريمة جديدة على عامة الناس الذين لا يزالون يثقون في أمان هياكل التحقق من الصحة بالفيديو.

هذه هي الأيام المبكرة للتكنولوجيا العمياء كمساحة هجوم للتحقق، في عام 2020، تم سحب 35 مليون دولار بشكل مخادع من بنك في الإمارات العربية المتحدة باستخدام تقنية التكنولوجيا العمياء الصوتية، ومدير تنفيذي في المملكة المتحدة تم خداعه أيضًا في صرف 243,000 دولار في عام 2019.

نشر لأول مرة في 23 فبراير 2022.