أدوات المتصفح الذكية تهدف إلى التعرف على Deepfakes ووسائل الإعلام المزيفة الأخرى

جهود الشركات التكنولوجية لمكافحة المعلومات الخاطئة والمحتوى المزيف تتسارع في الآونة الأخيرة مع تطور تقنيات إنشاء المحتوى المزيف مثل DeepFakes وتسهيل استخدامها وتحسينها. واحدة من المحاولات القادمة لمساعدة الناس على اكتشاف ومكافحة Deepfakes هي RealityDefender، التي أنتجها مؤسسة الذكاء الاصطناعي، والتي التزمت بتطوير وكلاء ذكاء اصطناعي أخلاقيين ومساعدين يمكن للمستخدمين تدريبهما على إكمال مهام مختلفة.

يُعد مشروع مؤسسة الذكاء الاصطناعي الأكثر شهرة منصة تسمح للأشخاص بإنشاء شخصيات رقمية خاصة بهم تشبههم وتمثلهم في مساحات التجمعات الافتراضية. وتخضع مؤسسة الذكاء الاصطناعي لرقابة المجلس العالمي للذكاء الاصطناعي، وكناء على ذلك، يجب عليهم توقع الآثار السلبية المحتملة لأنظمة الذكاء الاصطناعي، ثم محاولة التفوق عليها. كما ذكرت VentureBeat، واحدة من الأدوات التي أنشأتها مؤسسة الذكاء الاصطناعي لمساعدة في اكتشاف Deepfakes هي Reality Defender. Reality Defender هي أداة يمكن شخص ما استخدامها في متصفح الويب (التحقق من ذلك)، والتي ستقوم بتحليل الفيديو والصور ووسائل الإعلام الأخرى لاكتشاف علامات تشير إلى أن الوسائط قد تم تزويرها أو تعديلها بطرق معينة. ومن المتوقع أن تساعد الأداة في مواجهة تدفق Deepfakes المتزايد على الإنترنت، الذي ازداد بنسبة مئوية معينة خلال الأشهر الستة الماضية.

تعمل Reality Defender من خلال استخدام مجموعة متنوعة من الخوارزميات القائمة على الذكاء الاصطناعي التي يمكنها اكتشاف أدلة تشير إلى أن الصورة أو الفيديو قد تم تزويره. تقوم نماذج الذكاء الاصطناعي باكتشاف علامات خفية للخداع والتحريف، وتُ etiquet الإيجابيات الكاذبة التي يكتشفها النموذج على أنها غير صحيحة من قبل مستخدمي الأداة. ثم يتم استخدام البيانات لإعادة تدريب النموذج. الشركات التي تنتج Deepfakes غير المخادعة تُ etiquet محتواها بعلامة “ذكاء صادق” أو علامة مائية تتيح للأشخاص تحديد المحتوى المزيف الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بسهولة.

Reality Defender هي واحدة فقط من مجموعة من الأدوات ومنصة مسؤولية الذكاء الاصطناعي الكاملة التي تحاول مؤسسة الذكاء الاصطناعي إنشاؤها. تسعى مؤسسة الذكاء الاصطناعي إلى إنشاء Guardian AI، وهي منصة مسؤولية مبنية على مبدأ أن الأفراد يجب أن يكونوا قادرين على الوصول إلى وكلاء ذكاء اصطناعي شخصيين يعملون من أجل них ويمكنهم مساعدتهم في حماية أنفسهم من الاستغلال من قبل الجهات الفاعلة السيئة. في الأساس، تهدف مؤسسة الذكاء الاصطناعي إلى توسيع نطاق الذكاء الاصطناعي في المجتمع، وجعله متاحًا لمزيد من الناس، مع حماية المخاطر المرتبطة بالذكاء الاصطناعي في نفس الوقت.

ليست Reality Defender هي المنتج الوحيد الجديد الذي يعتمد على الذكاء الاصطناعي ويهدف إلى تقليل المعلومات الخاطئة في الولايات المتحدة. هناك منتج مشابه يُدعى SurfSafe، الذي أنشأه两个 طلاب دراسات أولية من جامعة كاليفورنيا في بيركلي، روهان فادتي وأش بات. وفقًا لـ The Verge، تعمل SurfSafe من خلال السماح لمستخدميها بالنقر على قطعة من الوسائط التي يرغبون في معرفة المزيد عنها، وسيقوم البرنامج بتشغيل بحث عن صورة معاكس وسيحاول العثور على محتوى مشابه من مصادر موثوقة مختلفة على الإنترنت، وسيعلم الصور التي تُعرف بأنها محررة.

من غير الواضح كيف سيكون فعالية هذه الحلول في المستقبل. أستاذ كلية دارتموث وخبير الطب الشرعي هاني فرید، كما نقلته The Verge، قال إنه “شديد الشك” في أن نظم مثل Reality Defender سوف تعمل بطريقة معنوية. وأوضح فرید أن أحد التحديات الرئيسية في اكتشاف المحتوى المزيف هو أن الوسائط ليست خاطئة أو صحيحة بشكل صريح. وأوضح فرید:

“هناك تسلسل هرمي؛ مجموعة معقدة للغاية من القضايا التي يجب التعامل معها. بعض التغييرات لا معنى لها، وبعضها يغير بشكل أساسي من طبيعة الصورة. التظاهر بأننا يمكننا تدريب الذكاء الاصطناعي على اكتشاف الفرق هو شيء غاية في البساطة. والاعتقاد بأننا يمكننا إدراج عناصر التمويل الجماعي، مثل تعليم الإيجابيات الكاذبة، هو أكثر غرابة.”

علاوة على ذلك، من الصعب تضمين عناصر التمويل الجماعي، مثل تعليم الإيجابيات الكاذبة، لأن البشر عادة ما يكونون سيئين في تحديد الصور المزيفة. غالبًا ما يرتكب البشر أخطاء ويغفلون عن التفاصيل الدقيقة التي تميز الصورة على أنها مزيفة. كما أنه غير واضح كيفية التعامل مع الجهات الفاعلة السيئة التي تقوم بالتحريض عند علامة المحتوى.

يبدو من المحتمل أن تكون أدوات اكتشاف المزيف، من أجل أن تكون فعالة بشكل أقصى، يجب أن تُدمج مع جهود محو الأمية الرقمية التي تعلم الناس كيفية التفكير في المحتوى الذي يتفاعلون معه على الإنترنت.