أدوات المتصفح التي تعتمد على الذكاء الاصطناعي تهدف إلى التعرف على الديبفيكات ووسائل الإعلام المزيفة الأخرى

تحاول الشركات التكنولوجية مكافحة المعلومات المضللة والمحتوى الكاذب بجدية في الآونة الأخيرة، مع ظهور تقنيات إنتاج المحتوى الكاذب المتقدمة مثل الديبفيكات، والتي أصبحت أسهل في الاستخدام وأكثر تطورا. یکی من المحاولات القادمة لمساعدة الناس على اكتشاف ومكافحة الديبفيكات هو ريليتي ديفندر، الذي طوّره مؤسسة الذكاء الاصطناعي، والتي التزمت بتحويل एजنتات و مساعدي الذكاء الاصطناعي الأخلاقي الذي يمكن للمستخدمين تدريبه على أداء مهام مختلفة.

أبرز مشروع لمؤسسة الذكاء الاصطناعي هو منصة تسمح للأشخاص بإنشاء شخصيات رقمية تشبههم وتمثلهم في الفضاءات الاجتماعية الافتراضية. وتخضع مؤسسة الذكاء الاصطناعي لإشراف المجلس العالمي للذكاء الاصطناعي، ووفقا لمنحهم، يجب عليهم 预见 الآثار السلبية المحتملة لأنظمة الذكاء الاصطناعي، ثم محاولة التغلب على هذه المشاكل. كما ذكر موقع فينتشبيت، واحدة من الأدوات التي أنشأتها مؤسسة الذكاء الاصطناعي لمساعدة في اكتشاف الديبفيكات هي ريليتي ديفندر. ريليتي ديفندر هو أداة يمكن للمستخدمين استخدامها في متصفحهم على الويب، والذي سيقوم بتحليل الفيديو والصور والأنواع الأخرى من الوسائط لاكتشاف علامات على أن المحتوى قد تم التلاعب به أو تغييره بطرق معينة. ومن المتوقع أن تساعد الأداة في مكافحة تدفق الديبفيكات المتزايد على الإنترنت، والذي ازداد بنسبة مئوية تقريبية خلال الأشهر الستة الماضية.

يعمل ريليتي ديفندر من خلال استخدام مجموعة متنوعة من الخوارزميات التي تعتمد على الذكاء الاصطناعي التي يمكنها اكتشاف أدلة تشير إلى أن الصورة أو الفيديو قد تم التلاعب به. تقوم نماذج الذكاء الاصطناعي باكتشاف علامات خفية للخداع والتحريف، والايجابيات الكاذبة التي يكتشفها النموذج يتم تصنيفها على أنها غير صحيحة من قبل مستخدمي الأداة. ثم يتم استخدام البيانات لإعادة تدريب النموذج. وتقوم الشركات التي تنتج ديبفيكات غير مخادعة بتعليم المحتوى بعلامة “ذكاء صادق” أو ختم مائي يسمح للأشخاص بالتعرف بسهولة على الديبفيكات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

ريليتي ديفندر هو فقط واحدة من مجموعة من الأدوات ومنصة مسؤولية كاملة تعمل مؤسسة الذكاء الاصطناعي على إنشائها. تعمل مؤسسة الذكاء الاصطناعي على إنشاء جارديان إيه آي، وهي منصة مسؤولية مبنية على مبدأ أن الأفراد يجب أن يكونوا قادرين على الوصول إلى وكلاء ذكاء اصطناعي شخصيين يعملون لصالحهم ويمكنهم مساعدتهم في حماية أنفسهم من الاستغلال من قبل الجهات الفاعلة السيئة. في الأساس، تهدف مؤسسة الذكاء الاصطناعي إلى توسيع نطاق الذكاء الاصطناعي في المجتمع، وجلبها إلى المزيد من الناس، مع الحفاظ على حماية المخاطر المرتبطة بالذكاء الاصطناعي.

ريليتي ديفندر ليس المنتج الوحيد الذي يعتمد على الذكاء الاصطناعي ويهدف إلى تقليل المعلومات المضللة في الولايات المتحدة. هناك منتج مشابه يسمى سيرف سيف، والذي تم إنشاؤه بواسطة两个 طلاب من جامعة كاليفورنيا، بيركلي، روهان فادتي وآش بهات. وفقا لموقع ذا فيرج، يعمل سيرف سيف من خلال السماح للمستخدمين بالنقر على قطعة من الوسائط التي يرغبون في التحقق منها، ويقوم البرنامج بتشغيل بحث عكسي للصورة ومحاولة العثور على محتوى مشابه من مصادر موثوقة على الإنترنت، وتحديد الصور التي تم التلاعب بها.

من غير الواضح كيف سيكون فعالية هذه الحلول في المستقبل. أستاذ كلية دارتموث وخبير في مجال الأدلة الجنائية هاني فرید اقتبس من قبل ذا فيرج قائلا إنه “شديد الشك” في أن أنظمة مثل ريليتي ديفندر سوف تعمل بطريقة معنوية. وأوضح فرید أن أحد التحديات الرئيسية في اكتشاف المحتوى الكاذب هو أن الوسائط ليست كاذبة أو حقيقية بشكل كامل. وأوضح فرید:

“هناك تدرج؛ مجموعة معقدة من القضايا التي يجب التعامل معها. بعض التغييرات لا معنى لها، وبعضها يغير بشكل جوهري طبيعة الصورة. التظاهر بأننا يمكن أن ندرّب الذكاء الاصطناعي على اكتشاف الفرق هو شيء غير ناضج للغاية. والتصرف كما لو أننا يمكن أن ندرّب الذكاء الاصطناعي على اكتشاف الفرق هو شيء أكثر غير ناضج.”

علاوة على ذلك، من الصعب دمج عناصر التمويل الجماعي، مثل تعليم الإيجابيات الكاذبة، لأن البشر عادة ما يكونون سيئين في تحديد الصور الكاذبة. يخطئ البشر ويغفلون عن التفاصيل الدقيقة التي تشير إلى أن الصورة كاذبة. من غير الواضح كيفية التعامل مع الجهات الفاعلة السيئة التي تقوم بالتحريض عند إشارة المحتوى.

يبدو من المحتمل أن أدوات اكتشاف الديبفيكات يجب أن تكون متombine مع جهود الحرفية الرقمية التي تعلم الناس كيفية التفكير في المحتوى الذي يتفاعلون معه على الإنترنت.