تهدف أدوات متصفح AI إلى التعرف على التزييف العميق والوسائط المزيفة الأخرى

بدأت الجهود التي تبذلها شركات التكنولوجيا لمعالجة المعلومات الخاطئة والمحتوى المزيف بشكل كبير في الآونة الأخيرة حيث أصبحت تقنيات إنشاء المحتوى المزيف المتطورة مثل DeepFakes أسهل في الاستخدام وأكثر دقة. إحدى المحاولات القادمة لمساعدة الأشخاص على اكتشاف ومحاربة التزييف العميق هي RealityDefender، التي تنتجها شركة مؤسسة الذكاء الاصطناعي، التي ألزمت نفسها بتطوير وكلاء ومساعدين أخلاقيين للذكاء الاصطناعي يمكن للمستخدمين تدريبهم لإكمال المهام المختلفة.

مشروع مؤسسة الذكاء الاصطناعي الأكثر شهرة هو النظام الأساسي الذي يسمح للأشخاص بإنشاء شخصياتهم الرقمية التي تشبههم وتمثيلهم في أماكن الاستراحة الافتراضية. يشرف المجلس العالمي للذكاء الاصطناعي على مؤسسة الذكاء الاصطناعي ، وكجزء من تفويضهم ، يجب عليهم توقع الآثار السلبية المحتملة لمنصات الذكاء الاصطناعي ، ثم محاولة التغلب على هذه المشكلات. كما ذكرت من قبل VentureBeat، إحدى الأدوات التي أنشأتها مؤسسة AI للمساعدة في اكتشاف التزييف العميق يطلق عليها اسم Reality Defender. Reality Defender هي أداة يمكن لأي شخص استخدامها في متصفح الويب الخاص به (تحقق من ذلك) ، والتي ستحلل الفيديو والصور وأنواع الوسائط الأخرى لاكتشاف العلامات التي تشير إلى أن الوسائط قد تم تزويرها أو تغييرها بطريقة ما. من المأمول أن تساعد الأداة في مواجهة التدفق المتزايد لملفات التزييف العميق على الإنترنت ، والتي تضاعفت تقريبًا وفقًا لبعض التقديرات على مدار الأشهر الستة الماضية.

يعمل Reality Defender من خلال استخدام مجموعة متنوعة من الخوارزميات القائمة على الذكاء الاصطناعي والتي يمكنها اكتشاف القرائن التي تشير إلى أن صورة أو مقطع فيديو ربما تم تزويره. تكتشف نماذج الذكاء الاصطناعي علامات خفية للخداع والتلاعب ، ويتم تصنيف الإيجابيات الخاطئة التي يكتشفها النموذج على أنها غير صحيحة من قبل مستخدمي الأداة. ثم يتم استخدام البيانات لإعادة تدريب النموذج. شركات الذكاء الاصطناعي التي تصنع التزييف العميق غير المخادع يتم وضع علامة على محتواها بعلامة "AI صادقة" أو علامة مائية تتيح للأشخاص التعرف بسهولة على المنتجات المقلدة التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

Reality Defender هي مجرد واحدة من مجموعة من الأدوات ومنصة مسؤولية كاملة للذكاء الاصطناعي تحاول مؤسسة AI Foundation إنشاؤها. تسعى مؤسسة AI Foundation إلى إنشاء Guardian AI ، وهي منصة مسؤولية مبنية على مبدأ أنه ينبغي للأفراد الوصول إلى وكلاء الذكاء الاصطناعي الشخصي الذين يعملون لصالحهم ويمكن أن يساعدوا في الحماية من استغلالهم من قبل الجهات السيئة. تهدف مؤسسة AI بشكل أساسي إلى توسيع نطاق وصول الذكاء الاصطناعي في المجتمع ، وتقديمه إلى المزيد من الأشخاص ، مع الحماية أيضًا من مخاطر الذكاء الاصطناعي.

Reality Defender ليس المنتج الجديد الوحيد المدفوع بالذكاء الاصطناعي الذي يهدف إلى تقليل المعلومات الخاطئة عن الولايات المتحدة. منتج مشابه يسمى SurfSafe ، والذي تم إنشاؤه من قبل اثنين من الطلاب الجامعيين من جامعة كاليفورنيا في بيركلي ، روهان بادتي وآش بهات. وفقا لصحيفة The Verge، تعمل SurfSafe من خلال السماح لمستخدميها بالنقر فوق جزء من الوسائط التي تثير فضولهم ، وسيقوم البرنامج بإجراء بحث عكسي عن الصور ومحاولة العثور على محتوى مشابه من مصادر موثوقة مختلفة على الإنترنت ، والإبلاغ عن الصور المعروفة بأنها تم التلاعب به.

من غير الواضح مدى فعالية هذه الحلول على المدى الطويل. أستاذ بكلية دارتموث وخبير في الطب الشرعي ونقلت The Verge عن هاني فريد كقوله إنه "متشكك للغاية" في أن خطط أنظمة مثل Reality Defender ستعمل بقدرة هادفة. أوضح فريد أن أحد التحديات الرئيسية في اكتشاف المحتوى المزيف هو أن الوسائط ليست مزيفة أو حقيقية تمامًا. أوضح فريد:

"هناك سلسلة متصلة ؛ مجموعة معقدة بشكل لا يصدق من القضايا للتعامل معها. بعض التغييرات لا معنى لها ، والبعض الآخر يغير طبيعة الصورة بشكل أساسي. إن التظاهر بأنه يمكننا تدريب ذكاء اصطناعي على اكتشاف الفرق هو أمر ساذج بشكل لا يصدق. والأكثر من ذلك هو التظاهر بقدرتنا على التعهيد الجماعي ".

علاوة على ذلك، من الصعب تضمين عناصر التعهيد الجماعي، مثل وسم الإيجابيات الكاذبة، لأن البشر عادةً ما يكونون سيئين للغاية في تمييز الصور المزيفة. غالبًا ما يرتكبون أخطاءً ويغفلون عن تفاصيل دقيقة تُميّز الصورة على أنها مزيفة. كما أن كيفية التعامل مع الجهات سيئة النية التي تُسيء استخدام المحتوى غير القانوني غير واضحة.

يبدو من المحتمل أنه من أجل تحقيق أقصى قدر من الفعالية ، يجب دمج أدوات الكشف المزيفة مع جهود محو الأمية الرقمية التي تعلم الأشخاص كيفية التفكير بشأن المحتوى الذي يتفاعلون معه عبر الإنترنت.