يعود Chatroulette بمساعدة الإشراف على المحتوى المدفوع بالذكاء الاصطناعي

اشتهر موقع Chatroulette خلال أوائل عام 2010 للسماح للناس بالتحدث مع أشخاص عشوائيين آخرين. ومع ذلك ، أصبح الموقع سيئ السمعة أيضًا بسبب السهولة التي يمكن أن يواجه بها الأشخاص العُري وغيره من المحتويات "المصنفة بـ R". كما ذكرت Wired، يهدف Chatroulette الآن إلى تحقيق العودة مع إدارة أفضل للمحتوى بمساعدة الذكاء الاصطناعي.

تعديل المحتوى المدفوع بالذكاء الاصطناعي

نظرًا لأن الذكاء الاصطناعي وخوارزميات الرؤية الحاسوبية أصبحت أكثر تطورًا وموثوقية، فقد تحسنت تطبيقاتها للكشف عن المحتوى غير المرغوب فيه. يعد هذا بمثابة نعمة لأي شركة تسمح للمستخدمين بتحميل المحتوى أو إنشائه بطريقة أخرى. شركات مثل يوتيوب وفيسبوك وتويتر استخدام خوارزميات ترشيح المحتوى التي تعمل بالذكاء الاصطناعي إلى التعامل مع المواد المرفوضة. كان موقع Chatroulette على وجه الخصوص يعاني من العُري والأفعال الفاحشة الأخرى التي أبعدت العديد من المستخدمين. تسبب الوباء في تجدد الاهتمام ببرنامج Chatroulette ، والذي بفضل التقدم في التعرف على الصور بالذكاء الاصطناعي يمكنه مراقبة المحتوى الذي يبثه المستخدمون بشكل أكثر فعالية.

في عام 2019، قام مؤسس Chatroulette، أندريه تيرنوفسكي، بتأسيس الشركة في سويسرا، بهدف التعاون مع المديرين المحترفين والمتخصصين في الذكاء الاصطناعي. تم تعيين خبير التعلم الآلي أندرو دون من قبل تيرنوفسكي للإشراف على تطوير تقنية الذكاء الاصطناعي لدردشة الروليت الجديدة. أصبح "دون" رئيسًا تنفيذيًا في وقت سابق من هذا العام، مضيفًا المزيد من الباحثين والمديرين في مجال المنتجات إلى الفريق.

في ظل القيادة الجديدة ، استفاد موقع Chatroulette من زيادة حركة المرور لإجراء بحث على المستخدم واختبار طرق مختلفة لإدارة المحتوى. صمم فريق Chatroulette قناتين جديدتين للدردشة. تسمى إحدى قنوات الدردشة Random Chat ، وهي مصممة لاستبعاد المحتوى المرفوض ، بينما تسمى القناة الأخرى غير الخاضعة للإشراف. يتم إجراء هذا التقسيم لجذب المستخدمين المهتمين بالتواصل مع أشخاص آخرين دون الحاجة إلى القلق بشأن المحتوى المرفوض. سيتم القضاء على القناة غير المفلترة في منتصف عام 2021.

الشراكة مع AI Company Hive

أبرمت Chatroulette شراكة مع شركة AI خلية النحل لتطوير أنظمة الذكاء الاصطناعي التي تكشف العُري. Hive مسؤول أيضًا عن الإشراف على محتوى Reddit ، مما يمنحهم خبرة في إدارة المحتوى على شبكة اجتماعية رئيسية. وفقًا لـ Done ، فإن نظام مراقبة الذكاء الاصطناعي الخاص بـ Hive دقيق للغاية لدرجة أن تضمين الوسطاء البشريين يقلل في الواقع من دقة الاعتدال بشكل عام. تقوم Hive بتدريب نماذج الذكاء الاصطناعي على البيانات المشروحة بواسطة قوة عاملة تزيد عن مليوني عامل موزع. تبحث القوى العاملة الموزعة عن محتوى مرفوض مثل العُري ووجود الأسلحة النارية ، وتعليق الصور لاستخدامها في تدريب Hive AI. بينما حاولت Chatroulette استخدام نظام Cloud Vision AI من Google و Amazon Rekognition للمساعدة في الإشراف على المحتوى ، وجدت في النهاية أن Hive's AI كان الأكثر دقة وموثوقية لاحتياجاتها.

عالجت Hive's AI أكثر من 600 مليون إطار فيديو من Chatroulette. ينتج عن أي اتصال بين مستخدمين إنشاء ثلاثة إطارات. يتم إنشاء إطار واحد لكلا المستخدمين في بداية الاتصال ، ويتم إنشاء إطار واحد للمستخدم الذي ينهي الاتصال. يمكن التعرف على المحتوى الذي ينتهك المصطلحات في غضون ثانية واحدة. يتم إرسال رسالة تنبيه إلى وسيط بشري يمكنه إما حظر المستخدم أو تحذيره.

في بداية العام ، كان لدى Chatroulette ما يقرب من 4 ملايين زائر فريد في الشهر ، وهو أكبر عدد من الزوار استقبلتهم الشركة منذ أوائل عام 2016. يبدو أن الجهود المبذولة للحد من المحتوى الفاحش قد آتت أكلها ، حيث أصبحت النساء الآن ما يقرب من 34٪ من جميع المستخدمين ، ارتفاعًا من 11٪ فقط في 2018.

بينما تأتي شركات وسائل التواصل الاجتماعي وتذهب ، يبدو أن Chatroulette قد صعد إلى مكانة بارزة مرة أخرى. ومع ذلك ، يقر تيرنوفسكي بأن لدى الشركة أيضًا مشكلات أخرى يجب حلها تتجاوز مجرد الاعتدال في المحتوى. وفقًا لترنوفسكي ، ما يقرب من 90٪ من الزائرين لأول مرة لا يعودون أبدًا ، حيث يجدون تفاعلاتهم متواضعة.

"التحدي حقًا هو بناء شيء يستحق أن يجعل الناس مهتمين أكثر باستخدامه على أساس منتظم بدلاً من كونه مجرد شيء لمرة واحدة ،" أوضح تيرنوفسكي عبر Wired.