ما يكشفه انتصارات بوليماركت المزيفة حول الإجماع المصنع في عصر الذكاء الاصطناعي

في يونيو ، ذكرت صحيفة وول ستريت جورنال أن بوليماركت كانت تدفع للمبدعين ، ومعظمهم من الطلاب الجامعيين ، لتصوير أنفسهم وهم ي đặt الرهانات على مواقع بنيت لتبدو تماما مثل المنصة الحقيقية ، مع بعض مقاطع الفيديو التي تظهر الفوز الذي لم يحدث في الواقع.

ثم استأجرت بوليماركت شبكة من “المنقحين” لإعادة نشر مقاطع الفيديو حتى تبدو وكأنها موجة عضوية من الناس الذين يثرون من المنصة. عبر مجموعة من 118 فيديو ، احتفل المبدعون بفوز قريب من 900 ألف دولار ، لو أن الرهانات كانت حقيقية ، لخسروا أكثر من 166 ألف دولار ، والcampaign الكامل غطى 1105 فيديو ، لا واحد منهم يعكس сделة حقيقية.

معظم ردود الفعل ركزت على فكرة الإعلان الكاذب ، وهذا وصف عادل ، ولكنها توقفت عن الأسئلة الأكثر فائدة حول كيفية اكتشاف بوليماركت ، وإذا كان هذا النوع من الحملات سوف يمر دون أن يكتشف في المستقبل. الشركة في النهاية اكتشفت لأن هذا النوع من الحملات يعتمد على البشر ، والبشر يتركون أثرا. ولكن الذكاء الاصطناعي يغير ذلك. تكلفة تصنيع سرد مقنع على الإنترنت تنخفض بسرعة ، و khả năngنا لاكتشافه تنخفض معها.

نموذج يعمل على الناس ، مقابل واحد لا يحتاج إليهم

عملت حملة بوليماركت لأنها بدت عضوية. نشر المبدعون من حساباتهم الخاصة كما لو كانوا يسجلون تجربتهم الخاصة ، وانتشرت مقاطع الفيديو حتى شعرت وكأنها موجة حقيقية من الحماس بدلا من عملية مدفوعة. المبدعون المدفوعون ي объясняют نصف ما جعل ذلك يعمل ، والنصف الآخر ، أقل وضوحا ولكن لا يقل أهمية ، كان التفاعل الكاذب.

ليس من الصدفة أن هذه مقاطع الفيديو جذبت 140 مليون مشاهدة على تيك توك و يوتيوب و إنستجرام من المبدعين الذين كانوا يمتلكون في المتوسط بضع مئات من المشاهدات لكل منشور. هذا النوع من الوصول يحتاج عادة إلى ضخ الفيديو بالاعجابات والتعليقات والمشاهدات الاصطناعية ، عادة من خلال البوتات أو الحسابات المنسقة ، حتى يعتقد محرك التوصية أن هذا شيء يريده الناس حقا.

ما جعل هذا مكلفا ، و في النهاية قابلا للكشف ، هو أن ذلك يعمل من خلال الناس في كل خطوة. يجب بناء مواقع كاذبة و استضافتها ، ويجب دفع المبدعين ، ويجب توظيف شركة لإدارة شبكة إعادة النشر ، وكل خطوة من تلك الخطوات تركت سجلا يمكن للمحققين اتباعه إلى المصدر.

الذكاء الاصطناعي يزيل هذا القيد ، منذ أن يمكن للأشخاص الاصطناعيين والفيديو المولّد والصوت المُكرر إنتاج نفس وهم الحماس العضوي بدون رواتب أو عقود أو أوراق مالية. الآلية تبقى نفسها. ما يختفي هو الحاجة لأي شخص لتوقيع أي شيء أو استلام تحويل بنكي ليحدث ذلك.

هذا التغيير يغير också حجم المشكلة. حجم المحتوى الكاذب على الإنترنت ارتفع من حوالي 500 ألف في عام 2023 إلى حوالي 8 ملايين في عام 2025 ، وเมما المحتوى المزور ينمو بسرعة ، ي停止 كونه غزوًا عرضيًا في التغذية و يبدأ في أن يصبح جزءًا مهمًا من ما يتكون منها.

خط الفصل بين الموجهة والحقيقية لا يعتمد

معظم التنفيذيين ما زالوا يفكرون في السرد على الإنترنت بالموضوعات الثنائية ، حيث إنه إما موجه أو حقيقي. ولكن عرض بوليماركت ، أن أي شخص يمكن أن يفوز بشكل كبير بالتداول على منصتهم ، بدأ كمحتوى مُصنع و ما زال يكتسب زخما مع المستخدمين الحقيقيين بمجرد أن رأى الناس ذلك و آمنوا به و تصرفوا بناءً عليه. في ذلك الحين ، ي停止 مصدر السرد عن كونه الحقيقة المهمة ، و قصة تبدأ كخدعة يمكن أن تنتج عواقب حقيقية تماما بمجرد أن تكتسب زخما. البحث الأخير وجد أن البشر يمكن أن يفرقوا بين المحتوى المولّد بالذكاء الاصطناعي والمحتوى الحقيقي فقط 51% من الوقت ، قريبا من رمي العملة ، مما يعني أن معظم الناس ، رؤية شيء على تغذيتهم ما زالت كافية للاعتقاد به.

بوليماركت حولت الارتباك المُصمم إلى رسوم تداول. توجيه نفس الآليات إلى الانتخابات أو أي قضية عامة متنازع عليها ، و يجعل الذكاء الاصطناعي من السهل تشغيل هذا النوع من التلاعب على نطاق واسع ، مع تحرك المكافآت من الإيرادات المفقودة إلى من يثق به الناس وكيف يصوتون.

لماذا أدوات المراقبة العادية تفوت ذلك

معظم مراقبة السمعة بنيت لتعقب الإنترنت القائم على النص ، ومراقبة الذكر ، والكلمات الرئيسية ، والهैश تاج. ولكن الانطباع يتشكل الآن داخل الفيديو القصير والأنظمة التوصية التي تقرر ما يظهر. الأدوات المبنية لقراءة التعليقات والتعليقات لم تكن بنيت لقراءة النبرة ، والسياق البصري ، ومصداقية الشخص على الشاشة ، وكل ذلك ليس معلومات اختيارية الآن. هذا هو السرد نفسه الذي يتم سرده داخل الفيديو.

توليد الفيديو بالذكاء الاصطناعي أصبح جيدا بما يكفي ، وسريعا بما يكفي ، لإنتاج شريحة مقنعة من أي شيء لم يعد يحتاج إلى استوديو أو ميزانية إنتاج. أي شخص يدير واحدة من هذه الحملات يعرف بالفعل أفضل من استخدام العلامة التجارية أو لغة قابلة للبحث ، مما يعني أن الإشارات التي تحمل السرد ، النبرة ، مصداقية المبدع ، رد فعل المجتمع ، تبقى غير مرئية لنظام قائم على الكلمات الرئيسية بتصميم.

المنهج القديم لتقصي الحقائق بعد الحادث ، متابعة مسار الأوراق كما فعلت صحيفة وول ستريت جورنال مع بوليماركت ، لن يتسع نطاقه ، لأن هذا النوع من الإعادة يعتمد على أن البشر يتركون أثرا في المقام الأول. إزالة البشر من الدائرة ، و لا يوجد أثر يتبقى لمتابعته ، و هذا هو السبب في أن الكشف عن ذلك يتطلب مراقبة النمط أثناء تشكله بدلا من إعادة بناء الغش بعد أن已经 انتشر.

بوليماركت اكتشفت لأنها ما زالت تحتاج إلى أشخاص

لا ينبغي لأي شخص أن يكون مندهشا من أن شركة تصنع ضجة herself. هذا هو كتاب التضليل القياسي الذي كان قائما لسنوات ، واكتشفت بوليماركت تحديدا لأن نسختهم من الكتاب لا يزال يعمل على البشر ، تاركا وراءه سجلا يمكن لمحقق أن يتبعه إلى المصدر.

الإصدار التالي من هذه الحملة لن يحتاج إلى أي من ذلك. بمجرد أن تنخفض تكلفة تصنيع الإجماع إلى الصفر ، ي停止 القدرة على التمييز بين الحقيقي والمصنع من كونها قدرة لطيفة و يصبح الشيء الذي يعتمد عليه كل قرار لاحق ، حول من الن đáng الثقة ، ماذا نؤمن به ، وكيف نستجيب ، يعتمد عليه.

The next version of this campaign won’t need any of that. Once the cost of manufacturing consensus drops close to zero, the ability to tell real from manufactured stops being a nice-to-have capability and becomes the thing every downstream decision, about who to trust, what to believe, and how to respond, depends on.