فیس بک نے AI کے ذریعہ تیار کردہ اکاؤنٹس کو ہٹا دیا اور سازش کے نظریات کو برقرار رکھنے کے لئے استعمال کیا گیا۔

سوشل میڈیا کمپنیاں مختلف طریقوں سے 2020 کے انتخابی سیزن سے قبل غلط معلومات کو کنٹرول کرنے کا ہدف رکھتی ہیں۔ جبکہ ٹوئٹر نے حال ہی میں اپنے پلیٹ فارم سے سیاسی اشتہارات پر پابندی لگا دی تھی، فیس بک نے ابھی اعلان کیا ہے کہ اس نے سینکڑوں جعلی اکاؤنٹس، گروپس اور پیجز کو بند کر دیا ہے۔ ایسا لگتا ہے کہ ان میں سے بہت سے اکاؤنٹس میں مصنوعی ذہانت سے تیار کردہ پروفائل امیجز ہیں، اور بہت سے مبینہ طور پر غلط معلومات اور سازشی نظریات پھیلانے کے لیے استعمال کیے گئے ہیں۔

جیسا کہ فوربس نے رپورٹ کیا ہے۔، فیس بک نے کہا کہ ممنوعہ اکاؤنٹس اور صفحات "بیوٹی آف لائف" نیٹ ورک، یا "TheBL" سے منسلک تھے، جس کے بارے میں فیس بک کا کہنا تھا کہ وہ قدامت پسند نیوز پبلشنگ گروپ Epoch Times سے منسلک ہیں۔ فیس بک کے مطابق، ایپوچ میڈیا گروپ نے اب بہت سے کالعدم پیجز اور گروپس کے ذریعے اشتہارات پر تقریباً 9.5 ملین ڈالر خرچ کیے ہیں، جن میں سے بہت سی پوسٹس ٹرمپ کے حامی سازشی نظریات پر مشتمل ہیں۔ جبکہ ایپوک میڈیا گروپ ان الزامات کی تردید کرتا ہے، فیس بک نے کہا ہے کہ اس نے آزاد محققین جیسے گرافیکا اور اٹلانٹک کونسل کی ڈیجیٹل فرانزک ریسرچ لیب (DFRLab) کے ساتھ مل کر کام کیا تاکہ اکاؤنٹس اور صفحات کے خلاف کارروائی کرنے سے پہلے ان کی نوعیت کا تعین کیا جا سکے۔

فیس بک کے مطابق، اکاؤنٹس کو "مربوط غیر مستند رویے"، جان بوجھ کر دوسروں کو ان کی شناخت کے بارے میں گمراہ کرنے، اور سیاسی مداخلت کی کوشش کے لیے ہٹا دیا گیا تھا۔  CNET کے مطابق، فیس بک نے کہا کہ اکاؤنٹس میں اکثر مخصوص سیاسی امیدواروں اور نظریے کو فروغ دینے والا مواد شائع کیا جاتا ہے، جس میں قدامت پسند انتخابات، قدامت پسند پالیسیوں اور صدر ٹرمپ کی بھرپور حمایت پر توجہ دی جاتی ہے۔

فیس بک نے اس واقعے پر 39 صفحات پر مشتمل رپورٹ شائع کی ہے جس میں ان کے بہت سے نتائج کا احاطہ کیا گیا ہے۔ فیس بک کی رپورٹ کا ایک قابل ذکر پہلو یہ تھا کہ ممنوعہ اکاؤنٹس میں سے بہت سے AI کی مدد سے بنائے گئے تھے۔ فیس بک کے محققین نے رپورٹ میں کہا:

"ان میں سے درجنوں جعلی اکاؤنٹس میں مصنوعی ذہانت سے تیار کی گئی پروفائل تصویریں تھیں، اس رپورٹ کے مصنفین کو معلوم ہونے والے جعلی چہروں کی پہلی بڑے پیمانے پر تعیناتی میں۔"

رپورٹ کے نتائج کے مطابق، AI سے تیار کردہ تصاویر کامل نہیں تھیں، جن کی تفصیلات اکثر ان کی اصلی نوعیت کو بتاتی ہیں۔ کسی تصویر کے ملحقہ عناصر، جیسے کسی شخص کے شیشے یا بال، اکثر غیر متناسب ہوتے تھے۔ مزید برآں، پس منظر کی تفصیلات اکثر دھندلی اور مسخ ہوتی تھیں۔ تاہم، یہ عناصر پہلی نظر میں قابل توجہ نہیں ہوسکتے ہیں، خاص طور پر فیس بک کمنٹ چین میں پروفائل فوٹوز کے چھوٹے سائز کے پیش نظر۔ بہت سے جعلی پروفائلز میں جعلی پروفائل کی معلومات اور یہاں تک کہ جعلی پوسٹس بھی لگتی ہیں، جو ممکنہ طور پر AI کے ذریعہ تیار کی گئی ہیں۔

جیسا کہ این بی سی نے رپورٹ کیا۔فیس بک کی سیکیورٹی پالیسی کے سربراہ، ناتھینیل گلیچر نے کہا کہ اکاؤنٹس کے رویے نے انہیں غیر مستند قرار دیا ہے اور جعلی تصاویر اور پروفائل کی معلومات استعمال کرنے کی کوششیں اکاؤنٹس کو دریافت سے بچانے میں مدد نہیں کرتی ہیں۔ گلیشر نے کہا کہ AI سے تیار کردہ تصاویر دراصل اکاؤنٹس کے پکڑے جانے کا زیادہ امکان بنا رہی ہیں۔ گلیشر نے کہا:

"ہم نے ان اکاؤنٹس کا پتہ لگایا کیونکہ وہ جعلی رویے میں مصروف تھے۔ خود کو زیادہ حقیقی بنانے کے طریقے کے طور پر AI سے تیار کردہ پروفائلز کا استعمال دراصل ان کی مدد نہیں کرتا ہے۔ یہاں سب سے بڑا فائدہ جعلی شناختوں کے استعمال میں نیٹ ورک کی سختی ہے… یہاں نئی ​​بات یہ ہے کہ یہ مبینہ طور پر امریکہ میں قائم ایک میڈیا کمپنی ہے جو سیاسی مواد کو آگے بڑھانے کے لیے امریکیوں کے روپ میں غیر ملکی اداکاروں کا فائدہ اٹھا رہی ہے۔ ہم نے اسے ماضی میں ریاستی اداکاروں کے ساتھ بہت دیکھا ہے۔

بہر حال، گرافیکا اور اٹلانٹک کونسل کے آزاد محققین نے کہا کہ جس آسانی سے برے اداکار اتنی زیادہ تصاویر بنانے میں کامیاب ہوئے اور اپنے اکاؤنٹس کو درست ثابت کرنے میں کامیاب ہوئے وہ "تشویش کا باعث ہے"۔ فیس بک اور دیگر سوشل میڈیا کمپنیوں پر دباؤ ہے کہ وہ سیاسی غلط معلومات کے پھیلاؤ کا مقابلہ کرنے کے لیے کوششیں تیز کریں، ایسا کام جس کے لیے غلط معلومات پھیلانے کی کوشش کرنے والوں سے ٹیکنالوجی کے لحاظ سے آگے رہنا ہوگا۔

فیس بک کے اکاؤنٹس، پیجز اور گروپس کو نیچے لانے سے پہلے، ان اداروں کی طرف سے پوسٹ کردہ مواد لاکھوں لوگوں تک پہنچ گیا۔ اطلاعات کے مطابق، کم از کم 55 ملین اکاؤنٹس نے 89 مختلف ممنوعہ صفحات میں سے ایک کو فالو کیا تھا۔ زیادہ تر فالورز غیر امریکی اکاؤنٹس تھے۔ فیس بک سے مجموعی طور پر 600 اکاؤنٹس، 90 پیجز اور 150 گروپس کو ہٹا دیا گیا۔ انسٹاگرام سے تقریباً 70 اکاؤنٹس بھی ہٹا دیے گئے۔

یہ خبر ایسے وقت میں سامنے آئی ہے جب فیس بک ڈیپ فیک کا پتہ لگانے کا چیلنج شروع کر رہا ہے، جو مارچ 2020 تک چلے گا۔ ٹویٹر نے بھی حال ہی میں تقریباً 6000 اکاؤنٹس پر پابندی لگا دی ہے جن کے مشتبہ افراد سعودی عرب سے تعلق رکھتے ہیں اور جان بوجھ کر گمراہ کن مواد پوسٹ کرتے ہیں۔