Facebook, AI Tarafından Oluşturulan ve Komplo Teorilerini Sürdürmek İçin Kullanılan Hesapları Kaldırıyor

Sosyal medya şirketleri, 2020 seçim sezonu öncesinde çeşitli yollarla yanlış bilgileri kontrol etmeyi amaçlıyor. Twitter kısa süre önce platformundan siyasi reklamları yasaklarken, Facebook az önce yüzlerce sahte hesabı, grubu ve sayfayı kapattığını duyurdu. Bu hesapların çoğu yapay zeka tarafından oluşturulmuş profil resimlerine sahip gibi görünüyor ve birçoğunun yanlış bilgi ve komplo teorilerini yaymak için kullanıldığı bildiriliyor.

Forbes tarafından bildirildiği gibi, Facebook, yasaklanan hesapların ve sayfaların, Facebook'un muhafazakar haber yayın grubu Epoch Times ile bağlantılı olduğunu söylediği "Beauty of Life" veya "TheBL" ağına bağlı olduğunu belirtti. Facebook'a göre, Epoch Media Group, şu anda yasaklanan sayfaların ve grupların çoğu aracılığıyla reklam vermek için yaklaşık 9.5 milyon dolar harcadı ve gönderilerin çoğu Trump yanlısı komplo teorileri içeriyordu. Epoch Media Group suçlamaları reddederken, Facebook, hesapların ve sayfaların doğasını belirlemek için Graphika ve Atlantic Council'in Dijital Adli Araştırma Laboratuvarı (DFRLab) gibi bağımsız araştırmacılarla yakın bir şekilde çalıştığını belirtti.

Facebook'a göre hesaplar, "eşgüdümlü gerçek dışı davranış", başkalarını kimlikleri hakkında kasıtlı olarak yanıltma ve siyasi müdahaleye teşebbüs nedeniyle kaldırıldı.  CNET'e göre, Facebook, hesapların genellikle belirli siyasi adayları ve ideolojiyi tanıtan, muhafazakar seçimlere, muhafazakar politikalara ve Başkan Trump'a güçlü desteğe odaklanan içerik yayınladığını söyledi.

Facebook, olayla ilgili bulgularının çoğunu kapsayan 39 sayfalık bir rapor yayınladı. Facebook'un raporunun dikkate değer yönlerinden biri, yasaklanan hesapların çoğunun yapay zeka yardımıyla oluşturulmuş olmasıydı. Facebook araştırmacıları raporda şunları belirtiyor:

"Bu raporun yazarları tarafından bilinen ilk büyük ölçekli sahte yüz dağıtımında, bu sahte hesapların düzinelerinde yapay zeka tarafından oluşturulmuş profil resimleri vardı."

Raporun bulgularına göre, yapay zeka tarafından oluşturulan görüntüler mükemmel değildi ve ayrıntılar genellikle gerçek doğalarını ele veriyordu. Bir kişinin gözlüğü veya saçı gibi bir görüntünün bitişik öğeleri genellikle asimetrikti. Ayrıca, arka plan ayrıntıları genellikle bulanık ve bozuktu. Bununla birlikte, özellikle bir Facebook yorum zincirindeki profil fotoğraflarının küçük resim boyutları göz önüne alındığında, bu öğeler ilk bakışta fark edilmeyebilir. Sahte profillerin çoğu, sahte profil bilgilerine ve hatta yapay zeka tarafından potansiyel olarak oluşturulmuş sahte gönderilere sahip görünüyordu.

NBC'nin bildirdiği gibiFacebook'un güvenlik politikası başkanı Nathaniel Gleicher, hesapların davranışlarının onları asılsız olarak ele verdiğini ve sahte resimler ve profil bilgileri kullanma girişimlerinin hesapları keşfedilmekten korumaya yardımcı olmadığını belirtti. Gleicher, AI tarafından oluşturulan görüntülerin aslında hesapların yakalanma olasılığını artırdığını belirtti. Gleicher'ın dediği gibi:

“Sahte davranışlarda bulundukları için bu hesapları tespit ettik. Kendilerini daha gerçekçi göstermenin bir yolu olarak yapay zeka tarafından oluşturulan profilleri kullanmak aslında onlara yardımcı olmuyor. Buradaki en büyük çıkarım, ağın sahte kimlikler kullanma konusundaki berbatlığı… Burada yeni olan şey, sözde ABD merkezli bir medya şirketinin Amerikalı gibi davranan yabancı aktörleri siyasi içeriği zorlamak için kullanması. Bunu geçmişte devlet aktörlerinde çok gördük.”

Bununla birlikte, Graphika ve Atlantic Council'den bağımsız araştırmacılar, kötü aktörlerin bu kadar çok görüntü yaratma ve hesaplarına algılanan özgünlük verme kolaylığının "endişe verici" olduğunu belirtti. Facebook ve diğer sosyal medya şirketleri, yanlış bilgi yaymaya çalışanların teknolojik olarak bir adım önünde olmayı gerektiren bir görev olan, siyasi yanlış bilgilerin çoğalmasıyla mücadele çabalarını hızlandırma baskısı altındadır.

Facebook hesapları, sayfaları ve grupları kapatmadan önce, bu kuruluşlar tarafından yayınlanan içerikler milyonlarca kişiye ulaştı. Bildirildiğine göre, en az 55 milyon hesap, 89 farklı yasaklı sayfadan birini takip etti. Takipçilerin çoğu ABD dışı hesaplardı. Toplamda yaklaşık 600 hesap, 90 sayfa ve 150 grup Facebook'tan kaldırıldı. Yaklaşık 70 hesap da Instagram'dan kaldırıldı.

Haber, Facebook'un Mart 2020'ye kadar sürecek bir DeepFake algılama mücadelesini başlattığı sırada geldi. Twitter ayrıca yakın zamanda şüphelilerinin Suudi Arabistan menşeli yaklaşık 6000 hesabını yasakladı ve kasıtlı olarak yanıltıcı içerik yayınladı.