Facebook, AI ile Oluşturulan ve Komplo Teorilerini Yaymak İçin Kullanılan Hesapları Kaldırdı

Sosyal medya şirketleri, 2020 seçim sezonuna先行 olmak için yanlış bilgilerin yayılmasını kontrol etmek için çeşitli yollar deniyorlar. Twitter最近 siyasi reklamları platformundan yasaklarken, Facebook (META ) da yüzlerce sahte hesap, grup ve sayfanın kapatıldığını açıkladı. Bu hesapların çoğu, profillerinde yapay zeka tarafından oluşturulan resimler kullanıyor ve birçok komplo teorisi yaymak için kullanıldığı bildiriliyor.

Forbes tarafından bildirildiği üzere, Facebook, yasaklanan hesap ve sayfaların “Beauty of Life” ağı veya “TheBL” ile bağlantılı olduğunu, bu ağın ise muhafazakar haber yayıncısı Epoch Times ile bağlantılı olduğunu söyledi. Facebook’a göre, Epoch Media Group, şimdi yasaklanan sayfalar ve gruplar aracılığıyla yaklaşık 9,5 milyon dolarlık reklam harcaması yaptı ve birçok gönderi Trump’ı destekleyen komplo teorileri içeriyordu. Epoch Media Group suçlamaları reddederken, Facebook, hesap ve sayfaların doğasını belirlemek için bağımsız araştırmacılar olan Graphika ve Atlantic Council’ın Dijital Adli Araştırma Laboratuvarı (DFRLab) ile yakın çalıştığını söyledi.

Facebook’a göre, hesaplar, “koordine edilmiş sahte davranış” nedeniyle, kimliklerini başkalarına yanlış şekilde bildirmeye çalıştıkları ve siyasi müdahaleye teşebbüs ettikleri için kaldırıldı. CNET’ye göre, Facebook, hesapların often belirli siyasi adayları ve ideolojileri destekleyen içerikler paylaştığını, muhafazakar seçimlere, politikalarına ve Başkan Trump’a güçlü destek odaklandığını söyledi.

Facebook, olayı kapsayan 39 sayfalık bir rapor yayınladı. Facebook raporunun dikkat çekici yönlerinden biri, birçok yasaklanan hesabın yapay zeka yardımıyla oluşturulduğu idi. Facebook araştırmacıları raporlarında şöyle diyor:

“Bu sahte hesapların dozens’u, yapay zeka tarafından oluşturulan profilleri vardı, bu, bu raporun yazarlarına göre bilinen ilk büyük ölçekli sahte yüzlerin dağıtımı.”

Raporun bulgularına göre, AI tarafından oluşturulan resimler mükemmel değildi, ayrıntılar souvent onların gerçek doğasını açığa vuruyordu. Bir resmin kontiguöz elemanları, örneğin bir kişinin gözlüğü veya saçı, souvent asimetrikti. Ayrıca, arka plan ayrıntıları souvent bulanık ve bozuluyordu. Ancak, bu öğeler ilk bakışta özellikle Facebook yorum zincirindeki küçük profil resimlerinin boyutları nedeniyle dikkat çekmeyebilir.许多 sahte profillerin ayrıca sahte profil bilgileri ve hatta AI tarafından oluşturulmuş gibi görünen sahte gönderileri vardı.

NBC’ye göre, Facebook’un güvenlik politikası başkanı Nathaniel Gleicher, hesapların davranışının onları sahte olarak ortaya çıkardığını ve sahte resim ve profil bilgilerini kullanma girişimlerinin hesapları keşfedilmekten korumaya yardımcı olmadığını söyledi. Gleicher, AI tarafından oluşturulan resimlerin aslında hesapların yakalanma olasılığını artırdığını söyledi. Gleicher şöyle diyor:

“Bu hesapları sahte davranışları nedeniyle tespit ettik. AI tarafından oluşturulan profilleri kullanarak kendilerini daha gerçekçi gösterme girişimi aslında onlara yardımcı olmuyor. Buradaki en büyük sonuç, ağın sahte kimliklerle siyasi içerik yaymak için yabancı aktörleri kullanması. Daha önce devlet aktörlerinde bunu gördük.”

Her şeye rağmen, Graphika ve Atlantic Council’dan bağımsız araştırmacılar, kötü aktörlerin bu kadar çok resim oluşturabilmesi ve hesaplarına algılanan bir gerçeklik kazandırabilmesinin “kaygı verici” olduğunu söyledi. Facebook ve diğer sosyal medya şirketleri, siyasi yanlış bilgilerin yayılmasını mücadele etmek için teknolojiye öncülük etmesi gereken bir görevle karşı karşıya.

Facebook, hesapları, sayfaları ve grupları kaldırmadan önce, bu varlıklar tarafından paylaşılan içerik milyonlarca insana ulaştı. Rapora göre, en az 55 milyon hesap, 89 farklı yasaklanan sayfanın birini takip ediyordu. Takipçilerin çoğu ABD dışı hesaplar. Toplamda, Facebook’tan yaklaşık 600 hesap, 90 sayfa ve 150 grup kaldırıldı. Ayrıca Instagram’dan yaklaşık 70 hesap da kaldırıldı.

Haber, Facebook’un Mart 2020’ye kadar sürecek bir DeepFake algılama yarışması başlattığı sırada geliyor. Twitter da yakın zamanda, Suudi Arabistan’dan kaynaklandığından şüphelendiği ve kasıtlı olarak yanlış bilgi paylaştığından şüphelendiği yaklaşık 6000 hesabı yasakladı.