Facebook’ın AI’ın Nasıl Yanlış Bilgi Yaydığı ve Demokrasiyi Tehdit Ettiği

Dan Tunkelang, LinkedIn’de AI araştırmalarını denetleyen kişi, “Öneriler kararları etkileme gücüne sahip olduğunda, spamcılar, dolandırcılar ve diğer kötü niyetli kişiler için bir hedef haline gelirler” dedi.

Bu, Facebook gibi sosyal medya şirketlerinin karşılaştığı ikilem. Facebook, örtük geri bildirim kullanarak tıklamaları, görüntülemeleri ve diğer ölçülebilir kullanıcı davranışlarını izler. Bu, “öneri motoru” olarak adlandırılan bir AI sistemi tasarlamak için kullanılır ve bu sistem, hangi içeriğin hangi kullanıcıya gösterileceğini ve ne zaman gösterileceğini quyếtlemek için son kararı verir.

Facebook, öneri motorunu kullanıcı etkileşimini en üst düzeye çıkarmak için optimize etti ve bu, kullanıcıların Facebook platformuna bağlı kalma süresiyle ölçülür. Zamanın en üst düzeye çıkarılması, önerilen içeriğin kalitesi veya doğruluğundan daha önemli bir öncelik olarak kabul edilir.

Sistem, kullanıcıları bilişsel önyargılarından yararlanarak sansasyonel başlıklarla etkilemek üzere tasarlanmıştır, bu başlıkların Rus troller tarafından toplumun bölünmesi veya siyasi seçimlerin etkilenmesi amacıyla yazılmış olması önemli değildir.

Facebook AI’ı Nasıl Kullanıyor

Facebook’ın AI’ı nasıl kullandığını anlamak için önce onaylama önyargısını anlamak gerekir. Psikoloji Today, bunu şöyle tanımlar:

Onaylama önyargısı, önceden sahip olunan inançları veya değerleri destekleyen veya onaylayan bilgileri arama, yorumlama, tercih etme ve hatırlama eğilimdir.

Facebook, kullanıcıların onaylama önyargılarını besleyecek haberlere tıklamaya daha eğilimli olduklarını bilir. Bu, komplo teorileri yayılması ve kullanıcıların yalnızca doğruluk veya toplumsal etkileri dikkate alınmaksızın yalnızca görmek istedikleri içeriğe maruz kalacağı yankı odalarının oluşturulması için tehlikeli bir öngörüdür.

MIT tarafından yapılan bir çalışma, Twitter’da yanlış haberlerin gerçek haberlerden 6 kat daha hızlı yayıldığını gösterdi.

Bu, Twitter ve Facebook’un silahlandırılabileceği anlamına gelir. Twitter, kullanıcıların dar veya önyargılı görüşlere sahip hesapları takip etmesine olanak tanır, ancak Facebook bunu bir adım öteye taşır. Facebook’ta bir kullanıcı, neyin görüntülendiğini kontrol etme veya ölçme opportunitiesine sahip değildir, bu tamamen Facebook’un öneri motoru tarafından belirlenir.

Facebook, kullanıcıların arzularını şekillendirmeye ve tahmin etmeye çalışır. Facebook, bir kullanıcıya henüz deneyimlememiş olduğu bir haber maddesini beğenip beğenmeyeceğini tahmin eder ve kullanıcı etkileşimini azaltabilecek haber maddelerini atlar, bunun yerine kullanıcıyı onaylama önyargılarını besleyecek haber maddeleriyle etkilemeye çalışır.

Facebook ayrıca, tarihi kullanıcı eylemleri ve görüşlerini otomatik olarak işbirliği içinde filtreleyerek, benzer görüşlere sahip arkadaşları (katılımcıları) otomatik olarak eşleştirmek için bir fayda işlevi kullanır. Facebook, sizin görmeyi istediğiniz maddeleri matematiksel olarak tahmin eder ve sıralar.

Bu, kullanıcıların bir rabbit hole’a düşmesine neden olur, sahte haberlere hapsolurlar ve önyargılarını besleyecek içerikle beslenirler. Sunulan içerik, kullanıcıların tıkladığı şeyi etkileme amacını taşır. Eğer Bill Gates’in insanları aşı kullanarak mikroçiplemek istediğine dair bir komplo teorisi olduğuna inanıyorsanız, neden Facebook size bununla çelişen kanıtlar sunsun?

Eğer bir siyasi adaya destek oluyorsanız, neden Facebook size bu adaya karşıt haberler sunsun?

Facebook ayrıca, insanların kitlelerin eylemlerini takip edeceğini varsayan “sosyal kanıt” kavramını kullanır.

Facebook, beğeniler, yorumlar veya paylaşımlar bağlamında sosyal kanıtlar sağlar. Sadece belirli arkadaşların haber akışını görebileceği için (eğer kullanıcı özel olarak bir kullanıcının haber akışını aramazsa), sosyal kanıt yalnızca onaylama önyargısını pekiştirir.

Facebook ayrıca, filtre balonları kullanarak, çelişkili, çelişen veya zorlayıcı görüşlere maruz kalma opportunitiesini sınırlar.

Facebook Reklamları

Kullanıcılar, reklam olduklarını bilmeden reklamlara tıklıyor olabilir. Bunun nedeni basittir, bir reklam sadece ilk kez sunulduğunda reklam açıklaması görünür, ancak bu reklam paylaşıldığında, Facebook reklam açıklamasını kaldırır ve arkadaşların listesindeki herkes sadece paylaşılan içeriği görür.

Facebook Paylaşımları

Maalesef, durum daha da kötüleşir. Bir kullanıcının 1000 arkadaşı aynı anda içerik paylaştığında, öneri motoru, aynı görüşlere sahip olan azınlığın paylaştığı içeriği önceliklendirir, bu içerik genellikle ispatlanmamış komplo teorileri içerebilir. Kullanıcı, bu haber akışının herkes tarafından görüldüğünü düşünür ve bu haber akışıyla etkileşime girdiğinde, diğer kullanıcılar da sosyal kanıtlarını pekiştirir.

Eğer bir kullanıcı, başka bir kullanıcıyı aldatıcı veya sahte bir içerik hakkında aydınlatmaya çalışırsa, bu eylemle birlikte orijinal kullanıcının etkileşim süresi artar. Bu geri bildirim döngüsü, Facebook’un bu kullanıcıya daha fazla sahte haber sunmasına neden olur.

Bu, bir yankı odasına yol açar, kullanıcı yalnızca gördüğü şeylere inanmaya şartlanır ve gerçeklik bir illüzyondur.

Sorunun Ciddiyeti

2016 seçimlerinden önce, 10 milyondan fazla insan Papa Francis’in Trump’ın seçimini desteklediğini iddia eden bir haber akışıyla etkileşime girdi. Bu, Rusya’dan çıkan sahte bir haberdi ve 2016 seçimlerinden önce üç ay içinde Facebook’ta en çok paylaşılan haberdi.

İnternet Araştırma Ajansı olarak bilinen bir Rus trol çiftliği tarafından oluşturulan bu haber, aynı zamanda Twitter ve Facebook’ta ırkçı ve sahte haberleri yaymakla suçlandı.

Seçilme Komitesi, 85 sayfalık bir rapor yayınladı ve bu rapor, 2016 ABD seçimlerini etkilemek amacıyla sahte haber ve propaganda yaymak için Rus aktif önlemlerini ve müdahalelerini ayrıntılı bir şekilde açıkladı.

2020 seçimlerine gelindiğinde, sorun daha da kötüleşti. Eylül 2020’de, FBI’nin bir ipucuna dayanarak Facebook ve Twitter, Rusya’nın devlet propagandası çabalarıyla bağlantılı bir haber organizasyonu olan PeaceData’ya ait sosyal medya hesaplarını askıya aldı.

Maalesef, hesapları askıya almak geçici ve etkisiz bir çözümdür. Rus hesapları genellikle arkadaşlık talepleri olarak görünür, bazen çekici profillere sahip kadınlar tarafından hedef alınır veya düzenli olarak paylaşılan içeriklere sahip hesaplara sızılır. Bu hesaplarda yavaş yavaş siyasi paylaşımlar yapılır ve sonunda propaganda veya komplo teorileriyle doldurulur.

Bir kullanıcı, bir arkadaşının hesabının tehlikeye girdiğinden habersiz olabilir. Eğer bu kullanıcı komplo teorilerine karşı savunmasızsa, sahte haber akışıyla etkileşime girebilir ve Rus trolü, bir bot olarak, beğeniler veya yorumlar yoluyla ek sosyal kanıt sağlar.

Zayıf kullanıcılar genellikle teknoloji ve AI’ın nasıl çalıştığını anlamayanlardır. 65 yaş üstü nüfus, en çok oy kullanma olasılığı olan gruptur ve aynı zamanda New York Times tarafından bildirildiği gibi sahte haberleri yayma olasılığı en yüksek gruptur.

Bu çalışmaya göre, Facebook kullanıcıları 65 yaş ve üstü, 29 yaş ve altındaki yetişkinlere göre sahte haber sitelerinden 7 kat daha fazla makale paylaştı. Dijital medya okuryazarlığı eksikliği, bu yaş grubunun gerçeklere veya doğruluğa dayanmayan, yalnızca kullanıcı etkileşimine dayanan bir haber akışına karşı hazırlıksız bırakıyor.

Kötü niyetli aktörler, Facebook’un öneri motorunu bizim bilişsel önyargılarımızı karşıımıza kullanmak için optimize ettiler. Bu organizasyonlar, komplo teorileri ve propaganda yaymak için Facebook’un AI’ının kötüye kullanılmasını optimize ettiler. İlk bakışta masum görünen komplo teorileri, beyaz üstünlükçü, aşırı sağcı milliyetçilik veya QAnon gibi bir dizi komplo teorisine girerken, gerçeklikten tamamen uzaklaşıyor.

Özet

Facebook, bir sorun olduğunu açıkça biliyor ve bir strateji açıkladı, bu strateji, Facebook Topluluk Standartlarını ihlal eden içeriği kaldırmaya odaklanıyor. Ancak, hesapları silmek geçici bir çözüm ve botlar tarafından toplu olarak oluşturulan veya kullanıcı hesaplarının toplu olarak hacklenmesi durumunda etkisiz kalıyor. Ayrıca, çoğu paylaşımların bilinçsiz olarak yanlış bilgi yaymaya devam eden normal kullanıcılar tarafından yapıldığı gerçeğini çözmez.

Uyarı etiketleri eklemek, sosyal medya devlerinin muhafazakarları karşıtı önyargılı olduğuna dair komplo teorilerini pekiştirmeye hizmet eder, bu da sahte haberlere en çok maruz kalan grup olur.

Çözüm, yalnızca kullanıcı etkileşimini değil, aynı zamanda kullanıcı mutluluğunu ölçen ve gerçeği sunan, kullanıcıların kendilerini daha iyi anlamalarına yardımcı olan yeni bir öneri motoru oluşturmaktır.

Şimdilik, Facebook’un Twitter’ın siyasi reklamları yasakladığı yolu izlemesi gerekir.

Son olarak, bir soru sorulmalıdır: İnsanlar gördükleri haberleri seçme opportunitiesine sahip olmadığında, bir öneri nerede biter ve zihin kontrolü nerede başlar?

Önerilen Okuma:

Rus Aktif Önlemler Kampanyaları ve Müdahaleleri – Seçilme Komitesi Raporu.

Demokrasinin Sonu – George Washington Üniversitesi Tarih Haber Ağı’nın kurucusu Rick Shenkman tarafından yazıldı.

Yaşlı İnsanların Facebook’ta Daha Fazla Sahte Haber Paylaştığı – New York Times.