Facebook'un Yapay Zekası Nasıl Yanlış Bilgi Yayıyor ve Demokrasiyi Tehdit Ediyor?

LinkedIn'de AI araştırmasını denetleyen Dan Tunkelang şunları söyledi: "Tavsiyeler kararları etkileme gücüne sahip olduğu anda, istenmeyen posta gönderenler, dolandırıcılar ve asilden daha az saikleri olan diğer insanlar için bir hedef haline geliyor."

Bu, Facebook gibi sosyal medya şirketlerinin yaşadığı ikilem. Facebook kullanımları örtük geri bildirim tıklamaları, görüntülemeleri ve diğer ölçülebilir kullanıcı davranışlarını izlemek için. Bu, kimin hangi içeriği ne zaman göreceğine karar verme konusunda nihai güce sahip bir yapay zeka sistemi olan "öneri motoru" olarak tanımlanan şeyi tasarlamak için kullanılır.

Facebook, tavsiye motorunu, Facebook platformuna yapıştırılmış olarak harcanan süre ile ölçülen kullanıcı katılımını en üst düzeye çıkarmak için optimize etti. Zamanın en üst düzeye çıkarılması, önerilenin kalitesi veya doğruluğu dahil olmak üzere diğer tüm değişkenlerden daha önceliklidir.

Sistem, bu manşetler toplumu bölmek veya siyasi seçimleri etkilemek amacıyla Rus trolleri tarafından yazılmış olsa bile, bilişsel önyargıdan yararlanarak kullanıcıların ilgisini çeken sansasyonel manşetleri ödüllendirmek için tasarlanmıştır.

Facebook Yapay Zekayı Nasıl Kullanır?

Facebook'un, kullanıcılarının ne gördüğüne ve etkileşimde bulunduğuna karar vermek için yapay zekayı nasıl kullandığına dair bir farkındalık eksikliği var. İlk önce doğrulama yanlılığının ne olduğunu anlamak gerekir. Psikoloji Bugün açıklar bu:

Doğrulama yanlılığı, bilgiyi kişinin önceki inançlarını veya değerlerini doğrulayacak veya destekleyecek şekilde arama, yorumlama, tercih etme ve hatırlama eğilimidir.

Facebook, kullanıcıların doğrulama önyargısı aramaya yönelik insan eğilimini besleyen haberlere tıklama olasılığının daha yüksek olduğunun farkındadır. Bu, hem komplo teorilerinin yayılması hem de kullanıcıların, görülenin doğruluğuna veya toplumsal etkisine bakılmaksızın yalnızca görmek istediklerini kaşıkla beslediği yankı odaları yaratmak için tehlikeli bir emsal teşkil ediyor.

A MIT tarafından çalışma Twitter'daki sahte haberlerin gerçek haberlerden 6 kat daha hızlı yayıldığını göstermeyi başardı.

Bu, hem Twitter hem de Facebook'un silah haline getirilebileceği anlamına gelir. Twitter, herkesin kasıtlı olarak takip et dar veya önyargılı bakış açılarıyla beslenirken, Facebook bunu bir adım öteye taşıyor. Facebook'taki bir kullanıcının şu anda gördüklerini kontrol etmek veya ölçmek için sıfır yolu var, bu tamamen Facebook'un öneri motoru, kullanıcı etkileşimini nasıl ölçtüğü ve aynı kullanıcı etkileşimi için nasıl optimize ettiği tarafından kontrol ediliyor.

Facebook, kullanıcılarının arzularını şekillendirmeye ve tahmin etmeye çalışır. Facebook, henüz kullanıcı tarafından deneyimlenmemiş bir haberi kullanıcının ne derece beğenip beğenmeyeceğini tahmin etmektedir. Facebook, kullanıcı etkileşiminde bir kaybı önlemek için, etkileşim düzeyini azaltabilecek haberleri atlamayı seçer ve bunun yerine, onay yanlılığını besleyen, daha fazla tıklama, yorum, beğeni ve hisseler.

Facebook ayrıca, benzer görüşlere sahip katılımcıları (arkadaşları) otomatik olarak eşleştirmek için geçmişteki kullanıcı eylemlerinin ve fikirlerinin otomatik işbirlikçi filtrelemesini kullanır. Facebook, görmek istediğiniz öğeler için tercihlerinizi otomatik ve matematiksel olarak tahmin eden ve sıralayan bir yardımcı program işlevi kullanır.

Bu, kullanıcıların bir tavşan deliğine düşmesine, sahte haberlerin tuzağına düşmesine, önyargılarını pekiştiren içeriklerle beslenmesine neden oluyor. Sunulan içerik, doğal olarak, tıkladığınız şeyi etkilemek amacıyla tasarlanmıştır. Sonuçta, Bill Gates'in aşı kullanarak insan nüfusunu mikroçiplemeye çalıştığı komplosuna inanıyorsanız, Facebook size neden platformdan kopmanıza neden olabilecek çelişkili kanıtlar sunsun? Belirli bir siyasi adayı destekliyorsanız, Facebook neden aynı aday hakkındaki olumlu görüşlerinizle çelişebilecek haberler sunsun?

Bu yeterli değilmiş gibi Facebook, “sosyal kanıt” olarak bilinen şeyi de devreye sokar. Sosyal kanıt, insanların kitlelerin eylemlerini takip edeceği kavramıdır. Fikir şu ki, pek çok insan belirli bir şekilde davrandığına göre, doğru davranış bu olmalıdır.

Facebook bu sosyal kanıtı beğeniler, yorumlar veya paylaşımlar bağlamında sağlar. Haber kaynağı öğesini yalnızca belirli arkadaşlar görebileceğinden (özellikle bir kullanıcının haber akışını aramadıkça), sosyal kanıt sadece doğrulama yanlılığını güçlendirmeye hizmet eder.

Facebook da kullanıyor filtre kabarcıkları çelişkili, çelişkili ve/veya zorlayıcı bakış açılarına maruz kalmayı sınırlamak için.

Facebook Reklamları

Şüphelenmeyen Facebook kullanıcıları olabilir farkında olmadan reklamlara tıklamak reklamlarla sunulduklarını. Bunun nedeni çok basit, eğer bir reklam varsa, reklam sorumluluk reddi beyanını yalnızca reklamın sunulduğu ilk kişi görecektir. Bu kullanıcı reklamı paylaşırsa, Facebook kasıtlı olarak reklam sorumluluk reddini kaldırdığından, arkadaş listesindeki herkes "paylaşmayı" bir haber kaynağı öğesi olarak görür. Kullanıcılar anında gardlarını düşürürler, neyin reklam olduğu ile haber akışlarında organik olarak neyin görüneceğini ayırt edemezler.

Facebook Paylaşımları

Ne yazık ki, işler daha da kötüye gidiyor. Bir kullanıcının aynı anda içerik paylaşan 1000 arkadaşı varsa, tavsiye motoru, genellikle kanıtlanmamış komplo teorilerinden oluşsalar bile, aynı görüşleri paylaşan azınlıktan gelen içeriğe öncelik verecektir. Kullanıcı daha sonra bu haber besleme öğelerinin herkes tarafından görüldüğü yanılsamasına kapılacaktır. Bu haber akışıyla etkileşim kurarak, bu kullanıcılar birbirlerinin sosyal kanıtını optimize ediyorlar.

Bir kullanıcı, başka bir kullanıcıyı yanıltıcı veya sahte bir öğe hakkında aydınlatmaya çalışırsa, yorum yapma veya haber akışıyla etkileşim kurma eylemi, yalnızca orijinal kullanıcının etkileşim süresini artırır. Bu geri bildirim döngüsü, Facebook'un bu kullanıcının ek sahte haberlerle ilgisini güçlendirmesine neden olur.

Bu, bir kullanıcının yalnızca gördüklerine inanması için eğitildiği bir filtre balonu olan bir yankı odasına neden olur. Gerçek sadece bir yanılsamadır.

Sorunun ciddiyeti

10 milyondan fazla insan bir haber kaynağıyla meşgul Papa Francis'in 2016'da Trump'ın seçilmesinden yana çıktığını iddia ediyor. Buna dair bir kanıt yoktu, sadece Rusya'dan çıkan bir yalan haberdi, ancak bu, Facebook'ta son üç ayda en çok paylaşılan haber oldu. 2016 seçimlerine kadar.

Haber, kendisini “İnternet Araştırma Ajansı” olarak adlandıran bir Rus trol çiftliği tarafından üretildi. Bu aynı organizasyon, Twitter ve Facebook'ta Black Lives Matter'ı şeytanlaştırma lehine ırk tuzağına düşüren makalelerin tanıtımından ve paylaşılmasından ve Amerikalı politikacılar hakkında yanlış iddialar yayan sahte haberlerin silahlandırılmasından sorumluydu.

Seçilmiş İstihbarat Komitesi bir rapor yayınladı. 85 sayfa raporu Rusya'nın Aktif Tedbir Kampanyalarını ve Müdahalesini detaylandırıyor; bunların büyük bir kısmı bölücü sahte haberlerin yayılmasını ve tek amacı 2016 ABD seçimlerini etkilemek olan propagandayı içeriyordu.

2020 seçimlerine hızla ilerleyin ve sorun yalnızca yoğunlaştı. Eylül 2020'de bir FBI ihbarından sonra Facebook ve Twitter kapatılan sosyal medya hesapları Rusya'nın devlet propaganda çabalarıyla bağlantılı PeaceData adlı bir haber kuruluşu için.

Ne yazık ki, hesapları kapatmak geçici ve etkisiz bir çözümdür. Rus hesapları genellikle, erkekleri hedefleyen çekici profillere sahip kadınlar tarafından veya düzenli gönderi geçmişi olan ele geçirilmiş kullanıcı hesapları tarafından genellikle tiksinti duyulan arkadaşlık istekleri biçimini alır. Bu ele geçirilen hesaplar, propaganda veya komplo teorilerinin hakimiyetine girene kadar, yavaş yavaş daha fazla siyasi gönderiye geçer.

Şüphelenmeyen bir kullanıcı, bir arkadaşının hesabının ele geçirildiğinden habersiz olabilir. Bu kullanıcı komplo teorilerine karşı savunmasızsa, sahte haber kaynağı öğesiyle, genellikle bir bot olan Rus trolüyle meşgul olabilir ve ardından beğeniler veya yorumlar şeklinde ek sosyal kanıt sağlar.

Savunmasız kullanıcılar genellikle teknolojinin ve yapay zekanın nasıl çalıştığını en az anlayanlardır. Oy verme olasılığı en yüksek nüfus olan 65 yaş üstü nüfus, aynı zamanda sahte haberleri yayma olasılığı en yüksek olan kesimdir. New York Times tarafından bildirildi.

Araştırmaya göre, 65 yaş ve üstü Facebook kullanıcıları, 29 yaş ve altı yetişkinlere göre yedi kat daha fazla sahte haber sitelerinden makale yayınladı. Dijital medya okuryazarlığının olmaması, bu yaş grubunu gerçeklere veya doğruluğa dayanmayan, yalnızca kullanıcı katılımına dayalı bir haber akışına hazırlıksız hale getiriyor.

Kötü aktörler, bize karşı bilişsel önyargılarımızı kullanan Facebook'un öneri motorundan yararlanıyor. Aynı kuruluşlar, komplo teorilerini ve propagandayı yaymak için Facebook'un yapay zekasını kötüye kullanmayı optimize etti. İlk bakışta masum görünebilecek komplo teorileri genellikle beyaz üstünlüğüne, aşırı sağcı milliyetçiliğe veya aşırı sağcı milliyetçiliğe giden huniler olarak kullanılır. QAnon Trump'ın dünyayı liberal sübyancılardan kurtarmaya çalıştığı tuhaf bir komplo teorisi, gerçekte hiçbir temeli olmayan bir komplo.

ÖZET

Facebook bir sorun olduğunun açıkça farkındadır ve bunu herkese açık bir şekilde bir strateji açıkladı Facebook'un Topluluk Standartlarını ihlal eden içeriği kaldırmaya odaklanan. Sorun, hesapların silinmesinin geçici bir önlem olması ve hesapların botlar tarafından toplu olarak oluşturulması veya kullanıcı hesaplarının toplu olarak ele geçirilmesi durumunda etkisiz olmasıdır. Paylaşımların çoğunun, yanlış bilgi yaydıklarının farkında olmayan normal kullanıcılar tarafından yapılması da sorunu çözmez.

Uyarı etiketleri eklemek, sosyal medya devlerinin en çok muhafazakarlara karşı önyargılı olduğuna dair komplo teorilerini güçlendirmeye hizmet ediyor. sahte haberlere duyarlı.

Çözümün, yalnızca kullanıcı katılımını ölçmekle kalmayıp, gerçeği sunarak ve gelişmiş kişisel farkındalığı teşvik ederek kullanıcı mutluluğu için optimize edilmiş yeni bir tavsiye motoru olması gerekiyor.

Bu arada, Facebook şu yolu izlemeli: Twitter siyasi reklamları yasakladı.

Son olarak önemli bir soru sorulmalıdır. İnsanlar artık gördükleri haberlerde seçim yapamıyorlarsa, bu ne zaman bir tavsiye olmaktan çıkıyor ve ne zaman zihin kontrolü haline geliyor?

Önerilen Kaynaklar:

Rus Aktif Tedbirleri Kampanyaları ve Müdahaleleri – Amerika Birleşik Devletleri Senatosu Seçilmiş İstihbarat Komitesi Raporu.

Demokrasinin Sonunu Kehanet Eden Sarsıcı Rapor - Tarafından George Washington Üniversitesi'nin Tarih Haber Ağı'nın kurucusu Rick Shenkman.

Yaşlı İnsanlar Facebook'ta Sahte Haberler Paylaşıyor – New York Times tarafından