Bagaimana Facebook Menggunakan AI untuk Menyebar Informasi Palsu dan Mengancam Demokrasi

Dan Tunkelang yang mengawasi penelitian AI di LinkedIn, menyatakan: “Saat rekomendasi memiliki kekuatan untuk mempengaruhi keputusan, mereka menjadi target bagi spammer, penipu, dan orang-orang dengan motif yang tidak mulia.”

Ini adalah dilema yang dihadapi oleh perusahaan media sosial seperti Facebook. Facebook menggunakan umpan balik implisit untuk melacak klik, tampilan, dan perilaku pengguna lainnya yang dapat diukur. Ini digunakan untuk merancang apa yang disebut “mesin rekomendasi”, sistem AI yang memiliki kekuatan untuk memutuskan siapa yang melihat konten apa dan kapan.

Facebook telah mengoptimalkan mesin rekomendasi mereka untuk memaksimalkan keterlibatan pengguna, yang diukur oleh jumlah waktu yang dihabiskan di platform Facebook. Maksimalisasi waktu menjadi prioritas utama daripada variabel lainnya, termasuk kualitas atau akurasi dari apa yang direkomendasikan.

Sistem ini dirancang untuk menghargai judul sensasional yang mengaktifkan pengguna dengan mengeksploitasi bias kognitif, bahkan jika judul tersebut ditulis oleh troll Rusia dengan tujuan membagi masyarakat atau mempengaruhi pemilihan politik.

Bagaimana Facebook Menggunakan AI

Tidak ada kesadaran tentang bagaimana Facebook menggunakan AI untuk memutuskan apa yang dilihat dan diinteraksi oleh penggunanya. Seseorang harus memahami apa yang disebut bias konfirmasi. Psychology Today menjelaskan ini sebagai:

Bias konfirmasi adalah kecenderungan untuk mencari, menafsirkan, memfavoritkan, dan mengingat informasi dengan cara yang mengkonfirmasi atau mendukung keyakinan atau nilai sebelumnya.

Facebook memahami bahwa pengguna lebih mungkin mengklik berita yang memasukkan kecenderungan manusia untuk mencari bias konfirmasi. Ini menetapkan preseden berbahaya untuk penyebaran teori konspirasi dan untuk menciptakan kamar gema di mana pengguna diberi makan secara eksklusif apa yang mereka inginkan, tanpa memperhatikan akurasi atau dampak sosial dari apa yang dilihat.

Sebuah studi oleh MIT dapat menunjukkan bahwa berita palsu di Twitter menyebar 6 kali lebih cepat daripada berita nyata.

Ini berarti bahwa baik Twitter maupun Facebook dapat digunakan sebagai senjata. Sementara Twitter memungkinkan siapa saja untuk mengikuti feed dengan pandangan yang sempit atau bias, Facebook melangkah lebih jauh. Pengguna Facebook saat ini tidak memiliki cara untuk mengontrol atau mengukur apa yang dilihat, ini dikendalikan sepenuhnya oleh mesin rekomendasi Facebook, bagaimana mereka mengukur keterlibatan pengguna, dan bagaimana mereka mengoptimalkan keterlibatan pengguna.

Facebook mencoba membentuk dan memprediksi keinginan penggunanya. Facebook memperkirakan seberapa besar pengguna akan menyukai atau tidak menyukai sebuah berita yang belum pernah dialami oleh pengguna. Untuk menghindari kehilangan keterlibatan pengguna, Facebook kemudian memilih untuk melewati berita yang mungkin mengurangi tingkat keterlibatan, dan memilih untuk mengaktifkan pengguna dengan memberikan berita yang memasukkan bias konfirmasi, memastikan lebih banyak klik, komentar, suka, dan bagikan.

Facebook juga menggunakan filter kolaboratif otomatis dari tindakan dan opini pengguna sebelumnya untuk secara otomatis mencocokkan peserta (teman) dengan opini yang sama. Facebook menggunakan fungsi utilitas yang secara otomatis dan matematis memprediksi dan menilai preferensi Anda untuk item yang ingin Anda lihat.

Ini menyebabkan pengguna jatuh ke dalam lubang kelinci, mereka terjebak dalam berita palsu, diberi makan konten yang memperkuat bias mereka. Konten yang disajikan secara inheren dirancang dengan tujuan untuk mempengaruhi apa yang Anda klik. Jika Anda percaya konspirasi bahwa Bill Gates mencoba memasang mikrochip pada populasi manusia dengan menggunakan vaksin, mengapa Facebook harus menampilkan bukti yang bertentangan yang mungkin membuat Anda tidak terlibat dengan platform?

Seolah-olah ini tidak cukup, Facebook juga terlibat dalam apa yang disebut “bukti sosial”. Bukti sosial adalah konsep bahwa orang akan mengikuti tindakan mayoritas. Ide ini adalah bahwa karena banyak orang lain berperilaku dengan cara tertentu, itu pasti perilaku yang benar.

Facebook menyediakan bukti sosial dalam konteks suka, komentar, atau bagikan. Karena hanya beberapa teman yang mungkin melihat item berita (kecuali mereka secara khusus mencari berita pengguna), bukti sosial hanya memperkuat bias konfirmasi.

Facebook juga menggunakan gelembung filter untuk membatasi paparan terhadap pandangan yang bertentangan, kontradiktif, dan atau menantang.

Facebook Ads

Pengguna Facebook yang tidak curiga mungkin mengklik iklan tanpa menyadari bahwa mereka sedang diberikan iklan. Alasannya sederhana, jika ada iklan hanya orang pertama yang diberikan iklan akan melihat disclaimer iklan. Jika pengguna tersebut membagikan iklan, semua orang di daftar teman hanya melihat “bagikan” sebagai item berita, karena Facebook sengaja menghilangkan disclaimer iklan. Sekarang, pengguna melepaskan penjagaan mereka, mereka tidak dapat membedakan antara apa yang merupakan iklan dan apa yang muncul secara alami di berita mereka.

Facebook Shares

Sayangnya, hal-hal menjadi lebih buruk. Jika pengguna memiliki 1000 teman yang secara bersamaan membagikan konten, mesin rekomendasi akan memprioritaskan konten dari minoritas yang memiliki pandangan yang sama, bahkan jika konten tersebut sering terdiri dari teori konspirasi yang tidak terbukti. Pengguna kemudian akan berada di bawah ilusi bahwa item berita ini dilihat oleh semua orang. Dengan berinteraksi dengan berita ini, pengguna tersebut mengoptimalkan bukti sosial mereka sendiri.

Jika pengguna mencoba menerangi pengguna lain tentang item yang menyesatkan atau palsu, tindakan mengomentari atau berinteraksi dengan berita hanya meningkatkan waktu keterlibatan pengguna asli. Umpan balik ini menyebabkan Facebook memperkuat pengguna tersebut dengan berita palsu tambahan.

Ini menyebabkan kamar gema, gelembung filter di mana pengguna dilatih untuk hanya percaya apa yang mereka lihat. Kebenaran hanya ilusi.

Keparahan Masalah

Lebih dari 10 juta orang berinteraksi dengan berita yang mengklaim bahwa Paus Fransiskus mendukung pemilihan Trump pada 2016. Tidak ada bukti untuk ini, itu hanya berita palsu yang berasal dari Rusia, namun ini adalah berita yang paling banyak dibagikan di Facebook dalam tiga bulan sebelum pemilihan 2016.

Item berita ini dibuat oleh sebuah pertanian troll Rusia yang menyebut dirinya “Internet Research Agency”. Organisasi yang sama ini bertanggung jawab atas promosi dan berbagi di Twitter dan Facebook artikel yang memicu rasisme, mendukung demonisasi Black Lives Matter, dan menyebarkan berita palsu yang menyebarkan klaim palsu tentang politisi Amerika.

Komite Selektif Intelijen merilis laporan 85 halaman yang menjelaskan Kampanye dan Interferensi Tindakan Aktif Rusia, sebagian besar di antaranya melibatkan penyebaran berita palsu yang memecah belah dan propaganda yang memiliki tujuan tunggal untuk mempengaruhi pemilihan 2016 di AS.

Maju cepat ke pemilihan 2020 dan masalahnya hanya memburuk. Pada September 2020, setelah tip dari FBI, Facebook dan Twitter menghentikan akun media sosial untuk sebuah organisasi berita yang disebut PeaceData, yang terkait dengan upaya propaganda negara Rusia.

Sayangnya, menutup akun hanya merupakan solusi sementara dan tidak efektif. Akun Rusia sering kali berbentuk permintaan pertemanan, sering kali dibuat oleh wanita dengan profil yang menarik yang menargetkan pria, atau akun pengguna yang telah diretas dengan riwayat posting reguler. Akun yang diretas ini perlahan-lahan bergeser ke posting politik, sampai mereka didominasi oleh propaganda atau teori konspirasi.

Pengguna yang tidak curiga mungkin tidak menyadari bahwa akun teman telah diretas. Jika pengguna tersebut rentan terhadap teori konspirasi, mereka mungkin berinteraksi dengan item berita palsu, troll Rusia yang sering merupakan bot, kemudian menyediakan bukti sosial tambahan dengan cara menyukai atau mengomentari.

Pengguna yang rentan sering kali adalah mereka yang paling tidak memahami bagaimana teknologi dan AI bekerja. Demografi di atas 65 tahun yang paling mungkin memilih, juga paling mungkin menyebarkan berita palsu, seperti dilaporkan oleh New York Times.

Menurut studi, pengguna Facebook yang berusia 65 tahun ke atas memposting tujuh kali lebih banyak artikel dari situs berita palsu daripada orang dewasa yang berusia 29 tahun ke bawah. Kurangnya literasi media digital membuat kelompok ini tidak siap untuk berita yang tidak berdasarkan fakta atau akurasi, tetapi secara eksklusif pada keterlibatan pengguna.

Aktor jahat mengambil keuntungan dari mesin rekomendasi Facebook yang mengeksploitasi bias kognitif kita. Organisasi ini telah mengoptimalkan penyalahgunaan AI Facebook untuk menyebarkan teori konspirasi dan propaganda. Teori konspirasi yang mungkin tampak tidak berbahaya pada awalnya, sering kali digunakan sebagai saluran untuk supremasi kulit putih, nasionalisme sayap kanan, atau QAnon sebuah teori konspirasi aneh yang melibatkan Trump mencoba menyelamatkan dunia dari pedofilia liberal, sebuah konspirasi yang tidak memiliki dasar nyata.

Rangkuman

Facebook jelas menyadari bahwa ada masalah dan mereka telah secara terbuka mengumumkan strategi yang berfokus pada menghapus konten yang melanggar Standar Komunitas Facebook. Masalahnya adalah menghapus akun hanya merupakan tindakan sementara yang tidak efektif ketika akun dihasilkan dalam jumlah besar oleh bot, atau peretasan massal akun pengguna. Ini juga tidak menyelesaikan masalah bahwa sebagian besar berbagi dilakukan oleh pengguna reguler yang tidak menyadari bahwa mereka menyebarkan informasi palsu.

Menambahkan label peringatan hanya memperkuat teori konspirasi bahwa raksasa media sosial memiliki bias terhadap konservatif yang paling rentan terhadap berita palsu.

Penyelesaian masalah ini memerlukan mesin rekomendasi baru yang tidak hanya mengukur keterlibatan pengguna, tetapi juga dioptimalkan untuk kebahagiaan pengguna dengan menyampaikan kebenaran dan mempromosikan kesadaran diri yang ditingkatkan.

Sementara itu, Facebook harus mengikuti jejak Twitter yang melarang iklan politik.

Akhirnya, pertanyaan penting perlu diajukan. Jika orang tidak lagi memiliki pilihan tentang berita yang mereka lihat, kapan rekomendasi berhenti menjadi rekomendasi dan kapan menjadi kontrol pikiran?

Bacaan yang Disarankan:

Kampanye dan Interferensi Tindakan Aktif Rusia – Laporan oleh Komite Selektif Intelijen Senat AS.

Kertas yang Mengejutkan yang Meramalkan Akhir Demokrasi – Oleh Rick Shenkman, pendiri Jaringan Berita Sejarah Universitas George Washington.

Orang Tua Berbagi Berita Palsu di Facebook Lebih Banyak – Oleh New York Times