Facebook Menghapus Akun yang Dibuat oleh AI dan Digunakan untuk Menyebar Teori Konspirasi

Perusahaan media sosial telah berupaya untuk mengendalikan informasi yang salah sebelum musim pemilihan 2020 dengan berbagai cara. Sementara Twitter baru-baru ini melarang iklan politik dari platformnya, Facebook (META ) baru saja mengumumkan bahwa mereka telah menutup ratusan akun palsu, grup, dan halaman. Banyak dari akun-akun ini tampaknya memiliki gambar profil yang dibuat oleh kecerdasan buatan, dan banyak yang dilaporkan telah digunakan untuk menyebarkan informasi yang salah dan teori konspirasi.

Seperti dilaporkan oleh Forbes, Facebook menyatakan bahwa akun dan halaman yang dilarang tersebut terkait dengan jaringan “Beauty of Life” atau “TheBL”, yang menurut Facebook terkait dengan grup penerbitan berita konservatif, Epoch Times. Menurut Facebook, Epoch Media Group telah menghabiskan hampir $9,5 juta untuk iklan melalui banyak halaman dan grup yang sekarang dilarang, dengan banyak postingan yang mengandung teori konspirasi pro-Trump. Sementara Epoch Media Group menyangkal tuduhan tersebut, Facebook menyatakan bahwa mereka bekerja sama dengan peneliti independen seperti Graphika dan Digital Forensic Research Lab (DFRLab) dari Atlantic Council untuk menentukan sifat akun dan halaman sebelum mengambil tindakan terhadap mereka.

Menurut Facebook, akun-akun tersebut dihapus karena “perilaku tidak asli yang terkoordinasi”, dengan sengaja menyesatkan orang lain tentang identitas mereka, dan karena mencoba mengganggu proses politik. Menurut CNET, Facebook menyatakan bahwa akun-akun tersebut sering memposting konten yang mempromosikan kandidat politik tertentu dan ideologi, dengan fokus pada pemilihan konservatif, kebijakan konservatif, dan dukungan kuat untuk Presiden Trump.

Facebook menerbitkan laporan 39 halaman tentang peristiwa tersebut, yang mencakup banyak temuan mereka. Salah satu aspek yang paling menonjol dari laporan Facebook adalah bahwa banyak akun palsu yang dibuat dengan bantuan AI. Peneliti Facebook menyatakan dalam laporan bahwa:

“Puluhan akun palsu memiliki gambar profil yang dibuat oleh kecerdasan buatan, dalam penerapan pertama dari wajah palsu yang diketahui oleh penulis laporan ini.”

Menurut temuan laporan, gambar-gambar yang dibuat oleh AI tidak sempurna, dengan detail yang sering mengungkapkan sifat aslinya. Elemen-elemen yang berdekatan dalam sebuah gambar, seperti kacamata atau rambut seseorang, seringkali asimetris. Selain itu, detail latar belakang seringkali buram dan terdistorsi. Namun, elemen-elemen ini mungkin tidak terlihat pada pandangan pertama, terutama mengingat ukuran gambar profil yang kecil di rantai komentar Facebook. Banyak profil palsu juga tampaknya memiliki informasi profil palsu dan bahkan postingan palsu, yang mungkin dibuat oleh AI.

Seperti dilaporkan oleh NBC, kepala kebijakan keamanan Facebook, Nathaniel Gleicher, menyatakan bahwa perilaku akun-akun tersebutlah yang membuat mereka terdeteksi sebagai tidak asli, dan bahwa upaya untuk menggunakan gambar dan informasi profil palsu tidak membantu melindungi akun-akun tersebut dari penemuan. Gleicher menyatakan bahwa gambar-gambar yang dibuat oleh AI sebenarnya membuat akun-akun tersebut lebih mungkin untuk tertangkap. Gleicher menyatakan:

“Kami mendeteksi akun-akun tersebut karena mereka terlibat dalam perilaku palsu. Menggunakan profil yang dibuat oleh AI sebagai cara untuk membuat mereka terlihat lebih nyata sebenarnya tidak membantu mereka. Hal terpenting di sini adalah kejahatan jaringan dalam menggunakan identitas palsu… Apa yang baru di sini adalah bahwa ini adalah perusahaan media yang berbasis di AS yang menggunakan aktor asing yang berpura-pura sebagai warga AS untuk mempromosikan konten politik. Kami telah melihatnya banyak dengan aktor negara di masa lalu.”

Namun, peneliti independen dari Graphika dan Atlantic Council menyatakan bahwa kemudahan dengan mana aktor jahat dapat membuat banyak gambar dan memberikan akun-akun tersebut kesan autentik “adalah suatu kekhawatiran”. Facebook dan perusahaan media sosial lainnya berada di bawah tekanan untuk meningkatkan upaya untuk melawan penyebaran informasi yang salah, tugas yang akan memerlukan untuk tetap unggul dalam teknologi daripada mereka yang berusaha untuk menyebarkan informasi yang salah.

Sebelum Facebook menghapus akun, halaman, dan grup, konten yang diposting oleh entitas-entitas tersebut telah mencapai jutaan orang. Dilaporkan, setidaknya 55 juta akun telah mengikuti salah satu dari 89 halaman yang dilarang. Sebagian besar pengikutnya adalah akun non-AS. Totalnya, sekitar 600 akun, 90 halaman, dan 150 grup telah dihapus dari Facebook. Sekitar 70 akun juga dihapus dari Instagram.

Berita ini datang tepat saat Facebook meluncurkan tantangan deteksi DeepFake, yang akan berlangsung hingga Maret 2020. Twitter juga baru-baru ini melarang hampir 6000 akun yang dicurigai berasal dari Arab Saudi dan memposting konten yang menyesatkan.