Facebook Menggunakan Bot dan Simulasi untuk Mencoba Mengatasi Perilaku Buruk Pengguna

Facebook telah merancang AI baru yang dimaksudkan untuk mendeteksi perilaku berbahaya, merusak, dan ilegal dengan lebih baik. Seperti yang dilaporkan oleh The Verge, peneliti di departemen AI Facebook di London telah menciptakan simulator AI yang disebut “WW”, yang digunakan untuk mensimulasikan perilaku penipu, pedagang produk ilegal, spammer, dan aktor jahat lainnya pada versi simulasi Facebook itu sendiri.

Simulator Facebook yang dikenal sebagai “WW”, yang namanya diambil dari singkatan “WWW”, dibuka oleh Facebook dalam sebuah makalah yang diterbitkan pada April tahun ini. WW adalah versi kloning dan terkandung dari Facebook yang dimaksudkan untuk membantu dalam pengujian berbagai alat dan algoritma Facebook.

Perusahaan baru-baru ini mengungkapkan lebih banyak detail tentang beberapa penggunaan WW, salah satunya adalah simulasi aktor jahat melalui AI. Dengan menggunakan sejumlah bot untuk mensimulasikan perilaku seperti penipuan, spam, pelecehan, dan lain-lain, peneliti berharap bahwa mereka akan dapat mendeteksi dan mengatasi perilaku berbahaya oleh pengguna dengan lebih baik.

Menurut insinyur Facebook Mark Harman, seperti yang dikutip oleh The Verge, diharapkan bahwa WW akan menjadi alat yang berharga dalam mengurangi berbagai perilaku berbahaya di Facebook. Misalnya, Harman percaya bahwa simulasi dapat digunakan untuk mengembangkan metode yang lebih baik untuk mendeteksi penipu.

Insinyur Facebook meniru perilaku penipu Facebook nyata dengan menciptakan dua kelompok bot: satu kelompok target dan satu kelompok penipu. Penipu sering mencari jaringan teman, menjelajahi teman pengguna, untuk menemukan target potensial. Perilaku ini ditiru oleh bot penipu saat insinyur bereksperimen dengan metode yang berbeda untuk mencegah bot yang tidak bersalah dari penipuan. Taktik yang mereka coba termasuk berbagai kendala seperti membatasi jumlah pesan pribadi yang dapat dikirim oleh bot setiap menit.

Ada beberapa cara bahwa simulasi Facebook berbeda dari yang asli. Pertama, simulasi Facebook tidak sebenarnya termasuk elemen visual, sehingga data yang diperoleh dari simulasi semua dalam bentuk data numerik dan statistik tentang interaksi antara bot. Kedua, semua aktor dalam simulasi adalah bot, yang tidak dapat berinteraksi dengan pengguna nyata. Simulasi WW juga tidak dapat memperhitungkan hal-hal seperti niat pengguna atau konten dari suatu percakapan, karena hanya tindakan mengirim pesan, membuat komentar, dan sebagainya yang disimulasikan.

Menurut Harman, proses bereksperimen dengan kendala ini mirip dengan perencana kota yang mencoba mengurangi kecepatan di jalan tertentu dengan meletakkan “bump kecepatan”. Serupa dengan bagaimana perencana kota akan bereksperimen dengan menciptakan bump kecepatan dan kemudian mengumpulkan data tentang utilitasnya, insinyur menganalisis bagaimana pesan dan interaksi antara bot bervariasi dalam simulator mereka saat mereka bervariasi parameter dan kendala. Harman menjelaskan bahwa tujuannya adalah untuk mendapatkan gambaran tentang perubahan apa yang dapat dilakukan pada platform Facebook untuk menghambat perilaku berbahaya tanpa membatasi perilaku normal, atau aliran lalu lintas yang bebas.

Harman juga menjelaskan bahwa keuntungan menggunakan WW untuk simulasi mereka adalah bahwa tindakan yang mereka pelajari terjadi pada infrastruktur Facebook nyata yang memberikan mereka gambaran yang lebih baik tentang bagaimana perubahan yang mereka usulkan dapat mempengaruhi pengguna Facebook nyata. Setiap penerapan temuan ini harus menunggu beberapa waktu, karena saat ini WW dan simulasi hanya dalam tahap penelitian. Harman dan peneliti Facebook lainnya tidak akan menerapkan temuan mereka ke versi live Facebook, karena masih banyak pekerjaan yang harus dilakukan. Kelompok penelitian perlu memastikan bahwa simulasi yang mereka buat cukup sesuai dengan perilaku manusia nyata.

Keuntungan utama dari WW, menurut Harman, adalah kemampuannya untuk beroperasi pada skala besar, memungkinkan peneliti Facebook untuk memeriksa konsekuensi dari ribuan penyesuaian kecil yang berbeda, semua melalui simulasi yang dihasilkannya.

Di masa depan, peneliti mungkin membiarkan bot hanya bermain dan bereksperimen untuk sementara waktu, untuk melihat jenis interaksi apa yang mereka hasilkan sendiri, yang sering kali merupakan sesuatu yang peneliti tidak antisipasi.

“Saat ini, fokus utama adalah melatih bot untuk meniru hal-hal yang kita ketahui terjadi pada platform. Tapi secara teori dan praktik, bot dapat melakukan hal-hal yang kita belum lihat sebelumnya,” kata Harman. “Itu sebenarnya sesuatu yang kita inginkan, karena kita pada akhirnya ingin mendahului perilaku buruk daripada terus-menerus bermain mengejar.”

Jika semuanya berjalan lancar, Facebook bisa mulai membuat modifikasi berdasarkan simulasi WW pada akhir 2020.