Chatroulette Kembali Dengan Bantuan Moderasi Konten Berbasis AI

Chatroulette menjadi terkenal pada awal 2010-an karena memungkinkan orang untuk berbicara dengan orang lain yang acak. Namun, situs ini juga menjadi terkenal karena kemudahan orang untuk menemukan konten “R-rated” seperti telanjang dan konten lainnya yang tidak pantas. Seperti dilaporkan oleh Wired, Chatroulette sekarang berusaha membuat comeback dengan moderasi konten yang lebih baik dengan bantuan AI.

Moderasi Konten Berbasis AI

Seiring dengan perkembangan algoritma AI dan penglihatan komputer yang lebih canggih dan dapat diandalkan, aplikasi mereka untuk mendeteksi konten yang tidak diinginkan telah meningkat. Ini merupakan keuntungan bagi perusahaan yang memungkinkan pengguna untuk mengunggah atau membuat konten. Perusahaan seperti Youtube, Facebook (META ), dan Twitter menggunakan algoritma filtrasi konten berbasis AI untuk menangani konten yang tidak diinginkan. Chatroulette khususnya pernah dihantui oleh telanjang dan tindakan tidak senonoh lainnya yang mengusir banyak pengguna. Pandemi telah menyebabkan minat baru pada Chatroulette, yang berkat kemajuan pengenalan gambar AI dapat lebih efektif memantau konten yang dipancarkan oleh pengguna.

Pada 2019, pendiri Chatroulette Andrey Ternovskiy memasukkan perusahaan ke Swiss, dengan tujuan untuk berkolaborasi dengan manajer profesional dan spesialis AI. Ahli mesin pembelajaran Andrew Done direkrut oleh Ternovskiy untuk mengawasi pengembangan teknologi AI untuk Chatroulette baru. Done menjadi CEO awal tahun ini, menambahkan lebih banyak peneliti produk dan manajer ke tim.

Di bawah kepemimpinan baru, Chatroulette memanfaatkan peningkatan lalu lintas untuk melakukan penelitian pengguna dan menguji metode moderasi konten yang berbeda. Tim Chatroulette merancang dua saluran chat baru. Salah satu saluran chat disebut Random Chat, yang dirancang untuk mengecualikan konten yang tidak diinginkan, sementara saluran lain disebut Unmoderated. Pemisahan ini dilakukan untuk menarik pengguna yang tertarik untuk terhubung dengan orang lain tanpa perlu khawatir tentang konten yang tidak diinginkan. Saluran tanpa filter akan dihapus pada pertengahan 2021.

Kerja Sama Dengan Perusahaan AI Hive

Chatroulette telah bermitra dengan perusahaan AI Hive untuk mengembangkan AI pendeteksi telanjang. Hive juga bertanggung jawab untuk memoderasi konten Reddit, memberi mereka pengalaman dalam mengelola konten pada jaringan sosial besar. Menurut Done, sistem pemantauan AI Hive sangat akurat sehingga memasukkan moderator manusia sebenarnya mengurangi akurasi moderasi secara keseluruhan. Hive melatih model AI dengan data yang dianotasi oleh tenaga kerja yang tersebar lebih dari 2 juta orang. Tenaga kerja yang tersebar mencari konten yang tidak diinginkan seperti telanjang dan kehadiran senjata api, mengannotasi gambar untuk digunakan dalam pelatihan AI Hive. Sementara Chatroulette mencoba menggunakan sistem Cloud Vision AI Google dan Amazon (AMZN ) Rekognition untuk membantu moderasi konten, mereka akhirnya menemukan bahwa AI Hive adalah yang paling akurat dan dapat diandalkan untuk kebutuhan mereka.

AI Hive telah memproses lebih dari 600 juta frame video dari Chatroulette. Setiap koneksi antara dua pengguna menghasilkan tiga frame. Satu frame dibuat untuk kedua pengguna pada awal koneksi, dan satu frame dibuat untuk pengguna yang mengakhiri koneksi. Konten yang melanggar ketentuan dapat diidentifikasi dalam waktu satu detik. Pesan peringatan dikirim ke moderator manusia yang dapat melarang atau memperingatkan pengguna.

Pada awal tahun, Chatroulette memiliki sekitar 4 juta pengunjung unik per bulan, yang merupakan jumlah pengunjung terbanyak yang pernah dimiliki perusahaan sejak awal 2016. Upaya untuk mengurangi konten yang tidak pantas tampaknya telah membuahkan hasil, karena perempuan sekarang sekitar 34% dari semua pengguna, naik dari hanya 11% pengguna pada 2018.

Sementara perusahaan media sosial datang dan pergi, Chatroulette tampaknya telah kembali ke tempat kejayaannya. Namun, Ternovskiy mengakui bahwa perusahaan juga memiliki masalah lain yang harus dipecahkan di luar moderasi konten. Menurut Ternovskiy, hampir 90% pengunjung pertama kali tidak pernah kembali, karena mereka menemukan interaksi mereka biasa-biasa saja.

“Tantangan sebenarnya adalah membangun sesuatu yang layak yang akan membuat orang lebih tertarik untuk menggunakannya secara teratur daripada hanya sekali saja,” jelas Ternovskiy melalui Wired.