Alat Browser AI Bertujuan Mengenali Deepfakes dan Media Palsu Lainnya

Upaya perusahaan teknologi untuk menangani informasi yang salah dan konten palsu sedang meningkat dalam beberapa waktu terakhir karena teknologi pembuatan konten palsu yang canggih seperti DeepFakes menjadi lebih mudah digunakan dan lebih halus. Salah satu upaya yang akan datang untuk membantu orang mendeteksi dan melawan deepfakes adalah RealityDefender, yang diproduksi oleh Yayasan AI, yang telah berkomitmen untuk mengembangkan agen dan asisten AI yang etis yang dapat dilatih oleh pengguna untuk menyelesaikan berbagai tugas.

Proyek paling terkenal dari Yayasan AI adalah platform yang memungkinkan orang membuat persona digital yang terlihat seperti mereka dan mewakili mereka dalam ruang pertemuan virtual. Yayasan AI diawasi oleh Dewan AI Global dan sebagai bagian dari mandat mereka, mereka harus memprediksi dampak negatif yang mungkin dari platform AI, kemudian mencoba untuk mengatasi masalah tersebut. Seperti yang dilaporkan oleh VentureBeat, Salah satu alat yang dibuat oleh Yayasan AI untuk membantu mendeteksi deepfakes adalah Reality Defender. Reality Defender adalah alat yang dapat digunakan oleh seseorang di browser web mereka (periksa), yang akan menganalisis video, gambar, dan jenis media lainnya untuk mendeteksi tanda-tanda bahwa media tersebut telah dipalsukan atau diubah dengan cara tertentu. Diharapkan bahwa alat ini dapat membantu melawan arus deepfakes yang meningkat di internet, yang menurut beberapa perkiraan telah meningkat sekitar dua kali lipat dalam enam bulan terakhir.

Reality Defender bekerja dengan menggunakan berbagai algoritma berbasis AI yang dapat mendeteksi petunjuk yang menunjukkan bahwa gambar atau video mungkin telah dipalsukan. Model AI mendeteksi tanda-tanda tipu muslihat dan manipulasi yang halus, dan positif palsu yang dideteksi oleh model tersebut dilabeli sebagai salah oleh pengguna alat. Data tersebut kemudian digunakan untuk melatih kembali model tersebut. Perusahaan AI yang membuat deepfakes non-penipuan memiliki konten mereka yang diberi label “honest AI” atau watermark yang memungkinkan orang dengan mudah mengidentifikasi palsu yang dihasilkan AI.

Reality Defender hanya salah satu dari serangkaian alat dan platform tanggung jawab AI yang Yayasan AI coba buat. Yayasan AI juga mengembangkan Guardian AI, platform tanggung jawab yang dibangun atas prinsip bahwa individu harus memiliki akses ke agen AI pribadi yang bekerja untuk mereka dan dapat membantu melindungi mereka dari eksploitasi oleh aktor jahat. Pada dasarnya, Yayasan AI bertujuan untuk memperluas jangkauan AI dalam masyarakat, membawanya ke lebih banyak orang, sambil juga melindungi terhadap risiko AI.

Reality Defender bukanlah satu-satunya produk AI yang bertujuan untuk mengurangi informasi yang salah di Amerika Serikat. Produk serupa disebut SurfSafe, yang dibuat oleh dua mahasiswa dari UC Berkeley, Rohan Phadte dan Ash Bhat. Menurut The Verge, SurfSafe bekerja dengan memungkinkan penggunanya untuk mengklik pada sebuah konten yang mereka curigai dan program akan melakukan pencarian gambar terbalik dan mencoba menemukan konten serupa dari sumber tepercaya di internet, menandai gambar yang diketahui telah diedit.

Tidak jelas seberapa efektif solusi ini akan dalam jangka panjang. Profesor Dartmouth College dan ahli forensik Hany Farid dikutip oleh The Verge sebagai mengatakan bahwa dia “sangat skeptis” bahwa sistem seperti Reality Defender akan bekerja dengan cara yang berarti. Farid menjelaskan bahwa salah satu tantangan utama dalam mendeteksi konten palsu adalah bahwa media tidak sepenuhnya palsu atau asli. Farid menjelaskan:

“Ada kontinum; rentang masalah yang sangat kompleks untuk diatasi. Beberapa perubahan tidak berarti, dan beberapa secara fundamental mengubah sifat sebuah gambar. Untuk berpura-pura kita dapat melatih AI untuk membedakan adalah sangat naif. Dan untuk berpura-pura kita dapat menggunakannya adalah lebih naif lagi.”

Selain itu, sulit untuk memasukkan elemen crowdsourcing, seperti menandai positif palsu, karena manusia biasanya sangat buruk dalam mengidentifikasi gambar palsu. Manusia sering membuat kesalahan dan melewatkan detail halus yang menandai sebuah gambar sebagai palsu. Tidak jelas juga bagaimana cara menangani aktor yang beritikad buruk yang melakukan tindakan troll ketika mereka menandai konten.

Tampaknya kemungkinan bahwa, untuk menjadi efektif secara maksimal, alat pendeteksi palsu harus dikombinasikan dengan upaya literasi digital yang mengajarkan orang cara berpikir tentang konten yang mereka temui secara online.