AI Dapat Membantu Kita Menemukan Orang Nyata, Bukan Menggantikan Mereka

Gambar palsu menipu bahkan mata paling tajam, tetapi perilaku palsu yang dilihat platform seharusnya tidak.

Selama dua puluh tahun terakhir, industri kencan daring mengajarkan keamanan pengguna sebagai daftar periksa sederhana. Kami menyarankan pengguna untuk memeriksa foto secara cermat, memverifikasi konsistensi cerita orang tersebut, atau menuntut panggilan video sebelum menyetujui pertemuan. Panduan itu, yang dulu menjadi standar emas keamanan digital, kini sepenuhnya usang.Bukti definitif muncul dalam sebuah Studi Februari 2025 dari iProov, sebuah vendor biometrik terkemuka. Peneliti menanyai 2.000 subjek di Inggris dan AS untuk memberi label pada berbagai item — menggunakan gambar dan video — sebagai nyata atau sintetis. Hasilnya mengejutkan: hanya dua subjek yang tidak membuat kesalahan sama sekali. Itu hanya 0,1 persen dari orang yang diuji, artinya 1.998 lainnya membuat setidaknya satu kesalahan. Kepercayaan tinggi yang dipadukan dengan tingkat kesalahan tinggi merupakan campuran berbahaya bagi konsumen. Dan penipu lebih dari siap memanfaatkannya.Menurut Laporan Penipuan Identitas Entrust 2026, deepfake kini menyumbang satu dari lima upaya penipuan biometrik. Selfie yang dipalsukan naik 58 persen pada 2025, dan serangan injeksi meningkat 40 persen tahun ke tahun. Mengharapkan pengguna biasa mengalahkan model AI generatif yang sangat canggih dalam persepsi visual adalah pengabaian tanggung jawab; hal itu memindahkan risiko langsung dari platform ke pelanggan.

Penipuan Tidak Lagi Tentang Menemukan Gambar Palsu

Kenyataannya, alat deteksi saat ini gagal karena melakukan pengujian tingkat objek pada satu objek sekaligus. Satu tes menanyakan apakah gambar tertentu dihasilkan oleh AI. Tes lain menanyakan apakah dokumen dipalsukan, sementara tes ketiga menanyakan apakah teks dalam pesan ditulis mesin. Masalahnya, masing‑masing tes ini cepat menjadi usang. Karena kemajuan model generatif terus meningkatkan kualitas output, respons dan metode deteksi sebelumnya menjadi ketinggalan atau usang dalam semalam.

Pendekatan yang jauh lebih baik menggantikan penampilan sinyal tunggal dengan kecocokan bersama banyak sinyal. Metode kami menilai hubungan antara berbagai dimensi keberadaan pengguna. Satu dimensi sinyal adalah bagaimana perangkat terlihat bagi sistem kami. Dimensi lain adalah asal sesi pengguna. Dimensi ketiga adalah bagaimana akun berperilaku sebenarnya. Semua ini mengarah pada tinjauan manusia ketika sistem menandai indikator kemungkinan penipuan.

Kantor Perserikatan Bangsa-Bangsa untuk Narkoba dan Kejahatan, dalam Penilaian Ancaman Kejahatan Terorganisir Transnasional untuk Asia Tenggara 2026, memperkirakan kerugian penipuan daring tahun 2025 antara US$88,3 miliar dan US$114,1 miliar hanya di wilayah yang dilaporkan.semua secara konsisten — di antara banyak akun yang terus‑menerus diturunkan oleh platform — menjadi terlalu membebani untuk dipertahankan. Setiap lapisan gesekan yang kami tambahkan meningkatkan biaya per‑akun bagi bisnis penipuan hingga margin keuntungan mereka menjadi nol.

Inilah tempat AI benar‑benar membuktikan nilai keberadaannya. Sementara deteksi pemalsuan telah meningkat dengan teknologi baru, kemampuan yang lebih baik untuk mengidentifikasi faktor bersamaan yang menunjukkan penipuan — dan mengarah pada intervensi lebih awal — jauh lebih menguntungkan bagi pengguna kami. Ketika indikator pengguna tidak cocok, niat sebenarnya terungkap. Seorang anggota jujur, penipu, dan pengunjung dengan tujuan lain mungkin semua memiliki foto yang identik dan baris pembuka yang hampir sama. Namun, indikator gabungan mereka akan berbeda dan menceritakan kisah yang sepenuhnya berbeda. Cara orang membalas, seberapa cepat mereka merespons, bagaimana mereka meningkatkan percakapan, apa yang mereka tanyakan, dan percakapan mana yang ditinggalkan semuanya melukiskan gambaran. Identitas dapat menjadi kebohongan yang dihasilkan secara sempurna, tetapi perilaku selalu mengungkap niat buruk.

Asimetri Informasi: Platform Mengetahui Hal‑hal yang Tidak Diketahui Pengguna

Komisi Perdagangan Federal melaporkan pada 2026 bahwa kerugian penipuan romantis pada 2025 naik 22 persen dibandingkan 2024, mencapai sekitar $1,5 miliar. Di antara mereka yang mengidentifikasi bagaimana mereka dihubungi, sekitar 60 persen mengatakan kontak awal mereka datang melalui platform media sosial.

Ada kesenjangan informasi yang besar dalam industri kami. Platform melihat kategori sinyal yang sama, tetapi mereka hampir pasti juga dapat melihat negara login dan usia akun, misalnya. Semua yang dilihat anggota hanyalah senyuman dan paragraf yang dirancang dengan cermat yang cerdik menyisipkan sesuatu dari profil mereka. Platform memiliki kekuatan untuk bertindak atas data tersembunyi ini, menggunakannya untuk merancang lingkungan yang lebih aman, atau mengungkapkannya sehingga anggota dapat bertindak sesuai. Sayangnya, sebagian besar industri tidak melakukan keduanya.

Ketidakaktifan industri seringkali terkait dengan pertukaran kompleks terkait privasi pengguna. Setengah bagian yang mahal dari persamaan ini adalah mengambil tindakan. Ada dua jalur untuk membangun kepercayaan: jalur lambat adalah reputasi, dan jalur cepat adalah verifikasi. Verifikasi menciptakan gesekan. Industri secara besar‑besar menginginkan kecepatan, volume, dan gesekan rendah, yang menjelaskan kurangnya verifikasi secara kronis.

Namun, solusi mulai muncul. Sebuah pra-cetak pada arXiv pada Agustus 2024 mengusulkan “personhood credentials“. 32 penulis dari institusi seperti OpenAI, Microsoft, MIT, Oxford, dan Harvard mengusulkan kredensial yang melindungi privasi yang memungkinkan seseorang membuktikan kepada layanan bahwa ia adalah orang nyata tanpa mengungkapkan identitas dasarnya. Argumen mereka adalah bahwa CAPTCHA tidak memadai dan deteksi anomali dengan cepat tergerus oleh AI yang canggih. Mereka benar. Kencan adalah salah satu bidang di mana konsekuensi erosi ini paling terasa karena produk inti yang dijual adalah kepercayaan itu sendiri.

Merekayasa Standar Komunitas yang Lebih Baik

Sinyal yang sama yang membantu mengidentifikasi kemungkinan perilaku kriminal juga dapat membantu mengidentifikasi jenis tindakan buruk lainnya. Membaca niat melampaui sekadar menghentikan penipuan. Tidak setiap pelaku buruk di situs web adalah penjahat. Pengguna yang tidak menyenangkan mungkin tidak melanggar hukum, dan hubungan yang diperlakukan sebagai transaksi mungkin bukan penipuan. Memperlakukan orang dengan rasa tidak hormat tidak menghasilkan dakwaan federal. Namun perilaku ini secara mendalam merusak komunitas. Lebih buruk lagi, perilaku tersebut terlalu sering tidak terlihat oleh sistem yang sepenuhnya bergantung pada laporan anggota untuk program penegakannya.

Industri secara tradisional menggambar batas pada hal yang ilegal: menyaring penipuan dan anak di bawah umur, menghapus apa yang secara tegas diwajibkan oleh hukum, dan memperlakukan sisanya sebagai urusan antara orang dewasa yang setuju. Saya tidak mengetahui situs kencan lain yang menggunakan AI untuk membantu mengidentifikasi perilaku transaksional dan secara aktif menghentikannya. Fitur Stop@Send kami mengevaluasi pesan keluar pengirim saat sedang dikirim. Ia mencari makna yang lebih dalam daripada sekadar membandingkan konten dengan daftar kata kunci statis. Sebagian besar waktu, responsnya berupa penjelasan yang diberikan kepada pengirim, menjelaskan secara tepat mengapa pesan tersebut tidak pantas untuk komunitas.

Tentu saja ini tidak gratis. Menginterupsi percakapan anggota menciptakan gesekan, yang secara wajar merupakan biaya yang kami pilih untuk menanggung. Namun standar kami paling baik ditetapkan oleh perilaku apa yang sebenarnya diizinkan di platform kami, bukan oleh apa yang dipublikasikan di halaman pedoman komunitas yang tidak ditegakkan. Platform yang tidak merepotkan pelaku buruk tidak berhak menyebut dirinya komunitas.

Tantangan bagi Industri

Pasar saat ini berlomba-lomba agar AI menggantikan orang: kami melihat munculnya teman AI, profil yang dihasilkan AI, dan agen menggoda. Saya yakin arah itu adalah jalan buntu. Itu mengoptimalkan sepenuhnya untuk keterlibatan tetapi tidak memberikan apa pun selain itu. Pendekatan kami secara fundamental berbeda. Kami menggunakan AI untuk membantu menyingkirkan pelaku buruk, menuntut anggota saling bertanggung jawab, dan membantu mereka memperlakukan satu sama lain dengan cara yang lebih mungkin menghasilkan hubungan dunia nyata yang bermakna.

Daftar tanda peringatan yang harus dihindari telah kehilangan nilainya. Sinyal yang dulu mengungkap penipu justru menjadi fitur yang model generatif pelajari untuk dihilangkan, menciptakan perlombaan senjata yang terus kami ikuti. Selain Aturan Pertama — jangan pernah mengirim uang kepada siapa pun yang tidak Anda kenal dan belum pernah bertemu secara langsung, yang seharusnya diikuti semua orang — pertanyaan kunci bukan lagi tentang foto. Ini tentang platform, dan apa yang mereka lakukan dengan pengetahuan yang dimiliki pengguna mereka tidak ketahui.

Platform yang memiliki respons baik terhadap tantangan itu secara aktif merancang kepercayaan. Platform yang tidak melakukannya meminta anggotanya melakukan lebih banyak kerja dengan tingkat keberhasilan 0,1 persen hanya untuk melindungi diri mereka sendiri.

Saya mengajukan tantangan ini kepada setiap platform, termasuk milik saya sendiri. Saya mengharapkan jawabannya jujur dan lengkap. Teknologi untuk menutup kesenjangan ini sudah ada sekarang. Penipuan terus berlanjut karena menghentikannya berarti menyerahkan pertumbuhan masif yang datang melalui pintu depan raksasa pendaftaran tanpa usaha. Ini adalah keputusan bisnis, bukan keterbatasan teknis. Dan platform yang membuat keputusan tepat memegang satu-satunya aset yang penting dalam diskusi ini: kepercayaan anggota mereka.