Satu Operator, Ribuan Kisah Cinta Palsu: Ekonomi Baru Penipuan Berbasis AI

Saat membahas keamanan, perusahaan teknologi biasanya berfokus pada ancaman dari luar, seperti kebocoran data, infrastruktur yang rentan, atau kredensial yang dicuri. Namun, bagi bisnis yang dibangun di atas interaksi antarmanusia, salah satu ancaman paling serius bisa muncul dari dalam produk itu sendiri, yakni akun-akun yang diyakini pengguna milik orang sungguhan. Hal ini sangat relevan bagi layanan kencan daring, tempat orang berbagi informasi pribadi, meluangkan waktu untuk bercakap-cakap, dan menjalin hubungan emosional dengan orang asing. Dampak penipuan melampaui hubungan emosional dengan orang asing. Penipuan juga memengaruhi kesediaan pengguna untuk memercayai platform dan orang-orang yang mereka temui melalui platform tersebut.

Menurut riset yang diterbitkan Sumsub pada 2026, 84% pengguna aplikasi kencan di Inggris yang disurvei meyakini bahwa konten buatan AI membuat mereka lebih sulit memercayai calon pasangan atau berhasil berkencan, naik dari 64% pada 2025. Sebanyak 61% lainnya pernah tertipu oleh profil palsu atau mengenal seseorang yang pernah mengalaminya. Temuan ini mencerminkan persepsi konsumen, bukan tingkat sebenarnya dari prevalensi akun penipuan. Meski demikian, temuan tersebut mengungkap masalah bagi industri yang keberhasilannya bergantung pada kesediaan orang untuk berinteraksi dengan orang asing. AI membuat interaksi palsu lebih murah, sehingga menimbulkan tantangan mendasar bagi bisnis yang dibangun di atas interaksi manusia yang tulus.

Bagaimana AI Mengubah Ekonomi Penipuan

Penipuan asmara bukan hal baru. Selama puluhan tahun, penipu telah menggunakan foto curian, identitas palsu, dan percakapan yang sudah disiapkan. Yang berubah adalah biaya dan kerumitan untuk menjalankan skema semacam ini dalam skala besar. Sebelumnya, mempertahankan ribuan profil meyakinkan membutuhkan banyak tenaga manusia. Para penipu juga harus mengelola percakapan, mengingat detail pribadi, menjaga konsistensi identitas, dan merespons pengguna dalam jangka waktu yang panjang. AI generatif telah mengurangi sebagian besar beban operasional tersebut.

Pada September 2026, Anthropic menerbitkan penyelidikan tentang jaringan lebih dari 20 aplikasi kencan menipu yang dioperasikan oleh sebuah studio berbasis di Tiongkok. Dalam periode dua minggu, para peneliti mengidentifikasi lebih dari 4 700 interaksi persona AI dengan sedikitnya 25 000 orang dan sekitar 2,36 juta pesan yang dihasilkan. Operasi ini menggabungkan percakapan yang dihasilkan AI dengan pekerja manusia yang menangani interaksi yang membutuhkan orang sungguhan, termasuk panggilan video langsung. Aplikasi-aplikasi tersebut menyembunyikan bahwa layanan mereka berjalan secara otomatis, sembari menampilkan peluang kencan yang tampak nyata kepada pengguna. Ada aplikasi yang dirancang untuk menipu, bukan sekadar profil palsu yang beroperasi di dalam platform kencan yang sudah mapan. Namun, kasus ini menggambarkan betapa drastisnya AI dapat mengurangi sumber daya yang diperlukan untuk menciptakan interaksi antarmanusia yang meyakinkan.

Bagi platform kencan yang sah, teknologi serupa menimbulkan tantangan yang kian besar. Foto buatan, pesan otomatis, identitas curian, dan alat yang dirancang untuk mengakali sistem verifikasi dapat digunakan untuk membuat dan mempertahankan akun penipuan. Masalahnya kini bukan lagi sekadar mengidentifikasi profil yang mencurigakan. Platform harus menghadapi serangan yang semakin canggih, sementara biaya untuk melancarkannya terus turun. Hal ini juga mengubah ekonomi bisnis kencan. Kepercayaan merupakan persoalan produk sekaligus bisnis.

Penipuan menimbulkan biaya bisnis yang melampaui moderasi. Akun palsu menghasilkan pendaftaran, suka, dan percakapan yang tampak sah dalam analitik produk, sehingga dapat mendistorsi sinyal yang mendasari algoritme rekomendasi dan uji A/B. Ada pula dampak komersial: pengguna yang berulang kali bertemu profil palsu mungkin berhenti memulai percakapan, menjadi kurang aktif, atau mengurangi pengeluaran. Namun, besarnya dampak tersebut berbeda-beda di setiap platform dan harus diukur, bukan diasumsikan. Karena itu, dalam layanan kencan, upaya mencegah penipuan merupakan bagian dari ekonomi produk, bukan sekadar fungsi keamanan. Seiring AI membuat aktivitas sintetis semakin murah untuk dihasilkan, membedakan interaksi nyata dari interaksi yang direkayasa menjadi keputusan inti dalam pengembangan produk.

Dilema Manajemen: Keamanan atau Pertumbuhan

Verifikasi yang lebih ketat tampak seperti respons yang jelas terhadap penipuan yang semakin canggih. Namun, dalam praktiknya, keputusan ini lebih rumit: setiap langkah tambahan dalam proses pendaftaran menambah hambatan. Kewajiban menunjukkan dokumen identitas, menjalani verifikasi biometrik, atau berulang kali melewati pemeriksaan mungkin dapat mencegah bentuk-bentuk penyalahgunaan tertentu, tetapi juga bisa membuat pengguna yang sah enggan menyelesaikan pendaftaran. Hal ini berdampak langsung pada ekonomi akuisisi. Jika anggaran pemasaran yang sama menghasilkan lebih sedikit pengguna terdaftar dan aktif, biaya akuisisi per pendaftaran yang selesai akan meningkat.

Bagi aplikasi kencan, dampaknya dapat melampaui proses pendaftaran. Tidak seperti banyak produk konsumen lainnya, platform kencan bergantung pada kepadatan jaringan lokal: pengguna membutuhkan cukup banyak calon pasangan aktif yang relevan di wilayah tertentu agar pengalaman pencocokan dapat berjalan dengan baik. Karena itu, proses verifikasi yang tanpa perlu membatasi pendaftaran pengguna sah dapat memperlambat perkembangan jaringan lokal, mengurangi peluang pertemuan, dan memengaruhi retensi. Di saat yang sama, membiarkan akun penipuan tetap aktif menimbulkan biaya lain: konsumsi infrastruktur, beban kerja moderasi, rekomendasi yang terdistorsi, dan menurunnya kepercayaan pengguna. Keamanan yang berlebihan dapat membuat produk sulit digunakan. Keamanan yang tidak memadai dapat membuatnya mustahil dipercaya.

Pencegahan penipuan seharusnya dikelola sebagai keputusan produk dan bisnis, bukan sebagai fungsi teknis yang berdiri sendiri. Pendekatan berbasis risiko memadukan perlindungan dasar saat pendaftaran dengan analisis perilaku, sinyal perangkat, pemantauan konten, dan verifikasi yang lebih ketat ketika muncul aktivitas mencurigakan. Meski demikian, lolos pemeriksaan verifikasi tidak serta-merta membuat pengguna dapat dipercaya, karena membuktikan keberadaan seseorang tidak membuktikan niatnya. Efektivitas sebaiknya dinilai berdasarkan beberapa dimensi sekaligus, termasuk kinerja deteksi, positif palsu, kecepatan penindakan, biaya verifikasi, konversi, dan retensi. Deteksi yang lebih baik tetapi keliru membatasi banyak pengguna sungguhan bukanlah hasil bisnis yang lebih baik. Privasi menambah lapisan pertimbangan lain, karena analisis komunikasi atau pengumpulan sinyal identitas tambahan memerlukan transparansi, minimisasi data, dan kontrol akses yang ketat. Pertanyaannya bukan berapa banyak akun penipu yang dapat diblokir platform, melainkan seberapa baik platform mengurangi risiko sambil mempertahankan pengalaman yang baik bagi pengguna yang sah.

Lebih dari Sekadar Verifikasi: Peran Komunitas

Seiring percakapan yang dihasilkan AI semakin meyakinkan, muncul pertanyaan tentang produk: haruskah platform kencan hanya berfokus pada interaksi digital, atau juga membuka lebih banyak kesempatan agar interaksi tersebut berlanjut di dunia nyata? Di Fledge, kami sedang menjajaki model yang memadukan pencocokan berdasarkan kecocokan dengan acara luring dan pengalaman komunitas, sehingga peralihan dari penemuan melalui algoritme ke pertemuan langsung terasa alami. Acara tidak membuktikan bahwa seseorang dapat dipercaya ataupun menggantikan verifikasi, tetapi acara memberikan konteks sosial yang tidak dapat dihadirkan oleh profil dan obrolan. Kami memandangnya sebagai arah yang menjanjikan, bukan solusi tunggal untuk penipuan berbasis AI.

AI seharusnya membantu orang menemukan pasangan yang cocok, mendukung moderasi, dan mendeteksi perilaku mencurigakan, bukan merekayasa kesan seolah-olah terjalin hubungan. Karena itu, keberhasilan sebaiknya diukur lebih dari sekadar jumlah pengguna aktif, kecocokan, dan konversi, dengan turut memperhitungkan kualitas interaksi, autentisitas, dan hasil yang benar-benar dicari pengguna. Platform dengan tingkat keterlibatan tinggi tetapi hanya sedikit hubungan yang tulus berisiko mengoptimalkan hasil yang keliru.

Kepercayaan sebagai Keunggulan Kompetitif

AI akan terus memperkuat para penipu maupun platform yang melawan mereka, dan satu solusi teknis saja tampaknya tidak akan cukup. Perlindungan memerlukan adaptasi berkelanjutan, beragam lapisan deteksi, serta evaluasi yang bertanggung jawab dan cermat atas kompromi bisnis. Namun, tantangannya lebih luas daripada keamanan siber. Kepercayaan membentuk kualitas produk, pertumbuhan jaringan, perilaku pengguna, dan pendapatan jangka panjang; sementara interaksi palsu semakin murah, interaksi autentik semakin bernilai. Dalam dunia kencan, kepercayaan bukan fitur keamanan dan, sekali lagi, kepercayaan adalah produknya. Platform generasi berikutnya mungkin akan lebih unggul bukan dengan menghasilkan lebih banyak interaksi, melainkan dengan membangun lingkungan tempat pengguna dapat percaya bahwa interaksi tersebut nyata.