Google DeepMind dan GovTech Memperkenalkan Model Deteksi Penipuan Langsung di Perangkat

Google DeepMind dan Government Technology Agency of Singapore (GovTech) mengumumkan model deteksi penipuan langsung di perangkat pada 14 Oktober 2026. Model ini dirancang untuk memperingatkan pengguna ponsel pintar tentang percakapan manipulatif tanpa mengirim pesan pribadi ke cloud, di negara yang sejak 2019 mengalami kerugian lebih dari S$4 miliar akibat penipuan.

Kerugian Akibat Penipuan dan Peralihan ke Rekayasa Sosial

Menurut pengumuman di blog Google DeepMind yang ditulis oleh JJ Geewax dan Miguel de Andrés, penipuan mencakup lebih dari separuh kejahatan yang dilaporkan di Singapura dan telah menyebabkan kerugian lebih dari S$4 miliar sejak 2019. Pengumuman tersebut menyebutkan bahwa taktik penipuan telah beralih dari phishing sederhana ke rekayasa sosial yang rumit. Dalam taktik ini, pelaku membangun percakapan yang meyakinkan untuk memanipulasi korban sebelum meminta uang. Penipuan semacam itu kini mencakup hingga 80% dari seluruh kerugian.

Menurut pengumuman tersebut, model umum sering kesulitan mengenali teknik penipuan yang disesuaikan dengan konteks setempat, sehingga penipuan lebih sulit dideteksi. Model Gemma ringan dari Google DeepMind disesuaikan lebih lanjut menggunakan percakapan penipuan lokal, mulai dari penyamaran sebagai lembaga publik, bank, dan tokoh setempat hingga modus regional yang sedang marak. Pengumuman itu menyebutkan bahwa hal ini memungkinkan model membedakan obrolan sosial yang tidak berbahaya dari manipulasi sungguhan, serta model yang dihasilkan dioptimalkan untuk dijalankan pada ponsel pintar yang umum digunakan di Singapura.

Pemrosesan Langsung di Perangkat dan Alur Kerja Dua Tahap

Model ini memproses data percakapan langsung di perangkat. Menurut pengumuman tersebut, sistem deteksi ancaman konvensional memindai pesan di server cloud, tetapi banyak platform pesan menggunakan enkripsi ujung ke ujung sehingga tidak dapat memeriksa percakapan pribadi. Pengumuman itu menyebutkan bahwa analisis yang dijalankan secara lokal memungkinkan pola percakapan diperiksa lebih cepat untuk mendeteksi niat manipulatif, sehingga orang dapat bertindak sebelum informasi keuangan atau kredensial mereka terungkap.

Saat model mendeteksi pola percakapan manipulatif, peringatan waktu nyata akan muncul di perangkat dan meminta pengguna berhenti sejenak sebelum membagikan informasi sensitif atau uang.

Menurut pengumuman tersebut, efisiensi baterai menjadi perhatian utama saat menjalankan pengklasifikasi penipuan yang kompleks di ponsel pintar modern. Kedua tim mengatasinya dengan alur kerja dua tahap. Pada Tahap 1, pengklasifikasi yang ringan dan efisien menyaring pesan masuk dengan penggunaan daya minimal, dengan fokus mendeteksi potensi ancaman. Pada Tahap 2, model Gemma yang telah disesuaikan lebih lanjut mengevaluasi konteks dari cuplikan percakapan yang lebih besar untuk memastikan adanya ancaman atau mengabaikan alarm palsu.

Langkah-Langkah Tata Kelola

Kolaborasi ini dipresentasikan di Singapore International Cyber Week 2026. Menurut pidato yang diterbitkan oleh Ministry of Home Affairs, pidato pembukaan acara tersebut disampaikan pada 13 Oktober 2026 oleh K Shanmugam, Menteri Senior Singapura sekaligus Menteri Dalam Negeri.

Pengumuman tersebut menjelaskan bahwa tata kelola yang ketat diterapkan selama pengembangan melalui langkah-langkah yang diberi label Sandbox Berdaulat, Tanpa Data Warga, dan Uji Tekanan. Dalam Sandbox Berdaulat, penyesuaian model dilakukan di lingkungan Google Cloud Platform yang dikelola dan dipelihara GovTech, sehingga data pelatihan tetap terisolasi. Dalam Tanpa Data Warga, pelatihan sama sekali tidak menggunakan informasi pribadi atau informasi yang dapat mengidentifikasi seseorang, dan memanfaatkan kumpulan data anonim yang bersumber dari laporan penipuan serta umpan intelijen. Dalam Uji Tekanan, model diuji menggunakan dialog sintetis dan korpus lokal yang mencakup beragam kategori penipuan serta taktik penyamaran yang terus berkembang.

“Memerangi penipuan tidak seharusnya mengorbankan privasi pribadi,” kata Mark Chen, Direktur Kepercayaan dan Keamanan di GovTech Singapore. “Bersama Google DeepMind, kami menghadirkan perlindungan AI canggih langsung ke perangkat warga. Dengan begitu, kami dapat mendeteksi upaya penipuan lokal yang sangat tertarget secara waktu nyata, sekaligus menjaga komunikasi pribadi tetap sepenuhnya rahasia.”

Latar Belakang Kemitraan AI Nasional

Model deteksi penipuan ini dihadirkan sebagai bagian dari Kemitraan AI Nasional Google dengan Pemerintah Singapura. Google DeepMind mengumumkan kemitraan tersebut pada 20 Mei 2026, sekaligus meluncurkan program-program baru di negara itu sebagai bagian dari inisiatif National Partnerships for AI, setelah membuka laboratorium riset di Singapura pada tahun sebelumnya.

Program-program tersebut mencakup penjajakan kolaborasi antara AI dan tenaga klinis di klaster kesehatan masyarakat; dukungan untuk riset penyakit menular dan kesiapsiagaan pandemi bersama Google.org, sebagai bagian dari kontribusi senilai $7 juta kepada koalisi Health for Human Potential milik Philanthropy Asia Alliance; asisten lari bertenaga Gemma untuk atlet tunanetra dan berpenglihatan rendah, yang diuji dan disempurnakan bersama SG Enable, lembaga utama Singapura di bidang disabilitas dan inklusi; pelatihan bagi peneliti lokal tentang perangkat AI agentik untuk sains bersama National Research Foundation; penyediaan Gemini for Education bagi pendidik, mulai dari sekolah dasar hingga junior college; serta riset tentang tolok ukur keamanan multimodal dan multibahasa bersama Infocomm Media Development Authority dan MLCommons.

Jalur Integrasi bagi Penyedia Platform Pesan dan Sistem Operasi

Pengumuman tersebut menyatakan bahwa platform pesan dan penyedia sistem operasi dapat mengintegrasikan model-model ringan ini secara langsung untuk melindungi pengguna di perangkat mereka, sehingga interaksi dalam obrolan tetap aman tanpa mengekspos data pribadi. Proyek ini dipaparkan sebagai model bagi platform pesan yang berupaya menyeimbangkan perlindungan pengguna dengan enkripsi ujung-ke-ujung, sekaligus sebagai contoh kerja sama antara pemerintah dan penyedia model untuk membangun teknologi demi kepentingan publik.