Bagaimana Alat AI Kesehatan Mental Tidak Sengaja Menemukan Deteksi Deepfake yang Akurat

Ketika raksasa teknologi Open AI meluncurkan model generasi video dan audio bendera mereka, Sora 2, pada September 2025, video deepfake telah membanjiri platform media sosial, membuat audiens semakin familiar dengan konten hiper-realistik yang berpotensi berbahaya.

Meskipun Open AI menganggap peluncuran Sora 2 yang bertanggung jawab sebagai prioritas utama, mengklaim bahwa itu akan memberi pengguna “alat dan pilihan untuk mengontrol apa yang mereka lihat di feed mereka” dan kontrol atas kesamaan mereka dari ujung ke ujung, sebuah studi Oktober 2025 menemukan bahwa model tersebut menghasilkan video klaim palsu 80% dari waktu.

Dari video yang meniru laporan berita tentang pejabat pemilu Moldova yang menghancurkan surat suara hingga adegan palsu seorang balita yang ditahan oleh petugas imigrasi atau juru bicara Coca-Cola yang mengumumkan bahwa perusahaan tidak akan mensponsori Super Bowl, taruhan untuk menghasilkan informasi yang salah di dunia yang terhubung tidak bisa lebih tinggi.

Melampaui Sora: Vishing

Bahkan sebelum alat Open AI diluncurkan, penciptaan dan penyebaran online file deepfake telah meningkat. Menurut laporan September 2025 oleh perusahaan keamanan siber DeepStrike, konten deepfake meningkat dari 500.000 pada 2023 menjadi 8 juta pada 2025, sebagian besar digunakan untuk tujuan penipuan.

Tren ini tidak menunjukkan tanda-tanda berhenti; penipuan AI di AS saja diperkirakan akan mencapai $40 miliar USD pada 2027.

Lonjakan seperti ini tidak terbatas pada kuantitas. Dengan alat seperti Sora 2 dan Google’s Veo 3, konten wajah, suara, dan penampilan tubuh yang dihasilkan AI sekarang lebih realistis dari sebelumnya. Seperti ditandai oleh ilmuwan komputer dan peneliti deepfake Siwei Luy, model kontemporer dapat menghasilkan wajah yang stabil tanpa distorsi, sedangkan pengkloning suara telah melampaui ambang batas yang tidak dapat dibedakan.

Kenyataannya, deepfakes telah melampaui deteksi. Apa yang perusahaan teknologi jual sebagai alat yang menyenangkan untuk menghasilkan semua hal, dari rutinitas gimnastik Olimpiade hingga lanskap suara latar yang canggih, juga telah digunakan oleh penjahat untuk menargetkan bisnis dan individu. Hanya pada paruh pertama 2025, insiden deepfake mengakibatkan kerugian $356 juta USD untuk perusahaan, dan $541 juta USD untuk individu.

Deteksi deepfake tradisional – termasuk mengidentifikasi tanda air, wajah yang di-edit, dan periksa metadata – gagal. Dan, karena deepfake suara tetap sebagai bentuk kedua penipuan AI yang paling umum dan vishing (vishing) mengalami lonjakan 442% pada 2025, konsekuensinya sudah mulai terasa.

“Beberapa detik audio sekarang cukup untuk menghasilkan klon yang meyakinkan – lengkap dengan intonasi alami, irama, penekanan, emosi, jeda, dan kebisingan napas,” Lyu menulis.

Ilmu Mendengarkan Manusia

Kintsugi, sebuah startup healthtech yang mengembangkan teknologi biomarker suara AI untuk mendeteksi tanda-tanda depresi klinis dan kecemasan. Pekerjaan mereka dimulai dari premis yang tampaknya sederhana: kita harus mendengarkan manusia.

“Saya memulai Kintsugi karena masalah yang saya alami secara pribadi. Saya menghabiskan hampir lima bulan menelepon penyedia saya hanya untuk menjadwalkan janji temu terapi awal, dan tidak ada yang pernah mengembalikan panggilan saya. Saya terus mencoba – tetapi saya ingat berpikir dengan sangat jelas bahwa jika itu ayah saya atau saudara laki-laki saya, mereka akan berhenti jauh sebelum saya melakukan,” kata CEO Grace Chang dalam percakapan dengan Unite.AI.

Perusahaan yang berbasis di California ini didirikan pada 2019 sebagai solusi untuk apa yang Chang gambarkan sebagai “bottleneck triase”. Pendiri percaya bahwa mendeteksi keparahan lebih awal dan pasif dapat membantu orang-orang mendapatkan perawatan yang tepat lebih cepat. Dan, melalui Kintsugi Voice, biomarker suara mengidentifikasi depresi klinis dan kecemasan.

Penelitian melimpah membuktikan penggunaan sukses analisis ucapan dan suara yang didorong AI sebagai biomarker untuk kondisi kesehatan mental. Sebuah makalah Mei 2025, misalnya, menemukan bahwa biomarker akustik dapat mendeteksi tanda-tanda awal kesehatan mental dan neurodivergence, dan mendukung integrasi analisis menyanyi dalam pengaturan klinis untuk menilai kemungkinan penurunan kognitif pasien.

Pengukuran suara, pada kenyataannya, memiliki tingkat akurasi 78% hingga 96% dalam mengidentifikasi orang-orang dengan depresi versus mereka yang tidak, menurut Asosiasi Psikiatri Amerika. Penelitian lain menggunakan tes fluensi verbal satu menit di mana seorang individu menyebutkan sebanyak mungkin kata dalam kategori tertentu – menemukan 70% hingga 83% akurasi dalam mendeteksi ketika subjek memiliki depresi dan kecemasan.

Untuk menilai kesehatan mental pengguna mereka, Kintsugi meminta klip ucapan singkat, setelah itu teknologi biomarker suara mereka menganalisis nada, intonasi, nada, dan jeda – marker ditemukan untuk dikaitkan dengan kondisi seperti depresi, kecemasan, gangguan bipolar, dan demensia.

Apa yang Chang tidak menyadari awalnya, bagaimanapun, adalah bahwa teknologi tersebut telah membuka salah satu tantangan keamanan kontemporer yang paling mendesak: mengidentifikasi apa yang membuat suara manusia manusia.

Dari Perawatan Kesehatan Mental ke Keamanan Siber

Ketika menghadiri sebuah pertemuan di New York pada akhir 2025, Chang menyebutkan kepada seorang teman di bidang keamanan siber bahwa timnya telah bereksperimen dengan suara sintetis.

“Kami sedang menjelajahi data sintetis untuk melengkapi pelatihan untuk model kesehatan mental kami, tetapi suara yang dihasilkan sangat berbeda dari ucapan manusia asli sehingga kami bisa mengenali hampir 100% dari waktu,” katanya.

“Dia berhenti dan berkata, ‘Grace – itu bukanlah masalah yang telah diselesaikan dalam keamanan.’ Itu adalah saat semuanya terhubung. Sejak itu, percakapan dengan perusahaan keamanan, jasa keuangan, dan perusahaan telekomunikasi telah mengonfirmasi betapa cepatnya serangan suara deepfake meningkat – dan betapa nyata kebutuhan untuk membedakan suara manusia dari suara sintetis dalam panggilan langsung,” tambah CEO.

Pada April tahun lalu, FBI memperingatkan tentang kampanye pesan teks dan suara yang jahat yang menyamar sebagai komunikasi dari pejabat senior AS dan menargetkan mantan pekerja pemerintah dan kontak mereka. Bank nasional besar di AS juga diserang dengan 5,5 upaya manipulasi suara penipuan rata-rata harian, dan staf rumah sakit di Vanderbilt University Medical Center melaporkan serangan vishing dari penipu yang menyamar sebagai teman, atasan, dan rekan kerja.

Namun, deepfake tidak awalnya menjadi fokus Kintsugi. Sementara tim perusahaan telah menggunakan model off-the-shelf seperti Cartesia, Sesame, dan ElevenLabs untuk bereksperimen dengan suara sintetis untuk agen call center administratif dan alur kerja keluar, penipuan deepfake tidak menjadi fokus di tengah pasar yang sibuk dan mudah diakses yang menampilkan model seperti Sora.

Sinyal manusia yang menunjukkan keaslian suara, bagaimanapun, adalah biomarker yang sama yang membuat seseorang manusia pada dasarnya. Tanpa memandang bahasa atau semantik, Kintsugi Voice beroperasi dengan pemrosesan sinyal dan latensi fisik ucapan, menangkap waktu yang halus, variabilitas prosodik, beban kognitif, dan marker fisiologis yang mencerminkan bagaimana ucapan dihasilkan… bukan apa yang dikatakan.

“Suara sintetis dapat terdengar lancar, tetapi mereka tidak membawa artifact biologis dan kognitif yang sama,” kata Chang. Model perusahaan ini konsisten menjadi salah satu performer terbaik dalam akurasi deteksi, menggunakan hanya 3 hingga 5 detik audio.

Kintsugi mungkin revolusioner bagi mereka yang berjuang dengan kesehatan mental, terutama di daerah di mana mendapatkan perawatan dengan profesional membutuhkan waktu dan sumber daya. Dengan cara yang sama, teknologi mereka menawarkan revolusi bagi deteksi deepfake dan keamanan siber secara umum: deteksi keaslian bukan pengenalan deepfake.

Masa Depan Berada pada Teknologi Berbasis Manusia

Keamanan siber telah lama fokus pada penggunaan teknologi yang jahat atau pelaku itu sendiri. Penemuan tidak sengaja Kintsugi, bagaimanapun, bertaruh pada kemanusiaan itu sendiri.

“Kami beroperasi pada area permukaan yang sama sekali berbeda: keaslian manusia itu sendiri. LLM tidak dapat mendeteksi konten yang dihasilkan LLM dengan andal, dan metode berbasis artifact rapuh. Mengumpulkan dataset besar yang dilabeli klinis yang mengkodekan variabilitas manusia yang nyata mahal, lambat, dan di luar keahlian inti sebagian besar perusahaan keamanan — yang membuat pendekatan ini sulit untuk direplikasi,” catat Chang.

Pendekatan startup ini juga menunjukkan pergeseran yang lebih luas: inovasi antar domain. Mereka yang memimpin di bidang perawatan kesehatan mungkin saja memimpin dalam deteksi vishing yang didukung AI, sama seperti inovator di teknologi ruang angkasa dapat mendukung mekanisme respons darurat yang baru, atau arsitek permainan dan perencanaan kota.

Bagi Chang, dia berencana untuk menjadi standar untuk memverifikasi manusia asli dan, akhirnya, niat asli melalui interaksi suara.

“Seperti HTTPS menjadi lapisan kepercayaan default untuk web, kami percaya ‘bukti manusia’ akan menjadi lapisan dasar untuk sistem berbasis suara. Signal adalah awal dari infrastruktur tersebut,” katanya.

Ketika AI generatif terus mempercepat, perlindungan paling efektif mungkin datang dari memahami apa yang membuat manusia… ya, manusia.