Aarti Samani, Pendiri dan CEO Shreem Growth Partners – Seri Wawancara

Aarti Samani, Pendiri dan CEO Shreem Growth Partners, adalah seorang pemimpin teknologi dan strategi AI dengan lebih dari dua dekade pengalaman dalam mengembangkan pertumbuhan di bidang AI, identitas digital, dan keamanan biometrik. Ia telah menjabat posisi senior di iProov dan Digital Surgery (yang diakuisisi oleh Medtronic), memimpin strategi produk dan pemasaran global dan mengamankan putaran pendanaan besar. Sebagai komentator BBC yang sering dan pembicara utama dalam acara global seperti Money 20/20 dan CogX Festival, ia memberikan saran kepada dewan dan eksekutif tentang etika AI, tata kelola, dan risiko, membantu organisasi membangun kepercayaan dan ketahanan di era kecerdasan buatan.

Shreem Growth Partners membantu organisasi melindungi diri dari penipuan deepfake dan impersonasi yang digerakkan AI dengan fokus pada lapisan pertahanan manusia. Melalui pelatihan yang disesuaikan, briefing eksekutif, penilaian kerentanan, dan konsultasi strategis, perusahaan ini mempersenjatai tim dan pemimpin untuk mengenali, menanggapi, dan mencegah upaya manipulasi. Dengan mempromosikan kesadaran, kesiapan, dan ketahanan budaya, Shreem memberdayakan organisasi untuk melindungi identitas, reputasi, dan tenaga kerja mereka dari ancaman AI yang terus berkembang.

Anda mendirikan Shreem Growth Partners setelah menjabat posisi senior di iProov, Medtronic Digital Surgery, dan perusahaan lain yang digerakkan AI. Apa yang menginspirasi Anda untuk memulai perusahaan yang berfokus pada ketahanan penipuan deepfake?

Setelah peluncuran ChatGPT pada akhir 2022, kita menyaksikan ledakan alat media yang ditenagai AI yang dapat mengkloning suara dan wajah dalam hitungan menit. Sebagian besar organisasi melihatnya sebagai akselerator kreatif untuk desain dan pemasaran. Namun, penjahat melihat kesempatan baru untuk melakukan rekayasa sosial yang lebih efektif.

Deepfakes dengan cepat menjadi alat pilihan bagi penipu untuk memanipulasi orang. Tim keamanan merespons dengan berinvestasi pada teknologi deteksi, namun deteksi saja tidak dapat menyelesaikan masalah yang berakar pada kepercayaan manusia. Psikologi adalah titik buta industri.

Wawasan itu membuat saya mendirikan Shreem Growth Partners, sebuah perusahaan yang didedikasikan untuk membangun ketahanan penipuan deepfake melalui kesadaran, simulasi, dan ketahanan kognitif. Meningkatkan kemampuan orang untuk berpikir kritis dan menolak manipulasi adalah kunci untuk mengurangi bentuk penipuan ini.

Di iProov, Anda bekerja di garis depan biometrik wajah dan verifikasi identitas. Bagaimana pengalaman itu mengungkapkan ancaman yang semakin besar yang dihadapi deepfakes terhadap sistem autentikasi?

Sebagai Chief Product dan Marketing Officer di iProov, saya membantu membawa verifikasi wajah biometrik ke organisasi yang sensitif keamanan di sektor publik dan swasta. Institusi ini adalah target konstan untuk kejahatan siber terorganisir. Lawan mereka adalah cerdas, terdidik, dan dilengkapi dengan teknologi canggih.

Kami mulai melihat upaya untuk melewati sistem biometrik menggunakan deepfakes yang dibangun dari identitas yang dicuri. Karena iProov beroperasi sebagai layanan terkelola berbasis cloud, kami dapat mengamati serangan ini secara real-time dan menganalisis bagaimana setiap iterasi berkembang. Menjadi jelas bahwa penjahat belajar lebih cepat daripada pasar yang beradaptasi.

Pengalaman itu memberi saya wawasan tentang evolusi penipuan yang ditenagai deepfake dan penghargaan yang mendalam tentang bagaimana kreativitas dan psikologi mengemudi kejahatan siber. Pemahaman yang sama tentang pola pikir kriminal sekarang memandu pekerjaan saya dalam ketahanan penipuan deepfake.

Deepfakes semakin digunakan untuk impersonasi eksekutif, cloning suara, dan serangan rekayasa sosial. Skenario apa yang Anda lihat paling sering di lapangan saat ini?

Selalu lebih mudah untuk mendapatkan akses melalui rekayasa sosial daripada dengan memecahkan sistem keamanan. Ketika orang menjadi lebih menyadari skema tradisional, penjahat berpindah ke cara baru untuk memanipulasi kepercayaan.

Teknologi deepfake telah menjadi alat rekayasa sosial yang paling kuat yang pernah kita lihat. Ini memungkinkan pelaku untuk menghasilkan sinyal kepercayaan yang realistis: wajah, suara, dan narasi yang melewati penilaian manusia.

Keuntungan kriminal tidak terbatas pada impersonasi eksekutif atau pembayaran. Semakin banyak, targetnya adalah properti intelektual, data sensitif, dan kredensial akses. Dengan melatih agen AI dan memberi mereka suara yang dikloning, penipuan dapat dilakukan dengan skala, kecepatan, dan presisi yang tidak dapat dicapai oleh penyerang manusia. Itulah cakrawala ancaman yang kita hadapi.

Apa yang membedakan program ketahanan penipuan deepfake dari pelatihan keamanan siber atau anti-phishing tradisional?

Pelatihan keamanan siber seperti yang kita kenal sekarang dibuat pada awal 2000-an, ketika internet dan komputasi komersial masih dalam tahap awal. Sejak itu, kontennya berkembang untuk memenuhi kebutuhan kepatuhan, dengan fokus pada platform LMS dan gamifikasi untuk keterlibatan. Namun, lanskap ancaman telah berubah.

Penipuan saat ini cerdas, kreatif, dan dirancang secara psikologis. Penjahat menggunakan AI dengan kesadaran yang sama seperti akademisi atau perusahaan. Pelatihan harus melampaui kepatuhan dan masuk ke dalam kognisi.

Pelatihan ketahanan penipuan deepfake tidak dapat dikurangi menjadi apakah seseorang mengklik tautan. Ini harus mengajarkan orang untuk berpikir kritis, untuk mempertanyakan keaslian wajah dan suara yang mereka interaksikan, dan untuk mengenali bagaimana persepsi dapat dimanipulasi.

Penekanan yang sama harus diberikan pada ketahanan kognitif. Emosi yang ditingkatkan, pikiran yang terganggu, dan multitasking yang konstan semua melemahkan kemampuan berpikir kritis. Membangun ketahanan kognitif melatih karyawan untuk mempertahankan keseimbangan emosi, dan untuk tetap analitis dan waspada. Ini adalah pola pikir yang dibutuhkan untuk menolak manipulasi.

Perusahaan Anda menawarkan Penilaian Kerentanan Deepfake dan Latihan Meja. Bisakah Anda menjelaskan seperti apa simulasi tersebut dan apa yang biasanya diperoleh klien dari itu?

Dalam penilaian kerentanan dan latihan meja kami, kami mereplikasi vektor serangan yang ditenagai deepfake terbaru yang diambil dari insiden nyata. Skenario umum termasuk pelamar palsu yang menggunakan identitas yang dikloning, helpdesk IT yang dikompromikan untuk mereset kredensial autentikasi multifaktor, atau panggilan video dengan persona yang dihasilkan AI yang meyakinkan staf untuk mengunduh perangkat lunak berbahaya.

Simulasi ini mengungkapkan bagaimana orang merespons di bawah tekanan dan mengungkapkan titik buta dalam komunikasi, proses, dan respons insiden. Eksekutif sering menemukan keahlian yang hilang dan kepemilikan keputusan yang tidak jelas. Hasilnya biasanya mengarah pada program ketahanan yang berkelanjutan. Yang memperkuat literasi penipuan, perubahan proses dan budaya, dan kesiapan krisis di seluruh organisasi.

Anda sering berbicara tentang manajemen risiko yang berfokus pada manusia. Bagaimana perusahaan dapat memberdayakan orang-orang mereka untuk mendeteksi dan menolak manipulasi deepfake daripada hanya mengandalkan alat teknis?

Deepfakes mengeksploitasi sirkuit neural yang sama yang membantu kita menilai kepercayaan dan emosi. Otak kita diprogram untuk memprioritaskan sinyal visual dan auditori, karena ini adalah indra pertama yang kita kembangkan. Namun, kita belum berevolusi untuk secara naluriah mempertanyakan sinyal ini, sehingga kita harus belajar dan terus memperkuat keterampilan itu.

Perusahaan dapat memberdayakan karyawan mereka dengan melatih mereka untuk memperlakukan interaksi digital dengan hati-hati dan rasa ingin tahu. Ketika kita berada dalam panggilan suara atau video, kita berinteraksi dengan artefak. Artefak itu mungkin orang nyata yang diproyeksikan di layar atau bisa jadi artificial.

Pertahanan satu-satunya adalah verifikasi aktif: mengajukan pertanyaan yang tepat, memeriksa detail, dan memperhatikan inkonsistensi dalam narasi. Mantra baru harus sederhana — kepercayaan nol, verifikasi selalu.

Deepfakes memburamkan garis antara desinformasi dan penipuan. Bagaimana eksekutif dapat mempersiapkan diri untuk krisis reputasi dan operasional yang dipicu oleh insiden media sintetis?

Tim kepemimpinan harus sekarang memperlakukan insiden deepfake sebagai risiko bisnis inti, bukan hipotetis. Setiap eksekutif di sekitar meja harus tahu peran mereka ketika krisis terjadi.

Sama seperti dewan meninjau daftar risiko, mereka juga harus meninjau rencana respons insiden, dan rencana ini tidak dapat statis. Lanskap ancaman berkembang terlalu cepat. Rencana memerlukan pengujian dan pembaruan setidaknya dua kali setahun, idealnya setelah latihan meja yang mensimulasikan acara nyata.

Krisis deepfake jarang berada dalam satu fungsi. Mereka menuntut koordinasi antara komunikasi, hukum, keamanan, dan SDM. Organisasi yang merespons dengan baik adalah mereka yang pemimpinnya berlatih kolaborasi sebelum insiden nyata terjadi.

Ada juga biaya psikologis ketika karyawan atau eksekutif menjadi target deepfake yang meyakinkan. Apa dukungan atau protokol yang harus dimiliki organisasi untuk mengatasi dampak manusia itu?

“Rasa malu penipuan” harus dihindari sepenuhnya. Organisasi harus membangun budaya keamanan psikologis jauh sebelum insiden terjadi. Ketika karyawan atau eksekutif menjadi target deepfake, pengalaman itu bisa terasa seperti serangan. Kehilangan kendali atas kesamaan, suara, dan identitas digital.

Responnya harus prosedural dan manusiawi. Protokol pelaporan yang jelas harus duduk bersama dengan dukungan kesehatan mental, debrief rahasia, dan akses ke forensik digital sehingga individu memahami apa yang terjadi.

Pemimpin menetapkan nada. Ketika eksekutif berbicara terbuka tentang upaya manipulasi dan pemulihan, itu menghilangkan stigma dan mendorong transparansi. Terbukanya itu adalah yang mengubah kerentanan individu menjadi ketahanan kolektif.

Sebagai pendiri konsultasi di ruang ini, apa yang menjadi kekhawatiran Anda tentang seberapa cepat AI generatif berkembang — dan di mana Anda melihat gelombang kemampuan deepfake berikutnya muncul?

AI generatif berkembang dengan kecepatan luar biasa. Itu sendiri bukanlah kekhawatiran. Risiko nyata terletak pada adopsi dan perekatnya yang cepat di seluruh operasi bisnis sehari-hari. Kecepatan manajemen ancaman dan kesadaran belum mengimbangi. Celah antara ancaman dan ketahanan adalah tempat penipu berkembang, dengan deepfakes sebagai alat paling efektif mereka.

Setiap inovasi baru menjadi permukaan lain untuk dieksploitasi. Saat ini, agen AI menimbulkan risiko yang meningkat. Ketika digabungkan dengan teknologi deepfake, mereka dapat melaksanakan penipuan dengan skala, kecepatan, dan presisi yang tidak dapat dicapai oleh penyerang manusia.

Sebaliknya, apa teknologi atau upaya kolaboratif yang memberi Anda optimisme bahwa kita dapat tetap di depan penipuan yang digerakkan deepfake dan desinformasi?

Fakta bahwa percakapan ini terjadi di publikasi yang dihormati adalah tanda kemajuan itu sendiri. Ini menunjukkan bahwa inovator, regulator, media, dan perusahaan semua terkena dampak desinformasi.

Apa yang memberi saya optimisme adalah kemauan yang tumbuh untuk berkolaborasi. Ketahanan deepfake tidak akan datang dari satu alat atau satu organisasi, tetapi dari inteligensi yang dibagikan. Belajar untuk menukar informasi dan mendidik komunitas dengan efisiensi yang sama seperti penjahat.

Kita masih perlu memperbaiki bagaimana kolaborasi itu terjadi, tetapi niatnya ada. Dan niat kolektif itu adalah yang akan memulihkan kepercayaan pada akhirnya.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Aarti Samani.