Membangun Kepercayaan di AI dengan Verifikasi Identitas

AI generatif telah menarik perhatian di seluruh dunia bisnis. Faktanya, ​​60% dari organisasi dengan adopsi AI yang dilaporkan sekarang menggunakan AI generatif. Pemimpin hari ini berlomba untuk menentukan bagaimana mengintegrasikan alat AI ke dalam tumpukan teknologi mereka untuk tetap kompetitif dan relevan – dan pengembang AI menciptakan lebih banyak alat daripada sebelumnya. Namun, dengan adopsi yang cepat dan sifat teknologi, banyak kekhawatiran keamanan dan etika tidak sepenuhnya dipertimbangkan ketika bisnis berlomba untuk mengintegrasikan teknologi terbaru dan terhebat. Akibatnya, kepercayaan mulai memudar.

Survei terbaru menemukan bahwa hanya 48% dari orang Amerika percaya AI aman dan secure, sedangkan 78% mengatakan mereka sangat atau cukup khawatir bahwa AI dapat digunakan untuk tujuan jahat. Sementara AI telah ditemukan dapat memperbaiki alur kerja sehari-hari, konsumen khawatir tentang aktor jahat dan kemampuan mereka untuk memanipulasi AI. Kemampuan deepfake, misalnya, menjadi ancaman yang lebih besar karena akses teknologi tersebut meningkat.

Memiliki alat AI tidak lagi cukup. Untuk AI mencapai potensinya yang sebenarnya dan bermanfaat, bisnis perlu mengintegrasikan AI ke dalam solusi yang menunjukkan penggunaan teknologi yang bertanggung jawab dan layak untuk meningkatkan kepercayaan konsumen, terutama dalam keamanan siber di mana kepercayaan adalah kunci.

Tantangan Keamanan AI

Teknologi AI generatif berkembang dengan cepat dan pengembang baru saja memahami pentingnya membawa teknologi ini ke perusahaan seperti yang terlihat dari peluncuran ChatGPT Enterprise.

Teknologi AI saat ini mampu melakukan hal-hal yang hanya dibicarakan dalam ranah fiksi ilmiah kurang dari satu dekade yang lalu. Bagaimana ia beroperasi sangat mengesankan, tetapi ekspansi yang relatif cepat di mana semua ini terjadi lebih mengesankan lagi. Itulah yang membuat teknologi AI sangat scalable dan mudah diakses oleh perusahaan, individu, dan, tentu saja, penipu. Sementara kemampuan teknologi AI telah memimpin inovasi, penggunaannya yang luas juga telah menyebabkan pengembangan teknologi berbahaya seperti deepfakes-as-a-service. Istilah “deepfake” berasal dari teknologi yang menciptakan konten manipulasi ini (atau “fake”) yang memerlukan penggunaan teknik deep learning.

Penipu akan selalu mengikuti uang yang memberikan mereka ROI terbesar – sehingga setiap bisnis dengan potensi return yang tinggi akan menjadi target mereka. Ini berarti fintech, bisnis yang membayar invoice, layanan pemerintah, dan pengecer barang berharga akan selalu berada di atas daftar mereka.

Kita berada di tempat di mana kepercayaan dipertaruhkan, dan konsumen semakin tidak percaya, memberi peluang lebih besar kepada penipu amatir untuk menyerang. Dengan aksesibilitas alat AI yang baru ditemukan dan biaya yang semakin rendah, lebih mudah bagi aktor jahat dengan keterampilan apa pun untuk memanipulasi gambar dan identitas orang lain. Kemampuan deepfake menjadi lebih mudah diakses oleh masyarakat melalui aplikasi dan situs web deepfake dan menciptakan deepfake yang canggih memerlukan waktu yang sangat singkat dan keterampilan yang relatif rendah.

Dengan menggunakan AI, kita juga telah melihat peningkatan dalam takeovers akun. Deepfake yang dihasilkan AI membuatnya mudah bagi siapa saja untuk menciptakan impersonasi atau identitas sintetis baik itu selebriti atau bahkan bos Anda. ​​

AI dan aplikasi bahasa generatif Large Language Model (LLM) dapat digunakan untuk menciptakan penipuan yang lebih canggih dan sulit dideteksi. LLM khususnya telah menciptakan penggunaan phishing yang luas yang dapat berbicara bahasa ibu Anda dengan sempurna. Ini juga menciptakan risiko “penipuan romantis” dalam skala besar, ketika seseorang membuat koneksi dengan seseorang melalui situs web atau aplikasi kencan, tetapi orang yang mereka ajak berkomunikasi adalah penipu yang menggunakan profil palsu. Ini menyebabkan banyak platform sosial mempertimbangkan untuk mengirimkan “bukti keberadaan manusia” untuk tetap layak dalam skala besar.

Namun, solusi keamanan saat ini yang digunakan, yang menggunakan analisis metadata, tidak dapat menghentikan aktor jahat. Deteksi deepfake didasarkan pada klasifikasi yang mencari perbedaan antara asli dan palsu. Namun, deteksi ini tidak lagi kuat karena ancaman canggih ini memerlukan lebih banyak poin data untuk dideteksi.

AI dan Verifikasi Identitas: Bekerja Bersama

Pengembang AI perlu fokus pada menggunakan teknologi untuk menyediakan perlindungan yang lebih baik untuk langkah-langkah keamanan siber yang terbukti. Tidak hanya akan ini menyediakan kasus penggunaan yang lebih andal untuk AI, tetapi juga dapat menyediakan penggunaan yang lebih bertanggung jawab – mendorong praktik keamanan siber yang lebih baik sambil meningkatkan kemampuan solusi yang ada.

Satu kasus penggunaan utama teknologi ini adalah dalam verifikasi identitas. Lanskap ancaman AI terus berkembang dan tim perlu dilengkapi dengan teknologi yang dapat dengan cepat dan mudah menyesuaikan dan menerapkan teknik baru.

Beberapa peluang dalam menggunakan AI dengan teknologi verifikasi identitas termasuk:

• Menguji atribut perangkat kunci
• Menggunakan counter-AI untuk mengidentifikasi manipulasi: Untuk menghindari penipuan dan melindungi data penting, counter-AI dapat mengidentifikasi manipulasi gambar masuk.
• Mengobati ‘ketiadaan data’ sebagai faktor risiko dalam keadaan tertentu
• Secara aktif mencari pola di seluruh sesi dan pelanggan

Pertahanan berlapis yang disediakan oleh AI dan teknologi verifikasi identitas, menyelidiki orang, dokumen identitas yang dinyatakan, jaringan dan perangkat, meminimalkan risiko manipulasi sebagai akibat dari deepfakes dan memastikan hanya orang tepercaya dan asli yang mendapatkan akses ke layanan Anda.

AI dan verifikasi identitas perlu terus bekerja sama. Semakin kuat dan lengkap data pelatihan, semakin baik modelnya, dan karena AI hanya sebaik data yang diberikan, semakin banyak poin data yang kita miliki, semakin akurat verifikasi identitas dan AI dapat menjadi.

Masa Depan AI dan Verifikasi Identitas

Sulit untuk mempercayai apa pun secara online kecuali jika dibuktikan oleh sumber yang dapat dipercaya. Hari ini, inti kepercayaan online terletak pada identitas yang terbukti. Aksesibilitas ke LLM dan alat deepfake menyebabkan risiko penipuan online yang meningkat. Kelompok kejahatan terorganisir sangat terampil dan sekarang mereka dapat menggunakan teknologi terbaru dalam skala yang lebih besar.

Perusahaan perlu memperluas lanskap pertahanan mereka dan tidak takut untuk berinvestasi dalam teknologi, bahkan jika menambah sedikit gesekan. Tidak ada lagi satu titik pertahanan – mereka perlu melihat semua poin data yang terkait dengan individu yang mencoba mendapatkan akses ke sistem, barang, atau jasa dan terus memverifikasi sepanjang perjalanan mereka.

Deepfakes akan terus berkembang dan menjadi lebih canggih, pemimpin bisnis perlu terus meninjau data dari penerapan solusi untuk mengidentifikasi pola penipuan baru dan bekerja untuk mengembangkan strategi keamanan siber mereka secara terus-menerus seiring dengan ancaman.