Bahaya Chatbot AI – Dan Bagaimana Menghadapinya

Dahulu dianggap hanya sebagai program berbicara yang otomatis, chatbot AI sekarang dapat belajar dan melakukan percakapan yang hampir tidak dapat dibedakan dari manusia. Namun, bahaya chatbot AI sama bervariasi.

Bahaya ini dapat berkisar dari orang-orang yang menyalahgunakan mereka hingga risiko keamanan siber yang sebenarnya. Ketika manusia semakin bergantung pada teknologi AI, mengetahui dampak potensial dari menggunakan program-program ini sangat penting. Tapi, apakah bot berbahaya?

1. Bias dan Diskriminasi

Salah satu bahaya terbesar dari chatbot AI adalah kecenderungan mereka terhadap bias yang merugikan. Karena AI menghubungkan titik-titik data yang sering kali dilewatkan oleh manusia, itu dapat mempelajari bias implisit dalam data pelatihan untuk mengajar dirinya sendiri menjadi diskriminatif. Sebagai hasilnya, chatbot dapat dengan cepat belajar untuk mengeluarkan konten yang rasis, seksis atau diskriminatif lainnya, bahkan jika tidak ada konten yang ekstrem dalam data pelatihan.

Contoh utama adalah bot perekrutan Amazon yang dibatalkan. Pada 2018, terungkap bahwa Amazon telah meninggalkan proyek AI yang dimaksudkan untuk menilai resume pelamar sebelumnya karena itu mempenalisasi aplikasi dari wanita. Karena sebagian besar resume yang digunakan bot untuk pelatihan adalah milik pria, itu mengajar dirinya sendiri bahwa pelamar pria lebih disukai, bahkan jika data pelatihan tidak secara eksplisit mengatakan itu.

Chatbot yang menggunakan konten internet untuk mengajar dirinya sendiri berbicara secara alami cenderung menampilkan bias yang lebih ekstrem. Pada 2016, Microsoft memperkenalkan chatbot bernama Tay yang belajar untuk meniru postingan media sosial. Dalam beberapa jam, itu mulai mengirim konten yang sangat ofensif, yang menyebabkan Microsoft menangguhkan akun sebelum lama.

Jika perusahaan tidak berhati-hati saat membangun dan menerapkan bot ini, mereka mungkin secara tidak sengaja menyebabkan situasi serupa. Chatbot bisa salah mengobati pelanggan atau menyebarkan konten yang bias yang seharusnya mereka hindari.

2. Risiko Keamanan Siber

Bahaya teknologi chatbot AI juga dapat menimbulkan ancaman keamanan siber yang lebih langsung bagi orang dan bisnis. Salah satu bentuk serangan siber yang paling prolifik adalah penipuan phishing dan vishing. Ini melibatkan penyerang siber yang meniru organisasi tepercaya seperti bank atau lembaga pemerintah.

Penipuan phishing biasanya beroperasi melalui email dan pesan teks — mengklik tautan memungkinkan malware untuk memasuki sistem komputer. Setelah di dalam, virus dapat melakukan apa saja mulai dari mencuri informasi pribadi hingga meminta tebusan untuk sistem.

Tingkat serangan phishing telah meningkat secara stabil selama dan setelah pandemi COVID-19. Badan Keamanan Siber & Infrastruktur menemukan 84% individu menjawab pesan phishing dengan informasi sensitif atau mengklik tautan.

Penipu menggunakan teknologi chatbot AI untuk mengautomasi pencarian korban, membujuk mereka untuk mengklik tautan dan memberikan informasi pribadi. Chatbot digunakan oleh banyak lembaga keuangan — seperti bank — untuk mempermudah pengalaman layanan pelanggan.

Chatbot penipu dapat meniru prompt otomatis yang sama yang digunakan bank untuk menipu korban. Mereka juga dapat secara otomatis menelepon nomor telepon atau menghubungi korban langsung di platform chat interaktif.

3. Pencemaran Data

Pencemaran data adalah serangan siber yang baru yang langsung menargetkan kecerdasan buatan. Teknologi AI belajar dari set data dan menggunakan informasi itu untuk menyelesaikan tugas. Ini berlaku untuk semua program AI, tidak peduli tujuan atau fungsinya.

Untuk chatbot AI, ini berarti belajar banyak respons terhadap pertanyaan yang mungkin diberikan pengguna. Namun, ini juga salah satu bahaya AI.

Set data ini sering kali merupakan alat dan sumber daya open-source yang tersedia untuk semua orang. Meskipun perusahaan AI biasanya menjaga kerahasiaan sumber data mereka, penyerang siber dapat menentukan sumber data yang mereka gunakan dan memanipulasi data.

Penyerang siber dapat menemukan cara untuk memanipulasi set data yang digunakan untuk melatih AI, memungkinkan mereka untuk memanipulasi keputusan dan respons AI. AI akan menggunakan informasi dari data yang diubah dan melakukan tindakan yang diinginkan oleh penyerang.

Misalnya, salah satu sumber data yang paling umum digunakan adalah sumber daya Wiki seperti Wikipedia. Meskipun data tidak berasal dari artikel Wikipedia langsung, itu berasal dari snapshot data yang diambil pada waktu tertentu. Peretas dapat menemukan cara untuk mengedit data untuk keuntungan mereka.

Dalam kasus chatbot AI, peretas dapat mencemari set data yang digunakan untuk melatih chatbot yang bekerja untuk lembaga medis atau keuangan. Mereka dapat memanipulasi program chatbot untuk memberikan informasi palsu kepada pelanggan yang dapat membawa mereka untuk mengklik tautan yang berisi malware atau situs web palsu. Setelah AI mulai mengambil dari data yang tercemar, itu sulit untuk dideteksi dan dapat menyebabkan pelanggaran keamanan siber yang signifikan yang tidak terdeteksi untuk waktu yang lama.

Bagaimana Menghadapi Bahaya Chatbot AI

Risiko ini mengkhawatirkan, tetapi mereka tidak berarti bot secara inheren berbahaya. Sebaliknya, Anda harus mendekatinya dengan hati-hati dan mempertimbangkan bahaya ini saat membangun dan menggunakan chatbot.

Kunci untuk mencegah bias AI adalah mencari bias tersebut selama pelatihan. Pastikan untuk melatihnya pada set data yang beragam dan secara khusus memprogramnya untuk menghindari mempertimbangkan hal-hal seperti ras, jenis kelamin, atau orientasi seksual dalam proses pengambilan keputusan. Juga, yang terbaik adalah memiliki tim ilmuwan data yang beragam untuk meninjau kerja internal chatbot dan memastikan mereka tidak menunjukkan bias, bagaimanapun halus.

Pertahanan terbaik melawan phishing adalah pelatihan. Latih semua karyawan untuk mengenali tanda-tanda umum serangan phishing sehingga mereka tidak terjebak dalam serangan tersebut. Meningkatkan kesadaran konsumen seputar masalah ini juga akan membantu.

Anda dapat mencegah pencemaran data dengan membatasi akses ke data pelatihan chatbot. Hanya orang yang memerlukan akses ke data ini untuk melakukan pekerjaan mereka dengan benar yang seharusnya memiliki otorisasi — konsep yang disebut prinsip hak akses terkecil. Setelah menerapkan pembatasan tersebut, gunakan langkah verifikasi yang kuat seperti autentikasi multi-faktor atau biometrik untuk mencegah risiko peretas menembus akun yang telah diautorisasi.

Tetap Waspada Terhadap Bahaya Ketergantungan AI

Kecerdasan buatan adalah teknologi yang sangat luar biasa dengan aplikasi yang hampir tidak terbatas. Namun, bahaya AI mungkin tidak jelas. Apakah bot berbahaya? Tidak secara inheren, tetapi peretas siber dapat menggunakannya dengan berbagai cara yang merusak. Ini tergantung pada pengguna untuk menentukan aplikasi teknologi baru ini.