Bahaya AI Chatbots - Sareng Kumaha Ngalawanna

Sakali dianggap ngan ukur program obrolan otomatis, AI chatbots ayeuna tiasa diajar sareng nahan paguneman anu ampir teu tiasa dibédakeun sareng manusa. Tapi, bahaya AI chatbots sami-sami variatif.

Ieu tiasa dibasajankeun jalma-jalma anu nyalahgunakeunana kana résiko cybersecurity saleresna. Kusabab manusa beuki ngandelkeun téknologi AI, terang poténsial akibat tina ngagunakeun program ieu penting pisan. Tapi naha bot bahaya?

1. Bias jeung Diskriminasi

Salah sahiji bahaya pangbadagna AI chatbots nyaéta kacenderungan maranéhanana ka bias ngabahayakeun. Kusabab AI ngagambar sambungan antara titik-titik data anu sering dileungitkeun ku manusa, éta tiasa nyandak bias anu halus, implisit dina data pelatihanna pikeun ngajarkeun dirina janten diskriminatif. Hasilna, chatbots bisa gancang diajar spew eusi rasialis, sexist atawa diskriminatif, sanajan euweuh nu ekstrim aya dina data latihan na.

Conto utama nyaéta bot nyewa Amazon anu dihapus. Dina 2018, éta mecenghul yén Amazon parantos ngantunkeun proyék AI dimaksudkeun pikeun pre-assess neruskeun Ngalamar 'sabab ieu penalizing aplikasi ti awéwé. Kusabab sabagéan ageung resume anu dilatih bot éta lalaki, éta ngajarkeun yén pelamar lalaki langkung milih, sanaos data pelatihan henteu nyarios sacara eksplisit.

Chatbots anu ngagunakeun eusi internét pikeun ngajarkeun diri kumaha komunikasi sacara alami condong nunjukkeun bias anu langkung ekstrim. Dina 2016, Microsoft debut chatbot ngaranna Tay nu diajar meniru tulisan média sosial. Dina sababaraha jam, éta dimimitian tweeting eusi kacida karasa, ngarah Microsoft ngagantungkeun akun sateuacan lami.

Upami perusahaan henteu ati-ati nalika ngawangun sareng nyebarkeun bot ieu, aranjeunna tiasa ngahaja ngakibatkeun kaayaan anu sami. Chatbots tiasa ngaganggu palanggan atanapi nyebarkeun eusi bias anu ngabahayakeun anu sakuduna dicegah.

2. Resiko Cybersecurity

Bahaya téknologi chatbot AI ogé tiasa nyababkeun ancaman cybersecurity anu langkung langsung pikeun jalma sareng usaha. Salah sahiji bentuk cyberattacks anu paling produktif nyaéta phishing sareng panipuan vishing. Ieu ngalibatkeun panyerang cyber niru organisasi anu dipercaya kayaning bank atawa badan pamaréntah.

Penipuan phishing biasana dijalankeun ku email sareng pesen téks - ngaklik tautan ngamungkinkeun malware asup kana sistem komputer. Sakali di jero, virus tiasa ngalakukeun nanaon tina maok inpormasi pribadi dugi ka nahan sistem pikeun tebusan.

Laju serangan phishing terus ningkat salami sareng saatos pandémik COVID-19. Badan Kaamanan Siber & Infrastruktur kapanggih 84% individu ngawaler pesen phishing sareng inpormasi sénsitip atanapi diklik dina tautan.

Phisher ngagunakeun téknologi chatbot AI pikeun ngajadikeun otomatis milarian korban, ngayakinkeun aranjeunna pikeun ngaklik tautan sareng nyerah inpormasi pribadi. Chatbots dipaké ku loba lembaga keuangan - kayaning bank - pikeun streamline pangalaman layanan palanggan.

Chatbots phishers tiasa meniru pituduh otomatis anu sami anu dianggo ku bank pikeun nipu korban. Éta ogé tiasa sacara otomatis mencet nomer telepon atanapi ngahubungi korban langsung dina platform obrolan interaktif.

3. Karacunan Data

Karacunan data mangrupikeun serangan siber anu nembé diciptakeun anu langsung nargétkeun intelijen buatan. Téknologi AI diajar tina set data sareng nganggo inpormasi éta pikeun ngarengsekeun tugas. Ieu leres pikeun sadaya program AI, henteu paduli tujuan atanapi fungsina.

Pikeun AIs chatbot, ieu hartosna diajar sababaraha réspon kana patarosan anu tiasa dipasihkeun ku pangguna. Nanging, ieu ogé salah sahiji bahaya AI.

Kumpulan data ieu sering mangrupikeun alat sumber terbuka sareng sumber daya anu sayogi pikeun saha waé. Sanaos perusahaan AI biasana ngajaga rahasia anu dijaga ketat ngeunaan sumber datana, panyerang cyber tiasa nangtukeun mana anu aranjeunna anggo sareng ngamanipulasi data.

Panyerang cyber tiasa mendakan cara pikeun tamper kalawan susunan data dipaké pikeun ngalatih AI, ngamungkinkeun aranjeunna pikeun ngamanipulasi kaputusan sareng résponna. AI bakal ngagunakeun inpormasi tina data anu dirobih sareng ngalaksanakeun tindakan anu dipikahoyong ku panyerang.

Salaku conto, salah sahiji sumber anu paling sering dianggo pikeun set data nyaéta sumber Wiki sapertos Wikipedia. Sanaos datana henteu asalna tina artikel Wikipedia langsung, éta asalna tina jepretan data anu dicandak dina waktos anu khusus. Peretas tiasa mendakan cara pikeun ngédit data pikeun nguntungkeun aranjeunna.

Dina kasus AIs chatbot, peretas tiasa ngaruksak set data anu dianggo pikeun ngalatih chatbots anu dianggo pikeun lembaga médis atanapi kauangan. Aranjeunna tiasa ngamanipulasi program chatbot pikeun masihan para nasabah inpormasi palsu anu tiasa nyababkeun aranjeunna ngaklik tautan anu ngandung malware atanapi halaman wéb anu curang. Sakali AI mimiti narik tina data anu diracun, éta sesah pikeun dideteksi sareng tiasa nyababkeun pelanggaran anu signifikan dina kaamanan siber anu teu dipikanyaho pikeun waktos anu lami.

Kumaha Alamat Bahaya AI Chatbots

Résiko ieu pikahariwangeun, tapi sanés hartosna bot sacara alami bahaya. Sabalikna, anjeun kedah ngadeukeutan aranjeunna sacara ati-ati sareng nganggap bahaya ieu nalika ngawangun sareng nganggo chatbots.

Konci pikeun nyegah bias AI nyaéta milarianana sapanjang latihan. Pastikeun pikeun ngalatih éta dina set data anu rupa-rupa sareng sacara khusus diprogram pikeun ngahindarkeun hal-hal sapertos ras, gender atanapi orientasi seksual dina pembuatan kaputusan. Hadé pisan mun éta gaduh tim élmuwan data anu rupa-rupa pikeun marios pagawéan batin chatbots sareng pastikeun aranjeunna henteu nunjukkeun bias, sanaos halus.

Pertahanan pangsaéna ngalawan phishing nyaéta latihan. Ngalatih sakabéh pagawé pikeun titik tanda umum tina usaha phishing ngarah teu murag kana serangan ieu. Nyebarkeun kasadaran konsumen sabudeureun masalah bakal mantuan, teuing.

Anjeun tiasa nyegah karacunan data ku ngawatesan aksés ka data latihan chatbots. Ngan jalma-jalma anu peryogi aksés kana data ieu pikeun ngalakukeun padamelanna leres-leres kedah gaduh otorisasi - konsép anu disebut prinsip hak istimewa pangsaeutikna. Saatos ngalaksanakeun larangan éta, paké ukuran verifikasi anu kuat sapertos auténtikasi multi-faktor atanapi biometrik pikeun nyegah résiko penjahat cyber hacking kana akun anu otorisasi.

Tetep Waspada Ngalawan Bahaya AI Reliance

Kecerdasan jieunan mangrupikeun téknologi anu saé pisan sareng aplikasi anu ampir teu aya watesna. Sanajan kitu, bahaya AI bisa jadi teu jelas. Naha bot bahaya? Teu inherently, tapi cybercriminals bisa make eta dina sagala rupa cara disruptive. Terserah pamaké pikeun mutuskeun naon aplikasi tina téknologi anyar ieu.