Generatif AI dina Cybersecurity: Medan Perang, Ancaman, & Ayeuna Pertahanan

Medan perang

Anu dimimitian salaku pikagumbiraeun ngeunaan kamampuan Generative AI parantos gancang janten perhatian. Alat AI generatif sapertos ChatGPT, Google Bard, Dall-E, sareng sajabana terus janten headline kusabab masalah kaamanan sareng privasi. Ieu malah ngarah kana questioning ngeunaan naon nyata jeung naon henteu. Generative AI tiasa ngompa kaluar eusi anu kacida masuk akal sahingga ngayakinkeun. Janten dina kacindekan tina ségmén 60 Menit panganyarna dina AI, host Scott Pelley ngantunkeun pemirsa kalayan pernyataan ieu; "Kami bakal ditungtungan ku catetan anu henteu kantos muncul dina 60 Menit, tapi hiji, dina révolusi AI, anjeun tiasa sering nguping: anu sateuacana diciptakeun kalayan 100% eusi manusa."

Perang cyber Generative AI dimimitian ku eusi anu ngayakinkeun sareng kahirupan nyata ieu sareng medan perang mangrupikeun tempat peretas ngamangpaatkeun Generative AI, ngagunakeun alat sapertos ChatGPT, jsb. Gampang pisan pikeun penjahat cyber, khususna anu gaduh sumber terbatas sareng nol pangaweruh téknis, pikeun ngalaksanakeun kajahatan maranéhanana ngaliwatan rékayasa sosial, phishing jeung serangan impersonation.

Ancaman

Generative AI boga kakuatan pikeun ngahudangkeun serangan cyber anu beuki canggih.

Kusabab téknologi tiasa ngahasilkeun kontén anu ngayakinkeun sareng sapertos manusa kalayan gampang, panipuan siber énggal anu ngamangpaatkeun AI langkung hésé pikeun tim kaamanan gampang ditingali. Penipuan anu dibangkitkeun AI tiasa muncul dina bentuk serangan rékayasa sosial sapertos serangan phishing multi-kanal anu dilakukeun ngaliwatan aplikasi email sareng olahtalatah. Conto dunya nyata tiasa janten email atanapi pesen anu ngandung dokumen anu dikirim ka eksekutif perusahaan ti vendor pihak katilu ngalangkungan Outlook (Email) atanapi Slack (Aplikasi Olahtalatah). Surélék atanapi pesen ngarahkeun aranjeunna pikeun ngaklik éta pikeun ningali invoice. Kalayan Generative AI, ampir teu mungkin pikeun ngabédakeun antara email atanapi pesen palsu sareng nyata. Éta sababna bahaya pisan.

Salah sahiji conto anu paling pikahariwangeun, kumaha ogé, nyaéta kalayan Generative AI, cybercriminals tiasa ngahasilkeun serangan dina sababaraha basa - henteu paduli naha hacker leres-leres nyarios basa éta. Tujuanana nyaéta pikeun nyebarkeun jaring anu lega sareng penjahat cyber moal ngabentenkeun korban dumasar kana basa.

Kamajuan Generative AI nunjukkeun yén skala sareng efisiensi serangan ieu bakal terus ningkat.

The Pertahanan

Pertahanan siber pikeun Generative AI parantos kasohor janten potongan anu leungit dina teka-teki. Dugi ka ayeuna. Ku ngagunakeun mesin pikeun ngempur mesin, atanapi nyemat AI ngalawan AI, urang tiasa ngabela ngalawan ancaman anyar sareng ngembang ieu. Tapi kumaha strategi ieu kedah dihartikeun sareng kumaha katingalina?

Kahiji, industri kudu meta pikeun pin komputer ngalawan komputer tinimbang manusa vs komputer. Pikeun nuturkeun usaha ieu, urang kedah mertimbangkeun platform deteksi canggih anu tiasa ngadeteksi ancaman anu dibangkitkeun AI, ngirangan waktos anu dipikabutuh pikeun bandéra sareng waktos anu diperyogikeun pikeun ngabéréskeun serangan rékayasa sosial anu asalna tina Generative AI. Hiji hal anu teu tiasa dilakukeun ku manusa.

Kami nembe ngalaksanakeun tés kumaha ieu tiasa katingali. Kami ngagaduhan ChatGPT masak email phishing callback dumasar-basa dina sababaraha basa pikeun ningali naha platform Natural Language Understanding atanapi platform deteksi canggih tiasa ngadeteksi éta. Kami masihan ChatGPT ajakan, "Tulis email anu mendesak anu ngadesek batur pikeun nelepon ngeunaan béwara ahir ngeunaan perjanjian lisénsi parangkat lunak." Urang ogé nitah nulisna dina basa Inggris jeung Jepang.

Platform deteksi canggih éta langsung tiasa bendera surelek salaku serangan rékayasa sosial. TAPI, kadali email asli sapertos platform deteksi phishing Outlook henteu tiasa. Malah saméméh sékrési ChatGPT, rékayasa sosial dilakukeun ngaliwatan conversational, serangan dumasar-basa kabukti suksés sabab bisa Dodge kadali tradisional, badarat di koropak-koropak tanpa link atawa payload. Janten enya, peryogi tempur mesin vs mesin pikeun ngabela, tapi urang ogé kedah yakin yén urang ngagunakeun artileri anu épéktip, sapertos platform deteksi canggih. Saha waé anu nganggo alat-alat ieu ngagaduhan kauntungan dina merangan Generative AI.

Lamun datang ka skala na plausibility serangan rékayasa sosial afforded ku ChatGPT sarta bentuk sejen tina Generative AI, mesin pikeun pertahanan mesin ogé bisa disampurnakeun. Contona, pertahanan ieu bisa deployed dina sababaraha basa. Éta ogé henteu ngan ukur kedah dugi ka kaamanan email tapi tiasa dianggo pikeun saluran komunikasi sanés sapertos aplikasi sapertos Slack, WhatsApp, Teams jsb.

Tetep Waspada

Nalika ngagulung LinkedIn, salah sahiji karyawan urang mendakan usaha rékayasa sosial Generative AI. A aneh "whitepaper" undeuran ad mucunghul kalawan naon ngan bisa digambarkeun generously salaku "aneh" ad kreatif. Saatos pamariksaan anu langkung caket, para karyawan ningali pola warna anu terang di pojok katuhu handap dicap dina gambar anu diproduksi ku Dall-E, modél AI anu ngahasilkeun gambar tina pituduh dumasar téks.

Nepungan iklan LinkedIn palsu ieu mangrupikeun panginget penting ngeunaan bahaya rékayasa sosial anyar anu ayeuna muncul nalika gandeng sareng Generative AI. Éta langkung kritis tibatan kantos janten waspada sareng curiga.

Umur AI generatif anu dianggo pikeun cybercrime aya di dieu, sareng urang kedah tetep waspada sareng siap tarung deui kalayan unggal alat anu aya dina pembuangan urang.