ຜົນກະທົບທີ່ເພີ່ມຂຶ້ນຂອງ AI ກ່ຽວກັບການຫລອກລວງການເລືອກຕັ້ງໃນລະດູການນີ້

ໃນປີ 2022, ອີເມວທີ່ເປັນອັນຕະລາຍທີ່ແນເປົ້າໃສ່ພະນັກງານເລືອກຕັ້ງໃນເຂດ Pennsylvania ເພີ່ມຂຶ້ນ ຮອບ​ເລືອກ​ຕັ້ງ​ຂັ້ນ​ຕົ້ນ​ໃນ​ວັນ​ທີ 17 ພຶດ​ສະ​ພາ, ເພີ່ມ​ຂຶ້ນ​ຫຼາຍ​ກວ່າ 546% ໃນ XNUMX ເດືອນ. ຄູ່ກັບທ່າແຮງຂອງຮູບແບບພາສາຂະຫນາດໃຫຍ່ທີ່ບໍ່ທໍາມະດາ (LLMs) ຢູ່ເທິງສຸດຂອງການໂຈມຕີ phishing ແບບດັ້ງເດີມເຫຼົ່ານີ້, ມີຄວາມເປັນໄປໄດ້ສູງທີ່ຊາວອາເມຣິກັນປະຈໍາວັນຈະເປັນເປົ້າຫມາຍຂອງການຫລອກລວງທີ່ມີຄວາມເປັນຈິງຫຼາຍຂຶ້ນໃນລະດູການການເລືອກຕັ້ງນີ້.

ລັດຖະບານກໍາລັງເລີ່ມສັງເກດເຫັນ, ໂດຍສະເພາະຍ້ອນວ່າ AI ກາຍເປັນປະສົມປະສານເຂົ້າໃນຊີວິດປະຈໍາວັນຂອງພວກເຮົາ. ຕົວຢ່າງ, ອົງການຄວາມປອດໄພທາງອິນເຕີເນັດ ແລະໂຄງສ້າງພື້ນຖານຂອງສະຫະລັດ ເປີດ ໂຄງການສົ່ງເສີມຄວາມປອດໄພການເລືອກຕັ້ງ - ສະແດງໃຫ້ເຫັນຄວາມຕ້ອງການທີ່ເພີ່ມຂຶ້ນຈາກທັງລັດຖະບານແລະປະຊາຊົນເພື່ອປົກປ້ອງຕົນເອງ, ແລະຂໍ້ມູນຂອງພວກເຂົາ, ຈາກຜູ້ສະແດງທີ່ບໍ່ດີທີ່ອາດຈະເກີດຂື້ນໃນລະດູການເລືອກຕັ້ງນີ້.

ແລະຍິ່ງໄປກວ່ານັ້ນເມື່ອບໍ່ດົນມານີ້, ໃນກອງປະຊຸມຄວາມປອດໄພ Munich ປີ 2024, 20 ບໍລິສັດເຕັກໂນໂລຊີ ແລະ AI ໄດ້ລົງນາມໃນຂໍ້ຕົກລົງ. "ຂໍ້ຕົກລົງດ້ານເຕັກໂນໂລຢີເພື່ອຕໍ່ສູ້ກັບການໃຊ້ AI ຫຼອກລວງໃນການເລືອກຕັ້ງ 2024," ​ເຊິ່ງ​ໄດ້​ຍົກ​ໃຫ້​ເຫັນ​ບັນດາ​ຫຼັກການ​ຊີ້​ນຳ​ປົກ​ປັກ​ຮັກສາ​ການ​ເລືອກ​ຕັ້ງ ​ແລະ ຂະ​ບວນການ​ເລືອກ​ຕັ້ງ ລວມທັງ​ການ​ປ້ອງ​ກັນ, ຢັ້ງຢືນ, ການ​ຊອກ​ຄົ້ນ​ຫາ, ການ​ປ້ອງ​ກັນ​ຄວາມ​ຮັບ​ຜິດ​ຊອບ, ການ​ປະ​ເມີນ​ຜົນ ​ແລະ ຄວາມ​ຮັບ​ຮູ້​ຂອງ​ປະຊາຊົນ. ປະກອບດ້ວຍຜູ້ຫຼິ້ນເຕັກໂນໂລຢີທີ່ສໍາຄັນລວມທັງ Microsoft, Amazon, ແລະ Google, ນີ້ຫມາຍເຖິງການປ່ຽນແປງທີ່ສໍາຄັນໃນອຸດສາຫະກໍາທີ່ເຖິງແມ່ນວ່ານອກເຫນືອຈາກຄວາມກ່ຽວຂ້ອງທາງດ້ານການເມືອງ, ຄວາມປອດໄພຂອງຂໍ້ມູນແມ່ນຫົວຂໍ້ທີ່ຈະກ່ຽວຂ້ອງກັບພົນລະເມືອງແລະຜູ້ຊ່ຽວຊານດ້ານ cyber ຕະຫຼອດສ່ວນທີ່ເຫຼືອຂອງການເລືອກຕັ້ງປີນີ້. ຍິ່ງໄປກວ່ານັ້ນ, AI ທົ່ວໄປຈະສົ່ງຜົນກະທົບຢ່າງຫຼວງຫຼາຍຕໍ່ວິທີທີ່ນັກສະແດງທີ່ບໍ່ດີສາມາດປະຕິບັດການໂຈມຕີຂອງພວກເຂົາ, ເຮັດໃຫ້ມັນງ່າຍຕໍ່ການຫຼອກລວງທີ່ມີຄວາມເປັນຈິງສູງ.

ປະເພດຂອງການຫລອກລວງການເລືອກຕັ້ງ

ໃນຂະນະທີ່ລະດູການເລືອກຕັ້ງບໍ່ແມ່ນເວລາດຽວທີ່ພວກເຮົາເຫັນການເພີ່ມຂຶ້ນຂອງການຫລອກລວງ, ເມື່ອເຖິງເວລາລົງຄະແນນສຽງ, ບໍ່ວ່າຈະຢູ່ໃນການເລືອກຕັ້ງຂັ້ນຕົ້ນຫຼືການເລືອກຕັ້ງທົ່ວໄປ, ພວກເຮົາມີແນວໂນ້ມທີ່ຈະເຫັນການເພີ່ມຂື້ນຂອງວິທີການແລະເຕັກນິກຫຼາຍຢ່າງ. ແຕ່ລະຄົນເຫຼົ່ານີ້ຖືກນໍາໃຊ້ກັບເປົ້າຫມາຍປົກກະຕິຂອງການເຂົ້າເຖິງບັນຊີຂອງບຸກຄົນຫຼືການໄດ້ຮັບເງິນຕາແລະຜົນສະທ້ອນຂອງການຫຼຸດລົງຂອງພວກມັນສາມາດສົ່ງຜົນສະທ້ອນໃຫຍ່. ໃນ​ຄວາມ​ເປັນ​ຈິງ, deepfake ການ​ສໍ້​ໂກງ​ຢ່າງ​ດຽວ​ໄດ້​ເສຍ​ຄ່າ​ໃຊ້​ຈ່າຍ​ຂອງ​ສະ​ຫະ​ລັດ​ຫຼາຍ​ກ​່​ວາ 3.4 $ ພັນລ້ານ ໃນ​ການ​ສູນ​ເສຍ​.

ບາງຕົວຢ່າງຂອງການຫລອກລວງທີ່ພວກເຮົາເຫັນໃນລະດູການເລືອກຕັ້ງປະກອບມີ:

• Phishing: phishing ກ່ຽວຂ້ອງກັບການນໍາໃຊ້ການເຊື່ອມຕໍ່ phony, ອີເມວ, ແລະເວັບໄຊທ໌ເພື່ອເຂົ້າເຖິງຂໍ້ມູນຜູ້ບໍລິໂພກທີ່ລະອຽດອ່ອນ - ໂດຍປົກກະຕິໂດຍການຕິດຕັ້ງ malware ໃນລະບົບເປົ້າຫມາຍ. ຫຼັງຈາກນັ້ນ, ຂໍ້ມູນນີ້ຖືກໃຊ້ເພື່ອລັກຂໍ້ມູນຕົວຕົນອື່ນໆ, ເຂົ້າເຖິງຊັບສິນທີ່ມີຄ່າແລະການໂຫຼດ inboxs ຫຼາຍເກີນໄປດ້ວຍ spam ອີເມວ. ໃນລະດູການການເລືອກຕັ້ງ, ອີເມວ phishing ສາມາດຖືກຫລອກລວງໄດ້ຍ້ອນວ່າອີເມວບໍລິຈາກໄດ້ຮັບພົນລະເມືອງຄລິກລິ້ງ, ຄິດວ່າພວກເຂົາບໍລິຈາກໃຫ້ຜູ້ສະຫມັກ, ແຕ່ຕົວຈິງແລ້ວການຫຼີ້ນໃນໂຄງການຂອງນັກສະແດງທີ່ບໍ່ດີ.
• Robocalls, ການປອມຕົວ, ແລະສຽງທີ່ສ້າງຂຶ້ນໂດຍ AI ຫຼື chatbots: ດັ່ງທີ່ເຫັນໃນລັດ New Hampshire ເມື່ອ robocall ປອມຕົວເປັນປະທານາທິບໍດີ Biden ຮຽກຮ້ອງໃຫ້ພົນລະເມືອງບໍ່ລົງຄະແນນສຽງ, ລະດູການເລືອກຕັ້ງຈະເຮັດໃຫ້ເກີດການເພີ່ມຂຶ້ນຂອງການປອມຕົວຂອງຜູ້ລົງຄະແນນສຽງຫຼືຜູ້ສະຫມັກທາງດ້ານການເມືອງເພື່ອສ້າງຄວາມໄວ້ວາງໃຈທີ່ບໍ່ຖືກຕ້ອງແລະໄດ້ຮັບຂໍ້ມູນທີ່ລະອຽດອ່ອນ.
• Deepfakes: ດ້ວຍການເພີ່ມຂຶ້ນຂອງ AI, ການປອມແປງເລິກໄດ້ກາຍເປັນຈິງຢ່າງບໍ່ຫນ້າເຊື່ອໃນມື້ນີ້ແລະສາມາດຖືກນໍາໃຊ້ເພື່ອປອມຕົວເປັນນາຍຈ້າງຫຼືແມ້ກະທັ້ງຄົນດັງທີ່ທ່ານມັກ. Deepfakes ແມ່ນວິດີໂອຫຼືຮູບພາບທີ່ນໍາໃຊ້ AI ເພື່ອທົດແທນໃບຫນ້າຫຼືການຈັດການການສະແດງອອກທາງຫນ້າຫຼືຄໍາເວົ້າ. ການປອມແປງອັນເລິກລັບຫຼາຍອັນທີ່ພວກເຮົາພົບປະຈໍາວັນຈະເປັນໃນຮູບແບບຂອງວິດີໂອ, ໂດຍມີ clip ທ່ານຫມໍທີ່ພັນລະນາຄົນທີ່ເວົ້າຫຼືເຮັດບາງສິ່ງບາງຢ່າງທີ່ເຂົາເຈົ້າອາດຈະບໍ່ເຄີຍເຮັດ. ນີ້ຄາດວ່າຈະເປັນທີ່ແຜ່ຫຼາຍໂດຍສະເພາະໃນລະດູການເລືອກຕັ້ງນີ້ໂດຍມີຄວາມສ່ຽງຕໍ່ການປອມແປງເລິກທີ່ຖືກສ້າງຂື້ນເພື່ອປອມຕົວຜູ້ສະຫມັກ. ເຖິງແມ່ນວ່າຢູ່ນອກສະຫະລັດ, ເຊັ່ນໃນອັງກິດ, ຍັງມີຄວາມຢ້ານກົວວ່າອາດຈະໃຊ້ການປອມແປງຢ່າງເລິກເຊິ່ງເພື່ອກໍານົດການເລືອກຕັ້ງ.

ຜົນກະທົບຂອງ AI ຕໍ່ການເລືອກຕັ້ງ

ຢູ່ເທິງສຸດຂອງການຫລອກລວງເຫຼົ່ານີ້, ສູດການຄິດໄລ່ AI ຖືກນໍາໃຊ້ເພື່ອສ້າງຂໍ້ຄວາມປອມ, ອີເມວ, ແລະຂໍ້ຄວາມສື່ສັງຄົມເພື່ອຫລອກລວງຜູ້ໃຊ້ໃຫ້ປະຖິ້ມຂໍ້ມູນທີ່ລະອຽດອ່ອນ.

Microsoft ແລະ OpenAI ເຜີຍແຜ່ບົດສະຫຼຸບໄພຂົ່ມຂູ່, "ການນໍາທາງ Cyberthreats ແລະເສີມສ້າງການປ້ອງກັນໃນຍຸກຂອງ AI,” ທີ່ສັງເກດເຫັນວ່ານັກຂົ່ມຂູ່ຫ້າຄົນຈາກລັດເຊຍ, ເກົາຫລີເຫນືອ, ອີຣ່ານແລະຈີນໄດ້ໃຊ້ GenAI ແລ້ວສໍາລັບວິທີການໃຫມ່ແລະນະວັດກໍາເພື່ອເສີມຂະຫຍາຍການປະຕິບັດງານຂອງພວກເຂົາຕໍ່ກັບເປົ້າຫມາຍທີ່ອ່ອນໂຍນ.

ການຫລອກລວງເຊັ່ນ chatbots, ການໂຄນສຽງ, ແລະອື່ນໆອີກແມ່ນໄດ້ດໍາເນີນໄປອີກບາດກ້າວຫນຶ່ງດ້ວຍ AI ເປັນເຄື່ອງມືເພື່ອເຜີຍແຜ່ຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງ, ພັດທະນາມັນແວ, ແລະປອມຕົວເປັນບຸກຄົນ. ເຄື່ອງມື cloning ສຽງສາມາດສ້າງ replicas ໃກ້ທີ່ສົມບູນແບບຂອງສຽງຫຼືໃບຫນ້າຂອງຜູ້ເລືອກຕັ້ງ, ສໍາລັບການຍົກຕົວຢ່າງ. AI ຍັງສາມາດຖືກນໍາໃຊ້ເພື່ອນ້ໍາຖ້ວມສູນການໂທຫາຜູ້ລົງຄະແນນສຽງປອມ, ເຮັດໃຫ້ພວກເຂົາມີຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງ.

ໃນການແຈ້ງເຕືອນສູງສຸດຈະເປັນສື່ມວນຊົນສັງຄົມ, ຍ້ອນວ່າມັນເປັນຍານພາຫະນະຕົ້ນຕໍສໍາລັບການໂຄສະນາໃນລະດູການການເລືອກຕັ້ງນີ້. ຜູ້ລົງຄະແນນຈະແບ່ງປັນຖ້າພວກເຂົາໄດ້ລົງຄະແນນສຽງແລະອາດຈະສະແດງໃຫ້ເຫັນການສະຫນັບສະຫນູນຜູ້ສະຫມັກທີ່ເຂົາເຈົ້າມັກໃນຫນ້າເວັບຂອງເຂົາເຈົ້າ. ຢ່າງໃດກໍຕາມ, ປີນີ້ເຮັດໃຫ້ເກີດໄພຂົ່ມຂູ່ໃຫມ່ຍ້ອນວ່າພວກເຮົາເຫັນການເພີ່ມໃຫມ່ຂອງ AI phishing (ລວມເຖິງການຫລອກລວງແລະການຫລອກລວງ).

ພິຈາລະນາວ່າຜູ້ໃດຜູ້ນຶ່ງທີ່ລົງໃນບັນຊີສື່ມວນຊົນສັງຄົມຂອງພວກເຂົາສະຫນັບສະຫນູນຜູ້ສະຫມັກສະເພາະ. ສອງສາມນາທີຕໍ່ມາ, ພວກເຂົາໄດ້ຮັບອີເມວທີ່ເບິ່ງຄືວ່າມາຈາກຜູ້ຈັດການແຄມເປນ, ຂອບໃຈສໍາລັບການສະຫນັບສະຫນູນຂອງພວກເຂົາ. ຜູ້ເຄາະຮ້າຍທີ່ມີທ່າແຮງນັ້ນສາມາດພົວພັນກັບອີເມລ໌ນັ້ນໂດຍການຄລິກໃສ່ການເຊື່ອມຕໍ່, ເປີດໃຫ້ເຂົາເຈົ້າເຖິງການຂຸດຄົ້ນຂໍ້ມູນປະຈໍາຕົວ, ການສູນເສຍທາງດ້ານການເງິນ, ຫຼືການຕິດຕັ້ງ malware. ເນື່ອງຈາກຄວາມສາມາດຂອງ AI ໃນການຕິດຕາມ, ສ້າງແລະສົ່ງແຄມເປນ phishing ທີ່ຖືກເປົ້າຫມາຍໃນເວລາໃກ້ກັບເວລາຈິງ, ເບິ່ງຄືວ່າການໂພດສື່ມວນຊົນສັງຄົມທີ່ບໍ່ມີຄວາມຜິດໃນປັດຈຸບັນເປີດໃຫ້ຜູ້ໃຊ້ເຖິງລະດັບໃຫມ່ຂອງໂຄງການ phishing ທີ່ແທ້ຈິງ.

ຍັງມີຄວາມລະມັດລະວັງໃນລະດູການເລືອກຕັ້ງນີ້

ການໂຈມຕີເຊັ່ນ: phishing ຈະສືບຕໍ່ເປັນວິທີການທົ່ວໄປສໍາລັບນັກສະແດງທີ່ບໍ່ດີເພື່ອສ້າງການຫລອກລວງທີ່ແທ້ຈິງທີ່ສາມາດເລື່ອນໄດ້ເຖິງແມ່ນວ່າຜູ້ທີ່ມີຄວາມຮູ້ທີ່ສຸດ, ແລະໃນອາຍຸຂອງ AI ການຜະລິດຜົນກະທົບທີ່ອາດເກີດຂື້ນຂອງສິ່ງເຫຼົ່ານີ້ພຽງແຕ່ໄດ້ຮັບການເລັ່ງເພື່ອໃຫ້ນັກສະແດງທີ່ບໍ່ດີເຂົ້າເຖິງຄວາມອ່ອນໄຫວໄດ້ໄວຂຶ້ນ. ຂໍ້ມູນ.

ໃນຂະນະທີ່ທຸລະກິດນໍາໃຊ້ເທກໂນໂລຍີເພື່ອປົກປ້ອງຂໍ້ມູນແລະພະນັກງານຂອງພວກເຂົາ, ຜູ້ບໍລິໂພກຍັງຕ້ອງຮູ້ເຕັກນິກເພື່ອຄົ້ນຫາແລະຫຼີກເວັ້ນການຫລອກລວງ. ບາງສ່ວນຂອງເຫຼົ່ານີ້ລວມມີ:

• ຊອກຫາ hyperlinks ແບບສຸ່ມຫຼືສະກົດຜິດຫຼືຫົວຂໍ້ອີເມລ໌
• ບໍ່ຄລິກໃສ່ການເຊື່ອມຕໍ່ຈາກຜູ້ສົ່ງທີ່ບໍ່ຮູ້ຈັກ
• ນຳໃຊ້ການກວດສອບສອງປັດໃຈ ຫຼືການພິສູດຢືນຢັນທາງຊີວະມິຕິຢູ່ບ່ອນທີ່ເປັນໄປໄດ້
• ເຮັດໃຫ້ບັນຊີສື່ມວນຊົນສັງຄົມເປັນສ່ວນຕົວ
• ລາຍງານການເຄື່ອນໄຫວທີ່ເປັນອັນຕະລາຍ
• ສຶກສາອົບຮົມເພື່ອນຮ່ວມງານ ຫຼືສະມາຊິກໃນຄອບຄົວອື່ນໆ
• ຊອກຫາໂດເມນເວັບໄຊທ໌ .gov ເພື່ອກວດສອບຄວາມຖືກຕ້ອງຂອງຜູ້ສະໝັກເລືອກຕັ້ງ
• ຖ້າເຈົ້າມີໄອທີຢູ່ບ່ອນເຮັດວຽກຂອງເຈົ້າ, ເຈົ້າສາມາດຖາມໄດ້ອີກວ່າ:
  • ເຄືອຂ່າຍຄວາມໄວ້ວາງໃຈ Zero
  • ການພິສູດຢືນຢັນສອງປັດໃຈທີ່ທົນທານຕໍ່ກັບ phishing
  • ເຄື່ອງມືຄວາມປອດໄພອີເມວ (DMARC, DKIM, SPF)
  • ວິ​ທີ​ການ​ເຊັນ​ເນື້ອ​ໃນ​ດິ​ຈິ​ຕອນ (ຫຼື​ວິ​ທີ​ທາງ​ອື່ນ​ເພື່ອ cryptographically ວິ​ທີ​ການ​ກວດ​ສອບ​ການ​ສື່​ສານ​ຂອງ​ທ່ານ​)

ເຖິງແມ່ນວ່າລະດູການການເລືອກຕັ້ງແມ່ນເວລາທີ່ຈະເຕືອນໄພສູງ, ການໂຈມຕີສາມາດເກີດຂື້ນໄດ້ທຸກເວລາ, ດັ່ງນັ້ນມັນເປັນສິ່ງສໍາຄັນເພື່ອຮັບປະກັນວ່າພື້ນຖານຄວາມປອດໄພທາງອິນເຕີເນັດຂອງເຈົ້າເຂັ້ມແຂງແລະເຊື່ອຖືໄດ້ຕະຫຼອດປີ.