ທັກສະການຊອກຄົ້ນຫາແບບເລິກລັບຂອງຈິດສຳນຶກຂອງພວກເຮົາສາມາດສ້າງລະບົບອັດຕະໂນມັດໃນອະນາຄົດ

ການຄົ້ນຄວ້າໃໝ່ຈາກອອສເຕຣເລຍ ແນະນຳວ່າ ສະໝອງຂອງພວກເຮົາມີຄວາມຕັ້ງໃຈໃນການຮັບຮູ້ພາບທີ່ເລິກລັບທີ່ຊັບຊ້ອນ, ເຖິງແມ່ນວ່າພວກເຮົາເຊື່ອຢ່າງມີສະຕິວ່າຮູບພາບທີ່ພວກເຮົາກຳລັງເຫັນນັ້ນເປັນຂອງແທ້ກໍຕາມ.

ການຄົ້ນຄວ້າດັ່ງກ່າວຊີ້ໃຫ້ເຫັນເຖິງຄວາມເປັນໄປໄດ້ຂອງການນໍາໃຊ້ການຕອບສະຫນອງທາງ neural ຂອງປະຊາຊົນຕໍ່ກັບໃບຫນ້າປອມ (ແທນທີ່ຈະເປັນຄວາມຄິດເຫັນຂອງເຂົາເຈົ້າ) ເພື່ອຝຶກອົບຮົມລະບົບການຊອກຄົ້ນຫາ deepfake ອັດຕະໂນມັດ. ລະບົບດັ່ງກ່າວຈະໄດ້ຮັບການຝຶກອົບຮົມກ່ຽວກັບລັກສະນະປອມຂອງຮູບພາບທີ່ບໍ່ໄດ້ມາຈາກການຄາດຄະເນທີ່ສັບສົນຂອງຄວາມເຊື່ອຖື, ແຕ່ມາຈາກກົນໄກການຮັບຮູ້ instinctive ຂອງພວກເຮົາສໍາລັບການຮັບຮູ້ຕົວຕົນໃບຫນ້າ.

'[A]ເຖິງແມ່ນວ່າສະຫມອງສາມາດ 'ຮັບຮູ້' ຄວາມແຕກຕ່າງລະຫວ່າງໃບຫນ້າທີ່ແທ້ຈິງແລະຈິງ, ແຕ່ຜູ້ສັງເກດການສະຕິບໍ່ສາມາດບອກພວກເຂົາແຍກກັນໄດ້. ການຄົ້ນພົບຂອງພວກເຮົາກ່ຽວກັບຄວາມແຕກແຍກລະຫວ່າງການຕອບສະໜອງຂອງສະໝອງ ແລະພຶດຕິກຳມີຜົນສະທ້ອນຕໍ່ວິທີທີ່ພວກເຮົາສຶກສາການຮັບຮູ້ໃບໜ້າປອມ, ຄຳຖາມທີ່ພວກເຮົາຕັ້ງຂຶ້ນເມື່ອຖາມກ່ຽວກັບການລະບຸຮູບພາບປອມ, ແລະວິທີທີ່ເປັນໄປໄດ້ທີ່ພວກເຮົາສາມາດສ້າງມາດຕະຖານປ້ອງກັນການນຳໃຊ້ຮູບພາບປອມ.'

ຜົນໄດ້ຮັບແມ່ນອອກມາໃນຮອບຂອງການທົດສອບທີ່ອອກແບບມາເພື່ອປະເມີນວິທີການທີ່ຄົນຕອບສະໜອງຕໍ່ຮູບພາບທີ່ບໍ່ຖືກຕ້ອງ, ລວມທັງຮູບພາບຂອງໃບໜ້າປອມ, ລົດ, ພື້ນທີ່ພາຍໃນ ແລະ ໃບຫນ້າທີ່ປີ້ນກັບກັນ (ເຊັ່ນ: ດ້ານເທິງ).

ການເຮັດຊ້ຳໆ ແລະວິທີການທົດລອງຕ່າງໆ, ເຊິ່ງມີສອງກຸ່ມຂອງວິຊາທົດສອບທີ່ຕ້ອງການຈັດປະເພດຮູບພາບທີ່ສະແດງໂດຍຫຍໍ້ວ່າ 'ປອມ' ຫຼື 'ຈິງ'. ຮອບທໍາອິດໄດ້ຈັດຂຶ້ນໃນ Amazon Mechanical Turk, ມີ 200 ອາສາສະຫມັກ, ໃນຂະນະທີ່ຮອບທີສອງມີຈໍານວນອາສາສະຫມັກຫນ້ອຍທີ່ຕອບສະຫນອງຕໍ່ການທົດສອບໃນຂະນະທີ່ເຊື່ອມຕໍ່ກັບເຄື່ອງຈັກ EEG. ທີ່ມາ: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

ເຈ້ຍ​ຢືນຢັນ​ວ່າ:

'ຜົນ​ຂອງ​ພວກ​ເຮົາ​ສະ​ແດງ​ໃຫ້​ເຫັນ​ວ່າ​ພຽງ​ແຕ່​ເບິ່ງ​ສັ້ນໆ​ເທົ່າ​ນັ້ນ, ນັກ​ສັງ​ເກດ​ການ​ອາດ​ຈະ​ສາ​ມາດ​ຊອກ​ຫາ​ໃບ​ຫນ້າ​ປອມ. ແນວໃດກໍ່ຕາມ, ເຂົາເຈົ້າມີເວລາທີ່ຫຍຸ້ງຍາກກວ່າທີ່ຈະແນມເບິ່ງໃບໜ້າຕົວຈິງຈາກໃບໜ້າປອມ ແລະໃນບາງກໍລະນີ, ເຊື່ອວ່າໃບໜ້າປອມແມ່ນຕົວຈິງຫຼາຍກວ່າໃບໜ້າຕົວຈິງ.

'ຢ່າງໃດກໍ່ຕາມ, ການນໍາໃຊ້ EEG ທີ່ໃຊ້ເວລາແກ້ໄຂແລະວິທີການຈັດປະເພດຮູບແບບຫຼາຍຕົວແປ, ພວກເຮົາພົບວ່າມັນເປັນໄປໄດ້ທີ່ຈະຖອດລະຫັດທັງສອງຫນ້າທີ່ບໍ່ມີຄວາມຈິງແລະຕົວຈິງຈາກໃບຫນ້າທີ່ແທ້ຈິງໂດຍໃຊ້ກິດຈະກໍາຂອງສະຫມອງ.

'ຄວາມແຕກແຍກລະຫວ່າງພຶດຕິກໍາແລະການຕອບໂຕ້ທາງ neural ສໍາລັບການປະເຊີນຫນ້າຕົວຈິງເຮັດໃຫ້ຫຼັກຖານໃຫມ່ທີ່ສໍາຄັນກ່ຽວກັບການຮັບຮູ້ໃບຫນ້າປອມເຊັ່ນດຽວກັນກັບຜົນສະທ້ອນທີ່ກ່ຽວຂ້ອງກັບປະເພດທີ່ແທ້ຈິງທີ່ເພີ່ມຂຶ້ນຂອງໃບຫນ້າ GAN ທີ່ສ້າງຂຶ້ນ.

ເອກະສານແນະນໍາວ່າວຽກງານໃຫມ່ມີ 'ຜົນກະທົບຫຼາຍຢ່າງ' ໃນການຮັກສາຄວາມປອດໄພທາງອິນເຕີເນັດ, ແລະວ່າການພັດທະນາຂອງການຈັດປະເພດການຮຽນຮູ້ທີ່ປອມແປງບາງທີອາດຈະຖືກຂັບເຄື່ອນໂດຍການຕອບໂຕ້ subconscious, ຕາມການວັດແທກການອ່ານ EEG ເພື່ອຕອບສະຫນອງຮູບພາບປອມ, ແທນທີ່ຈະເປັນການປະເມີນສະຕິຂອງຜູ້ຊົມ. ຄວາມ​ຈິງ​ຂອງ​ຮູບ​ພາບ​.

ຜູ້ຂຽນຄໍາເຫັນ *:

'ນີ້ແມ່ນການລະນຶກເຖິງການຄົ້ນພົບວ່າບຸກຄົນທີ່ມີ prosopagnosia ທີ່ບໍ່ສາມາດຈັດປະເພດພຶດຕິກໍາຫຼືຮັບຮູ້ໃບຫນ້າທີ່ຄຸ້ນເຄີຍຫຼືບໍ່ຄຸ້ນເຄີຍ, ຢ່າງໃດກໍຕາມ, ສະແດງໃຫ້ເຫັນການຕອບສະຫນອງເອກະລາດທີ່ເຂັ້ມແຂງຕໍ່ກັບໃບຫນ້າທີ່ຄຸ້ນເຄີຍ. ໃບໜ້າທີ່ບໍ່ຄຸ້ນເຄີຍ.

'ເຊັ່ນດຽວກັນ, ສິ່ງທີ່ພວກເຮົາໄດ້ສະແດງໃຫ້ເຫັນໃນການສຶກສານີ້ແມ່ນວ່າໃນຂະນະທີ່ພວກເຮົາສາມາດຖອດລະຫັດຄວາມແຕກຕ່າງລະຫວ່າງໃບຫນ້າທີ່ແທ້ຈິງແລະຈິງຈາກກິດຈະກໍາທາງ neural, ຄວາມແຕກຕ່າງນັ້ນບໍ່ໄດ້ເຫັນພຶດຕິກໍາ. ແທນທີ່ຈະ, ຜູ້ສັງເກດການໄດ້ກໍານົດບໍ່ຖືກຕ້ອງ 69% ຂອງໃບຫນ້າທີ່ແທ້ຈິງວ່າເປັນການປອມແປງ.

ໄດ້ ການເຮັດວຽກໃຫມ່ ແມ່ນຫົວຂໍ້ ເຈົ້າແມ່ນແທ້ບໍ? ການຖອດລະຫັດໃບໜ້າທີ່ສ້າງ AI ທີ່ແທ້ຈິງຈາກການເຄື່ອນໄຫວທາງປະສາດ, ແລະມາຈາກສີ່ນັກຄົ້ນຄວ້າໃນທົ່ວມະຫາວິທະຍາໄລ Sydney, ມະຫາວິທະຍາໄລ Macquarie, ມະຫາວິທະຍາໄລ Western Sydney, ແລະມະຫາວິທະຍາໄລ Queensland.

ຂໍ້ມູນ

ຜົນໄດ້ຮັບແມ່ນມາຈາກການກວດສອບຢ່າງກວ້າງຂວາງກ່ຽວກັບຄວາມສາມາດຂອງມະນຸດໃນການຈໍາແນກວ່າບໍ່ຖືກຕ້ອງ, hyper-realistic (ແຕ່ຍັງບໍ່ຖືກຕ້ອງ), ແລະຮູບພາບທີ່ແທ້ຈິງ, ດໍາເນີນໃນສອງຮອບຂອງການທົດສອບ.

ນັກຄົ້ນຄວ້າໄດ້ນໍາໃຊ້ຮູບພາບທີ່ສ້າງໂດຍ Generative Adversarial Networks (GANs), ແບ່ງປັນ ໂດຍ NVIDIA.

ຮູບໃບໜ້າຂອງມະນຸດທີ່ສ້າງຂຶ້ນໂດຍ GAN ທີ່ສາມາດໃຊ້ໄດ້ໂດຍ NVIDIA. Source: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

ຂໍ້ມູນປະກອບມີ 25 ໃບໜ້າ, ລົດ ແລະຫ້ອງນອນ, ໃນລະດັບການສະແດງຜົນຕັ້ງແຕ່ 'ບໍ່ຈິງ' ຫາ 'ຈິງ'. ສໍາລັບການປຽບທຽບໃບຫນ້າ (ເຊັ່ນສໍາລັບອຸປະກອນທີ່ເຫມາະສົມທີ່ບໍ່ແມ່ນປອມ), ຜູ້ຂຽນໄດ້ນໍາໃຊ້ການຄັດເລືອກຈາກຂໍ້ມູນແຫຼ່ງຂອງ NVIDIA Flickr-Faces-HQ (FFHQ) ຊຸດຂໍ້ມູນ. ສໍາລັບການປຽບທຽບສະຖານະການອື່ນໆ, ພວກເຂົາເຈົ້າໄດ້ນໍາໃຊ້ອຸປະກອນການຈາກ LSUN ຊຸດຂໍ້ມູນ.

ໃນທີ່ສຸດຮູບພາບຈະຖືກນໍາສະເຫນີຕໍ່ກັບຫົວຂໍ້ການທົດສອບບໍ່ວ່າຈະເປັນທາງຂວາຂຶ້ນ, ຫຼືປີ້ນກັບກັນ, ແລະໃນລະດັບຄວາມຖີ່ຂອງຮູບພາບທັງຫມົດ, ປັບຂະຫນາດເປັນ 256 × 256 pixels.

ຫຼັງຈາກອຸປະກອນທັງຫມົດໄດ້ຖືກປະກອບ, ຮູບພາບ 450 ກະຕຸ້ນໄດ້ຖືກ curated ສໍາລັບການທົດສອບ.

ຕົວຢ່າງຕົວແທນຂອງຂໍ້ມູນການທົດສອບ.

ການທົດສອບ

ການທົດສອບດ້ວຍຕົນເອງໄດ້ຖືກປະຕິບັດໃນເບື້ອງຕົ້ນອອນໄລນ໌, ໂດຍຜ່ານ jsPsych ຢູ່ໃນ pavlovia.org, ໂດຍມີຜູ້ເຂົ້າຮ່ວມ 200 ຄົນຕັດສິນບັນດາຊຸດຍ່ອຍຕ່າງໆຂອງຂໍ້ມູນການທົດສອບທັງໝົດທີ່ລວບລວມ. ຮູບພາບໄດ້ຖືກນໍາສະເຫນີເປັນເວລາ 200ms, ຕິດຕາມດ້ວຍຫນ້າຈໍເປົ່າທີ່ຈະຍັງຄົງຢູ່ຈົນກ່ວາຜູ້ຊົມໄດ້ຕັດສິນໃຈວ່າຮູບພາບທີ່ flashed ເປັນຂອງແທ້ຫຼືປອມ. ແຕ່ລະຮູບພາບໄດ້ຖືກນໍາສະເຫນີພຽງແຕ່ຄັ້ງດຽວ, ແລະການທົດສອບທັງຫມົດໃຊ້ເວລາ 3-5 ນາທີເພື່ອໃຫ້ສໍາເລັດ.

ຮອບທີສອງແລະຫຼາຍທີ່ເປີດເຜີຍໄດ້ນໍາໃຊ້ວິຊາສ່ວນບຸກຄົນ riged ຂຶ້ນກັບ EEG monitors, ແລະໄດ້ຖືກນໍາສະເຫນີກ່ຽວກັບການ ຈິດຕະວິທະຍາ2 ເວທີ. ແຕ່ລະ 40 ລຳດັບມີ 18,000 ຮູບ, ມີ XNUMX ຮູບທີ່ນຳສະເໜີໃນທົ່ວຂໍ້ມູນການທົດສອບທັງໝົດ.

ຂໍ້ມູນ EEG ທີ່ລວບລວມໄດ້ຖືກຖອດລະຫັດຜ່ານ MATLAB ດ້ວຍກ່ອງເຄື່ອງມື CoSMoMVPA, ໂດຍໃຊ້ ການ​ປະ​ຕິ​ບັດ​ການ​ປະ​ຕິ​ບັດ​ຂ້າມ​ຫນຶ່ງ​ອອກ​ ໂຄງ​ການ​ພາຍ​ໃຕ້​ການ​ວິ​ເຄາະ Linear Discriminant (LTD).

ການຈັດປະເພດ LDA ແມ່ນອົງປະກອບທີ່ສາມາດເຮັດໃຫ້ຄວາມແຕກຕ່າງລະຫວ່າງປະຕິກິລິຍາຂອງສະຫມອງຕໍ່ກັບສິ່ງກະຕຸ້ນທີ່ປອມແປງ, ແລະຄວາມຄິດເຫັນຂອງຕົນເອງກ່ຽວກັບວ່າຮູບພາບແມ່ນປອມຫຼືບໍ່.

ຜົນການຄົ້ນຫາ

ມີຄວາມສົນໃຈເພື່ອເບິ່ງວ່າວິຊາການທົດສອບ EEG ສາມາດຈໍາແນກໄດ້ລະຫວ່າງໃບຫນ້າປອມແລະໃບຫນ້າທີ່ແທ້ຈິງ, ນັກຄົ້ນຄວ້າໄດ້ລວບລວມແລະປຸງແຕ່ງຜົນໄດ້ຮັບ, ພົບວ່າຜູ້ເຂົ້າຮ່ວມສາມາດແນມເບິ່ງຕົວຈິງຈາກໃບຫນ້າທີ່ບໍ່ເປັນຈິງໄດ້ຢ່າງງ່າຍດາຍ, ແຕ່ປາກົດຂື້ນວ່າມີຄວາມຫຍຸ້ງຍາກໃນການກໍານົດໃບຫນ້າປອມ GAN ທີ່ສ້າງຂຶ້ນ. ບໍ່ວ່າຈະເປັນຮູບທີ່ຫົວຂຶ້ນ ຫຼື ບໍ່ປາກົດວ່າມີຄວາມແຕກຕ່າງເລັກນ້ອຍ.

ການຈໍາແນກພຶດຕິກໍາຂອງໃບຫນ້າທີ່ແທ້ຈິງແລະສັງເຄາະ, ໃນຮອບທີສອງ.

ຢ່າງໃດກໍຕາມ, ຂໍ້ມູນ EEG ໄດ້ບອກເລື່ອງທີ່ແຕກຕ່າງກັນ.

ເອກະສານກ່າວວ່າ:

'ເຖິງແມ່ນວ່າຜູ້ສັງເກດການມີບັນຫາໃນການຈໍາແນກທີ່ແທ້ຈິງຈາກໃບຫນ້າປອມແລະມີແນວໂນ້ມທີ່ຈະຈັດປະເພດໃບຫນ້າປອມຫຼາຍເກີນໄປ, ຂໍ້ມູນ EEG ມີຂໍ້ມູນສັນຍານທີ່ກ່ຽວຂ້ອງກັບຄວາມແຕກຕ່າງນີ້ທີ່ມີຄວາມ ໝາຍ ແຕກຕ່າງກັນລະຫວ່າງຈິງແລະບໍ່ຈິງ, ແລະສັນຍານນີ້ເບິ່ງຄືວ່າຖືກ ​​ຈຳ ກັດໃນຂັ້ນຕອນການປະມວນຜົນທີ່ຂ້ອນຂ້າງສັ້ນ. '

ໃນທີ່ນີ້ຄວາມແຕກຕ່າງລະຫວ່າງຄວາມຖືກຕ້ອງຂອງ EEG ແລະຄວາມຄິດເຫັນຂອງຫົວຂໍ້ (ເຊັ່ນວ່າຮູບພາບໃບຫນ້າແມ່ນປອມຫຼືບໍ່) ແມ່ນບໍ່ຄືກັນ, ດ້ວຍການຈັບ EEG ໃກ້ກັບຄວາມຈິງຫຼາຍກ່ວາຄວາມຮັບຮູ້ທີ່ສະແດງອອກຂອງປະຊາຊົນທີ່ກ່ຽວຂ້ອງ.

ນັກຄົ້ນຄວ້າໄດ້ສະຫຼຸບວ່າເຖິງແມ່ນວ່າຜູ້ສັງເກດການອາດຈະມີບັນຫາໃນການກໍານົດໃບຫນ້າປອມ, ແຕ່ໃບຫນ້າເຫຼົ່ານີ້ມີ 'ການສະແດງທີ່ແຕກຕ່າງກັນໃນລະບົບສາຍຕາຂອງມະນຸດ'.

ຄວາມແຕກຕ່າງທີ່ພົບເຫັນໄດ້ເຮັດໃຫ້ນັກຄົ້ນຄວ້າຄາດຄະເນກ່ຽວກັບຄວາມເປັນໄປໄດ້ຂອງການປະຕິບັດການຄົ້ນພົບຂອງພວກເຂົາສໍາລັບກົນໄກຄວາມປອດໄພໃນອະນາຄົດ:

'ໃນການຕັ້ງຄ່າທີ່ໃຊ້ເຊັ່ນ: ຄວາມປອດໄພທາງໄຊເບີ ຫຼື Deepfakes, ການກວດສອບຄວາມສາມາດໃນການກວດຫາໃບໜ້າທີ່ເປັນຈິງອາດຈະຖືກຕິດຕາມໄດ້ດີທີ່ສຸດໂດຍໃຊ້ຕົວຈັດປະເພດການຮຽນຮູ້ຂອງເຄື່ອງຈັກທີ່ນຳໃຊ້ກັບຂໍ້ມູນ neuroimaging ແທນທີ່ຈະເປັນເປົ້າໝາຍການປະຕິບັດພຶດຕິກຳ.'

ພວກເຂົາເຈົ້າສະຫຼຸບ:

'ການເຂົ້າໃຈຄວາມແຕກແຍກລະຫວ່າງສະໝອງ ແລະ ພຶດຕິກຳໃນການກວດຫາໃບໜ້າປອມ ຈະມີຜົນກະທົບທາງປະຕິບັດຕໍ່ວິທີທີ່ພວກເຮົາຮັບມືກັບການແຜ່ກະຈາຍທີ່ອາດເປັນອັນຕະລາຍ ແລະ ທົ່ວໂລກຂອງຂໍ້ມູນປອມ.'

* ການປ່ຽນການອ້າງອີງໃນແຖວຂອງຂ້ອຍເປັນ hyperlinks.

ພິມຄັ້ງທຳອິດໃນວັນທີ 11 ກໍລະກົດ 2022.