ເຄື່ອງມືຂອງຕົວທ່ອງເວັບ AI ມີຈຸດປະສົງເພື່ອຮັບຮູ້ Deepfakes ແລະສື່ປອມອື່ນໆ

ຄວາມພະຍາຍາມຂອງບໍລິສັດເທັກໂນໂລຍີເພື່ອຮັບມືກັບຂໍ້ມູນຜິດໆ ແລະເນື້ອຫາທີ່ປອມແປງແມ່ນກຳລັງກ້າວເຂົ້າສູ່ເຄື່ອງມືທີ່ສູງໃນຊ່ວງທີ່ຜ່ານມາ ເນື່ອງຈາກເທັກໂນໂລຍີການສ້າງເນື້ອຫາປອມທີ່ທັນສະໄໝເຊັ່ນ DeepFakes ກາຍເປັນເລື່ອງທີ່ງ່າຍຕໍ່ການໃຊ້ ແລະປັບປຸງຫຼາຍຂຶ້ນ. ຫນຶ່ງໃນຄວາມພະຍາຍາມທີ່ຈະມາເຖິງເພື່ອຊ່ວຍໃຫ້ປະຊາຊົນກວດພົບແລະຕໍ່ສູ້ກັບ deepfakes ແມ່ນ RealityDefender, ຜະລິດໂດຍ ມູນນິທິ AI, ເຊິ່ງໄດ້ສັນຍາຕົວເອງໃນການພັດທະນາຕົວແທນ AI ທີ່ມີຈັນຍາບັນແລະຜູ້ຊ່ວຍທີ່ຜູ້ໃຊ້ສາມາດຝຶກອົບຮົມເພື່ອເຮັດສໍາເລັດວຽກງານຕ່າງໆ.

ໂຄງການທີ່ໂດດເດັ່ນທີ່ສຸດຂອງ AI Foundation ແມ່ນແພລະຕະຟອມທີ່ອະນຸຍາດໃຫ້ຜູ້ຄົນສາມາດສ້າງບຸກຄົນດິຈິຕອນຂອງຕົນເອງທີ່ມີລັກສະນະຄ້າຍຄືພວກເຂົາແລະເປັນຕົວແທນໃຫ້ພວກເຂົາຢູ່ໃນພື້ນທີ່ hangout virtual. ມູນນິທິ AI ໄດ້ຖືກເບິ່ງແຍງໂດຍສະພາ AI ທົ່ວໂລກແລະເປັນສ່ວນຫນຶ່ງຂອງການມອບຫມາຍຂອງພວກເຂົາພວກເຂົາຕ້ອງຄາດຄະເນຜົນກະທົບທາງລົບທີ່ເປັນໄປໄດ້ຂອງເວທີ AI, ຫຼັງຈາກນັ້ນພະຍາຍາມລ່ວງຫນ້າຂອງບັນຫາເຫຼົ່ານີ້. ຕາມການລາຍງານໂດຍ VentureBeat, ຫນຶ່ງໃນເຄື່ອງມືທີ່ມູນນິທິ AI ໄດ້ສ້າງເພື່ອຊ່ວຍໃນການກວດສອບການປອມແປງເລິກແມ່ນເອີ້ນວ່າ Reality Defender. Reality Defender ເປັນເຄື່ອງມືທີ່ບຸກຄົນສາມາດນໍາໃຊ້ໃນຕົວທ່ອງເວັບຂອງພວກເຂົາ (ກວດເບິ່ງວ່າ), ເຊິ່ງຈະວິເຄາະວິດີໂອ, ຮູບພາບ, ແລະປະເພດອື່ນໆຂອງສື່ເພື່ອກວດພົບສັນຍານວ່າສື່ມວນຊົນໄດ້ຖືກປອມແປງຫຼືປ່ຽນແປງໃນບາງຄົນອັບເດດ:. ມັນຫວັງວ່າເຄື່ອງມືດັ່ງກ່າວຈະຊ່ວຍຕ້ານການໄຫຼເຂົ້າຂອງ deepfakes ໃນອິນເຕີເນັດທີ່ເພີ່ມຂຶ້ນ, ເຊິ່ງອີງຕາມການຄາດຄະເນບາງຢ່າງໄດ້ເພີ່ມຂຶ້ນປະມານສອງເທົ່າໃນໄລຍະຫົກເດືອນທີ່ຜ່ານມາ.

ຜູ້ປົກປ້ອງຄວາມເປັນຈິງດຳເນີນງານໂດຍການນຳໃຊ້ລະບົບ AI ທີ່ຫຼາກຫຼາຍທີ່ສາມາດກວດຫາຂໍ້ຄຶດທີ່ແນະນຳວ່າຮູບພາບ ຫຼື ວິດີໂອອາດຈະຖືກປອມແປງ. ຮູບແບບ AI ກວດພົບສັນຍານທີ່ອ່ອນໂຍນຂອງການຫຼອກລວງແລະການຫມູນໃຊ້, ແລະຂໍ້ດີທີ່ບໍ່ຖືກຕ້ອງທີ່ຕົວແບບກວດພົບຈະຖືກຕິດສະຫຼາກວ່າບໍ່ຖືກຕ້ອງໂດຍຜູ້ໃຊ້ເຄື່ອງມື. ຫຼັງຈາກນັ້ນ, ຂໍ້ມູນຖືກໃຊ້ເພື່ອຝຶກຮູບແບບ. ບໍລິສັດ AI ທີ່ສ້າງການປອມແປງທີ່ບໍ່ຫຼອກລວງມີເນື້ອຫາຂອງພວກເຂົາຖືກແທັກດ້ວຍແທັກ "AI ທີ່ຊື່ສັດ" ຫຼື watermark ທີ່ຊ່ວຍໃຫ້ຜູ້ຄົນສາມາດລະບຸການປອມແປງທີ່ສ້າງໂດຍ AI ໄດ້.

Reality Defender ແມ່ນພຽງແຕ່ຫນຶ່ງໃນຊຸດເຄື່ອງມືແລະແພລະຕະຟອມຄວາມຮັບຜິດຊອບ AI ທັງຫມົດທີ່ມູນນິທິ AI ພະຍາຍາມສ້າງ. ມູນນິທິ AI ກໍາລັງດໍາເນີນການສ້າງ Guardian AI, ເວທີຄວາມຮັບຜິດຊອບທີ່ສ້າງຂຶ້ນໃນຫຼັກການທີ່ບຸກຄົນຄວນຈະມີການເຂົ້າເຖິງຕົວແທນ AI ສ່ວນບຸກຄົນທີ່ເຮັດວຽກສໍາລັບພວກເຂົາແລະທີ່ສາມາດຊ່ວຍປ້ອງກັນການຂູດຮີດຂອງພວກເຂົາໂດຍນັກສະແດງທີ່ບໍ່ດີ. ໂດຍພື້ນຖານແລ້ວ, ມູນນິທິ AI ມີຈຸດປະສົງເພື່ອທັງຂະຫຍາຍການເຂົ້າເຖິງຂອງ AI ໃນສັງຄົມ, ນໍາມັນໄປສູ່ປະຊາຊົນຫຼາຍຂຶ້ນ, ໃນຂະນະທີ່ຍັງປົກປ້ອງຄວາມສ່ຽງຂອງ AI.

Reality Defender ບໍ່ແມ່ນຜະລິດຕະພັນທີ່ຂັບເຄື່ອນດ້ວຍ AI ໃໝ່ອັນດຽວທີ່ມີຈຸດປະສົງເພື່ອຫຼຸດຜ່ອນຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງຢູ່ໃນສະຫະລັດ. ຜະລິດຕະພັນທີ່ຄ້າຍຄືກັນເອີ້ນວ່າ SurfSafe, ເຊິ່ງຖືກສ້າງຂຶ້ນໂດຍສອງນັກສຶກສາປະລິນຍາຕີຈາກ UC Berkeley, Rohan Phadte ແລະ Ash Bhat. ອີງຕາມການ The Verge, SurfSafe ດໍາເນີນການໂດຍການໃຫ້ຜູ້ໃຊ້ຂອງຕົນຄລິກໃສ່ຊິ້ນສ່ວນຂອງສື່ທີ່ເຂົາເຈົ້າຢາກຮູ້ຢາກເຫັນກ່ຽວກັບແລະໂຄງການຈະດໍາເນີນການຄົ້ນຫາຮູບພາບປີ້ນກັບກັນແລະພະຍາຍາມຊອກຫາເນື້ອໃນທີ່ຄ້າຍຄືກັນຈາກແຫຼ່ງທີ່ເຊື່ອຖືໄດ້ຕ່າງໆໃນອິນເຕີເນັດ, ທຸງຮູບພາບທີ່ເປັນທີ່ຮູ້ຈັກເປັນ. ທ່ານໝໍ.

ມັນບໍ່ຈະແຈ້ງວ່າວິທີການແກ້ໄຂບັນຫາເຫຼົ່ານີ້ຈະມີປະສິດທິພາບໃນໄລຍະຍາວ. ອາຈານຂອງວິທະຍາໄລ Dartmouth ແລະຜູ້ຊ່ຽວຊານດ້ານນິຕິສາດ Hany Farid ໄດ້ຖືກອ້າງອີງໂດຍ The Verge ດັ່ງທີ່ກ່າວວ່າລາວ "ບໍ່ຄ່ອຍເຊື່ອງ່າຍໆ" ທີ່ລະບົບແຜນການເຊັ່ນ Reality Defender ຈະເຮັດວຽກໃນຄວາມສາມາດທີ່ມີຄວາມຫມາຍ. Farid ອະທິບາຍວ່າຫນຶ່ງໃນສິ່ງທ້າທາຍທີ່ສໍາຄັນກັບການກວດສອບເນື້ອຫາປອມແມ່ນສື່ບໍ່ແມ່ນຂອງປອມຫຼືຂອງແທ້. Farid ອະທິບາຍວ່າ:

“ມີການສືບຕໍ່; ລະດັບບັນຫາທີ່ສັບສົນຢ່າງບໍ່ໜ້າເຊື່ອທີ່ຈະຈັດການກັບ. ການປ່ຽນແປງບາງຢ່າງບໍ່ມີຄວາມຫມາຍ, ແລະບາງການປ່ຽນແປງພື້ນຖານຂອງຮູບພາບ. ເພື່ອທໍາທ່າວ່າພວກເຮົາສາມາດຝຶກອົບຮົມ AI ເພື່ອສັງເກດເຫັນຄວາມແຕກຕ່າງແມ່ນເປັນເລື່ອງທີ່ບໍ່ຫນ້າເຊື່ອ. ແລະເພື່ອ ທຳ ທ່າວ່າພວກເຮົາສາມາດລະດົມແຫຼ່ງທຶນໄດ້, ມັນແມ່ນຫຼາຍກວ່າເກົ່າ.”

ຍິ່ງໄປກວ່ານັ້ນ, ມັນເປັນການຍາກທີ່ຈະລວມເອົາອົງປະກອບຂອງແຫຼ່ງທີ່ມາ, ເຊັ່ນ: ການຕິດປ້າຍບວກທີ່ບໍ່ຖືກຕ້ອງ, ເພາະວ່າໂດຍທົ່ວໄປແລ້ວມະນຸດແມ່ນຂ້ອນຂ້າງບໍ່ດີໃນການກໍານົດຮູບພາບປອມ. ມະນຸດມັກຈະເຮັດຜິດພາດ ແລະພາດລາຍລະອຽດລະອຽດອ່ອນທີ່ໝາຍຮູບວ່າເປັນຮູບປອມ. ມັນຍັງບໍ່ຈະແຈ້ງກ່ຽວກັບວິທີການຈັດການກັບນັກສະແດງຄວາມເຊື່ອທີ່ບໍ່ດີທີ່ troll ເມື່ອພວກເຂົາລາຍງານເນື້ອຫາ.

ມັນເບິ່ງຄືວ່າ, ເພື່ອໃຫ້ມີປະສິດທິພາບສູງສຸດ, ເຄື່ອງມືກວດຫາການປອມແປງຈະຕ້ອງຖືກລວມເຂົ້າກັບຄວາມພະຍາຍາມຄວາມຮູ້ທາງດ້ານດິຈິຕອນທີ່ສອນຄົນໃຫ້ເຫດຜົນກ່ຽວກັບເນື້ອຫາທີ່ພວກເຂົາພົວພັນກັບອອນໄລນ໌.