AI ที่หลอกลวง: การใช้โมเดลที่สร้างขึ้นในแผนการทางอาญา

Generative AI ซึ่งเป็นส่วนหนึ่งของ Artificial Intelligence ได้รับความนิยมอย่างรวดเร็วเนื่องจากความสามารถที่น่าประทับใจในการสร้างเนื้อหาต่างๆ รวมถึงข้อความที่เหมือนมนุษย์ ภาพและเสียงที่สมจริงจากฐานข้อมูลขนาดใหญ่ โมเดล เช่น GPT-3, DALL-E และ Generative Adversarial Networks (GANs) ได้แสดงให้เห็นถึงความสามารถที่น่าประทับใจในด้านนี้

รายงานของ Deloitte เน้นย้ำถึงลักษณะที่สองของ Generative AI และเน้นย้ำถึงความจำเป็นในการตื่นตัวต่อ Deceptive AI ในขณะที่ความก้าวหน้าทาง AI ช่วยในการป้องกันอาชญากรรม แต่ก็ให้อำนาจแก่ผู้กระทำผิดด้วย แม้ว่าจะมีการใช้งานที่ถูกต้อง แต่เครื่องมือที่มีประสิทธิภาพเหล่านี้ถูกใช้โดยนักอาชญากรรมไซเบอร์ นักต้มตุ๋น และผู้ที่เกี่ยวข้องกับรัฐ ทำให้เกิดการเพิ่มขึ้นของแผนการและเทคนิคที่ซับซ้อนและหลอกลวง

การเพิ่มขึ้นของ Generative AI ในกิจกรรมทางอาญา

การเพิ่มขึ้นของ Generative AI ได้นำไปสู่การเพิ่มขึ้นของกิจกรรมหลอกลวงที่ส่งผลกระทบต่อทั้งพื้นที่ไซเบอร์และชีวิตประจำวัน Phishing ซึ่งเป็นเทคนิคในการหลอกลวงบุคคลให้เผยแพร่ข้อมูลที่ละเอียดอ่อน ตอนนี้ใช้ Generative AI เพื่อสร้างอีเมล phishing ที่น่าเชื่อถือมากขึ้น เมื่อ ChatGPT กลายเป็นที่นิยม อีเมล phishing ก็เพิ่มขึ้น โดยมีนักอาชญากรรมใช้มันเพื่อสร้างข้อความส่วนบุคคลที่ดูเหมือนการสื่อสารที่ถูกต้อง

อีเมลเหล่านี้ เช่น การแจ้งเตือนธนาคารปลอมหรือข้อเสนอที่น่าดึงดูด ใช้ประโยชน์จากจิตวิทยาเพื่อหลอกลวงผู้รับให้เผยแพร่ข้อมูลที่ละเอียดอ่อน แม้ว่า OpenAI จะห้ามการใช้แบบจำลองที่ไม่ถูกต้อง แต่การบังคับใช้ก็ไม่ใช่เรื่องง่าย การส่งคำถามที่บริสุทธิ์สามารถเปลี่ยนเป็นแผนการทางอาญาได้อย่างง่ายดาย ซึ่งต้องการทั้งผู้ตรวจสอบมนุษย์และระบบอัตโนมัติเพื่อตรวจจับและป้องกันการใช้ในทางที่ผิด

ในทำนองเดียวกัน การฉ้อโกงทางการเงินก็เพิ่มขึ้นด้วยความก้าวหน้าของ AI Generative AI เป็นเชื้อเพลิงให้กับการฉ้อโกง โดยสร้างเนื้อหาที่หลอกลวงนักลงทุนและบิดเบือนความคิดเห็นของตลาด สมมติว่าคุณพบกับ chatbot ที่ดูเหมือนมนุษย์ แต่ถูกออกแบบมาเพื่อหลอกลวงเท่านั้น Generative AI เป็นพลังงานให้กับบอทเหล่านี้ โดยมีส่วนร่วมในการสนทนาที่ดูเหมือนจริงกับผู้ใช้ ในขณะที่ดึงข้อมูลที่ละเอียดอ่อนออกมา โมเดลที่สร้างขึ้นยังเพิ่มการโจมตีทางสังคมโดยการสร้างข้อความส่วนบุคคลที่ใช้ประโยชน์จากความไว้วางใจ ความเห็นอกเห็นใจ และความเร่งด่วน

Doxxing ซึ่งเกี่ยวข้องกับการเปิดเผยข้อมูลส่วนบุคคลเกี่ยวกับบุคคล เป็นอีกพื้นที่หนึ่งที่ Generative AI ช่วยเหลือนักอาชญากรรม ไม่ว่าจะเป็นการเปิดเผยตัวตนออนไลน์ที่ไม่ระบุชื่อหรือการเปิดเผยรายละเอียดส่วนตัว AI เพิ่มผลกระทบ นำไปสู่ผลกระทบในโลกแห่งความเป็นจริง เช่น การขโมยตัวตนและการกลั่นแกล้ง

และแล้วก็มี deepfakes ซึ่งเป็นวิดีโอ ออดิโอคลิป หรือภาพที่สร้างขึ้นโดย AI เหล่านี้เป็นตัวแทนของความเป็นจริงและความเสี่ยงตั้งแต่การบิดเบือนทางการเมืองไปจนถึงการลอบสังหารตัวละคร

เหตุการณ์ deepfake ที่มีผลกระทบอย่างมีนัยสำคัญ

การละเมิด Generative AI ได้นำไปสู่เหตุการณ์ที่ไม่寻常 ซึ่งเน้นย้ำถึงความเสี่ยงและความท้าทายที่เกิดขึ้นจากเทคโนโลยีนี้เมื่อมันถูกใช้ในทางที่ผิด เทคโนโลยี deepfake โดยเฉพาะ ทำให้เส้นแบ่งระหว่างความเป็นจริงและความหลอกลวงพร่ามัว ผลิตจาก GANs และความชั่วร้ายที่สร้างสรรค์ GANs ประกอบด้วยสองเครือข่ายประสาทเทียม: ตัวสร้างและตัวแยกแยะ

เหตุการณ์ที่น่าสังเกตที่เกี่ยวข้องกับ deepfakes ได้เกิดขึ้นแล้ว ตัวอย่างเช่น Dessa ใช้โมเดล AI เพื่อสร้างเสียงที่น่าเชื่อถือของ Joe Rogan ซึ่งแสดงให้เห็นถึงความสามารถของ AI ในการสร้างเสียงปลอมที่สมจริง deepfakes ยังได้ผลกระทบอย่างมีนัยสำคัญต่อการเมือง เช่น ในตัวอย่างต่างๆ โทรศัพท์ปลอมที่ปลอมตัวเป็น Joe Biden หลอกลวงผู้ลงคะแนนเสียงใน New Hampshire ในขณะที่การบันทึกเสียงที่สร้างโดย AI ในสโลวาเกียปลอมตัวเป็น候่งทางการเมืองที่มีใจกลางเพื่อ影响ผลการเลือกตั้ง

การฉ้อโกงทางการเงินก็ใช้ deepfakes เช่นกัน บริษัทวิศวกรรมของอังกฤษชื่อ Arup ถูกหลอกให้สูญเสีย 20 ล้านปอนด์ในการฉ้อโกง deepfake ซึ่งพนักงานทางการเงินถูกหลอกให้โอนเงินระหว่างการโทรวิดีโอกับนักต้มตุ๋นที่ใช้เสียงและภาพที่สร้างโดย AI เพื่อปลอมตัวเป็นผู้บริหารของบริษัท

นักอาชญากรรมไซเบอร์ได้ใช้เครื่องมือ Generative AI เช่น WormGPT และ FraudGPT เพื่อเพิ่มการโจมตีของพวกเขา ทำให้เกิดภัยคุกคามด้านความปลอดภัยทางไซเบอร์ที่สำคัญ WormGPT ซึ่งสร้างจากโมเดล GPT-J ช่วยให้กิจกรรมที่ไม่เหมาะสมเกิดขึ้นโดยไม่มีข้อจำกัด

ผลกระทบทางกฎหมายและจริยธรรม

ผลกระทบทางกฎหมายและจริยธรรมของการหลอกลวงโดย AI นำเสนอภารกิจที่ยากลำบากในระหว่างความก้าวหน้าอย่างรวดเร็วของโมเดลที่สร้างขึ้น ปัจจุบัน AI ดำเนินการภายในพื้นที่สีเทาในการกำกับดูแล โดยผู้กำหนดนโยบายต้องการความช่วยเหลือในการติดตามความก้าวหน้าทางเทคโนโลยี โครงสร้างที่มั่นคงจำเป็นต้องจำกัดการใช้ในทางที่ผิดและปกป้องสาธารณชนจากกิจกรรมฉ้อโกงและหลอกลวงที่ขับเคลื่อนด้วย AI

นอกจากนี้ ผู้สร้าง AI ยังมีความรับผิดชอบทางจริยธรรม ความโปร่งใส่ การเปิดเผย และการปฏิบัติตามแนวทางเป็นประเด็นสำคัญของการพัฒนา AI ที่มีความรับผิดชอบ ผู้พัฒนาต้องคาดการณ์การใช้ในทางที่ผิดและออกแบบมาตรการสำหรับโมเดล AI ของตนเพื่อลดความเสี่ยงได้อย่างมีประสิทธิภาพ

การรักษาสมดุลระหว่างนวัตกรรมและความปลอดภัยมีความสำคัญในการจัดการกับความท้าทายที่เกิดจากความหลอกลวงของ AI การควบคุมที่เข้มงวดอาจยับยั้งความก้าวหน้า ในขณะที่การดูแลที่ผ่อนคลายอาจนำไปสู่ความวุ่นวาย ดังนั้น การกำกับดูแลที่ส่งเสริมนวัตกรรมโดยไม่กระทบต่อความปลอดภัยจึงจำเป็นต่อการพัฒนาที่ยั่งยืน

ยุทธวิธีในการบรรเทา

ยุทธวิธีในการบรรเทาการใช้ Generative AI ที่หลอกลวงต้องใช้แนวทางที่หลากหลาย โดยมีการปรับปรุงมาตรการความปลอดภัยและการทำงานร่วมกันระหว่างผู้มีส่วนได้ส่วนเสีย องค์กรต่างๆ ต้องใช้ผู้ตรวจสอบมนุษย์เพื่อประเมินเนื้อหาที่สร้างโดย AI โดยใช้ความเชี่ยวชาญของตนเพื่อระบุรูปแบบการละเมิดและปรับปรุงโมเดล

นอกจากนี้ การทำงานร่วมกันระหว่างบริษัทเทคโนโลยี หน่วยงานบังคับใช้กฎหมาย และผู้กำหนดนโยบายมีความสำคัญในการตรวจจับและป้องกันการหลอกลวงที่ขับเคลื่อนด้วย AI บริษัทเทคโนโลยีต้องแบ่งปันข้อมูลเชิงลึก การปฏิบัติที่ดีที่สุด และข่าวกรองภัยคุกคาม ในขณะที่หน่วยงานบังคับใช้กฎหมายทำงานอย่างใกล้ชิดกับผู้เชี่ยวชาญด้าน AI เพื่ออยู่ข้างหน้าผู้กระทำผิด

เมื่อมองไปข้างหน้า อนาคตของ Generative AI และการป้องกันอาชญากรรมมีลักษณะทั้งความท้าทายและโอกาส เมื่อ Generative AI พัฒนาไป การโจมตีของอาชญากรก็จะพัฒนาไปด้วย ความก้าวหน้าในด้าน quantum AI การประมวลผลขอบ และโมเดลที่กระจายอำนาจจะกำหนดรูปแบบของสาขานี้

สรุป

Generative AI นำเสนอทั้งประโยชน์ที่ยิ่งใหญ่และความเสี่ยงที่สำคัญ ซึ่งเน้นย้ำถึงความจำเป็นในการมีโครงสร้างกำกับดูแลที่มั่นคงและพัฒนาด้านจริยธรรมที่มีประสิทธิภาพ เมื่อนักอาชญากรรมไซเบอร์ใช้เครื่องมือที่ทันสมัย ยุทธวิธีในการบรรเทา เช่น การดูแลของมนุษย์ อัลกอริทึมการตรวจจับที่ทันสมัย และการทำงานร่วมกันระหว่างประเทศมีความจำเป็น

โดยการรักษาสมดุลระหว่างนวัตกรรมและความปลอดภัย ส่งเสริมความโปร่งใส่ และออกแบบโมเดล AI ที่มีการป้องกันในตัว เราสามารถต่อสู้กับการหลอกลวงที่ขับเคลื่อนด้วย AI ที่เพิ่มขึ้นได้อย่างมีประสิทธิภาพ และรับรองสภาพแวดล้อมทางเทคโนโลยีที่ปลอดภัยยิ่งขึ้นสำหรับอนาคต