ดินแดนที่ไม่มีกฎหมายของการฉ้อโกงโดยใช้ AI

เรากำลังอยู่ในยุคทองของ AI เทคโนโลยีนี้กำลังพัฒนาและทำให้สามารถเข้าถึงทุกสิ่ง ตั้งแต่การสร้างเนื้อหาอัตโนมัติไปจนถึงการตัดสินใจโดยใช้อัลกอริทึม สำหรับธุรกิจ นี่หมายถึงโอกาส สำหรับผู้ฉ้อโกง นี่หมายถึงการได้รับอนุญาตให้ทำทุกอย่าง

การปลอมแปลงที่มีลักษณะเหมือนจริง การสร้างตัวตนเทียม และการฉ้อโกงอัตโนมัติ ไม่ใช่กลยุทธ์ที่ไม่สำคัญอีกต่อไป ตามรายงานของ Deloitte GenAI อาจ ทำให้การสูญเสียจากการฉ้อโกงเกิน 40 พันล้านดอลลาร์ในสหรัฐอเมริกาเพียงอย่างเดียวภายในปี 2027 เครื่องมือเหล่านี้มีพลังและไม่มีการควบคุมมากนัก สิ่งที่เราเหลืออยู่คือพรมแดนดิจิทัลที่ไม่มีกฎหมาย ซึ่งผลที่ตามมาเกิดขึ้นในเวลาจริง ซึ่งนวัตกรรมและความฉ้อโกงมักจะมีลักษณะเหมือนกัน

AI ลดความยากในการเข้าสู่การฉ้อโกง

AI ได้ทำให้การเรียนรู้เกี่ยวกับการฉ้อโกงทางไซเบอร์ง่ายขึ้น ด้วยเพียงการ提示และเชื่อมต่ออินเทอร์เน็ต ทุกคนสามารถเปิดตัวการโจมตีที่ซับซ้อนได้: การรณรงค์ข่มขู่ทางอีเมลที่น่าเชื่อถือ การปลอมตัวเป็นบุคคลที่เชื่อถือได้ หรือการสร้างตัวตนในดิจิทัลทั้งหมด สิ่งที่ต้องการความเชี่ยวชาญในอดีตตอนนี้ต้องการเพียงความตั้งใจเท่านั้น กลยุทธ์การฉ้อโกงกำลังถูกขยายขนาดเหมือนกับสตาร์ทอัพ: ทดสอบ ซ้ำ และเปิดตัวภายในไม่กี่ชั่วโมง ไม่ใช่สัปดาห์

น่าห่วง的是 การฉ้อโกงเหล่านี้ไม่เพียงแต่เกิดขึ้นบ่อยขึ้นเท่านั้น แต่ยังเชื่อถือได้อีกด้วย AI ได้ทำให้สามารถฉ้อโกงได้ในระดับที่ไม่เคยเห็นมาก่อน — โดยเลียนแบบเสียงและรูปแบบ การปลอมตัวเป็นพฤติกรรมทางสังคม และปรับตัวให้เข้ากับการป้องกันใหม่ๆ ในเวลาจริง สิ่งนี้ทำให้เกิดการโจมตีที่มีผลกระทบสูงและต้องใช้ความพยายามน้อย

การเพิ่มขึ้นของตัวตนเทียมและเศรษฐกิจการปลอมแปลง

การเปลี่ยนแปลงครั้งต่อไปของการฉ้อโกงโดยใช้ AI จะไม่เพียงแต่เลียนแบบความเป็นจริงเท่านั้น แต่ยังสร้างมันขึ้นมาใหม่ด้วย การฉ้อโกงโดยใช้ตัวตนเทียมกำลังกลายเป็นภัยคุกคามที่เติบโตเร็วที่สุด สิ่งนี้ได้รับการขับเคลื่อนโดยโมเดล AI ที่สร้างตัวตนเหมือนจริงจากชิ้นส่วนของข้อมูลที่ถูกขโมยไป ตาม Datos Insights มากกว่า 40% ของสถาบันการเงินได้เห็นการเพิ่มขึ้นของการโจมตีที่เกี่ยวข้องกับตัวตนเทียมที่สร้างโดย GenAI ในขณะที่ การสูญเสียที่เกี่ยวข้องกับกลยุทธ์เหล่านี้เกิน 35 พันล้านดอลลาร์ในปี 2023 การปลอมแปลงดิจิทัลเหล่านี้หลอกลวงไม่เพียงแต่ผู้คนเท่านั้น แต่ยังรวมถึงระบบตรวจสอบชีวมิติและเอกสารด้วย ทำให้ความเชื่อมั่นในกระบวนการรับเข้าและปฏิบัติตามกฎระเบียบลดลง

ผู้กำกับดูแลกำลังวาดเส้นในพื้นที่ทรายที่เปลี่ยนแปลง

ผู้กำหนดนโยบายเริ่มดำเนินการ แต่พวกเขา đangไล่ตามเป้าหมายที่เคลื่อนไหว Frameworks เช่น EU AI Act และ FTC’s Artificial Intelligence Compliance Plan แสดงถึงความก้าวหน้าในการสร้างรั้วสำหรับการพัฒนาและใช้ AI อย่างมีจริยธรรม แต่การฉ้อโกงไม่รอการกำกับดูแลที่จะตามทัน เมื่อเวลาผ่านไป กลยุทธ์เหล่านี้ก็ได้พัฒนาไปแล้ว

ช่องว่างนี้ทำให้เกิดช่องว่างที่อันตราย ซึ่งบริษัทต่างๆ ต้องดำเนินการเป็นทั้งผู้นวัตกรรมและผู้บังคับใช้ โดยไม่มีมาตรฐานระดับโลกสำหรับความเสี่ยงของ AI องค์กรต่างๆ คาดหวังให้ตนเองกำกับดูแล สร้างรั้วของตนเอง ตีความความเสี่ยงด้วยตนเอง และรับผิดชอบทั้งนวัตกรรมและความรับผิดชอบ

การต่อสู้กับไฟด้วยไฟ: รูปแบบการป้องกันที่มีประสิทธิภาพ

เพื่อให้ทันการฉ้อโกงโดยใช้ AI องค์กรต่างๆ ต้องใช้แนวคิดเดียวกัน: มีความคล่องตัว อัตโนมัติ และขับเคลื่อนด้วยข้อมูล การป้องกันที่มีประสิทธิภาพสูงสุดในปัจจุบันพึ่งพาการตรวจจับความเสี่ยงในเวลาจริงที่เพิ่มขึ้นโดย AI: ระบบที่สามารถระบุพฤติกรรมที่น่าสงสัยก่อนที่จะบานปลายและปรับตัวให้เข้ากับรูปแบบการโจมตีที่เกิดขึ้นใหม่โดยไม่ต้องมีการแทรกแซงจากมนุษย์

幸い ข้อมูลที่จำเป็นสำหรับการป้องกันประเภทนี้มีอยู่แล้วสำหรับธุรกิจส่วนใหญ่ ซึ่งรวบรวมผ่านการโต้ตอบดิจิทัลทั่วไป ทุกๆ คลิก การเข้าสู่ระบบ การกำหนดค่าอุปกรณ์ ที่อยู่ IP และสัญญาณพฤติกรรมช่วยสร้างภาพที่ชัดเจนเกี่ยวกับผู้ที่อยู่หลังจอภาพ สิ่งนี้รวมถึงข้อมูลอุปกรณ์ จิตวิทยาเชิงพฤติกรรม ข้อมูลเมต้าของเครือข่าย และสัญญาณเช่น อายุของที่อยู่อีเมลและความมีอยู่บนโซเชียลมีเดีย

คุณค่าที่แท้จริงอยู่ที่การเปลี่ยนสัญญาณที่กระจัดกระจายเหล่านี้ให้เป็นข้อมูลเชิงลึกที่เกี่ยวข้อง เมื่อวิเคราะห์ด้วย AI จุดข้อมูลที่หลากหลายเหล่านี้ช่วยให้สามารถตรวจจับข้อผิดปกติได้เร็วขึ้น ตัดสินใจได้ดีขึ้น และปรับตัวให้เข้ากับภัยคุกคามที่เปลี่ยนแปลงไปได้ดีขึ้น แทนที่จะรักษาการโต้ตอบแต่ละครั้งในความโดดเดี่ยว ระบบการฉ้อโกงสมัยใหม่ตรวจสอบพฤติกรรมที่ไม่ปกติ การเชื่อมต่อที่น่าสงสัย และการเบี่ยงเบนจากพฤติกรรมปกติอย่างต่อเนื่อง โดยการเชื่อมต่อจุดเหล่านี้ในเวลาจริง ระบบเหล่านี้ช่วยให้สามารถประเมินความเสี่ยงได้แม่นยำยิ่งขึ้น และลดผลลัพธ์ผิดพลาด

อย่างไรก็ตาม การป้องกันโดยใช้ AI ไม่ได้หมายความว่าจะต้องเอามนุษย์ออกจากวงจร การกำกับดูแลของมนุษย์เป็นสิ่งจำเป็นเพื่อให้แน่ใจถึงความสามารถในการอธิบาย ลดความลำเอียง และตอบสนองต่อกรณีเชิงขอบที่ระบบอัตโนมัติอาจพลาดไป

การคิดใหม่เกี่ยวกับความเชื่อมั่นในโลกแห่งเวลาจริง

การปรับตัวให้เข้ากับภูมิทัศน์ภัยคุกคามนี้ไม่ได้เป็นเพียงการนำเครื่องมือที่ฉลาดกว่ามาใช้เท่านั้น แต่ยังต้องมีการคิดใหม่เกี่ยวกับวิธีการที่เรากำหนดความเสี่ยงและดำเนินการตามความเชื่อมั่น โมเดลการตรวจจับการฉ้อโกงแบบดั้งเดิมมักจะพึ่งพาข้อมูลในอดีตและกฎที่ไม่เปลี่ยนแปลง วิธีการเหล่านี้เปราะบางเมื่อเผชิญกับการฉ้อโกงโดยใช้ AI ที่เปลี่ยนแปลงทุกวัน แทนที่จะย้ายไปสู่การตัดสินใจที่ตระหนักถึงบริบท โดยดึงข้อมูลจากสัญญาณพฤติกรรมในเวลาจริง ข้อมูลอุปกรณ์ และรูปแบบเครือข่ายเพื่อสร้างภาพที่มีรายละเอียดมากกว่าเกี่ยวกับเจตนาของผู้ใช้

สิ่งสำคัญคือระบบที่มีมนุษย์อยู่ในวงจรช่วยเสริมสร้างโครงสร้างนี้โดยการผสมผสานความแม่นยำในการวิเคราะห์ของ AI กับการตัดสินใจของมนุษย์ เพื่อให้แน่ใจว่าข้อผิดปกติที่ถูกขีดเส้นใต้ได้รับการตรวจสอบในบริบท ลดผลลัพธ์ผิดพลาด และการตัดสินใจเกี่ยวกับความเชื่อมั่นจะพัฒนาไปพร้อมกับการให้ข้อมูลย้อนกลับจากมนุษย์อย่างต่อเนื่อง การเปลี่ยนแปลงนี้ไม่ใช่แค่ด้านเทคนิค แต่ยังเป็นเรื่องของวัฒนธรรม

การป้องกันการฉ้อโกงไม่สามารถแยกออกเป็นฟังก์ชันหลังบ้านได้อีกต่อไป มันจะต้องเป็นส่วนหนึ่งของกลยุทธ์ความเชื่อมั่นโดยรวม ซึ่งรวมถึงการรับเข้า การปฏิบัติตามกฎระเบียบ และประสบการณ์ของลูกค้า สิ่งนี้หมายถึงทีมงานข้ามฟังก์ชันที่แบ่งปันข้อมูล ร่วมมือเกี่ยวกับความอยากได้ของความเสี่ยง และออกแบบระบบที่สร้างสมดุลระหว่างการป้องกันกับการเข้าถึง

สิ่งนี้ต้องมีมุมมองที่ให้คุณค่ากับการฟื้นตัวมากกว่าการยึดมั่น เมื่อ AI กำหนดความเร็วและขนาดของการฉ้อโกง ความสามารถในการปรับตัวให้เข้ากับสถานการณ์ บริบท และต่อเนื่องจะกลายเป็นมาตรฐานใหม่สำหรับการอยู่ข้างหน้า เราไม่สามารถหยุดการพยายามฉ้อโกงทุกครั้งได้ แต่เราสามารถออกแบบระบบที่ล้มเหลวได้อย่างฉลาด ฟื้นตัวได้เร็วขึ้น และเรียนรู้ในเวลาจริง

ไม่มีใครชนะการแข่งขันการฉ้อโกง

ไม่มีชัยชนะสุดท้ายในการต่อสู้กับการฉ้อโกงโดยใช้ AI การป้องกันใหม่ๆ แต่ละครั้งจะดึงดูดการโต้ตอบที่ฉลาดและเร็วขึ้น ผู้ฉ้อโกงดำเนินการโดยไม่มีข้อจำกัด ปรับเปลี่ยนในเวลาจริง และใช้โมเดล AI เหมือนกับบริษัทที่พวกเขาเป้าหมาย

ในดินแดนที่ไม่มีกฎหมายดิจิทัลนี้ ผู้ฉ้อโกงเคลื่อนไหวเร็ว พังทุกสิ่ง และไม่ต้องเผชิญกับข้อจำกัดด้านกฎระเบียบหรือจริยธรรมที่ชะลอการดำเนินธุรกิจที่ถูกต้องตามกฎหมาย และเราทุกคนต้องยอมรับความเป็นจริงใหม่นี้: AI จะถูกใช้โดยผู้กระทำผิด การตอบสนองที่ยั่งยืนเพียงอย่างเดียวคือการใช้ AI เป็นข้อได้เปรียบเชิงกลยุทธ์ในการสร้างระบบที่มีความเร็ว ความยืดหยุ่น และพัฒนาอย่างต่อเนื่องเหมือนกับภัยคุกคามที่พวกเขาเผชิญ เพราะในโลกที่ทุกคนสามารถใช้ AI ได้ การหยุดนิ่งหมายถึงการยอมแพ้โดยสิ้นเชิง