ป่าลึกของการฉ้อโกงโดยใช้ AI

เราอยู่ในช่วงยุคทองของ AI ที่กำลังพัฒนาและทำให้สามารถเข้าถึงสิ่งต่างๆ ได้ง่ายขึ้น ไม่ว่าจะเป็นการสร้างเนื้อหาอัตโนมัติหรือการตัดสินใจโดยใช้ข้อมูลจากอัลกอริทึม สำหรับธุรกิจ นี่คือโอกาส แต่สำหรับคนฉ้อโกง นี่คือการได้รับอนุญาตให้ทำอะไรได้ทุกอย่าง

การสร้างตัวตนปลอมและข้อความอัตโนมัติไม่ใช่เทคนิคที่ไม่ธรรมดาแล้ว ตามรายงานของ Deloitte เทคโนโลยี AI ที่สร้างขึ้นใหม่ๆ อาจทำให้การฉ้อโกงเพิ่มขึ้นถึง 40 พันล้านดอลลาร์ในสหรัฐอเมริกาเพียงอย่างเดียวภายในปี 2027 เครื่องมือเหล่านี้มีพลังและไม่มีการควบคุมมากนัก สิ่งที่เราได้รับคือพื้นที่ดิจิทัลที่ไม่มีกฎหมาย где ผลที่ตามมาเกิดขึ้นในเวลาจริง และนวัตกรรมและความฉ้อโกงมักจะดูเหมือนกัน

AI ลดความยากในการเข้าถึงการฉ้อโกง

AI ได้ทำให้การเรียนรู้เกี่ยวกับการฉ้อโกงง่ายขึ้น ด้วยการให้คำสั่งและเชื่อมต่ออินเทอร์เน็ต ใครก็ตามสามารถเริ่มการโจมตีที่ซับซ้อนได้: การสร้างแคมเปญการฉ้อโกงที่น่าเชื่อถือ การปลอมตัวเป็นบุคคลที่เชื่อถือได้ หรือการสร้างตัวตนปลอมทั้งหมด สิ่งที่ต้องการความเชี่ยวชาญในอดีตตอนนี้ต้องการแค่ความตั้งใจเท่านั้น เทคนิคการฉ้อโกงถูกขยายเหมือนกับธุรกิจใหม่ๆ: ทดสอบ ลองผิดลองถูก และเปิดตัวภายในไม่กี่ชั่วโมง ไม่ใช่ไม่กี่สัปดาห์

น่าห่วงคือ การฉ้อโกงเหล่านี้ไม่เพียงแต่เกิดขึ้นบ่อยขึ้น แต่ยังเป็นไปได้มากขึ้น AI ได้ทำให้การฉ้อโกงสามารถปรับให้เหมาะสมกับขนาดที่ไม่เคยเห็นมาก่อน — การเลียนแบบเสียงและรูปแบบ การปลอมตัวเป็นพฤติกรรมทางสังคม และปรับให้เหมาะสมกับการป้องกันใหม่ๆ ในเวลาจริง สิ่งนี้ทำให้เกิดการโจมตีที่ไม่ต้องใช้ความพยายามมาก แต่มีผลกระทบสูง เมื่อเทคโนโลยีดำเนินต่อไป การป้องกันที่มีอยู่กำลังตกข้างหลัง

การเพิ่มขึ้นของตัวตนปลอมและเศรษฐกิจ Deepfake

การฉ้อโกงโดยใช้ AI ในอนาคตจะไม่เพียงแต่เลียนแบบความเป็นจริง แต่ยังสร้างขึ้นใหม่ทั้งหมด การฉ้อโกงโดยใช้ตัวตนปลอมเป็นหนึ่งในภัยคุกคามที่เติบโตเร็วที่สุด นี่เป็นผลมาจากโมเดล AI ที่สร้างตัวตนปลอมที่เหมือนจริงจากชิ้นส่วนของข้อมูลที่ถูกขโมย ตามรายงานของ Datos Insights มากกว่า 40% ของสถาบันการเงินได้เห็นการเพิ่มขึ้นของการโจมตีที่เกี่ยวข้องกับตัวตนปลอมที่สร้างโดย AI ในขณะที่การสูญเสียที่เกี่ยวข้องกับเทคนิคเหล่านี้เกิน 35 พันล้านดอลลาร์ในปี 2023 การปลอมแปลงดิจิทัลเหล่านี้สามารถหลอกลวงไม่เพียงแต่คน แต่ยังรวมถึงระบบตรวจสอบชีวมิติและเอกสารด้วย ทำให้ความไว้วางใจที่เป็นหัวใจของกระบวนการเข้าร่วมและปฏิบัติตามกฎระเบียบเสื่อมถอย

ผู้กำกับดูแลกำลังวาดเส้นในทรายที่เปลี่ยนแปลง

ผู้กำกับดูแลกำลังเริ่มดำเนินการ แต่พวกเขากำลังตามล่าหาด้วยเป้าหมายที่เคลื่อนไหว โครงสร้างเช่น EU AI Act และแผนการปฏิบัติตาม AI ของ FTC แสดงถึงความก้าวหน้าในการสร้างกรอบการทำงานสำหรับการพัฒนาและใช้ AI อย่างมีจริยธรรม แต่การฉ้อโกงไม่รอการกำกับดูแลที่จะตามทัน เมื่อกฎเกณฑ์ถูกกำหนดไว้แล้ว เทคนิคการฉ้อโกงได้พัฒนาไปแล้ว

ช่องว่างนี้ทำให้เกิดช่องว่างที่อันตราย ซึ่งบริษัทต่างๆ ในปัจจุบันต้องดำเนินการเป็นทั้งผู้นวัตกรรมและผู้บังคับใช้ โดยไม่มีมาตรฐานระดับโลกสำหรับความเสี่ยงของ AI องค์กรต่างๆ ต้องดูแลตนเอง สร้างรั้วของตนเอง ตีความความเสี่ยงด้วยตนเอง และรับผิดชอบต่อทั้งนวัตกรรมและความรับผิดชอบ

การต่อสู้ด้วยไฟ: สิ่งที่การป้องกันที่มีประสิทธิผลดูเหมือน

เพื่อให้สามารถติดตามการฉ้อโกงโดยใช้ AI องค์กรต่างๆ ต้องใช้แนวทางเดียวกัน: มีความคล่องตัว มีการใช้ระบบอัตโนมัติ และขับเคลื่อนด้วยข้อมูล การป้องกันที่มีประสิทธิผลที่สุดในปัจจุบันพึ่งพาการตรวจจับความเสี่ยงในเวลาจริงโดยใช้ AI: ระบบที่สามารถระบุพฤติกรรมที่น่าสงสัยก่อนที่จะเกิดการโจมตีและปรับให้เหมาะสมกับรูปแบบการโจมตีที่เกิดขึ้นใหม่โดยไม่ต้องมีการแทรกแซงจากมนุษย์

幸运ที่สุด คือข้อมูลที่จำเป็นสำหรับการป้องกันประเภทนี้มีอยู่แล้วสำหรับธุรกิจส่วนใหญ่ ซึ่งรวบรวมข้อมูลผ่านการโต้ตอบดิจิทัลที่เกิดขึ้นทุกวัน ทุกๆ การคลิก การเข้าสู่ระบบ การกำหนดค่าเครื่องมือ ที่อยู่ IP และสัญญาณพฤติกรรมช่วยสร้างภาพที่ชัดเจนของใครที่อยู่เบื้องหลังหน้าจอ

การคิดใหม่เกี่ยวกับความไว้วางใจในโลกแห่งความเร็ว

การปรับตัวเข้ากับภัยคุกคามนี้ไม่ใช่แค่การนำเครื่องมือที่ฉลาดกว่ามาใช้ แต่ยังต้องมีการคิดใหม่เกี่ยวกับวิธีการกำหนดความเสี่ยงและดำเนินการตามความไว้วางใจ โมเดลการตรวจจับการฉ้อโกงแบบดั้งเดิมมักจะพึ่งพาข้อมูลในอดีตและกฎที่ไม่เปลี่ยนแปลง วิธีการเหล่านี้ไม่แข็งแกร่งในหน้าการฉ้อโกงที่มีพลังและเปลี่ยนแปลงอย่างรวดเร็วโดยใช้ AI

สิ่งสำคัญคือ ระบบที่มีมนุษย์อยู่ในวงจรจะเสริมสร้างโครงสร้างนี้โดยจับคู่ความแม่นยำในการวิเคราะห์ของ AI กับการตัดสินใจของมนุษย์ เพื่อให้แน่ใจว่าความผิดปกติที่ถูกตีตราได้รับการตรวจสอบในบริบทที่ถูกต้อง และการตัดสินใจเกี่ยวกับความไว้วางใจจะพัฒนาไปพร้อมกับการให้คำปรึกษาที่ต่อเนื่องของมนุษย์

ไม่มีใครสามารถชนะการแข่งขันการฉ้อโกงได้

ไม่มีการชนะสุดท้ายในการต่อสู้กับการฉ้อโกงที่ขับเคลื่อนด้วย AI การป้องกันที่ใหม่แต่ละครั้งจะทำให้เกิดการโจมตีที่ฉลาดและรวดเร็ว hơn การฉ้อโกงดำเนินการที่ไม่มีข้อจำกัด ปรับให้เหมาะสมในเวลาจริง และใช้แบบจำลอง AI เหมือนกับที่บริษัทต่างๆ ใช้

ในดิจิทัลป่าลึกใหม่นี้ การฉ้อโกงเคลื่อนที่เร็ว ทำลายสิ่งต่างๆ และไม่มีข้อจำกัดด้านกฎระเบียบหรือจริยธรรมที่ชะลอการดำเนินธุรกิจที่ถูกต้อง และเราทุกคนต้องยอมรับความเป็นจริงใหม่นี้: AI จะถูกใช้โดยผู้กระทำความผิด การตอบสนองที่ยั่งยืนเพียงอย่างเดียวคือการใช้ AI เป็นข้อได้เปรียบเชิงกลยุทธ์ในการสร้างระบบที่มีความเร็ว ความยืดหยุ่น และพัฒนาอย่างต่อเนื่องเช่นเดียวกับภัยคุกคามที่พวกเขาเผชิญ เพราะในโลกที่ทุกคนสามารถใช้ AI ได้ การหยุดนิ่งหมายถึงการยอมแพ้ทั้งหมด