การแข่งขันอาวุธ AI: ทำไมความปลอดภัยของผู้บริโภคต้องการการป้องกันแบบเรียลไทม์

หากผู้ฉ้อโกงสามารถใช้โมเดลภาษาขนาดใหญ่ (LLM) เพื่อสร้างอีเมล钓鱼ที่สมบูรณ์แบบและไม่ซ้ำกันหนึ่งล้านฉบับในหนึ่งชั่วโมง ทำไมเรายังคงต่อสู้กับการโจมตี AI ด้วยการอัปเดตสัญญาณลักษณ์ด้วยความเร็วของมนุษย์?

การเพิ่มขึ้นของปัญญาประดิษฐ์แบบสร้างสรรค์ไม่ใช่ภัยคุกคามที่เป็นนามธรรมอีกต่อไป แต่เป็นความเป็นจริงที่ไม่สามารถปฏิเสธได้ ซึ่งกลุ่มอาชญากรไซเบอร์ได้ใช้เครื่องมือการเรียนรู้เชิงลึกเพื่อทำให้การหลอกลวงทางสังคมเป็นแบบอัตโนมัติและสมบูรณ์แบบ สำหรับผู้บริโภค การเปลี่ยนแปลงนี้ส่งผลกระทบทางการเงินอย่างรุนแรง: คณะกรรมการการค้าแห่งสหพันธรัฐ (FTC) รายงาน ว่าผู้บริโภคสูญเสียเงินไปกับการฉ้อโกงมากกว่า 12.5 พันล้านดอลลาร์ในปี 2024, ซึ่งเป็นการเพิ่มขึ้น 25% จากปี 2023 ตัวเลขที่น่าตกใจนี้ยืนยันถึงยุคใหม่ที่น่าห่วงใย ซึ่งมาตรการรักษาความปลอดภัยแบบดั้งเดิมที่พึ่งพาโดยมนุษย์กำลังล้มเหลวในการต่อต้านภัยคุกคามที่ขับเคลื่อนด้วย AI

การโจมตีเหล่านี้ต้องการยุทธวิธีใหม่บนสนามรบ เราต้องดำเนินไปอย่างแข็งขันและไม่หยุดยั้งในการสร้างความปลอดภัยแบบเรียลไทม์โดยใช้ AI ที่สามารถตรวจจับและป้องกันการโจมตีได้อย่างมีประสิทธิภาพ

ความเป็นจริงใหม่ของการฉ้อโกงที่ขับเคลื่อนด้วย AI

AI ที่สร้างสรรค์ได้ลดค่าเข้าใช้สำหรับการฉ้อโกงทางไซเบอร์ในขณะเดียวกันก็เพิ่มความน่าเชื่อถือของเนื้อหาที่เป็นอันตราย ผู้ฉ้อโกงสามารถดำเนินการแคมเปญที่มีการปรับให้เหมาะสมสูงและปริมาณมากที่เลียนแบบบุคคลหรือสถาบันที่เชื่อถือได้อย่างสมบูรณ์แบบ

ตัวอย่างที่น่าสังเกตที่สุดของการเพิ่มขึ้นนี้รวมถึง:

การปลอมตัวและคลoning เสียงด้วย Deepfake

การฉ้อโกงแบบปลอมตัวที่ผู้กระทำความผิดปลอมตัวเป็นบุคคลที่รักหรือผู้บริหารระดับสูงได้รับการปรับปรุงโดย AI

• การปลอมตัว CEO และผู้บริหารด้วย Deepfake: ในกรณีการฉ้อโกงทางธุรกิจที่มีชื่อเสียง การใช้วิดีโอและเสียงด้วย Deepfake เพื่อปลอมตัวเป็นผู้บริหารระดับสูงในการโทรวิดีโอ ทำให้พนักงานฝ่ายการเงินอนุมัติการโอนเงินหลายล้านดอลลาร์ โดยการฝึก AI ด้วยคลิปสั้น ๆ ของเสียงหรือวิดีโอของผู้บริหารสาธารณะ ผู้กระทำความผิดสามารถสร้างเสียงและวิดีโอที่แทบจะไม่มีข้อผิดพลาดในแบบเรียลไทม์ที่ผ่านการป้องกันที่เชื่อถือได้มากที่สุดของเหยื่อ: ตาและหู
• การฉ้อโกงคริปโตด้วย Deepfake: บนแพลตฟอร์มผู้บริโภค การปลอมตัวของคนดัง เช่น เอลอน มัสก์ ถูกใช้บ่อยครั้งในการฉ้อโกง “เพิ่มบิตคอยน์เป็นสองเท่า” การฉ้อโกง วิดีโอด้วย Deepfake ซึ่งมักจะถ่ายทอดสดบนแพลตฟอร์มที่ถูกบุกรุก จะแสดงคนดัง “สนับสนุน” การแจกคริปโตที่เป็นเท็จ ซึ่งนำไปสู่การ报告การสูญเสียที่มีนัยสำคัญหลายล้าน การปลอมตัวเหล่านี้มีความน่าเชื่อถือมากจนหลอกเหยื่อโดยการรักษาติดต่อสายตาระหว่างการชักชวน

การฉ้อโกงทางสังคมที่ปรับให้เหมาะสมสูงและแบบสนทนา

AI ที่สร้างสรรค์ได้กำจัดอาการที่บอกถึงการฉ้อโกงแบบ “เจ้าชายไนจีเรีย” ที่คลาสสิก: การเขียนที่ไม่ดี, การใช้ภาษาต่างประเทศ และการขานรับทั่วไป

• การฉ้อโกงทางสังคมที่ปรับให้เหมาะสมสูงและแบบสนทนา: ผู้โจมตีใช้ LLMs (รวมถึงแบบผิดกฎหมาย เช่น FraudGPT) เพื่อเก็บข้อมูลสาธารณะ โปรไฟล์ LinkedIn โพสต์บนโซเชียลมีเดีย และเว็บไซต์ของบริษัทเพื่อสร้างแฟ้มข้อมูลรายละเอียดเกี่ยวกับเป้าหมาย AI จะสร้างอีเมลที่เลียนแบบโทนและคำศัพท์ของเพื่อนร่วมงานหรือหัวหน้า โดยอ้างถึงโครงการที่แท้จริงหรือติดต่อที่ใช้ร่วมกัน ซึ่งมักจะเรียกว่าการฉ้อโกงทางสังคมที่ปรับให้เหมาะสมสูง เนื่องจาก AI สามารถสร้างอีเมลที่แตกต่างกันหลายล้านฉบับได้ ทำให้การตรวจจับโดยฟิลเตอร์อีเมลแบบดั้งเดิมที่พึ่งพาสัญญาณลักษณ์เป็นเรื่องยากมาก
• การฉ้อโกงทางสังคมที่ใช้ AI (การปลอมตัว): การใช้ AI ชัตบอททำให้ผู้ฉ้อโกงสามารถจัดการโปรไฟล์ปลอมหลายร้อยโปรไฟล์ได้พร้อมกัน AI จะรักษาความสัมพันธ์ที่ซับซ้อนและหลอกลวงทางอารมณ์เป็นเวลานานเพื่อสร้างความไว้วางใจ ซึ่งเรียกว่า “การปลอมตัว” ความสื่อสารที่ไม่มีข้อผิดพลาดและความสามารถในการข้ามช่องว่างภาษา ทำให้ผู้ฉ้อโกงสามารถมีส่วนร่วมกับเหยื่อได้ลึกซึ้งมากขึ้นก่อนที่จะเปลี่ยนหัวข้อสนทนาไปสู่โครงการลงทุนที่เป็นเท็จ ซึ่งนำไปสู่การสูญเสียทางการเงินที่มีค่าเฉลี่ยสูงสุดต่อเหยื่อ

จุดอ่อนที่ร้ายแรงของการรักษาความปลอดภัยแบบดั้งเดิม

สาเหตุที่การฉ้อโกงที่ขับเคลื่อนด้วย AI นี้ประสบความสำเร็จคือมาตรการรักษาความปลอดภัยทางไซเบอร์แบบดั้งเดิมไม่ได้รับการออกแบบสำหรับสภาพแวดล้อมภัยคุกคามที่มีความเร็วสูงและปริมาณต่ำ พวกเขาทำงานบนชุดสมมติฐานที่ล้าสมัย:

1. การพึ่งพาสัญญาณลักษณ์และภัยคุกคามที่ทราบ

ซอฟต์แวร์ป้องกันไวรัสและรักษาความปลอดภัยแบบดั้งเดิมพึ่งพาฐานข้อมูลของภัยคุกคามที่ทราบหรือ “สัญญาณลักษณ์” เมื่อ ผู้โจมตีใช้ AI เพื่อสร้างอีเมลใหม่และไม่ซ้ำกัน รูปแบบใหม่ของมัลแวร์หรือวิดีโอด้วย Deepfake ที่ไม่เคยเห็นมาก่อน ระบบความปลอดภัยไม่มีสัญญาณลักษณ์ที่มีอยู่เพื่อระบุภัยคุกคามได้ เมื่อสัญญาณลักษณ์ใหม่ถูกสร้างและแจกจ่าย การฉ้อโกงได้ดำเนินไปสู่รูปแบบที่ปรับให้เหมาะสมสูงถัดไปแล้ว โมเดลที่ตอบสนองนี้ช้าเกินไปสำหรับ tốc độของ AI ที่สร้างสรรค์

2. การขาดความตระหนักรู้ทางพฤติกรรมและบริบท

ระบบความปลอดภัยแบบดั้งเดิมหลายระบบรักษาความปลอดภัยเป็นเช็คการทำธุรกรรมที่แยกออกมา ตัวอย่างเช่น ฟิลเตอร์แบบพื้นฐานอาจตรวจสอบว่าอีเมลมีคำว่า “ใบแจ้งหนี้” หรือ “ด่วน” หรือไม่ การฉ้อโกงทางสังคมที่ขับเคลื่อนด้วย AI ประสบความสำเร็จเพราะมุ่งเน้นไปที่ พฤติกรรม ไม่ใช่แค่คำค้นหา อีเมลฉ้อโกงที่ซับซ้อนจะมีลักษณะเหมือนจริง และวิดีโอด้วย Deepfake จะมีลักษณะและเสียงเหมือนบุคคลที่อ้างว่าเป็น ระบบแบบดั้งเดิมไม่มีความสามารถในการสร้างบรรทัดฐานพฤติกรรมสำหรับผู้ใช้หรือเครือข่าย ซึ่งทำให้ไม่สามารถระบุพฤติกรรมที่ผิดปกติและบ่งบอกถึงการฉ้อโกงที่กำลังดำเนินอยู่

3. ความผิดพลาดของมนุษย์เป็นจุดอ่อนหลัก

การป้องกันสุดท้ายในความปลอดภัยแบบดั้งเดิมมักจะเป็นผู้ใช้ ซึ่งเป็นสิ่งที่การฉ้อโกงทางสังคมที่ขับเคลื่อนด้วย AI ตั้งเป้าไปที่การเอาเปรียบ การฝึกอบรมผู้ใช้เพื่อระบุการฉ้อโกงเป็นวิธีการบรรเทาที่มีประสิทธิภาพ แต่ไม่ใช่ระบบการตรวจจับ เมื่อเสียงด้วย Deepfake ที่ฟังดูเหมือนลูกของตนเองขอความช่วยเหลือ หรืออีเมลที่ดูเหมือนมาจาก CEO ของตนเอง ผู้ใช้ไม่สามารถต่อต้านการหลอกลวงทางอารมณ์และบริบทที่สร้างโดย AI ได้

ทางเลือกเชิงรุก: การตรวจจับภัยคุกคามแบบเรียลไทม์ที่ขับเคลื่อนด้วย AI

วิธีแก้คือการต่อสู้กับ AI ด้วย AI เช่นเดียวกับที่ AI ที่สร้างสรรค์ถูกบูรณาการเข้ากับกระบวนการโจมตี โมเดลการเรียนรู้ของเครื่องแบบเรียลไทม์กำลังถูกใช้และฝังตัวลงในแพลตฟอร์มผู้บริโภคและองค์กรหลักเพื่อตรวจจับและป้องกันภัยคุกคามแบบเรียลไทม์ การป้องกันแบบเรียลไทม์ที่ฝังตัวนี้เสนอวิธีแก้ปัญหาสำหรับการรักษาความปลอดภัยผู้บริโภคในยุคหน้า

บริษัทและแพลตฟอร์มหลักใช้โมเดล AI เหล่านี้เพื่อ:

• การตรวจจับการฉ้อโกงทางการเงิน: สถาบันการเงินขนาดใหญ่ใช้การวิเคราะห์พฤติกรรม AI เพื่อติดตามรูปแบบการเข้าสู่ระบบ ความผิดปกติของธุรกรรม และลายนิ้วมืออุปกรณ์แบบเรียลไทม์ หากผู้ใช้เริ่มการโอนเงินขนาดใหญ่ที่ไม่ปกติจากอุปกรณ์หรือที่ตั้งที่ไม่ได้ลงทะเบียน AI จะระบุการผิดปกตินี้เพื่อการตรวจสอบทันที ซึ่งมักจะหยุดการฉ้อโกงก่อนที่เงินจะสูญเสียไป
• การกรองอีเมลและเนื้อหา: Gmail ของ Google ตัวอย่างเช่น ประมวลผลและบล็อกอีเมลฉ้อโกงหลายล้านฉบับในแต่ละวันโดยใช้โมเดลการเรียนรู้ของเครื่องเพื่อวิเคราะห์เนื้อหาอีเมล ประวัติผู้ส่ง และแม้แต่สไตล์การเขียน โมเดลเหล่านี้ไม่ขึ้นอยู่กับสัญญาณลักษณ์; พวกมันเรียนรู้ว่าอีเมลที่ถูกต้อง ดู และ ฟัง อย่างไร ทำให้พวกมันมีประสิทธิภาพสูงในการระบุการพยายามฉ้อโกงแบบสแปมที่เฉพาะเจาะจงตามบริบท
• การดูแลเนื้อหาโซเชียลมีเดีย: แพลตฟอร์มเช่น Meta ใช้การประมวลผลภาษาธรรมชาติ (NLP) และการเรียนรู้ของเครื่องเพื่อตรวจจับและตอบสนองต่อเนื้อหาที่เป็นอันตรายและบัญชีปลอมแบบเรียลไทม์ โดยไปไกลกว่าการค้นหาคำค้นหาทั่วไปเพื่อทำความเข้าใจบริบทและความตั้งใจของการสื่อสาร

เส้นเชื่อมที่สำคัญในตัวอย่างเหล่านี้คือการเปลี่ยนจากการป้องกันแบบผสมที่พึ่งพาสัญญาณลักษณ์ไปสู่การวิเคราะห์พฤติกรรมแบบเรียลไทม์ นี่คือชั้นที่สำคัญที่สุดสำหรับระบบนิเวศของผู้บริโภคและครอบครัว ซึ่งยังคงพึ่งพาเครื่องมือที่ล้าสมัยอย่างมาก

วิธีแก้ปัญหาไม่ใช่การเพิ่มกุญแจดิจิทัลหลังจากที่บ้านถูกปล้นแล้ว มันคือระบบเตือนภัยที่มีความฉลาดซึ่งเรียนรู้เสียงของการเดินของคุณเอง มันจะมาจากความปลอดภัยที่มีความฉลาด; ระบบที่ใช้ AI แบบเรียลไทม์เพื่อสร้างบรรทัดฐาน “ปกติ” สำหรับการกระทำของผู้ใช้ รูปแบบการสื่อสาร และการโต้ตอบดิจิทัล นี่เป็นวิธีเดียวในการระบุการผิดปกติที่ซับซ้อนและสำคัญที่สร้างโดยการปลอมตัวด้วย Deepfake หรือการพยายามฉ้อโกงทางสังคมที่ปรับให้เหมาะสมสูงก่อนที่การฉ้อโกงจะสำเร็จ โดยการฝังตัว AI สำหรับการวิเคราะห์แบบเรียลไทม์อย่างต่อเนื่อง เราสามารถสร้างการป้องกันผู้บริโภคที่ปรับขนาดให้เหมาะสมกับความซับซ้อนที่น่ากลัวของการโจมตีที่ขับเคลื่อนด้วย AI ที่กำลังพัฒนา