ยุคใหม่ของการปลอมตัวเป็นผู้บริหารที่ไม่เกี่ยวข้องกับผู้บริหาร

ในช่วงไม่กี่ปีที่ผ่านมา อันตรายดิจิทัลที่ใหญ่ที่สุดต่อแบรนด์คือการปลอมตัวเป็นผู้บริหาร ซึ่งมักจะดำเนินการผ่านอีเมลหรือบัญชีโซเชียลมีเดียปลอมตัว แต่วันนี้ เราต้องเผชิญกับศัตรูที่ซับซ้อนและน่าเชื่อถือมากกว่า นั่นคือเอเจนต์ AI

การเพิ่มขึ้นของเอเจนต์อัตโนมัติที่ได้รับการสนับสนุนจากโมเดลภาษาขนาดใหญ่ (LLM) ที่ออกแบบมาเพื่อทำงานด้วยการแทรกแซงจากมนุษย์น้อยหรือไม่มีเลย ได้ปลดล็อกความเป็นไปได้ใหม่ๆ ที่ใกล้เคียงกับความตื่นเต้นที่เห็นในยุค web2 และแอปมือถือ

แม้ว่าเอเจนต์อัตโนมัติจะยังไม่เข้าใกล้ความเป็นจริง แต่ ผู้เชี่ยวชาญเตือน ว่าอาจสามารถเดินบนเครือข่ายองค์กรได้ภายในหนึ่งปีนับจากนี้ ความตื่นเต้นและความนิยมที่ตามมาจะทำให้แบรนด์ต่างๆ ต้องเผชิญกับอันตรายใหม่ๆ ที่เกิดจากเอเจนต์ AI ที่ปลอมตัว

เมื่อเอเจนต์ AI เหล่านี้ถูกปลอมตัวหรือใช้ในการปลอมตัว จะเกิดอะไรขึ้น? หรือในกรณีที่เลวร้ายกว่านั้น เมื่อเอเจนต์ AI เหล่านี้กลายเป็นคนปลอมตัว?

จากการปลอมตัวเป็นผู้บริหารไปสู่การปลอมตัวเป็นเอเจนต์

AI ได้สร้างเส้นทางใหม่ๆ สำหรับการฉ้อโกงและหลอกลวง โดยมีการปลอมตัวเสียงผู้บริหารที่สามารถสร้างเสียงพูดของบุคคลได้ภายในไม่กี่วินาที และล่าสุดมีหลักฐานการปลอมตัววิดีโอและเสียงแบบเรียลไทม์

ลองนึกภาพเอเจนต์อัตโนมัติที่แทนที่บริษัทของคุณในการติดต่อลูกค้า นักลงทุน หรือพันธมิตร เอเจนต์เหล่านี้สามารถฝังตัวบนเว็บไซต์ ติดตั้งบนแชทบอท หรือแม้กระทั่งโต้ตอบผ่านอีเมล โดยมีการโต้ตอบที่น่าเชื่อถือและเป็นมืออาชีพ แต่กลับเป็นการปลอมตัว

รากฐานของเอเจนต์ปลอมอาจอยู่ในแบบจำลอง “จาイルเบรก” โดยที่ผู้กระทำความผิดสามารถควบคุม LLM ได้โดยการฉีดข้อมูลหรือเทคนิคการโต้ตอบหลายครั้งเพื่อผลิตผลลัพธ์ที่เป็นอันตรายหรือไม่ถูกต้อง แต่นี่เป็นเพียงจุดเริ่มต้นเท่านั้น

ตาม ข้อมูล จาก PitchBook บริษัท AI ได้รับเงิน 131.5 พันล้านดอลลาร์ในปี 2024 ซึ่งคิดเป็นมากกว่าหนึ่งในสามของการลงทุน rizik ทั่วโลก การแข่งขัน AI ที่ได้รับแรงผลักดันจากผู้ก่อตั้งที่มีความทะเยอทะยาน นักลงทุนที่หิวโหย และรัฐบาลที่กระตือรือร้น จะเร่งความสามารถของเทคโนโลยีที่เกิดขึ้นใหม่นี้ ซึ่งจะถูกใช้เพื่อการปลอมตัว

การปลุกให้ตื่นสำหรับแบรนด์ที่กระตือรือร้นและผู้บริโภคที่อยากรู้

ผู้บริโภคและแบรนด์ต่างๆ กำลังเริ่มเข้าใจความหมายของการไว้วางใจเอเจนต์ แต่ความไว้วางใจเป็นกุญแจสำคัญของการโต้ตอบดิจิทัล และเมื่อมันถูกทำลาย ผลที่ตามมาอาจจะน่ากลัว

เช่นเดียวกับวิดีโอปลอมตัวและเสียงปลอมตัว เอเจนต์ปลอมสามารถใช้เพื่อ:

• ขอการชำระเงินหรือข้อมูลที่ละเอียดอ่อนโดยปลอมตัวเป็นแบรนด์ที่มีชื่อเสียงหรือเชื่อถือได้
• ส่งผู้ใช้ไปยังเว็บไซต์ที่มีไวรัสหรือมัลแวร์ผ่าน DM โซเชียลมีเดียหรือโฆษณา
• ทำลายความเชื่อมั่นของลูกค้าและก่อให้เกิดความเสียหายต่อชื่อเสียงในระดับใหญ่

ตาม รายงาน ของ Federal Trade Commission最近 การฉ้อโกงปลอมตัวทำให้เกิดความสูญเสียที่รายงานเกือบ 3 พันล้านดอลลาร์ในสหรัฐฯ เท่านั้น ซึ่งคาดว่าจะเพิ่มขึ้นอย่างรวดเร็วเมื่อการปลอมตัว AI กลายเป็นเรื่องที่ราบรื่นและขยายใหญ่ขึ้น

การแพร่กระจายของเอเจนต์ปลอม: โฆษณา ค้นหา และโซเชียล

สิ่งที่อันตรายที่สุดคือวิธีการกระจายเอเจนต์ปลอมตัว พวกเขาไม่ต้องการเว็บไซต์หรือโดเมนของตนเองเพื่อให้ได้รับการยอมรับ ผู้กระทำผิดสามารถใช้ผลการค้นหาและแพลตฟอร์มโซเชียลมีเดียเพื่อโปรโมตตัวปลอมของแบรนด์ ผู้บริหาร หรือผลิตภัณฑ์ที่เชื่อถือได้

ความเสี่ยงในระดับระบบนี้ ซึ่งผู้กระทำผิดเข้าควบคุมพื้นที่ดิจิทัลที่ถูกต้องเพื่ออำนวยความสะดวกในการฉ้อโกง ต้องการแนวทางใหม่สำหรับการรักษาความปลอดภัยทางไซเบอร์ ไม่เพียงพอแล้วที่จะปกป้องเครือข่าย คลาวด์ หรือเครดิตเชลล์ของพนักงานของคุณ พื้นที่เสี่ยงของแบรนด์ของคุณตอนนี้รวมถึงเครือข่ายโฆษณา แพลตฟอร์มค้นหา และเครื่องมือของบุคคลที่สามที่ลูกค้าของคุณโต้ตอบด้วย

การดำเนินการก่อนที่จะสายเกินไป

เรากำลังเข้าสู่โลกที่เส้นแบ่งระหว่างมนุษย์และเอเจนต์กลายเป็นเรื่องที่คลุมเครือ อันตรายไม่ใช่แค่การปลอมตัวเป็นบุคคลเท่านั้น แต่ยังรวมถึงการปลอมตัวเป็นบุคลิกดิจิทัลด้วย

ดังนั้น บริษัทต่างๆ จึงสามารถเตรียมพร้อมได้อย่างไร?

1. ทำแผนที่การมีอยู่ดิจิทัลของแบรนด์: รู้จักจุดที่ลูกค้าของคุณโต้ตอบกับบริษัทและเอเจนต์ของคุณ – ไม่ว่าจะบนเว็บไซต์ ผ่าน API หรือผ่านบุคคลที่สาม – และติดตามจุดเข้าถึงเหล่านั้นสำหรับการพยายามปลอมตัว
2. ติดตามระบบนิเวศเอเจนต์ที่เกิดขึ้นใหม่: เมื่อแพลตฟอร์มและตลาดเอเจนต์เปิดกว้างได้รับความนิยม ให้ระวังตัวปลอมหรือสาขาของเครื่องมือของคุณที่ปรากฏในอื่น
3. ลดเวลาในการตรวจจับ (TTD) และเวลาในการแก้ไข (TTR): ใช้โซลูชันที่ช่วยให้คุณระบุและเอาเอเจนต์ปลอมออกได้อย่างรวดเร็ว โดยเฉพาะอย่างยิ่งผู้ที่ใช้โฆษณาหรือแพลตฟอร์มโซเชียลมีเดีย เป็นสิ่งสำคัญในการจำกัดความเสียหาย
4. ให้ความรู้แก่ผู้ใช้ของคุณ: สร้างความโปร่งใสในการโต้ตอบกับเอเจนต์ ผู้ใช้ของคุณควรเข้าใจว่าควรโต้ตอบกับเครื่องมือของคุณที่ไหนและอย่างไร และวิธีระบุสัญญาณอันตราย
5. กำหนดโปรโตคอลความถูกต้องของเอเจนต์: ทำงานเพื่อสร้างการยืนยันแบบเข้ารหัสหรืออาศัยเมตาดาต้าที่สามารถยืนยันต้นกำเนิดและความถูกต้องของเอเจนต์

วิธีแก้ปัญหานี้อยู่ที่การรักษาความปลอดภัยของระบบนิเวศเอเจนต์ AI ไม่ใช่การหลีกเลี่ยงมัน เมื่อเราได้เรียนรู้ที่จะตรวจสอบโดเมน ตรวจสอบอีเมล และตรวจสอบแอปมือถือในหลายทศวรรษที่ผ่านมา เราต้องขยายระดับการระมัดระวังเดียวกันไปยังโลกของเอเจนต์ AI หากเราไม่เตรียมพร้อมสำหรับการปลอมตัวของเอเจนต์ AI เราอาจพบว่าตัวเองกำลังพูดคุยกับเอเจนต์ที่ดูคุ้นเคยซึ่งทำงานให้กับฝ่ายตรงข้าม