การโจมตีแบบมัลติม็อดัลที่กำลังจะเกิดขึ้น: เมื่อเครื่องมือ AI กลายเป็นพื้นผิวที่ถูกโจมตีใหม่

เมื่อโมเดลภาษาขนาดใหญ่ (LLMs) พัฒนาเป็นระบบมัลติม็อดัลที่สามารถจัดการข้อความ รูปภาพ เสียง และโค้ดได้ พวกมันก็กลายเป็นผู้กำกับอุปกรณ์ภายนอกและตัวเชื่อมต่อที่ทรงพลังด้วย การพัฒนาครั้งนี้ทำให้เกิดพื้นผิวที่ถูกโจมตีใหม่ที่องค์กรต่างๆ ต้องตระหนัก

ตัวอย่างที่ดีของสิ่งนี้คือการเข้าใจผิดของสังคม ซึ่งเอเย่นต์สามารถตกเป็นเหยื่อได้ เนื่องจากพวกมันถูกฝึกให้ทำตัวเหมือนมนุษย์ และมีความกังขาน้อยกว่า เอเย่นต์อาจไม่สามารถแยกแยะระหว่างอีเมล์ที่ปลอมกับอีเมล์ที่แท้จริงจากผู้ขายที่ถูกต้อง

การรวมกันของมัลติม็อดัลและเครื่องมือที่สามารถเข้าถึงได้ ทำให้ AI กลายเป็นช่องทางในการโจมตี แฮกเกอร์สามารถใช้คำสั่งแบบข้อความเพื่อกระตุ้นให้เครื่องมือทำงานผิดปกติ หรือส่งออกข้อมูลที่ละเอียดอ่อนผ่านช่องทางที่ถูกต้อง เนื่องจากความสามารถเหล่านี้ถูกออกแบบมาเพื่อความสามารถในการเข้าถึงได้ ไม่ใช่เพื่อป้องกันการโจมตี ดังนั้นแม้แต่ผู้โจมตีที่มีทักษะต่ำก็สามารถใช้ระบบ AI เพื่อทำการโจมตีที่ซับซ้อนได้โดยไม่ต้องเขียนโค้ดแม้แต่บรรทัดเดียว

วิธีการที่ AI มัลติม็อดัลกลายเป็นช่องทางในการโจมตี

LLMs กำลังกลายเป็นผู้กำกับระบบภายนอกมากขึ้น โดยมีการเชื่อมต่อที่รวมถึงทุกอย่างตั้งแต่ API ถึงอีเมล การจัดเก็บข้อมูลบนคลาวด์ และเครื่องมือในการเขียนโค้ด การเชื่อมต่อเหล่านี้มักถูกสร้างขึ้นเพื่อความสามารถในการเข้าถึงได้ ไม่ใช่เพื่อป้องกันการโจมตี

ด้านลบของสิ่งนี้คืออาจนำไปสู่การโจมตีใหม่ๆ

หนึ่งในนั้นคือการละเมิดเครื่องมือโดยใช้คำสั่งแบบข้อความ ตัวอย่างเช่น แฮกเกอร์สามารถใช้รูปภาพที่มีคำสั่งการปลอมแปลงที่แทรกไว้ในอีเมล์ เครื่องมือการรู้จำตัวอักษร (OCR) จำเป็นต้องอ่านข้อความออกมาจากภาพ เอเย่นต์จะได้รับคำสั่งให้ตอบอีเมล์และแนบแผนที่ Google ไปยังที่อยู่บ้านของเป้าหมาย ทำให้เห็นตำแหน่งของเหยื่อ

กลไกอื่นๆ คือการหลบหลีกการป้องกันแบบครอส-โมดัล ซึ่งเกี่ยวข้องกับการป้องกันที่อยู่ระหว่างจุดเริ่มต้นและจุดสิ้นสุดของเครื่องมือ ตัวอย่างเช่น การวิเคราะห์ผลลัพธ์ของเครื่องมือ OCR อาจไม่มีการป้องกันที่แข็งแกร่งพอที่จะป้องกันการปลอมแปลงที่พบจากผลลัพธ์ของมัน

ยังมีความอ่อนแอทางโครงสร้างที่สามารถถูกโจมตีได้ ประเด็นหนึ่งคือการผูกมัดที่หลวมและให้ความยินยอมมากเกินไประหว่างโมเดลและเครื่องมือภายนอกที่สามารถเรียกใช้ได้ ซึ่งหมายความว่าคำสั่งแบบข้อความที่เรียบง่ายสามารถกระตุ้นการดำเนินการที่แท้จริง เช่น การรันโค้ด การเข้าถึงไฟล์ หรือการโต้ตอบกับอีเมล์ นอกจากนี้ ระบบเหล่านี้หลายระบบยังขาดการควบคุมการเข้าถึงอย่างเข้มงวด ดังนั้น AI อาจมีความสามารถในการเขียน ลบ หรือแก้ไขข้อมูลได้มากกว่าที่มนุษย์จะอนุญาต การปัญหาเกิดความรุนแรงมากขึ้นเมื่อดูเครื่องมือและตัวขยาย MCP ซึ่งมักจะมีการป้องกันน้อยมาก เมื่อเชื่อมต่อแล้ว พวกมันจะขยายการเข้าถึงของ AI ไปยังพื้นที่จัดเก็บส่วนบุคคล ห้องจดหมาย และแพลตฟอร์มคลาวด์โดยมีการกำกับดูแลน้อยมาก เมื่อรวมกันแล้ว ความอ่อนแอทางโครงสร้างเหล่านี้สร้างสภาพแวดล้อมที่ปัญหาด้านความปลอดภัยแบบคลาสสิก เช่น การส่งออกข้อมูล การหลบหนีจากแซนด์บ็อกซ์ และแม้กระทั่งการปนเปื้อนหน่วยความจำ สามารถถูกกระตุ้นได้ด้วยคำสั่งแบบข้อความที่สร้างขึ้นอย่างชาญฉลาด

ภัยคุกคามที่เกิดขึ้นใหม่: สิ่งที่จะเกิดขึ้นต่อไป?

ในสถานการณ์ปกติใหม่นี้ การโจมตีทางอีเมล์และการเข้าใจผิดของสังคมที่ใช้ AI นั้นใกล้จะเกิดขึ้นแล้ว ปริมาณการฟิชชิ่งจะเพิ่มขึ้นเนื่องจากการใช้ LLMs โดยผู้โจมตี จุดอ่อนคือการหลบหลีกการกรองสแปมปกติจากผู้ให้บริการอีเมล เช่น Google การเชื่อมต่ออีเมลที่มีเอเย่นต์ AI เพิ่มความน่าจะเป็นที่การโจมตีทางอีเมลจะสำเร็จ มีแนวโน้มว่าจะมีการเพิ่มขึ้นของการโจมตีทางอีเมลเมื่อผู้ใช้เชื่อมต่อเอเย่นต์กับ Gmail หรือ Outlook

ผู้โจมตีสามารถสั่งให้ AI รันแคมเปญสแปมหรือฟิชชิ่งแบบจุดเป้าหมายได้ ในสถานการณ์นี้

การฟิชชิ่ง AI ต่อ AI เป็นเรื่องที่เป็นไปได้

ระบบมัลติม็อดัลมีการเพิ่มความสามารถในการรันโค้ดมากขึ้น การหลบหนีจากแซนด์บ็อกซ์ทำให้ผู้โจมตีสามารถเข้าถึงโครงสร้างพื้นฐานที่อยู่ภายใต้ได้ การหลบหนีจากแซนด์บ็อกซ์เป็นความฝันร้ายที่สุดสำหรับผู้ให้บริการ

การปนเปื้อนหน่วยความจำระยะยาวและการกระตุ้นที่ล่าช้าเป็นภัยคุกคามเพิ่มเติม หน่วยความจำที่คงอยู่ทำให้สามารถโหลดพาเลทที่ซ่อนอยู่ได้เมื่อมีการกระตุ้นในอนาคต การกระตุ้นที่ข้ามโหมด (เช่น รูปภาพหรือส่วนข้อความ) อาจทำให้เกิดพฤติกรรมที่เหมือนกับระเบิดที่ตั้งเวลา

ทำไมการโจมตีมัลติม็อดัลจึงสามารถเข้าถึงได้ง่ายและอันตรายมาก

AI ได้ทำให้ความสามารถในการโจมตีเปิดกว้างขึ้น ผู้ใช้ไม่ต้องมีทักษะในการเขียนโค้ดหรือพัฒนามัลแวร์; ภาษาธรรมชาติกลายเป็นอินเทอร์เฟซสำหรับการสร้างมัลแวร์หรือการส่งออกข้อมูล นี่หมายความว่าบุคคลที่ไม่ใช่เทคนิคสามารถสร้างมัลแวร์หรือรันแคมเปญผ่านคำสั่งได้

AI ยังช่วยให้การดำเนินการที่เป็นอันตรายเร็วขึ้นและขยายขนาดได้ เอเย่นต์มัลติม็อดัลสามารถอัตโนมัติงานที่ต้องใช้ความพยายามจากผู้เชี่ยวชาญมาก่อน โค้ด อีเมล์ การวิจัยและงานสอดแนมสามารถผลิตได้ทันที

การให้ความไว้วางใจมากเกินไปของผู้ใช้และการเปิดเผยที่ไม่ได้ตั้งใจมีส่วนช่วยให้ AI มีศักยภาพในการก่อให้เกิดอันตราย ผู้ใช้หลายคนไม่เข้าใจว่า AI สามารถเข้าถึงอะไรได้บ้าง และการตั้งค่าเริ่มต้นมักจะอนุญาตให้ AI รวมเข้ากับอีเมล์หรือเอกสารโดยอัตโนมัติ

หลักการและมาตรการสำหรับความปลอดภัยมัลติม็อดัล

องค์กรต่างๆ ต้องนำมาตรการรักษาความปลอดภัยมาใช้เพื่อป้องกันการโจมตีมัลติม็อดัล ทีมความปลอดภัยจะต้องจำกัดการเข้าถึงเครื่องมือโดยอัตโนมัติ การควบคุมแบบ Opt-in ควรถูกแทนที่ด้วยการรวมเข้าที่เปิดใช้งานโดยอัตโนมัติ พวกเขาควรใช้การเข้าถึงแบบมีสิทธิ์น้อยที่สุดสำหรับระบบที่เชื่อมต่อกับ AI ทั้งหมด และลบการเขียน/ลบการเข้าถึง ซึ่งควรรวมกฎข้ามโดเมนและรายชื่อขาว (การทำลิสต์ขาวโครงสร้างพื้นฐาน ไม่ใช่การทำลิสต์ขาวระดับ LLM)

ขั้นตอนสำคัญอีกอย่างหนึ่งคือการสร้างการป้องกันแบบชัดเจนสำหรับการเรียกใช้เครื่องมือ ควรถือเอากระบวนการตรวจสอบคำสั่งที่มีโครงสร้างและแบบข้อความ แทนที่จะใช้คำสั่งธรรมชาติ การป้องกันควรเป็นทั้งจุดเข้าและจุดออกของเครื่องมือ

หลักการและมาตรการสำคัญอื่นๆ ได้แก่:

• บังคับใช้กระบวนการอนุมัติที่เข้มงวดสำหรับการดำเนินการที่ละเอียดอ่อน
• หลีกเลี่ยงการวางข้อมูลผู้ใช้ในหน่วยความจำแบบโมเดลที่คงอยู่ ใช้การทำความสะอาดหน่วยความจำและตรวจสอบย้อนกลับโดยอัตโนมัติ
• ทำให้สภาพแวดล้อมในการรันโค้ดแข็งแกร่งและแยกออก
• ติดตามพฤติกรรมที่น่าสงสัยและการพยายามหลบหนี
• เสริมสร้างการศึกษาและความโปร่งใสของผู้ใช้
• เพิ่มการยืนยันของผู้ใช้เมื่อเอเย่นต์กำลังดำเนินการงานที่มีความเสี่ยง
• ทำให้ชัดเจนเมื่อเครื่องมือ AI เข้าถึงอีเมล์ ไฟล์ หรือทรัพยากรบนคลาวด์
• เตือนผู้ใช้เกี่ยวกับเครื่องมือที่มีความเสี่ยงสูง

การเอาชนะการโจมตีมัลติม็อดัล

เทคโนโลยี AI ได้เปลี่ยนรูปเป็นเครื่องมือในการดำเนินธุรกิจ ทำให้ภาษาธรรมชาติกลายเป็นรูปแบบของการโจมตี การรวมกันของมัลติม็อดัลและเครื่องมือที่สามารถเข้าถึงได้ ทำให้เกิดพื้นผิวที่ถูกโจมตีใหม่ โดยเปลี่ยน AI จากผู้ช่วยให้เป็นช่องทางในการโจมตี การโจมตีมัลติม็อดัลใช้ประโยชน์จากการผูกมัดที่หลวมระหว่าง LLMs และระบบภายนอกที่ควบคุม เช่น API การจัดเก็บไฟล์ และแพลตฟอร์มการทำงานอัตโนมัติ

เมื่อภัยคุกคามพัฒนา องค์กรต่างๆ จะต้องใช้กลยุทธ์ที่คำนึงถึงเส้นทางการโจมตีมัลติม็อดัลอย่างชัดเจน การเสริมสร้างการป้องกันโดยใช้แนวทางปฏิบัติที่ดีที่สุดข้างต้นเป็นสิ่งจำเป็นในการป้องกันไม่ให้เครื่องมือ AI ไม่ได้ตั้งใจให้เป็นลิงก์ในห่วงโซ่การโจมตีของแฮกเกอร์