Amanda Rousseau, Principal AI security Researcher, Straiker Amanda Rousseau Principal AI security Researcher, Straiker

การโจมตีแบบมัลติม็อดัลที่กำลังจะเกิดขึ้น: เมื่อเครื่องมือ AI กลายเป็นพื้นผิวที่ถูกโจมตีใหม่

เมื่อโมเดลภาษาขนาดใหญ่ (LLMs) พัฒนาเป็นระบบมัลติม็อดัลที่สามารถจัดการข้อความ รูปภาพ เสียง และโค้ดได้ พวกมันก็กลายเป็นผู้กำกับอุปกรณ์ภายนอกและตัวเชื่อมต่อที่ทรงพลังด้วย การพัฒนาครั้งนี้ทำให้เกิดพื้นผิวที่ถูกโจมตีใหม่ที่องค์กรต่างๆ ต้องตระหนักตัวอย่างที่ดีของสิ่งนี้คือการเข้าใจผิดของสังคม ซึ่งเอเย่นต์สามารถตกเป็นเหยื่อได้ เนื่องจากพวกมันถูกฝึกให้ทำตัวเหมือนมนุษย์ และมีความกังขาน้อยกว่า เอเย่นต์อาจไม่สามารถแยกแยะระหว่างอีเมล์ที่ปลอมกับอีเมล์ที่แท้จริงจากผู้ขายที่ถูกต้องการรวมกันของมัลติม็อดัลและเครื่องมือที่สามารถเข้าถึงได้ ทำให้ AI กลายเป็นช่องทางในการโจมตี แฮกเกอร์สามารถใช้คำสั่งแบบข้อความเพื่อกระตุ้นให้เครื่องมือทำงานผิดปกติ หรือส่งออกข้อมูลที่ละเอียดอ่อนผ่านช่องทางที่ถูกต้อง เนื่องจากความสามารถเหล่านี้ถูกออกแบบมาเพื่อความสามารถในการเข้าถึงได้ ไม่ใช่เพื่อป้องกันการโจมตี ดังนั้นแม้แต่ผู้โจมตีที่มีทักษะต่ำก็สามารถใช้ระบบ AI เพื่อทำการโจมตีที่ซับซ้อนได้โดยไม่ต้องเขียนโค้ดแม้แต่บรรทัดเดียววิธีการที่ AI มัลติม็อดัลกลายเป็นช่องทางในการโจมตีLLMs กำลังกลายเป็นผู้กำกับระบบภายนอกมากขึ้น...