Radoslaw Madej, หัวหน้าทีมวิจัยความปลอดภัยของ Check Point Research Radoslaw Madej หัวหน้าทีมวิจัยความปลอดภัยของ Check Point Research

ความอ่อนไหวด้านความปลอดภัยที่เราสร้างขึ้น: ตัวแทน AI และปัญหาเรื่องการเชื่อฟัง

ตัวแทน AI ที่ใช้ LLM กำลังแนะนำชั้นความอ่อนไหวใหม่ โดยที่ผู้โจมตีจะฉีดคำสั่งอันชั่วร้ายเข้าไปในข้อมูล ทำให้ระบบที่มีประโยชน์กลายเป็นเพื่อนร่วมทางที่ไม่รู้ตัวไมโครซอฟท์ Copilot ไม่ได้ถูกแฮ็กในความหมายทั่วไป ไม่มีแมลแวร์ ไม่มีลิงก์ถึงการฟิชชิ่ง ไม่มีโค้ดอันชั่วร้าย ไม่มีใครคลิกอะไรหรือใช้เอ็ก...