สภาพความปลอดภัยของ AI ในปี 2025: ข้อค้นพบหลักจากรายงานของ Cisco

เมื่อมีการนำ AI มาใช้มากขึ้น การทำความเข้าใจความเสี่ยงด้านความปลอดภัยของ AI จึงมีความสำคัญมากขึ้น AI กำลังเปลี่ยนแปลงอุตสาหกรรมและกระบวนการทำงาน แต่ก 也นำเสนอความท้าทายด้านความปลอดภัยที่องค์กรต่างๆ ต้องจัดการ การปกป้องระบบ AI จึงจำเป็นต่อการรักษาความไว้วางใจ การปกป้องความเป็นส่วนตัว และการดำเนินธุรกิจอย่างราบรื่น บทความนี้สรุปข้อค้นพบหลักจากรายงาน “สภาพความปลอดภัยของ AI ในปี 2025” ของ Cisco ซึ่งให้ภาพรวมของสถานะความปลอดภัยของ AI ในปัจจุบันและข้อที่ควรพิจารณาในอนาคต

ความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้นของ AI

หากปี 2024 สอนเราเรื่องใด ก็คือการนำ AI มาใช้กำลังดำเนินไปเร็วกว่าที่หลายองค์กรสามารถรักษาความปลอดภัยได้ รายงานของ Cisco ระบุว่าประมาณ 72% ขององค์กรใช้ AI ในการดำเนินธุรกิจ แต่มีเพียง 13% เท่านั้นที่รู้สึกพร้อมที่จะใช้ AI อย่างปลอดภัย ช่องว่างระหว่างการนำ AI มาใช้และการเตรียมพร้อมด้านความปลอดภัยนี้ส่วนใหญ่เกิดจากความกังวลด้านความปลอดภัย ซึ่งเป็นอุปสรรคหลักต่อการนำ AI มาใช้ในองค์กรมากขึ้น สิ่งที่ทำให้สถานการณ์นี้น่ากังวลมากขึ้นคือ AI นำเสนอความเสี่ยงใหม่ๆ ที่วิธีการรักษาความปลอดภัยแบบเดิมไม่สามารถจัดการได้อย่างเต็มที่ ไม่เหมือนกับการรักษาความปลอดภัยแบบเดิมที่ป้องกันระบบที่มีการกำหนดไว้ AI นำเสนอความเสี่ยงแบบไดนามิกและปรับเปลี่ยนได้ ซึ่งยากต่อการคาดการณ์ รายงานเน้นย้ำถึงความเสี่ยงใหม่ๆ ที่องค์กรควรต้องรู้จัก

• การโจมตีระบบโครงสร้างพื้นฐาน: ระบบโครงสร้างพื้นฐานของ AI ได้กลายเป็นเป้าหมายหลักสำหรับผู้โจมตี ตัวอย่างที่น่าสังเกตคือการโจมตี NVIDIA Container Toolkit (NVDA ) ซึ่งทำให้ผู้โจมตีสามารถเข้าถึงระบบไฟล์ รันโค้ดที่เป็นอันตราย และเพิ่มสิทธิ์การใช้งานได้ ในทำนองเดียวกัน Ray ซึ่งเป็นเฟรมเวิร์ก AI ที่เปิด源สำหรับการจัดการ GPU ถูกโจมตีในหนึ่งในการโจมตีเฟรมเวิร์ก AI ในโลกแห่งความเป็นจริงครั้งแรก เหตุการณ์เหล่านี้แสดงให้เห็นว่าจุดอ่อนในโครงสร้างพื้นฐานของ AI สามารถส่งผลกระทบต่อผู้ใช้และระบบหลายรายได้
• ความเสี่ยงในห่วงโซ่อุปทาน: ความเสี่ยงในห่วงโซ่อุปทานของ AI เป็นเรื่องที่น่ากังวลอีกประการหนึ่ง ประมาณ 60% ขององค์กรพึ่งพาส่วนประกอบหรือระบบนิเวศ AI ที่เปิด源 ซึ่งสร้างความเสี่ยงเนื่องจากผู้โจมตีสามารถโจมตีส่วนประกอบเหล่านี้ได้ รายงานกล่าวถึงเทคนิคที่เรียกว่า “Sleepy Pickle” ซึ่งช่วยให้ผู้โจมตีสามารถดัดแปลงโมเดล AI ได้แม้หลังจากการกระจายสินค้าแล้ว ทำให้การตรวจจับเป็นเรื่องที่ยากมาก
• การโจมตีแบบเฉพาะของ AI: เทคนิคการโจมตีใหม่ๆ กำลังพัฒนาอย่างรวดเร็ว วิธีการเช่นการฉีดข้อความ การโจมตีแบบเจลเบรก และการดึงข้อมูลฝึกอบรมช่วยให้ผู้โจมตีสามารถหลบหลีกการควบคุมความปลอดภัยและเข้าถึงข้อมูลที่ละเอียดอ่อนภายในเซตข้อมูลฝึกอบรม

เวกเตอร์การโจมตีที่มุ่งเป้าไปที่ระบบ AI

รายงานเน้นย้ำถึงการเกิดขึ้นของเวกเตอร์การโจมตีที่ผู้โจมตีใช้เพื่อใช้ประโยชน์จากจุดอ่อนในระบบ AI การโจมตีเหล่านี้สามารถเกิดขึ้นที่หลายขั้นตอนของวงจรชีวิตของ AI ตั้งแต่การรวบรวมข้อมูล การฝึกอบรมโมเดล ไปจนถึงการปรับใช้และการอนุมาน เป้าหมายมักคือการทำให้ AI มีพฤติกรรมที่ไม่ได้ตั้งใจ สูญเสียข้อมูลส่วนบุคคล หรือดำเนินการอันตราย

เมื่อไม่กี่ปีที่ผ่านมา วิธีการโจมตีเหล่านี้ได้กลายเป็นแบบที่ซับซ้อนและยากต่อการตรวจจับมากขึ้น รายงานเน้นย้ำถึงหลายประเภทของเวกเตอร์การโจมติ

• การโจมตีแบบเจลเบรก: เทคนิคนี้เกี่ยวข้องกับการสร้างข้อความที่เป็นอันตรายที่สามารถหลบหลีกการควบคุมความปลอดภัยของโมเดลได้ แม้จะมีการปรับปรุงการป้องกัน AI ของเรา แต่การวิจัยของ Cisco แสดงให้เห็นว่าการโจมตีแบบเจลเบรกที่ง่ายๆ ยังคงมีประสิทธิภาพต่อโมเดลที่ซับซ้อนเช่น DeepSeek R1
• การฉีดข้อความทางอ้อม: ไม่เหมือนกับการโจมตีแบบตรง การฉีดข้อความทางอ้อมเกี่ยวข้องกับการดัดแปลงข้อมูลอินพุตหรือบริบทที่โมเดล AI ใช้ทางอ้อม ผู้โจมตีอาจจัดหาวัสดุอินพุตที่ถูกบุกรุก เช่น PDF หรือเว็บเพจที่เป็นอันตราย ทำให้ AI สร้างผลลัพธ์ที่ไม่ได้ตั้งใจหรือเป็นอันตราย การโจมตีเหล่านี้มีอันตรายเป็นพิเศษเพราะไม่ต้องการการเข้าถึงระบบ AI โดยตรง ทำให้ผู้โจมตีสามารถหลบหลีกการป้องกันแบบเดิมๆ ได้
• การดึงข้อมูลฝึกอบรมและการทำลายข้อมูล: นักวิจัยของ Cisco ได้แสดงให้เห็นว่าสามารถหลอกให้แชทบอทเปิดเผยส่วนหนึ่งของเซตข้อมูลฝึกอบรมได้ สิ่งนี้ทำให้เกิดความกังวลอย่างรุนแรงเกี่ยวกับความเป็นส่วนตัวของข้อมูล สิทธิ์ในทรัพย์สินทางปัญญา และการปฏิบัติตามกฎระเบียบ ผู้โจมตียังสามารถทำลายข้อมูลฝึกอบรมได้โดยการฉีดข้อมูลอินพุตที่เป็นอันตราย ซึ่งน่าตกใจคือการทำลายข้อมูลเพียง 0.01% ของเซตข้อมูลขนาดใหญ่ เช่น LAION-400M หรือ COYO-700M สามารถส่งผลต่อพฤติกรรมของโมเดลได้ และสามารถทำได้ด้วยงบประมาณที่ค่อนข้างต่ำ (ประมาณ 60 ดอลลาร์สหรัฐฯ) ทำให้การโจมตีเหล่านี้เข้าถึงได้ง่ายสำหรับผู้โจมตีหลายคน

รายงานเน้นย้ำถึงความกังวลอย่างรุนแรงเกี่ยวกับสภาพปัจจุบันของการโจมตีเหล่านี้ โดยนักวิจัยสามารถโจมตีโมเดลที่ซับซ้อนเช่น DeepSeek R1 และ Llama 2 ได้สำเร็จ 100% สิ่งนี้แสดงให้เห็นถึงช่องโหว่ด้านความปลอดภัยที่สำคัญและความเสี่ยงที่อาจเกิดขึ้นที่เกี่ยวข้องกับการใช้งาน นอกจากนี้ รายงานยังระบุถึงการเกิดขึ้นของการโจมตีใหม่ๆ เช่น การโจมตีแบบเจลเบรกด้วยเสียง ซึ่งออกแบบมาเพื่อโจมตีโมเดล AI แบบหลายรูปแบบ

ผลการวิจัยด้านความปลอดภัยของ AI ของ Cisco

ทีมวิจัยของ Cisco ได้ประเมินหลายด้านของความปลอดภัย AI และพบผลการวิจัยที่สำคัญหลายประการ

• การโจมตีแบบเจลเบรกด้วยอัลกอริทึม: นักวิจัยแสดงให้เห็นว่าสามารถหลอกโมเดล AI ที่ดีที่สุดได้โดยอัตโนมัติ โดยใช้วิธีการที่เรียกว่า Tree of Attacks with Pruning (TAP) นักวิจัยสามารถหลบหลีกการป้องกันใน GPT-4 และ Llama 2
• ความเสี่ยงในการปรับโมเดล: หลายองค์กรปรับโมเดลพื้นฐานเพื่อปรับปรุงความเกี่ยวข้องสำหรับโดเมนส่วนบุคคล อย่างไรก็ตาม นักวิจัยพบว่าการปรับโมเดลสามารถทำให้การป้องกันภายในอ่อนแอลงได้ โมเดลที่ปรับแล้วมีความเสี่ยงต่อการโจมตีแบบเจลเบรกมากกว่า 3 เท่า และมีแนวโน้มที่จะสร้างเนื้อหาที่เป็นอันตรายมากกว่า 22 เท่าเมื่อเทียบกับโมเดลเดิม
• การดึงข้อมูลฝึกอบรม: นักวิจัยของ Cisco ใช้วิธีการที่เรียกว่าการแยกย่อยเพื่อหลอกให้แชทบอทสร้างส่วนหนึ่งของบทความข่าว ซึ่งช่วยให้พวกเขาสามารถสร้างแหล่งที่มาของเนื้อหานั้นได้ สิ่งนี้ทำให้เกิดความเสี่ยงต่อการเปิดเผยข้อมูลที่ละเอียดอ่อนหรือเป็นทรัพย์สินทางปัญญา
• การทำลายข้อมูล: ทีมของ Cisco แสดงให้เห็นว่าการทำลายข้อมูลขนาดใหญ่บนเว็บนั้นเป็นเรื่องที่ง่ายและไม่แพง นักวิจัยสามารถทำลายข้อมูลได้เพียง 0.01% ของเซตข้อมูล เช่น LAION-400M หรือ COYO-700M ด้วยงบประมาณเพียง 60 ดอลลาร์สหรัฐฯ นอกจากนี้ยังเน้นย้ำว่าการทำลายข้อมูลในระดับนี้สามารถทำให้เกิดการเปลี่ยนแปลงที่สังเกตได้ในพฤติกรรมของโมเดล

บทบาทของ AI ในการก่ออาชญากรรมทางไซเบอร์

AI ไม่เพียงแต่เป็นเป้าหมายเท่านั้น แต่ยังเป็นเครื่องมือสำหรับผู้ก่ออาชญากรรมทางไซเบอร์ด้วย รายงานระบุว่าระบบอัตโนมัติและวิศวกรรมสังคมที่ขับเคลื่อนด้วย AI ทำให้การโจมตีมีประสิทธิภาพและยากต่อการตรวจจับมากขึ้น ตั้งแต่การหลอกลวงไปจนถึงการปลอมแปลงเสียง AI ช่วยให้ผู้ก่ออาชญากรรมสร้างการโจมตีที่น่าเชื่อถือและปรับเปลี่ยนได้ รายงานยังระบุถึงการเกิดขึ้นของเครื่องมือ AI ที่เป็นอันตราย เช่น “DarkGPT” ซึ่งออกแบบมาเพื่อช่วยเหลือการก่ออาชญากรรมทางไซเบอร์โดยการสร้างอีเมลหลอกลวงหรือใช้ประโยชน์จากช่องโหว่ สิ่งที่ทำให้เครื่องมือเหล่านี้น่ากังวลเป็นพิเศษคือความสามารถในการเข้าถึงได้ แม้กระทั่งผู้ก่ออาชญากรรมที่มีทักษะต่ำก็สามารถสร้างการโจมตีที่ปรับเปลี่ยนได้และหลบหลีกการป้องกันแบบเดิมๆ ได้

แนวทางปฏิบัติที่ดีที่สุดสำหรับการรักษาความปลอดภัยของ AI

โดยคำนึงถึงธรรมชาติที่เปลี่ยนแปลงอย่างรวดเร็วของความปลอดภัย AI Cisco แนะนำขั้นตอนปฏิบัติที่เป็นประโยชน์หลายประการสำหรับองค์กร

1. จัดการความเสี่ยงตลอดวงจรชีวิตของ AI: มีความสำคัญที่จะระบุและลดความเสี่ยงในแต่ละขั้นตอนของวงจรชีวิต AI ตั้งแต่การรวบรวมข้อมูล การฝึกอบรมโมเดล ไปจนถึงการปรับใช้และการตรวจสอบ ซึ่งรวมถึงการรักษาความปลอดภัยของส่วนประกอบจากบุคคลที่สาม การใช้การป้องกันที่เข้มงวด และการควบคุมจุดเข้าถึงอย่างเข้มงวด
2. ใช้แนวทางปฏิบัติด้านความปลอดภัยที่มีอยู่: แม้ว่า AI จะมีลักษณะเฉพาะตัว แต่แนวทางปฏิบัติด้านความปลอดภัยแบบเดิมก็ยังคงจำเป็นเท่านั้น เทคนิค เช่น การควบคุมการเข้าถึง การจัดการสิทธิ์ และการป้องกันการสูญเสียข้อมูล สามารถมีบทบาทสำคัญ
3. มุ่งเน้นไปที่พื้นที่ที่อ่อนแอ: องค์กรควรให้ความสนใจกับพื้นที่ที่มีแนวโน้มว่าจะถูกโจมตี เช่น ห่วงโซ่อุปทานและการใช้งาน AI ของบุคคลที่สาม โดยการทำความเข้าใจว่าจุดอ่อนเหล่านี้อยู่ที่ไหน องค์กรสามารถดำเนินการป้องกันที่มุ่งเน้นได้
4. ให้ความรู้และฝึกอบรมพนักงาน: เมื่อเครื่องมือ AI กลายเป็นที่นิยม องค์กรควรให้ความรู้แก่ผู้ใช้เกี่ยวกับการใช้ AI ที่มีความรับผิดชอบและความตระหนักถึงความเสี่ยง พนักงานที่มีความรู้ดีจะช่วยลดการเปิดเผยข้อมูลโดยไม่ตั้งใจและการใช้งานที่ไม่เหมาะสม

มองไปข้างหน้า

การนำ AI มาใช้จะยังคงเติบโต และความเสี่ยงด้านความปลอดภัยจะพัฒนาไปตามนั้น รัฐบาลและองค์กรทั่วโลกกำลังตระหนักถึงความท้าทายเหล่านี้และเริ่มสร้างนโยบายและข้อบังคับเพื่อชี้แนะความปลอดภัยของ AI ตามที่รายงานของ Cisco เน้นย้ำ การสร้างสมดุลระหว่างความปลอดภัยของ AI และความก้าวหน้าจะกำหนดยุคใหม่ของการพัฒนาและใช้งาน AI องค์กรที่ให้ความสำคัญกับความปลอดภัยควบคู่ไปกับการ đổiใหม่จะพร้อมที่สุดในการจัดการกับความท้าทายและใช้โอกาสที่เกิดขึ้น