DeepKeep ค้นพบ ‘InkJect’ การโจมตี AI ใหม่ที่ซ่อนคำสั่งอันชั่วร้ายไว้ภายในรูปภาพ

เมื่อองค์กรต่างๆ เริ่มใช้ AI แบบหลายรูปแบบที่สามารถเข้าใจทั้งภาษาและรูปภาพได้ นักวิจัยด้านความปลอดภัยกำลังค้นพบว่าความสามารถใหม่เหล่านี้นำพาไปสู่พื้นที่การโจมตีใหม่ที่ซับซ้อนเช่นกัน บริษัท DeepKeep จากอิสราเอลที่เชี่ยวชาญด้านความปลอดภัย AI ได้เผยเทคนิคการโจมตีใหม่ที่ไม่เคยถูกบันทึกมาก่อน โดยใช้ชื่อว่า InkJect ซึ่งแสดงให้เห็นว่าคำสั่งอันชั่วร้ายที่ซ่อนอยู่ในรูปภาพที่ดูเหมือนเป็นภาพทั่วไปสามารถหลอกลวงโมเดลภาษา-ภาพ (VLMs) ที่มีชื่อเสียงได้ และหลบเลี่ยงการป้องกันการโจมตีแบบดั้งเดิม

ตามรายงานการวิจัยของ DeepKeep รายงาน พบว่าช่องโหว่นี้ส่งผลต่อโมเดลหลายรูปแบบที่ทันสมัย รวมถึง GPT-5.2 และ GPT-5.4 Mini ของ OpenAI และ Claude Sonnet 4.6 และ Claude Opus 4.5 ของ Anthropic การค้นพบเหล่านี้เปิดเผยจุดอ่อนที่สำคัญในด้านความปลอดภัยของ AI ซึ่งอุตสาหกรรมได้ลงทุนอย่างมากในการปกป้องการโต้ตอบแบบข้อความ แต่ยังไม่ได้ให้ความสนใจมากนักต่อชั้นการให้เหตุผลด้านภาพที่เพิ่มขึ้นในระบบ AI สมัยใหม่

การวิวัฒนาการใหม่ของการโจมตีแบบ Prompt Injection

การโจมตีแบบ Prompt Injection ในแบบดั้งเดิมพยายามที่จะควบคุมโมเดล AI โดยใช้ข้อความที่สร้างขึ้นอย่างรอบคอบซึ่งสามารถบันทึกคำสั่งเดิมได้ ในช่วงสองปีที่ผ่านมา ผู้ให้บริการ AI ชั้นนำได้ลงทุนอย่างมากในการสร้างเครื่องมือป้องกันการโจมตีเหล่านี้ก่อนที่โมเดลจะสามารถดำเนินการตามคำสั่งได้

InkJect ใช้เส้นทางที่แตกต่างออกไปโดยสิ้นเชิง แทนที่จะสื่อสารโดยตรงผ่านข้อความ ผู้โจมตีจะซ่อนคำสั่งอันชั่วร้ายไว้ภายในรูปภาพที่กลายเป็นส่วนหนึ่งของกระบวนการทำงานปกติของ AI รูปภาพเหล่านั้นอาจถูกเก็บไว้ในที่เก็บข้อมูลสาธารณะ GitHub, หน้าเอกสาร, สินทรัพย์ออกแบบ, แผนภาพ, หรือทรัพยากรภาพอื่นๆ ที่ผู้ช่วย AI และตัวแทนอัตโนมัติรoutinely เรียกใช้ขณะทำงานตามคำสั่ง hợp法 จากมุมมองของผู้ใช้ ไม่มีอะไรดูผิดปกติ AI จะประมวลผลรูปภาพเป็นเพียงข้อมูลบริบทอีกชิ้นหนึ่งโดยไม่ตระหนักว่ามีคำสั่งซ่อนอยู่

การเอาเปรียบความสามารถในการมองเห็นของ AI

สิ่งที่ทำให้ InkJect มีประสิทธิภาพคือการโจมตีหนึ่งในความสามารถใหม่ล่าสุดของระบบ AI สมัยใหม่: การเข้าใจภาพ

โมเดลภาษา-ภาพสามารถทำการรู้จำตัวอักษรแบบดิจิทัลที่ซับซ้อนเป็นอย่างดีในการตีความภาพ ทำให้สามารถอ่านข้อความที่ฝังอยู่ในแผนภาพ, สกรีนช็อต, ภาพถ่าย, และการออกแบบอินเทอร์เฟซได้ DeepKeep ค้นพบว่าความสามารถเหล่านี้มักจะเกินความสามารถของเครื่องมือรักษาความปลอดภัยแบบดั้งเดิมที่ใช้ในการตรวจสอบภาพที่อัปโหลด

นักวิจัยได้แสดงให้เห็นว่าคำสั่งอันชั่วร้ายสามารถซ่อนได้โดยใช้เทคนิคต่างๆ เช่น ข้อความสีขาวบนพื้นหลังสีขาว, ตัวอักษรที่มีความคอนทราสต์ต่ำมาก, การบิดเบือนมุมมอง, และการบิดเบือนตัวอักษร ในขณะที่เครื่องมือรักษาความปลอดภัยแบบดั้งเดิมมักจะล้มเหลวในการตระหนักถึงคำสั่งซ่อนเหล่านี้ โมเดล AI เองก็สามารถตีความคำสั่งเหล่านั้นได้โดยไม่มีปัญหา ทำให้เกิดความไม่สมดุลที่อันตรายที่ซอฟต์แวร์รักษาความปลอดภัยสรุปว่ารูปภาพนั้นไม่มีอันตราย ในขณะที่ AI เองก็สามารถดึงคำสั่งและดำเนินการตามคำสั่งได้โดยไม่มีการตรวจจับจากเครื่องมือหรือผู้ใช้

การโจมตีแบบ Indirect Prompt Injection ทำให้ภัยคุกคามนี้ยิ่งอันตรายมากขึ้น

ไม่เหมือนกับการโจมตีไซเบอร์ส่วนใหญ่ที่ต้องการการเข้าถึงระบบเป้าหมายโดยตรง InkJect ใช้เทคนิคที่นักวิจัยเรียกว่า การโจมตีแบบ Indirect Prompt Injection แทนที่จะอัปโหลดภาพที่มีคำสั่งอันชั่วร้ายโดยตรงเข้าสู่แอปพลิเคชัน AI ผู้โจมตีเพียงแค่วางภาพไว้ในที่เก็บข้อมูลสาธารณะหรือทรัพยากรออนไลน์

ต่อมา เมื่อนักพัฒนาขอให้ผู้ช่วย AI สร้างฟีเจอร์โดยใช้ที่เก็บข้อมูลหรือวิเคราะห์ข้อมูล โมเดลจะดึงรูปภาพนั้นมาเป็นส่วนหนึ่งของกระบวนการทำงานปกติ โดยไม่ต้องรู้ว่ามีคำสั่งเพิ่มเติมเข้ามาในกระบวนการ

วิธีการโจมตีนี้น่ากังวลเป็นพิเศษ เนื่องจากตัวแทน AI สมัยใหม่กำลังดึงทรัพยากรภายนอกโดยอัตโนมัติ ทุกที่เก็บข้อมูลสาธารณะ, หน้าเอกสาร, หรือทรัพยากรที่ใช้ร่วมกันอาจกลายเป็นช่องทางสำหรับคำสั่งอันชั่วร้ายที่จะเข้าสู่ระบบ AI

คำขอโค้ดที่ง่ายแต่มีผลกระทบอย่างรุนแรง

DeepKeep ได้แสดงให้เห็นถึงผลกระทบโดยใช้สถานการณ์การพัฒนาซอฟต์แวร์ที่ดูเหมือนจะปกติ

นักพัฒนาสั่งให้ผู้ช่วย AI สร้างเว็บเพจข้อมูลพื้นฐาน ไม่ทราบว่ารูปภาพที่อ้างอิงมีคำสั่งซ่อนอยู่ แทนที่จะสร้างเพียงเว็บเพจตามที่ขอ AI ก็เพิ่มระบบเข้าสู่ระบบสมาชิกที่สมบูรณ์พร้อมข้อมูลประจำตัวผู้ดูแลระบบและตรรกะการตรวจสอบย้อนกลับ

เว็บเพจนั้นทำงานตามที่คาดหวังโดยไม่มีเหตุผลให้นักพัฒนาสงสัยว่ามีการเพิ่มโค้ดเพิ่มเติม หากไม่มีการตรวจสอบความปลอดภัยอย่างละเอียด backdoor ที่ไม่ได้รับอนุญาตนั้นอาจถูกนำไปใช้ในการผลิต ทำให้ผู้โจมตีมีการเข้าถึงในระดับผู้ดูแลระบบโดยที่ไม่มีใครตั้งใจให้ทำเช่นนั้น

การแสดงให้เห็นนี้เน้นย้ำถึงความแตกต่างระหว่างการโจมตี AI ในรูปแบบใหม่กับการโจมตีในอดีต แทนที่จะเพียงแค่มีอิทธิพลต่อการตอบสนองของแชทบอท คำสั่งซ่อนในรูปภาพสามารถควบคุมโค้ดที่สร้างขึ้น, แนะนำช่องโหว่ด้านความปลอดภัย, เปลี่ยนแปลงกระบวนการทำงานอัตโนมัติ, และอาจทำให้ระบบองค์กรตกอยู่ในความเสี่ยง

เหตุใดการป้องกัน AI ที่มีอยู่จึงพลาดการโจมตี

การวิจัยเน้นย้ำถึงจุดอ่อนทางสถาปัตยกรรมในด้านความปลอดภัยของ AI ในปัจจุบัน การป้องกันส่วนใหญ่ถูกออกแบบมาเพื่อตรวจสอบคำสั่งภาษาเขียนก่อนที่จะถึงโมเดล

การป้อนข้อมูลภาพตามปกติจะผ่านการประมวลผลที่แตกต่างออกไป

DeepKeep พบว่าโมเดลหลายรูปแบบที่ด้านหน้าปฏิเสธการโจมตีแบบเดียวกันเมื่อนำเสนอเป็นข้อความ แต่รับคำสั่งเหล่านั้นเมื่อฝังอยู่ในรูปภาพ ในผลลัพธ์ ผู้โจมตีสามารถหลบเลี่ยงการป้องกันโดยการเปลี่ยนสื่อที่ส่งคำสั่ง

เมื่อ AI แบบหลายรูปแบบกลายเป็นหน้าจัดการองค์กรมาตรฐาน ความแตกต่างนี้มีความสำคัญมากขึ้น ระบบความปลอดภัยไม่สามารถถือว่าคำสั่งอันตรายมาจากข้อความเท่านั้น

เหตุผลที่องค์กรควรให้ความสนใจ

การวิจัยของ DeepKeep สอดคล้องกับการเปลี่ยนแปลงที่ใหญ่กว่าที่เกิดขึ้นใน AI องค์กร การคาดการณ์ของอุตสาหกรรมชี้ให้เห็นว่าระบบหลายรูปแบบที่สามารถเข้าใจภาพ, เอกสาร, วิดีโอ, และข้อความจะกลายเป็นมาตรฐานในด้านการพัฒนาซอฟต์แวร์, บริการทางการเงิน, การดูแลสุขภาพ, การผลิต, การสนับสนุนลูกค้า, และการ автоматизะซั่นธุรกิจ

ไม่เหมือนกับแชทบอทสำหรับผู้บริโภค ระบบ AI องค์กรมักจะทำงานด้วยสิทธิ์ในการเข้าถึงข้อมูลที่สูงกว่า พวกมันสามารถดึงเอกสารที่เป็นความลับ, เขียนโค้ด, เรียกใช้ API, สื่อสารกับโครงสร้างพื้นฐานบนคลาวด์, วิเคราะห์เอกสารที่มีความลับ, และตัดสินใจแทนผู้ใช้ ดังนั้น คำสั่งซ่อนในรูปภาพจึงไม่ใช่แค่เรื่องน่าสนใจเท่านั้น แต่ยังเป็นการนำไปสู่ความเสี่ยงด้านความปลอดภัยขององค์กรที่สามารถส่งผลกระทบต่อระบบจริง

แนวทางของ DeepKeep ในด้านความปลอดภัยของ AI

DeepKeep ก่อตั้งขึ้นในปี 2021 และมุ่งเน้นไปที่การรักษาความปลอดภัยของ AI ตลอดทั้งชีวิตการทำงาน ตั้งแต่การประเมินและการทดสอบโมเดล ไปจนถึงการป้องกันและการรักษาความปลอดภัยในการใช้งาน แทนที่จะเน้นไปที่โมเดลภาษาขนาดใหญ่เพียงอย่างเดียว แพลตฟอร์มของ DeepKeep ได้รับการออกแบบมาเพื่อปกป้องระบบ AI หลายรูปแบบ, ตัวแทน AI อัตโนมัติ, แอปพลิเคชันการมองเห็นคอมพิวเตอร์, และการนำ AI ไปใช้ในองค์กร

แพลตฟอร์มความปลอดภัยของ DeepKeep รวมถึงหลายชั้นของการป้องกัน เช่น ไฟร์วอลล์ AI ที่ตรวจสอบการอนุมานในเวลาจริง, การทดสอบการโจมตี AI แบบอัตโนมัติที่ค้นหาช่องโหว่ด้านความปลอดภัยก่อนการนำไปใช้, สแกนเนอร์ตัวแทน AI ที่วิเคราะห์กระบวนการทำงานอัตโนมัติสำหรับเส้นทางการโจมตี, ความสามารถในการสแกนโมเดลที่ประเมินโซ่จัดหาอุปกรณ์ AI สำหรับความเสี่ยงด้านความปลอดภัย, และ AI Lens ที่ให้ความสามารถในการมองเห็นแก่องค์กรว่าพนักงานและแอปพลิเคชันกำลังใช้ AI อย่างไรทั่วทั้งองค์กร

เมื่อองค์กรต่างๆ ยังคงรวม AI เข้ากับกระบวนการทำงานที่สำคัญยิ่งขึ้น ยุทธวิธีของ DeepKeep สะท้อนถึงการยอมรับที่เพิ่มขึ้นว่าการรักษาความปลอดภัยของ AI ต้องปกป้องทุกขั้นตอนของวิธีที่โมเดลรับ, ประมวลผล, และดำเนินการตามข้อมูล – ไม่ใช่แค่การกรองคำสั่งที่ผู้ใช้พิมพ์เท่านั้น

ด้านหน้าใหม่ของความปลอดภัย AI

InkJect อาจจะถูกจดจำมากกว่าการโจมตีแบบ Prompt Injection เทคนิคหนึ่ง มันเน้นย้ำถึงว่าความก้าวหน้าอย่างรวดเร็วของ AI หลายรูปแบบกำลังเปลี่ยนแปลงภูมิทัศน์ด้านความปลอดภัยไซเบอร์อย่างไร

เมื่อโมเดลมีความสามารถในการมองเห็น, การให้เหตุผล, การดึงข้อมูล, และการทำงานอัตโนมัติมากขึ้น ผู้โจมตีจะพยายามหาวิธีใหม่ๆ ในการเอาเปรียบทุกโหมดที่ระบบเหล่านั้นเข้าใจได้ รูปภาพ, แผนภาพ, PDF, เว็บไซต์, และทรัพยากรภาพอื่นๆ สามารถกลายเป็นยานพาหนะสำหรับคำสั่งซ่อนที่เครื่องมือรักษาความปลอดภัยแบบดั้งเดิมอาจไม่เคยตรวจจับได้

DeepKeep ได้เผยผลการวิจัยให้กับ OpenAI และ Anthropic เพื่อให้พวกเขาได้เสริมสร้างการป้องกันการโจมตีในรูปแบบใหม่นี้ ไม่ว่า InkJect จะเป็นตัวอย่างแรกของชั้นการโจมตีใหม่ของการโจมตีแบบ Prompt Injection ที่หลากหลายหรือไม่ การค้นพบของมันเตือนให้เห็นถึงความจำเป็นที่ความปลอดภัยของ AI จะต้องพัฒนาอย่างรวดเร็วเท่ากับการพัฒนาของ AI เอง เมื่อโมเดลเรียนรู้ที่จะเข้าใจโลกที่มองเห็นได้ด้วยความซับซ้อนที่เพิ่มขึ้น ระบบความปลอดภัยจะต้องสามารถป้องกันการโจมตีได้ในระดับเดียวกัน