ความปลอดภัยไซเบอร์
DeepKeep เพิ่มแนวป้องกันการทำงานแบบเรียลไทม์สำหรับเอเจนต์การเขียนโค้ด AI ด้วย AI Lens for Developers

ประเด็นสำคัญเอเจนต์เขียนโค้ดได้รับสิทธิ์การเข้าถึงในฐานะนักพัฒนาที่ทรงพลัง…
ดูเพิ่มเติม
- เอเจนต์เขียนโค้ดได้รับสิทธิ์การเข้าถึงในฐานะนักพัฒนาที่ทรงพลัง ซึ่งทีมความปลอดภัยไม่สามารถสังเกตหรือควบคุมได้ง่าย
- AI Lens ตรวจสอบพรอมต์และคำสั่งก่อนการทำงาน เพื่อให้การกระทำที่เป็นอันตรายถูกบล็อกได้ แทนที่จะเพียงแค่บันทึกไว้ในบันทึก
- นโยบายแบบศูนย์กลางช่วยให้บริษัทบังคับใช้แนวป้องกันที่สอดคล้องกัน ขณะที่นักพัฒนายังคงใช้เวิร์กโฟลว์แบบเอเจนต์ได้ตามปกติ
DeepKeep ได้เปิดตัว AI Lens for Developers ซึ่งเป็นชั้นความปลอดภัยที่ออกแบบมาเพื่อให้ CISOs มีการมองเห็นและควบคุมนโยบายต่อเอเจนต์การเขียนโค้ด AI ที่ทำงานบนเครื่องของนักพัฒนา ผลิตภัณฑ์นี้ขยายความสามารถในการควบคุมการใช้ AI และการป้องกันระหว่างการทำงานที่มีอยู่ของ DeepKeep ไปยังเครื่องมือเช่น Cursor และ Claude Code โดยมีแผนรองรับ GitHub Copilot, OpenAI Codex, Lovable, Windsurf และเอเจนต์การเขียนโค้ดอื่น ๆ
การเปิดตัวนี้ตอบสนองต่อปัญหาความปลอดภัยที่เกิดจากการเพิ่มความอิสระของเครื่องมือสำหรับนักพัฒนา เอเจนต์การเขียนโค้ดสมัยใหม่สามารถตรวจสอบและแก้ไขไฟล์ในเครื่อง, เรียกใช้คำสั่งเชลล์และเรียกใช้บริการภายนอกผ่าน Model Context Protocol (MCP) สิทธิ์เหล่านี้ทำให้เครื่องมือมีประโยชน์ แต่ก็ทำให้เอเจนต์สามารถเปิดเผยข้อมูลรับรอง, เปลี่ยนโค้ดที่สำคัญ หรือโต้ตอบกับระบบที่อยู่นอกขอบเขตการควบคุมที่ทีมความปลอดภัยโดยทั่วไปใช้กับแอปพลิเคชันคลาวด์
ผลลัพธ์คือช่องว่างในการมองเห็นที่ขยายออกไป บริษัทอาจอนุมัติผู้ช่วยการเขียนโค้ดเป็นผลิตภัณฑ์ในขณะที่มีหลักฐานน้อยเกี่ยวกับสิ่งที่เอเจนต์แต่ละตัวทำในช่วงเวลาหนึ่ง ตามที่ Unite.AI ได้สำรวจเมื่อเร็ว ๆ นี้ ทีมความปลอดภัยต้องการติดตามการเรียกใช้เครื่องมือของเอเจนต์, การดำเนินการคำสั่งและเหตุการณ์ที่เปลี่ยนแปลงระบบมากขึ้น ไม่ใช่เพียงแค่รักษารายการบริการ AI ที่ได้รับการอนุมัติ
การตรวจสอบการกระทำของเอเจนต์ก่อนและหลังการดำเนินการ
AI Lens for Developers ถูกสร้างเป็นปลั๊กอินแบบเบาแทนการเป็นเอเจนต์ปลายทางเต็มรูปแบบ DeepKeep กล่าวว่า มันเชื่อมต่อกับกระบวนการทำงานของเอเจนต์การเขียนโค้ดเพื่อตรวจสอบพรอมต์, การอ่านไฟล์, คำสั่งเชลล์และการเรียกใช้เครื่องมือ MCP ก่อนและหลังการทำงาน กิจกรรมแต่ละอย่างสามารถส่งต่อผ่านระบบนโยบายของบริษัทเพื่อการอนุญาต, ปฏิเสธ หรือการตรวจสอบ
ความแตกต่างระหว่างการเฝ้าติดตามก่อนการดำเนินการและหลังการดำเนินการมีความสำคัญ เส้นทางการตรวจสอบสามารถอธิบายสาเหตุของเหตุการณ์ได้ แต่ไม่สามารถป้องกันคำสั่งทำลายหรือหยุดไม่ให้ข้อมูลลับออกจากสภาพแวดล้อมของนักพัฒนา DeepKeep กำหนดตำแหน่ง AI Lens ให้เป็นทั้งการควบคุมเชิงป้องกันและแหล่งหลักฐานสำหรับการตอบสนองต่อเหตุการณ์และการปฏิบัติตามข้อกำหนด
ผลิตภัณฑ์นี้สามารถระบุข้อมูลรับรอง, โทเค็นการเข้าถึงและรหัสผ่านที่รวมอยู่ในพรอมต์หรือไฟล์แนบได้ นอกจากนี้ยังตรวจสอบโค้ดที่สร้างโดยเอเจนต์เพื่อค้นหารูปแบบที่ไม่ปลอดภัย เช่น ฟังก์ชันที่ละเลยการยืนยันตัวตน คำสั่งที่ถูกประเมินว่าเป็นการทำลายสามารถถูกกักไว้เพื่อขอการอนุมัติจากมนุษย์ ในขณะที่ผู้ดูแลระบบสามารถสร้างกฎวลีสำคัญแบบกำหนดเองเพื่อระบุการอ้างอิงถึงรีโพซิทอรีที่สำคัญ, ส่วนของโค้ดหรือโครงการภายใน
DeepKeep ระบุว่าทุกเซสชันจะสร้างบันทึกการตรวจสอบโดยละเอียดซึ่งอาจรวมถึงรหัสอุปกรณ์, เนื้อหาพรอมต์และรหัสผู้ใช้ สิ่งนี้ให้ทีมความปลอดภัยมีวิธีการสืบค้นกิจกรรมของเอเจนต์แม้ว่านักพัฒนาจะปรับเปลี่ยนคำขอที่ถูกบล็อกและลองใหม่อีกครั้ง
นโยบายศูนย์กลางสำหรับ AI สำหรับนักพัฒนา
ผู้ดูแลระบบจัดการกฎผ่าน Policy Hub ของ DeepKeep นโยบายสามารถนำไปใช้ตามบทบาทหรือทั่วทั้งองค์กรและสามารถครอบคลุมหมวดหมู่ต่าง ๆ รวมถึงข้อมูลส่วนบุคคลที่ระบุตัวตนได้, ข้อมูลรับรองและคำสั่งทำลาย วิธีการนี้มุ่งหมายให้บริษัทตั้งค่าท่าทีความปลอดภัยที่สอดคล้องกันในขณะที่ให้ทีมวิศวกรรมยังคงใช้กระบวนการพัฒนาที่ใช้เอเจนต์ต่อไป
การมุ่งเน้นของผลิตภัณฑ์ที่มีต่อ MCP นั้นตรงเวลาเป็นพิเศษ โปรโตคอลนี้ให้แอปพลิเคชัน AI วิธีมาตรฐานในการเชื่อมต่อกับเครื่องมือและข้อมูลขององค์กร แต่เซิร์ฟเวอร์และการเรียกใช้แต่ละอย่างสามารถขยายพื้นที่โจมตีที่เอเจนต์สามารถเข้าถึงได้ Unite.AI’s คู่มือเกี่ยวกับ Model Context Protocol ระบุว่าโฮสต์และเซิร์ฟเวอร์ของ MCP สร้างขอบเขตความปลอดภัยที่แตกต่างกัน รวมถึงการเปิดเผยต่อการฉีดพรอมต์และผลลัพธ์จากเครื่องมือที่ไม่เชื่อถือได้ ดังนั้นการเฝ้าติดตามโมเดลเพียงอย่างเดียวจึงไม่เพียงพอเมื่อโมเดลสามารถดำเนินการผ่านระบบอื่น ๆ
Ofer Rotberg รองประธานผลิตภัณฑ์ของ DeepKeep ให้เหตุผลว่าเอเจนต์การเขียนโค้ดสืบทอดการเข้าถึงของนักพัฒนาที่มีอำนาจอย่างมากในขณะที่ทำงานด้วยความอิสระที่เพิ่มขึ้น จากมุมมองของเขา CISOs จำเป็นต้องมีการมองเห็นอย่างต่อเนื่องต่อพฤติกรรมของเอเจนต์และความสามารถในการหยุดการกระทำที่เป็นอันตรายในเวลาจริง แทนที่จะรอคอยการสืบสวนเหตุการณ์ต่อไป
ส่วนหนึ่งของแพลตฟอร์มความปลอดภัย AI ที่กว้างขวางกว่า
AI Lens for Developers อยู่ในแพลตฟอร์มความปลอดภัย AI ที่กว้างขวางของ DeepKeep บริษัทยังมี AI Firewall, การทำ Red Teaming AI แบบอัตโนมัติและที่มีมนุษย์แนะนำ, การควบคุมการใช้ AI, การสแกนเอเจนต์และการสแกนโมเดล DeepKeep ระบุว่าการควบคุมของบริษัทสามารถนำไปใช้ได้ตลอดวงจรชีวิตของ AI ตั้งแต่การพัฒนาและทดสอบจนถึงการใช้งานในสภาพการผลิตของแอปพลิเคชันและเอเจนต์
บริษัทก่อตั้งในปี 2021 และอธิบายแพลตฟอร์มของตนว่าเป็นแบบไม่จำกัดโมเดล โดยรองรับการปรับใช้ในสภาพแวดล้อม SaaS, private-cloud, on-premises และ air-gapped ข้อเสนอที่กว้างขึ้นของบริษัทคือองค์กรต้องการภาษานโยบายร่วมสำหรับโมเดล, แอปพลิเคชัน, พนักงานและเอเจนต์อิสระ แทนการมีการควบคุมแยกต่างหากสำหรับแต่ละเครื่องมือ AI
สำหรับ CISOs เอเจนต์สำหรับนักพัฒนาเป็นการทดสอบที่เร่งด่วนของแนวคิดนั้น ความปลอดภัยของแอปพลิเคชันแบบดั้งเดิมมุ่งเน้นหนักที่โค้ดที่เข้าสู่การผลิต เอเจนต์การเขียนโค้ดเพิ่มชั้นความเสี่ยงอีกหนึ่งชั้น: กระบวนการที่อ่านรีโพซิทอรี, สร้างโค้ดและรันคำสั่งอาจทำงานโดยอัตโนมัติ ผลิตภัณฑ์เช่น AI Lens พยายามทำให้กระบวนการนั้นสามารถสังเกตและบังคับใช้ได้โดยไม่ลบล้างความเร็วที่ทำให้นักพัฒนานำเอเจนต์มาใช้ตั้งแต่แรก












