DeepKeep เพิ่มแนวป้องกันการทำงานแบบเรียลไทม์สำหรับเอเจนต์การเขียนโค้ด AI ด้วย AI Lens for Developers

DeepKeep ได้เปิดตัว AI Lens for Developers ซึ่งเป็นชั้นความปลอดภัยที่ออกแบบมาเพื่อให้ CISOs มีการมองเห็นและควบคุมนโยบายต่อเอเจนต์การเขียนโค้ด AI ที่ทำงานบนเครื่องของนักพัฒนา ผลิตภัณฑ์นี้ขยายความสามารถในการควบคุมการใช้ AI และการป้องกันระหว่างการทำงานที่มีอยู่ของ DeepKeep ไปยังเครื่องมือเช่น Cursor และ Claude Code พร้อมการสนับสนุนสำหรับ GitHub Copilot, OpenAI Codex, Lovable, Windsurf และมีการวางแผนเพิ่มเอเจนต์การเขียนโค้ดอื่น ๆ

การเปิดตัวนี้ตอบสนองต่อปัญหาความปลอดภัยที่เกิดจากการเพิ่มความอิสระของเครื่องมือสำหรับนักพัฒนา เอเจนต์การเขียนโค้ดสมัยใหม่สามารถตรวจสอบและแก้ไขไฟล์ในเครื่อง, เรียกใช้คำสั่งเชลล์และเรียกใช้บริการภายนอกผ่าน Model Context Protocol (MCP) สิทธิ์เหล่านี้ทำให้เครื่องมือมีประโยชน์ แต่ก็ทำให้เอเจนต์สามารถเปิดเผยข้อมูลรับรอง, เปลี่ยนโค้ดที่สำคัญ หรือโต้ตอบกับระบบที่อยู่นอกขอบเขตการควบคุมที่ทีมความปลอดภัยโดยทั่วไปใช้กับแอปพลิเคชันคลาวด์

ผลลัพธ์คือช่องว่างในการมองเห็นที่ขยายออกไป บริษัทอาจอนุมัติผู้ช่วยการเขียนโค้ดเป็นผลิตภัณฑ์ในขณะที่มีหลักฐานน้อยเกี่ยวกับสิ่งที่เอเจนต์แต่ละตัวทำในช่วงเวลาหนึ่ง ตามที่ Unite.AI ได้สำรวจเมื่อเร็ว ๆ นี้ ทีมความปลอดภัยต้องการติดตามการเรียกใช้เครื่องมือของเอเจนต์, การดำเนินการคำสั่งและเหตุการณ์ที่เปลี่ยนแปลงระบบมากขึ้น ไม่ใช่เพียงแค่รักษารายการบริการ AI ที่ได้รับการอนุมัติ

การตรวจสอบการกระทำของเอเจนต์ก่อนและหลังการดำเนินการ

AI Lens for Developers ถูกสร้างเป็นปลั๊กอินแบบเบาแทนการเป็นเอเจนต์ปลายทางเต็มรูปแบบ DeepKeep กล่าวว่า มันเชื่อมต่อกับกระบวนการทำงานของเอเจนต์การเขียนโค้ดเพื่อตรวจสอบพรอมต์, การอ่านไฟล์, คำสั่งเชลล์และการเรียกใช้เครื่องมือ MCP ก่อนและหลังการทำงาน กิจกรรมแต่ละอย่างสามารถส่งต่อผ่านระบบนโยบายของบริษัทเพื่อการอนุญาต, ปฏิเสธ หรือการตรวจสอบ

ความแตกต่างระหว่างการเฝ้าติดตามก่อนการดำเนินการและหลังการดำเนินการมีความสำคัญ เส้นทางการตรวจสอบสามารถอธิบายสาเหตุของเหตุการณ์ได้ แต่ไม่สามารถป้องกันคำสั่งทำลายหรือหยุดไม่ให้ข้อมูลลับออกจากสภาพแวดล้อมของนักพัฒนา DeepKeep กำหนดตำแหน่ง AI Lens ให้เป็นทั้งการควบคุมเชิงป้องกันและแหล่งหลักฐานสำหรับการตอบสนองต่อเหตุการณ์และการปฏิบัติตามข้อกำหนด

ผลิตภัณฑ์นี้สามารถระบุข้อมูลรับรอง, โทเค็นการเข้าถึงและรหัสผ่านที่รวมอยู่ในพรอมต์หรือไฟล์แนบได้ นอกจากนี้ยังตรวจสอบโค้ดที่สร้างโดยเอเจนต์เพื่อค้นหารูปแบบที่ไม่ปลอดภัย เช่น ฟังก์ชันที่ละเลยการตรวจสอบสิทธิ์ คำสั่งที่ถูกประเมินว่าเป็นการทำลายสามารถถูกกักไว้เพื่อขอการอนุมัติจากมนุษย์ ในขณะที่ผู้ดูแลระบบสามารถสร้างกฎวลีสำคัญแบบกำหนดเองเพื่อระบุการอ้างอิงถึงรีโพซิทอรีที่สำคัญ, ส่วนของโค้ดหรือโครงการภายใน

DeepKeep ระบุว่าทุกเซสชันจะสร้างบันทึกการตรวจสอบโดยละเอียดซึ่งอาจรวมถึงรหัสอุปกรณ์, เนื้อหาพรอมต์และรหัสผู้ใช้ สิ่งนี้ให้ทีมความปลอดภัยมีวิธีการสืบค้นกิจกรรมของเอเจนต์แม้ว่านักพัฒนาจะปรับเปลี่ยนคำขอที่ถูกบล็อกและลองใหม่อีกครั้ง

นโยบายศูนย์กลางสำหรับ AI ที่มุ่งหน้าไปยังนักพัฒนา

ผู้ดูแลระบบจัดการกฎผ่าน Policy Hub ของ DeepKeep นโยบายสามารถนำไปใช้ตามบทบาทหรือทั่วทั้งองค์กรและสามารถครอบคลุมหมวดหมู่ต่าง ๆ รวมถึงข้อมูลส่วนบุคคลที่ระบุตัวตนได้, ข้อมูลรับรองและคำสั่งทำลาย วิธีการนี้มุ่งหมายให้บริษัทตั้งค่าท่าทีความปลอดภัยที่สอดคล้องกันในขณะที่ให้ทีมวิศวกรรมยังคงใช้กระบวนการพัฒนาที่ใช้เอเจนต์ต่อไป

การมุ่งเน้นของผลิตภัณฑ์ที่มีต่อ MCP นั้นตรงเวลาเป็นพิเศษ โปรโตคอลนี้ให้แอปพลิเคชัน AI วิธีมาตรฐานในการเชื่อมต่อกับเครื่องมือและข้อมูลขององค์กร แต่เซิร์ฟเวอร์และการเรียกใช้แต่ละอย่างสามารถขยายพื้นที่โจมตีที่เอเจนต์สามารถเข้าถึงได้ Unite.AI’s คู่มือเกี่ยวกับ Model Context Protocol ระบุว่าโฮสต์และเซิร์ฟเวอร์ของ MCP สร้างขอบเขตความปลอดภัยที่แตกต่างกัน รวมถึงการเปิดเผยต่อการฉีดพรอมต์และผลลัพธ์จากเครื่องมือที่ไม่เชื่อถือได้ ดังนั้นการเฝ้าติดตามโมเดลเพียงอย่างเดียวจึงไม่เพียงพอเมื่อโมเดลสามารถดำเนินการผ่านระบบอื่น ๆ

Ofer Rotberg รองประธานผลิตภัณฑ์ของ DeepKeep ให้เหตุผลว่าเอเจนต์การเขียนโค้ดสืบทอดการเข้าถึงของนักพัฒนาที่มีอำนาจอย่างมากในขณะที่ทำงานด้วยความอิสระที่เพิ่มขึ้น จากมุมมองของเขา CISOs จำเป็นต้องมีการมองเห็นอย่างต่อเนื่องต่อพฤติกรรมของเอเจนต์และความสามารถในการหยุดการกระทำที่เป็นอันตรายในเวลาจริง แทนที่จะรอคอยการสืบสวนเหตุการณ์ต่อไป

ส่วนหนึ่งของแพลตฟอร์มความปลอดภัย AI ที่กว้างขวางกว่า

AI Lens for Developers อยู่ในแพลตฟอร์มความปลอดภัย AI ที่กว้างขวางของ DeepKeep บริษัทยังมี AI Firewall, การทำ Red Teaming AI แบบอัตโนมัติและที่มีมนุษย์แนะนำ, การควบคุมการใช้ AI, การสแกนเอเจนต์และการสแกนโมเดล DeepKeep ระบุว่าการควบคุมของบริษัทสามารถนำไปใช้ได้ตลอดวงจรชีวิตของ AI ตั้งแต่การพัฒนาและทดสอบจนถึงการใช้งานในสภาพการผลิตของแอปพลิเคชันและเอเจนต์

บริษัทก่อตั้งในปี 2021 และอธิบายแพลตฟอร์มของตนว่าเป็นแบบไม่จำกัดโมเดล โดยรองรับการปรับใช้ในสภาพแวดล้อม SaaS, private-cloud, on-premises และ air-gapped ข้อเสนอที่กว้างขึ้นของบริษัทคือองค์กรต้องการภาษานโยบายร่วมสำหรับโมเดล, แอปพลิเคชัน, พนักงานและเอเจนต์อิสระ แทนการมีการควบคุมแยกต่างหากสำหรับแต่ละเครื่องมือ AI

สำหรับ CISOs เอเจนต์ที่มุ่งหน้าไปยังนักพัฒนาเป็นการทดสอบที่เร่งด่วนของแนวคิดนั้น ความปลอดภัยของแอปพลิเคชันแบบดั้งเดิมมุ่งเน้นหนักที่โค้ดที่เข้าสู่การผลิต เอเจนต์การเขียนโค้ดเพิ่มชั้นความเสี่ยงอีกหนึ่งชั้น: กระบวนการที่อ่านรีโพซิทอรี, สร้างโค้ดและรันคำสั่งอาจทำงานโดยอัตโนมัติ ผลิตภัณฑ์เช่น AI Lens พยายามทำให้กระบวนการนั้นสามารถสังเกตและบังคับใช้ได้โดยไม่ลบล้างความเร็วที่ทำให้นักพัฒนานำเอเจนต์มาใช้ตั้งแต่แรก