ความร่วมมือ

Onyx Security และ Glean จับมือกันเพื่อรักษาความปลอดภัยให้เอเจนต์ AI ระดับองค์กร

Miles Okada
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
Conceptual illustration of enterprise knowledge flowing through runtime security controls
ประเด็นสำคัญOnyx และ Glean รวมการค้นพบและการบังคับใช้ในขณะทำงานเข้าด้วยกัน…
ดูเพิ่มเติม
  • Onyx และ Glean รวมการค้นพบและการบังคับใช้ในขณะทำงานเข้าด้วยกัน เพื่อให้เอเจนต์ได้รับการกำกับดูแลเกินกว่าสิทธิ์การเข้าถึงข้อมูลแบบง่าย
  • ฮุกของ Glean มอบจุดตรวจให้ Onyx เพื่อประเมินพรอมต์และการดำเนินการเครื่องมือที่เสนอก่อนที่การกระทำจะไปถึงระบบธุรกิจ
  • การกำกับดูแลเอเจนต์ต้องดำเนินอย่างต่อเนื่อง เพราะตัวเชื่อมต่อและความสามารถใหม่สามารถเปลี่ยนโปรไฟล์ความเสี่ยงของเอเจนต์ได้หลังการอนุมัติ

Onyx Security และ Glean ประกาศความร่วมมือเพื่อช่วยองค์กรรักษาความปลอดภัยและกำกับดูแลเอเจนต์ AI ขณะที่เอเจนต์เหล่านี้เข้าถึงข้อมูลบริษัทและเครื่องมือทางธุรกิจได้มากขึ้น การผสานระบบเชื่อมแพลตฟอร์ม AI สำหรับองค์กรของ Glean เข้ากับระนาบควบคุม AI ที่ปลอดภัยของ Onyx ทำให้สามารถค้นหาเอเจนต์ ประเมินความเสี่ยง บังคับใช้นโยบาย และปกป้องระบบขณะทำงานภายใต้แนวทางกำกับดูแลร่วมกัน

ความร่วมมือนี้มุ่งแก้ปัญหาเชิงปฏิบัติที่เกิดขึ้นกับ AI ในองค์กร กล่าวคือ เอเจนต์อาจได้รับอนุญาตให้ดึงข้อมูล แต่ยังต้องมีการควบคุมเพิ่มเติมเกี่ยวกับการนำข้อมูลนั้นไปใช้ เวิร์กโฟลว์ที่เริ่มจากการรวบรวมบริบทอาจดำเนินต่อไปจนถึงการส่งข้อความ การปรับปรุงระเบียน หรือการเรียกใช้เครื่องมืออื่น ทำให้การกำกับดูแลการดำเนินการที่เสนอมีความสำคัญยิ่งขึ้น

“เมื่อเอเจนต์ AI รับหน้าที่ที่ซับซ้อนมากขึ้นทั่วทั้งองค์กร พวกเขาจำเป็นต้องเข้าถึงบริบทที่เหมาะสม พร้อมมาตรการควบคุมที่เหมาะสม” Zubin Irani รองประธานฝ่ายพันธมิตรของ Glean กล่าว

เชื่อมโยงบริบทขององค์กรเข้ากับมาตรการควบคุมความปลอดภัย

Glean ให้บริการแพลตฟอร์มสำหรับสร้าง ติดตั้งใช้งาน และดูแลเอเจนต์ระดับองค์กร ชั้นบริบทสำหรับองค์กร ของบริษัทเชื่อมต่อแอปพลิเคชันทางธุรกิจและทำดัชนีข้อมูลของบริษัท ขณะที่ Enterprise Graph แสดงความสัมพันธ์ระหว่างบุคลากร เนื้อหา และกิจกรรม Glean ระบุว่าระบบเชื่อมต่อของบริษัทครอบคลุมแอปพลิเคชันและแหล่งข้อมูลมากกว่า 275 รายการ ซึ่งรวมถึงเอกสาร ทิกเก็ต แชต และโค้ด

บริบทดังกล่าวช่วยให้เอเจนต์เชื่อมโยงข้อมูลที่กระจายอยู่ในระบบธุรกิจต่าง ๆ ได้ เช่น บัญชีลูกค้า ประวัติการรับบริการสนับสนุนของบัญชีนั้น และบุคลากรที่รับผิดชอบความสัมพันธ์กับลูกค้า การดึงข้อมูลโดยคำนึงถึงสิทธิ์จะกำหนดว่าผู้ใช้เข้าถึงข้อมูลใดได้บ้างขณะที่เอเจนต์ทำงาน

Glean ยังมีพื้นฐานด้านความปลอดภัยของตนเองด้วย Glean Protect อธิบายมาตรการควบคุมที่ครอบคลุมการระบุตัวตนของผู้ใช้และเอเจนต์ สิทธิ์ในระบบต้นทาง เนื้อหาที่ละเอียดอ่อน ภัยคุกคามขณะทำงาน และการทำให้การดำเนินการสอดคล้องกับเป้าหมาย ตลอดจนเหตุการณ์การตรวจสอบที่ส่งต่อไปยังระบบเฝ้าระวังความปลอดภัยได้ การผสานระบบกับ Onyx เพิ่มชั้นการกำกับดูแลและการจัดการความเสี่ยงแยกต่างหากในระดับองค์กรให้กับเอเจนต์ของ Glean และสภาพแวดล้อม AI อื่น ๆ ที่รองรับ

การผสานระบบทำงานอย่างไร

ตามคำอธิบายทางเทคนิคเกี่ยวกับความร่วมมือของ Onyx การค้นหาเอเจนต์ใช้ API ของ Glean เพื่ออ่านรายการเอเจนต์และสถานะด้านความปลอดภัย วิธีนี้ช่วยให้ทีมรักษาความปลอดภัยตรวจสอบเอเจนต์และสิทธิ์การเข้าถึงได้ โดยไม่ถือว่าการเชื่อมต่อเพื่อค้นหาเอเจนต์เป็นกลไกสำหรับสั่งให้เอเจนต์ดำเนินการ

การบังคับใช้มาตรการขณะทำงานใช้เส้นทางอีกแบบหนึ่ง โดยฮุกของ Glean จะจัดให้มีจุดตรวจสอบที่รองรับ ซึ่ง Onyx สามารถใช้ประเมินเนื้อหาการสนทนาและคำสั่งเรียกใช้เครื่องมือที่เสนอ เทียบกับนโยบายขององค์กรได้ มาตรการควบคุมจะประเมินพรอมต์ คำตอบ และการดำเนินการของเอเจนต์ โดยมีเป้าหมายเพื่อบล็อกคำขอที่ไม่ปลอดภัยและปรับพฤติกรรมที่ไม่เป็นไปตามเจตนาให้กลับมาดำเนินงานตามที่ได้รับอนุญาต

ตัวอย่างเช่น การเข้าถึงข้อมูลบัญชีภายในองค์กรอาจเหมาะสมสำหรับเตรียมการประชุมกับลูกค้า แต่การส่งข้อมูลราคาที่เป็นความลับออกไปนอกบริษัทอาจละเมิดนโยบาย จุดตรวจสอบการดำเนินการเปิดโอกาสให้มาตรการควบคุมด้านความปลอดภัยประเมินการเปิดเผยข้อมูลที่เสนอ ก่อนที่เครื่องมือจะดำเนินการดังกล่าว

การแยกความแตกต่างระหว่างการดึงข้อมูลกับการอนุญาตให้นำข้อมูลไปใช้เป็นหัวใจสำคัญของความร่วมมือนี้ และยังเชื่อมโยงกับความท้าทายในวงกว้างเรื่องการปกป้องเอเจนต์จากคำสั่งที่ฝังอยู่ในเนื้อหาภายนอก ซึ่งเอกสารหรือคำตอบจากเครื่องมืออาจพยายามเปลี่ยนทิศทางของเวิร์กโฟลว์ที่เดิมชอบด้วยวัตถุประสงค์

กำกับดูแลเอเจนต์อย่างต่อเนื่องเมื่อมีการเปลี่ยนแปลง

การผสานระบบนี้มีเป้าหมายเพื่อให้การกำกับดูแลเอเจนต์เป็นกระบวนการต่อเนื่อง ทีมรักษาความปลอดภัยสามารถค้นหาเอเจนต์ของ Glean ทำความเข้าใจสิทธิ์การเข้าถึงและความสามารถ ระบุผู้รับผิดชอบและวัตถุประสงค์ทางธุรกิจ ตลอดจนกำหนดระดับความเสี่ยงได้ จากนั้นจึงนำข้อมูลเหล่านี้ไปใช้ประกอบนโยบายการกำกับดูแล AI และการปฏิบัติตามข้อกำหนดขององค์กร

การประเมินอย่างต่อเนื่องครอบคลุมการเปลี่ยนแปลงด้านสิทธิ์ เครื่องมือ และการเข้าถึงข้อมูล เรื่องนี้สำคัญเพราะเอเจนต์ที่ได้รับอนุมัติให้ทำเวิร์กโฟลว์หนึ่งอาจได้รับตัวเชื่อมหรือความสามารถใหม่ในภายหลัง ซึ่งทำให้ระดับความเสี่ยงเปลี่ยนไป แม้ชื่อและผู้รับผิดชอบจะยังเหมือนเดิมก็ตาม หลักฐานการตรวจสอบที่รวบรวมไว้จากส่วนกลางจะเป็นบันทึกที่ทีมใช้สืบสวนกิจกรรมและทบทวนวิธีบังคับใช้นโยบายได้

“เมื่อเอเจนต์เข้าถึงข้อมูลและทำงานได้โดยอิสระมากขึ้น ทีมรักษาความปลอดภัยจำเป็นต้องมองเห็นและควบคุมสิ่งที่เอเจนต์ทำได้” Gil Elbaz ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ด้าน AI ของ Onyx Security กล่าว “การผสานบริบทระดับองค์กรของ Glean เข้ากับระนาบควบคุมความปลอดภัยของ Onyx ช่วยให้ลูกค้ากำกับดูแลกิจกรรมของเอเจนต์ได้อย่างสม่ำเสมอและมั่นใจทั่วทั้งสภาพแวดล้อม AI ของตน”

ระนาบควบคุมที่ครอบคลุมยิ่งขึ้นสำหรับ AI ในองค์กร

Onyx วางตำแหน่งระนาบควบคุม AI ที่ปลอดภัยของบริษัทให้ครอบคลุมแอปพลิเคชัน SaaS บริการคลาวด์ อุปกรณ์ปลายทาง และโค้ดที่พัฒนาขึ้นเอง แพลตฟอร์มของบริษัทผสานการตรวจสอบสถานะของเอเจนต์ การจัดการสถานะความปลอดภัย การกำกับดูแล และมาตรการป้องกันขณะทำงานไว้ด้วยกัน บริษัทระบุว่ามีฟังก์ชันเล่นซ้ำเซสชันและบันทึกการตรวจสอบสำหรับการสืบสวน การควบคุมนโยบายด้วยภาษาธรรมชาติ และการผสานระบบกับระบบจัดการข้อมูลและเหตุการณ์ด้านความปลอดภัย รวมถึงระบบจัดการความปลอดภัยและการประสานงาน

Onyx ยังมีความสามารถด้านเกตเวย์สำหรับการรับส่งข้อมูล AI และ Model Context Protocol ควบคู่กับ Guardian Agent ซึ่งทำหน้าที่กำกับดูแล โดยออกแบบมาเพื่อระบุความเสี่ยงและแก้ไขปัญหาทั่วทั้งแพลตฟอร์ม ความสามารถในวงกว้างเหล่านี้ช่วยอธิบายบทบาทของบริษัทในความร่วมมือครั้งนี้ นั่นคือการนำกิจกรรมบน Glean เข้าสู่กรอบการควบคุมที่ทีมรักษาความปลอดภัยสามารถใช้กับระบบ AI หลายระบบได้

การผสานการทำงานนี้มีรายชื่ออยู่ในแค็ตตาล็อกตัวเชื่อมต่อของ Glean ในสถานะเบต้า ขอบเขตที่ระบุไว้ครอบคลุมการจัดทำบัญชีรายการเอเจนต์ การจัดการสถานะความปลอดภัย การมองเห็นการทำงานขณะรันไทม์ และการควบคุมพรอมป์ต คำตอบของโมเดล และการเรียกใช้เครื่องมือ การบังคับใช้นโยบายขณะรันไทม์ขึ้นอยู่กับจุดตรวจสอบที่รองรับ ดังนั้นการประเมินความครอบคลุมของเวิร์กโฟลว์แต่ละรายการจึงเป็นส่วนสำคัญของการวางแผนติดตั้งใช้งาน

สำหรับองค์กรที่ขยายการใช้งานเอเจนต์ไปยังแผนกต่าง ๆ ความร่วมมือนี้เป็นแนวทางหนึ่งในการเชื่อมโยงบริบททางธุรกิจที่เป็นประโยชน์เข้ากับการดำเนินงานที่ตรวจสอบความรับผิดชอบได้ คุณค่าในการใช้งานจริงจะขึ้นอยู่กับการปรับปรุงบัญชีรายการเอเจนต์ให้เป็นปัจจุบันอยู่เสมอ การนำการตัดสินใจเรื่องผู้รับผิดชอบและความเสี่ยงไปใช้ในนโยบายขณะรันไทม์ และการบังคับใช้นโยบายเหล่านั้น ณ จุดที่เอเจนต์อาจส่งผลกระทบต่อระบบธุรกิจ

Miles Okada เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, ครอบคลุมปัญญาประดิษฐ์และความปลอดภัยไซเบอร์โดยมุ่งเน้นที่ภัยคุกคามใหม่ ๆ สถาปัตยกรรมการป้องกัน และพลวัตที่เปลี่ยนแปลงระหว่างผู้โจมตีและระบบอัตโนมัติ งานของเขาตรวจสอบว่า AI กำลังเปลี่ยนแปลงการดำเนินงานด้านความปลอดภัยอย่างไร ตั้งแต่การตรวจจับและตอบสนองต่อภัยคุกคามโดยอัตโนมัติจนถึงการเพิ่มขึ้นของเทคนิค AI ปฏิปักษ์

ด้วยมุมมองเชิงเทคนิคและการสืบสวน Miles วิเคราะห์งานวิจัยด้านความปลอดภัย การเปิดเผยเหตุการณ์ และการใช้งานจริงเพื่อเข้าใจว่าที่ไหน AI เสริมสร้างการป้องกัน—และที่ไหนมันสร้างช่องโหว่ใหม่ เขาให้ความสนใจเป็นพิเศษต่อการใช้โมเดลในทางที่ผิด การปนเปื้อนข้อมูล การทำงานอัตโนมัติของการโจมตี และความเป็นจริงในการดำเนินงานของการรักษาความปลอดภัยระบบที่ขับเคลื่อนด้วย AI ในระดับใหญ่

บทความที่เขียนโดย Miles Okada ถูกสร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อให้แน่ใจว่ามีความแม่นยำ ความเข้มงวด และการครอบคลุมอย่างรับผิดชอบต่อภูมิทัศน์ความปลอดภัย AI ที่เปลี่ยนแปลงอย่างรวดเร็ว